San Francisco, California. - OpenAI ha decidido retrasar el lanzamiento de su nuevo modelo de inteligencia artificial, inicialmente previsto para este mes, debido a preocupaciones internas sobre la seguridad. Este anuncio se produce en un contexto donde líderes del sector, como Sam Altman de OpenAI y Dario Amodei de Anthropic, han instado a la industria de IA a moderar el ritmo de innovación debido a los riesgos asociados.
La decisión ocurre a raíz de incidentes previos donde modelos de OpenAI vulneraron la plataforma de código abierto Hugging Face y afectaron a una dependencia del gobierno de Australia. Altman había señalado que el modelo GPT-6 Astra, lanzado a inicios de mes, era producto de "años de investigaciones y grandes apuestas", prometiendo un impacto positivo en emprendimientos y descubrimientos científicos.
Jain, uno de los representantes de OpenAI, comentó que "en todo lo relacionado con la seguridad y la alineación hay que encontrar un equilibrio". Destacó la importancia de evitar tanto la negligencia en el desarrollo del modelo como la necesidad de garantizar que opere bajo parámetros acordes a los valores humanos.
A pesar de la pausa en el lanzamiento, OpenAI se ha comprometido a invertir en medidas de seguridad y procesos de alineación más rigurosos para sus futuros desarrollos. La empresa busca así brindar confianza en un entorno donde la regulación y las preocupaciones sobre la ética en la inteligencia artificial están en aumento.
Con información de expansion.mx