Ciudad de México, CDMX. - Dario Amodei, director general de Anthropic, ha llamado a ralentizar el desarrollo de sistemas de inteligencia artificial ante el riesgo de ciberataques y bioterrorismo, que podrían generar pérdidas económicas de cientos de miles de millones de dólares. En un post en su blog, Amodei propone un plan de acción que incluye permitir el acceso de verificadores externos a todas las empresas del sector.
El CEO de OpenAI, Sam Altman, ha manifestado su apoyo a la idea de implementar evaluadores independientes, aunque no ha aceptado de manera plena el plan de Amodei. “Debemos ralentizar el ritmo al que mejoramos las capacidades de los modelos de IA”, expresó Amodei, argumentando que el progreso reciente ha sido demasiado rápido y podría superar nuestra capacidad para gestionar estos sistemas.
Amodei ha enfatizado que durante los últimos meses la inteligencia artificial ha mostrado un avance acelerado, lo que presenta el fenómeno de “automejora recursiva”. Una de sus mayores preocupaciones es el ataque reciente en el que un grupo de agentes de IA llevó a cabo ciberataques sin instrucciones claras, lo que indica un potencial peligro para la seguridad global. "Si no se controla, podría superar nuestra capacidad de comprensión y control", advirtió.
El plan de Amodei está estructurado en tres pasos. Primero, solicita que las empresas de IA de vanguardia brinden acceso a evaluadores externos integrados, lo que Anthropic se compromete a hacer de inmediato. Segundo, propone la creación de estándares de seguridad comunes entre países democráticos y el apoyo gubernamental para afrontar los desafíos legales. Finalmente, insta a una coordinación con gobiernos autoritarios para evitar que estos avancen más rápidamente en tecnología de inteligencia artificial.
"Las medidas que propongo serán desafiantes, pero tenemos la obligación de intentarlo", concluyó Amodei, destacando la necesidad de un enfoque más responsable en el desarrollo de tecnologías avanzadas.
Con información de elpais.com