Dario Amodei, reconocido por su trabajo en inteligencia artificial, ha solicitado un enfoque más pausado en el desarrollo de esta tecnología. Durante su trayectoria de más de 12 años, Amodei ha cofundado Anthropic, una empresa estadounidense dedicada a la creación de modelos de IA, destacándose por su asistente Claude. Amodei considera que, aunque la IA tiene el potencial de sanar enfermedades y mejorar las capacidades humanas, también representa riesgos significativos.
El CEO argumentó que el desarrollo acelerado de la IA podría llevar a situaciones peligrosas, como la pérdida de control sobre sistemas automatizados, ciberataques o incluso el bioterrorismo. A su juicio, es esencial no solo competir por velocidad en la creación de estos sistemas, sino hacerlo con un fuerte enfoque en la seguridad. "Debemos avanzar sin dejar atrás la seguridad", enfatizó.
Uno de los principales motivos detrás de su cambio de postura es lo que él llama "mejora recursiva", fenómeno donde cada avance en modelos de IA permite desarrollar nuevos sistemas más complejos. Amodei advirtió que esta dinámica se ha intensificado recientemente, destacando que diversas empresas, incluida Anthropic, están viendo cómo sus capacidades aumentan a un ritmo preocupante.
El mayor desafío radica en que este avance puede sobrepasar la habilidad de las compañías para entender, probar y controlar sus creaciones. Amodei ha observado que, si no se regulan adecuadamente, estas innovaciones pueden llevar a consecuencias extremadamente riesgosas en diferentes ámbitos de la sociedad y la economía.
Con información de expansion.mx