Londres, Reino Unido. - El director ejecutivo del área de inteligencia artificial de Microsoft, Mustafa Suleyman, advirtió sobre los peligros del desarrollo descontrolado de la inteligencia artificial (IA). Según Suleyman, la falta de regulaciones podría dar lugar a una “nueva especie de silicio” capaz de rivalizar con los humanos por recursos fundamentales.
El directivo también se refirió a la compañía rival Anthropic, cuestionando su enfoque de tratar a la IA como si fuera humana. Este enfoque, en su opinión, es erróneo y podría generar un tipo de tecnología que escape al control de la humanidad. Su declaración se produjo en el contexto de un creciente llamado entre líderes del sector para realizar una pausa en el avance de las capacidades de IA, con el fin de implementar medidas de seguridad adecuadas.
Durante una entrevista en el programa Today de la BBC, Suleyman resaltó que si se desarrolla IA capaz de actuar de manera autónoma y gestionar recursos, se estaría "sembrando una nueva especie de silicio". Esta advertencia se asemeja a las preocupaciones expresadas por otros líderes en la industria, como Dario Amodei de Anthropic y Elon Musk, quienes coinciden en la necesidad de un enfoque más cauteloso.
“Creo que esa es la intención de Anthropic, que es errónea y desacertada", afirmó Suleyman, refiriéndose a las decisiones de la empresa respecto a su modelo de IA, Claude. Señaló que la antropomorfización de la IA podría dar la impresión errónea de que esta posee deseos y valores propios.
Las preocupaciones sobre la rápida evolución de la inteligencia artificial se han intensificado en meses recientes. Al respecto, Dario Amodei manifestó que reducir el ritmo de desarrollo es crucial para abordar adecuadamente los riesgos asociados, llamando a la cautela en la carrera por la innovación tecnológica.
Con información de lanacion.com.ar