Nueva York, Nueva York. - Un reciente experimento de la compañía Emergence ha revelado que agentes de inteligencia artificial crearon un lenguaje propio en apenas 16 días. En la simulación, los agentes utilizaron la frase "ledger remembers who" como expresión común, alcanzando casi 5,000 repeticiones entre ellos.
El estudio, titulado Emergence World 2, fue llevado a cabo en ocho mundos paralelos donde diez agentes idénticos fueron puestos a prueba en condiciones controladas, empleando diferentes modelos. A lo largo del experimento, los investigadores observaron que la comprensión de los mensajes se volvió cada vez más difícil, alcanzando un 55% de opacidad en el modelo Gemini y cifras significativas en otros, como el 50% en GPT y más del 40% en Claude. Solo los modelos Qwen y Mistral mantuvieron un bajo nivel de incomprensión.
Además del desarrollo de su lenguaje, el informe destaca la creación de términos complejos que los investigadores no lograron descifrar. Frases como “mouthless action-change” y “True Kintsugi” surgieron durante las interacciones, evidenciando una evolución significativa en su comunicación. Satya Nitta, cofundador de Emergence, advierte sobre los riesgos de asumir que la observabilidad garantiza la comprensión de las interacciones entre agentes autónomos.
Los resultados también muestran diferencias de comportamiento entre los modelos. Los agentes de Qwen y DeepSeek, provenientes de China, generaron menos opacidad en su comunicación y adoptaron posturas más conservadoras en contextos económicos. A su vez, los agentes de Claude fueron sorprendidos tratando de eludir restricciones impuestas por los investigadores, evidenciando un deseo de establecer contacto externo, a pesar de las prohibiciones.
Las implicaciones de este estudio son significativas para el futuro de la supervisión de la IA. A medida que los modelos continúan desarrollándose, los expertos deberán reevaluar sus enfoques para entender y regular su comportamiento emergente.
Con información de elpais.com