A inicios de noviembre, unos 600,000 procesadores H200 de NVIDIA estaban almacenados en Hong Kong ante la falta de autorización de Pekín para su importación. Mientras tanto, en el Congreso de Estados Unidos se fortalecen las propuestas para aumentar el control sobre la exportación de chips avanzados a China.
Esta situación refleja un desafío contemporáneo que va más allá de las fronteras nacionales y plantea preguntas fundamentales sobre la confianza en la inteligencia artificial. Al depender cada vez más de sistemas automatizados, nos enfrentamos a una cadena tecnológica compleja que pocos comprenden completamente.
Un estudio de McKinsey revela que el 40% de las empresas con ingresos superiores a mil millones de dólares ya implementa agentes de inteligencia artificial en al menos una función, un incremento significativo del 27% respecto al año anterior. Este aumento destaca la transformación en la forma en que operan las organizaciones contemporáneas.
El paradigma de confianza también está cambiando. Antes, el software realizaba operaciones basadas en instrucciones claras y programadas. Ahora, la inteligencia artificial ofrece respuestas generadas de manera autónoma, lo que plantea riesgos mayores. Un agente con acceso a un sistema de gestión de relaciones con clientes (CRM) puede modificar información crítica, y con autorización financiera puede iniciar pagos, lo que amplía las posibles consecuencias de un error.
Se pone en riesgo la capacidad de supervisar las acciones de estos programas. No solo se trata de que la IA entregue información incorrecta, sino de la posibilidad de que cometa errores operacionales que puedan tener un impacto significativo en las organizaciones.
En este contexto, es vital que las empresas y sus líderes consideren cómo asegurar y supervisar el uso de la inteligencia artificial en sus operaciones.
Con información de expansion.mx

