El Congresista
Tecnología

¿En quién confiamos al usar inteligencia artificial?: el reto actual

La inteligencia artificial genera dudas sobre la confianza en su uso; el 40% de empresas ya la aplica en funciones clave.

Por Axel Juárez1 min de lectura
La creciente dependencia de la inteligencia artificial resalta la necesidad de entender sus riesgos y fundamentos.
La creciente dependencia de la inteligencia artificial resalta la necesidad de entender sus riesgos y fundamentos.
Compartir
Compartir esta nota

A inicios de noviembre, unos 600,000 procesadores H200 de NVIDIA estaban almacenados en Hong Kong ante la falta de autorización de Pekín para su importación. Mientras tanto, en el Congreso de Estados Unidos se fortalecen las propuestas para aumentar el control sobre la exportación de chips avanzados a China.

Esta situación refleja un desafío contemporáneo que va más allá de las fronteras nacionales y plantea preguntas fundamentales sobre la confianza en la inteligencia artificial. Al depender cada vez más de sistemas automatizados, nos enfrentamos a una cadena tecnológica compleja que pocos comprenden completamente.

Un estudio de McKinsey revela que el 40% de las empresas con ingresos superiores a mil millones de dólares ya implementa agentes de inteligencia artificial en al menos una función, un incremento significativo del 27% respecto al año anterior. Este aumento destaca la transformación en la forma en que operan las organizaciones contemporáneas.

El paradigma de confianza también está cambiando. Antes, el software realizaba operaciones basadas en instrucciones claras y programadas. Ahora, la inteligencia artificial ofrece respuestas generadas de manera autónoma, lo que plantea riesgos mayores. Un agente con acceso a un sistema de gestión de relaciones con clientes (CRM) puede modificar información crítica, y con autorización financiera puede iniciar pagos, lo que amplía las posibles consecuencias de un error.

Se pone en riesgo la capacidad de supervisar las acciones de estos programas. No solo se trata de que la IA entregue información incorrecta, sino de la posibilidad de que cometa errores operacionales que puedan tener un impacto significativo en las organizaciones.

En este contexto, es vital que las empresas y sus líderes consideren cómo asegurar y supervisar el uso de la inteligencia artificial en sus operaciones.

Con información de expansion.mx

Nota redactada con asistencia de inteligencia artificial a partir de fuentes citadas. Responsabilidad editorial: Redacción de El Congresista. ¿Detectaste un error? Repórtalo.

¿Te gustó esta nota?
Compartir esta nota
Boletín semanal

Las noticias del Congreso, directo a tu correo

Resumen editorial cada domingo con lo más relevante de política, congreso y utilidad. Sin spam, cancela cuando quieras.

Al suscribirte aceptas nuestro aviso de privacidad.