Californiana y por primera vez en la historia, más de 2 millones de ingenieros de software en Estados Unidos carecen de un marco de responsabilidad profesional, en contraste con solo 200,000 ingenieros civiles. Pete Warden, en su reciente ensayo, sostiene que el software ha provocado más muertes que las mayores tragedias de la ingeniería civil, lo que hace urgente regular su desarrollo. La promesa de la inteligencia artificial podría multiplicar este riesgo, haciendo que la discusión sobre la regulación no sea filosófica, sino necesaria para el futuro de la industria.
Warden recuerda el caso de la represa St. Francis, cuya falla en 1928 resultó en aproximadamente 400 muertes y llevó a la creación de licencias obligatorias para ingenieros civiles en California. En la actualidad, el panorama del software es alarmante. La guerra en Ucrania ha demostrando que drones autónomos toman decisiones vitales basadas en ese software, mientras que la inteligencia artificial se está integrando en áreas críticas como la salud y el transporte.
En su ensayo, Warden destaca seis barreras que impiden una regulación efectiva en la ingeniería de software. Entre ellas, señala la baja barrera de entrada al aprendizaje de programación, la falta de una jurisdicción física clara y un proceso iterativo en el desarrollo de software que complica la regulación. Asimismo, menciona la difusa responsabilidad en proyectos colaborativos y una cultura que fomenta el avance rápido a pesar de los riesgos.
Entre sus propuestas, Warden sugiere implementar ética en los programas académicos de ciencias de la computación, establecer una acreditación profesional voluntaria y crear un sistema de reporte anónimo de incidentes. La formación de la Alliance for Principled Tech, una coalición que busca impulsar un marco regulatorio en tecnología, también se menciona como una iniciativa clave en este movimiento.
La falta de regulación podría tener consecuencias significativas para la industria, destacando la necesidad de que las empresas asuman un rol proactivo en la construcción de estándares éticos y de seguridad.
Con información de ecosistemastartup.com