En un reciente análisis, se destacó cómo los sistemas de inteligencia artificial perpetúan patrones de exclusión racial en América Latina. Este estudio, realizado por un académico afrolatinoamericano, revela que estas herramientas, lejos de ser neutrales, reflejan datos entrenados que sobrerrepresentan identidades blancas y europeas. La investigación se basa en ejemplos prácticos de generación de imágenes, donde al solicitar una pareja enamorada, los sistemas solo ofrecían retratos de parejas blancas, indicando que para obtener imágenes más diversas, se debía ser explícito en las instrucciones.
Al examinar el impacto de las imágenes generadas por inteligencia artificial en la percepción pública, los estudiantes mostraron sesgos que se intensificaban al ser expuestos a representaciones limitadas y estereotipadas. Los resultados evidencian que, al referirse a “profesionales”, las imágenes generadas predominantemente incluían rasgos eurocéntricos, mientras que al introducir identidades racializadas, los resultados se orientaban hacia representaciones negativas y marginalizadas.
Estos patrones no son únicos de Australia; en América Latina, están profundamente arraigados en una historia de colonialismo y jerarquización racial. Aunque las versiones recientes de tecnologías como ChatGPT intentaron mitigar estos sesgos, los cambios han sido insuficientes. Por ejemplo, al pedir la imagen de un médico colombiano, la representación aún mostraba características blancas, sugiriendo que la diversidad en la IA no resuelve las problemáticas estructurales subyacentes.
El estudio plantea cuestionamientos relevantes sobre cómo estas tecnologías afectan la representación de grupos históricamente invisibilizados, como poblaciones indígenas y afrodescendientes, resaltando la urgentísima necesidad de una revisión crítica de los datos que alimentan los sistemas de inteligencia artificial. A medida que estas tecnologías continúan desarrollándose, se hace imprescindible un debate acerca de su ética y de la equidad en la representación de todas las identidades.
Con información de lasillavacia.com