Sin darnos cuenta, la Inteligencia Artificial (IA) ya está por doquier. Nos topamos con ella en muchos artefactos que buscan facilitarnos la vida como aquellos integrados en nuestros smartphones, en los asistentes virtuales, en el reconocimiento facial o de voz, en la visión por computadora, o bien, en la automatización de los sistemas de gestión que tengamos en nuestros hogares como los de luz o de alarma.

Asimismo, está presente en diversos servicios al cliente, ayuda a localizar direcciones, hace pronósticos del clima, proporciona una educación interactiva y personalizada, y, de forma más avanzada, la vemos en robots, drones o vehículos autónomos.

Esta tecnología, como la define la OCDE, se refiere a “máquinas que pueden hacer predicciones, recomendaciones o tomar decisiones que influyan en entornos, reales o virtuales, para cumplir con objetivos definidos por los humanos”, lo que significa que no actúa por sí sola, sino que se comporta conforme a las instrucciones que nosotros le demos.

Así, la humanidad ha decidido aprovecharla para distintas aplicaciones, la mayoría positivas, pero otras tantas negativas. Algunos ejemplos de un mal empleo es su uso para fines bélicos, o para cometer actos ilícitos o malintencionados, como el “deepfake porn” que consiste en poner a la venta fotografías de desnudos, cuyas imágenes fueron alteradas para que quienes aparezcan en ellas se vean de esa manera.

Otro caso que ha mostrado imprecisiones en su ejecución es el programa español Biogen, implementado, desde 2007, para combatir la violencia doméstica, el cual ha calificado, erróneamente, en varias ocasiones, el nivel de riesgo que representa un abusador para su víctima, como si fuera menos grave del que debería corresponder.

También se han encontrado fallas en los controles de seguridad del aeropuerto estadounidense de Detroit, que sólo distingue entre figuras femeninas y masculinas, excluyendo a quienes no se identifican con ninguna de estas dos.

Los estereotipos y prejuicios que provocan distintas formas de discriminación, que buscamos erradicar en el mundo real, desafortunadamente, se replican en esta herramienta, a través de los sesgos que se manifiestan en su operación, en particular, los de género, ya sea porque los registramos desde su diseño, o bien, porque son resultado de las fuentes que elegimos para entrenar su mecanismo, de tal suerte que, si éstas carecen de una perspectiva incluyente, la posibilidad de que promuevan exclusión es mayor.

La investigadora Hilary Bergen sostenía que “la IA actúa como un verdadero espejo de nuestra sociedad”, pues “mientras seamos imperfectos” ésta también lo será. Por ello, en el Día Internacional de los Datos Abiertos, 4 de marzo, ante la expansión de estas innovaciones digitales, que llegaron para quedarse, es fundamental recordar que no tienen conciencia propia, sino que somos las personas quienes las construimos y controlamos.

POR MARINA SAN MARTÍN REBOLLOSO

@NAVYSANMARTIN

Fuente: "Inteligencia Artificial con sesgos de género", El Heraldo de México, 12 de marzo de 2024,disponible en: https://heraldodemexico.com.mx/opinion/2024/3/12/inteligencia-artif...