Hace unos días en el Senado mexicano se presentó el Reporte de Evaluación del Estadio de Preparación en Inteligencia Artificial de México, impulsado por la UNESCO en colaboración con la Alianza Nacional de Inteligencia Artificial (ANIA) y la participación del Centro-i.
Este documento proporciona una visión detallada de las fortalezas y debilidades del país en el ámbito de la inteligencia artificial (IA), una herramienta -y una realidad- que hoy está definiendo en gran medida el futuro del país y del mundo.
A continuación presento algunos de los principales resultados:
La inteligencia artificial tiene el potencial de transformar profundamente nuestra sociedad, mejorando la eficiencia y creando nuevas oportunidades. Ello no obsta para que dejemos de observar los riesgos, que son significativos, sobre todo cuando se desarrollan y utilizan sistemas de IA sin considerar los principios éticos y la igualdad de género.
Este problema se agrava por la menor presencia de mujeres en carreras STEM (Ciencia, Tecnología, Ingeniería y Matemáticas). Con solo el 32 % de egresadas mujeres, como se señaló arriba, existe una falta de diversidad en los equipos que desarrollan estas tecnologías. Esto lleva a una falta de perspectiva de género en el diseño y desarrollo de algoritmos, lo que a su vez amplifica los sesgos. Además, la brecha digital en el acceso y uso de la tecnología agrava la situación: las mujeres tienen un acceso limitado a las oportunidades que ofrece la IA debido a barreras en el acceso a internet, la alfabetización digital, las desigualdades laborales, entre otros factores.
Siendo claros, la IA no es intrínsecamente neutral. Si los datos y el diseño de los algoritmos no son inclusivos y no consideran la diversidad y la igualdad de género, la IA puede amplificar los sesgos existentes, perpetuando la discriminación, las desigualdades y la pobreza. Está de sobra decir que, en el país y en el mundo, la pobreza sigue teniendo cara de mujer. Es esencial abordar estos desafíos mediante la inclusión de mujeres y grupos diversos (género, lingüístico, regional, edad, racial, etcétera) en todas las etapas del desarrollo de la IA y la implementación de prácticas que garanticen la igualdad, la equidad y la transparencia.
La Estrategia Nacional que propone el reporte es ética e inclusiva y propone la elaboración de un mapa del ecosistema de IA en el país, un marco jurídico de la IA y un modelo de gobernanza para la misma y el desarrollo de una Estrategia Nacional que contemple la ciberseguridad, la ética, la responsabilidad y la inclusión. El enfoque que propone es humano-céntrico y sostenible, pero yo iría un paso más allá y propondría que considerara a todos los seres vivos también: los costos del enfoque antropocéntrico de las políticas y decisiones lo estamos viviendo con la destrucción del planeta y la extinción de especies.
En conclusión, si al hablar de la IA estamos hablando de una realidad tecnológica es necesario reconocer su impacto en la construcción y efectos en el tejido de la sociedad y la viabilidad del planeta. Al hablar de ella debemos considerar la necesidad de incorporar la ética en su desarrollo, así como la transparencia, la responsabilidad, la inclusión y la igualdad de género. El 50 % de la población del planeta y el 52 % en México no puede quedar al margen de su desarrollo y las decisiones que se tomen en torno a ella. Si queremos que contribuya a un futuro más igualitario y próspero para el país y el mundo, tenemos que tomar esto en cuenta.
Publicado originalmente el 9 de julio del 2024 en Animal Politico.
Bienvenido a
Mujeres Construyendo
info@mujeresconstruyendo.com
© 2024 Creada por Mujeres Construyendo.
Con tecnología de
Insignias | Informar un problema | Política de privacidad | Términos de servicio