Los algoritmos clínicos pueden ofrecer diagnósticos menos precisos en mujeres porque la mayoría de los datos médicos históricos con los que fueron entrenados se basan en pacientes varones, según una investigación publicada en los Anales del Sistema Sanitario de Navarra.
Cada vez más gobiernos e instituciones de salud en América Latina y el Caribe incorporan inteligencia artificial a decisiones cotidianas que afectan a millones de personas, desde la asignación de subsidios hasta la orientación a las víctimas de violencia, según advierte el Informe Regional sobre Desarrollo Humano 2025 del Programa de las Naciones Unidas para el Desarrollo, que subraya que estos sistemas heredan inevitablemente los sesgos ya arraigados en la sociedad.
Zinnya del Villar, experta en inteligencia artificial responsable, lo resume de forma directa en una entrevista con ONU Mujeres: en áreas fundamentales como la salud, la IA puede enfocarse en los síntomas de los hombres, lo que puede provocar diagnósticos erróneos o tratamientos inadecuados para las mujeres, un problema que se origina en la fase de entrenamiento del modelo y no en su uso posterior.
El sesgo no aparece solo en un punto del proceso: investigadores identifican al menos cuatro niveles en los que puede colarse: los datos de entrenamiento, cuando predominan ejemplos masculinos; las etiquetas y anotaciones que reflejan estereotipos; el propio diseño del modelo, cuando quienes lo crean comparten una visión parcial del comportamiento humano; y la falta de diversidad en los equipos de desarrollo, que hace que esos sesgos pasen desapercibidos.
Las mujeres representan apenas el 29% de la fuerza laboral en el sector de ciencia, tecnología, ingeniería y matemáticas a nivel mundial, según el Foro Económico Mundial, y suelen concentrarse en puestos iniciales, con menor presencia en los cargos directivos, donde se toman las decisiones sobre qué datos priorizar y qué casos de uso desarrollar primero.
Pese a ese panorama, mujeres de la región no son solo usuarias de estos sistemas, también lideran soluciones concretas, marcos feministas de desarrollo de inteligencia artificial, herramientas abiertas para detectar estereotipos en modelos de lenguaje e iniciativas que incorporan perspectiva de género en plataformas de trabajo digital, según documenta el mismo informe del PNUD, que sostiene que colocar a las mujeres en el centro del diseño mejora la calidad técnica de los sistemas y acelera su aceptación social.
La Unión Europea ya clasifica los sistemas de inteligencia artificial que usan datos biométricos o que influyen en el acceso al empleo y a la educación como de alto riesgo, exigiendo a las empresas demostrar que sus algoritmos no son discriminatorios, un marco regulatorio que todavía no tiene un equivalente vinculante en ningún país de América Latina.
El propio PNUD calcula que reducir el sesgo de género en estos sistemas multiplica sus retornos: políticas sociales más precisas, seguridad compatible con los derechos, mercados laborales más inclusivos y mayor confianza ciudadana en instituciones capaces de gobernar tecnologías complejas, un argumento que sitúa la equidad de género no como una condición moral, sino como una condición técnica para que la inteligencia artificial funcione bien.
Ese mismo argumento técnico empieza a aparecer en los diagnósticos clínicos de la región: un sistema entrenado mayoritariamente con historiales médicos de hombres tiende a interpretar los síntomas femeninos de un infarto, por ejemplo, como menos urgentes que los masculinos, porque el patrón que reconoce como típico proviene de datos en los que las mujeres estuvieron subrepresentadas desde el origen del conjunto de entrenamiento.
La brecha se cierra más rápido cuando las mujeres participan en el diseño y la auditoría de estos sistemas, no solo como usuarias finales, un cambio que instituciones de salud pública en países como Chile ya empezaron a explorar mediante diagnósticos con enfoque de género elaborados con apoyo de ONU Mujeres, aunque esas iniciativas siguen siendo la excepción dentro de un sistema de salud regional que en su mayoría todavía no audita sus propios algoritmos clínicos.
Referencias
11defebrero.org. (2025, 24 de noviembre). Inteligencia artificial y sesgos de género: cuando los algoritmos aprenden de nuestras desigualdades. https://11defebrero.org/inteligencia-artificial-y-sesgos-de-genero/
ONU Mujeres. (2025, 5 de febrero). Cómo la inteligencia artificial refuerza los sesgos de género y qué podemos hacer al respecto. https://www.unwomen.org/es/noticias/entrevista/2025/02/como-la-inteligencia-artificial-refuerza-los-sesgos-de-genero-y-que-podemos-hacer-al-respecto
Programa de las Naciones Unidas para el Desarrollo. (2025, 22 de octubre). Inteligencia artificial con sesgos reales: nuevos retos para la igualdad de género en América Latina y el Caribe. https://www.undp.org/es/latin-america/blog/inteligencia-artificial-con-sesgos-reales-nuevos-retos-para-la-igualdad-de-genero-en-america-latina-y-el-caribe
