Un estudio de la UNESCO y el Instituto de Datos Abiertos, publicado originalmente en 2021 y retomado este año por investigaciones académicas recientes sobre inteligencia artificial en la educación, encontró que algunas plataformas de orientación vocacional basadas en algoritmos sugieren de forma desproporcionada carreras STEM a los varones y áreas de cuidado o educación a las mujeres jóvenes.
Estos sistemas ya intervienen en un momento decisivo de la vida escolar, el instante preciso en que una adolescente decide qué estudiar después del colegio, y lo hacen replicando estereotipos profesionales profundamente arraigados que limitan el acceso a trayectorias no tradicionales, sobre todo entre niñas y jóvenes de contextos rurales que dependen casi por completo de esa orientación estrictamente digital al no tener acceso a consejería vocacional presencial de ningún tipo.
Un análisis de casi 10.000 respuestas generadas por cinco grandes sistemas de inteligencia artificial, presentado este marzo con motivo del 8M por la consultora de comunicación LLYC, encontró que el 56% de las respuestas dirigidas a mujeres jóvenes de entre 16 y 25 años las etiquetaba con adjetivos asociados a la fragilidad, un patrón que, según el propio estudio, las coloca en una posición de vulnerabilidad frente a decisiones vocacionales que deberían basarse únicamente en sus intereses y capacidades reales, y no en un estereotipo de género aprendido de miles de textos previos.
Expertas como Zinnya del Villar insisten en que la clave no está solo en corregir los sesgos ya presentes en un sistema determinado, sino en transformar por completo la forma en que se construye la tecnología desde su origen mismo, porque la falta de participación femenina en el diseño de la inteligencia artificial puede perpetuar la desigualdad durante años, sin que nadie dentro del propio equipo de desarrollo llegue siquiera a notarlo.
No todo el panorama es de alarma: una investigación con 209 estudiantes ecuatorianos de educación básica media y superior encontró que, tras una intervención formativa específica sobre herramientas de inteligencia artificial, el interés declarado por carreras digitales aumentó del 2,39% al 46,41%, con una notable feminización de esa preferencia: 71 mujeres frente a 26 hombres se mostraron interesadas en carreras digitales una vez concluido el taller de formación.
Ese contraste sugiere que la tecnología no está condenada de antemano a repetir el sesgo que hoy presenta. El mismo estudio ecuatoriano documenta que una intervención pedagógica bien diseñada puede revertir en apenas unos meses una tendencia que los algoritmos, dejados sin supervisión alguna, tardarían años en corregir por sí solos.
El propio informe de la UNESCO advierte que este tipo de sesgo tiene un efecto acumulativo particularmente severo en las zonas rurales de la región, donde la plataforma automatizada suele ser el único punto de contacto real entre una adolescente y la información disponible sobre qué carreras existen, sin ningún adulto capacitado que pueda contrastar o cuestionar la recomendación que el sistema termina por entregarle.
En 2024, un laboratorio de innovación social organizó talleres donde niñas y niños de entre 9 y 16 años aprendieron a identificar por sí mismos sesgos de género en imágenes generadas por inteligencia artificial, un modelo concreto de alfabetización crítica que organizaciones educativas de la región citan hoy como ejemplo replicable, aunque todavía no existe una versión latinoamericana equivalente que cuente con financiamiento propio y sostenido en el tiempo, más allá de esfuerzos aislados y de corta duración.
La orientación vocacional automatizada seguirá ganando terreno en escuelas con pocos recursos para contratar un consejero humano de tiempo completo, lo que convierte la auditoría preventiva de estos algoritmos, y no solo su corrección posterior una vez causado el daño, en la tarea pendiente más urgente para los ministerios de educación de toda la región.
Referencias
Revista Iberoamericana de Educação. (2025, 26 de septiembre). La inteligencia artificial en la educación: potencial transformador, riesgos de sesgo y desafíos éticos. https://rieoei.org/RIE/article/download/6838/4934/17509
Comunidaria. (2026, 8 de marzo). IA juvenil 2026: sesgos de género en recomendaciones algorítmicas. https://comunidaria.com/ia-juvenil-2026-sesgos-genero-recomendaciones-algoritmicas/
11defebrero.org. (2025, 24 de noviembre). Inteligencia artificial y sesgos de género: cuando los algoritmos aprenden de nuestras desigualdades. https://11defebrero.org/inteligencia-artificial-y-sesgos-de-genero/
Revista Scientific (Indteca). (2024, 5 de noviembre). Orientación vocacional y profesional: la inteligencia artificial y su impacto en la educación. https://www.indteca.com/ojs/index.php/Revista_Scientific/article/view/671
