Un estudio realizado en América Latina evidencia que la inteligencia artificial reproduce sesgos de género, racismo y xenofobia. Frente a ello, el sistema educativo enfrenta un desafío ineludible: formar no solo usuarios de la tecnología, sino también ciudadanos capaces de cuestionarla.
Una investigación desarrollada por especialistas de la Universidad de los Andes y de la organización Quantil, quienes construyeron un conjunto de 4.156 preguntas en español para identificar sesgos en modelos de lenguaje de inteligencia artificial, tuvo como objetivo poner a prueba cómo los sistemas de IA responden ante estereotipos sociales en América Latina.
Los resultados confirman una preocupación creciente. Los modelos tienden a asociar el liderazgo con los hombres, reproducen estereotipos raciales y refuerzan prejuicios hacia las poblaciones migrantes. La inteligencia artificial no es neutral: aprende de los datos que la alimentan, y estos están atravesados por desigualdades históricas.
La discusión sobre la inteligencia artificial suele centrarse en la innovación o en la productividad. Sin embargo, este estudio desplaza el foco hacia una dimensión más urgente: la formación crítica.
Porque el problema no es solo que los algoritmos estén sesgados. El problema es que millones de personas los utilizan sin cuestionarlos, lo que les hace perder el sentido crítico y la objetividad ante las herramientas de IA.
Aquí el sistema educativo se vuelve central. No basta con enseñar a usar la tecnología. Es necesario enseñar a entenderla, analizarla y, sobre todo, interrogarla.
¿Qué está en juego en América Latina? Surge como hipótesis de fondo en la investigación: en una región marcada por desigualdades estructurales, los sesgos algorítmicos no operan en el vacío. Se insertan en sociedades en las que el racismo, el clasismo y el machismo ya configuran relaciones de poder.
Si una herramienta tecnológica refuerza estos patrones, por ejemplo, invisibilizando a mujeres afrodescendientes, trans o migrantes o asociando ciertos perfiles profesionales a determinados géneros, lo que hace es consolidar límites simbólicos y materiales.
La inteligencia artificial no solo describe el mundo, sino que también contribuye a moldearlo, especialmente entre la población joven, lo que ha desembocado en su uso sin cuestionamientos.
Frente a este escenario, la respuesta no puede ser únicamente técnica. Es, ante todo, pedagógica y transcurre por las aulas de escuelas, colegios y universidades. Incorporar la inteligencia artificial en el aula no debería limitarse a su uso instrumental. Debe incluir, al menos, cuatro líneas de acción concretas:
- Alfabetización digital crítica: comprender cómo funcionan los modelos de IA, qué datos utilizan y qué sesgos pueden contener. Enseñar a preguntar: ¿quién diseñó este sistema?, ¿desde dónde?, ¿a quién excluye?
- Incorporación de la perspectiva de género y de la diversidad: analizar cómo los sistemas tecnológicos reproducen desigualdades estructurales. No como contenido adicional, sino como eje transversal.
- Visibilización de científicas e investigadoras latinoamericanas: integrar en los contenidos educativos el trabajo de las mujeres en ciencia y tecnología, para romper la narrativa que asocia la innovación con figuras masculinas.
- Formación docente en ética tecnológica: sin docentes preparados, no es posible el pensamiento crítico. La capacitación debe incluir no solo herramientas, sino también marcos éticos y sociales. Aquí, la preparación es clave, especialmente para las mujeres, que constituyen la mayoría de las educadoras en Latinoamérica.
Ahora bien, la inteligencia artificial no puede quedar confinada a las carreras técnicas. Debe abordarse desde las ciencias sociales, la educación, la filosofía y las humanidades. Solo así es posible construir una comprensión integral de su impacto.
Ignorar el problema que denuncia la investigación implica consolidar una ciudadanía que consume tecnología sin cuestionarla, lo que normaliza la discriminación automatizada.
En cambio, una educación crítica puede convertirse en una herramienta de transformación social y en una oportunidad para América Latina, una región marcada por la desigualdad.
Las investigadoras que desarrollaron este estudio no solo evidencian un problema. También marcan una ruta: la región puede posicionarse como productora de pensamiento crítico sobre tecnología, pero eso exige algo fundamental: reconocer, visibilizar y valorar el conocimiento que ya se produce.
Porque si la inteligencia artificial aprende de lo que somos, la educación debe enseñarnos a decidir en qué queremos convertirnos.
