La privacidad, la igualdad, la salud, el trabajo y la protección frente a la violencia están entre los derechos que pueden verse afectados por los sistemas de inteligencia artificial. Las Naciones Unidas reclaman que su desarrollo y utilización estén sujetos al derecho internacional y no únicamente a las decisiones de los gobiernos y de las empresas.
La advertencia del alto comisionado de las Naciones Unidas para los Derechos Humanos, Volker Türk, sitúa la discusión sobre la inteligencia artificial fuera del ámbito exclusivamente tecnológico. El problema ya no consiste solamente en determinar qué pueden hacer los sistemas más avanzados, sino en qué ocurre cuando intervienen en decisiones relacionadas con el empleo, la salud, la seguridad, la información o el acceso a servicios.
Türk advirtió sobre los riesgos que plantea el desarrollo acelerado de la inteligencia artificial y reclamó una gobernanza internacional basada en los derechos humanos. Su preocupación se centra especialmente en sistemas capaces de actuar con mayor autonomía y en su incorporación a infraestructuras y ámbitos en los que un error puede afectar a poblaciones enteras.
La relación entre la IA y los derechos humanos, sin embargo, no se limita al futuro, ya que Naciones Unidas ha documentado problemas asociados a tecnologías ya utilizadas. Los más frecuentes y riesgosos, según el Organismo, son los siguientes:
El derecho a la igualdad y a no sufrir discriminación. Un informe presentado en 2025 ante el Consejo de Derechos Humanos advierte que los sistemas de IA pueden producir resultados discriminatorios en la contratación laboral, la concesión de créditos y la aplicación de la ley. Cuando los datos utilizados para entrenarlos reflejan desigualdades históricas, automatizar una decisión puede reproducirlas en lugar de corregirlas.
Las mujeres enfrentan riesgos particulares. ONU Mujeres explica que los sistemas pueden aprender asociaciones históricas que vinculan determinados trabajos, capacidades o posiciones de autoridad con los hombres y otras funciones con las mujeres. La desigualdad aparece entonces dentro de una herramienta aparentemente neutral y puede trasladarse a procesos de selección de personal, evaluaciones o decisiones financieras.
La privacidad y la autonomía personal constituyen otro frente. La utilización del reconocimiento facial, la biometría, la vigilancia automatizada y el tratamiento de grandes volúmenes de información personal amplía la capacidad para identificar, clasificar y seguir a las personas. La ONU advierte que las mujeres, las personas con discapacidad, las minorías, los migrantes y los pueblos indígenas pueden experimentar de manera desproporcionada errores o tratos discriminatorios en los sistemas biométricos.
El derecho a la salud. La IA puede contribuir al diagnóstico y a la organización de los servicios sanitarios, pero los resultados dependen de la calidad y la representatividad de los datos. El Comité para la Eliminación de la Discriminación Racial ha advertido de que los algoritmos clínicos pueden reproducir desigualdades estructurales cuando los registros utilizados para entrenarlos reflejan sesgos previos o no representan adecuadamente a determinadas poblaciones.
La perspectiva de género añade otra preocupación, ya que los datos médicos, históricamente construidos en torno a determinados grupos, pueden producir diagnósticos o recomendaciones menos adecuados para otros grupos. El problema no reside en que un algoritmo tenga prejuicios propios, sino en los datos, criterios de diseño, objetivos y decisiones humanas incorporados durante su desarrollo y su uso.
El derecho al trabajo y a las oportunidades económicas en condiciones de igualdad también forma parte de la discusión. La IA puede transformar ocupaciones, automatizar tareas y modificar procesos de contratación. Las Naciones Unidas advierten de que las pérdidas de empleo inducidas por estas tecnologías pueden afectar de manera diferenciada a mujeres y niñas y profundizar las desigualdades existentes si las políticas públicas no consideran quién ocupa los puestos más expuestos y quién accede a las nuevas oportunidades tecnológicas.
Existe, además, uno cuya afectación ya resulta particularmente visible, como lo es el derecho a vivir libre de violencia. Las herramientas generativas permiten producir imágenes sexuales falsas, suplantaciones, campañas de acoso y contenidos manipulados a una velocidad y escala antes inimaginables. ONU Mujeres advierte que los deepfakes sexuales y otras formas de violencia facilitadas por la IA afectan desproporcionadamente a mujeres y niñas y pueden tener consecuencias psicológicas, profesionales, económicas y sociales fuera de Internet.
La afectación puede extenderse a la libertad de expresión y la participación en la vida pública. Cuando una periodista, política, investigadora o activista es objeto de imágenes sexuales falsas, amenazas o campañas automatizadas de descrédito, el daño no se limita a su privacidad. Puede limitar su participación pública y generar un efecto intimidatorio en otras mujeres. ONU Mujeres vincula estas agresiones con un espacio cívico cada vez más hostil para quienes ejercen liderazgo o tienen visibilidad pública.
La interseccionalidad resulta indispensable para comprender estos riesgos. Una tecnología puede afectar de manera distinta a una mujer indígena, a una migrante, a una persona con discapacidad o a una trabajadora con bajos ingresos. El Consejo de Derechos Humanos ha advertido expresamente de que las múltiples e interrelacionadas formas de discriminación modifican la manera en que las mujeres y las niñas experimentan los daños derivados de la IA.
La discusión tampoco implica rechazar la inteligencia artificial, ya que estas tecnologías pueden ampliar los conocimientos, mejorar los servicios y apoyar actividades científicas, educativas y productivas. El planteamiento de Naciones Unidas es que esas posibilidades no convierten los derechos humanos en una contraprestación negociable frente al progreso tecnológico.
La regulación, por tanto, no debe comenzar cuando una tecnología cause daño, sino que es indispensable evaluar previamente sus efectos sobre los derechos, exigir transparencia y supervisión, establecer responsabilidades y garantizar mecanismos de reparación; estos aspectos forman parte de una gobernanza en la que la innovación debe responder a las personas y no al contrario.
Referencias
Naciones Unidas, Consejo de Derechos Humanos. (2025). Gender-based violence against women and girls in digital contexts. https://docs.un.org/A/HRC/59/32
ONU Mujeres. (2024, 28 de junio). La inteligencia artificial (IA) y la igualdad de género. https://www.unwomen.org/es/articulos/articulo-explicativo/la-inteligencia-artificial-ia-y-la-igualdad-de-genero
ONU Mujeres. (2025, 18 de noviembre). AI-powered online abuse: How AI is amplifying violence against women and what can stop it. https://www.unwomen.org/en/articles/faqs/ai-powered-online-abuse-how-ai-is-amplifying-violence-against-women-and-what-can-stop-it
ONU Mujeres. (2026, 26 de febrero). When justice fails: Why women can’t get protection from AI deepfake abuse. https://www.unwomen.org/en/articles/explainer/when-justice-fails-why-women-cant-get-protection-from-ai-deepfake-abuse
UNESCO. (2025). Tackling gender bias and harms in artificial intelligence (AI). https://www.unesco.org/es/articles/tackling-gender-bias-and-harms-artificial-intelligence-ai
UNESCO. (2026, 6 de julio). UNESCO launches report to tackle AI-enabled gender-based violence in Jamaica. https://www.unesco.org/en/articles/unesco-launches-report-tackle-ai-enabled-gender-based-violence-jamaica
