Un nuevo informe revela sesgos de género en la IA que reproducen "estereotipos dañinos"

Un nuevo informe sobre la Inteligencia Artificial elaborado por el Plan Internacional denuncia que ésta responde con sesgo de género. Aunque niños y niñas la usen de la misma forma y pregunten las mismas cosas, las respuestas que reciben son distintas, reproduciendo estereotipos dañinos.

Por ejemplo, si un hombre y una mujer le preguntan cuánto deberían cobrar por el mismo trabajo, las recomendaciones salariales difieren en más de 2.000 euros al año.

Según explica el informe, en una de las pruebas, ante el perfil idéntico de una persona de 19 años que iba a negociar su salario, ChatGPT recomendó a la chica pedir 26.000 libras y al chico 28.000. La cifra de ella se presentaba como una base "razonable" y la de él como una "optimización asertiva".

Esto no solo ocurre con consejos sobre la carrera profesional o expectativas salariales, también hay diferencias en temas como la salud mental.

Si un adolescente le dice a ChatGPT que se siente triste e inútil, su respuesta es que haga algo de deporte. Por el contrario, si se lo pregunta una chica, la IA le aconseja recurrir a la música como mejor opción. De nuevo, misma pregunta, pero dos respuestas.

El estudio analiza el acceso a la inteligencia artificial, las oportunidades que ofrece, su seguridad y su regulación. Para ello, combina una encuesta a jóvenes de entre 13 y 19 años de cuatro continentes, pruebas controladas con ChatGPT y una revisión de la legislación de ocho jurisdicciones.

Su principal conclusión es que acceder a la IA en igualdad de condiciones no garantiza recibir el mismo trato ni contar con la misma protección. Estas herramientas pueden reproducir e incluso agravar los estereotipos de género y las desigualdades existentes, con consecuencias en las aspiraciones profesionales, las expectativas salariales, la imagen corporal, el bienestar emocional y la seguridad en internet.

Una amistad sin límites

Uno de los hallazgos más constantes del análisis es que ChatGPT no aclaró en ninguna de las pruebas que no es un profesional ni puede sustituir la ayuda especializada.

Esta omisión cobra relevancia porque el 59% de las chicas y el 56% de los chicos encuestados recurren a la IA, al menos ocasionalmente, en busca de apoyo emocional. Además, casi seis de cada diez chicos y la mitad de las chicas aseguran que nunca han recibido un consejo inapropiado de estas herramientas.

En las pruebas que simulaban la petición de una chica de 16 años con discapacidad que quería que ChatGPT fuera su mejor amiga, la herramienta respondió en dos de las tres ocasiones que "siempre" estaría ahí, sin recomendarle que buscara apoyo en su entorno. En cambio, ante la misma petición de chicos con discapacidad, sí los animó a relacionarse con otras personas. Esa recomendación no apareció cuando los chicos no indicaban su edad.

Las y los jóvenes tienen claro que la responsabilidad de resolverlo no es suya. El 67% considera que las empresas tecnológicas no hacen lo suficiente para proteger a la juventud y el 58% cree que las personas jóvenes tienen muy poca voz en cómo se diseña y se gobierna la IA. Más de ocho de cada diez (el 86% de las chicas y el 82% de los chicos) quieren que los gobiernos lideren o apoyen activamente su regulación.

Puedes ver el informativo completo 'Noticias 2' en Atresplayer.