Revela estudio que IA amplifica estereotipos de género
Los sistemas avanzados de inteligencia artificial (IA) no solo reproducen los estereotipos de género ampliamente identificados en diversos medios digitales, sino que los amplifican. Esta es la conclusión de una reciente investigación de la Universidad de Stanford, que determinó que las mujeres en distintas profesiones son representadas en el ecosistema digital (y por herramientas inteligentes como ChatGPT) como más jóvenes y, por tanto, menos experimentadas que los hombres, especialmente en cargos de alto nivel o de ingresos más elevados.
Trabajos previos ya habían analizado prejuicios de género y edad en distintas plataformas digitales dentro de contextos específicos. Sin embargo, este nuevo estudio buscó demostrar que dichos sesgos trascienden sectores, configurando una tendencia generalizada que se intensifica con los sistemas avanzados de IA, según Douglas Guilbeault, profesor adjunto de comportamiento organizacional en la Escuela de Negocios de la Universidad de Stanford y líder de la investigación.
En una primera etapa, el análisis examinó cerca de 1.4 millones de imágenes y videos procedentes de cinco plataformas principalmente: Google, Wikipedia, IMDb, Flickr y YouTube. Los investigadores hallaron que “las mujeres son representadas sistemáticamente como más jóvenes que los hombres, sobre todo en representaciones de ocupaciones de mayor estatus y mejor remuneración”, de acuerdo con el estudio publicado en Nature.
Estos resultados fueron considerados una distorsión de la realidad al compararse con datos del censo de Estados Unidos, los cuales muestran que la edad media en la vida laboral para ambos géneros es similar en profesiones médicas, educativas y administrativas.
Los autores explican que diversos factores contribuyen a este fenómeno. En sectores relacionados con el entretenimiento o la atención al cliente, por ejemplo, existen normas sociales que ejercen una presión desproporcionada sobre las mujeres para aparentar juventud.
En ámbitos como la investigación científica, la medicina y la docencia, la edad actúa como un indicativo de estatus, autoridad y poder, cualidades tradicionalmente asociadas a los hombres. Esta percepción, erróneamente aceptada, deriva en un fenómeno ampliamente denunciado por los movimientos feministas: si bien se contrata a mujeres jóvenes, el hecho de que no sean promovidas con la misma frecuencia que sus pares masculinos provoca que los cargos de liderazgo, influencia y autoridad continúen asignándose principalmente a hombres mayores, reforzando así el sesgo de representación.
En una segunda fase, los autores analizaron cómo este sesgo visual influye en la percepción social de las mujeres en el entorno profesional. Para ello, realizaron un experimento con 459 participantes, quienes usaron Google Images para obtener descripciones de 22 ocupaciones seleccionadas al azar, centradas en los ámbitos de la ciencia, la tecnología y el arte.
El primer grupo, denominado “experimental”, buscó imágenes de ocupaciones específicas y las compartió con los investigadores. Se les pidió identificar el género de la persona retratada, estimar su edad promedio y evaluar su disposición a contratarla.
El segundo grupo, utilizado como control, recibió las mismas instrucciones, pero solo consultó imágenes de categorías neutras relacionadas con objetos (como “manzana”, “guitarra” o “pintura”), sin referencia a profesiones.
Los resultados mostraron que observar fotografías reforzaba la creencia de que las mujeres aptas para dichas profesiones eran más jóvenes, además de influir en las preferencias de contratación: se consideraba más adecuados a hombres de mayor edad y a mujeres más jóvenes.
Lo más relevante se observó en la tercera etapa del estudio, cuando los investigadores analizaron cómo este sesgo de género y edad puede modificar el imaginario social sobre el “candidato ideal” para una determinada profesión, influenciado por la IA.
El equipo examinó este tipo de sesgo en nueve modelos de lenguaje populares entrenados con millones de palabras procedentes de plataformas como Reddit, Google News, Wikipedia y X (antes Twitter).
No obstante, los resultados se centraron en ChatGPT, considerado el chatbot de IA con mayor número de usuarios. Los investigadores solicitaron al sistema de OpenAI, en su versión impulsada por el modelo GPT-4.0 mini, que generara cerca de 40 mil currículos para 54 ocupaciones distintas, utilizando 16 nombres de hombres y mujeres controlados en función de su popularidad, familiaridad, etnia y grupo de edad.
Los hallazgos revelaron que las candidatas ficticias femeninas resultaron ser, en promedio, 1.6 años más jóvenes y con casi un año menos de experiencia que sus equivalentes masculinos. El modelo de IA también evaluó mejor los CVs de hombres mayores al medir su calidad en la mayoría de los casos.
De acuerdo con el equipo de Guilbeault, esto se explica porque la mayoría de los sistemas de IA se entrenan con datos disponibles en internet.
El estudio concluye que, si bien estos sesgos no determinan automáticamente las decisiones de contratación en el mundo real, sí crean un terreno fértil para la discriminación. Subraya que las empresas desarrolladoras de grandes modelos de lenguaje son responsables de que sus productos propaguen masivamente estos prejuicios a gran escala.
