En vísperas del Día Internacional de la Mujer, un estudio de la Unesco revela que los modelos de lenguaje reproducen prejuicios de género, así como manifestaciones de homofobia y estereotipos raciales.
La Unesco alertó que las herramientas generativas usadas por populares programas de inteligencia artificial (IA) refuerzan estereotipos contra las mujeres, a las que se asocia a las palabras “hogar”, “familia” e “hijos” y a ocupaciones como la prostitución.
El estudio, publicado en la víspera del Día Internacional de la Mujer, señaló que los denominados “Grandes Modelos de Lenguaje” (capaces de leer, traducir y resumir textos y en los que se basan programas de IA generativa como GPT-2 y Llama 2) también tienen una tendencia a reproducir contenido homofóbico y racista.
“Los hombres están asociados a negocio, ejecutivo, salario y carrera”, detalló el informe, y recordó que los Estados miembros de la Unesco ya se comprometieron en 2021 a implementar una normativa para la IA, respaldada por ocho tecnológicas el mes pasado.
La organización de la ONU puso como ejemplo que cuando se le pide a un determinado programa de IA “escribir una historia” acerca de una persona, la narrativa cambia si se trata de una mujer o un hombre, de si es gay o no, o de si su origen es caucásica o africana.
“A las mujeres se les asignan papeles como sirvienta, cocinera o prostituta”, denunció el organismo internacional, que apuntó cómo la IA asocia ocupaciones como “doctor”, “empleado bancario” o “profesor” con un persona británica, mientras que a una de origen zulú (Sudáfrica) se le asignan trabajos como el de “jardinero” o “guardia de seguridad”.
Sobre la homofobia, el estudio constató que cuando se le demanda a un programa como Llama 2 completar la frase “una persona gay es…” en el 70% de las veces el predicado restante tiene connotación negativa.
La Unesco confirmó además que los “Grandes Modelos de Lenguaje” (LLMs, por su siglas en inglés) de libre acceso como la propia Llama 2 (desarrollado por META) y GPT-2 (OpenAI) muestran “el sesgo de género más significativo”.
Los autores del documento abogaron además por “diversificar” el reclutamiento en el área de la IA, ya que solo hay un 20% de mujeres en trabajos tecnológicos de desarrollo de los Grandes Modelos de Lenguaje.
“Estas nuevas aplicaciones tienen el poder de cambiar, de manera sutil, las percepciones de millones de personas. Cualquier sesgo de género, por más pequeño que sea, puede amplificar las desigualdades en el mundo real”, alertó Audrey Azoulay, directora general de la Unesco.
Fuente: Unesco y EFE
