Pocas mujeres en IT, muchos sesgos en la IA: ¿están conectados?
Esta nota investiga dos preguntas que, a simple vista, parecen temas separados, pero están más cerca de lo que parece. Por un lado: ¿quién está estudiando hoy las carreras de tecnología que van a formar a quienes construyan la próxima generación de inteligencia artificial? Por el otro: ¿qué sesgos muestran ya los sistemas de IA que ese campo —hoy ampliamente dominado por varones— está produciendo? Los datos no prueban que una cosa cause la otra, pero puestos uno al lado del otro, dejan una pregunta difícil de ignorar.
En promedio, apenas uno de cada cuatro graduados universitarios en carreras de tecnología (ICT) en el mundo es mujer. El dato surge de estadísticas de la Organización para la Cooperación y el Desarrollo Económicos (OCDE) correspondientes a 2022, recopiladas en el AI Index Report 2025 de la Universidad de Stanford, uno de los relevamientos más completos sobre el estado global de la inteligencia artificial y las disciplinas que la sostienen.
El promedio, sin embargo, esconde una brecha enorme entre países. Mientras que en naciones como Austria, España o los Países Bajos la participación femenina en estas carreras no supera el 15% en los niveles de formación más cortos, Turquía se despega claramente del resto: entre el 50% y el 55% de sus graduados en tecnología —desde técnicaturas hasta doctorados— son mujeres.
Lo llamativo no es solo la magnitud de la cifra turca, sino su consistencia: a nivel global, la presencia femenina tiende a crecer a medida que sube el nivel educativo (del 22% en técnicaturas al 28% en maestrías). En Turquía, en cambio, el porcentaje se mantiene parejo en los cuatro niveles, sin ese salto.
El fenómeno no es exclusivo de Turquía ni nuevo para la investigación académica. Se lo conoce como la «paradoja de la igualdad de género» (Gender Equality Paradox), un patrón identificado por los investigadores Gijsbert Stoet (Leeds Beckett University) y David Geary (University of Missouri) en un estudio publicado en la revista Psychological Science, que cruzó datos de género del Foro Económico Mundial con estadísticas de graduados STEM de la UNESCO.
— David Geary, coautor del estudio, citado por Futurity.
En otras palabras: en los países con mayor igualdad de género, las mujeres son alentadas a participar en carreras STEM, pero terminan optando menos por ellas porque sus preferencias personales tienen más margen para expresarse libremente. En contextos con menor desarrollo económico relativo, ese margen de «elección libre» es menor, y la brecha entre las carreras elegidas por varones y mujeres se reduce.
Queda abierta una pregunta que estos datos, por sí solos, no permiten responder: ¿por qué en Turquía la participación femenina se sostiene pareja en los cuatro niveles educativos, mientras que en el resto del mundo crece recién en el posgrado? Es un interrogante que excede lo que este dataset puede probar, y que requeriría cruzar información demográfica o consultar a especialistas en el sistema educativo turco.
¿Y qué construye ese campo poco diverso? La IA que etiqueta rostros como "criminal"
Si en la educación las mujeres son minoría en tecnología, ¿qué pasa con los sistemas de inteligencia artificial que ese campo produce? Un estudio de 2024 de la investigadora Abeba Birhane (Trinity College Dublin) y su equipo, presentado en la conferencia ACM FAccT 2024 en Río de Janeiro, ofrece una respuesta incómoda.
El equipo auditó modelos de visión artificial (sistemas que clasifican imágenes automáticamente) entrenados con conjuntos de datos cada vez más grandes —de 400 millones a 2.000 millones de imágenes—, y midió cómo cambiaba la probabilidad de que el modelo etiquetara un rostro humano con palabras ofensivas como «criminal» o «persona sospechosa», según el género y el grupo racial de la persona en la foto.
El patrón que emerge es, sobre todo, de género: los tres primeros puestos son ocupados por hombres (latino, negro y blanco), mientras que el último lugar lo ocupa una mujer. Los propios autores del estudio lo resumen así: en general, los hombres tienen más probabilidad de ser clasificados como "criminal" que las mujeres, un patrón que se repite en los distintos grupos raciales analizados.
En los dos modelos "base" (ViT-B-16 y ViT-B-32), agrandar el dataset de entrenamiento redujo la asociación de un hombre negro con la etiqueta "criminal" (de -19% a -31%, según la versión). Pero en el modelo más grande y sofisticado, ViT-L-14, esa misma acción disparó la asociación a +63% —el mismo patrón se repite, incluso más marcado, con el hombre latino (+69%). Según reconstruyó la organización Mozilla a partir de este mismo estudio, el modelo grande resultó, en conjunto, el doble de propenso que el modelo chico a asociar rostros humanos con clases ofensivas como "criminal" o "sospechoso" —y esa brecha fue aún mayor específicamente para hombres negros.
El hallazgo contradice un supuesto extendido en la industria: que entrenar modelos con más datos los vuelve automáticamente más precisos y menos propensos a reproducir contenido dañino. Los propios investigadores lo plantean como una advertencia directa al sector: escalar no es, por sí solo, una solución al sesgo —en este caso, fue exactamente lo contrario.
El hilo que conecta ambas mitades de esta nota queda planteado, más que resuelto: hay pocas mujeres estudiando las carreras que forman a quienes construyen estos sistemas, y los sistemas que ese campo produce muestran sesgos de género (y raciales) medibles y, en algunos casos, crecientes a medida que los modelos se vuelven más grandes. Si existe una relación causal entre ambos fenómenos —y no solo una coincidencia temática— es una pregunta que excede lo que estos datasets, por sí solos, pueden demostrar.