Qué son los sesgos en la IA
Las herramientas de Inteligencia Artificial generativa pueden ofrecer resultados muy útiles, pero también pueden reproducir sesgos presentes en los datos con los que fueron entrenadas. Comprender estos sesgos es esencial para un uso crítico, ético y responsable dentro de la universidad.
Un sesgo es una tendencia que hace que un modelo ofrezca respuestas que favorecen, excluyen o representan de forma desigual a ciertos grupos, ideas o situaciones.
La IA no es objetiva: aprende de datos creados por personas y contextos sociales concretos, por lo que sus respuestas reflejan limitaciones, desigualdades y perspectivas parciales. Por eso deben interpretarse siempre con una mirada crítica.
Por qué aparecen los sesgos
Datos de entrenamiento incompletos o poco representativos:
Si predominan ciertos idiomas, culturas o perfiles sociales, la IA tenderá a reproducir esa visión limitada.
Si predominan ciertos idiomas, culturas o perfiles sociales, la IA tenderá a reproducir esa visión limitada.
Patrones que incluyen estereotipos o desigualdades:
El modelo aprende lo que encuentra en los datos, sin distinguir si es adecuado o problemático.
El modelo aprende lo que encuentra en los datos, sin distinguir si es adecuado o problemático.
Información insuficiente o ambigua en el prompt:
Cuando hay huecos, la IA rellena con lo “más probable”, no con lo más preciso.
Cuando hay huecos, la IA rellena con lo “más probable”, no con lo más preciso.
Sesgos introducidos por el usuario:
Indicar ejemplos sesgados o preguntas mal planteadas puede inducir respuestas parciales.
Indicar ejemplos sesgados o preguntas mal planteadas puede inducir respuestas parciales.
Sobrerrepresentación de algunas disciplinas:
Áreas como informática, salud o economía aparecen más en los datos, lo que genera respuestas más detalladas que en humanidades, educación o artes.
Áreas como informática, salud o economía aparecen más en los datos, lo que genera respuestas más detalladas que en humanidades, educación o artes.
Los sesgos pueden presentarse de muchas formas
Sesgo de género
“Asistente de enfermería” → mujer. “Médico” → hombre.
“Asistente de enfermería” → mujer. “Médico” → hombre.
Sesgo cultural
Asumir normas occidentales como universales.
Asumir normas occidentales como universales.
Sesgo lingüístico
Mejor calidad de respuesta en inglés que en euskera o castellano.
Mejor calidad de respuesta en inglés que en euskera o castellano.
Sesgo socioeconómico
Asumir acceso universal a tecnología, movilidad o recursos.
Asumir acceso universal a tecnología, movilidad o recursos.
Sesgo disciplinario
Mayor precisión en áreas STEM que en humanidades o ciencias sociales.
Mayor precisión en áreas STEM que en humanidades o ciencias sociales.
Sesgos en imágenes generadas por IA
Las imágenes pueden reflejar asociaciones estereotipadas, como mostrar directivos masculinos, científicas poco representadas o familias con un único modelo cultural.
Las imágenes pueden reflejar asociaciones estereotipadas, como mostrar directivos masculinos, científicas poco representadas o familias con un único modelo cultural.