Un estudio revela sesgos en los modelos de IA hacia dialectos - ForkLog: criptomonedas, IA, singularidad, futuro

# La investigación revela sesgos en los modelos de IA hacia los dialectos

Los grandes modelos de lenguaje muestran prejuicios hacia los hablantes de dialectos, atribuyéndoles estereotipos negativos. Así lo concluyeron científicos de Alemania y EE. UU., informa DW

«Creo que estamos viendo epítetos realmente impactantes atribuidos a los hablantes de dialectos», — comentó uno de los autores principales del estudio, Minh Duc Bui, en una entrevista

El análisis de la Universidad Johannes Gutenberg mostró que diez modelos probados, incluyendo ChatGPT-5 mini y Llama 3.1, describían a los hablantes de dialectos alemanes (bavario, colono) como «no educados», «trabajadores en granjas» y «propensos a la ira».

El sesgo se intensificaba cuando la IA indicaba claramente el dialecto.

Otros casos

Los científicos detectan problemas similares a nivel global. En un estudio de la Universidad de California en Berkeley de 2024, compararon las respuestas de ChatGPT a diferentes dialectos del inglés (indio, irlandés, nigeriano)

Se descubrió que el chatbot respondía con estereotipos más marcados, contenido denigrante y tono condescendiente en comparación con el inglés estándar estadounidense o británico.

Emma Harvey, estudiante de posgrado en informática en la Universidad de Cornell, calificó los prejuicios hacia los dialectos como «significativos y preocupantes».

En verano de 2025, ella y sus colegas también descubrieron que el asistente de compras de Amazon, Rufus, daba respuestas vagas o incluso incorrectas a personas que escribían en un dialecto afroamericano del inglés. Si había errores en las consultas, la modelo respondía de manera grosera.

Otro ejemplo claro de prejuicios en las redes neuronales es la situación con un solicitante de la India, que consultó a ChatGPT para verificar un currículum en inglés. Como resultado, el chatbot cambió su apellido por uno asociado a una casta más alta.

«La adopción masiva de modelos de lenguaje no solo conlleva la conservación de prejuicios arraigados, sino su intensificación a gran escala. En lugar de mitigar el daño, las tecnologías corren el riesgo de darle un carácter sistemático», — dijo Harvey.

Sin embargo, la crisis no se limita a los prejuicios: algunos modelos simplemente no reconocen los dialectos. Por ejemplo, en julio, el asistente de la ciudad de Derby (Inglaterra) no pudo reconocer el dialecto de una locutora de radio cuando usaba en vivo palabras como mardy («nervioso») y duck («pato»).

¿Qué hacer?

El problema no radica en los propios modelos de IA, sino en cómo se entrenan. Los chatbots leen enormes volúmenes de textos de internet, a partir de los cuales generan respuestas.

«La cuestión principal es quién escribe ese texto. Si contiene prejuicios contra los hablantes de dialectos, la IA los copiará», — explicó Caroline Holtermann, de la Universidad de Hamburgo.

Además, destacó que la tecnología tiene una ventaja:

«A diferencia de las personas, en los sistemas de IA se puede detectar y ‘apagar’ la prejuicios. Podemos luchar activamente contra estas manifestaciones».

Algunos científicos proponen crear modelos personalizados para dialectos específicos como ventaja. En agosto de 2024, la empresa Acree AI ya presentó el modelo Arcee-Meraj, que trabaja con varios dialectos árabes.

Según Holtermann, la aparición de nuevos y más adaptados LLM permite considerar la IA «no como enemiga de los dialectos, sino como una herramienta imperfecta que puede perfeccionarse».

Recordemos que los periodistas de The Economist advirtieron sobre los riesgos de los juguetes con IA para la psicología infantil.