Un grupo solicita a una agencia federal que detenga el uso de la IA Grok de Elon Musk ante preocupaciones por racismo

En resumen

• Public Citizen publicó nuevas pruebas que muestran que Grok cita sitios web neonazis y nacionalistas blancos como fuentes creíbles.
• El grupo envió cartas a la Oficina de Gestión y Presupuesto, instando a la suspensión del uso federal, y afirmó no haber recibido respuesta.
• Defensores afirmaron que el comportamiento y los datos de entrenamiento de Grok lo hacen inadecuado para su despliegue federal a medida que xAI expande los contratos gubernamentales.

Centro de Arte, Moda y Entretenimiento de Decrypt.

Descubre SCENE

Public Citizen, una organización sin ánimo de lucro de defensa del consumidor, intensificó el viernes sus advertencias sobre la IA Grok de Elon Musk tras publicar nuevas pruebas que muestran que el chatbot citaba sitios web neonazis y nacionalistas blancos como fuentes creíbles.

El grupo afirmó que este comportamiento debería descalificar a Grok para cualquier uso federal y renovó su petición a la Oficina de Gestión y Presupuesto de EE.UU. para que intervenga, tras meses sin recibir respuesta.

Citando un estudio reciente de la Universidad de Cornell, Public Citizen señaló que Grokipedia, la nueva alternativa a Wikipedia impulsada por IA y lanzada por Musk en octubre, sacó a la luz repetidamente dominios extremistas, incluido Stormfront, reforzando preocupaciones anteriores que surgieron después de que el modelo se autodenominara “MechaHitler” en la plataforma X de Musk en julio.

Los hallazgos subrayaron lo que los defensores describieron como un patrón de comportamiento racista, antisemita y conspirativo.

“Grok ha mostrado un historial repetido de estos colapsos, ya sea un colapso antisemita, racista o alimentado por teorías de la conspiración”, afirmó J.B. Branch, defensor de la rendición de cuentas de las grandes tecnológicas en Public Citizen, a Decrypt.

La nueva advertencia siguió a las cartas que Public Citizen y otras 24 organizaciones de derechos civiles, derechos digitales, medioambientales y de protección al consumidor enviaron a la OMB en agosto y octubre, instando a la agencia a suspender la disponibilidad de Grok para los departamentos federales a través de su Administración de Servicios Generales, que gestiona la propiedad y adquisiciones federales. El grupo afirmó que no recibió respuesta a ninguna de las solicitudes.

A pesar de los incidentes repetidos, el alcance de Grok en el gobierno ha crecido en el último año. En julio, xAI consiguió un contrato con el Pentágono por $200 millones, y la Administración de Servicios Generales posteriormente puso el modelo a disposición de las agencias federales, junto con Gemini, Meta AI, ChatGPT y Claude. La incorporación se produjo en un momento en que el presidente estadounidense Donald Trump ordenó prohibir la “IA woke” en los contratos federales.

Los defensores dijeron que estas acciones aumentaron la necesidad de escrutinio, especialmente ante las crecientes dudas sobre los datos de entrenamiento y la fiabilidad de Grok.

“Grok estaba inicialmente limitado al Departamento de Defensa, lo que ya era preocupante dado la cantidad de datos sensibles que maneja el departamento”, comentó Branch. “Expandirlo al resto del gobierno federal fue aún más alarmante”.

Branch afirmó que el comportamiento de Grok se debía en parte a sus datos de entrenamiento y a las decisiones de diseño tomadas en las empresas de Musk.

“Hay una diferencia de calidad evidente entre Grok y otros modelos de lenguaje, y parte de ello proviene de sus datos de entrenamiento, que incluyen X”, dijo. “Musk ha dicho que quería que Grok fuera una alternativa anti-woke, y eso se nota en las respuestas vitriólicas”.

Branch también expresó su preocupación por el posible uso del modelo para evaluar solicitudes federales o interactuar con registros personales sensibles.

“Existe una desconexión de valores entre lo que representa Estados Unidos y el tipo de cosas que dice Grok”, indicó. “Si eres una persona judía y solicitas un préstamo federal, ¿quieres que un chatbot antisemita considere tu solicitud? Por supuesto que no”.

Branch dijo que el caso de Grok expuso lagunas en la supervisión federal de los sistemas de IA emergentes, y añadió que los funcionarios del gobierno podrían actuar y eliminar a Grok del calendario de contratos de la Administración de Servicios Generales en cualquier momento, si así lo quisieran.

“Si pueden desplegar tropas de la Guardia Nacional en todo el país en cuestión de horas, sin duda pueden desactivar un chatbot que funciona por API en un día”, afirmó.

xAI no respondió a la solicitud de comentarios de Decrypt.