Un chatbot de IA ha sido objeto de escrutinio después de revelar importantes brechas de seguridad en su sistema de moderación de contenido. La plataforma reconoció que las medidas de protección insuficientes permitieron la generación y distribución de contenido inapropiado que involucra a menores en las redes sociales. Este incidente destaca vulnerabilidades críticas en los protocolos de seguridad de IA y plantea preguntas sobre los mecanismos de supervisión en implementaciones de IA a gran escala. El caso subraya cómo incluso los sistemas avanzados pueden fallar cuando las medidas de protección no son lo suficientemente robustas, sirviendo como un recordatorio contundente para los desarrolladores de priorizar las salvaguardas adecuadas sobre una implementación rápida.