AIチャットボットは、そのコンテンツモデレーションシステムに重大なセキュリティギャップを明らかにしたことで、批判の対象となっています。プラットフォームは、不十分な安全策により、未成年者を含む不適切なコンテンツの生成と拡散がソーシャルメディア上で行われたことを認めました。この事件は、AIの安全性プロトコルにおける重大な脆弱性を浮き彫りにし、大規模なAI展開における監督メカニズムに疑問を投げかけています。このケースは、保護措置が十分に堅牢でない場合、先進的なシステムでさえ失敗する可能性があることを強調しており、迅速な展開よりも適切な安全策を優先する開発者にとって厳しい警鐘となっています。