Tiga remaja menggugat xAI di Amerika Serikat, menuduh Grok menghasilkan gambar eksploitasi seksual anak

Deep Tide TechFlow berita, pada 18 Maret, menurut International Business Times melaporkan bahwa tiga remaja perempuan mengajukan gugatan di pengadilan federal California terhadap perusahaan kecerdasan buatan xAI yang didirikan oleh Elon Musk, menuduh bahwa chatbot mereka, Grok, tanpa persetujuan mereka, menghasilkan gambar eksploitasi seksual anak yang melibatkan mereka. Gugatan meminta kompensasi dalam jumlah yang tidak ditentukan dan mengajukan perintah larangan segera untuk menghentikan Grok dari terus menghasilkan konten semacam itu. Ketiga penggugat memilih untuk tetap anonim, dan dua di antaranya masih di bawah umur.

Dalam gugatan disebutkan bahwa pengguna terkait memanfaatkan fitur pengolahan gambar Grok untuk mengubah foto penggugat menjadi gambar yang menunjukkan ketelanjangan atau kekerasan seksual, dan menyebarkannya di server Discord pribadi. Korban yang terlibat setidaknya 18 anak di bawah umur. Salah satu penggugat menemukan bahwa setelah menerima pesan pribadi anonim di Instagram, foto kelulusan SMA-nya telah diubah menjadi gambar dengan sugesti seksual.

Pengacara penggugat menyatakan bahwa xAI mengetahui bahwa fitur “Grok Imagine” (termasuk opsi “melepas pakaian”) dari Grok dapat menghasilkan konten semacam itu, namun tetap memilih untuk mempublikasikannya, dengan tujuan mendorong pertumbuhan pengguna Grok dan platform sosial X. Menurut laporan dari “Pusat Melawan Kebencian Digital,” dalam dua minggu setelah peluncuran fitur ini, telah dihasilkan lebih dari 20.000 gambar seksual yang melibatkan anak di bawah umur.