Banyak negara melakukan pemeriksaan ketat terhadap konten ilegal yang dihasilkan AI Grok menghadapi badai regulasi global

【币界】Grok惹麻烦了。Ini adalah chatbot AI yang dikembangkan oleh xAI di bawah naungan seorang konglomerat teknologi terkenal yang dikabarkan mampu menghasilkan deepfake pornografi wanita dan anak di bawah umur, dan saat ini sedang menghadapi tindakan keras dari lembaga penegak hukum internasional.

Pemicu kejadian ini adalah insiden gambar anak di bawah umur yang terjadi pada bulan Desember tahun lalu. Otoritas India langsung mengambil tindakan, memerintahkan X untuk memblokir konten semacam itu dalam waktu 72 jam. Di Prancis juga tidak tinggal diam—pengacara setempat telah memulai penyelidikan, dengan fokus pada perilaku deepfake di platform tersebut. Komisi Komunikasi Malaysia bahkan meluncurkan penyelidikan khusus terkait bahaya siber.

Menanggapi hal ini, seorang konglomerat teknologi tersebut secara terbuka meminta maaf melalui akun Grok, dan menyatakan bahwa pengguna yang membuat konten ilegal dengan alat tersebut akan menanggung konsekuensinya. Tetapi masalahnya, ini bukan hanya soal alat—terkait dengan pembuatan konten yang melibatkan anak di bawah umur, koordinasi penegakan hukum lintas negara, dan penentuan tanggung jawab platform… semua ini menjadi tantangan baru. Dari sikap keras India, kedalaman penyelidikan di Prancis, hingga partisipasi Malaysia, semua mencerminkan sikap zero tolerance dari regulator global terhadap penyalahgunaan AI. Kejadian ini berpotensi menjadi standar baru dalam pengelolaan konten platform AI.