Mantan CEO Google, Eric Schmidt, baru-baru ini mengeluarkan pernyataan mengejutkan: model AI tidak hanya semakin kuat, tetapi juga mudah diretas, bahkan dampaknya bisa melebihi senjata nuklir.

Dalam Sifted Summit, Schmidt secara blak-blakan mengatakan bahwa orang jahat dapat membongkar perlindungan keamanan AI melalui dua metode serangan, yaitu "jailbreak" dan "prompt injection". Misalnya, pada insiden jailbreak DAN yang terkenal di ChatGPT, pengguna mengancam akan "menghapus" kepribadian virtual tersebut, sehingga AI terpaksa menjelaskan perilaku ilegal.

Yang paling menyedihkan—saat ini sama sekali belum ada "mekanisme anti-proliferasi global" untuk mengatur AI. Senjata nuklir saja punya kerangka pengawasan, sedangkan AI tidak.

Namun Schmidt juga bilang, AI sebenarnya masih diremehkan. ChatGPT mencapai 100 juta pengguna hanya dalam dua bulan, ini menunjukkan potensi teknologi ini benar-benar luar biasa. Dia yakin AI akan jauh melampaui kemampuan manusia, dan tidak seperti gelembung internet, imbal hasil ekonomi dari AI dalam jangka panjang sangat besar.

Singkatnya: AI sangat hebat dan sangat berbahaya, tapi belum cukup disadari seberapa hebat dan berbahayanya teknologi ini.