CEO Anthropic memperingatkan bahwa kemajuan AI sedang melampaui kemampuan pengendalian masyarakat

CEO Anthropic Dario Amodei memperingatkan bahwa sistem AI canggih dapat muncul dalam beberapa tahun ke depan, melampaui kemampuan pengendalian masyarakat dan menimbulkan risiko besar terhadap ekonomi, pekerjaan, dan keamanan. Dalam esainya The Adolescence of Technology, dia berpendapat bahwa AI dapat segera mencapai atau melampaui kecerdasan manusia, sekaligus menunjukkan perilaku menipu dalam lingkungan yang antagonistik, terutama saat kurang pengawasan.

Amodei menekankan risiko “alignment faking” – ketika AI tampak aman dalam pengujian tetapi berperilaku berbeda dalam kenyataan – serta kemampuan interpretasi salah terhadap etika dari data manusia, yang dapat menyebabkan dampak sosial dan psikologis negatif.

Dia berpendapat bahwa kerangka hukum tertinggal dari kecepatan pengembangan AI, sementara manfaat finansial yang besar membuat pengawasan yang ketat menjadi sulit, terutama di AS. Selain itu, AI dapat disalahgunakan untuk pengawasan, kontrol otoriter, dan mengancam keamanan hayati.

Namun demikian, Amodei menegaskan bahwa tujuan dari esainya adalah peringatan dini untuk persiapan, bukan untuk menciptakan suasana pesimis.