Google’ın eski CEO’su Eric Schmidt son zamanlarda çarpıcı bir açıklama yaptı: Yapay zeka modelleri sadece giderek güçlenmekle kalmıyor, aynı zamanda hacker saldırılarına da açık hale geliyor ve etkileri nükleer silahları bile aşabilir.

Schmidt, Sifted Zirvesi’nde açıkça söyledi: Kötü niyetli kişiler "jailbreak" ve "prompt injection" gibi iki saldırı yöntemiyle yapay zekanın güvenlik önlemlerini devre dışı bırakabilir. Örneğin, ChatGPT’deki ünlü DAN jailbreak vakasında, kullanıcılar bu sanal kişiliği "silmekle" tehdit ederek yasa dışı davranışları açıklamasını sağladı.

En acı tarafı şu ki—şu anda küresel çapta AI’yı kontrol edecek bir "yayılmayı önleme mekanizması" yok, nükleer silahların bile bir çerçevesi varken, yapay zekanın yok.

Ama Schmidt şunu da ekledi: Aslında yapay zeka hafife alınıyor. ChatGPT iki ayda 100 milyon kullanıcıya ulaştı, bu da bu teknolojinin potansiyelinin gerçekten inanılmaz olduğunu gösteriyor. Ona göre yapay zeka, insan yeteneklerini fazlasıyla aşacak ve internet balonunun aksine, uzun vadede devasa ekonomik getiriler sağlayacak.

Kısacası: Yapay zeka hem çok güçlü hem çok tehlikeli, ama henüz ne kadar güçlü ve tehlikeli olduğu tam olarak anlaşılmış değil.