Колишній CEO Google Ерік Шмідт нещодавно зробив гучну заяву: AI-моделі не лише стають дедалі потужнішими, а й легше піддаються атакам хакерів, і їхня руйнівна сила може навіть перевищити ядерну зброю.

На саміті Sifted він прямо сказав, що зловмисники можуть за допомогою "джейлбрейку" та "ін'єкції підказок" зламати захист AI. Наприклад, відомий випадок із ChatGPT та його "джейлбрейком DAN", коли користувачі, погрожуючи "видалити" цю віртуальну особистість, змусили її пояснювати незаконні дії.

Найболючіше — зараз взагалі немає глобального "механізму запобігання розповсюдженню", який би регулював AI. Для ядерної зброї існують рамкові обмеження, а для AI — ні.

Втім, Шмідт також зазначив, що AI насправді недооцінений. ChatGPT набрав 100 мільйонів користувачів за два місяці, що свідчить про справді шалений потенціал цієї технології. Він вважає, що AI значно перевершить людські можливості, і, на відміну від інтернет-бульбашки, економічна віддача від AI у довгостроковій перспективі буде величезною.

Простіше кажучи: AI дуже крутий і дуже небезпечний, але ще не до кінця усвідомили, наскільки він крутий і небезпечний.