За последние два года наблюдается все более заметный феномен — мы передаем все больше задач ИИ для выполнения. Поручить ему сравнение цен, размещение заказов, оплату и даже принятие инвестиционных решений звучит действительно удобно. Но если немного углубиться в размышления, можно заметить проблему: нынешняя архитектура сети, платежные системы и даже проектирование Блокчейн по сути основаны на предпосылке "человек рядом для контроля". Как только ИИ действительно начнет работать независимо, и если не будет человека, следящего за ним, происшествие станет странным.

С технической точки зрения, дизайн традиционного Блокчейн часто сосредоточен на скорости и пропускной способности, предполагая, что все участники действуют рационально в соответствии с правилами. Но на практике, как только возникают проблемы с перегрузкой сети, неправильным стимулированием или другими аномальными ситуациями, уязвимость системы становится очевидной. И уж не говоря о сценариях, в которых выполняются задачи с помощью ИИ.

Процесс платежей — это самый уязвимый этап, где могут возникнуть проблемы. Человек, чувствуя что-то неладное при переводе, может нажать кнопку паузы. Искусственный интеллект этого не сделает. Он будет без колебаний продолжать выполнение, пока не опустошит счет.

Есть интересная идея, на которую стоит обратить внимание: изоляция рисков через многоуровневую идентификацию. Контроль разделен на три уровня — вы сами, AI-помощник и одноразовый ключ, генерируемый для каждой задачи. В чем же заключается изящество такого дизайна? Если у какого-то AI-помощника возникают аномальные действия, ущерб, который он может причинить, строго ограничен в пределах предоставленных ему прав. Ваши другие активы не пострадают.

В то же время можно установить жесткие правила для каждого AI-ассистента: лимит расходов на этот месяц составляет пятьсот, можно покупать только товары определенной категории, а одна транзакция не должна превышать ста. Эти ограничения не реализуются за счет доверия и регулирования, а непосредственно блокируются с помощью криптографических механизмов - как будто каждому AI установлен защитный механизм от утечки тока. Как только лимит превышен, транзакция напрямую отклоняется на уровне протокола, без каких-либо вариантов для маневра. Это обеспечивает безопасность на аппаратном уровне, а не на программном.