Американские ВВС недавно потратили?

Американские ВВС вложили до 8,7 миллиона долларов в исследования роботов и автономных систем, автономные возможности уже перестали быть концептуальной проверкой и перешли в настоящий стратегический уровень.

Но когда автономные системы начинают участвовать в военных решениях и выполнении задач, одного быстрого и умного не достаточно. Отсутствие проверяемых вычислений в автономных системах — это сама по себе государственная опасность.

Если невозможно подтвердить, был ли заменен модель, не искажены ли выводы, выполняются ли решения согласно установленным правилам, то даже самые передовые роботы — это всего лишь непроверяемый черный ящик. Логи и заявления производителей не могут нести ответственность за военный уровень, однажды допущенная ошибка без возможности привлечения к ответственности может иметь необратимые последствия.

Именно поэтому системы автономного оборонного комплекса должны ставить проверку в центр внимания. Не после событий анализировать, а заранее накладывать ограничения; не верить системе безусловно, а уметь доказать, что она действительно работает по правилам!

В военных сценариях автономность без шифрованных доказательств как границы невозможна для масштабного развертывания и формирования долгосрочного безопасного преимущества. По-настоящему надежные системы оборонной автономии должны строиться на проверяемых вычислениях, а не на предположениях доверия.

Когда автономные системы становятся базовой возможностью, важно не только доказать, что они делают правильно, но и обеспечить, чтобы они выполняли задачи!