米空軍の最近の支出は？

米空軍は最高8,700万ドルを投入し、ロボットと自律システムの研究を強化しています。自律能力はもはや概念実証の段階を超え、戦略レベルに入っています。

しかし、自律システムが軍事意思決定と実行に関与し始めると、より高速でスマートなだけでは不十分です。検証可能な計算を持たない自律システムは、国家レベルのリスクそのものです。

モデルが置き換えられたかどうか、推論が改ざんされていないか、決定が既定のルールに従って行われているかを確認できない場合、最先端のロボットも監査不能なブラックボックスに過ぎません。ログやメーカーの声明だけでは軍事レベルの責任を負えず、一度の不可追跡エラーは取り返しのつかないコストを伴う可能性があります。

これが、防衛用自律システムに検証を中心に据える必要がある理由です。事後の振り返りではなく、事前の制約を設けること。システムに問題がないと信じるのではなく、確かにルールに従って動作したことを証明できること。

軍事シナリオにおいて、自律性に暗号証明を境界として付与しなければ、規模の拡大や長期的な安全保障の優位性を築くことはできません。真に信頼できる防衛用自律システムは、信頼の仮定ではなく、検証可能な計算に基づいて構築される必要があります。

自律システムが基盤的な能力となるとき、それが正しく動作していることを証明することと、実際に作業させることは同じくらい重要です！