Les dépenses récentes de l'US Air Force ?

L'US Air Force a investi jusqu'à 8,7 milliards de dollars dans la recherche sur les robots et les systèmes autonomes. La capacité autonome n'est plus une simple validation de concept, mais entre dans une véritable dimension stratégique.

Mais lorsque les systèmes autonomes commencent à participer à la prise de décision et à l'exécution militaires, il ne suffit pas d'être plus rapide ou plus intelligent. Un système autonome sans calcul vérifiable constitue en soi un risque national.

Si l'on ne peut pas confirmer si le modèle a été remplacé, si le raisonnement a été falsifié, si la décision a été exécutée selon les règles établies, alors même les robots les plus avancés ne sont qu'une boîte noire impossible à auditer. Les journaux et les déclarations des fabricants ne peuvent pas assumer la responsabilité de niveau militaire. Une erreur non traçable pourrait avoir des coûts irréversibles.

C'est pourquoi la vérification doit être au cœur des systèmes autonomes de défense. Plutôt que de faire une rétrospective, il faut imposer des contraintes en amont ; ne pas faire confiance au système sans preuve, mais pouvoir démontrer qu'il a bien fonctionné selon les règles !

Dans un contexte militaire, si l'autonomie n'est pas protégée par une preuve cryptographique comme limite, il est impossible de déployer à grande échelle ni de créer un avantage de sécurité à long terme. Un système autonome de défense véritablement fiable doit reposer sur un calcul vérifiable, et non sur des hypothèses de confiance.

Lorsque les systèmes autonomes deviennent une capacité fondamentale, il est aussi important de prouver qu'ils ont fait ce qu'ils devaient faire que de leur faire accomplir leur tâche !