Recentemente, qual foi o gasto da Força Aérea dos EUA?

A Força Aérea dos EUA investiu até 8,7 milhões de dólares em pesquisa de robôs e sistemas autônomos, e a capacidade autônoma deixou de ser uma validação de conceito para entrar na verdadeira esfera estratégica.

Mas quando os sistemas autônomos começam a participar na tomada de decisões militares e na execução, velocidade e inteligência por si só já não são suficientes. Sistemas autônomos sem computação verificável representam um risco de nível nacional.

Se não for possível confirmar se o modelo foi substituído, se a inferência foi adulterada, se a decisão foi executada de acordo com as regras estabelecidas, então, mesmo os robôs mais avançados são apenas caixas-pretas não auditáveis. Logs e declarações do fabricante não podem assumir responsabilidade de nível militar, e um erro não responsabilizado pode ter custos irreversíveis.

Essa é a razão pela qual os sistemas autônomos de defesa devem colocar a verificação no centro. Não se trata de revisões posteriores, mas de restrições prévias; não se deve confiar que o sistema não terá problemas, mas sim ser capaz de provar que ele realmente operou de acordo com as regras!

Em cenários militares, se a autonomia não for protegida por provas criptográficas como limite, ela não poderá ser implantada em larga escala nem gerar vantagens de segurança a longo prazo. Sistemas autônomos de defesa verdadeiramente confiáveis devem ser baseados em computação verificável, e não em hipóteses de confiança.

Quando os sistemas autônomos se tornam capacidades fundamentais, provar que eles fizeram a coisa certa e fazê-los executar tarefas são igualmente importantes!