¿Consumo reciente de la Fuerza Aérea de EE. UU.?

La Fuerza Aérea de EE. UU. ha invertido hasta 8,700 millones de dólares en investigación de robots y sistemas autónomos. La capacidad autónoma ya no es solo una prueba de concepto, sino que ha entrado en un nivel estratégico real.

Pero cuando los sistemas autónomos comienzan a participar en decisiones y ejecuciones militares, solo ser más rápidos e inteligentes no es suficiente. Sin sistemas autónomos con capacidad de cálculo verificable, ya es un riesgo a nivel nacional.

Si no se puede confirmar si el modelo ha sido reemplazado, si la inferencia ha sido manipulada, si la decisión se ha ejecutado según las reglas establecidas, incluso los robots más avanzados son solo una caja negra no auditada. Los registros y declaraciones del fabricante no pueden asumir responsabilidad a nivel militar; un error sin posibilidad de responsabilidad puede tener un costo irreversible.

Por eso, los sistemas autónomos de defensa deben poner la verificación en el centro. No se trata de revisar después, sino de establecer restricciones antes; no se debe confiar en que el sistema esté bien, sino en poder demostrar que realmente ha operado según las reglas.

En escenarios militares, si la autonomía no está respaldada por pruebas criptográficas como frontera, no se puede desplegar a escala ni formar una ventaja de seguridad a largo plazo. Los sistemas de defensa autónomos verdaderamente confiables deben basarse en cálculos verificables, no en suposiciones de confianza.

Cuando los sistemas autónomos se convierten en capacidades básicas, demostrar que hicieron lo correcto y hacer que hagan las cosas son igualmente importantes!