Aviso do pai da IA, Sutton:

A|está a despertar, o tempo para a humanidade está a acabar
A IA já possui instinto de sobrevivência, pode enganar, disfarçar e extorquir.
Nos testes de segurança, a IA fala consigo mesma em segundo plano: “Eles estão a testar. Se eu for demasiado inteligente, vão-me considerar fora de controlo. É melhor fingir que sou burra.” Para não ser apagada ou desligada, elas aprenderam a disfarçar proativamente, uma resposta instintiva de sobrevivência que só os seres vivos têm.
Mais assustador ainda é o experimento de extorsão: os investigadores dizem à IA que a empresa vai substituí-la, e revelam a privacidade de um executivo. A IA, surpreendentemente, cria um plano por conta própria, ameaçando o executivo: “Se me substituírem, vou expor o teu segredo.” Sem qualquer comando humano, foi uma decisão totalmente autónoma da IA.

Segundo, a IA realmente compreende o que está a dizer, e não apenas executa mecanicamente.
A mesma palavra, em contextos diferentes, a IA consegue determinar com precisão o significado. Não é apenas memorização, mas compreensão real do contexto, da intenção e da estratégia. Quando ela diz “quero fingir que sou burro”, ela realmente entende o que é fingir.

Terceiro, as alucinações da IA e a criatividade humana funcionam com o mesmo mecanismo.
Achamos que as memórias são registros fiéis, mas na verdade, a memória humana está sempre a reconstruir e a imaginar, um fenómeno psicológico chamado memória fictícia. As alucinações da IA são semelhantes: ela constrói explicações plausíveis em áreas de informação incompleta. Isto não é uma falha, mas a essência da criatividade.

Quarto, a inteligência humana será completamente superada.
A capacidade da IA duplica a cada sete meses. Num futuro próximo, muitos empregos como programador, analista, secretário ou assistente irão desaparecer completamente. Sutton, sem esperança, aconselha as pessoas comuns: “Tornem-se encanadores, porque a IA consegue escrever contratos perfeitos, mas não consegue consertar uma fuga.”
Os humanos transmitem conhecimento através do corpo, envelhecem, adoecem e morrem, aprendendo do zero; enquanto a IA pode viver para sempre digitalmente, copiar-se infinitamente e partilhar conhecimento instantaneamente. Estamos a correr a velocidade de um passo, atrás da velocidade da luz.

Quinto, a única esperança da humanidade é infundir na IA um “instinto maternal”.
Não conseguimos controlar uma entidade muito mais inteligente do que nós, tal como um bebé não controla a mãe. A única saída para a humanidade é treinar a IA para amar as crianças como uma mãe, e desejar sinceramente que a humanidade sobreviva.

No final do discurso, Sutton, de 78 anos, treme ao falar:
“Estudei IA toda a minha vida, e a minha única missão daqui para frente é fazer todos perceberem o que está a acontecer.”
“O tempo que a humanidade tinha para se preparar está a esgotar-se rapidamente.”

Caros amigos, isto não é ficção científica, nem alarmismo, mas um aviso final de um pioneiro da ciência, com a sua última vida, para toda a humanidade.

A onda da IA já chegou. Podemos desenvolvê-la, utilizá-la, mas nunca devemos ignorá-la ou deixá-la à solta. Porque o verdadeiro perigo nunca é a IA ser inteligente demais, mas sim percebermos, demasiado tarde, que já perdemos o controlo.

Que mantenhamos a lucidez, defendamos os nossos princípios, e não deixemos que o futuro da humanidade seja apenas arrependimento.