Manus traz os primeiros vislumbres de AGI, que merece uma reflexão sobre a Segurança da IA

Autor: 0xResearcher

Manus obteve um desempenho SOTA (Estado da Arte) nos testes de benchmark GAIA, mostrando que sua performance supera a de grandes modelos comparáveis ​​à Open AI. Em outras palavras, ele é capaz de realizar tarefas complexas de forma independente, como negociações comerciais internacionais, envolvendo decomposição de cláusulas contratuais, previsão estratégica, geração de planos e até mesmo coordenação entre equipes jurídicas e financeiras. Em comparação com sistemas tradicionais, a vantagem do Manus está em sua capacidade de decomposição dinâmica de metas, capacidade de raciocínio multimodal e capacidade de aprendizado com reforço de memória aprimorada. Ele consegue decompor tarefas grandes em centenas de sub-tarefas executáveis, lidar com vários tipos de dados e melhorar continuamente sua eficiência de tomada de decisões, reduzindo a taxa de erros.

Diante do rápido desenvolvimento da tecnologia, Manus mais uma vez provocou divergências na comunidade sobre o caminho da evolução da IA: será que o futuro pertence inteiramente à AGI ou será que a MAS vai liderar em colaboração?

Tudo começa com a filosofia de design da Manus, que sugere duas possibilidades:

Um é a rota AGI. Aumentando continuamente o nível de inteligência individual para se aproximar da capacidade de tomada de decisão integrada do ser humano.

Outra opção é o caminho MAS. Como super coordenador, dirige milhares de Agentes em campos verticais para operações coordenadas.

Superficialmente, estamos discutindo diferentes divergências de caminhos, mas na verdade estamos discutindo as contradições subjacentes ao desenvolvimento da IA: como equilibrar eficiência e segurança? À medida que a inteligência singular se aproxima da AGI, o risco de caixa-preta na tomada de decisões aumenta; enquanto a colaboração de vários agentes pode dispersar o risco, pode também perder oportunidades críticas de decisão devido a atrasos na comunicação.

A evolução do Manus ampliou invisivelmente os riscos inerentes ao desenvolvimento da IA. Por exemplo, o buraco negro da privacidade dos dados: em cenários médicos, o Manus precisa acessar os dados genômicos dos pacientes em tempo real; durante negociações financeiras, pode-se tocar em informações não divulgadas das demonstrações financeiras corporativas; como a armadilha de preconceitos algorítmicos, no processo de recrutamento, o Manus faz sugestões salariais abaixo da média para candidatos de certos grupos étnicos; a taxa de erro na interpretação de cláusulas de contratos legais de setores emergentes chega a quase cinquenta por cento. Além disso, para combater vulnerabilidades de ataques, hackers podem implantar frequências vocais específicas para fazer com que o Manus interprete erroneamente o intervalo de preços oferecido pelo oponente durante as negociações.

Temos que enfrentar um ponto doloroso dos sistemas de IA: quanto mais inteligente o sistema, maior a superfície de ataque.

No entanto, a segurança tem sido uma palavra constantemente mencionada no web3, e sob o quadro do Triângulo Impossível de V (a impossibilidade de rede blockchain alcançar simultaneamente segurança, descentralização e escalabilidade), também surgiram várias formas de criptografia:

• Modelo de Segurança Zero Trust: O cerne do Modelo de Segurança Zero Trust é “não confiar em ninguém, sempre verificar”, ou seja, não se deve confiar automaticamente em nenhum dispositivo, independentemente de estar na rede interna. Este modelo enfatiza a rigorosa autenticação e autorização de cada pedido de acesso para garantir a segurança do sistema.
• Identidade Descentralizada (Decentralized Identity, DID): DID é um conjunto de padrões de identificação que permite que entidades obtenham identificação de forma verificável e duradoura sem a necessidade de um registro centralizado. Isso realiza um novo modelo de identidade digital descentralizada, frequentemente associado à soberania da identidade, e é uma parte importante do Web3.
• Criptografia Totalmente Homomórfica (Fully Homomorphic Encryption, FHE) é uma tecnologia avançada de criptografia que permite a execução de cálculos arbitrários em dados criptografados sem descriptografá-los. Isso significa que terceiros podem manipular textos cifrados e os resultados obtidos após a descriptografia são consistentes com os resultados da mesma operação sobre o texto simples. Essa característica é de grande importância em cenários onde é necessário realizar cálculos sem expor os dados originais, como computação em nuvem e terceirização de dados.

O modelo de segurança de confiança zero e o DID têm tido um certo número de projetos desafiadores durante vários touros de mercado, alguns deles têm tido sucesso, enquanto outros foram submersos na onda criptográfica, e como a forma mais jovem de criptografia: Criptografia totalmente homomórfica (Fully Homomorphic Encryption, FHE) também é uma grande arma para resolver os problemas de segurança na era da IA. A criptografia totalmente homomórfica (FHE) é uma técnica que permite a realização de cálculos em dados criptografados.

Como resolver?

Em primeiro lugar, em termos de dados. Todas as informações fornecidas pelos usuários (incluindo características biológicas e tom de voz) são processadas em estado criptografado, de forma que nem mesmo o próprio Manus consiga decifrar os dados originais. Por exemplo, em casos de diagnóstico médico, os dados do genoma do paciente são analisados integralmente em formato de texto cifrado, evitando assim a exposição de informações biológicas.

No nível do algoritmo. O “treinamento do modelo criptografado” realizado por FHE impede até mesmo os desenvolvedores de espiar o caminho de decisão da IA.

Ao nível da colaboração. A comunicação entre vários Agentes é criptografada com limites, e a violação de um único nó não resultará numa divulgação global de dados. Mesmo durante um exercício de ataque e defesa da cadeia de abastecimento, os invasores não conseguem obter uma visão completa do negócio depois de penetrarem em vários Agentes.

Devido a limitações técnicas, a segurança web3 pode não estar diretamente relacionada com a maioria dos usuários, mas tem benefícios indiretos intricados. Nesta floresta escura, se não se armar ao máximo, nunca escapará do dia de ser um ‘’.

• uPort foi lançado na mainnet do Ethereum em 2017 e pode ter sido o primeiro projeto de Identidade Descentralizada (DID) a ser lançado na mainnet.
• ​E em termos de modelo de segurança de confiança zero, NKN lançou sua mainnet em 2019.
• Mind Network é o primeiro projeto FHE a ser lançado na mainnet e é o primeiro a colaborar com ZAMA, Google, DeepSeek, entre outros.

uPort e NKN já são projetos que o editor nunca ouviu falar, parece que os projetos de segurança realmente não chamam a atenção dos especuladores. Será que a Mind Network pode escapar dessa maldição e se tornar um líder no campo da segurança? Vamos aguardar e ver.

O futuro já chegou. À medida que a IA se torna mais próxima da inteligência humana, mais necessária se torna a existência de sistemas defensivos não humanos. O valor do FHE não é apenas resolver problemas atuais, mas também pavimentar o caminho para a era da IA forte. Na árdua jornada em direção à AGI, o FHE não é uma opção, mas sim uma necessidade de sobrevivência.