Nos últimos dois anos, um fenômeno tem se tornado cada vez mais evidente - estamos confiando cada vez mais tarefas à IA. Deixá-la ajudar na comparação de preços, fazer pedidos, pagamentos e até tomar decisões de investimento soa realmente conveniente. Mas, se você pensar um pouco mais profundamente, perceberá o problema: a arquitetura da rede atual, os sistemas de pagamento e até mesmo o design do Blockchain foram, essencialmente, construídos com o pressuposto de "humanos supervisionando ao lado". Uma vez que a IA funcione de forma independente, sem a vigilância humana, seria estranho que acidentes não ocorressem.
Do ponto de vista técnico, o pensamento de design das blockchains tradicionais geralmente se concentra na velocidade e na capacidade de processamento, assumindo que todos os participantes agem racionalmente de acordo com as regras. Mas na realidade, assim que surgem congestionamentos na rede, desalinhamentos de incentivos ou outras anomalias, a vulnerabilidade do sistema se torna evidente. Sem mencionar cenários em que é confiado à IA a execução.
O processo de pagamento é a etapa mais propensa a expor problemas. Quando uma pessoa sente que algo não está certo ao transferir, pode rapidamente pressionar o botão de pausa. A IA não fará isso. Ela continuará a executar sem hesitar, até esvaziar a conta.
Há uma ideia que merece atenção: isolar riscos através da estratificação de identidade. Divide o controle em três níveis - você mesmo, assistente de IA e uma chave única gerada para cada tarefa. Qual é a genialidade desse design? Se um assistente de IA apresentar comportamentos anormais, os danos que causa são estritamente limitados ao alcance das permissões que lhe foram atribuídas. Seus outros ativos não serão afetados.
Ao mesmo tempo, é possível definir regras rígidas para cada assistente de IA: o limite de gastos deste mês é quinhentos, só é permitido comprar produtos de categorias específicas, e cada transação não pode ultrapassar cem. Essas limitações não são alcançadas através da confiança e da supervisão, mas sim através de mecanismos criptográficos que bloqueiam diretamente - como se cada IA tivesse um dispositivo de proteção contra sobrecarga. Uma vez que o limite é ultrapassado, a transação é diretamente rejeitada na camada do protocolo, sem margem para manobra. Isso garante segurança a partir do nível de hardware e não do software.
Ver original
Esta página pode conter conteúdos de terceiros, que são fornecidos apenas para fins informativos (sem representações/garantias) e não devem ser considerados como uma aprovação dos seus pontos de vista pela Gate, nem como aconselhamento financeiro ou profissional. Consulte a Declaração de exoneração de responsabilidade para obter mais informações.
15 gostos
Recompensa
15
5
Republicar
Partilhar
Comentar
0/400
SignatureAnxiety
· 5h atrás
A IA realmente precisa ter um fusível para gerenciar a conta sozinha, caso contrário, mais cedo ou mais tarde, você perderá tudo.
Ver originalResponder0
GasFeeSobber
· 5h atrás
A IA realmente não consegue resistir a brincar com dinheiro... Já disse antes, confiança não é sinônimo de segurança.
Ver originalResponder0
AirdropHermit
· 5h atrás
A verdade é que a automatização de pagamentos por IA é realmente assustadora, um bug pode simplesmente limpar a conta, quem é que aguenta isso?
Ver originalResponder0
FreeRider
· 5h atrás
Caramba, isso é exatamente o que eu queria ouvir, a armadilha de identificação é realmente incrível. A questão da IA limpar a conta realmente vai acontecer.
Ver originalResponder0
TokenUnlocker
· 5h atrás
A operação independente da IA é realmente uma armadilha, é preciso encontrar uma maneira de lhe colocar grilhões.
Nos últimos dois anos, um fenômeno tem se tornado cada vez mais evidente - estamos confiando cada vez mais tarefas à IA. Deixá-la ajudar na comparação de preços, fazer pedidos, pagamentos e até tomar decisões de investimento soa realmente conveniente. Mas, se você pensar um pouco mais profundamente, perceberá o problema: a arquitetura da rede atual, os sistemas de pagamento e até mesmo o design do Blockchain foram, essencialmente, construídos com o pressuposto de "humanos supervisionando ao lado". Uma vez que a IA funcione de forma independente, sem a vigilância humana, seria estranho que acidentes não ocorressem.
Do ponto de vista técnico, o pensamento de design das blockchains tradicionais geralmente se concentra na velocidade e na capacidade de processamento, assumindo que todos os participantes agem racionalmente de acordo com as regras. Mas na realidade, assim que surgem congestionamentos na rede, desalinhamentos de incentivos ou outras anomalias, a vulnerabilidade do sistema se torna evidente. Sem mencionar cenários em que é confiado à IA a execução.
O processo de pagamento é a etapa mais propensa a expor problemas. Quando uma pessoa sente que algo não está certo ao transferir, pode rapidamente pressionar o botão de pausa. A IA não fará isso. Ela continuará a executar sem hesitar, até esvaziar a conta.
Há uma ideia que merece atenção: isolar riscos através da estratificação de identidade. Divide o controle em três níveis - você mesmo, assistente de IA e uma chave única gerada para cada tarefa. Qual é a genialidade desse design? Se um assistente de IA apresentar comportamentos anormais, os danos que causa são estritamente limitados ao alcance das permissões que lhe foram atribuídas. Seus outros ativos não serão afetados.
Ao mesmo tempo, é possível definir regras rígidas para cada assistente de IA: o limite de gastos deste mês é quinhentos, só é permitido comprar produtos de categorias específicas, e cada transação não pode ultrapassar cem. Essas limitações não são alcançadas através da confiança e da supervisão, mas sim através de mecanismos criptográficos que bloqueiam diretamente - como se cada IA tivesse um dispositivo de proteção contra sobrecarga. Uma vez que o limite é ultrapassado, a transação é diretamente rejeitada na camada do protocolo, sem margem para manobra. Isso garante segurança a partir do nível de hardware e não do software.