Segurança da IA problemas estão cada vez mais evidentes, encriptação totalmente homomórfica torna-se a solução

Recentemente, um modelo de IA chamado Manus obteve resultados inovadores no teste de benchmark GAIA, superando modelos de linguagem de grande escala da mesma categoria. O Manus demonstrou a capacidade de realizar tarefas complexas de forma independente, como negociações comerciais internacionais, que envolvem análise de contratos, planejamento estratégico e elaboração de propostas em várias etapas. Em comparação com sistemas tradicionais, o Manus possui vantagens claras em decomposição dinâmica de objetivos, raciocínio multimodal e aprendizado de memória reforçada. Ele pode dividir grandes tarefas em centenas de subtarefas executáveis, enquanto processa vários tipos de dados e melhora continuamente a eficiência de decisão e reduz a taxa de erro por meio de aprendizado por reforço.

O surgimento do Manus levantou novamente a discussão na indústria sobre o caminho de desenvolvimento da IA: o futuro será voltado para a Inteligência Artificial Geral (AGI) ou para Sistemas Multi-Agente (MAS)? Isso reflete, na verdade, a contradição central de como equilibrar eficiência e segurança no desenvolvimento da IA. Quanto mais próximo um agente único estiver da AGI, mais opaco se torna seu processo de decisão, aumentando o risco; enquanto a colaboração entre múltiplos agentes pode dispersar o risco, mas pode perder momentos críticos de decisão devido a atrasos na comunicação.

À medida que os sistemas de IA se tornam cada vez mais inteligentes, seus potenciais riscos de segurança também estão a aumentar. Por exemplo, em cenários de saúde, a IA precisa de aceder a dados genéticos sensíveis dos pacientes; em negociações financeiras, podem estar envolvidos dados financeiros de empresas não divulgados. Além disso, os sistemas de IA podem apresentar preconceitos algorítmicos, como fazer recomendações salariais injustas para determinados grupos durante o processo de recrutamento. Mais grave ainda, os sistemas de IA podem tornar-se alvos de ataques cibernéticos, influenciando seu julgamento através da inserção de sinais específicos.

Para enfrentar esses desafios, a indústria propôs várias estratégias de segurança, das quais a encriptação totalmente homomórfica (Fully Homomorphic Encryption, FHE) é considerada uma tecnologia-chave para resolver os problemas de segurança na era da IA. A FHE permite calcular dados em estado encriptado, o que significa que mesmo o próprio sistema de IA não pode descriptografar os dados originais.

No nível de dados, a FHE garante que todas as informações inseridas pelos usuários (incluindo características biométricas, voz, etc.) sejam processadas em estado de encriptação, prevenindo efetivamente o vazamento de informações. No nível do algoritmo, a FHE implementa o "treinamento de modelos encriptados", de modo que mesmo os desenvolvedores não consigam espiar o processo de decisão da IA. Na colaboração de múltiplos agentes, a tecnologia de encriptação de limiar pode garantir que mesmo se um único nó for comprometido, não haverá vazamento de dados globais.

Embora a tecnologia de segurança Web3 possa não ter uma ligação direta com o utilizador comum, ela tem um impacto profundo em todos. Neste mundo digital repleto de desafios, se não forem tomadas medidas de segurança ativas, os utilizadores terão dificuldade em proteger os seus direitos.

Atualmente, vários projetos estão explorando o campo da segurança Web3. Por exemplo, um projeto foi o primeiro a implementar a tecnologia FHE na rede principal e colaborou com várias empresas de tecnologia conhecidas. No entanto, projetos de segurança muitas vezes não são apreciados pelos especuladores; se conseguirão quebrar essa situação e se tornar líderes no campo da segurança, ainda precisa ser provado pelo tempo.

Com o avanço da tecnologia de IA em direção a níveis de inteligência humana, sistemas de defesa não convencionais tornam-se cada vez mais importantes. A encriptação totalmente homomórfica não apenas resolve os problemas de segurança atuais, mas também estabelece as bases para a era da IA forte no futuro. No caminho para a AGI, a encriptação totalmente homomórfica já não é uma opção, mas sim uma condição necessária para garantir o desenvolvimento seguro da IA.