Uma nova ferramenta de IA do Google DeepMind provou que o protocolo de sinal é seguro

Pesquisadores do Google DeepMind usou IA agente para provar matematicamente, ou “verificar formalmente”, uma série de garantias criptográficas chave do protocolo Signal – um desenvolvimento marcante para a criptografia amplamente utilizada e para a própria IA.

Conduzido como uma espécie de projeto de prova de conceito em apenas quatro semanas, o trabalho é significativo de duas maneiras. Serve como validação independente adicional da criptografia que protege grandes quantidades de comunicações mundiais em plataformas como o aplicativo Signal, Google Messages e WhatsApp. E demonstra os recursos de verificação formal do Google DeepMind usando uma nova estrutura de IA chamada AlphaProof Code.

De forma mais ampla, a verificação formal auxiliada por IA está passando por um momento, mas não está claro até que ponto será prática para uso generalizado e quão eficaz poderá ser na proteção de grandes quantidades de código. Os defensores da verificação formal há muito se referem a ela como uma espécie de Santo Graal na segurança de software, porque ela usa matemática para verificar e validar se o software está funcionando conforme planejado – em outras palavras, se não possui vulnerabilidades críticas.

Antes da era da IA, era extremamente demorado para as pessoas descreverem as características do software que queriam provar, transformar esses resumos em fórmulas e depois desenvolver a prova. A Agentic AI pode reduzir significativamente o tempo do último projeto, permitindo análises como a avaliação de sinal da DeepMind. Mas mesmo esta análise foi limitada em escopo – ela não verificou formalmente, por exemplo, todo o aplicativo móvel Signal – e os pesquisadores da DeepMind enfatizam que suas descobertas são apenas um marco em um processo maior.

“Estamos muito entusiasmados com este resultado, mas ainda há um longo caminho a percorrer antes que possamos escalar isso para todos os softwares do mundo, e queremos fazer isso”, disse Swarat Chaudhuri, cientista pesquisador da DeepMind, à WIRED.

A análise DeepMind não encontrou nenhuma nova vulnerabilidade nas partes do protocolo Signal que examinou, mas quando os pesquisadores usaram o AlphaProof Code em versões mais antigas do Signal que contêm vulnerabilidades conhecidas e corrigidas há muito tempo, ele as identificou corretamente e mostrou que o protocolo não poderia ser verificado formalmente. Os pesquisadores estão divulgando as especificações e provas que desenvolveram para a análise do protocolo Signal para auxiliar outros trabalhos formais de verificação.

Embora a velocidade do projeto tenha sido notável, os pesquisadores da DeepMind apontam que eles conseguiram obter uma vantagem inicial devido a alguns trabalhos de verificação formal anteriores conduzidos pela Signal Foundation.

“Embora a verificação formal prévia se concentrasse em porções menores do código, a abordagem do Google DeepMind permite uma expansão significativa”, disse Ehren Kret, diretor de tecnologia da Signal, em comunicado. “À medida que crescem as ameaças à segurança impulsionadas pela IA, a verificação rigorosa da implementação do protocolo Signal nos dá ainda mais confiança nas garantias de privacidade do nosso código.”

Para serviços críticos usados ​​em ambientes de alto risco, seria um sonho poder verificar formalmente cada base de código e cadeias inteiras de fornecimento de software. “Se agora você pode verificar a exatidão dessas implementações, pode ficar tranquilo”, diz Pushmeet Kohli, cientista-chefe do Google Cloud e vice-presidente de pesquisa da DeepMind. “Você pode imaginar os bancos, imaginar todas aquelas outras empresas que dependem de garantias e que se preocupam com bugs que agora poderiam dizer: ‘Posso provar essas propriedades’”.

A questão em aberto em todo o setor tecnológico, porém, é se a verificação formal automatizada por IA pode realmente ser escalonada – e se pode fazê-lo a um custo viável. A DeepMind conduziu a análise do Signal gratuitamente como um projeto de pesquisa, e o Google se recusou a compartilhar o custo da análise. A empresa também se recusou a comentar se tem planos de lançar um produto ou serviço comercial de verificação formal.

Os pesquisadores dizem que alguns de seus avanços cruciais estão no desenvolvimento de um “processo de colaboração humano-IA”, como diz Chaudhuri, que permite que os agentes contribuam e se autocorrijam em quase todas as fases do processo, ao mesmo tempo em que buscam a contribuição humana e a revisão em momentos-chave. “Não queremos esse tipo de mundo vibrante onde a IA gera os objetivos e a IA gera as provas e basicamente realiza testes escritos por ele mesmo”, diz Chaudhuri. “Existe um meio-termo.”