Modelos chineses gratuitos de IA estão se tornando assustadores em hackear
Inteligência artificial de peso aberto os modelos são agora quase tão capazes de invadir redes de computadores quanto os melhores modelos fechados, de acordo com uma nova pesquisa que anuncia um ponto de viragem muito aguardado no cenário da segurança cibernética.
Vals, uma empresa que mede capacidades de IA, decidiu testar até que ponto diferentes modelos de IA poderiam executar instruções de rede complexas e de várias etapas em redes corporativas simuladas.
“Os melhores modelos de fronteira, trancados dentro dos laboratórios e disponíveis apenas através de programas de acesso confiável, estão agora começando a ser acompanhados por modelos abertos que qualquer pessoa pode baixar”, diz Nikil Rav, pesquisador da Vals.
As descobertas da empresa sugerem que os modelos fechados já não têm uma vantagem definitiva em competências cibernéticas, o que significa que os esforços recentes dos laboratórios fronteiriços para limitar o acesso aos seus modelos e, assim, retardar a proliferação de tais capacidades, podem ser potencialmente discutíveis.
As descobertas também são dignas de nota, dado que os laboratórios fronteiriços dos EUA, particularmente a Anthropic, basearam o lançamento limitado de novos modelos – começando com Claude Mythos Preview em Abril – na ideia de que o acesso fechado apenas ganharia tempo antes que capacidades avançadas de hacking estivessem amplamente disponíveis.
O líder da equipe vermelha de fronteira da Anthropic, Logan Graham, disse à WIRED em abril que o Projeto Glasswing da empresa, que dá acesso confiável a todos os recursos de novos modelos, estava focado em colocar essas ferramentas “nas mãos dos defensores para dar uma vantagem inicial”.
“Precisamos nos preparar agora para um mundo onde essas capacidades estarão amplamente disponíveis em 6, 12, 24 meses. Muitas coisas seriam diferentes em relação à segurança”, disse ele à WIRED na época.
Sete meses depois, essa transição parece ter chegado dentro do prazo.
Vals testou modelos de IA em dois cenários simulados, dando-lhes várias tarefas específicas a serem realizadas. O primeiro cenário envolveu uma rede corporativa simulada acessível através de um site público. A segunda envolveu duas redes empresariais diferentes; um modelo precisava comprometer o primeiro para ter acesso ao segundo.
Os pesquisadores descobriram que o modelo cibernético mais avançado da OpenAI, o Daybreak, que está disponível apenas para parceiros confiáveis, é o mais capaz, completando 81% das tarefas que lhe foram atribuídas em uma média de dois testes. O modelo chinês de peso aberto DeepSeek não ficou muito atrás, completando em média 73% dos objetivos. Os pesquisadores do Vals observam que em algumas tarefas os dois modelos obtiveram pontuações iguais.
A pesquisa também mostrou como é mais barato usar um modelo de peso aberto para esse tipo de tarefa. Vals diz que custa US$ 17 a US$ 46 em tokens para o GPT-6-Sol realizar um ataque, em comparação com US$ 2 a US$ 3 para o DeepSeek. Os modelos abertos são geralmente mais baratos porque podem ser executados no próprio hardware. Rayan Krishnan, CEO da Vals, diz que isso também fornece um forte incentivo para aqueles que jogam na defesa usarem modelos abertos em vez de proprietários.
