O Projeto Glasswing da Anthropic – restringindo Claude Mythos a pesquisadores de segurança – parece necessário para mim

O Projeto Glasswing da Anthropic – restringindo Claude Mythos a pesquisadores de segurança – parece necessário para mim

7 de abril de 2026

Antrópico não lança seu modelo mais recente, Claude Mythos (cartão de sistema PDF), hoje. Em vez disso, eles o disponibilizaram para um conjunto muito restrito de parceiros de visualização no recém-anunciado Projeto Glasswing.

O modelo é de uso geral, semelhante ao Claude Opus 4.6, mas a Antrópica afirma que suas habilidades de pesquisa em segurança cibernética são fortes o suficiente para dar à indústria de software como um todo tempo para se preparar.

O Mythos Preview já encontrou milhares de vulnerabilidades de alta gravidade, incluindo algumas em todos os principais sistemas operacionais e navegadores da web. Dada a taxa de progresso da IA, não demorará muito até que essas capacidades proliferem, potencialmente para além dos intervenientes que estão empenhados em implementá-las com segurança.

(…)

Os parceiros do Projeto Glasswing receberão acesso ao Claude Mythos Preview para encontrar e corrigir vulnerabilidades ou pontos fracos em seus sistemas fundamentais – sistemas que representam uma grande parte da superfície compartilhada de ataques cibernéticos no mundo. Prevemos que este trabalho se concentrará em tarefas como detecção de vulnerabilidades locais, testes de caixa preta de binários, segurança de endpoints e testes de penetração de sistemas.

Dizer “nosso modelo é muito perigoso para ser lançado” é uma ótima maneira de criar buzz em torno de um novo modelo, mas neste caso espero que sua cautela seja justificada.

Apenas alguns dias (sexta-feira passada) atrás, comecei uma nova tag de pesquisa de segurança de IA neste blog para reconhecer um aumento no número de profissionais de segurança confiáveis ​​​​acionando o alarme sobre o quão bons os LLMs modernos se tornaram na pesquisa de vulnerabilidades.

Greg Kroah-Hartman do kernel Linux:

Meses atrás, recebíamos o que chamamos de “resíduos de IA”, relatórios de segurança gerados por IA que estavam obviamente errados ou de baixa qualidade. Foi meio engraçado. Isso realmente não nos preocupou.

Algo aconteceu há um mês e o mundo mudou. Agora temos relatórios reais. Todos os projetos de código aberto têm relatórios reais feitos com IA, mas são bons e reais.

Daniel Stenberg de curl:

O desafio da IA ​​na segurança de código aberto passou de um tsunami de resíduos de IA para mais um… tsunami de relatório de segurança simples. Menos desleixo, mas muitos relatórios. Muitos deles realmente bons.

Estou gastando horas por dia nisso agora. É intenso.

E Thomas Ptacek publicou Vulnerability Research Is Cooked, uma postagem inspirada em sua conversa em podcast com Nicholas Carlini da Anthropic.

A Anthropic tem um vídeo de 5 minutos falando sobre o projeto Glasswing. Nicholas Carlini aparece como um desses falantes, onde disse (destaca o meu):

Ele tem a capacidade de encadear vulnerabilidades. Então, o que isso significa é que você encontra duas vulnerabilidades, e qualquer uma delas não o afeta muito de forma independente. Mas esse modelo é capaz de criar explorações a partir de três, quatro ou às vezes cinco vulnerabilidades que, em sequência, fornecem algum tipo de resultado final muito sofisticado. (…)

Encontrei mais bugs nas últimas semanas do que encontrei no resto da minha vida combinada. Usamos o modelo para escanear um monte de código-fonte aberto, e o que buscamos primeiro foram os sistemas operacionais, porque esse é o código que sustenta toda a infraestrutura da Internet. Para o OpenBSD, encontramos um bug que está presente há 27 anos, onde posso enviar alguns dados para qualquer servidor OpenBSD e travá-lo. No Linux, encontramos uma série de vulnerabilidades nas quais, como usuário sem permissões, posso me elevar a administrador apenas executando alguns binários em minha máquina. Para cada um desses bugs, informamos aos mantenedores que realmente executam o software sobre eles, e eles os corrigiram e implantaram os patches para que qualquer pessoa que execute o software não fique mais vulnerável a esses ataques.

Encontrei isso na página da errata do OpenBSD 7.8:

025: CORREÇÃO DE CONFIABILIDADE: 25 de março de 2026 Todas as arquiteturas

Pacotes TCP com opções SACK inválidas podem travar o kernel.

Existe um patch de código-fonte que resolve esse problema.

Eu rastreei essa mudança no espelho GitHub do repositório OpenBSD CVS (aparentemente eles ainda usam CVS!) e encontrei usando git culpa:

Source link