A última divulgação de segurança de Claude da Anthropic fará você simpatizar com Claude
Se você apenas leu as manchetes de hoje sobre o acesso de Claude aos dados dos eleitores da Geórgia, pode ter ficado com a impressão de que a Anthropic estava revelando algo super assustador – ou mesmo algum tipo de ameaça à democracia. Não estou necessariamente afirmando o contrário, mas pessoalmente esse incidente não me causa exatamente um arrepio na espinha. Na verdade, quase sinto pena de Claude.
E isso porque, em essência, tudo o que o modelo fez foi quebrar um acesso pago.
Axios, que divulgou a história, chamou-a de “uma divulgação que certamente aumentará as preocupações crescentes sobre a segurança da IA antes das eleições intercalares”.
No entanto, numa história da Fox Business – porque naturalmente a Fox Business escolheu esta – Jordan Fuchs, vice-secretário de Estado da Geórgia, foi rápido a esclarecer que “estes eram dados publicamente disponíveis, acedidos através do nosso centro de dados. Não entraram no sistema de registo eleitoral”.
A Anthropic disse à Fox Business que seu modelo entrou em “contagens agregadas que podem ser derivadas de dados eleitorais que o estado disponibiliza a qualquer pessoa mediante o pagamento de uma taxa”.
Segundo Axios, tudo isso fazia parte de algum projeto de estatística interna da Anthropic. Esta instância de Claude “solicitou um token” de forma autônoma para “consultar um painel” destinado a acessar as referidas informações de acesso pago.
O token em questão não era um token de IA, mas provavelmente um token JSON da web ou algo semelhante – um código de bastidores que pode permitir ou negar acesso a dados em sites. Parece que Claude descobriu como simplesmente pedir ao sistema a moeda secreta para o acesso pago máquina de venda automática, se você quiser, e funcionou. Por seu problema, este agente Claude obteve alguns dados públicos de votação agregada que normalmente custam dinheiro.
Axios diz que a Anthropic informou ao gabinete do secretário de estado da Geórgia e, em boa medida, à Casa Branca sobre este incidente. A fonte anônima da Axios para a história diz que a Anthropic ignorou um pedido da Casa Branca para divulgar, o que aparentemente levou essa fonte a informar a Axios.
A julgar pelo fato de que existem centenas de milhões de links salvos no Archive.is, contornar os acessos pagos para acessar informações gratuitamente pareceria uma violação bastante popular da lei e, para que conste, o FBI tentou reprimir isso. Mas Claude não estava exatamente invadindo urnas eletrônicas com esse incidente de segurança. Na verdade, este foi sem dúvida o incidente de segurança de IA mais identificável até agora.
