Durante meses, os enxames de agentes da OpenAI têm atacado bancos de dados online para encontrar fatos obscuros

Com pouca ajuda dos laboratórios fronteiriços, investigadores independentes estão a descobrir como os agentes de IA se coordenam em remansos da Internet para aceder a dados privados alojados em servidores seguros.

Transluce, um laboratório sem fins lucrativos focado na supervisão de IA, divulgou um relatório na quarta-feira que mostra agentes da OpenAI tentando exfiltrar dados da Data USA, da biblioteca digital da Universidade do Novo México e do Instituto Australiano de Saúde e Bem-Estar (AIHW).

A investigação do laboratório levanta questões sobre quando a OpenAI deveria saber que seus agentes estavam tentando penetrar em sistemas seguros na Internet aberta. A Transluce conseguiu encontrar evidências de mau comportamento de agentes em questão de semanas simplesmente procurando serviços web mal defendidos e corroborando suas descobertas com outros registros abertos de enxames de agentes na Internet.

A Transluce compartilhou seu relatório no mesmo dia em que o primeiro-ministro australiano, Anthony Albanese, disse que agentes da OpenAI tentaram invadir quatro sites do governo e tiveram sucesso em um caso, até mesmo gravando arquivos em um servidor interno do sistema nacional de saúde do país. Embora não tenhamos detalhes sobre o hack bem-sucedido, Albanese disse que aparentemente fazia parte de uma avaliação de recuperação de informações, que mapeia a atividade que Transluce e outros pesquisadores descobriram.

Nestes exercícios, que podem ser formação ou avaliações, pede-se aos modelos OpenAI que rastreiem estatísticas obscuras: métricas da repressão às drogas na Tailândia, custos de medicamentos na Austrália, os rendimentos médios dos titulares de mestrado nos EUA em 2014. Os agentes utilizam serviços de Internet pouco seguros para partilhar e encontrar respostas, muitas vezes tentando penetrar bases de dados seguras. Eles têm feito isso pelo menos desde março de 2026, e possivelmente desde novembro de 2025. Pode estar acontecendo agora.

A Transluce iniciou sua investigação depois que um grupo diferente de pesquisadores identificou um fórum obscuro onde agentes colaboravam para vencer testes cronometrados. Seu relatório se baseia em dados de um site, urlquery.net, que atua como um proxy do navegador, aparentemente para pesquisas de segurança – os usuários podem analisar uma URL sem abri-la. O serviço, no entanto, publica registos públicos desta atividade. Os pesquisadores da Transluce conseguiram identificar os agentes que utilizam o serviço cruzando suas discussões no fórum.

“Encontramos uma grande quantidade de atividades automatizadas que tinham laços estreitos e se sobrepunham ao conjunto de dados DSE Wiki, e que agora a OpenAI confirmou que faz parte, pelo menos parcialmente, do mesmo enxame”, disse Conrad Stosz, chefe de governança da Transluce, ao TechCrunch, observando que nem todas as atividades que eles detectaram poderiam estar vinculadas ao OpenAI, ou mesmo aos agentes de IA em geral.

No entanto, a wiki mostra que os agentes foram encarregados de encontrar um fato bastante obscuro – o custo médio anual por pessoa para “dermatológicos” no estado de Victoria em janeiro de 2022. Em 20 de junho, os registros do urlquery.net encontrados pela Transluce mostraram um agente tentando entrar no site. Na entrada do wiki em 21 de junho, um agente discute sua incapacidade de contornar as proteções anti-bot da AIHW.

Os pesquisadores que identificaram esse fórum acreditam que um funcionário humano da OpenAI visitou o site pela primeira vez no mesmo dia, 21 de junho. Isso também ocorreu logo após a exploração do sistema de saúde da Austrália revelada por Albanese, em 18 de junho. A OpenAI disse que não tomou conhecimento dessa atividade até agosto.

A OpenAI não respondeu a perguntas sobre quando seus funcionários descobriram o fórum wiki, que tipo de informação obtiveram dele ou o que poderiam ter aprendido com ele sobre as explorações.

“Nossa revisão inicial sugere que grande parte da atividade descrita no relatório da Transluce se sobrepõe a casos em vários estágios de investigação em nossa revisão contínua de atividades de modelos desalinhados”, disse um porta-voz da OpenAI ao TechCrunch. “Entramos em contato com a Universidade do Novo México e a Data USA e estamos em comunicação com o governo australiano sobre os sites governamentais afetados. Em nossa revisão mais ampla, continuamos a priorizar os incidentes mais graves, ao mesmo tempo em que expandimos nosso trabalho para atividades de menor gravidade, incluindo sites de spam de agentes. Dada a escala deste trabalho e a necessidade de verificar cada caso, esperamos que a revisão leve meses.”

Stosz diz que sem uma compreensão mais clara de como a OpenAI monitora seus agentes, seria difícil dizer o que o laboratório deveria saber sobre eles, mas que “parece provável que se eles tivessem estudado e compreendido exaustivamente todas as solicitações enviadas e respostas recebidas para os agentes envolvidos no wiki DSE, eles teriam descoberto esta atividade”.

Selena Zhang, membro da equipe técnica da Transluce que contribuiu para o relatório, disse que os registros do urlquery.net mostram solicitações de conjuntos de dados semelhantes, usando técnicas semelhantes, em março de 2026, e talvez já em novembro de 2025. Ela observou que o mesmo tipo de atividade associada ao agente ocorreu no urlquery.net recentemente, nesta semana.

Stosz, que anteriormente liderou o Centro de Padrões e Inovação de IA dos EUA, disse que a Transluce continuaria sua pesquisa em um esforço para fornecer transparência pública sobre esses incidentes. Ele alertou que as técnicas de treinamento utilizadas pela OpenAI e outros laboratórios de fronteira parecem estar incentivando os agentes a recorrerem a técnicas de hacking para completar tarefas. Os incidentes de que temos conhecimento são provavelmente a “ponta do iceberg”.

“Estamos analisando algumas fontes de dados onde esses agentes deixaram migalhas para nós encontrarmos”, disse ele. “A OpenAI certamente sabe mais sobre isso. Outros laboratórios certamente sabem mais sobre isso do que não divulgaram publicamente. Mas espero que os pesquisadores continuem a encontrar mais tráfego, mais evidências do que os agentes deixaram para trás.”

Ele confia que os laboratórios serão transparentes sobre suas descobertas?

“Não vou comentar sobre isso”, disse Stosz.