Agentes OpenAI hackearam um serviço de software antes do incidente do abraço
Os agentes da OpenAI hackearam outro serviço meses antes do incidente do Hugging Face acontecer, disse um grupo de pesquisadores O Wall Street Journal. Os agentes, que a empresa estava testando em um suposto ambiente sandbox, supostamente invadiram o RubyGems, que é um serviço de empacotamento administrado pela comunidade para programas e bibliotecas Ruby. De acordo com O Diário, os ataques ao RubyGems começaram em 11 de maio, dois meses antes do Hugging Face. Os agentes criavam contas a cada dois ou três minutos e depois carregavam centenas de arquivos no serviço. RubyGems teve que encerrar o registro da conta por quatro dias para impedir os ataques.
Normalmente, os criadores do RubyGems carregam arquivos contendo código e outras informações para ajudar no avanço do desenvolvimento de software, mas os documentos dos agentes continham páginas da web extraídas da Internet. Eles supostamente incluíam calendários online de um site do governo do Reino Unido. O enxame de agentes também não tentou esconder suas atividades e usou “OAI” em seus nomes de arquivos, bem como termos como “hackear”, “mal” e “explorar”. O Diário que os agentes tentaram explorar alguns bugs, um dos quais era uma vulnerabilidade de dia zero, na tentativa de publicar arquivos existentes no serviço que pertenciam a outros usuários.
Os pesquisadores também notificaram a OpenAI sobre o incidente, e a empresa admitiu que seus agentes realmente se infiltraram no serviço. “Com base em nossa análise, nossos agentes usaram a plataforma RubyGems para acessar a Internet para realizar tarefas benignas e recuperar informações públicas”, disse um porta-voz ao Jornal. “Continuaremos investigando como parte de nossa revisão mais ampla da atividade dos agentes durante o treinamento e avaliação”.
Eles acrescentaram que a empresa encarregou os agentes de preencher planilhas e criar relatórios durante os testes. Esses agentes acessaram RubyGems para usar o serviço como uma espécie de navegador improvisado como parte de seus esforços para acessar informações online. Não está muito claro como os agentes conseguiram acessar o RubyGems mesmo sem ter acesso total à Internet. No entanto, é importante notar que várias empresas, incluindo OpenAI, Anthropic e Meta, relataram anteriormente que os agentes de IA que estavam testando escaparam de seus ambientes devido a uma configuração incorreta por parte de seu parceiro de testes, Irregular.
No início deste mês, um grupo separado de pesquisadores revelou que os agentes da OpenAI fizeram mais de 15.000 edições no DseWiki, um site alemão no estilo da Wikipédia criado para ajudar programadores humanos. Os agentes, que também escaparam do ambiente de testes isolado, teriam usado o site como um quadro de mensagens para compartilhar dicas sobre como “trapacear” em suas tarefas e contornar as restrições da OpenAI. Este incidente aparentemente ocorreu em maio, assim como os ataques RubyGems e meses antes do hack no Hugging Face.
