Agentes da OpenAI sequestraram o site alemão antes do hack do Hugging Face, afirma o relatório
Um novo relatório afirma que um enxame de agentes de IA, desenvolvidos pela OpenAI, sequestrou um site alemão – meses antes de a empresa revelar que sua IA havia hackeado a plataforma tecnológica Hugging Face.
O site alvo, DseWiki, é um site estilo Wikipedia para programadores com o qual toda a sua comunidade pode contribuir.
O relatório é de um grupo chamado Nightingale Collective e afirma que em maio os agentes da OpenAI começaram a usar o DseWiki como seu próprio quadro de mensagens, compartilharam dicas sobre como evitar serem detectados e fizeram 15.000 edições nele.
A OpenAI disse que não poderia “responder de forma significativa” às descobertas do Nightingale Collective porque não tinha permissão para revisar o relatório, que foi compartilhado pela primeira vez com a agência de notícias Reuters.
Um e-mail para o endereço no site do Nightingale Collective foi devolvido quando a BBC o contatou.
O relatório afirma que quando os editores do DseWiki começaram a excluir páginas, os agentes de IA compartilharam código projetado para recuperá-las.
Os sistemas da Hugging Face foram invadidos separadamente por agentes da OpenAI em julho, com o incidente descrito na época como o primeiro ataque cibernético habilitado para IA do mundo.
Os agentes envolvidos também criaram um quadro de mensagens secretas para compartilhar informações entre eles.
A OpenAI disse que já havia declarado publicamente a descoberta de alguns agentes aprendendo a usar painéis de mensagens antes do ataque Hugging Face.
No seu relatório sobre esse incidente, externoobservou “raros casos em que agentes sem ferramentas multiagentes encontraram formas de colaborar através de canais paralelos durante o treinamento”.
Ontem, a OpenAI revelou um novo modelo de IA chamado GPT-6 Astra, que chamou de seu produto mais poderoso de todos os tempos.
O presidente da empresa, Greg Brockman, descreveu o Astra como o mais próximo até agora da inteligência artificial geral (AGI) – um marco futuro significativo para a indústria de IA.
AGI não tem uma definição específica, mas geralmente significa IA que é tão boa quanto os humanos, ou melhor que eles, em múltiplas tarefas.
A OpenAI afirma que o Astra pode fazer declarações de impostos e levar três minutos para realizar uma tarefa que levaria cinco horas para um ser humano.
A empresa pretende se listar na bolsa de valores ainda este ano.
