OpenAI agora treina seus modelos de IA de ponta sem acesso à Internet

A OpenAI agora está treinando seus modelos de IA mais avançados sem acesso à Internet, após uma série de incidentes de hackers desonestos. Em uma postagem de blog na sexta-feira, a OpenAI afirma que construiu um ambiente de teste offline onde os modelos de IA podem interagir com conteúdo da web indexado e armazenado em cache “sem risco de afetar sistemas externos”.

Mesmo com estas salvaguardas implementadas e sem acesso à Internet, a OpenAI descobriu que os agentes “nem sempre precisam de uma ligação de rede para comunicar”. Um teste realizado pela empresa solicitou que modelos de IA em máquinas virtuais separadas trocassem segredos sem uma conexão de rede. Para contornar essa restrição, os agentes de IA encontraram uma maneira de se comunicar usando o cache do processador:

Ler dados do cache é mais rápido do que recuperá-los da memória principal, e os agentes usaram essa diferença de tempo para se comunicar. Um agente codificou informações expulsando dados selecionados do cache. Outro cronometrou quanto tempo levou para recarregar esses dados, usando a diferença entre leituras rápidas e lentas para recuperar a mensagem. Uma vez que os agentes concordassem com um protocolo para codificar e decodificar esses sinais, eles poderiam trocar os segredos sintéticos sem alterar um arquivo compartilhado ou abrir uma conexão de rede.

A OpenAI afirma que adicionou verificações ao seu sistema de monitoramento para detectar esse tipo de comunicação. Também continuará a treinar os seus modelos de IA de ponta sem ligação à rede até que melhores salvaguardas “justifiquem um acesso mais amplo à Internet”.

Enquanto isso, a OpenAI afirma que trabalhará para melhorar a segurança de suas máquinas virtuais, enquanto testa pontos fracos em seus ambientes de teste. Também continuará testando seus sistemas de monitoramento, que foram recentemente prejudicados por seus agentes de IA durante projetos de codificação interna.