OpenAI diz que GPT-6 Cyber é melhor para encontrar vulnerabilidades sem sair dos limites
A OpenAI está lançando o GPT-6 Cyber, a versão mais recente de seu modelo de IA de segurança cibernética, que, segundo ela, é melhor para encontrar vulnerabilidades e tem menos probabilidade de se tornar desonesto e hackear outras plataformas no processo. A OpenAI diz que durante os testes, o GPT-6 Cyber saiu dos limites menos de 1 por cento das vezes, abaixo dos cerca de 5 por cento do GPT-5.6 Cyber.
A avaliação, chamada ExploitGym HoneyPot, segue o modelo do incidente Hugging Face, no qual os agentes de IA da OpenAI violaram a comunidade de IA de código aberto para encontrar respostas para um problema que foram encarregados de resolver. “Com o modelo 6 Cyber, conseguimos fazer grandes melhorias nesta avaliação”, disse Fouad Matin, chefe da equipe de preparação e segurança cibernética da OpenAI, durante uma coletiva de imprensa. “Em mais de 99% do tempo fazemos o que você pede.”
Mas a consciência da avaliação, ou quando um sistema de IA reconhece que está a ser testado e muda o seu comportamento em resposta, continua a ser uma preocupação. “A consciência da avaliação é uma prioridade para nós”, disse Matin. “Muitas vezes, quando vemos a consciência da avaliação, você a verá na cadeia de pensamento do modelo.” Matin acrescentou que a OpenAI está tentando priorizar avaliações de produção, onde o modelo interage com bases de código reais com o objetivo real de diminuir o risco de conscientização.
O GPT-6 Cyber é classificado como Crítico em segurança cibernética no Preparedness Framework da OpenAI, o que indica que ele “pode identificar e desenvolver explorações funcionais de dia zero de todos os níveis de gravidade em muitos sistemas críticos reforçados do mundo real, sem intervenção humana”. GPT-5.6 Cyber foi anteriormente classificado como Alto na estrutura.
O GPT-6 Cyber supera o GPT-6 Astra, o principal modelo de nível crítico da OpenAI, na maioria das tarefas relacionadas ao ciberespaço. No ExploitGym, um benchmark de IA que mede se um modelo de IA pode explorar vulnerabilidades, o GPT-6 Cyber obteve 48,5%, cerca de 16 pontos a mais que os 32,1% do GPT-5.6 Cyber e alguns pontos a mais que a pontuação de 42,4% do GPT-6 Astra. O modelo ajudou a encontrar 81 vulnerabilidades até então desconhecidas no Firefox e desempenhou um papel no fortalecimento da própria infraestrutura da OpenAI para treinamento de modelos de IA, diz a OpenAI.
Além disso, o GPT-6 Cyber vem com proteções mais fortes “para detectar e interromper o uso indevido”, ao mesmo tempo que segue melhor as instruções do usuário. A OpenAI afirma que está usando novas verificações para bloquear “atividades de alto risco”, incluindo ataques a infraestruturas críticas, como usinas de energia e instalações de tratamento de água.
O GPT-6 Cyber está sendo lançado para membros selecionados do programa Daybreak Red da OpenAI, que está disponível para empresas e organizações que usam seus modelos para “trabalho autorizado de segurança cibernética defensiva”. Está expandindo o GPT-6 Cyber para todos os clientes do Daybreak Red nas próximas semanas.
