OpenAI contrata ex-alunos do DOGE que invadiram o Anthropic para fortalecer a segurança
À medida que os cibercriminosos adotam avidamente as ferramentas de IA, a OpenAI precisa de toda a ajuda possível para proteger seus próprios sistemas contra hacks externos. Isso inclui a parceria com uma startup obscura de segurança cibernética fundada por um grupo de ex-funcionários do DOGE.
A startup, chamada Cathedral, é mais conhecida por supostamente hackear nos sistemas privados da Anthropic como parte do programa de recompensas por bugs do laboratório de IA. Catedral disse ao Washington Post que o hack foi realizado em menos de doze horas e obteve acesso a informações confidenciais da Anthropic, incluindo mensagens do Slack, ofertas de emprego e transcrições de reuniões. Líder de segurança cibernética antrópica, Logan Graham respondeu em uma postagem X que o hack na verdade levou “vários dias” e que os “sistemas mais sensíveis da empresa, como pesos de modelos e conversas de Claude”, não foram afetados. Graham também disse que a abordagem do Cathedral ao hack era “incomum e fora do escopo” das regras que a Anthropic estabeleceu para seu programa de recompensas de bugs, uma vez que dependia de múltiplas vulnerabilidades de terceiros.
Em um postagem no blog publicado na segunda-feira, a OpenAI disse que estava fazendo parceria com a Cathedral como parte de seu esforço mais amplo para fortalecer a segurança de suas ferramentas de IA. A equipe da Cathedral “usará os modelos da OpenAI junto com nossas equipes para desafiar nossas defesas, trazendo conhecimentos e abordagens diferenciadas para encontrar pontos fracos e nos ajudar a proteger nossas plataformas”, escreveu a OpenAI. A empresa disse que também estava “mais do que quadruplicando nossas recompensas por descobertas críticas” por meio de seu próprio programa de recompensas por bugs. (Outra empresa postagem no blog de março do ano passado, disse que a recompensa quintuplicou de US$ 20.000 para US$ 100.000. Isso poderia ser “mais do que quadruplicar” a que a OpenAI se refere, mas a nova postagem não esclareceu. Entramos em contato com a OpenAI e atualizaremos esta história assim que soubermos mais.)
A parceria da OpenAI com a Cathedral segue um momento de pânico semelhante ao do ano 2000 para o setor de segurança cibernética. No final do mês passado, pesquisadores descobriram principais vulnerabilidades de segurança incorporado ao PHP, a linguagem de programação de décadas que sustenta cerca de 70% dos sites. Governos e outras organizações em todo o mundo colocaram seus sites off-line para evitar hacks e implementar rapidamente uma correção. OpenAI – cujo próprio modelo foi usado para descobrir as falhas do PHP – anunciou que estava lançando um esforço global chamado “consertar o planeta” para descobrir e resolver outras vulnerabilidades de segurança que ainda podem estar ocultas em softwares populares.
“Incidentes recentes em todo o setor mostram a rapidez com que as ameaças podem surgir e como é importante construir ciclos defensivos contínuos para encontrar e corrigir pontos fracos antes que os invasores o façam”, escreveu a OpenAI em sua postagem no blog de segunda-feira.
A Catedral foi inaugurada no início deste ano com um relatado avaliação de US$ 1,4 bilhão após uma rodada de financiamento de US$ 160 milhões liderada por Andreessen Horowitz e Sequoia Capital. A empresa parece preferir manter-se ligeiramente envolta em segredo. Citando fontes anônimas, Reuters relatado em julho, a missão da Catedral era fortalecer as capacidades cibernéticas ofensivas e defensivas dos militares dos EUA contra adversários como a China. Isso é site é comicamente minimalista: simplesmente mostra o nome da empresa em texto branco simples em uma tela preta. E é Perfil X não apresenta nenhuma postagem ou logotipo da empresa – apenas uma biografia que diz, vagamente, “Protegendo a infraestrutura crítica americana”.
Os fundadores da Cathedral – Gavin Kliger, Luke Farritor, Marko Elez e Jack Stein – eram todos jovens deputados que trabalhavam para o efêmero Departamento de Eficiência Governamental (DOGE) de Elon Musk, que foi encarregado de cortar gastos federais e demitiu mais de 250.000 funcionários públicos de seus empregos durante os primeiros dias do segundo mandato de Trump.
Kliger, CEO da Cathedral, também foi engenheiro de software sênior na Databricks e, de dezembro a abril deste ano, diretor de dados do Departamento de Guerra dos EUA, de acordo com seu Página do LinkedIn. Farritor era um estagiário na SpaceX, empresa de aviação e aeroespacial de Elon Musk, antes de ser premiado uma Thiel Fellowship em 2024. Ele também fez parte da equipe que venceu o Desafio Vesúvio de US$ 700.000usando IA para decifrar um antigo pergaminho de papiro carbonizado em uma erupção vulcânica. Elez teve passagens na SpaceX, X e xAI, e é famoso por renunciar ao DOGE após um Wall Street Journal relatório vinculou-o a uma conta X pseudônima com várias postagens racistas, incluindo uma de setembro que supostamente dizia: “Normalizar o ódio indiano”. No mesmo dia em que o WSJ publicou seu relatório, Musk, respondendo a um apoio nas redes sociais do vice-presidente dos EUA, JD Vance, em apoio a Elez, disse que traria o funcionário demitido de volta a bordo. “Errar é humano, perdoar é divino”, escreveu Musk em um X postagem. Existem muitos perfis no LinkedIn para “Jack Stein”, mas nenhum deles pôde ser imediatamente vinculado ao cofundador da Catedral.
