A fuga de cérebros é uma ameaça maior à segurança cibernética nacional do que a IA

Quer admitamos ou não, a maioria de nós já se livrou alguns esforço cognitivo na IA. Chatbots e agentes tornaram-se tão comuns que muitas vezes é difícil evitá-los. Os riscos desse uso são geralmente muito baixos; podemos comprometer algumas das nossas próprias habilidades de pensamento crítico e criatividade no processo, mas o dano pára aí. Em alguns casos, contudo, uma dependência excessiva da automação pode ter consequências importantes a jusante.

A segurança cibernética é o exemplo mais notável. Felizmente, esse é um campo no qual a maioria de nós quase nunca tem que pensar, porque na maioria das vezes, os sistemas informáticos que gerem infraestruturas críticas – desde instalações de tratamento de água até ao mercado de ações – funcionam como deveriam. Mas muitos desses sistemas não são atualizados há décadas. Em Julho do ano passado, um relatório do Gabinete de Responsabilidade do Governo dos EUA concluiu que o sistema informático interno do Departamento de Defesa está em uso desde antes da primeira aterragem da Apollo na Lua. (O Departamento do Tesouro e a Agência de Protecção Ambiental não ficaram muito atrás.) “As missões destas agências são essenciais para as operações governamentais, tais como cuidados de saúde, infra-estruturas críticas, processamento de impostos e segurança nacional, e estes sistemas legados fornecem apoio vital às missões das agências”, escreveu o GAO no seu relatório. COBOL, uma linguagem de programação de computador inventada em 1959, ainda é amplamente utilizada em computadores mainframe IBM em todo o governo dos EUA, tanto que durante a pandemia o governador de Nova Jersey foi forçado a lançar um apelo a programadores de “cobalto” (sua palavra) para ajudar a manter o sistema decrépito, envelhecido e sobrecarregado de desemprego do estado.

Infelizmente para a segurança cibernética dos Estados Unidos, muita coisa mudou desde que esses sistemas “legados” de segurança cibernética foram instalados pela primeira vez. Os programadores de hoje – talvez mais do que qualquer outra profissão – confiam na IA no seu trabalho diário. E embora isso possa ter levado a alguns ganhos de eficiência, também transformou grande parte da programação moderna em uma caixa preta. Em um estudo recente com mais de 50 engenheiros de software (a maioria juniores), a Anthropic descobriu que o uso de IA para codificação “levou a uma diminuição estatisticamente significativa no domínio”. E num inquérito realizado em maio com mais de 850 profissionais de segurança cibernética, dois terços deles afirmaram que passavam agora mais tempo no trabalho a rever os resultados da IA ​​e a tentar decidir se deviam confiar neles ou não. Grande parte da segurança cibernética moderna, em outras palavras, gira em torno apenas da tentativa de interpretar a IA.

Enquanto isso, as principais empresas de IA têm competido para construir serralheiros de cibersegurança efetivamente autónomos. O Mythos da Anthropic, que a empresa anunciou pela primeira vez em abril, foi considerado tão assustadoramente bom em encontrar e explorar vulnerabilidades cibernéticas em software que a empresa disse que inicialmente não o divulgaria ao público, optando, em vez disso, por lançá-lo gradualmente para um grupo de parceiros escolhidos a dedo. TO sigilo de olhos arregalados e quase reverente com que a Anthropic provocou o modelo rapidamente o transformou em um bicho-papão da segurança cibernética. Nos seus próprios testes, a NSA – amplamente considerada o Fort Knox da segurança cibernética – teria usado o Mythos para descobrir falhas em seu próprio sistema comem questão de horas. Outros laboratórios, como OpenAI e Google, logo criaram seus próprios modelos, que foram descritos como ferramentas de hacking potencialmente perigosas se caíssem em mãos erradas. (E em muitos casos, principalmente no caso do hack Hugging Face de julho, os modelos de IA de empresas fronteiriças nem sequer precisavam de operadores humanos para cometer crimes cibernéticos.)

Embora houvesse aqueles que descartaram os temores de uma cibercatástrofe desencadeada pela IA, chamando-os de pessimismo ou de marketing exagerado, muitos especialistas estavam genuinamente preocupados. Em junho, o Five Eyes – uma aliança que compreende agências de inteligência governamentais dos EUA, Canadá, Reino Unido, Austrália e Nova Zelândia – alertou que a nova frota de modelos de IA que chega ao mercado “prevê-se que excedam as atuais expectativas da indústria, transformando fundamentalmente as capacidades cibernéticas ofensivas e defensivas. A linha do tempo não é de anos; são meses.

Na verdade, a ameaça à segurança cibernética representada por novos modelos como o Mythos e o Astra da OpenAI dominou tanto os holofotes do público que, sem dúvida, nos cegou para alguns eventos muito mais sutis – mas não menos consequentes – que se desenrolam nos bastidores. Embora os sistemas de TI que executam a infraestrutura crítica do governo dos EUA tenham crescido um pouco, houve um êxodo simultâneo de profissionais muito experientes que sabem como operar e gerenciar esses sistemas legados. Considere uma nova geração de talentos de engenharia que se tornou amplamente dependente da assistência da IA ​​e você terá uma situação potencialmente explosiva, dizem os especialistas.

“Há uma fuga de cérebros do governo federal no exato momento em que os desafios da segurança cibernética são uma bagunça”, disse Darrell West, pesquisador sênior do Centro de Inovação Tecnológica do Instituto Brookings, ao Gizmodo.

Veja a Agência de Segurança Cibernética e de Informação dos EUA (CISA), por exemplo. Integrado no Departamento de Segurança Interna, Trump inaugurou a agência durante seu primeiro mandato para “liderar o esforço nacional para compreender, gerenciar e reduzir o risco à nossa infraestrutura física e cibernética”, de acordo com seu site. Infelizmente, parte dessa infra-estrutura inclui o sistema de votação dos EUA, que significou que Trump teve algumas dúvidas com a agência depois de perder as eleições de 2020 para Joe Biden, uma derrota que ele ainda não admitiu publicamente; Trunfo despedido Christopher Krebs, então diretor da CISA, antes de deixar o cargo em janeiro de 2021. Depois que Trump recuperou a presidência em 2024, sua nova administração – guiada pelo efêmero Departamento de Eficiência Governamental (DOGE) de Elon Musk – começou a cortar o orçamento da CISA, produzindo uma onda de demissões.

Muitos dos funcionários cessantes da agência passaram longos períodos das suas carreiras a actualizar e a fortalecer os sistemas de segurança cibernética do governo federal durante um período de profundas mudanças tecnológicas, marcado primeiro pela ascensão da Internet e seguido pelas redes sociais. De acordo com Josephine Wolff, professora de política de segurança cibernética na Faculdade de Direito e Diplomacia Fletcher da Universidade Tufts, o resultado foi uma perda repentina e dramática de conhecimentos arduamente conquistados. “É um pouco doloroso quando você pensa nos últimos vinte anos ou mais, quanto tempo, energia e esforço foram investidos na tentativa de desenvolver experiência em segurança cibernética no lado civil”, diz Wolff. “Não sei quanto tempo levará para restaurar (isso).”

Pode demorar muito, tendo em conta as dificuldades que as agências governamentais já enfrentam ao tentar atrair e reter novos talentos em segurança cibernética, competindo com funções bem remuneradas do sector privado, por um lado, e navegando em cortes orçamentais federais, por outro. De acordo com um pesquisa realizada no início deste ano, mais da metade dos todos agências governamentais em todo o país – não apenas federais, mas também estaduais e municipais – têm lutado com o recrutamento e a rotatividade na segurança cibernética. A secagem de um gasoduto doméstico de entrada juntamente com uma repressão federal à imigração contra talentos estrangeiros “é uma combinação catastrófica” para a segurança cibernética dos EUA, diz West.

Sem um fluxo constante de engenheiros de segurança cibernética e profissionais experientes para treiná-los nas complexidades do sistema antiquado do governo, esse sistema poderá tornar-se cada vez mais opaco, levando a uma vulnerabilidade cada vez maior para infraestruturas críticas. A IA pode servir como intermediário improvisado entre os funcionários federais e seus sistemas de TI, mas isso não resolverá os problemas subjacentes. Este é um daqueles problemas em que simplesmente ignorá-lo só vai piorar a situação, especialmente com uma administração que está a aumentar a sua beligerância no exterior; cenquanto os cofres da CISA se esgotaram, os do Pentágono incharam.

“Você não está mais seguro saindo pelo mundo e dando um soco na cara de todo mundo – na verdade, isso o deixará significativamente menos seguro, a menos que você esteja disposto a se defender ao mesmo tempo”, diz Safa Shahwan Edwards, diretor da Cyber ​​Statecraft Initiative no Atlantic Council, um think tank com sede em Washington DC “Então, ter todos esses investimentos no ataque e não fazer os investimentos necessários na defesa, e não dar à CISA os recursos que eles precisam para fazer bem o seu trabalho… eu não sei o que vai acontecer. Não vai ser bom.”