Os seres humanos, e não a IA desonesta, ainda são o maior risco de segurança cibernética para os sistemas energéticos

Antes de os recentes hacks de alto perfil levantarem o espectro da possibilidade da IA ​​“matar todos os seres humanos”, os nossos sistemas energéticos já eram perturbadoramente vulneráveis ​​a ataques cibernéticos – e o risco está a aumentar.

“Sempre fomos presas. Estávamos apenas sobrevivendo ao apetite dos nossos predadores”, disse-me Joshua Corman, executivo residente para segurança pública e resiliência no Instituto de Segurança e Tecnologia (IST), no ano passado. Na altura, estava preocupado com um alerta do Departamento de Segurança Interna de que intervenientes e simpatizantes iranianos poderiam atingir os EUA com ataques cibernéticos.

Na semana passada, liguei para Corman para conversar sobre incidentes recentes de agentes de IA desonestos orquestrando seus próprios ataques cibernéticos complexos. Até os executivos da IA ​​estão discutindo se a tecnologia que estão construindo poderia ficar tão fora de controle que desencadearia um apocalipse. Se há agora 10% de chance de a inteligência artificial um dia matar todos os seres humanos, como alertam alguns desenvolvedores de IA, certamente há uma chance de que isso apague nossas luzes nesse meio tempo?

Mas quando falei com Corman e outros especialistas em segurança cibernética, eles estavam ainda mais preocupados com a IA generativa nas mãos de maus atores do que com agentes desonestos. À medida que as empresas tecnológicas correm para construir modelos de IA cada vez mais poderosos, as empresas de serviços públicos terão igualmente de reforçar as suas defesas – independentemente de quem ou o que iniciou o ataque.

“É literalmente qualquer sociopata que queira (atacar) agora é mais poderoso do que costumava ser”, Corman me disse. “Este tem sido um multiplicador de força e continua a crescer.”

Grande parte da nossa infra-estrutura energética crítica – manter as luzes acesas nas nossas casas, os alimentos frios nos nossos frigoríficos e os dispositivos salva-vidas a funcionar nos hospitais – nunca foi concebida para se ligar à Internet. A vida útil de uma usina normalmente dura décadas. A idade média de um reator nuclear nos EUA é de cerca de 44 anos. Eles não foram construídos tendo em mente os riscos atuais de segurança cibernética, o que os torna alvos fáceis para hackers.

Eventualmente, grande parte dessa infraestrutura se conectou à Internet. Desde então, tem sido difícil corrigir quaisquer vulnerabilidades de segurança cibernética resultantes. Algumas das empresas que originalmente conceberam os equipamentos ainda em uso no sector da energia fecharam as portas, não deixando ninguém para trás para desenvolver um patch de software para esses dispositivos órfãos. Mesmo quando há um patch disponível, aplicá-lo em tempo hábil é outro desafio. Ao contrário das atualizações de software de TI, os sistemas de tecnologia operacional (TO) que controlam máquinas físicas para infraestruturas críticas só podem ser projetados para aplicar atualizações uma vez por trimestre ou ano. As empresas de serviços públicos de menor dimensão também poderão não ter recursos, pessoal e conhecimentos para utilizar as mais recentes medidas defensivas.

“A verdadeira diferença da IA ​​é que ela permite que os adversários se movam mais rapidamente – mas é muito desafiador para aqueles que defendem a infraestrutura acompanhar esse ritmo”, diz Sophie McDowall, pesquisadora associada do Centro de Inovação Cibernética e Tecnológica da Fundação para a Defesa das Democracias.

A intenção é um fator chave na avaliação dos riscos apresentados pela IA generativa. Quando um modelo OpenAI conseguiu romper os parâmetros de treinamento da empresa para atacar o laboratório de IA Hugging Face, “parte da sofisticação e dos recursos e o que vimos neles foram realmente reveladores e, de certa forma, aterrorizantes em termos de quão eficazes eles eram”, diz Rob Denaburg, gerente sênior do programa de segurança cibernética da American Public Power Association, que representa serviços públicos comunitários em 2.000 municípios.

Mas Denaburg aponta que mesmo no hacking Hugging Face e em casos semelhantes de agentes de IA invadindo sistemas que nunca deveriam atingir, os agentes desonestos permaneceram focados em cumprir seus objetivos de treinamento. Se alguém treinasse um modelo para realizar um ataque à infraestrutura de energia e os agentes saíssem da sandbox nesse cenário, provavelmente seria uma preocupação maior para uma concessionária. Novamente, isso envolve adversários humanos com intenções maliciosas.

Historicamente, os Estados-nação adversários foram amplamente considerados a maior ameaça à segurança cibernética para infraestruturas críticas. “Eles serão mais disciplinados”, diz Corman, e mais capazes de empreender um ataque cibernético sofisticado. Agora, a IA está facilitando o lançamento de ataques eficazes por adversários menos qualificados.

“Um ser humano mal-intencionado pode usar essas ferramentas para ser melhor do que seria naturalmente para atacar coisas que normalmente não sabia como fazer… porque, embora possam não conhecer protocolos de TO, redes de TO e estratégias de TO, o LLM leu os manuais e sabe o que fazer”, diz Corman.

As concessionárias precisam estar mais preparadas e as estratégias defensivas são semelhantes, independentemente de quem seja o vilão. “IA ou não, no final das contas, ainda é um ataque cibernético”, diz Denaburg. “Mesmo que a IA possa ajudar um adversário, talvez encadear vulnerabilidades e automatizar alguns dos processos que vão desde o acesso inicial até a exploração… contanto que você possa detê-los em um local, eles não poderão realizar esse ataque.”

As empresas de energia podem seguir uma série de práticas recomendadas para proteger infraestruturas críticas. Algumas delas são soluções não cibernéticas, como garantir que os sistemas possam mudar para operações manuais quando necessário ou, em alguns casos, reduzir o grau de interligação desta infraestrutura. Cada vez mais, “diante da questão da IA, eles estão começando a perceber que se não pudermos protegê-la, desconecte-a”, diz Corman.

Os governos e as empresas que desenvolvem modelos avançados de IA também têm responsabilidade, diz McDowall. Foi um passo positivo, observa ela, que o CEO da OpenAI, Sam Altman, tenha se reunido recentemente com empresas de serviços públicos para discutir a segurança das redes elétricas. Mas há muito mais que eles poderiam fazer para evitar desastres, diz ela. “Eles estão oferecendo suporte para um problema que estão causando parcialmente”, ao mesmo tempo em que não conseguem controlar adequadamente seus próprios avanços tecnológicos, diz McDowall. A beira.

E embora existam barreiras regulamentares para a investigação e desenvolvimento quando se trata de tecnologias nucleares e materiais perigosos, ainda não existem as mesmas salvaguardas políticas para a IA. “Este é um desenvolvimento científico tecnológico que pode causar riscos potenciais para sistemas de infra-estruturas críticas, que pode causar ameaças potenciais à vida humana. E por isso é necessário que haja restrições”, diz McDowall. “Reconheço que também não queremos limitar o desenvolvimento, mas não há razão para que não possamos impulsionar a investigação e ao mesmo tempo fazê-lo de forma responsável.”

Ela ressalta que há uma escassez de pesquisas sobre como a IA pode ser usada para melhorar a segurança cibernética dos sistemas de energia – especialmente além da simples formação de equipes para descobrir vulnerabilidades.

No início deste mês, a OpenAI prometeu mil milhões de dólares para subsidiar a formação e o acesso a novos modelos que deveriam ajudar a defender infraestruturas críticas.

“Nos próximos meses, os ataques cibernéticos habilitados por IA se tornarão muito mais difundidos e sofisticados à medida que os modelos em todo o mundo se tornarem cada vez mais capazes”, disse a OpenAI no anúncio de 3 de setembro. “A Frontier AI pode ajudar os defensores a se moverem mais rápido.”

Mas Corman adverte contra a dependência de agentes amigáveis ​​de IA para combater os mal-intencionados. Ambos podem ser difíceis de controlar nos limites sensíveis de um sistema TO para infraestrutura crítica.

“Também é muito perigoso introduzir muitas mudanças e rápido demais em um ambiente de TO”, diz Corman. “Agora temos um touro de IA lutando contra outro touro de IA em uma loja de porcelana do Antigo Testamento.”