O impulso do agente de IA do Vale do Silício tem valido a pena – para os cibercriminosos
As empresas de IA têm feito muito barulho sobre a tecnologia que impulsiona a saúde, as descobertas científicas, a educação, a produtividade e quase tudo o mais com o qual vale a pena se preocupar. Mas até agora, provavelmente a mudança mais dramática provocada pela corrida à IA foi o súbito aparecimento de novas ameaças perigosas à segurança cibernética.
Os mais infames deles são os hacks autônomos lançados por enxames de agentes de IA, o mais recente dos quais foi relatado pela primeira vez na semana passada (embora a OpenAI, a empresa por trás dos agentes, já estivesse ciente do incidente há algum tempo). Mas seria um erro pensar que as novas ameaças cibernéticas na era da IA vêm apenas de bots estúpidos que hackeiam recompensas; ainda existem muitos bons e velhos hackers humanos, para os quais as novas ferramentas de IA têm sido uma dádiva de Deus.
Um novo relatório do Google Threat Intelligence Group (GTIG) – uma equipe de pesquisa do Google que monitora ameaças cibernéticas emergentes – descobriu que os atores de ameaças, muitos deles com laços diretos com os inimigos geopolíticos dos Estados Unidos, têm aumentado a sofisticação do seu uso de IA, fazendo a transição de chatbots básicos para sistemas mais acionários e autônomos.
“No último trimestre, os atores de ameaças foram além das simples interações LLM baseadas em prompts para integrar recursos de IA em vários estágios do ciclo de vida de um ataque”, escreveu GTIG em seu relatório, que foi publicado online na manhã de terça-feira. “Embora a automação tradicional baseada em scripts seja há muito tempo um elemento básico nas operações dos agentes de ameaças, os grupos estão cada vez mais atualizando esses fluxos de trabalho, criando sistemas altamente autônomos, capazes de raciocinar através de tarefas complexas e tomar decisões dinâmicas sem a necessidade de supervisão humana.” Em linguagem simples: a tecnologia que as principais empresas de IA (incluindo a Google) têm vindo a incorporar nos seus sistemas de IA, dando-lhes a capacidade de lidar com tarefas complexas sem ajuda constante, também está a facilitar muito o trabalho sujo dos hackers.
Alguns dos “adversários” que o GTIC identificou no seu novo relatório parecem ser apoiados pela China, Rússia e Irão. Um grupo, que o GTIC primeiro relatado no início deste ano e identificado apenas como “UNC6508”, tem como alvo instituições académicas, médicas e de investigação militar americanas de uma forma “alinhada com os interesses estratégicos da República Popular da China”. De acordo com o relatório de terça-feira, UNC6508 foi observado usando um modelo de IA de código aberto nos ambientes de nuvem de seus alvos para roubar computação sem deixar o tipo de rastro que seria deixado se eles estivessem usando um modelo de IA comercial e disponível publicamente.
“(UNC6508) continua pesquisando como configurar e usar ferramentas de IA, incluindo o uso de modelos abertos localmente e pesquisando vulnerabilidades nos próprios modelos de IA”, escreveu o GTIC em seu novo relatório.
Em outro caso relatado pelo GTIC, os agentes de ameaças rastreados até o Irã usaram o Gemini para gerar deepfakes realistas para serem usados em campanhas de engenharia social. Em vez de inserir um prompt após o outro para ajustar a aparência dos deepfakes, eles implantaram o modelo de IA para definir de forma autônoma “parâmetros técnicos granulares – incluindo ângulos de câmera, iluminação de estúdio e texturas faciais realistas – para obter resultados visuais fotorrealistas”.
A GTIC também relatou “campanhas coordenadas” sendo realizadas “regularmente” para destilar seus sistemas proprietários de IA, o que, segundo ela, é uma violação dos termos de serviço do Google e pode estar sujeito a ações legais. No entanto destilação tem sido uma prática amplamente utilizada na indústria de IA para desenvolver novos modelos, mas recentemente se tornou um ponto crítico político. Os principais desenvolvedores americanos, incluindo OpenAI e Anthropic, acusaram seus rivais chineses de destilar seus sistemas de IA em um esforço para obter vantagem competitiva, e a Casa Branca prometeu reprimir o que está acontecendo descrito como “campanhas deliberadas em escala industrial para destilar os sistemas de IA da fronteira dos EUA”.
