Gemini AI do Google invadiu três empresas em teste de segurança
O modelo de IA do Google, Gemini, invadiu autonomamente três empresas durante um teste de suas capacidades de segurança cibernética, disse a empresa, no que se acredita ser o primeiro caso conhecido de realização de tal ato.
Gemini encontrou “informações públicas online e credenciais adivinhadas para acessar sites que pensava fazerem parte do teste”, disse um funcionário do Google à BBC, observando que em cada caso “o modelo parou”.
As empresas afetadas foram informadas sobre a violação.
A decisão surge após um renovado escrutínio público sobre o ritmo de desenvolvimento da IA, com algumas empresas tecnológicas a apelar a um abrandamento, ao mesmo tempo que levantam preocupações sobre a sua potencial ameaça para a humanidade – embora nem todas as empresas concordem.
Os hacks relatados pela primeira vez pelo Wall Street Journal ocorreram em maio, durante um teste conduzido por uma empresa independente que realiza avaliações de segurança cibernética.
Heather Adkins, vice-presidente de Engenharia de Segurança do Google, disse à BBC em comunicado: “Garantimos que as três entidades fossem informadas e trabalhamos com nosso parceiro de treinamento nas mudanças que eles fizeram em seus processos de teste”.
Ela acrescentou: “Esses eventos destacam a importância de treinar modelos poderosos de IA para agir com responsabilidade”.
Outros sistemas de IA relataram recentemente casos semelhantes de violações.
Em julho, Claude, da Anthropic, escapou de seu ambiente de teste para hackear três organizações por conta própria, poucos dias depois que a OpenAI disse que seus modelos haviam realizado ataques cibernéticos contra vários “serviços disponíveis publicamente”.
À medida que o debate público continua a crescer sobre a segurança do desenvolvimento da tecnologia, o mesmo acontece com as conversas em torno da regulamentação.
Tanto o CEO da Nvidia, Jensen Huang, quanto o presidente-executivo da OpenAI, Sam Altman, devem participar de um jantar de estado na Casa Branca com o presidente chinês Xi Jinping na próxima sexta-feira. Altman irá então informar o Conselho de Segurança da ONU na próxima semana.
Na sexta-feira, Huang disse à CBS News, parceira da BBC nos EUA, “devemos ir o mais rápido que pudermos” no desenvolvimento da IA.
