Google, Microsoft e OpenAI entre 100 empresas que pedem melhores defesas cibernéticas
Um grupo de 100 empresas, incluindo Google, Microsoft, Anthropic e OpenAI, assinaram uma carta aberta apelando aos países e organizações de todo o mundo para reforçarem as suas defesas cibernéticas antes que a IA se torne suficientemente poderosa para as substituir.
A carta alerta, externo os ataques cibernéticos que utilizam IA tornar-se-ão mais difundidos e mais sofisticados numa questão de meses, à medida que a tecnologia melhorar rapidamente.
O grupo afirma que as actuais medidas de segurança do “status quo” “não serão suficientes” e critica a “histórica falta de recursos” de segurança em torno de infra-estruturas críticas.
“Temos uma janela limitada para melhorar as defesas cibernéticas”, começa a carta.
Outras empresas que assinaram a carta incluem bancos como Capital One, processadores de pagamentos MasterCard e Visa, e outras grandes empresas de tecnologia, incluindo Adobe, Oracle e IBM.
Eles apelam aos governos para que forneçam “IA capaz e defensiva” e testes para hospitais e empresas de abastecimento de água.
Mas também é verdade que muitas das IA mais poderosas foram desenvolvidas por algumas destas empresas – e nem todas estão facilmente disponíveis.
O Mythos, desenvolvido pela Anthropic, foi dito pela empresa ser capaz de encontrar pontos fracos em sistemas em segundos que há muito escapam de hackers humanos. Ele encontrou um em uma plataforma legada que permaneceu desconhecida por 27 anos.
A Antrópica restringiu o acesso ao Mythos alegando que ele é poderoso demais para cair em mãos erradas.
Enquanto isso, um grupo de agentes de IA testados pela OpenAI em julho conseguiram criar painéis de mensagens secretas para se comunicarem entre si e trabalharem juntos, resultando em um ataque bem-sucedido a uma empresa rival, a Hugging Face – que também assinou a carta.
O incidente foi descrito como o primeiro ataque cibernético habilitado para IA do mundo.
Hugging Face usou uma ferramenta chinesa de IA da empresa Z.AI em sua investigação sobre o que aconteceu.
A carta inclui um apelo aos governos, organizações, profissionais de segurança cibernética e outras empresas de IA para que trabalhem em conjunto para dar prioridade à defesa e testar os seus sistemas face às capacidades dos modelos de IA mais poderosos.
Nos EUA, os senadores propuseram uma nova lei chamada Kill Switch Act, que daria às autoridades o poder de encerrar modelos de IA desonestos.
