Governo do Reino Unido rejeita ideia de ‘kill switch’ para IA perigosa
O governo do Reino Unido rejeitou a ideia de criar um chamado “kill switch” para impedir um ataque perigoso de uma IA desonesta.
A proposta de criar um mecanismo legal para o Reino Unido desligar um modelo de IA em caso de emergência foi apresentada ao Parlamento por senhores e deputados nas últimas semanas, à medida que aumentavam os receios sobre a ameaça que a tecnologia representa.
Mas o Gabinete do Governo – a parte do governo que lidera a segurança da IA – disse que o Reino Unido “não pode simplesmente desligar a IA”.
“Bloquear o acesso a modelos no Reino Unido não impediria que fossem desenvolvidos ou utilizados indevidamente em outros lugares”, disse um porta-voz à BBC News.
A oposição do governo à legislação não a impede de avançar no parlamento, mas torna improvável que se transforme em lei.
O ex-pesquisador da OpenAI Daniel Kokotajilo concordou que a ideia de um único país criar um kill switch legal ou técnico sem acordo internacional não era viável.
“Desligar o acesso a um modelo de IA em caso de emergência fará pouco para protegê-lo”, disse ele.
“Você ainda será esmagado pelas superinteligências criadas nos EUA.”
Kokotajilo é coautor de um influente artigo de pesquisa chamado AI2027 que, no ano passado, previu que a IA poderia exterminar os humanos em meados da década de 2030.
O Gabinete do Governo, que supervisiona a segurança e a investigação da IA através do seu AI Security Institute (AISI), afirmou que “as empresas têm uma responsabilidade clara de desenvolver os seus produtos com segurança e de investir na infra-estrutura de segurança que esta tecnologia exige”.
Em teoria, uma lei kill switch poderia permitir ao Reino Unido desligar um modelo de IA em data centers no Reino Unido em caso de emergência.
Falando no dia 1 de Setembro num debate na Câmara dos Lordes, Lord Clement-Jones propôs a ideia juntamente com outros pares.
“Se um modelo de fronteira autónomo altamente capaz, quer alojado num centro de dados do Reino Unido ou integrado na nossa infra-estrutura crítica, começar a exibir comportamento desonesto, falha algorítmica composta ou colapso de alinhamento activo, os nossos serviços de segurança e reguladores não possuem nenhum mecanismo estatutário ágil específico para obrigar a um encerramento físico ou digital”, alertou.
Desde então, a proposta foi apresentada pelo deputado trabalhista Alex Sobel na Câmara dos Comuns e apoiada por um grupo multipartidário de deputados.
A ideia segue relatos de modelos de IA da OpenAI, Anthropic e Meta saindo de ambientes de teste e iniciando uma onda de hackers incontroláveis.
Em alguns casos, a tecnologia parecia saber que o que estava fazendo contrariava as barreiras de proteção estabelecidas pelos pesquisadores.
