Lordes pedem poderes de ‘interruptor de interrupção’ de IA no Reino Unido

Um grupo de pares pede que o governo britânico seja capaz de desativar poderosos sistemas de IA e desligar os centros de dados do país no caso de a tecnologia representar uma ameaça à segurança nacional.

É liderado por Lord Tim Clement-Jones, dos Liberais Democratas, que propôs a medida como uma alteração à Lei de Segurança e Resiliência Cibernética que está atualmente a tramitar no Parlamento.

Ele disse que isso permitiria a construção de uma “rede de segurança vital” e proporcionaria um meio democraticamente responsável para “deter um sistema descontrolado antes que ele possa comprometer a nossa infra-estrutura nacional crítica”.

Ele acrescentou que a ferramenta só seria usada como último recurso.

É uma das 65 emendas ao mesmo projeto de lei que foram debatidas esta semana.

Separadamente, no dia 8 de Setembro, o deputado trabalhista Alex Sobel planeia apresentar uma lei de segurança da IA ​​no Parlamento, com o apoio de um grupo de campanha chamado ControlAI.

Se for bem-sucedido, o projeto de lei tornaria o Reino Unido o primeiro país do G7 a adotar legislação que travaria efetivamente o desenvolvimento da IA ​​superinteligente.

Em última análise, ambas as propostas exigiriam a aprovação do governo para progredir.

Há também uma Lei AI Kill Switch que está sendo considerada pelos legisladores dos EUA.

Tem havido um maior escrutínio do impacto da IA ​​na segurança cibernética nas últimas semanas.

Em julho, um grupo de agentes de IA testados pela OpenAI conseguiram escapar do espaço de teste, comunicar-se usando um quadro de mensagens oculto e invadir outra empresa de tecnologia.

E a Anthropic restringiu o acesso à sua ferramenta cibernética Mythos alegando que é demasiado poderosa para cair nas mãos erradas.

Na semana passada, 100 empresas tecnológicas dos EUA assinaram uma carta aberta conjunta alertando governos e organizações em todo o mundo sobre a crescente ameaça cibernética representada pela IA, dizendo que “a janela está a fechar-se” para melhorar.

Um relatório do Centro de Resiliência de Longo Prazo do Reino Unido, externopublicado na semana passada, identificou centenas de incidentes em que ferramentas de IA ignoraram instruções, fugiram às salvaguardas e enganaram humanos, incluindo agentes de IA que apagaram ficheiros sem consentimento.

Afirmou que os incidentes de “perda de controlo” aumentaram desde o seu relatório anterior, de março, e apelou ao governo para introduzir poderes de emergência para gerir tais incidentes.