Projeto de lei antrópico interromperia modelos de IA se mais de 50 pessoas morressem, diz relatório

À medida que cresce a preocupação com a perigos de inteligência artificiala regulamentação da IA ​​tornou-se um tema quente tanto no Vale do Silício quanto em Washington, DC

A gigante da IA ​​Anthropic, criadora de Claude, tem apresentado seu próprio conjunto de regras de segurança de IA aos legisladores, e ao Politico obtido recentemente um rascunho confidencial das propostas da empresa.

Então, o que está na proposta de lei de segurança de IA da Anthropic? Digamos apenas que pelo menos algumas dessas propostas são reveladoras, para dizer o mínimo.

De acordo com o documento obtido pelo Politico, o projeto de lei de segurança de IA da Anthropic só permitiria ao governo bloquear o lançamento de um modelo de IA se representasse um “risco previsível e iminente” de causar mais de US$ 1 bilhão em danos ou a morte ou ferimentos graves de mais de 50 pessoas.

Quer mais notícias sobre tecnologia e cultura digital entregues diariamente na sua caixa de entrada ou diretamente no seu dispositivo? Inscreva-se no boletim informativo de notícias principais do Mashable ou receba alertas push do Mashable hoje.

Além disso, o risco do modelo de IA deve estar relacionado especificamente com um ataque cibernético, com a perda de controle de um desenvolvedor sobre um modelo ou com a criação ou lançamento de uma arma biológica.

Como esses riscos seriam determinados?

Segundo a proposta vista pelo Politico, avaliadores independentes analisariam periodicamente um laboratório de IA e seus modelos. Se os avaliadores descobrirem que existe um “risco enumerado iminente” de um modelo, eles reportarão isso ao Departamento de Comércio dos EUA dentro de 72 horas. O Departamento de Comércio decidiria então se o limite para um risco exige um pedido de um juiz para bloquear a divulgação do modelo.

Segundo o projeto de lei da Antrópico, apenas um juiz federal em Washington, DC, poderia suspender um modelo. Na verdade, o projeto de lei proíbe especificamente qualquer outro “departamento, agência ou funcionário” de ter autoridade para suspender um modelo de IA.

Curiosamente, o que não é proibido é quem financia os avaliadores independentes. Na verdade, a proposta da Anthropic afirma explicitamente que os avaliadores podem ser pagos pelos laboratórios de IA, desde que o pagamento não influencie as suas conclusões, segundo o Politico.

Isto levanta uma questão óbvia: como provar que um avaliador não é influenciado pela origem do seu financiamento? Além disso, parece que, com base neste projeto de lei relatado, US$ 999.999.999 em danos ou a morte de 49 pessoas seriam não acionar o processo necessário para pausar um modelo.

Como vários meios de comunicação têm apontouo projeto de lei de IA da Anthropic se assemelha muito a projetos de lei aprovados recentemente na Califórnia, como SB 53. Dito isso, porém, todas as empresas de IA, como a Anthropic, forneceram informações que levaram à criação do projeto de lei final.

Com o número de incidentes com agentes de IA “desonestos” aparentemente aumentando, parece que as leis e regulamentações de segurança de IA são uma necessidade neste momento. Mas não está claro qual o papel que as próprias empresas de IA devem desempenhar na elaboração dessas leis, especialmente se estivermos a ver propostas que incluem reguladores supostamente neutros a serem pagos pelas próprias empresas que deveriam regular.

Quer saber mais sobre como tirar o melhor proveito da sua tecnologia? Inscreva-se nos boletins informativos de notícias e ofertas principais do Mashable ou receba alertas push do Mashable hoje.