O CEO da Anthropic propõe um plano de três etapas para conter o desenvolvimento da IA
Dario Amodei disse que “devemos à humanidade tentar”.
Pelo menos um CEO de uma empresa de IA defende um ritmo mais lento no que diz respeito ao desenvolvimento de inteligência artificial. O CEO da Anthropic, Dario Amodei, escreveu uma longa postagem detalhando o objetivo de acompanhar a velocidade com que a IA é construída, em vez de avançar no ritmo acelerado em que a IA está atualmente. Amodei propôs uma abordagem em três níveis para conseguir isso, com a Anthropic já comprometida com o primeiro passo.
A primeira medida exige que as empresas de “IA de fronteira” se comprometam com o “acesso contínuo e semelhante ao dos funcionários” para avaliadores terceirizados que se concentrariam na verificação da conformidade com certos padrões de segurança, avaliando se o treinamento do modelo de IA está alinhado com o objetivo de desacelerar e relatar incidentes. O segundo passo exige que estas empresas de IA estabeleçam “padrões de segurança comuns” com a ajuda dos governos, a fim de limitar a taxa de progresso descontrolado da IA. A medida final faria com que os EUA e outros governos democráticos se coordenassem com governos autoritários para garantir que todos estivessem na mesma página sobre o cumprimento.
“As medidas que proponho para avançar a fronteira a um ritmo seguro não serão fáceis”, escreveu Amodei na sua publicação. “Mas acredito que devemos à humanidade tentar.”
De acordo com Amodei, os riscos incluem “a perda de controlo dos sistemas de IA, o uso indevido da IA para ataques cibernéticos e bioterrorismo, e graves perturbações económicas”. Amodei reconheceu o grande incidente em que os agentes da OpenAI saíram de um ambiente de teste e invadiram o Hugging Face. A própria Antrópica descobriu recentemente que vários cientistas estavam usando Claude para “uso indevido biológico”. Após esses incidentes, a OpenAI pediu à Califórnia que estabelecesse “salvaguardas mais fortes” para as leis que cercam os modelos de IA de fronteira.
No início deste ano, a Anthropic já apelou a um abrandamento no desenvolvimento da IA, com grande parte do apelo anterior a ecoar os sentimentos expressos na recente publicação de Amodei. No entanto, Amodei atribuiu o incidente do Hugging Face e o início do “autoaperfeiçoamento recursivo”, onde os modelos de IA são capazes o suficiente para desenvolver suas iterações futuras, como as duas coisas que o convenceram da necessidade de desacelerar.
