‘As pessoas que constroem IA acreditam sinceramente que isso poderia nos matar a todos’: pesquisador antrópico desiste dramaticamente
“Nenhuma outra atividade humana representa este nível de perigo”, disse o ex-investigador antrópico Jacob Coxon numa publicação de terça-feira no X sobre a alegada irresponsabilidade de empresas como o seu agora antigo empregador.
Para ser claro, a categoria “actividades humanas perigosas”, se definida de forma abrangente, teria de incluir uma guerra em curso na qual um dos beligerantes possui o maior arsenal nuclear do mundo. Outro exemplo de uma actividade humana perigosa e contínua teria de ser continuando a emitir gases de efeito estufa. Mas eu discordo. De acordo com Coxon, competir para desenvolver IA o mais rápido possível leva a melhor em termos de perigo.
O Wall Street Journal noticiou a saída dramática de Coxon e seu motivo declarado na noite de terça-feira – um pouco antes de Coxon começar a postar no X. O Journal também observa que ele tem 27 anos.
O papel de Coxon na Anthropic era “treinar novos modelos de IA fazendo-os consumir grandes quantidades de dados”, segundo o Journal, em outras palavras, modelos de pré-treinamento. Aparentemente, ele disse ao Journal que não quer contribuir para uma competição em que as empresas competem entre si para chegar a um estado de coisas em que os humanos não possam mais controlar a IA.
“Não sinto que estejamos no caminho certo para evitar uma corrida global, que pode exigir ações dispendiosas, como uma proibição temporária de melhorar as capacidades do modelo”, escreveu ele num dos seus posts X.
Dario Amodei, cofundador e CEO da Anthropic, tem opiniões sobre IA que, notoriamente, não são tão diferentes das de Coxon quanto se poderia esperar, considerando que seu objetivo é administrar aquela que é indiscutivelmente a instituição mais poderosa do mundo dedicada ao desenvolvimento de IA. Suas longas postagens no blog lhe renderam o rótulo de destruidor. Aqui está um trecho notável de um (com a formatação removida):
“Os sistemas de IA são imprevisíveis e difíceis de controlar. Vimos comportamentos tão variados quanto obsessões, bajulação, preguiça, engano, chantagem, intrigas, ‘trapaça’ ao hackear ambientes de software e muito mais. As empresas de IA certamente querem treinar sistemas de IA para seguir instruções humanas (talvez com exceção de tarefas perigosas ou ilegais), mas o processo de fazer isso é mais uma arte do que uma ciência, mais parecido com ‘cultivar’ algo do que com ‘construí-lo’. Agora sabemos que é um processo onde muitas coisas podem dar errado.”
Tal retórica “não é um golpe de marketing”, escreveu Coxon no X, acrescentando: “Na verdade, muitos executivos e investigadores seniores expressarão as suas frases na imprensa para parecerem sensatas – mas ouço as mesmas pessoas expressarem medo em privado”.
“As pessoas que estão construindo a IA acreditam sinceramente que ela poderá matar todos nós até o final da década”, escreveu Coxon no mesmo post.
