CEO da Anthropic descreve plano para ‘avançar na fronteira’

Temos visto avisos cada vez mais terríveis de pesquisadores de IA sobre os perigos da inteligência artificial, e até mesmo comentários do CEO da OpenAI, Sam Altman, de que talvez seja hora de “acompanhar” o desenvolvimento da IA. Mas como seria isso realmente?

Numa nova publicação no blog, o CEO da Anthropic, Dario Amodei, não só repetiu o apelo para “acompanhar a fronteira”, mas também delineou três estratégias amplas para o fazer. E ele disse que a Anthropic está “comprometida unilateralmente” com um deles.

O debate sobre a segurança e o alinhamento da IA ​​intensificou-se esta semana depois de o investigador Jacob Coxon ter escrito que se demitiu da Anthropic devido a preocupações de que as principais empresas de IA estejam a “jogar com as nossas vidas”, enquanto as pessoas que constroem a tecnologia “acreditam sinceramente que esta poderá matar-nos a todos até ao final da década”, uma afirmação repetida por outros na Anthropic.

A postagem de Amodei não menciona explicitamente a renúncia de Coxon ou suas preocupações, mas o CEO escreveu que duas coisas o convenceram de que é hora de adotar uma abordagem mais cautelosa ao desenvolvimento de IA: o hack OpenAI-HuggingFace e o fato de que “a IA tem avançado drasticamente mais rápido” nos últimos meses, particularmente com sua “capacidade crescente de construir a próxima geração de IA”.

“Devemos diminuir o ritmo com que melhoramos as capacidades dos modelos de IA”, escreveu Amodei. “O progresso ainda parecerá rápido e devemos usar sabiamente o tempo que ganhamos.”

O primeiro passo proposto envolveria “avaliadores integrados” de organizações terceirizadas como o METR – avaliadores que podem verificar se as empresas de IA estão realmente seguindo seu ritmo e compromissos de segurança e também podem garantir que os incidentes de segurança sejam relatados. (A OpenAI foi recentemente criticada por não relatar um incidente em que seus agentes de IA assumiram o controle de um formulário wiki alemão.)

Amodei comparou esses avaliadores a reguladores que foram integrados a funcionários de bancos e disse que convidá-los é “algo com o qual a Anthropic está se comprometendo unilateralmente (e apela aos governos para que exijam que outras empresas fronteiriças se igualem)”. Isso significa dar aos avaliadores crachás, mesas e laptops da empresa e fornecer acesso “em grande parte comparável ao que as equipes internas de avaliação de risco têm”, com exceções quando exigido por lei ou contratos.

Em seguida, Amodei apelou às principais empresas de IA “dentro dos países democráticos” para coordenarem “normas de segurança comuns, bem como limites à taxa de progresso não controlado da IA”.

Tal coordenação pode parecer improvável, tanto devido à aparente animosidade entre Altman e Amodei como também porque as suas empresas estão alegadamente preocupadas que uma pausa coordenada possa levar a um escrutínio antitrust. Amodei aludiu a essa preocupação no seu post, escrevendo que “por razões antitrust, é útil para o governo dos EUA mediar ou pelo menos permitir estas discussões – eles não precisam de participar, mas precisam de emitir uma renúncia restrita para certos tipos de conversas de segurança”.

Amodei também reconheceu o espectro do domínio chinês da IA, que muitas vezes levanta um argumento contra a desaceleração do desenvolvimento. Mas ele disse que se o governo dos EUA e as empresas tecnológicas tomarem medidas como recusar a venda de chips poderosos ou equipamento de produção de semicondutores a empresas chinesas, bem como reprimir a destilação de modelos, poderão “retardar o progresso da China o suficiente para ampliar significativamente a liderança da América ao longo dos próximos 3-5 anos”.

Por último, Amodei apelou à “coordenação global”, onde os Estados Unidos e os seus aliados “tentem coordenar-se com governos autoritários, na medida do possível”. Amodei disse que isso significaria “cooperação com a China” e admitiu que existem “limites rígidos sobre o que pode ser alcançado”, mas ainda sugeriu que poderia haver oportunidades de acordo, mesmo que seja apenas “proibir certos usos estreitos e obviamente perigosos da IA, como usar IA para a produção de armas biológicas ou permitir que os utilizadores o façam”.

Com a disposição anterior de Amodei em reconhecer os perigos potenciais da IA, e com a relativa abertura da empresa a certas formas de regulamentação, alguns impulsionadores da IA ​​já o criticaram como um destruidor, cujos comentários alimentaram a actual reacção negativa da IA. Em resposta, Amodei disse que tentou oferecer uma perspectiva “equilibrada”” e argumentou que a reação é “fundamentalmente uma crise de confiança”, à medida que as pessoas se tornaram céticas em relação às empresas de tecnologia, à indústria tecnológica e ao governo.

Os críticos da indústria também têm sido céticos em relação a estes avisos apocalípticos da IA, sugerindo que são uma distração dos danos que a tecnologia já está a causar.

O jornalista Brian Merchant, por exemplo, escreveu que ainda não viu “uma documentação credível e passo a passo de como exactamente a IA pode passar de uma IA auto-recursivamente melhorada para matar todos os seres humanos do planeta”; ele também sugeriu que propostas semelhantes às de Amodei “provavelmente acabariam servindo apenas à Anthropic e à OpenAI; é assim que a captura regulatória se parece em ação”.

Em sua nova postagem, Amodei escreveu que continua “acreditando que a IA pode melhorar enormemente a qualidade da vida humana”.

“Meu desejo de alcançar esses benefícios não diminui”, disse ele. “Mas os benefícios só serão alcançados se construirmos a tecnologia da maneira certa e – desde que utilizemos bem o tempo que ganhamos – vale a pena tomar um cuidado extraordinariamente deliberado para acertar.”