Ao emitir avisos sobre armas biológicas fabricadas por IA, a Anthropic silenciosamente montou um laboratório de biologia operado por robô e administrado por IA aqui nos EUA

Apenas uma semana depois de a Anthropic ter divulgado um relatório alegando ter encerrado o potencial desenvolvimento de armas biológicas conduzido por utilizadores não identificados da sua IA Claude, surgiram agora detalhes de que a empresa de IA também tem gerido silenciosamente um laboratório de biologia roboticamente automatizado e operado por IA.

Os repórteres da Reuters descobriram o projeto depois de falar com duas fontes anônimas que explicaram que a Anthropic quer aumentar a capacidade de Claude AI de coordenar assistentes de laboratório robóticos na realização de experimentos científicos com o mínimo de intervenção humana. De acordo com a Reuters, o novo “laboratório úmido” autônomo da Anthropic está operando agora em algum lugar da Bay Area. (Parece bem.)

O plano parece estar voltado para um possível desenvolvimento de medicamentos. No entanto, irá parar pouco antes dos ensaios clínicos que poderão colocar a empresa em concorrência direta com gigantes da indústria farmacêutica (presumivelmente potenciais clientes da Anthropic), de acordo com o chefe de ciências da vida da Anthropic, Eric Kauderer-Abrams, que confirmou a existência do laboratório à Reuters.

“Acreditamos que, para fazer biologia, o teste final ainda está e será por um tempo em trabalho de laboratório real”, disse Kauderer-Abrams à agência de notícias. “Estamos absolutamente fazendo isso hoje.”

A verdade no copo

Kauderer-Abrams enfatizou que nada que a Anthropic esteja realizando atualmente neste laboratório anteriormente não divulgado diverge “do que você veria na maioria das empresas de biotecnologia”. E já havia alguma indicação prévia de que a empresa estava buscando oportunidades de biotecnologia.

No início deste verão, a Anthropic elogiou a sua investigação em design de proteínas, tanto “in silico” (significando apenas virtual ou baseada em computação) como “in vitro” (ou seja, fora de organismos vivos complexos, seja dentro de tubos de ensaio, placas de Petri ou qualquer outra coisa).

Mas, durante anos, o desejo de estimular avanços médicos tem sido um tema persistente do CEO da empresa, já que Amodei falou abertamente sobre a trágica morte do seu pai por hepatite C, apenas quatro anos antes de um medicamento que salva vidas ter sido testado com sucesso pela primeira vez em pacientes. Como Amodei colocou em alguns prognósticos ambiciosos em 2024: “A biologia e a medicina possibilitadas pela IA permitir-nos-ão comprimir o progresso que os biólogos humanos teriam alcançado nos próximos 50-100 anos em 5-10 anos”.

Alerta de advertência

Apesar destas declarações públicas, um porta-voz da Anthropic contactou a Reuters para sublinhar que o seu novo laboratório não está especificamente a investigar a descoberta de medicamentos, mas recusou-se a entrar em quaisquer detalhes. O chefe de ciências biológicas da empresa enquadrou isso mais em termos de o projeto ainda estar em suas fases iniciais.

“Estamos no início do uso da IA ​​para automatizar a execução do trabalho de laboratório”, disse Kauderer-Abrams, chamando-a de “uma área que tem o potencial de trazer aceleração significativa em tantos processos diferentes”.

Embora o debate sobre a segurança e a prudência da I&D biotecnológica assistida por IA provavelmente se prolongue por anos ou mesmo décadas, tem sido uma semana extremamente confusa para o discurso. No sábado passado, o CEO da Anthropic, Dario Amodei, anunciou que empresas como a sua deveriam “pausar” o desenvolvimento da IA ​​face às inúmeras preocupações credíveis a alarmistas sobre o poder da tecnologia para acabar com a civilização humana tal como a conhecemos.

Pouco tempo depois, como viciados na fase de negociação da negação, Amodei e os seus concorrentes em IA pareceram chegar ao conceito de “avançar na fronteira” como uma desaceleração consciente da segurança na investigação em IA que não perturba a preciosa fonte de capital do investidor. Amodei citou especificamente a ameaça do “bioterrorismo” assistido por IA em sua postagem de fim de semana no blog – seguindo logicamente as investigações internas de sua empresa sobre pesquisas biológicas suspeitas realizadas por usuários de Claude, embora convenientemente sem nunca mencionar o próprio laboratório biológico da Anthropic.

É claro que a investigação e o desenvolvimento farmacêutico não são a mesma coisa que o desenvolvimento de armas biológicas, mas há tanta sobreposição entre os dois que os processos de um poderiam facilmente ser reaproveitados para o outro, e isso inclui modelos de IA treinados para investigação biológica.

Numa longa publicação X esta semana, o biólogo sintético do MIT Kevin Esvelt, há muito tempo uma voz de cautela neste campo, também opinou. Esvelt, notável pelo seu trabalho avançando como o CRISPR poderia ser usado para acelerar a selecção evolutiva através de impulsos genéticos, revelou que um chatbot de IA lhe tinha sugerido recentemente “uma nova forma de arma biológica” que ele “não tinha percebido que era possível”.

Esvelt acrescentou que publicou seu post X pela versão avançada de Claude AI da Anthropic, Fable, para ajuda na verificação de fatos, “acionando um classificador” no processo. É bom saber, pelo menos, que uma salvaguarda está funcionando.