Com o maior IPO de todos os tempos, a reputação de ‘mocinho’ da Anthropic está em jogo

Hoje é um novo começo para a Anthropic: um IPO que está em andamento há anos e que superou a SpaceX como o mais valioso de todos os tempos, tendo arrecadado US$ 81,3 bilhões e estabelecido um precedente importante para outras estreias públicas de laboratórios de IA que virão. Mas não é simplesmente um marco financeiro.
A Anthropic foi fundada na ideia de priorizar a segurança mais do que outros laboratórios; seus fundadores deixaram cargos de pesquisa executiva na OpenAI. No entanto, à medida que a corrida à IA se acelerou, os seus executivos enfatizaram que a Anthropic só pode cumprir esta missão ficando em primeiro lugar, o que exige muito dinheiro e computação. Não é de surpreender que o desenvolvimento cuidadoso, seguro e intencional da IA possa entrar em conflito com o tipo de velocidade que a vitória nesta corrida exige. Adicionar uma oferta pública inicial apenas complica ainda mais as coisas, e a liderança da Anthropic pode persegui-la de forma mais ou menos unilateral. Isto deve-se a uma estrutura empresarial focada em isolar a empresa da pressão dos accionistas para obter lucro – mas que também elimina os controlos típicos do seu poder.
Um antigo funcionário da Anthropic, que saiu antes do IPO, disse que ele e outros na Anthropic têm sentido cada vez mais que o ritmo atual de desenvolvimento da IA é “insustentável sob estruturas normais de mercado”, especialmente com os incentivos incompatíveis em jogo numa indústria poderosa com pouca ou nenhuma supervisão.
A Anthropic passou anos se autodenominando diferente e mais cuidadosa do que outras empresas de IA. Em teoria, isso se estende ao seu plano de abertura de capital. Está registrada como uma Corporação de Benefício Público, o que significa que o conselho da Anthropic tem a responsabilidade de equilibrar sua missão com a maximização da riqueza dos acionistas. Tal como o meu colega Robert Hart já referiu anteriormente, também desenvolveu uma estrutura de poder altamente invulgar.
O Long-Term Benefit Trust (LTBT) da Anthropic, introduzido em 2023, e seus fundadores têm direitos de voto controladores, o que significa que nunca poderiam ser eliminados pelos acionistas, mesmo sendo uma empresa pública. Uma classe especial de ações, Classe T, permite a um pequeno grupo de curadores – os membros do LTBT – a “autoridade para selecionar e remover uma parte” do conselho da Anthropic. Eles existem fora da pressão típica dos acionistas e, teoricamente, são um cheque para os fundadores, incumbidos da missão de “equilibrar os interesses financeiros dos nossos acionistas e o nosso propósito de benefício público em momentos-chave onde esperamos que as consequências das nossas decisões vão muito além da Antrópica”.
A realidade é significativamente mais complicada. O LTBT escolhe tecnicamente quatro membros do conselho de sete pessoas da Anthropic, por exemplo, mas um desses quatro precisa efetivamente ser aprovado pelos fundadores da Anthropic, deixando a confiança aquém do controle majoritário direto. Também há estipulações sobre a nomeação ou destituição de um diretor: o LTBT deve comunicar sua decisão com 30 dias de antecedência ao “comitê de nomeação e governança corporativa” da empresa, que consiste em três membros: a cofundadora Daniela Amodei (que é presidente do comitê), o cofundador da Netflix, Reed Hastings, e o investidor da Anthropic, Yasmin Razavi.
Embora os membros do LTBT estejam “desinteressados financeiramente” na empresa, também não há nada que impeça a Anthropic de hipoteticamente contratar um administrador e pagar-lhe muito dinheiro para trabalhar para a empresa. Mariano-Florentino Cuéllar (ex-administrador) ingressou na Anthropic em agosto como diretor de assuntos globais, e a OpenAI contratou no passado um ex-membro do conselho, Fidji Simo, para um cargo executivo dentro da empresa. Poderíamos imaginar um cenário em que, se um administrador estivesse “parecendo um pouco ativista demais ou algo assim, ele poderia simplesmente fazer a esse administrador uma oferta com milhões de dólares em compensação efetiva que implicaria a renúncia do trust, e essa é uma maneira pela qual eles poderiam ter alguma supervisão sobre isso”, disse Tyler Johnston, fundador do The Midas Project, um cão de guarda da indústria de IA sem fins lucrativos.
Embora o LTBT seja anunciado como uma forma de verificar a liderança da Anthropic, para alguns observadores externos, as letras miúdas parecem instáveis. “O trust, por não ter interesse financeiro na Anthropic, poderia teoricamente usar seu poder com três ou quatro diretores para manter a empresa em missão”, diz Ann Lipton, professora de direito na Faculdade de Direito da Universidade do Colorado e especialista em governança corporativa. “Alguém pode questionar a probabilidade de isso acontecer.”
Além disso, Lipton questiona se o trust saberia o suficiente para avaliar quando pisar no freio em um plano ou produto da empresa, mesmo que tivesse tal autoridade. Os quatro membros listados do LTBT não são conhecidos por serem especialistas em IA: incluem o antigo presidente da Fed, Ben Bernanke, o analista de política externa Richard Fontaine, o físico experimental Christopher Stubbs e o antigo executivo da GiveWell, Neil Buddy Shah, que é presidente do LTBT. “Não estou convencido de que os administradores ou diretores que eles nomeiam tenham conhecimento sobre IA e desenvolvimento de IA para serem capazes de fazer essas escolhas”, diz Lipton. “São pessoas de muito prestígio, mas o que Ben Bernanke sabe sobre IA?”
Vários especialistas compararam o LTBT da Anthropic ao conselho da organização sem fins lucrativos da OpenAI antes da demissão de Altman: “Os poderes, ou a falta deles, do Long-Term Benefit Trust… (são) análogos em alguns aspectos aos poderes que a organização sem fins lucrativos da OpenAI tem”, disse Johnston, do The Midas Project. É claro que a decisão do conselho de destituir o CEO da OpenAI, Sam Altman, acabou levando, dias depois, ao retorno de Altman como CEO e à maior parte da renúncia e substituição do conselho.
Mas há uma diferença notável entre isso e o LTBT. Antes da reestruturação da OpenAI, o seu conselho sem fins lucrativos tinha a capacidade de intervir e orientar as decisões do dia-a-dia na empresa quando considerado necessário, e mesmo após a sua reestruturação, mantiveram essa capacidade para questões de segurança e protecção, tais como atrasar ou parar o lançamento de um modelo. O Formulário S-1 da Anthropic sugere que o LTBT, cuja principal função é nomear (e potencialmente destituir) certos membros do conselho, não possui nenhum desses níveis de autoridade.
Em vez disso, a estrutura da Anthropic se parece mais com o tipo de configuração centrada no fundador que o Vale do Silício favorece – como Mark Zuckerberg com Meta e Elon Musk com SpaceX.
A Antrópica não respondeu a um pedido de comentário.
“Nem o Trust nem os administradores têm qualquer autoridade de tomada de decisão… nas decisões do dia a dia”, disse Hamza Chaudhry, que lidera a IA e a segurança nacional no Future of Life Institute. “Portanto, não tenho grandes esperanças de que o LTBT seja um mecanismo chave para a governação depois de se tornar público.”
O ex-funcionário da Anthropic disse que os fundadores da Anthropic são essencialmente os únicos com qualquer poder real de tomada de decisão: “Eu ficaria surpreso se você pudesse encontrar alguém que conheça os fundadores, conheça o Long-Term Benefit Trust, entenda como as decisões são tomadas e pense que o Long-Term Benefit Trust tem algum poder significativo”, disse ele. O funcionário acrescentou que os curadores estavam “mal equipados para fornecer supervisão significativa” aos fundadores e também foram selecionados propositalmente para não balançar o barco.
A Anthropic, como empresa pública, enfrentará mais pressão do que nunca para garantir capital, seja através da geração de mais receitas ou da captação de recursos. Isto significa que, como tem sido uma tendência na indústria há anos, será provavelmente mais difícil justificar iniciativas dispendiosas de segurança da IA, e haverá inevitavelmente mais pressão para acelerar o lançamento e a comercialização de produtos. “Essa confiança e os fundadores juntos são os que realmente têm poder de governança”, disse Lipton. “Portanto, ou você confia que eles equilibrarão os interesses da sociedade de maneira adequada, ou não. De qualquer forma, a verdadeira restrição a quaisquer impulsos sociais que eles tenham será o fato de que a Antrópica precisa de dinheiro.”
A Anthropic foi aberta sobre o fato de que precisa extremamente de dinheiro vivo, principalmente para comprar mais computação e acelerar seu avanço em IA. “A computação é o dilema comercial mais profundo que a empresa enfrenta”, disse Amodei na sexta-feira passada em uma conversa transmitida ao vivo com o CEO do JPMorgan Chase, Jamie Dimon. “Se você comprar demais, é claro que poderá se sobrecarregar financeiramente. Se comprar muito pouco, não poderá apoiar a inferência para os clientes e, ainda mais importante… não poderá realizar pesquisa e desenvolvimento.”
O site da Antrópico resume a atuação da empresa razão de ser como uma coisa: “Pesquisas e produtos de IA que colocam a segurança na fronteira”. Mas também está claro que, para que esse compromisso de segurança tenha importância, a Anthropic precisa de vastos recursos para continuar a ser um negócio viável. Como outros laboratórios, tem buscado o autoaperfeiçoamento recursivo, um marco controverso e potencialmente perigoso da indústria que denota sistemas de IA que podem melhorar e criar versões avançadas de si mesmos de forma autônoma. “Você não pode cuidar da segurança em segundo lugar”, disse a chefe de política antrópica, Sarah Heck, em setembro.
Essa explicação não satisfez a todos, inclusive alguns funcionários da Antrópico. O chefe de pesquisa de salvaguardas da Anthropic partiu em fevereiro alegando que “o mundo está em perigo”; um de seus pesquisadores, Jacob Coxon, ganhou as manchetes em setembro por afirmar que tanto a Anthropic quanto a OpenAI estão “correndo direto para o autoaperfeiçoamento da superinteligência e apostando com nossas vidas”; e naquele mesmo mês, um pesquisador de segurança da Anthropic partiu para trabalhar no METR, auditor de IA terceirizado sem fins lucrativos, escrevendo que “as empresas de IA estão no caminho certo para impor um nível de risco sem precedentes à sociedade” e que “embora a Anthropic não tenha tido um incidente tão grave quanto o ataque HuggingFace (por agentes da OpenAI), acho que isso é em parte uma questão de sorte”.
Na quarta-feira, uma nova declaração do Center for AI Safety, com proeminentes signatários da indústria da Hugging Face, da Universidade de Harvard e outros, alegou que a Anthropic “não é uma empresa de IA segura” e que tenta “acumular poder em nome de um bem maior”. Afirmou: “A Anthropic alerta que a IA recursivamente auto-aperfeiçoada poderia concentrar o poder e escapar ao controle humano, mas corre para construí-la primeiro. A empresa usa a marca de segurança para cortejar investidores, funcionários e o público – mesmo que tenha enfraquecido silenciosamente suas promessas de segurança e feito lobby por uma regulamentação egoísta”.
O ex-funcionário da Anthropic disse que sentiu que inicialmente “bebeu o Kool-Aid” sobre a necessidade da Anthropic de chegar em primeiro lugar na corrida da IA para um resultado seguro, mas depois ficou desiludido, percebendo que a corrida ao topo não “justificava o custo imposto” – ou seja, que uma empresa não deveria ser capaz de decidir “unilateralmente” buscar o RSI. (Amodei declarou publicamente que “se não for controlado, (RSI) poderá ultrapassar a nossa capacidade de compreender e controlar estes sistemas e, portanto, deve ser perseguido com muito cuidado, se for o caso.”)
“É bastante ridículo que as empresas privadas estejam a construir uma nova forma de inteligência no caminho certo para serem mais poderosas e influentes no planeta do que os humanos e estejam a fazer isso com menos supervisão, em muitos aspectos, do que os camiões de taco têm actualmente”, disse o ex-funcionário.
O site da Anthropic afirma que “no final das contas, a missão é o motivo pelo qual estamos todos aqui. Ela nos dá um propósito compartilhado e nos permite agir rapidamente em conjunto, em vez de sermos puxados em múltiplas direções por objetivos concorrentes. Ela gera confiança e colaboração, e é o árbitro final em nossas decisões”. A questão é se, e como, a interpretação da missão da Anthropic pode mudar – uma vez que enfrenta mais pressão do que nunca para justificar uma capitalização de mercado totalmente diluída de cerca de 1,5 dólares. trilhão.






