O Vale do Silício quer que você invista em milagres

Investir em qualquer ação é como jogar, no sentido de que você aposta seu dinheiro no desempenho futuro de uma empresa. Mas como apostar numa tecnologia que poderia, na pior das hipóteses, “representar riscos catastróficos ou existenciais para a humanidade” ou, na melhor das hipóteses, “produzir uma era de milagres”?

Até certo ponto, a Anthropic sugere em uma carta no topo de seu arquivo S-1, você só precisa acreditar.

O prospecto S-1 de 335 páginas da Anthropic, apresentado na segunda-feira, faz parte de uma escalada constante de entusiasmo nas interações do Vale do Silício com Wall Street. De certa forma, nem é tão bizarro; A SpaceX fez IPO em junho, após registrar um S-1 que fazia referência a dinossauros e à “colonização de Marte”. Mas a sua linguagem abrangente e o seu volume – incluindo 94 páginas de factores de risco – é uma colisão por vezes avassaladora entre a retórica da indústria da IA ​​e uma dura abordagem financeira. Promessas de outro mundo são essenciais para a sobrevivência da Anthropic como empresa. Isso não torna a leitura do S-1 menos surreal.

Na carta, os fundadores da Anthropic exortam os potenciais proprietários de ações “a não pensarem na sua compra em termos puramente transacionais. Esperamos que, em vez disso, vejam isso como uma oportunidade de fazer parte de algo maior”. A marcha em direção à IA avançada “é um dos momentos seminais da história da humanidade”, diz a carta. “Nosso objetivo é ajudar a humanidade a traçar um caminho seguro através desta evolução tecnológica, abrir novas fronteiras de descoberta e trazer à tona uma era de milagres.” Mas o S-1 alerta que se as coisas correrem mal, as consequências poderão ser desastrosas – até mesmo um risco “existencial” para a humanidade. Muitos perigos são apresentados em detalhes exaustivos, incluindo riscos de que os modelos “se comportem de maneiras que nenhum usuário ou desenvolvedor pretendia”, levando a incidentes “catastróficos” que todo o setor de seguros não poderia se dar ao luxo de subscrever.

As startups de tecnologia que se preparam para abrir o capital nem sempre usaram a abordagem de sobrecarga de informações. “Em 1980, uma empresa altamente elogiada chamada Apple Computer abriu o capital. Seu prospecto, que tenho, tem 47 páginas e zero fatores de risco”, disse Jay R. Ritter, professor do Warrington College of Business da Universidade da Flórida. “Se você voltar e ler, é incrivelmente simples.”

Ritter apontou o pedido S-1 do Facebook como um ponto de viragem. A empresa hoje conhecida como Meta apresentou um prospecto de 200 páginas com 22 páginas de fatores de risco. A carta do CEO Mark Zuckerberg aos investidores foi um manifesto sobre sua abordagem de crescimento “agir rápido e quebrar as coisas”, que ele apelidou de “The Hacker Way”.

Embora a ideia possa ser cobrir todas as bases possíveis, “um problema com esse inchaço é que se tornou cada vez mais difícil encontrar o que é importante”, disse Ritter. “Sabe, não sei se você é como eu, mas quanto mais longo, menos inclinado fico a lê-lo.”

Os fundadores da Anthropic explicam na sua carta aos investidores que a partilha excessiva faz parte da sua estratégia “anti-venda”, concebida para atrair investidores de longo prazo que acreditem na sua visão.

“É muito perigoso quando as pessoas compram ações da sua empresa com base em expectativas que você não pode cumprir ou em previsões incorretas sobre como você se comportará. Isso é, na verdade, muito semelhante a um dos princípios orientadores da Anthropic: prometer menos e entregar mais”, diz a carta dos fundadores.

Algumas das declarações no S-1 da Anthropic são interpretadas como admissões surpreendentes. “Podemos fazer investimentos futuros que podem parecer irresponsavelmente grandes”, por exemplo, ou “a segurança, a interpretabilidade, o alinhamento e o bem-estar dos modelos podem levar-nos a limitar ou atrasar a depreciação de modelos mais antigos”. Talvez nada disso deva ser surpreendente, considerando que os fundadores alertam os leitores sobre a política da empresa de praticar a “honestidade radical”.

Essa política levou ao maior susto de todo o processo, na página 46:

“Foram levantadas preocupações tanto dentro da nossa organização como por outros investigadores, reguladores, decisores políticos e participantes da indústria que, se não forem desenvolvidos, implantados e operados com salvaguardas, supervisão e medidas de segurança adequadas, representam riscos catastróficos ou existenciais para a humanidade.”

“Nosso desenvolvimento de modelos, plataformas e aplicativos altamente avançados e a expansão de casos de uso podem aumentar ainda mais o risco de nossos modelos causarem danos.”

A Anthropic é famosa por ser uma defensora de cenários apocalípticos de IA. O CEO Dario Amodei disse que há até 25% de chance de que o desenvolvimento adicional da IA ​​possa levar à extinção humana.

O cerne do discurso da Anthropic – ou anti-venda – é que, apesar dos riscos, ela está absolutamente comprometida com o desenvolvimento de tecnologia de IA segura e protegida. Afinal de contas, abrirá o capital como uma empresa de utilidade pública, um tipo de entidade empresarial que, ao contrário das empresas C, que são obrigadas a maximizar o valor para os accionistas, deve dar prioridade a uma missão social juntamente com os interesses dos accionistas.

“IA poderosa” – o termo da Anthropic para uma hipotética IA futura que ultrapassa a inteligência humana coletiva – é apresentada no S-1 da empresa como inevitável. Se esta tecnologia vier, não importa o que aconteça, então a Anthropic, uma empresa de utilidade pública, deverá liderar o ataque. Mas a Antrópica precisará de muito dinheiro, possivelmente uma quantia ilimitada, para fazer isso. E de forma mais prática, como escreveu Liz Lopatto, a IA poderosa (na forma de autoaperfeiçoamento recursivo dramático) pode ser a única maneira pela qual a Anthropic pode permanecer à frente da concorrência e sobreviver.

“Todos nós temos a convicção sincera de que a IA exponencial irá gerar tanto valor que, no longo prazo, superará em muito quaisquer sacrifícios económicos de curto prazo que fizermos como parte da nossa missão”, diz a carta.

Por todas as informações que a empresa disponibilizou em seu S-1, existem algumas lacunas. Faltam informações cruciais que poderiam ser utilizadas para avaliar a rentabilidade – resultados do terceiro trimestre, por exemplo. A Anthropic teve um crescimento explosivo de receita no segundo trimestre, mas o segundo trimestre também foi o auge do tokenmaxxing, o que poderia ter levado a um aumento nas vendas. Alguns executivos empresariais alertaram que os custos da IA ​​estão a aumentar descontroladamente. Embora as perdas operacionais da Antrópico tenham diminuído no segundo trimestre, o S-1 também revelou centenas de milhares de milhões de dólares em obrigações financeiras para garantir o poder computacional que afirma necessitar para continuar a crescer. Ela também disse que começará a construir sua própria infraestrutura de data center, uma medida cara que consumiria lucros.

Ritter acredita que a Anthropic provavelmente compartilhará seus resultados do terceiro trimestre à medida que se aproximar da data do IPO. Além disso, acrescentou, “ninguém sabe” o que acontecerá quando uma empresa abrir o capital, incluindo a própria empresa. É tudo uma aposta nesse sentido.

“Durante seus primeiros 22 anos, a Apple foi em grande parte um fracasso no que diz respeito aos investidores”, disse Ritter. “Nos primeiros três anos, teve um desempenho muito inferior ao do mercado. E agora vale o quê, 5 biliões de dólares?”

Quando a WeWork apresentou seu S-1 em 2019, ela foi criticada por usar uma retórica elevada. Uma frase sobre o objetivo da empresa de “elevar a consciência do mundo” foi especialmente torrada.

Isso foi diferente, disse Ritter. A WeWork era “uma empresa imobiliária deficitária que fingia ser uma empresa de tecnologia com uma avaliação ridiculamente alta”.

“Não havia chance de obter lucros enormes no futuro.”

Tecnicamente, isso também é um risco para a Antrópica. Está na página 63 do S-1.

“Temos um histórico de perdas líquidas e podemos não gerar receita suficiente para alcançar ou sustentar lucratividade no futuro.”

Então, novamente, esta é a era dos milagres.