O elaborado plano da Anthropic para manter Wall Street sob controle
A Antrópica quer ter as duas coisas. Com a sua iminente IPO, pretende explorar as vastas riquezas dos mercados públicos e insiste que não quer comprometer a sua missão principal de desenvolver a IA com segurança e para o benefício da humanidade. Mas maiores capacidades do modelo trazem maiores riscos, e os acionistas ávidos por retornos podem ter pouca paciência com medidas de segurança dispendiosas que atrasam o caminho dos produtos para o mercado.
Sam Altman, CEO da arquirrival da Anthropic, OpenAI, citou as pressões dos investidores como uma das razões pelas quais a empresa não está buscando um IPO este ano. A Anthropic espera poder resistir às pressões dos investidores com uma estrutura de governança alucinante.
Uma “estrutura de governança única e complicada que nunca foi usada antes… projetada de forma criativa para esta empresa liderada pelo fundador e voltada para a missão”.
A professora de direito da Universidade da Pensilvânia, Elizabeth Pollman, disse A beira que a Anthropic propôs abrir o capital com uma “estrutura de governança única e complicada que não foi usada antes” e que foi “projetada criativamente para esta empresa liderada pelo fundador e voltada para a missão”. Especialistas dizem que isso deveria dar à Anthropic liberdade para buscar lucros, sem permitir que os acionistas a forcem a economizar na segurança ou a apressar os sistemas antes que sejam testados adequadamente. Mas mesmo as protecções legais mais fortes só podem ir até certo ponto, e nenhuma estrutura empresarial, por mais bem concebida que seja, pode isolar completamente uma empresa pública das exigências do mercado.
Acima de tudo, a Anthropic é uma empresa de utilidade pública. Simplificando, é legalmente obrigado a concentrar-se em mais do que apenas maximizar os retornos para os acionistas, equilibrando-os com a sua missão social declarada e os interesses das partes interessadas, tais como funcionários e comunidades específicas. Patagônia e Kickstarter estão entre os exemplos mais conhecidos, com missões centradas na conservação ambiental e no apoio a comunidades criativas, respectivamente.
Outra salvaguarda importante visa proteger a missão da Anthropic, limitando a influência dos acionistas sobre uma das maiores alavancas do poder corporativo: o conselho de administração da empresa. Os diretores supervisionam a empresa e nomeiam sua liderança, incluindo o CEO. Os diretores também podem ocupar cargos executivos, como é o caso da Anthropic, com o CEO Dario Amodei e a presidente Daniela Amodei no conselho.
Os acionistas normalmente têm uma influência considerável sobre quem tem assento no conselho, o que lhes dá um meio de substituir diretores ou pressionar por mudanças caso estejam insatisfeitos com a forma como a empresa está sendo administrada. Por exemplo, se os acionistas estiverem insatisfeitos com o que consideram atrasos desnecessários no mercado para testes de segurança opcionais, poderão destituir diretores e substituí-los por outros mais alinhados com os seus interesses, como ganhar dinheiro e ser menos cautelosos.
“A Anthropic está totalmente isolada de pressões de busca de lucro, no sentido de que os acionistas comuns não têm capacidade de selecionar o conselho ou tomar decisões de negócios.”
De acordo com a estrutura de governança proposta pela Anthropic, os acionistas comuns não terão muita palavra a dizer sobre quem está no conselho. Em vez disso, quatro dos sete diretores do conselho serão escolhidos por um órgão especial denominado fundo de benefícios de longo prazo, explica Jens Dammann, professor de direito empresarial e comercial na Faculdade de Direito da Universidade do Texas. É uma configuração altamente incomum para uma grande empresa de tecnologia.
O fundo é composto por “cinco curadores votantes desinteressados financeiramente” com experiência em “segurança de IA, segurança nacional, políticas públicas e empreendimentos sociais”. Por meio de uma classe especial de ações chamada ações Classe T, os administradores podem nomear ou destituir diretores na prossecução do seu propósito declarado: garantir “que a Anthropic equilibre de forma responsável os interesses financeiros dos acionistas com os interesses daqueles afetados pela conduta da Anthropic e pelo nosso propósito de benefício público”. O trust foi concebido para operar independentemente das pressões comerciais da empresa, permitindo-lhe, em teoria, colocar a missão da Anthropic em primeiro lugar.
Os acionistas comuns têm, tecnicamente, uma palavra a dizer nos três assentos restantes do conselho. No entanto, a Anthropic criou outra salvaguarda que mantém o poder firmemente nas mãos dos seus fundadores, chamada “Founder LLC”, que controlará 50,1% do poder de voto em assuntos de acionistas. Dado que muitos votos dos acionistas são decididos por maioria simples, a Founder LLC basicamente dá aos fundadores da Anthropic a capacidade de bloquear ou forçar decisões, independentemente de como os outros acionistas votem. Isso significa que eles escolherão efetivamente os três diretores restantes, disse Dorothy Lund, professora da Columbia Law School. O Vergoe.
O prospecto diz que a Founder LLC será “inicialmente” sete dos fundadores da Anthropic: Dario Amodei, Daniela Amodei, Tom Brown, Jack Clark, Jared Kaplan, Sam McCandlish e Christopher Olah. “Nossos sete cofundadores serão inicialmente os únicos membros.” Notavelmente ausente está outro cofundador, Ben Mann, que co-lidera o braço experimental Anthropic Labs da empresa, conforme relatado por O padrão de São Francisco.
Em suma, os acordos dariam aos fundadores da Anthropic e à confiança “tremendo poder” sobre a direção da empresa, protegendo-a de muitas das “pressões associadas a ser uma empresa pública”, disse Dammann. A beira. “Dada a estrutura de governança incomum que a Anthropic escolheu, não vejo como a abertura de capital, por si só, prejudicaria sua capacidade de priorizar a segurança em detrimento dos interesses comerciais.”
Ann Lipton, professora da Faculdade de Direito da Universidade do Colorado, concordou, dizendo A beira que, legalmente falando, “a Anthropic está totalmente isolada de pressões de busca de lucro, no sentido de que os acionistas comuns não têm capacidade de selecionar o conselho ou tomar decisões de negócios”. Mas Lipton alertou que os próprios fundadores têm participações financeiras na empresa, o que pode influenciar as suas decisões.
“Os investidores podem não se importar com a falta de voz, desde que as coisas corram bem. Mas se as coisas correrem mal, poderão ficar bastante frustrados.”
E há uma grande diferença entre proteções legais e imunidade às pressões do mercado. A Anthropic, como todas as empresas de IA, “precisa desesperadamente de capital”, disse Lipton. “Não está claro para mim se qualquer estrutura de governança irá proteger contra a realidade do mercado de que, a menos que a Anthropic aproveite as oportunidades de obtenção de lucro em um ritmo mais rápido do que seus concorrentes, ela não será capaz de financiar suas operações.” Lund expressou preocupações semelhantes. A Anthropic ainda “precisará permanecer nas boas graças de seus investidores”, disse ela, acrescentando que “a pressão competitiva e as necessidades de capital podem corroer os compromissos de segurança ao longo do tempo”. Antrópico não respondeu A beirapara comentar se considerava que a empresa poderia realmente resistir à pressão dos acionistas para acelerar massivamente a IA às custas da segurança.
Outra vulnerabilidade potencial surgirá se os fundadores da Anthropic começarem a sair. No seu prospecto, a empresa afirma que o seu sucesso é “altamente dependente do serviço contínuo” da sua equipa sénior, especialmente dos seus fundadores. Dario e Daniela são apontados como especialmente “críticos” para o avanço da pesquisa e da missão da empresa. Mas, para além da perda de liderança, a sua saída poderá desencadear mudanças significativas na forma como a empresa está estruturada, potencialmente eliminando algumas das salvaguardas que impedem a Anthropic de procurar o lucro em detrimento da segurança.
De acordo com a estrutura proposta, a Founder LLC “desaparecerá” se a maioria de seus membros sair ou se o grupo decidir dissolvê-la. Quando isso acontecer, os acionistas ordinários poderão ganhar o poder de enfraquecer as proteções do trust, mesmo contra a vontade dos administradores, e sem o apoio dos fundadores ou funcionários, que detêm diferentes classes de ações, disse Dammann. A beira. Existem também outros meios de subverter a confiança, explicou ele, incluindo a acção coordenada dos accionistas públicos, accionistas empregados e fundadores.
Por enquanto, ao que parece, a Anthropic provavelmente pode ter as duas coisas. Mas as proteções concebidas para preservar o seu compromisso com a segurança da IA estão longe de ser rígidas e muito depende das pressões do mercado, da permanência dos seus fundadores e das orientações da confiança. Dammann disse ver um “dilema fundamental que não pode ser resolvido de forma totalmente satisfatória” entre a missão da Anthropic e as demandas dos investidores. Enquanto as coisas estiverem indo bem, essa tensão poderá ser administrável. “Os investidores podem não se importar com a falta de voz, desde que as coisas corram bem”, disse Dammann. “Mas se as coisas derem errado, eles podem ficar bastante frustrados.”
