Alertas internos sobre IA fracassam com alguns no Vale do Silício
A legislação federal co-patrocinada este mês pelo senador de esquerda Bernie Sanders, de Vermont, conhecida como Lei de Proibição da Superinteligência Artificial, imporia uma pausa temporária no desenvolvimento avançado de IA.
“Há uma boa chance de os seres humanos perderem o controle sobre a IA”, disse Sanders ao programa Newsnight da BBC na quinta-feira. “E o que acontece então, ninguém sabe. Mas poderia ser catastrófico? Sim, poderia.”
“Quando os cientistas dizem que há uma chance de que isso possa ter um impacto cataclísmico na humanidade, você tem que ser um idiota para não dizer, diminua a velocidade”, acrescentou.
No entanto, se ocorrer uma repressão governamental em toda a indústria, é provável que seja liderada pelos legisladores e não pela administração Trump, que apoia largamente uma política de desenvolvimento irrestrito da IA. Enquadrou isto como necessário para garantir que os EUA não cedam domínio à China.
Falando aos repórteres esta semana, perguntaram ao presidente Donald Trump se ele tinha alguma preocupação sobre a IA levar à extinção humana. “Não, eu não tenho nenhum”, disse ele. “Tenho receio de que, se não vencermos a IA, ficaremos numa posição muito má. Estamos a liderar a China neste momento.”
Mas a relação do presidente com a Anthropic tem sido turbulenta. Depois de a empresa se ter recusado a permitir que os militares dos EUA utilizassem os seus modelos de IA, a Casa Branca descreveu-a como “uma empresa de esquerda radical e acordada” e designou-a como um risco para a cadeia de abastecimento, uma medida que um juiz federal considerou ilegal.
David Sacks, o czar da IA de Trump nos primeiros dias de sua administração, também lançou repetidos ataques à Anthropic.
A OpenAI não sofreu o mesmo nível de escrutínio da Casa Branca. Ao lançar um novo modelo chamado Astra na semana passada, o presidente da OpenAI, Greg Brockman, descreveu o relacionamento de sua empresa com a administração Trump como “uma parceria muito boa”.
A OpenAI, que anunciou em junho que abriria o capital no mercado de ações, foi avaliada recentemente em US$ 852 bilhões.
A empresa não respondeu a um inquérito da BBC em busca de comentários.
Na conferência realizada esta semana em São Francisco, a procura de fortunas parecia superar sobretudo quaisquer preocupações existenciais crescentes ou receios sobre potenciais restrições governamentais à IA.
Um investidor disse estar ansioso pelo próximo S-1 da Anthropic, um documento que uma empresa deve apresentar aos reguladores de valores mobiliários para vender ações.
Sua principal questão sobre a empresa era simples: a empresa é lucrativa?
Quando questionado na quinta-feira se ele teme que o mundo esteja chegando ao fim, Sid Sheth – CEO da empresa de chips d-Matrix que assinou um acordo com a Nvidia na conferência daquele dia – não mediu palavras.
“Não”, ele disse.
