Políticos para a humanidade: cair morto

Alguns dos maiores nomes da IA ​​alarmaram o país no fim de semana com cenários de catástrofe completa que podem acontecer se a IA continuar o seu ritmo de desenvolvimento irrestrito e à velocidade da luz.

No sábado, o CEO da Anthropic, Dario Amodei, publicou um ensaio alertando contra riscos como o bioterrorismo e “sérias perturbações económicas” que acompanham o desenvolvimento da IA ​​e sugerindo que a indústria deveria abrandar “o ritmo a que melhoramos as capacidades dos modelos de IA”. Seu ensaio veio poucos dias depois que sua empresa começou a receber intensa reação depois que um ex-funcionário da Anthropic alarmou a Internet com afirmações de que “as pessoas que estão construindo a IA acreditam sinceramente que ela poderia matar todos nós até o final da década”.

Em uma rara demonstração de solidariedade, tanto o CEO da OpenAI, Sam Altman, quanto o CEO da SpaceX, Elon Musk, expressaram seu apoio ao ensaio de Amodei. Altman disse mesmo que o actual ambiente de segurança está a influenciar a decisão da empresa de adiar a sua tão esperada IPO até ao próximo ano.

Alguns dos temores que Amodei expôs no artigo já são compartilhados pelo público há algum tempo. Os apelos por um maior escrutínio regulatório e por proteções mais rígidas têm aumentado à medida que a indústria de IA enfrenta uma grande crise de relações públicas. A reputação da tecnologia deteriorou-se nos últimos meses, à medida que o seu impacto em tudo, desde a guerra ao mercado de trabalho, ao ambiente e até às contas de serviços públicos, ganhou mais reconhecimento público.

Mas os políticos dizem não, tanto ao escrutínio regulamentar como ao abrandamento dos rápidos avanços alcançados no desenvolvimento da IA.

O principal deles é o sempre amante da IA, o Presidente Trump, que recorreu ao Truth Social na segunda-feira para atacar Amodei e chamar a oposição pública ao desenvolvimento desenfreado da IA ​​de “uma conspiração DOENTE” que só beneficia a China.

“O único controle ou “proteção” que a IA precisa é de um PRESIDENTE FORTE E INTELIGENTE (QI alto!), e os EUA têm isso, de sobra! A administração Trump impediu que as “pessoas” da IA ​​fizessem “coisas” ruins, ou potencialmente ruins, “como Dario (Anthropic!), que agora está fingindo ser um “anjinho perfeito” – e continuaremos a fazê-lo!” Trump afirmou no post. “QUEM GANHA A IA, GANHA! Estamos liderando a China e todos os outros, e continuaremos a fazê-lo. Teóricos da conspiração, traidores, traidores e vazadores, CUIDADO!”

O impasse ocorre num momento em que a administração Trump está envolvida num esforço global para aliviar o peso da regulamentação sobre a indústria da IA. No início deste mês, os líderes económicos globais de alguns dos maiores governos do mundo reuniram-se na Carolina do Norte para as reuniões do G20. A administração Trump encerrou as reuniões revelando os Princípios Carolina, um documento que basicamente pede às maiores economias globais que prometam uma abordagem mais direta à regulamentação da IA. Os principais executivos de IA, incluindo Altman e o cofundador da Anthropic, Tom Brown, participaram do evento para palestras organizadas pelo secretário de Comércio, Howard Lutnick.

O argumento é que os governos deveriam abster-se de aumentar a repressão regulamentar, confiando em vez disso que as empresas de IA cumprirão a sua parte para garantir a segurança, porque, caso contrário, a China vencerá os EUA na corrida global da IA. Mas alguns especialistas dizem que regulamentações fracas podem levar a resultados ainda piores do que nenhuma regulamentação.

A Anthropic não é a única empresa de IA que reservou um tempo neste fim de semana para prometer grandes desacelerações no desenvolvimento de IA. A Microsoft divulgou um código de conduta na segunda-feira prometendo impor limites aos modelos de IA, enquanto Altman disse em entrevista no sábado que a OpenAI faria pausas com mais frequência durante o desenvolvimento de novos modelos.

“Se você pensa ‘Oh, a OpenAI não vai fazer uma pausa porque está preocupado com a possibilidade de isso custar dinheiro aos negócios’, você nos entende profundamente mal”, afirmou Altman na entrevista.

Pelo menos alguns membros do Congresso parecem convencidos destas promessas. No domingo, o presidente da Câmara, Mike Johnson, apontou o dedo à concorrência com a China e disse que o Congresso deveria abster-se de regulamentar a IA. Em vez disso, os reguladores deveriam apenas confiar que os desenvolvedores de IA assumirão a responsabilidade pela segurança da IA, diz Johnson.

Enquanto isso, a China também está descontente com o ensaio do CEO da Anthropic, especificamente com a parte em que ele alerta contra os avanços da IA ​​chinesa. No ensaio, Amodei diz que o desenvolvimento da IA ​​deveria ser desacelerado, mas não tanto que os Estados Unidos fiquem atrás do ritmo de desenvolvimento proveniente da China. Se a China ultrapassar os Estados Unidos para se tornar o líder global da IA, Amodei argumenta que isso representará “grave perigo” para o mundo inteiro e dará a Pequim o poder de “dominar militarmente as democracias”, um argumento que tem fortes defensores em Washington.

No fim de semana, as autoridades chinesas publicaram declarações descartando as preocupações de Amodei sobre uma vantagem chinesa no desenvolvimento global da IA ​​como “fomentadora do medo”, enquanto elas próprias ecoavam preocupações semelhantes sobre a utilização de tecnologias generativas de IA e o seu impacto na China. Numa declaração pública no domingo, a agência de espionagem da China, o Ministério da Segurança do Estado, afirmou que “forças hostis e pessoas com segundas intenções” estão a utilizar a IA para planear um “ataque à opinião pública e uma guerra cognitiva contra a China”, de acordo com o Financial Times.

Todas estas declarações e códigos de conduta vão chegar ao auge no final deste mês, quando o presidente Trump e o presidente chinês Xi Jinping se reunirem nos Estados Unidos em 24 de setembro. Se os dois governos conseguirem chegar a acordo sobre um acordo de desenvolvimento de IA, então tanto Xi como Trump deverão receber um Prémio Nobel da Paz, afirmou Altman no sábado. E todos nós sabemos o quão obcecado Trump está com esse prêmio.