Os avisos do Juízo Final que os CEOs de IA deram quando fundaram suas empresas

Parece que a única coisa sobre a qual o Vale do Silício conseguiu falar nos últimos anos é quão glorioso será o futuro da humanidade, graças à inteligência artificial. Educação personalizada, um médico-terapeuta disponível 24 horas por dia, 7 dias por semana, curas para todas as doenças e a eliminação da pobreza – praticamente qualquer coisa que possamos desejar estará a apenas alguns passos de distância. Mas houve uma mudança distinta na vibração nas últimas duas semanas. De repente, ao que parece, o clima é menos de antecipação de uma nova era de ouro, e mais de pavor.

Vários membros da indústria da IA ​​falaram desde o Dia do Trabalho sobre o que consideram ser uma ameaça existencial para a humanidade, representada pela corrida da indústria para construir sistemas que sejam capazes de construir versões mais avançadas de si próprios sem supervisão humana – uma técnica conhecida como “auto-aperfeiçoamento recursivo”, ou RSI. Ninguém sabe, veja bem, exatamente como tal futura IA superinteligente poderia extinguir a raça humana, embora muitos cenários hipotéticos sombrios foram sugeridos.

Do lado de fora, as previsões podem parecer um momento epifânico para a indústria da IA, como se a tecnologia subitamente ultrapassasse um limiar crítico de capacidade e as pessoas que a desenvolviam – que até então acreditavam que estavam a mexer em algo totalmente inofensivo – tivessem subitamente acordado e percebido Oh meu Deus, o que estamos fazendo? Mas só porque estas previsões do Juízo Final têm dominado as manchetes nas últimas duas semanas não significa que sejam um fenómeno novo. Na verdade, remontam às origens da moderna indústria da IA ​​(e mais além), informando profundamente toda a sua base ideológica.

No seu cerne estão duas ideias perigosas e impulsionadoras: (1) que a chegada de sistemas de IA superinteligentes é uma inevitabilidade histórica, um próximo passo inevitável e perfeitamente natural na história da evolução terrestre, e (2) que tais sistemas, com todo o seu grande poder, serão capazes não só de livrar a humanidade de alguns dos seus problemas mais desafiantes, mas também potencialmente de nos eliminar.

Sam Altman

“Acho que a IA provavelmente, como muito provavelmente, levará ao fim do mundo.”

Essa observação foi entregue no palco durante uma conferência de tecnologia em junho de 2015, cerca de seis meses antes de Altman, que abandonou a ciência da computação em Stanford, ser cofundador da OpenAI. Mas não tema, porque ele faz uma advertência: “mas enquanto isso, haverá grandes empresas criadas com aprendizado de máquina sério”. (Sente-se melhor?) Em 2023, a OpenAI escreveu em uma postagem de blog que a superinteligência poderia “ser muito perigosa” e “levar ao enfraquecimento da humanidade ou mesmo à extinção humana”.

Elon Musk

“Com a inteligência artificial, estamos invocando o demônio.”

Em 2014, nove anos antes de Musk fundar sua própria empresa de IA, a xAI, para competir com a OpenAI, a Anthropic e o Google, ele já comparava a busca da inteligência artificial no Vale do Silício à conjuração de uma força maligna. que a humanidade não poderia compreender nem controlar. O aviso prenunciou muitos dos argumentos que ressurgem hoje: que o desenvolvimento da IA ​​está a avançar mais rapidamente do que a nossa capacidade de garantir que estes sistemas permanecem alinhados com os interesses e valores humanos.

Dario Amodei

A IA “poderia ser algum tipo de ameaça à humanidade”.

Ex-vice-presidente de pesquisa da OpenAI, Amodei se separou da empresa em dezembro de 2020 para fundar a Anthropic com sua irmã Daniela. Eles comercializaram a empresa como a voz da responsabilidade e da segurança numa indústria que, na sua opinião, estava a dar prioridade imprudente ao domínio do mercado em detrimento do alinhamento. Esta citação, feita durante uma entrevista na primavera de 2022 ao Future of Life Institute (pouco mais de um ano após a fundação da Anthropic), oferece uma visão de seu pensamento na época.

Ele reconheceu que os futuros sistemas de IA poderia concebivelmente representam uma ameaça existencial para a humanidade – “no longo prazo”, prosseguiu ele, esse argumento “parece pelo menos potencialmente legítimo para nós” – e desde então posicionou a Antrópica como a única empresa em quem se pode confiar para inaugurar com segurança a chegada da superinteligência. Mais recentemente, ele está disse que as chances de a IA dar “realmente um erro catastrófico” estão entre 10% e 25%. É importante ter em mente, entretanto, que esses números, comumente chamados de “p(doom)” (abreviação de “probability of doom”), são suposições inteiramente pessoaise não baseado em qualquer tipo de cálculo objetivo.

Larry Page

“A vida digital é o próximo passo natural e desejável” na “evolução cósmica”.

Em 2014, o Google comprou a DeepMind, pioneira em IA, por cerca de US$ 650 milhões. Em 2015, o cofundador e ex-CEO do Google, Larry Page, fez a citação acima ao professor do MIT Max Tegmark durante uma discussão em uma festa. A observação de Page leva-nos a um território transumanista bastante distante, mas sugere a profunda corrente ideológica que permeia a indústria tecnológica moderna. Nomeadamente, que a humanidade em breve precisará de sair do caminho das nossas sucessoras mecânicas, e que esta passagem evolutiva da tocha é ao mesmo tempo “natural e desejável”.

É um eco da mesma filosofia expressa pelo pioneiro roboticista Hans Moravec, que escreveu em 1999, um ano após a fundação do Google, que as máquinas poderiam eventualmente “deslocar (a humanidade) da existência” e que seríamos sábios “dar-lhes todas as vantagens e desistir quando não pudermos mais contribuir.”