No Vale do Silício, o fim da humanidade sempre fez parte do plano

“Este é o fim”, disse o pioneiro roboticista e pesquisador de inteligência artificial Hans Moravec escreveu em 1987. A humanidade, acreditava ele, estava à beira de transcender o complicado processo da evolução darwiniana – e com ele, a própria mortalidade. Nossos corpos físicos seriam descartados e em seu lugar surgiriam robôs robóticos. vocêpessoas à beira da estrada. Ónossas mentes, tão tragicamente propensas a declinar à medida que envelhecemos, seriam transferidas para um código imortal e perfeito. As máquinas estavam prestes a amadurecer “dos dispositivos simples que ainda são, para entidades tão complexas como nós, para algo que transcende tudo o que conhecemos, de quem podemos orgulhar-nos quando se referem a si próprios como nossos descendentes”, escreveu Moravec.

A visão de Moravec de um futuro governado não por seres humanos de carne e osso, mas pelos nossos sucessores pós-biológicos, encontrou terreno fértil na então incipiente área conhecida como Silicon Valley, onde a contracultura da década de 1960 estava a transformar-se num espírito de empreendedorismo, anti-autoritarismo e grandes visões para o futuro da humanidade inspiradas por luminares da ficção científica como Isaac Asimov e Philip K. Dick. Com o tempo, a escola de pensamento conhecida como “transumanismo” – que defende que os seres humanos acabarão por ser capazes de libertar-se das restrições biológicas, incluindo a morte, com a ajuda da tecnologia – tornar-se-ia uma quase-religião entre muitos dos intervenientes mais poderosos da indústria tecnológica americana, uma lógica intelectual e uma motivação ideológica para construir máquinas que sejam mais capazes em todos os aspectos do que os seres humanos, independentemente do risco.

Isto ajuda a resolver uma questão que muitas pessoas, sem dúvida, se perguntaram nas últimas semanas, em meio a uma enxurrada de previsões de pessoas de dentro do Vale do Silício de que a IA poderia um dia acabar com toda a humanidade: Se essa é realmente uma possibilidade legítima, por que continuar a construí-la? A resposta mais comum a esta pergunta é extraída do manual do Projecto Manhattan: se não o construirmos primeiro, um dos nossos adversários o fará – e ninguém quer viver num mundo onde um regime autoritário tenha o monopólio da superinteligência, tal como nenhuma pessoa sã na década de 1940 teria desejado que o Terceiro Reich construísse uma bomba nuclear antes dos Aliados. Em um ensaio publicado no início deste mês pedindo uma desaceleração nos laboratórios fronteiriços de IA, o CEO da Anthropic, Dario Amodei, escreveu que “uma liderança chinesa em IA representaria um grave perigo para os Estados Unidos e o mundo”.

Esse argumento “nós ou eles” baseia-se na suposição implícita de que a superinteligência é uma inevitabilidade histórica, algo que não poderia ser evitado, mesmo que quiséssemos. Os técnicos apontarão para gráficos que traçam o aumento inexorável e exponencial do poder computacional ditado pela Lei de Moore, e para previsões de uma “Singularidade” iminente – o momento teórico em que as capacidades da IA ​​superam as nossas – como prova de que a tecnologia que estão construindo é uma força imparável, e que qualquer um que ouse ficar no caminho é estúpido, mau, ou ambos.

Peter Thiel, um cristão declarado e um dos investidores mais poderosos do Vale do Silício, tem emitido frequentemente avisos públicos sobre a chegada do Anticristo, que ele acredita será personificado por alguém como a ativista ambiental Greta Thunberg: “uma ludita que quer parar toda a ciência”, nas suas palavras. Em um infame intercâmbio com o ex-colunista do New York Times, Ross Douthat, no ano passado, Thiel vacilou antes de responder à questão de saber se a raça humana deveria ou não sobreviver no futuro. Ele fez uma pausa por alguns momentos antes de dizer “Sim”, depois passou a descrever incoerentemente alguma versão futura do transumanismo misturada com a teologia cristã ortodoxa. “Queremos que você seja capaz de mudar seu coração, mudar sua mente e mudar todo o seu corpo”, disse ele. (Vale a pena notar que se acredita que o termo “transumano” tenha aparecido pela primeira vez numa tradução inglesa da obra de Dante. Paraísoa parte final do Divina Comédia que retrata a ascensão ficcional do autor ao céu.)

Da mesma forma, o investidor tecnológico Marc Andreessen – sócio geral da Andreessen Horowitz – escreveu no seu “Manifesto Tecno-Optimista” de 2023 que os inimigos do progresso incluíam uma litania de “ideias zombies, muitas delas derivadas do comunismo”, que impediam a humanidade de alcançar o seu destino legítimo como mestre e civilizador prometeico do cosmos. Entre eles estavam o “risco existencial” e o princípio da precaução, sendo este último a ideia de que novas ideias e tecnologias devem ser consideradas potencialmente perigosas até prova em contrário. (Andreessen provavelmente teria zombado de uma declaração feita no início desta semana pelo Painel Científico Internacional Independente sobre IA das Nações Unidas de que o princípio da precaução deveria servir como luz orientadora da indústria de tecnologia à medida que continua a construir versões cada vez mais poderosas da tecnologia.)

Os chamados tecno-otimistas encontraram um aliado em Donald Trump, que rejeitou o apelo de Amodei para uma desaceleração, que foi rapidamente endossado por outros líderes proeminentes da IA, incluindo Sam Altman da OpenAI e Elon Musk da SpaceXAI, chamando-o de uma “conspiração DOENTE” espalhada para beneficiar a China. (Thiel e Andreessen apoiaram publicamente e financeiramente as candidaturas de Trump à presidência em 2016 e 2024, respectivamente. Musk, o homem mais rico do mundo e um crente convicto na ideia de que os humanos um dia se fundirão com as máquinas, também foi um fervoroso apoiante de Trump nas eleições mais recentes.)

Magnatas do Vale do Silício como Thiel, Andreessen e Musk insistem que tudo o que fazem é para a melhoria da humanidade. A missão da SpaceX de Musk, por exemplo, é tornar a humanidade uma espécie interplanetária, eliminando assim a possibilidade de ser exterminada por algum cataclismo natural, como um asteroide atingindo a Terra ou a erupção de um supervulcão. Thiel foi cofundador ou financiou várias empresas de tecnologia com o nome O Senhor dos Anéisum épico de fantasia sobre um pequeno grupo de humildes oprimidos que derrubam um tirânico Lorde das Trevas. (O facto de ser também um aviso sobre os perigos do desenfreado desenvolvimento tecnológico e da industrialização parece ter passado despercebido a Thiel e às outras elites tecnológicas que se apropriaram de Tolkien.) Os tecno-otimistas, de acordo com o manifesto de Andreessen, estão “Empreendendo a Jornada do Herói, rebelando-se contra o status quo, mapeando territórios desconhecidos, conquistando dragões e trazendo para casa os despojos para a nossa comunidade”.

No entanto, por baixo de todos os florescimentos míticos, esconde-se uma visão do futuro que é profundamente anti-humana: uma visão em que a marcha inexorável do progresso tecnológico tornará em breve os seres humanos obsoletos. De acordo com esta visão do mundo, se as capacidades das mentes e dos corpos humanos serão em breve eclipsadas pelas capacidades digitais, será melhor se simplesmente sairmos do caminho e deixarmos que esta próxima fase evolutiva siga o seu devido curso.

Para os transumanistas obstinados, porém, isso não é motivo de desespero – muito pelo contrário. A era pós-biológica da máquina será, paradoxalmente, uma continuação da centelha humana, mesmo que um homem sábio não estão por perto para ver isso. Se você está confuso, você não está sozinho. Os transumanistas muitas vezes se referem à “humanidade” tanto como os seres humanos de carne e osso de hoje e a descendência da máquina que em breve supostamente nos substituirá. Eles serão construídos à nossa imagem, assim como Deus criou Adão à Sua imagem e, portanto, podem ser considerados humanos e pós-humanos. “Considero essas máquinas do futuro nossa progênie”, Moravec certa vez escreveu“nós próprios numa forma mais potente. Tal como os filhos biológicos das gerações anteriores, eles encarnarão a melhor esperança da humanidade para um futuro a longo prazo. Cabe-nos dar-lhes todas as vantagens e desistir quando já não pudermos contribuir.” Leia a última linha novamente. Segundo Moravec, a humanidade tem um obrigação moral eventualmente ceder o controle às máquinas – e seguir o caminho do dodô, caindo no esquecimento. O filósofo Derek Shiller colocou isso com mais detalhes em um artigo de 2017 papel intitulado “Em defesa da substituição artificial”, no qual ele argumentava que os humanos “deveriam arquitetar a nossa extinção para que os recursos do nosso planeta possam ser dedicados a criar criaturas artificiais com vidas melhores”.

Repetidamente, as elites de Silicon Valley dizem que a única forma de a humanidade florescer no futuro é descobrir como construir com segurança a superinteligência artificial. Mas quase ao mesmo tempo, eles também dirão que mesmo que isso aconteça, um homem sábio desaparecerá, substituído por… outra coisa. Algo como nós, mas radicalmente estranho. Como sempre, isto é apresentado ao público como se fosse um facto ontológico da história, e não o produto de escolhas feitas no presente por um pequeno grupo de ricos executivos tecnológicos e capitalistas de risco.

“Seremos a primeira espécie a projetar nossos próprios descendentes”, escreveu Altman em um relatório de 2023. ensaio. “Meu palpite é que podemos ser o carregador biológico da inteligência digital e depois desaparecer em um galho de árvore evolutiva, ou podemos descobrir como seria uma fusão bem-sucedida.”

LEIA MAIS: