Um dos críticos mais ferozes da IA ​​diz que toda a conversa sobre destruição é “destinada a nos distrair”

Como você interpreta a demissão daquele engenheiro da Antrópico, que diz que as empresas são imprudentes e jogam com as nossas vidas? Por um lado, parece concordar que as empresas estão a ser imprudentes; por outro lado, você deixou claro que acha que o debate “A IA causará o fim da civilização” não tem sentido.

Durante toda a minha carreira, tentei dizer a mesma coisa de ângulos diferentes. Escrevemos nosso artigo estocástico sobre papagaios em 2021 por esse motivo. A OpenAI afirmou que o GPT-2 era poderoso demais para ser lançado. Foi tão sensacionalista. E estávamos dizendo que você está fazendo as perguntas erradas.

No meu livro escrevo: “Pode uma ponte decidir desabar?” Toda aquela coisa de “Ah, não, nossos modelos foram desonestos”… Quando uma ponte desaba, você não analisa se a ponte era ética ou senciente ou por que decidiu desabar. Você pergunta, quem é a pessoa que construiu esta ponte para ser tão frágil? Existem licenças que você precisa adquirir. Deveria haver testes. Quando você pergunta sobre o colapso da ponte, você perdeu o fio da meada.

Enquanto isso, o que é realmente existencial é a IA alimentando armas autônomas, máquinas de matar, que estão realmente sendo usadas na guerra. A catástrofe climática é algo real que poderá ser exacerbado pelo que estas empresas tecnológicas estão a construir. Os chefes estão usando a IA como desculpa para se livrar de seus trabalhadores incômodos. Esta narrativa do deus-máquina tem, na minha opinião, o objetivo de nos distrair disso. A indústria tornou-se uma mistura de cultos, uma mistura de pessoas que são verdadeiros crentes, tal como um pregador que diz que o fim dos tempos está a chegar. A singularidade já vem ocorrendo há décadas.

Explique-me, passo a passo, como a “extinção da IA” poderia acontecer, se fosse real. Estou pensando neste post onde alguém disse: Uma GPU furiosa simplesmente aparece na minha casa ou algo assim?

Eu realmente não consigo imaginar isso, mas muitos desses cenários parecem ser quando você pede à máquina para otimizar alguma outra tarefa, e então a máquina decide que a maneira de chegar a esse objetivo é matando todas as pessoas no mundo. A IA hipnotiza você para que você não a desconecte? Não sei! Outras pessoas dizem, bem, a IA pode infectar suas máquinas. Sim, e já temos malware, então…

E as inundações e incêndios? Que tal uma grande perturbação na cadeia global de abastecimento alimentar? Existem ameaças reais que nos atingem, como a possibilidade de as pessoas criarem e utilizarem armas químicas. (Nota: Pouco depois de conversarmos, a Anthropic revelou que havia bloqueado várias tentativas potencialmente maliciosas de cientistas de construir armas biológicas.)

Há outro elemento em que você é tão privilegiado que não consegue imaginar outras coisas prejudicando você. Por exemplo, se você não está preocupado com a brutalidade policial, com inundações ou com guerras – coisas que podem realmente matá-lo – então você pode ficar obcecado com o deus-máquina.

Por que gastamos tanto tempo falando sobre essa ideia de IA que as pessoas falam desde os anos 40 e 50? Às vezes jogo um jogo em que leio para as pessoas citações sobre inteligência artificial que reuni em minha pesquisa e pergunto: em que década essa afirmação foi feita? Às vezes as pessoas acertam, mas muitas vezes não, porque tudo parece igual.

Esta é uma edição de Steven Levy e Lauren Goodede Boletim informativo de backcanal. Leia boletins informativos anteriores aqui.