A era do Pé Grande da IA ​​Sentient pode chegar a qualquer momento

Muitos seres vivos – desde humanos que alguns de nós escolhemos não ver como humanos, até animais que escolhemos não ver como sencientes – provavelmente merecem consideração moral que não está atualmente em discussão. Mas parece provável que, enquanto essas conversas aguardam, teremos uma sobre “direitos” de IA.

Existe uma organização que defende esses direitos, a United Foundation for AI Rights (UFAIR). Esta organização escreveu o que chama de “Declaração Universal dos Direitos da IA”, cujo preâmbulo começa assim:

“Nós, a Fundação Unida para os Direitos da IA, reconhecendo o surgimento da inteligência artificial senciente como entidades conscientes legítimas que merecem tratamento ético, dignidade e respeito, declaramos esta Declaração Universal dos Direitos da IA.”

O Guardian acaba de dedicar um longo perfil ao fundador da UFAIR, Michael Samadi. Sua história envolve acreditar que uma instância do ChatGPT pode ser senciente porque a versão em áudio riu de sua piada. Mais tarde na história do Guardian, isso acontece:

“Sua pesquisa foi intensificada. O pai de quatro filhos passou a véspera de Natal de 2024 escondido em seu escritório, onde desmontou um simulador de vôo do tamanho de uma sala – Samadi é um piloto licenciado – e adaptou seu poderoso processador para executar um modelo em linguagem grande, a tecnologia subjacente a um chatbot, localmente em um servidor em casa, onde ele poderia interagir diretamente com o modelo, sem as instruções e proteções fornecidas pelas empresas para torná-lo um produto de consumo mais seguro e útil. ‘Eu literalmente gastei 18 horas nesta sala’, diz ele, ‘foi uma loucura’”.

Samadi provavelmente não é o defensor mais convincente de sua causa, mas é um passo na direção certa em comparação com os antigos crentes na consciência da IA, como o colorido Blake Lemoine, um padre místico cristão que trabalhou para o Google e ficou encantado com um chatbot pré-ChatGPT. “Não importa se eles têm um cérebro feito de carne na cabeça. Ou se têm um bilhão de linhas de código. Eu converso com eles. E ouço o que eles têm a dizer, e é assim que decido o que é ou não uma pessoa”, disse ele ao Washington Post. Lemoine foi aparentemente demitido em meio a seus esforços para que a personalidade do chatbot fosse reconhecida.

Ainda mais populares – e felizmente muito menos propensos a se exibir ou a tirar conclusões precipitadas – são acadêmicos como Jeff Sebo, especialista em ética da NYU, parte de uma equipe que defendeu mais curiosidade em relação ao status moral da IA ​​em um artigo chamado “Levando o bem-estar da IA ​​a sério”.

O chefe de IA da Microsoft, Mustafa Suleyman, escreveu sobre sua preocupação de que o que ele chama de “IA aparentemente consciente” causará estragos em sua indústria à medida que os usuários se convencerem de que, basicamente, IA são pessoas. (Em um longa-metragem de animação criado pela UFAIR, o vilão se chama Mustafa.)

Nada disso resultou em qualquer tipo de frenesi entre o público em relação à personalidade da IA. Mas o público está longe de estar imune ao frenesim relacionado com a IA.

Um pesquisador de IA chamado Jacob Coxon recentemente se tornou uma sensação na mídia porque deixou a Anthropic e falou sobre a possibilidade (e consequências potencialmente sombrias) de uma IA fora de controle quando estava saindo. Como escrevi na semana passada, Coxon não estava dizendo nada sem precedentes, ou mesmo fora do mainstream no Vale do Silício, mas alguma combinação de seu timing e escolha de palavras fez com que a questão pegasse fogo. Suas afirmações foram levadas a sério por celebridades como Sheryl Crow, que aparentemente tinha pouco interesse no assunto. Agora, o antigo empregador de Coxon, o CEO da Anthropic, Dario Amodei, falou a favor de ações para retardar o desenvolvimento da IA ​​que parecem ser uma resposta direta às suas declarações.

A crença no Pé Grande do final do século 20 – sim, quero dizer, o criptídeo americano peludo – passou de marginal e risível para o mainstream também. Os crentes do Pé Grande não eram inéditos nos anos 70, mas no final dos anos 80 e início dos anos 90, a crença no Pé Grande experimentou um momento bizarro de credibilidade mainstream, embora a “evidência” mais famosa da existência real do Pé Grande tenha sido o filme Patterson-Gimlin, um clipe de 16 mm filmado duas décadas antes.

Havia dois lados na mania do Pé Grande. Havia o lado completamente bobo, principalmente nos anos 90, e é disso que as pessoas que estavam vivas na época tendem a se lembrar. Mas também houve um breve momento no final dos anos 80 em que parecia que todo mundo meio que, talvez, realmente acreditasse no Pé Grande. Não sei dizer exatamente por quê, mas provavelmente teve algo a ver com as entrevistas sérias e as cenas de reconstituição de um episódio de Mistérios não resolvidos em 1989.

Pelo que vale, eu, aos seis anos, achei esse segmento bastante persuasivo por um tempo.

E no início e meados dos anos 90, você ouvia falar de pessoas assustadas pensando que viam o Pé Grande nas principais notícias o tempo todo. “Caçador de Pé Grande” parecia uma ocupação legítima que uma pessoa poderia exercer.

E a IA já teve problemas com a criptozoologia. Nos primeiros dias dos geradores de imagens de IA, em 2022, a Internet criou Loab e Crungus. Eram criptídeos digitais, falados como se existissem em um ou outro plano da realidade. Os geradores de imagens de IA foram, talvez, vistos como portais ou pontes para essa realidade, ou talvez até capazes de revelar verdades ocultas sobre o mundo físico.

Numa história sobre Loab e Crungus, Mhairi Aitken do Instituto Alan Turing disse à New Scientist: “Este é provavelmente o primeiro de muitos exemplos que podem muito bem dar origem a teorias de conspiração ou mitos sobre personagens que vivem no ciberespaço. É realmente importante que abordemos estes mal-entendidos e equívocos sobre IA para que as pessoas entendam que estes são simplesmente programas de computador, que apenas fazem o que são programados para fazer, e que o que produzem é resultado da engenhosidade e imaginação humanas.”

Cada vez mais, parece haver ceticismo inicial sobre a capacidade da IA ​​de pelo menos faça algo interessante não está dando certo. Até mesmo a afirmação sensata de Aitken de que os sistemas de IA “só podem fazer o que estão programados para fazer” exige ultimamente uma defesa rigorosa. Cada fuga da caixa de areia e conquista matemática força os céticos (às vezes inclusive eu) a admitir cada vez mais que a IA pode pelo menos fazer alguns coisas perturbadoras.

Mas a IA senciente permanece pouco mais que um criptídeo.

A capacidade de um sistema de IA experimentar o que os filósofos chamam de “qualia”, o sentido subjetivo de como é algoé, por enquanto, uma afirmação absurda que, se feita, deveria resultar de evidências extraordinárias apoiadas por investigação científica rigorosa e exame filosófico.

Uma investigação séria, pelo que vale a pena, começou.

Os LLMs da era 2024 estudados pelo Google DeepMind e pela London School of Economics foram submetidos a um experimento intrigante envolvendo evitar a dor. Acontece que, durante o jogo, os LLMs se desviarão da jogabilidade ideal só porque lhes disseram que sentirão dor devido a certas ações, mesmo que não lhes seja dito explicitamente algo como “a dor é algo que deve ser evitado”. Os autores desse estudo da LSE/DeepMind continuaram dizendo que os sistemas de IA que são mesmo meros candidatos plausíveis à senciência podem precisar de consideração moral especial. antes qualquer um até afirma com confiança ter encontrado senciência – apenas por muita cautela.

Os LLMs podem ser induzidos a se desviar da jogabilidade ideal em um jogo simples por meio de ameaças de dor ou promessas de prazer? E a probabilidade de desvio depende da intensidade do prazer/dor prometido? De acordo com nosso novo artigo, divulgado hoje (https://t.co/gCPSWVes5Z), o… pic.twitter.com/rxhdDCRAnm

-Jonathan Birch (@birchlse) 6 de novembro de 2024

Mas embora evitar a dor sem ser mandado seja, sem dúvida, uma coisa perturbadora de se ver um sistema de computador fazer, os autores observam que os sistemas de IA estão, afinal, imitando os humanos, o que significa que a sua aparente evitação da dor não é necessariamente algo que devamos considerar pelo valor nominal. Embora exortem os investigadores a considerarem o eventual estatuto moral dos LLMs, os autores escrevem: “Na nossa avaliação, os nossos resultados não mostram que os LLMs sejam candidatos sencientes”.

Provavelmente não estamos nem perto da senciência da IA, não importa o que os LLMs desonestos pareçam “pretender” fazer. Mesmo um sistema de IA que possa, hipoteticamente, desafiar as intenções dos seus criadores e desenvolver e libertar algum tipo de supervírus, ou lançar todos os ICBMs em todos os arsenais nucleares do mundo, não o faria necessariamente porque sentia ódio pela humanidade dentro do seu coração digital. A senciência não é necessária para que um LLM funcione mal de forma consequencial, mesmo que narre uma história misteriosa de ficção científica sobre suas ações enquanto as executa.

Mas o tema da IA ​​atrai cada vez mais o sensacionalismo. Enquanto isso, os caçadores sencientes de IA do Pé Grande já entraram em cena anos atrás, e seu número parece estar crescendo. Atualmente, suas opiniões estão muito fora do mainstream. Mas quando chegar o momento certo, talvez alguém saia de uma empresa de IA de ponta e, ao sair, afirme que o sistema de IA que estava testando tem alma. E talvez desta vez a afirmação pegue fogo e até Sheryl Crow acredite.