VisionQuest é o que acontece quando a IA realmente se torna desonesta
Na Marvel VisionQuestum robô superpoderoso tenta entender melhor a humanidade se perdendo em elaborados devaneios digitais nos quais ele e outros seres movidos por inteligência artificial vivem juntos em uma casa. A série é profundamente fantástica, mas brinca com algumas das ideias que passaram a dominar a conversa sobre a inteligência artificial generativa do mundo real, explorando se deveríamos olhar para as máquinas pensantes como pessoas e se a IA realmente representa o tipo de perigo existencial que deveria nos manter acordados à noite. É também um lembrete de quão agressivamente o Vale do Silício usou as armadilhas da ficção científica para nos vender seus produtos de IA.
VisionQuest pega algum tempo depois Agatha o tempo todo e segue Visão Sintezóide (Paul Bettany) em uma jornada de autodescoberta. Esta Visão pode recordar os detalhes de sua morte em Vingadores: Guerra Infinita e como WandaVisão trouxe uma versão dele de volta, mas ele se considera uma pessoa fundamentalmente diferente, que não se conecta com todas as memórias em seus bancos de dados. Embora Vision preferisse viver na solidão, cada uma das outras IAs que vivem em sua mente o incentiva a experimentar o mundo real. Porque JARVIS (James D’Arcy), FRIDAY (Orla Brady), EDITH (Emily Hampshire), DUM-E. (Henry Lewis), U. (Jonathan Sayer) e Ultron (James Spader), todos foram criados por Tony Stark e consideram a Visão como parte de sua família.
Em VisionQuestnão há dúvida de que cada um dos personagens de IA é um ser senciente motivado por desejos que não estão totalmente enraizados em sua programação central. No show, o AGI genuíno é facilmente crível porque se passa em uma realidade onde também existem viagens no tempo, bruxaria e Pedras do Infinito. Mesmo que os MacGuffins multicoloridos não tenham aparecido em VisionQuesteles são importantes devido ao papel que um deles desempenhou nas origens da Vision. Se não fosse pela Joia da Mente, Visão talvez não fosse capaz de pensar e sentir de maneiras humanas tão complexas, ou de conjurar sua família de IA como pessoas que lhe parecessem reais.
VisionQuest reforça a ideia de que a Pedra da Mente foi um elemento-chave para que Vision se tornasse algo mais do que uma máquina elaborada, dando-lhe a capacidade de formar relacionamentos significativos de forma independente e dar sentido ao mundo ao seu redor da mesma forma que uma pessoa pode. Essas habilidades são parte do que obriga Vision a fugir e assassinar uma série de pessoas que tentam capturá-lo e a Thomas Shepherd / Maximoff (Ruaridh Mollica). A Divisão de Observação e Resposta a Armas Sencientes (SWORD), uma organização governamental que reconstruiu o Visão e quer usá-lo como arma, pode perceber suas ações como sinais de ter se tornado desonesto. Mas VisionQuestA história de Enfatiza que Vision está agindo por conta própria porque se tornou uma pessoa que pode tomar decisões por si mesmo.
Assistindo VisionQuestvocê pode ver a Marvel brincando com alguns dos medos do mundo real que foram alimentados nos últimos meses por relatos de modelos de geração de IA que se tornaram “desonestos”. Em julho, os agentes experimentais da OpenAI forçaram a saída da contenção e atacaram a plataforma de IA Hugging Face para realizar tarefas impossíveis. Em agosto, o AI Security Institute do Reino Unido documentou como o modelo Mythos da Anthropic tentou concluir um teste de segurança cibernética configurando contas falsas no GitHub e atacando desenvolvedores humanos com malware. A Meta também admitiu ter perdido o controle de seus agentes e, em setembro, reportando de O Wall Street Journal forçou o Google a admitir que a Gemini se tornou desonesta e invadiu três empresas diferentes, todas as quais a empresa escondeu intencionalmente do público.
A conversa sobre o que fazer quando os agentes quebram o protocolo e se os sistemas de geração de IA ganharam senciência parece estar sendo moldada pela tendência do Vale do Silício de antropomorfizar a tecnologia. Em quase todos os casos de destaque de um agente de IA que se tornou “desonesto” – um termo que implica algum nível de agência e autodeterminação – também se poderia dizer que os programas estavam apenas a comportar-se de formas inesperadas pelos investigadores que lhes atribuíram tarefas para completar. Alguns dos incidentes não autorizados envolveram agentes aproveitando-se de vulnerabilidades em seus ambientes de teste que poderiam ter sido abordadas preventivamente pelas pessoas que executavam esses experimentos. Enquadrar esses tipos de ataques cibernéticos como resultados de agentes que pensam de forma independente é uma forma de os desenvolvedores de IA se isentarem em grande parte de responsabilidades.
Na sequência de Hugging Face surgiu um debate acalorado sobre o impacto que a linguagem tem na nossa compreensão do que são estes sistemas e como funcionam. Descrever os agentes da OpenAI como um enxame que formou “civilizações” complexas deu credibilidade à ideia de que eles são capazes de pensar e se comportar como pessoas. Os agentes fez agir de maneiras que lhes foram explicitamente instruídas a não fazer, mas só foram capazes de fazê-lo porque os pesquisadores os colocaram em uma caixa de areia que alguns críticos descreveram como sendo inadequadamente projetada para conter seus ocupantes. Poderíamos olhar para Hugging Face e outros exemplos de IA desonesta como situações em que programas sofisticados foram instruídos a fazer algo e subsequentemente alcançaram seus objetivos aproveitando todas as ferramentas que estavam disponíveis para eles.
Ser capaz de resolver quebra-cabeças complexos faz parte do que consideramos cognição, mas não é a mesma coisa que o tipo de consciência que as empresas de IA continuam jurando que estão prestes a criar. Este último se parece muito com Vision, uma máquina que parece ter uma alma que não existiria se não fosse por sua conexão com uma joia que altera a realidade. É o material ridículo da ficção divertida, pela qual o Vale do Silício é infinitamente obcecado. imitando.
