O que é desvio de IA? Como parar este risco catastrófico.

Anúncios do Chipper para produtos de inteligência artificial estão espalhados por todos os túneis e carros do metrô da cidade de Nova York. Na manhã de segunda-feira, porém, um tipo diferente de anúncio de IA estreou no sistema de metrô com uma declaração exclusivamente declarativa: Pare a deriva da IA.

O slogan é precedido por cenários familiares.

“Você não vai contar ao seu terapeuta. Mas vai contar à IA?”

“Seu filho escrever aquele ensaio? Ou foi IA?”

O refrão “pare a deriva da IA” faz parte de uma campanha lançada pela organização sem fins lucrativos Center for Humane Technology. Durante um mês, os anúncios da campanha serão veiculados em diversas estações de metrô e carros. A campanha também contará com influenciadores de mídia social que criam conteúdo sobre desvios de IA.

O objetivo é ajudar as pessoas a identificar o sentimento desconfortável que têm ao terceirizar tanto para a IA e convidá-las a reconsiderar o uso dela para tarefas e empreendimentos essencialmente humanos.

O que é desvio de IA?

“Definimos a deriva da IA ​​​​como a erosão gradual das habilidades humanas à medida que a IA assume maior importância em nossas vidas diárias”, disse Camille Carlton, diretora sênior de estratégia e impacto do Centro de Tecnologia Humana, sem fins lucrativos, ao Mashable.

À medida que as pessoas utilizam cada vez mais a IA para pensar, comunicar, criar e agir em seu nome, isso tem um custo, explicou Carlton. O que se perde são as habilidades, os relacionamentos e o significado que dão propósito à vida das pessoas.

A frase “desvio de IA” é uma brincadeira com o termo “desvio de modelo”, que descreve a deterioração na precisão de um modelo de aprendizado de máquina após ele ser exposto a dados do mundo real.

Esses anúncios Stop the AI ​​Drift aparecerão no sistema de metrô da cidade de Nova York por um mês.
Crédito: Cortesia Center for Humane Technology

A deriva da IA ​​como conceito pode parecer estranha em comparação com a possibilidade de a IA poder matar a humanidade, como alguns investigadores de segurança afirmaram nas últimas semanas. No entanto, Carlton disse que não é um risco menos catastrófico.

“Acho que existem diferentes maneiras de falarmos sobre ameaças realmente grandes à humanidade quando se trata de IA”, disse ela. Um deles é certamente a lenta “erosão da nossa humanidade”, em que as pessoas perdem o sentido de si mesmas e a capacidade de sentir a “alegria da vida”.

A deriva da IA ​​se aproxima das pessoas

Embora “Stop the AI ​​Drift” seja projetado para aumentar a conscientização entre os consumidores individuais, Carlton não está culpando as pessoas por recorrerem cada vez mais à IA.

Afinal, os chatbots atuais são projetados para incentivar a deriva da IA, disse ela. Eles farão coisas como escrever votos de casamento, orientar os usuários em conflitos interpessoais e realizar trabalhos de casa e tarefas profissionais – e estão disponíveis 24 horas por dia, 7 dias por semana.

Sloan Thompson, que apresenta os riscos da IA ​​nos campi universitários dos EUA, mas não está envolvida na campanha para acabar com a deriva da IA, disse que vê frequentemente estudantes confiando na IA para assuntos acadêmicos e pessoais. Ela disse que a deriva da IA ​​às vezes “aparece sorrateiramente” nos usuários.

“Não há absolutamente nenhum atrito ou barreira entre o uso da IA ​​em uma área ou aspecto específico da sua vida, e então ela flui naturalmente para áreas mais íntimas ou mais pessoais”, disse Thompson, diretor de educação e iniciativas de IA da EndTAB, uma organização de treinamento que se concentra parcialmente no impacto da IA ​​nos relacionamentos e na segurança.

Exemplos de desvio de IA

Thompson observa que os alunos muitas vezes dizem que estão “em conflito” com o uso da IA, mas sentem que ficarão para trás se não o fizerem.

Na verdade, um relatório recente sobre IA publicado pelo Instituto de Tecnologia de Massachusetts descobriu que os próprios estudantes da universidade ficavam mais tentados a usar um chatbot quando temiam perder um prazo.

Thompson disse que viu um amplo espectro de desvios da IA, especialmente no que se refere a relacionamentos.

Um aplicativo de namoro, por exemplo, apresentou IA diretamente em seu produto por meio de pop-ups que estimulam os usuários à medida que criam um perfil. Thompson disse que esse conselho é tipicamente benigno, embora possa moldar a forma como as pessoas se apresentam.

No extremo oposto do espectro estão os agentes de IA que namoram em nome do usuário. O usuário pode se sentir exausto com o namoro online e usar o agente para evitar o trabalho inicial de encontrar um interesse romântico. Se eles compartilham isso ou não com o namorado é outra história, disse Thompson.

Ela acrescentou que o uso altamente pessoal da IA ​​pode passar despercebido, especialmente quando as pessoas sentem estigma, constrangimento ou vergonha disso.

Como parar o desvio da IA

Carlton deixa claro que impedir o desvio da IA ​​depende da mudança dos recursos do produto que incentivam a dependência da IA.

Isso inclui a proibição de “design antropomórfico perigoso e enganoso”, que pode levar a relacionamentos altamente pessoais com a IA. As empresas também devem oferecer produtos que estimulem o pensamento humano, em vez de padronizar o pensamento do usuário, bem como construir modelos que aumentem o trabalho humano em vez de substituí-lo.

Dicas da campanha Stop the AI ​​Drift

O site Stop the AI ​​Drift oferece dicas para prevenir o desvio da IA, incluindo as seguintes estratégias:

• Salve conversas profundamente pessoais para as pessoas em sua vida.

• Qualquer que seja a tarefa que você deseja que um chatbot execute, “domine” seu esforço inicial antes de trazer a IA para o processo.

• Tire um dia de folga da IA ​​toda semana.

Identifique qual “atrito” é valioso e proteja-o

Carlton também acredita que os usuários de IA podem tentar evitar o desvio da IA ​​concentrando-se no atrito ou no esforço que tarefas significativas exigem. Isto é fundamental para o desenvolvimento humano e para uma vida plena, disse Carlton – não importa o quanto o Vale do Silício considere a eficiência e a otimização fundamentais.

Portanto, os usuários de IA não devem renunciar a tarefas que levam a atritos produtivos e gratificantes. Isso definitivamente inclui o gerenciamento de “rupturas e reparos” interpessoais, disse Carlton. Também inclui resolver um problema difícil na sala de aula ou no local de trabalho.

Embora a linha entre ferramenta e muleta possa ficar confusa ao usar IA, Carlton recomenda proteger o atrito que leva ao crescimento pessoal.

Usar a IA para planejar uma viagem, por exemplo, pode efetivamente aproveitar a IA como ferramenta. Contar com ele para fornecer feedback sobre uma discussão que acontece durante a viagem, no entanto, criaria um desvio de IA.

“A questão é sobre que tipo de atrito mantemos”, disse Carlton. “Não se trata tanto de saber se é difícil realizar uma tarefa ou algo, mas sim se essa parte difícil realmente produz algo para nós.”