As alucinações de IA estão piorando ainda mais os clientes autorizados

Madison, uma garçonete na cidade de Nova York, cumprimenta todas as mesas perguntando sobre as alergias de cada cliente. Ultimamente, tem havido alguns problemas. “Às vezes as pessoas me dizem que têm alergia a frutos do mar, e eu volto, e elas não me fazem nenhuma pergunta”, diz Madison, que pediu que seu sobrenome não fosse divulgado para proteger sua identidade. “E vão pedir um prato de peixe que vem com caldo de marisco.”

Quando ela lhes diz que um prato contém um alérgeno, ela faz com que os convidados recuem, dizendo que o ChatGPT discorda. “Eles só querem falar com o ChatGPT”, explica Madison. “Você é alérgico a marisco, e o ChatGPT diz que não há marisco nisso, e estamos lhe dizendo, sim, há!”

A adoção em massa de ferramentas generativas de IA está reescrevendo o velho ditado que há muito tempo é uma pedra no sapato dos trabalhadores de restaurantes e varejo: “O cliente tem sempre razão”. Mas o que acontece quando o cliente espera que você jogue junto com algo inventado pela IA?

Além de ignorar os seus avisos sobre alergénios, Madison notou uma maior dependência da IA ​​generativa entre os clientes do restaurante italiano recomendado pela Michelin, onde trabalhou até recentemente. “A quantidade de vezes que sugeri ‘Deixa eu chamar o sommelier para você’ e eles disseram ‘Não, vou só perguntar ao ChatGPT’ ou alguns foram dispensados ​​da mesa porque o convidado tem preferência pelo ChatGPT, isso vem aumentando bastante”, diz ela. Ela já fez clientes solicitarem garrafas que o restaurante não vende – ou, em alguns casos, que nem existem.

Para Madison, essas alucinações de IA exacerbam as ansiedades pré-existentes de algumas pessoas em relação ao vinho. “Algumas pessoas sempre tiveram problemas com sommeliers, pensando ‘Essas pessoas são como vendedores de carros usados tentando nos fazer gastar muito mais do que queremos em uma garrafa de vinho’”, diz ela, “ou há pessoas que entram em suas cabeças e pensam: ‘O sommelier vai pensar que sou estúpido’”. um vinho francês, e não vendemos vinho francês”, em vez de dizer ao cliente que seu chatbot de IA era completamente uma marca de vinho.

O avanço da IA ​​​​é aparentemente onipresente nos trabalhos de atendimento ao cliente agora. O lançamento do Muse, o novo agente de IA da Meta, provavelmente agravará o problema – e as dores de cabeça para os trabalhadores que precisam atender às solicitações ocasionalmente absurdas dos clientes. Ao relatar essa história, ouvi funcionários de cinemas, baristas e funcionários da Apple Store, todos os quais tiveram clientes solicitando produtos ou recursos que não existem. No Reddit e no X, os funcionários do atendimento ao cliente estão reclamando dos clientes que consideram a palavra do ChatGPT um evangelho.

Jason, um guarda florestal que trabalha em terras federais em Mountain West, diz que notou um aumento no número de visitantes que chegam ao parque com itinerários absurdos gerados por IA.

“Meus colegas e eu explicamos que a IA alucinou acampamentos ou programou coisas fora da ordem geográfica, então o grupo teria que remar seus barcos rio acima em alguns dias (o que não é possível) e flutuar com a corrente do rio em outros dias”, diz Jason, que pediu para ser chamado por um pseudônimo porque é funcionário federal. “A parte mais louca é que mesmo com um guarda-florestal explicando isso enquanto apontava para um mapa, vários grupos permaneceram céticos. Um certo tipo de usuário de IA tende a confiar no ChatGPT em vez de guarda-florestais, mapas e guias impressos.”

Casey, uma professora do programa extracurricular em Nova York que pediu para ser chamada por um pseudônimo, diz que percebeu que os pais, babás e outros cuidadores de muitos alunos estão agora recorrendo ao ChatGPT ou Claude para tirar dúvidas sobre o desenvolvimento infantil.

“Tivemos uma família que consultou o ChatGPT para definir uma rotina de hora de dormir e um horário de sono para o filho, mas o filho não dormia o suficiente”, diz Casey. Com base em seu comportamento no programa, Casey estimou que a criança precisava de mais duas a três horas de sono por noite e disse isso aos pais. “Os pais apenas insistiram que o ChatGPT lhes dizia que sua agenda estava boa.”

Alguns pais, diz ela, agora veem as ferramentas generativas de IA como especialistas cujo conhecimento ultrapassa o dos profissionais de cuidados infantis. “Pode ser muito difícil falar com alguém que já se decidiu”, diz Casey, “porque eles confiam que esta entidade externa é inestimável”. Ela também notou usos mais anódinos da tecnologia, como crianças chegando com folhas para colorir geradas por IA.

Lauren Wilford, que trabalha em serviços de alimentação há 15 anos, também percebeu que a IA está se infiltrando em suas interações recentes com os hóspedes. Tudo começou com o cardápio: alguém carregava uma foto no ChatGPT ou Claude e perguntava o que pedir, ou orientava sobre a combinação de vinhos, em vez de perguntar ao garçom.

Mas agora parece que alguns clientes abandonaram completamente o intermediário. Durante o ano passado, o restaurante Wilford’s recebeu ligações e e-mails de agentes que tentavam fazer reservas em nome dos usuários. A ascensão da IA ​​agente torna essas interações muito mais confusas.

Wilford ficou surpreso quando um cliente indiferente de repente se tornou exigente na véspera de um grande evento, fazendo pedidos de última hora para pódios e equipamentos AV – nenhum dos quais estava prontamente disponível no restaurante que ela administra em Providence, Rhode Island – e alterações de última hora no menu do catering. Mas Wilford ficou ainda mais surpreso quando os clientes chegaram no dia seguinte e não mencionaram nada disso. Embora ela não possa provar isso, Wilford acredita que os pedidos podem não ter vindo de ninguém da empresa; ela suspeita que foram obra de um agente de IA.

“Sou compreensivo com as razões pelas quais as pessoas usam agentes de IA”, diz Wilford, especialmente para tarefas burocráticas e administrativas. “Mas qualquer coisa em que haja valor para dois humanos se verem e resolverem algo juntos, acho que não somos sensíveis ao que pode ser perdido se tentarmos pular todas essas coisas.”