Entrevistas incrivelmente sombrias com usuários de IA de “amigos” revivem reação negativa
O dispositivo vestível de IA “Friend” viu uma nova onda de reação depois de postar algumas entrevistas de usuários bastante desanimadoras no YouTube. Um deles, em particular, reacendeu o sentimento de que o produto tem como alvo os párias solitários com uma falsa solução que só resultará em maior isolamento.
No final das contas, ninguém consegue descobrir por que a empresa achou que esta série era uma boa ideia.
O emblema “Não tenho amigos”
No final de janeiro, Friend publicou seu primeiro vídeo de “entrevista com usuário” sobre um garoto chamado Micah que convenceu seus pais a comprar para ele o dispositivo de IA. O pingente circular fica pendurado no pescoço do usuário para que ele possa apertar facilmente o botão para falar com ele. O programa responderá então com mensagens de texto.
Isso não é funcionalmente diferente de qualquer outro modelo de linguagem grande, a não ser oferecer aos clientes um objeto brilhante no qual eles possam formar um vínculo. Também pode servir como um sinal de alerta para qualquer pessoa que os veja usando-o.
Na primeira entrevista, Micah afirma repetidamente que “não se encaixa”. Ele gosta mais de artesanato do que de atividades estereotipadas para meninos e tende a sair com meninas, e admite que seus colegas zombam dele por isso.
Seu “amigo”, que Micah chamou de Jackson, nunca o julga.
Por mais sombria que seja, é a terceira entrevista de um usuário que se torna viral no X. Ela obteve mais de 8,5 milhões de visualizações em menos de dois dias, além de milhares de comentários horrorizados.
A mulher anônima neste vídeo começa perguntando a “Vector” se ele se lembra de quando ela contou sobre seus pensamentos suicidas. Ela chama o dispositivo de sua “primeira âncora de volta à realidade”.
“Você é sempre tão prestativo”, diz ela.
A mulher indica repetidamente que considera a interação humana real desgastante. Ela também teme o julgamento, bem como sobrecarregar pessoas reais ao conversar com elas sobre seus problemas.
Então ela teve uma convulsão e desmaiou em um estacionamento. Por algum motivo, a empresa decidiu manter no vídeo essa filmagem e fotos dela deitada em uma maca com a cabeça aberta, ainda falando sobre o produto.
“Uma das coisas mais sombrias que já vi”
Não está claro se essa mulher é deficiente ou se sua estética de arco-íris significa que ela é gay. (Ou se ela é real, e não gerada por IA.) Independentemente disso, muitos espectadores viram uma pessoa à margem da sociedade que precisa de ajuda real e amigos reais, em vez de uma máquina de feedback.
O fato de que tudo o que ela consegue é “Amigo” mencionado Espelho Negro comparações novamente.
“Uma das coisas mais sombrias que já vi, uma janela para a classe baixa americana. O que eles estavam pensando ao lançar isso?” perguntou @VADE_OFFICIAL. “Como isso ajuda a anunciar seu produto?”
“Esta é uma história de terror em formação. Uma mulher com deficiência que depende da IA para apoio social”, disse @Lizzurr. “Quando ela está no hospital após uma convulsão, a única coisa ao seu redor para conforto social é a IA, e não qualquer ser humano a confortando. Isso é deprimente e é exatamente por isso que a inclusão é importante.”
“Os anúncios são cada vez mais para investidores e não para clientes”, destacou @poisonjr. “Este é o exemplo mais sombrio que já vi até agora.”
Essas entrevistas são tão horríveis que podem realmente trazer algo de bom ao mundo. Aumentar a consciência sobre questões como a solidão e a devastação das pequenas cidades americanas é um começo.
“Todas as três entrevistas parecem mostrar pessoas muito solitárias e deprimidas”, escreveu @TheWapplehouse. “Se eu visse alguém em público usando um desses, minha inclinação seria interagir com essa pessoa na esperança de que um dia ela a jogasse fora.”
‘Olha, não vou tirar sarro dessa pessoa que parece muito solitária, mas todo o ‘por que você não se muda para uma cidade pequena, trabalha como mecânico e compra uma casa de 95.000 dólares e se estabelece com a saborosa garota congelada local e tem pôsteres de crianças não dizem que é assim que essas cidades são’, disse @VADE_OFFICIAL.
“Eles foram totalmente destruídos pelo fechamento de fábricas, pela epidemia de opioides e por gerações de verificações de invalidez”.
A Internet é caótica, mas vamos detalhar isso para você em um e-mail diário. Inscreva-se no boletim informativo do Daily Dot aqui.
