Meu terapeuta acha que eu deveria jogar o Amazon Bee Frontier pela janela

Isso é Otimizadorum boletim informativo semanal enviado por Beira revisor sênior Canção Victoria que disseca e discute os mais recentes aparelhos e poções que juram que vão mudar sua vida. Ative Otimizador aqui.

“Como você se sente com isso?”

Me perguntam muito isso na terapia. Muitos acontecimentos da vida, grandes e pequenos, desencadearam esta questão. Há três semanas, tive que pedir consentimento à minha terapeuta porque estava usando o Amazon Bee Frontier durante nossa sessão.

Naquela primeira semana, eu realmente não tive uma resposta. Muita coisa mudou desde que testei pela primeira vez o Bee, um wearable de IA que sempre grava, no início do ano passado. O argumento de venda é que ele ouve todas as suas conversas e usa IA para transcrevê-las e resumi-las. A partir daí, possui um recurso Lista que sugere tarefas, um recurso Crescer para identificar áreas onde você pode melhorar e vários resumos que analisam o conteúdo, o tom e as conclusões de suas conversas. Possui até um chatbot que pode responder perguntas sobre você ou o que foi dito e quando.

Nos últimos 19 meses, melhorei em distinguir meu discurso real dos diálogos da TV. Agora ele pode obter informações do meu aplicativo de calendário e fotos e sugerir coisas para comprar na Amazon com base no que eu disse. Às vezes, principalmente em tarefas relacionadas ao trabalho, isso me ajudou a lembrar dos pontos de discussão. Mas na maioria das vezes, isso me levou a questionar minha realidade.

Meu terapeuta geralmente me permite tomar minhas próprias decisões, mesmo que muitas vezes eu siga o caminho cênico até a conclusão óbvia. Depois de 11 anos, ela conhece intimamente as partes mais malucas do meu trabalho. Mas na minha terceira semana falando sobre Bee, meu terapeuta pediu que eu jogasse essa coisa pela janela.

É um pouco sombrio, mas um grande motivo pelo qual estou em terapia é para construir confiança em minhas próprias memórias. Cresci com um pai que poderia ter sido um espião e uma família de imigrantes que nunca concordava com uma única versão dos acontecimentos. Ao crescer, me senti desamparado. As coisas eram realmente como eu as lembrava? Meus pais eram os narradores não confiáveis, ou eu era? Adicionar sua eventual demência à mistura tornou ainda mais difícil discernir a verdade da ficção.

Naqueles momentos, eu desejava um aparelho como o Bee. Um registro revisável, por assim dizer, para momentos em que eu queria uma verificação de sanidade. É engraçado em retrospecto. Agora que as empresas de tecnologia começaram a transformar essa fantasia em realidade, o que eu sentir é perpetuamente iluminado a gás.

Por exemplo, é desorientador ver as transcrições e resumos das minhas conversas por Bee, muitas vezes porque a IA as lembra e interpreta de maneira diferente da minha. Como qualquer IA, nem sempre é preciso saber quem disse o quê. Nas últimas três semanas, concluiu-se que discuto frequentemente com o cônjuge de um colega de trabalho (nunca o conheci), que acho que um membro da família tem transtorno bipolar não diagnosticado (ninguém sempre disse isso!), e que gosto de vestir minhas calças boas para videochamadas importantes. (Isso foi uma piada.) Claro, é um alívio que a habilidade de transcrição recém-atualizada de Bee tenha conseguido discernir que eu pessoalmente não estava trabalhando com os detetives Rust Cohle e Marty Hart para encontrar um serial killer chamado Rei Amarelo simplesmente porque assisti Verdadeiro Detetive. Mas ainda não sabe como lidar com o fato de chamarmos meus dois gatos de Petey e Pablo de vários apelidos. Pela estimativa de Bee, tenho cerca de seis gatos adicionais chamados Sr. Bonito, Sr. Elegante, Promotor Distrital Hoss, Dabah Doo Bah, Demônio de Batata e Tubby McTubberson Jones.

Esses erros são no mínimo engraçados. É quando as conversas são sérias que sinto a chicotada mais forte. É aí que a IA “melhorada” desaloja algo no meu cérebro.

Na minha segunda sessão de terapia com gravação de Bee, passei a maior parte do tempo desvendando meus sentimentos sobre Você pode ver tudo. É um filme que distorce a realidade e questiona a linha entre a verdade e a ficção. Por mais que eu tenha gostado do filme, testemunhar mentirosos compulsivos por três horas certamente me levaria de volta a momentos mais infelizes da minha vida. Eu deveria ter desligado Bee para esta sessão. Mas a verdade é que eu só esquecido. Porque o design desses dispositivos é, em muitos aspectos, construído para que você esqueça que eles estão ouvindo.

Uma das capacidades do Bee é que ele aprende “fatos” sobre você que você desliza para a direita para aprovar como verdadeiros ou para a esquerda para descartar como falsos. Após esta sessão, gerou-se um “fato” sobre um caso de violência doméstica que sofri quando criança. Este momento específico surgiu várias vezes em sessões ao longo dos anos – revisitá-lo foi fundamental para compreender e perdoar os meus pais, mantendo compaixão pelas circunstâncias que os moldaram.

Eu não esperava o quão horrível foi ver um evento traumático resumido de forma tão clara em um inglês simples. Odiei ter que deslizar para a direita para dizer: “Sim, isso é verdade”. Eu não esperava que o resumo que acompanha fosse intitulado “Recuperando a Realidade do Poder Manipulativo”. Ou para caracterizar o tipo de pessoa que sou (profundamente inquieto), o timbre da conversa (intensa, reflexiva, emocionalmente crua) ou como me senti durante aquela sessão (luto, irritado e com os olhos claros sobre a manipulação). EU lembre-se daquela sessão como catártica. Houve momentos em que eu ri ou brinquei. O assunto era sério, sim, mas eu não estava reclamando, delirando ou chorando. Saí daquela sessão sentindo-me leve – você nunca imaginaria isso pelo resumo. Olhando para isso semanas depois, estou me perguntando quem está certo: eu ou a IA.

Também esqueci de desligar o Bee durante meu exame físico anual. Cheguei atrasado para a consulta e, quando coloquei uma bata para o exame, a maldita coisa estava em uma pilha de minhas roupas. Só percebi meu erro na hora de partir.

Por um lado, lembrou que meu médico me receitou Claritin para alergias e que a enfermeira e eu conversamos sobre minha cadela morta, Daisy. (Ele me descreveu como melancólico e de luto aqui também, mas EU lembre-se disso como uma boa lembrança.) Ironicamente, também homenageou meu doutorsentimentos sobre a transcrição de IA. O software de transcrição de IA do meu médico exige o consentimento do paciente e o ajuda em longas conversas nas quais ela precisa se lembrar das anotações do tratamento. Mas também é um lixo distinguir entre duas falantes do sexo feminino, e ela passa um bom tempo corrigindo isso.

Dependendo de qual modelo Bee AI eu uso, o resumo pode mudar. Com o modelo padrão, as conclusões da IA ​​sobre esta reunião específica incluem análises tonais e conclusões. Se eu filtrar pelo modelo de consulta médica, de repente tudo fica muito mais factual. Isso elimina as ruminações. É mais útil e menos desconfortável olhar para trás. Mas também não posso deixar de sentir que o registo daquela que foi uma consulta de saúde bastante significativa difere da minha memória. Quem está certo?

Então, como faz tudo isso me faz sentir?

Um pouco louco e sobrecarregado. Às vezes ofendido. Bee tem um recurso novo chamado Grow. Com base no seu histórico de conversas, ele compila recomendações sobre como você pode crescer como pessoa. Ele também gera sugestões de tarefas.

Para treinar Bee AI em minha voz, durante a configuração ele me pediu para descrever meus hobbies. Eu disse que gosto de ler, caligrafia, ponto cruz e correr. Recentemente, comecei a usar canetas-tinteiro e amostras de tinta para registrar no diário. Você tem que falar por cerca de dois minutos seguidos, então acabei divagando sobre como não tinha certeza se o bordado seria uma progressão natural do ponto cruz ou uma missão paralela desnecessária neste momento.

O insight do Grow baseado nesta discussão unilateral e incrivelmente pouco séria? Uma conversa que a própria Bee provocou. Eu me envolvo em muitos hobbies sem um compromisso sério. Um pau para toda obra, mestre de ninguém. Não mostrei nenhum progresso ou sinal tangível de “resultado compartilhável” e devo passar os próximos três meses escolhendo um passatempo. Como permiti que o Bee se integrasse à minha lista de lembretes, que contém uma lista antiga de livros para leitura dos quais desejo cópias físicas, ele afirmou com segurança que, apesar de me considerar um leitor, não fiz muito progresso este ano.

Cadelapensei, terminei 39 livros em 2026 até agora. Pratico caligrafia e registro no diário há 17 anos. Terminei 10 projetos de ponto cruz este ano. Mais importante ainda, hobbies não são algo que faço para “resultados compartilháveis”. Acontece que acredito firmemente que os hobbies deveriam ser isentos dos KPIs idiotas do cérebro do Vale do Silício.

Outro insight do Grow a partir de alguma discussão política com meu cônjuge sobre as provas intermediárias? “Estes enquadramentos ajudam-na a contextualizar os acontecimentos actuais, mas também podem distanciá-la do envolvimento no tempo presente; o seu tom na discussão política é mais analítico do que activista, mais diagnóstico do que mobilizado.” Sugeriu então que eu “identificasse uma ação política concreta alinhada com os seus valores que exija menos de 30 minutos e a conclua esta semana”.

Em meu memória, isso aconteceu porque assistimos a um episódio de O programa diário e eu disse, brincando, que estava cansado das travessuras políticas dos EUA. Não importa meu real experiência vivida em angariação de votos e como organizadora e representante sindical.

Estes são apenas dois exemplos. Imagine ver alguma versão disso todos os dias durante quase um mês. Resumos que talvez estejam 75% certos, 15% tirados do contexto e 10% errados. Coisas que são apresentadas a você como fatos, independentemente de qualquer isenção de responsabilidade de que a IA pode cometer erros.

Você pode saber a verdade no fundo de suas entranhas e ainda se perguntar o que acontece quando sua hipervigilância diminui.

Eu disse isso na minha terceira sessão de terapia usando Bee. Pedi à minha terapeuta para avaliar. O que, brinquei, ela sentiu ao me ver passar por esse experimento?

Eu li a transcrição de Bee dessa conversa. Ironicamente, não resumiu seus pensamentos sobre o quão mal projetado este dispositivo é para pessoas ansiosas. Eu tive que cavar na transcrição bruta para descobrir isso. De acordo com meu terapeuta, um dispositivo como esse provavelmente substitui a capacidade de uma pessoa confiar em seus próprios instintos sobre o que precisa fazer. Quando você terceiriza isso, a IA pode gerar insights que não estão emocionalmente sintonizados e, por sua vez, exacerbar muitos dos problemas que uma pessoa pode estar tentando resolver. Para mim, provavelmente desencadeia ruminação, espiral e perfeccionismo.

Foi aí que brincamos que eu provavelmente deveria jogar essa coisa pela janela. Nós rimos que tínhamos ambos sinto-me aliviado quando não estiver usando isso na minha próxima sessão. Eu diria que essa foi a conclusão mais importante.

Bee não incluiu isso na minha lista de tarefas sugeridas. No entanto, dizia o seguinte: compre cola para unhas, completa com um link para Amazônia.