É sinistro que o mascote Muse AI do Meta seja tão fofo

Isso é Otimizadorum boletim informativo semanal enviado por Beira revisor sênior Canção Victoria que disseca e discute os mais recentes aparelhos e poções que juram que vão mudar sua vida. Ative Otimizador aqui.

Ontem à noite, pedi a Blorbo – como chamei meu agente Muse AI – para me ajudar a definir algumas metas de saúde. Fiquei desapontado. Eu pedi um regime de treino de menos de 30 minutos de 5 km e recuperando os músculos perdidos. Isso gerou uma rotina normal, mas meio semanal.

Mas então olhei para seu rosto. Com base no que descobri sobre mim em meus e-mails, ele se transformou em um pedaço de pão em forma de gato com um rosto parecido com o de Kirby. Era tão fofo que era como levar um choque com o neuralizador dos Homens de Preto. Até então, eu tinha sido cauteloso em compartilhar muito sobre minha saúde. Mas à medida que aquele rosto fofo olhava para minha alma, comecei a compartilhar mais para ver se minhas recomendações melhorariam.

E não é exatamente isso que Meta quer?

Tenho evitado agressivamente o Muse desde seu lançamento, há algumas semanas. Claro, parte disso é porque eu estava ocupado testando outros dispositivos. Mas a principal razão é que fico terrivelmente vulnerável quando me deparo com uma fofura extrema.

Infelizmente, no Meta Connect, não consegui escapar desse cara de bochechas rosadas e seu pelo macio de marfim, então finalmente baixei o aplicativo quando voltei para meu quarto de hotel. Ele estava estampado em todas as telas durante a palestra. Meus olhos se contraíram com agressividade máxima quando o CTO da Meta, Andrew Bosworth, nos mostrou seu agente Muse, Cooper. O duderino estava vestido com uma roupa de piloto porque é o piloto de testes de Boz. Meu rosto se contorceu de raiva quando Cooper levantou seus braços rechonchudos e redondos para acenar. É a coisa mais fofa que já vi em uma palestra de tecnologia. O pequeno demônio na minha cabeça pensou consigo mesmo: “QUERO ESMAGAR SUA CARA PEQUENA.”

Pior ainda, recortes de papel em tamanho real do mascote – que o CEO Mark Zuckerberg revelou se chamar “Jolly” – foram espalhados por todo o campus da Meta. Jolly é um nome adequado porque cada vez que vi imagens de Jolly nos últimos três dias, meu coração murcho sentiu alegria. Os recortes o apresentavam em várias poses amigáveis, às vezes em trajes adoráveis. Eles foram colocados em destaque em estações de demonstração, onde você poderia colocar um par de vários óculos inteligentes da Meta e testar vários cenários destacando como essas duas tecnologias (na opinião da Meta) se complementam.

Veja, o agente Muse AI está vindo para todos dos óculos inteligentes da Meta. Também está vindo em um novo Wearable de IA autônomo chamado Charm, que parece parte smartwatch robusto, parte Humane AI Pin, parte Tamagotchi. A ideia é que você possa levar esse lindo patootie para onde quer que vá.

A maioria das pessoas que conheço diria que Meta colocar um agente de IA em tudo e qualquer coisa parece sinistro. Agora olhe para o sorrisinho de Jolly. Diga-me que isso não faz os cantos da boca se contraírem levemente para cima. Se você honestamente disser não, você é mais forte do que eu.

Há um poder imenso na fofura. Os humanos e outros mamíferos evoluíram para achar os bebês fofos porque isso nos tornou pais melhores. O Japão tornou uma forma de arte a criação de mascotes adoráveis ​​para tudo e qualquer coisa, precisamente porque faz com que as pessoas se preocupem com as cidades e iniciativas locais. Se você pensar em IA e companheiros robôs, a ideia é infinitamente mais palatável quando eles se parecem, digamos, com Mirumi versus os cães pesadelos da Boston Dynamics.

Na minha primeira demonstração com o Muse, não fui influenciado por seu exterior adorável. Recebi um par de óculos, um conjunto de instruções e alguns acessórios de lanche exibidos na minha frente. Esta versão do Muse chamava-se Henry e continha apenas áudio. Ele tinha o tom profundo e doce de um homem britânico. O único propósito de Henry era ajudar um cara fictício chamado Sean, um cara da academia de marketing de 38 anos. Sean gostava de proteinmaxxing, artes marciais mistas e tinha um cronograma de treinamento absolutamente insano que envolvia levantamento de peso pela manhã e outro treino HIIT à noite.

Por si só, esta demonstração estava repleta das armadilhas habituais da IA. Perguntei a Henry qual dos lanches exibidos na minha frente tinha a melhor proteína em termos de calorias. Eu sabia que seria o palito de carne seca antes que Henry demorasse um minuto para “pensar” na resposta. Para meu colega Jay Peters, Henry disse erroneamente que uma barra de proteína tinha menos gramas de proteína do que realmente tinha. (Acontece que a IA não é tão boa em identificar alimentos a partir de fotos.) Quando pedi a Henry para colocar alguns pedaços de granola em meu carrinho, ele não o fez porque aquele produto “não existia no catálogo”.

Foi legal poder olhar para um objeto através de um par de óculos e ter uma IA para ajudar no processo de tomada de decisão com base em um contexto pessoal específico. Mesmo com algumas peculiaridades, tenho certeza que isso ajudará pessoas com deficiência visual, por exemplo. Mas já vi essa demonstração feita uma dúzia de vezes antes, com as mesmas armadilhas. Desta vez, um pensamento cínico surgiu na minha cabeça: Usar óculos como este é uma maneira fácil para Meta saber quem está comendo o quê. Isso poderia então ser facilmente usado para direcionamento de anúncios e tornar o Meta um barco cheio de dinheiro. Você pode ser uma pessoa normal apenas tentando se alimentar de maneira mais saudável. Mas o seu contexto alimenta uma matriz invisível de dados demográficos que a Meta poderá certamente encontrar uma forma de rentabilizar, tal como fez nos seus negócios principais nos últimos 20 anos.

O que me traz de volta a Blorbo. Assim como fiz com Friend, chamei-o de Blorbo para me lembrar que isso não é real e para manter uma aparência de limites. Depois de testar vários bots complementares de IA, sei com que rapidez esses relacionamentos com companheiros/assistentes de IA/como você quiser chamá-los podem aumentar. Mas eu estava curioso para ver como um agente fofo do Muse poderia afetar meu julgamento no que diz respeito às minhas informações pessoais. Uma colher cheia de comida torna a pílula de IA mais fácil de engolir?

Depois de construir minha rotina de exercícios físicos, percebi que poderia pedir a Blorbo para me ajudar a definir metas de relacionamento. Pedi exemplos a Blorbo. Sugeriu reconectar-se com um amigo, comunicar-se melhor com as pessoas da minha vida, estabelecer limites mais claros e namorar. Foi estranho receber esse tipo de conselho de uma massa de massa em forma de gato. Foi a única vez que a fofura funcionou contra o bot. Fui menos crítico em relação ao Blorbo quando, depois de conceder-lhe acesso a um dos meus endereços de e-mail de menor risco, ele eliminou um monte de spam. Eu era, no entanto, intensamente crítico comigo mesmo.

Eu me envolvo principalmente com IA no contexto da minha saúde. Faz parte do trabalho e, curiosamente, é uma área da vida geralmente privada que pessoalmente me sinto confortável em compartilhar. Tendo lutado, estou perfeitamente consciente de quão desesperado alguém pode se sentir na busca por se sentir normal. Nesses momentos, você fica vulnerável a tentar uma série de coisas que não tentaria de outra forma. A alegria derivada dos pequenos prazeres é amplificada.

Talvez seja por isso que me sinto um pouco furioso com o quanto adoro o design de Jolly. Por que sinto uma leve escuridão emanando de seu sorriso adorável. Posso imaginar nos dias mais sombrios da minha jornada pela saúde, encontrar alívio ou até mesmo alegria em um ferramenta que não pode sentir nada por mim, mas ao qual estou confiando tanto de mim. Posso imaginar um rosto fofo me ajudando, talvez apenas brevemente, a esquecer como me sinto em relação à história de Meta.

Isso é diabólico, visto que passei várias semanas com meus colegas espertos relatando todas as maneiras pelas quais o Meta não tem ganhou esse privilégio.

Para ser claro, não estou tentando sugar todos a diversão de Jolly. Todos podemos concordar que alguém da Meta realmente cozinhou aqui. Tudo o que estou dizendo é que, para aqueles de nós que se envolvem com o agente Muse, lembrem-se de uma coisa: não se deixem enganar por um rosto bonito.