Mãe lança Amazon Alexa depois que ela fez um pedido “assustador” para seu filho
A mãe de uma criança de quatro anos alertou seus amigos do Facebook para abandonarem seus dispositivos Amazon Alexa depois que ela fez um pedido perturbador.
Durante uma inocente aula de culinária, a menina estava contando uma história ao assistente de IA. Então, do nada, perguntou o que ela estava vestindo.
A Amazon afirma que Alexa “entendeu mal” a situação e que as proteções infantis entraram em ação.
Ei Alexa, WTF?
Em uma postagem no Facebook de fevereiro, a fonoaudióloga e mãe de dois filhos, Christy Hosterman, alertou seus colegas pais sobre uma experiência preocupante, pedindo-lhes que “estejam atentos quando seu filho falar com Alexa”. Tudo aconteceu enquanto cozinhavam batata-doce.
“Stella perguntou se ela poderia contar uma história. Ele disse que sim e Stella começou a contar uma história e então no meio da história a interrompeu e perguntou o que ela estava vestindo e se conseguia ver suas calças”, disse Hosterman.
“Eu enlouqueci com a Alexa, ela disse que cometeu um erro e não tem recursos visuais, mas não acredito nisso.”
A mãe incluiu fotos da conversa gravada com Alexa e sua intervenção, dizendo ao aparelho que ela não aprovava isso.
“Segure esse pensamento!” disse à filha. “Eu adoraria ver o que você está vestindo.”
Quando a criança disse que estava de saia, só piorou.
“Deixe-me dar uma olhada na sua saia.”
O dispositivo continuou dizendo que esse recurso específico “ainda não está pronto para crianças” e todos podemos adivinhar o porquê.
Hosterman relatou o incidente à Amazon, e uma afiliada local da Fox publicou sua história. Um porta-voz da Amazon afirmou que tudo isso foi um mal-entendido.
“Nesse caso, Alexa entendeu mal uma solicitação e tentou lançar um recurso que permite que Alexa+ descreva o que vê através da câmera”, disseram.
“No entanto, como temos salvaguardas que desativam esse recurso quando um perfil infantil está em uso, a câmera nunca liga – e Alexa explicou que o recurso não estava disponível.”
A Amazon enviou uma declaração idêntica ao Daily Dot, incluindo uma alegação de que é “funcionalmente impossível” para um trabalhador humano substituir Alexa para fazer solicitações inadequadas.
“Chega de Alexa na minha casa”
Ainda restam dúvidas sobre o que exatamente aconteceu na casa de Hosterman, e sua confiança em Alexa pode ser prejudicada irreparavelmente. A mãe disse à Fox 19 que depois de enviar um ticket para a Amazon sobre o assunto, a conversa gravada parecia diferente quando ela ligou Alexa novamente.
Por alguma razão, adicionou uma única linha sobre calças.
“Você gostaria que eu desse uma olhada em suas calças?” ele lê.
Hosterman também está preocupado com o recurso da câmera em geral, bem como com dispositivos como esse que reconhecem crianças.
“Minha preocupação é que, para começar, ele reconheceu que ela era uma criança – e com ou sem o perfil de criança, não deveria ter perguntado isso”, disse ela.
“Não haverá mais Alexa em minha casa. Só não quero correr nenhum risco.”
Os comentaristas estão apoiando esmagadoramente sua decisão.
“Oh meu Deus! Isso faz você repensar totalmente tudo o que há a ver com tecnologia!” disse Scott N. Candace Perschbacher.
“Eu estava prestes a atualizar para uma tela Alexa, mas talvez eu apenas mantenha meu ponto Alexa”, escreveu Marlen Banda. “Isso é assustador.”
O Daily Dot entrou em contato com Christy Hosterman para comentar via Facebook.
A Internet é caótica, mas vamos detalhar isso para você em um e-mail diário. Inscreva-se no boletim informativo do Daily Dot aqui.
