Os novos recursos de IA do Apple Watch estão normalizando a ideia de que a tecnologia está sempre ouvindo

A Apple está tentando fazer com que os consumidores aceitem, e até recebam bem, uma nova realidade: sua tecnologia está sempre ouvindo.

No evento “Surprise and Shine” do iPhone de quarta-feira, onde a empresa apresentou sua nova linha de hardware, a verdadeira surpresa acabou não sendo o iPhone dobrável, mas como a famosa gigante da tecnologia sensível à privacidade decidiu que seus relógios agora serão capazes de processar áudio ao vivo e transcrever o que foi dito.

Isso significa que você sempre será gravado se a pessoa com quem você está interagindo estiver usando um Apple Watch? Não exatamente – embora possa deixar algumas pessoas desconfortáveis ​​de qualquer maneira.

Também levanta a questão de saber se os consumidores realmente querem esta tecnologia, ou se a Apple avançou nesta área porque temia que outra empresa, como a OpenAI, introduzisse em breve um dispositivo de IA competitivo próprio.

Hoje, várias startups estão agindo com a crença de que a transcrição alimentada por IA é um caso de uso chave para o consumidor. Até agora, isso envolve mais frequentemente a transcrição de notas de reuniões ou a gravação de palestras ou entrevistas. Algumas empresas, como a AI Pendant Friend e a Amazon’s Bee, também se aventuraram em outras áreas, com companheiros de IA sempre disponíveis que podem ajudá-lo a se lembrar do seu dia, fazendo anotações passivamente.

A Apple decidiu seguir um caminho um pouco diferente. Com os recursos de “inteligência de áudio”, “Live Rewind” e “Siri Recap” de seus novos relógios, a empresa está ultrapassando a linha entre acessibilidade e utilidade, por um lado, e o que começa a parecer uma tecnologia invasiva, por outro.

Por si só, o Audio Intelligence parece ser um recurso útil para surdos ou com deficiência auditiva, pois pode alertar os proprietários do Apple Watch sobre sons como sirenes, alarmes, campainhas, bebês chorando e muito mais, usando IA no dispositivo. Isso pode funcionar mesmo quando o iPhone do usuário não está com ele e, em alguns casos, pode fornecer assistência para salvar vidas, como quando um alarme de incêndio ou detector de monóxido de carbono dispara. É duvidoso que alguém tenha problemas com este tipo de IA de áudio.

No entanto, Live Rewind e Siri Recap saem do espaço da tecnologia assistiva e vão para uma área mais obscura.

Embora as proteções de dados da Apple possam tornar esses recursos mais palatáveis ​​para alguns, ainda existe a possibilidade de que normalizar a tecnologia de audição não seja a melhor decisão para uma empresa preocupada com a privacidade. Isto é especialmente verdadeiro dada a reação mais ampla dos consumidores contra tecnologias de vigilância como câmeras Flock, data centers de IA e aplicativos de IA em geral.

Para começar, o recurso Live Rewind AI permite voltar 15 segundos no tempo e transcrever o que acabou de ser dito pressionando duas vezes a coroa digital do relógio. Essa transcrição pode então ser salva no novo aplicativo Siri independente da Apple para que você possa revisitar as informações mais tarde.

A Apple sugere que isso pode ser usado para lembrar coisas como uma “recomendação de livro, uma ideia brilhante de um colega ou algo que você não ouviu da primeira vez”, mas também significa que você pode essencialmente pegar alguém dizendo algo que não necessariamente pretendia ter gravado e anotar.

Isto tem implicações em torno do consentimento, não apenas do ponto de vista ético, mas também do ponto de vista jurídico. Plaud, fabricante de dispositivos de IA, por exemplo, aconselha os clientes a obterem o consentimento legalmente exigido antes de gravar. Os termos de serviço do Amazon’s Bee lembram aos usuários que eles são os únicos responsáveis ​​por cumprir a lei sobre privacidade de dados de menores, e não a Amazon.

Como a Apple não está salvando o áudio, não está claro como o sistema judicial poderá lidar com essas novas transcrições somente de texto. É possível que as notas sejam apresentadas como prova em tribunal, mas a falta de áudio pode dificultar a sua autenticação ou verificação. Além disso, as regras probatórias relativas ao seu uso provavelmente também variarão em cada estado.

Além das questões legais, a ideia de que alguém sempre pode gravar a partir do seu relógio tem implicações culturais.

Os dispositivos de gravação já tiveram impacto na forma como as pessoas se comportam na vida real, mostram estudos, assim como as redes sociais e a cultura de vigilância de dados. Saber que você pode ser gravado a qualquer momento tem um efeito prejudicial na forma como você interage com outras pessoas e se envolve na autoexpressão.

No entanto, gravar uma foto ou vídeo ainda requer um movimento bastante óbvio por parte do gravador: você tem que segurar o telefone e ficar de frente para a ação. Capturar um pouco de áudio para transformá-lo em uma transcrição apenas pressionando a coroa digital do relógio é sem dúvida um gesto muito mais sutil, embora venha com um toque audível e animação em tela cheia de um microfone, como diz a Apple.

Outro novo recurso do Apple Watch, “Siri Recap”, usa a audição ambiente para “fazer anotações de alto nível” de suas conversas, que podem ser revisadas no aplicativo Siri iOS. Essas notas gerarão automaticamente um título, um resumo e pontos-chave com base no que foi registrado e resumido pela IA. Não serão transcrições exatas.

A Apple sugere que isso pode fazer sentido para registrar os resultados de uma reunião ou informações importantes de uma conferência de pais e professores, por exemplo.

A empresa também tentou garantir aos usuários que abordou esses recursos de escuta com respeito à privacidade do usuário.

A Apple observa que o Siri Recap não tem como padrão estar sempre ligado como alguns outros wearables de IA. Em vez disso, você pode escolher quando está ativado, como apenas no trabalho ou apenas durante o dia. Além disso, você pode ativar e desativar o recurso a qualquer momento no Centro de Controle.

Notavelmente, a Apple ressalta que não cria ou armazena gravações de áudio e que o áudio bruto não é acessível, nem mesmo para a Apple. Ele também não identifica ou atribui os palestrantes e protege as transcrições e recapitulações geradas com criptografia de ponta a ponta.

Se isso é suficiente para os consumidores não sentirem que o recurso é assustador, é outra questão. Ou a Apple encontrou o equilíbrio certo entre utilidade e privacidade ou está prestes a ver alguma reação negativa do consumidor.