Não podemos simplesmente mudar a definição de ‘gravação’
Com o hardware de IA, as empresas de tecnologia estão promovendo a definição do que faz e não constituem uma gravação. Durante a maior parte da história dos gadgets, seria razoável supor que um dispositivo com microfone ou câmera esteja gravando você ou não; está ligado ou desligado, sem muita área cinza. Microfones captam som. Câmeras capturam imagens. Esses dados são salvos em um dispositivo. Às vezes, também é enviado para a nuvem – esperançosamente com criptografia de ponta a ponta – para processamento. Esses dados são um instante preservado no tempo e, portanto, são uma gravação.
Semana passada, BloombergMark Gurman, da Apple, relatou que a Apple está trabalhando em uma câmera doméstica inteligente que não salva gravações de vídeo. Em vez disso, a IA usa os dados visuais para criar trechos de texto que descrevem o que está acontecendo em sua casa. Supostamente, suportará reconhecimento facial, mas sem imagens de vídeo. A ideia é que ainda proteja alguma privacidade. Essa tecnologia, diz Gurman, é semelhante à forma como as câmeras dos supostos futuros AirPods também funcionarão.
É semelhante ao Audio Intelligence da Apple no Apple Watch Series 12 e Apple Watch Ultra 4. O Apple Watch tem um microfone há muito tempo, principalmente para Siri e para receber chamadas no pulso. Dos quatro recursos do Audio Intelligence, dois causaram mais debate online: Live Rewind e Siri Recap. O primeiro produz uma transcrição dos últimos 15 segundos, enquanto o último pode gerar resumos de alto nível das conversas que você teve ao longo do dia.
Ou seja, os óculos Ray-Ban Meta tiram fotos e gravam vídeos, que ficam armazenados no seu celular. Essa suposta abordagem da Apple significaria que as câmeras podem ver você, os microfones podem ouvi-lo – mas também não está “salvando” nada.
Isso conta como gravação? A Apple não comenta rumores, mas com base na forma como comunicou publicamente sua filosofia de privacidade da Audio Intelligence, eu diria que a empresa não pensa assim. A Apple diz que esses recursos não salvam nenhum áudio. Os dados brutos são excluídos assim que o processamento é concluído em um enclave separado e seguro no processador S11. Qualquer informação enviada para a nuvem é feita por meio de computação em nuvem privada e, portanto, é inacessível à Apple ou a terceiros.
Não é apenas a Apple. Sandeep Waraich, diretor sênior de wearables do Google, disse A beira em uma conversa que o Google também está refletindo sobre esse conceito. E se, ele postulou, câmeras em óculos inteligentes não gravar dados? Por exemplo, se os óculos pudessem processar dados visuais em seu ambiente usando IA, mas não salvassem nenhuma filmagem para a posteridade. Dessa forma, argumentou Waraich, a câmera poderia “apenas” ser um sensor de imagem.
Por essas definições, algo deve ser preservado e revisável para “gravar” você. Mas nenhuma transcrição de texto gerada por uma câmera doméstica inteligente ou smartwatch não seria considerada preservada e revisável? Ou, ao tentarem tornar o hardware de IA mais palatável, estarão as empresas tecnológicas a confiar no que pode ser intimado em tribunal?
Pode parecer bobagem discutir semântica, mas vários conceitos estão sendo testados aqui.
Quaisquer que sejam suas opiniões pessoais sobre privacidade, é geralmente aceito que você pode fazer o que quiser com seus próprios dados. Antes que os gadgets pudessem “ouvir sempre”, eles se encaixavam em espaços públicos e privados de maneira mais integrada. Esta nova safra de gadgets, no entanto, exige que você seja um administrador mais ativo da privacidade de outras pessoas. Afinal, os humanos não vivem em bolhas hermeticamente fechadas. Vivemos, trabalhamos e convivemos em vários ambientes – alguns privados, outros públicos e muitos em uma área cinzenta. As regras de um restaurante são diferentes das de um teatro, escritório ou local esportivo. Eles são muito diferentes de um banheiro público, embora sejam todos espaços pelo menos semipúblicos. Mesmo que você “grave” tudo o que vê em sua mente, as memórias humanas não podem ser compartilhadas objetivamente. Eles são influenciados por preconceitos e distorcidos pela perspectiva. As gravações são menos subjetivas e possivelmente factuais.
Há também a questão de sinalizar a intenção na ausência de normas universalmente compreendidas. Pegue os óculos inteligentes da Meta. Eles usam uma “luz de privacidade” branca e pulsante para indicar quando alguém está gravando um vídeo. Por outro lado, a cor universal para gravar luzes é vermelha, então uma pessoa com menos conhecimento de tecnologia pode nem saber o que significa uma luz branca. (Afinal, esses ainda são produtos de nicho.) Mesmo sem modificações, as luzes brancas de privacidade são facilmente obscurecidas por franjas e um dia ensolarado. Esta também é uma nova norma; outras empresas de óculos inteligentes ou hardware de IA não são obrigadas a sinalizar essa intenção da mesma forma que a Meta. Um anel ou pingente de IA que grava áudio ou vídeo pode não ter luz alguma.
Ainda mais confuso, os produtos que conseguem gravar parecem cada vez mais produtos que não conseguem. Isso poderá ser agravado ainda mais se as empresas de tecnologia começarem a adicionar câmeras que não gravar imagens visuais. Se começarmos a adicionar câmeras aos óculos inteligentes, isso não gravar vídeos, como você irá diferenciá-los dos pares que o fazem? Se um Oura Ring – que não tem microfone – se parece com um Vocci Ring – que tem – e ambos se parecem com anéis normais, o que uma pessoa comum deve fazer?
Neste momento, o hardware parece ser o foco principal do debate sobre tecnologia de vigilância. Há uma sensação de que livrar-se das câmeras resolve o problema. Isso não acontece, embora torne mais difícil usar essa tecnologia de maneiras nefastas. Mas, sem dúvida, não é a câmera ou o microfone que incomoda as pessoas. A sensação desagradável vem de saber que um fragmento preservado de você pode existir no dispositivo de outra pessoa, sem nenhum conhecimento de como será usado.
É aqui que converge toda a tensão em torno do hardware de IA. Para que a IA seja “boa” e verdadeiramente pessoal da maneira que a Big Tech imagina, ela precisa saber muito sobre você – e as pessoas em sua vida. Tem que “ver” o que você vê, ouvir o que você ouve e aprender com suas ações do dia a dia. Para fazer isso, ele precisa “lembrar” dessas coisas. Então, de certa forma, deve registre sua vida e tudo o que acontece nela. Os incentivos para que as Big Tech recolham estes dados são óbvios: dados pessoais são dinheiro, dinheiro é poder e poder é influência. O que está menos claro é o que a sociedade obtém com esta troca. Promessas vagas de utilidade e conveniência?
Independentemente disso, está claro que as empresas de tecnologia decidiram avançar com a introdução de IA em todos os gadgets existentes, ao mesmo tempo que inventam novos formatos. No momento, isso está mais claro em telefones e wearables, mas essas considerações logo serão direcionadas para casas inteligentes, TVs, laptops, tablets e fones de ouvido. Provavelmente de maneiras que os consumidores ainda não consideraram.
O que permitirmos que esses dispositivos de IA lembrem reescreverá a cultura como a conhecemos. É por isso que devemos chegar a um consenso social sobre o que constitui uma gravação – e quem, se houver, pode mudar isso definição.
