Meta processada por dados de treinamento para seus sistemas de IA e reconhecimento facial

Um conjunto de pais e seus filhos em Illinois e Califórnia entraram com uma ação na semana passada no tribunal federal de Chicago, alegando que Meta usou ilegalmente suas fotos do Facebook e Instagram para construir o NameTag, um sistema de reconhecimento facial inédito para seus óculos inteligentes, e para treinar modelos generativos de IA, incluindo Emu e Muse Image.

A ação coletiva proposta alega que Meta violou as leis de privacidade de Illinois e Califórnia ao extrair informações biométricas de fotos de pessoas sem aviso prévio ou consentimento.

A WIRED informou em junho que o código do NameTag foi secretamente incorporado no aplicativo complementar Meta Glasses AI, que foi baixado mais de 50 milhões de vezes. Embora o recurso não tenha sido habilitado para usuários do aplicativo, a análise descobriu que o sistema foi projetado para transformar rostos capturados pelos óculos em assinaturas biométricas e compará-los com as chamadas impressões faciais armazenadas em um banco de dados no telefone do usuário. Esse banco de dados foi configurado para receber atualizações do Meta. Na época, a WIRED não conseguiu determinar de onde vieram os dados de impressão facial subjacentes.

A denúncia alega que essas impressões faciais são possivelmente derivadas de imagens do Facebook e Instagram, citando relatos de que os funcionários da Meta alegaram que NameTag poderia reconhecer pessoas através de suas conexões Meta ou contas públicas do Instagram, juntamente com uma patente da empresa que descreve a correspondência de rostos com fotos de perfil e outras imagens detidas pela Meta.

Meta disse à WIRED em junho que “não estava construindo um banco de dados facial central”, mas não responderia a perguntas sobre se o NameTag seria opcional ou como o sistema reteria as impressões faciais. A denúncia reconhece que a Meta não divulgou quais imagens, se houver, foram utilizadas para a geração de dados biométricos, afirmando que as informações permanecem exclusivamente em poder da empresa.

O processo também tem como alvo os sistemas de geração de imagens da Meta. A Meta disse que treinou a Emu em grandes quantidades de imagens e textos do Facebook e Instagram, com o diretor de produtos Chris Cox chamando essas plataformas de “vantagem de dados” para seus sistemas de IA. A denúncia alega que o processo de treinamento coletou ilegalmente informações biométricas sobre pessoas que apareceram nas imagens. O Muse Image, lançado neste verão, já havia recebido críticas depois de permitir que os usuários gerassem imagens com base nas contas públicas de outras pessoas no Instagram, um recurso que a empresa removeu poucos dias depois de dizer que “errou o alvo”.

“Este processo não tem mérito e deturpa nosso trabalho. Temos sido transparentes sobre como usamos as informações das pessoas para construir e melhorar nossos produtos de IA. Quanto aos NameTags, nada foi enviado aos consumidores e nenhuma decisão final foi tomada sobre o que fazer aqui, se é que alguma coisa”, disse um porta-voz da Meta em um comunicado. “Se decidirmos lançar algo, adotaremos uma abordagem ponderada e o faremos com total transparência. Uma decisão sobre a qual podemos ser claros é que não estamos construindo um banco de dados facial universal.”

“As pessoas não deveriam se preocupar se suas informações biométricas serão mal utilizadas simplesmente porque suas fotografias aparecem em uma plataforma de mídia social”, disse Justin Boley, sócio da Wexler Boley & Elgersma e advogado dos demandantes, em comunicado.

Os demandantes são Francisco Alvarez e seu filho, ambos residentes em Illinois, e Jeremy Wahl, residente na Califórnia, e sua filha de 10 anos. Mas a classe proposta inclui pessoas em Illinois, Califórnia e em todos os Estados Unidos cujas imagens foram carregadas no Facebook ou Instagram ou submetidas aos sistemas generativos de IA da Meta através de avisos, que remontam a 4 de setembro de 2021. A denúncia estima que a classe nacional pode chegar a milhões.

De acordo com a Lei de Privacidade de Informações Biométricas de Illinois, os demandantes estão buscando US$ 5.000 para cada violação intencional ou imprudente, ou danos reais, se maiores, e US$ 1.000 para cada violação negligente, ou danos reais, se maiores, bem como medida cautelar. As reivindicações da Califórnia buscam danos adicionais e outras medidas.