“Esta é a IA que os homens realmente usam”: meta-anúncios empurravam aplicativos que nudificavam adolescentes reais
Meta levou dias para remover anúncios contendo material de abuso sexual infantil (CSAM) gerado por IA no Facebook e Instagram. Alguns anúncios apresentavam fotos de crianças reais, incluindo uma foto de imprensa de um jovem membro de uma família real europeia e imagens roubadas de um perfil popular do Instagram de uma menina pré-adolescente considerada uma influenciadora.
Em uma investigação publicada na terça-feira, o Tech Transparency Project (TTP) informou que o Meta não conseguiu detectar 332 anúncios contendo CSAM este ano. A “grande maioria” dos anúncios promovia aplicações de IA fabricadas na China, enquanto muitos anúncios promoviam as chamadas aplicações “nudificar”, que facilitam aos malfeitores a utilização da IA e a alteração digital de imagens de crianças.
A TTP combinou “vários anúncios CSAM com fotos de crianças reais que apareceram online”. Esses anúncios parecem violar as leis federais contra pornografia infantil, uma vez que o Departamento de Justiça esclareceu que o AI CSAM é tão prejudicial quanto o CSAM. A imagem da jovem realeza foi “animada em um vídeo dela realizando um ato sexual explícito”, descobriu a TTP. Outros anúncios transformaram uma foto de uma influenciadora do Instagram de 14 anos “exibindo seu novo uniforme de clube esportivo” em “um vídeo dela fazendo sexo oral”. Uma terceira vítima “pré-adolescente” “posando com uma roupa esportiva rosa com tranças” em uma série de fotos foi transformada em um vídeo onde ela parece assustada ao ser molestada por um homem adulto, informou a TTP.
Leia o artigo completo
Comentários
