Postagem de irmão no Reddit sobre ‘namorado’ de IA de adolescente levanta alarme online

Esta semana, um irmão recorreu ao Reddit em busca de conselhos quando sua irmã de 16 anos se apaixonou online. O homem por trás das mensagens parecia estar usando uma imagem falsa gerada por IA como foto de perfil para esconder sua verdadeira identidade.

A postagem foi compartilhada no subreddit r/isthisAI e incluía a foto do perfil que o desconhecido usou para entrar em contato com o adolescente. O autor da postagem original disse que eles eram o irmão mais velho da menina e que suspeitavam que a imagem fosse falsa. O irmão disse que precisava de provas para convencê-la de que a imagem era falsa.

“Ela não acredita em mim”, escreveu o usuário. “Esse cara provavelmente é apenas um velho gordo comendo Cheetos em seu computador no porão da casa de sua mãe.” A postagem acumulou mais de 800 comentários, onde muitos usuários do Reddit identificaram os sinais reveladores da imagem como sendo gerada por IA.

Os comentaristas apontaram as seguintes questões principais:

• Linha do cabelo incomum que começa no meio da testa da pessoa
• Um pescoço estranhamente grosso em relação ao tamanho da cabeça
• Uma pulseira que se dissolveu em uma bolha perto do fecho
• Um colar que “(desafia) a física ao derreter” de um lado

Um usuário até fez uma pesquisa reversa de imagens da foto e confirmou que ela levava a outra imagem claramente gerada por IA da mesma “pessoa”, desta vez com um sorriso diferente.

Outros sinalizaram como a imagem parecia suspeitamente profissional. “Que adolescente está tirando fotos profissionalmente assim?” escreveu um usuário. O desfoque de fundo (ou bokeh) também não costuma ser visto em fotos tiradas com a câmera típica de um smartphone. Outro usuário explicou que muitas vezes os geradores de imagens de IA não conseguem produzir um ponto de fuga consistente, que pode ser visto em linhas de perspectiva no fundo.

Além de identificar a imagem falsa, muitos comentaristas levantaram questões de segurança infantil. Um usuário pediu ao postador que se concentrasse menos em convencer sua irmã de que a pessoa era IA e mais no fato de que ela não compartilha fotos suas nem envia dinheiro. Outro usuário disse que as ferramentas de IA “turbinaram” esforços desse tipo para obter imagens ilícitas de menores para uso criminoso. O comentarista recomendou pedir a qualquer pessoa que pareça suspeita que acene com a mão na frente do rosto em uma videochamada ao vivo. Por que? A partir de agora, a manipulação de vídeo por IA em tempo real não pode falsificar esse movimento de forma confiável, embora essa habilidade possa não estar muito longe. “Certifique-se de que ela saiba que a vergonha nunca deve impedi-la de vir até você se estiver em uma situação assustadora”, escreveu um terceiro usuário.

A postadora original posteriormente compartilhou uma atualização, dizendo que depois de ver todas as provas coletadas no tópico, ela reconheceu que o perfil era falso. O autor da postagem disse que eles então confrontaram o indivíduo, mas inicialmente negaram ter usado uma imagem fabricada. Logo, eles admitiram e sua conta foi bloqueada e denunciada.

O autor da postagem escreveu em uma edição final: “Acho que, pessoalmente, o ‘amor’ a cegou – ela tem 16 anos e não sabe o que é o amor. Meus pais tiraram o telefone dela.”

O FBI também alertou que as imagens geradas por IA estão sendo cada vez mais usadas em golpes online direcionados a menores. A agência diz que qualquer pessoa que suspeite de uma conta falsa deve denunciar o perfil ao Centro Nacional para Crianças Desaparecidas e Exploradas em CyberTipline.org.