O problema do deepfake está piorando: como detectá-lo e se proteger

Índice

Os jeans de hospital de Mitch McConnell eram reais. Mas a imagem de Nekima Levy Armstrong chorando, uma manifestante do ICE considerada um símbolo de “agitadores de extrema esquerda” pela administração Trump, foi falsificada.

A recente saída do presidente Trump com Mike Tyson foi legítima. A foto viral de um adúltero prefeito da cidade da Geórgia não foi.

No grande esquema das coisas, tem nunca foi fácil detectar conteúdo gerado por IA. Mas costumava ter seus sinais: alguns dedos extras, ou uma textura estranha, ou um olhar estranho.

Agora, “a maioria desses indicadores desapareceram, e tudo o que os substitui desaparecerá em um ano também”, disse Marijus Briedis, diretor de tecnologia da empresa de segurança online NordVPN. “Qualquer guia baseado em artefatos visuais tem vida útil curta.”

O risco de espalhar desinformação não é a única razão para questionar o que se vê e ouve online. Os golpes digitais, incluindo deepfakes, levaram a perdas de mais de US$ 148 bilhões em 2025, um aumento de mais de 25% em relação ao ano anterior.

Portanto, se o Teste de Turing visual não é à prova de falhas contra fraudes, golpes e manipulação que antes pensávamos que fosse, o que fazemos? Nós nos concentramos nas coisas humanas que podemos examinar: nossas emoções, nossos cérebros e as ferramentas digitais disponíveis para nós.

Deepfake ou real? Verifique a fonte, não o conteúdo.

Em vez de tentar detectar erros de IA, os usuários agora são incentivados por especialistas em segurança cibernética a verificar fontes em vez de conteúdo.

Quando se trata de vídeo, não procure falhas, que estão sendo corrigidas rapidamente nos modelos generativos, explica Roei Sherman, diretor sênior de pesquisa da empresa de segurança em nuvem Mitiga. “Cada dica de detecção que publicamos eventualmente se torna uma linha no prompt de alguém.”

Em vez disso, tente encontrar o contexto mais amplo de onde ela se origina. Se você vir um clipe de um candidato político circulando, procure o discurso completo ou a entrevista. Encontre uma cobertura noticiosa mais ampla do evento, em vários meios de comunicação.

“Clipes curtos cortados fora do contexto são onde reside a maior parte da manipulação”, disse Sherman.

A obtenção de imagens pode ser mais complicada sem sistemas de autenticação robustos implementados. Embora uma pesquisa reversa de imagens no Google ainda possa ser útil, os novos recursos de IA do mecanismo de pesquisa podem produzir sua própria desinformação ou reafirmar a farsa original, explicou Sofia Rubinson, editora sênior do órgão de vigilância de desinformação NewsGuard.

“Os verificadores de fatos costumavam depender de plataformas de busca tradicionais como o Google para ajudar a pesquisar as origens de fotos e vídeos”, disse ela ao Mashable, “mas no NewsGuard descobrimos que a Pesquisa Google alimentada por IA muitas vezes atribui erroneamente imagens como representando o que os desinformadores afirmam”.

E agora há uma chance de que a fonte para a qual você rastreou uma imagem ou vídeo pareça completamente legítima, mesmo que não seja.

Ao avaliar a própria fonte, Briedis recomenda fazer perguntas como:

• Esta conta existe há mais de um mês?

• Essas informações aparecem em algum outro lugar, de alguém com um nome familiar e confiável anexado?

• Esta pessoa está me pedindo para agir agora e, em caso afirmativo, por quê?

“Nada disso exige que você analise um pixel ou uma forma de onda”, explicou ele. “É exatamente por isso que ainda funciona.”

É uma farsa de IA? Pense logicamente.

Siga seu instinto, disseram especialistas ao Mashable.

Sempre considere a plausibilidade. Qual é a probabilidade de isso acontecer? Se for uma conta que parece pertencer a uma figura pública, essa pessoa provavelmente diria tal coisa em uma plataforma pública?

Rubinson enfatiza a importância de ver vários ângulos de um evento ou crise antes de decidir se é legítimo. “Fique atento para corroborar informações”, ela recomenda.

E o teste de lógica não se aplica apenas a eventos fantasticamente novos, como aqueles coelhinhos pulando na cama elástica. Muitas redes sociais são falsas, disse Rubinson, e comentários incendiários de políticos ou ações controversas de celebridades merecem ser verificados novamente – mesmo que muitos deles se revelem verdadeiros.

Estou sendo irritado? Monitore sua reação.

Também é essencial que você esteja ciente de como a imagem ou vídeo faz você se sentir, diz Sherman.

Se você tiver uma resposta visceral a uma postagem – talvez isso o enfureça ou desperte uma sensação de desespero para se envolver – pode ser que esteja fazendo isso de propósito.

“Se você vir um vídeo selvagem aparecendo repetidamente em seu feed que parece projetado para evocar uma resposta emocional, há motivos para suspeitar”, disse Rubinson.

Então você deu uma boa olhada na postagem em si, verificou suas fontes e ainda não tem certeza? Recorra aos profissionais.

Acompanhe as organizações que rastreiam deepfakes virais. A Newsguard, por exemplo, publica um Eu tenho um monitor e um boletim informativo sobre tendências de deepfakes e desinformação. A empresa de segurança cibernética McAfee sinaliza golpes populares baseados em IA em seu AI news blog. A empresa de detectores Deepfake AI or Not mantém um banco de dados pesquisável de deepfakes conhecidos e imagens manipuladas.

À medida que a supervisão federal fica atrasada, a regulamentação em nível estadual e as medidas de proveniência de conteúdo em todo o setor também estão ajudando na batalha contra os deepfakes. E os especialistas em segurança cibernética estão construindo contramedidas cada vez mais robustas para combater os deepfakes, incluindo avanços nos detectores de deepfakes de IA.

Mas nenhuma ferramenta de detecção é confiável o suficiente para emitir um veredicto definitivo sobre se algo é ou não IA. Se você ainda não tem certeza de que uma imagem é real, não a compartilhe, recomendaram os especialistas.

“O que (as ferramentas de detecção) servem é para o momento em que algo parece errado”, disse Briedis. “A ferramenta concorda com você, e agora você vai verificá-la corretamente.”

Quer mais notícias sobre tecnologia e cultura digital entregues diariamente na sua caixa de entrada ou diretamente no seu dispositivo? Inscreva-se no Mashable Boletim informativo de notícias principais ou receber alertas push do Mashable hoje.