Google traz verificação de conteúdo de IA para pesquisa
O Google está expandindo suas ferramentas de verificação SynthID para Pesquisa hoje, com suporte ao Chrome planejado para as próximas semanas. Os usuários poderão verificar a origem das imagens por meio de recursos de pesquisa, como Lens, AI Mode e Circle to Search.
A empresa também está lançando uma API AI Content Detection no Google Cloud, inicialmente disponível para um grupo de parceiros confiáveis. Várias empresas estão trazendo a marca d’água SynthID para seu conteúdo gerado por IA, de acordo com uma postagem no blog de Laurie Richardson, vice-presidente de confiança e segurança, e Pushmeet Kohli, cientista-chefe do Google Cloud e vice-presidente do Google DeepMind.
Verificação SynthID na Pesquisa e no Chrome
O Google disse que está expandindo a verificação SynthID para a Pesquisa hoje e planeja trazê-la para o Chrome nas próximas semanas.
Os usuários podem verificar se uma imagem foi feita com IA por meio de recursos como Lens, AI Mode e Circle to Search. Você pode fazer perguntas como “Isso é feito com IA?” ou “Esta IA é gerada?” para obter resultados de verificação.
A verificação SynthID já estava disponível no aplicativo Gemini para imagens, vídeo e áudio. Funciona incorporando marcas d’água digitais imperceptíveis em conteúdo gerado por IA.
Credenciais de conteúdo C2PA
O Google também está adicionando verificação para credenciais de conteúdo C2PA, um padrão da indústria para registrar como a mídia foi criada e modificada.
O recurso de verificação C2PA está sendo lançado no aplicativo Gemini a partir de hoje e será lançado na Pesquisa e no Chrome nos próximos meses.
API de detecção de conteúdo de IA
O Google está lançando uma nova API de detecção de conteúdo de IA na plataforma Gemini Enterprise Agent do Google Cloud, disponível para parceiros selecionados. A API é uma oferta do Google Cloud que, segundo o Google, pode detectar conteúdo gerado por IA feito pelo Google e outros modelos populares.
A API pode ajudar as empresas a avaliar e gerenciar mídia em suas plataformas. Os casos de uso incluem classificação de feeds, prevenção de fraudes em seguros, verificação de fatos e rotulagem de mídia sintética.
Os parceiros iniciais incluem Shutterstock, Snap, Avid, Fox Sports e Canva.
Adoção do SynthID pela indústria
Empresas como OpenAI, Kakao e ElevenLabs estão trazendo a tecnologia SynthID para seu conteúdo gerado por IA. O Google abriu o código-fonte de sua tecnologia de marca d’água de texto SynthID e fez parceria com a NVIDIA para marcar vídeos gerados por IA dos modelos Cosmos da NVIDIA.
Meta, também membro do Comitê Diretor do C2PA, começará a rotular mídias capturadas por câmeras com credenciais de conteúdo no Instagram. Isso significa que fotos e vídeos gravados em telefones Pixel serão reconhecidos e rotulados no Instagram como mídia capturada por câmera.
Por que isso é importante
O Google tem desenvolvido ferramentas de proveniência de conteúdo desde que introduziu o SynthID pela primeira vez em 2023. Naquela época, a tecnologia era limitada a clientes selecionados do Google Cloud e limitada a imagens. A expansão para a Pesquisa e o Chrome transfere a verificação de uma ferramenta especializada para superfícies onde as pessoas encontram conteúdo todos os dias.
A API AI Content Detection abre um caso de uso diferente. Os editores e plataformas que precisam verificar se o conteúdo foi criado com IA poderão acessar esse recurso por meio do Google Cloud.
Os pesquisadores já podem verificar o contexto da imagem por meio de recursos como “Sobre esta imagem”, que o Google expandiu para Circle to Search and Lens em 2024. A verificação SynthID adiciona uma camada que verifica marcas d’água incorporadas no ponto de criação, em vez de depender de metadados que podem ser removidos.
Vale a pena observar a adoção mais ampla do SynthID pela indústria. Se mais mídias geradas por IA contiverem marcas d’água SynthID, as ferramentas de verificação do Google terão uma base mais ampla de conteúdo para verificar. Mas o SynthID detecta apenas conteúdo com marca d’água SynthID. O conteúdo de ferramentas de IA que não o utilizam não pode ser identificado por meio da verificação SynthID.
Olhando para o futuro
A verificação de credenciais de conteúdo C2PA chegará à Pesquisa e ao Chrome nos próximos meses. O Google não compartilhou cronogramas específicos para uma disponibilidade mais ampla da API AI Content Detection além de seu grupo de parceiros inicial.
Imagem em destaque: FOTOGRINA/Shutterstock
