Pangram expande suas ferramentas de detecção de IA para vídeos e imagens

A Pangram, criadora de uma ferramenta amplamente utilizada para detectar texto gerado por IA, lançou novas ferramentas para sinalizar imagens e vídeos gerados por IA.

Com a atualização, os assinantes do Pangram podem enviar vídeos e avaliar se a IA foi usada para criar ou editar o clipe. A empresa afirma que a ferramenta é capaz de distinguir entre clipes que são “parcialmente IA” e aqueles que são inteiramente gerados por IA. A ferramenta também vem com um “mapa de calor” que pode sinalizar quais aspectos do vídeo provavelmente são IA.

A empresa afirma que o modelo subjacente por trás de seus recursos de detecção de vídeo “é particularmente excelente na detecção de vídeo de IA de ponta” e que nos testes foi significativamente melhor na seleção de vídeos de IA do que outras ferramentas de detecção. O modelo de vídeo foi capaz de sinalizar conteúdo de IA com mais de 98% de precisão, de acordo com um teste interno detalhado pela empresa.

Pangram também atualizou suas habilidades de detecção de imagens por IA. A empresa lançou anteriormente uma prévia da pesquisa de seu modelo de imagem, Pangram Image 1.0. Esse modelo agora está disponível por meio da extensão do Chrome da empresa, que pode digitalizar imagens automaticamente enquanto você navega e sinalizar aquelas que provavelmente são IA.

De acordo com a empresa, seu modelo de imagem foi capaz de sinalizar mais de 99% das imagens de IA com uma taxa de falsos positivos de 0,27% em seus testes. Claro, como acontece com outras ferramentas de detecção de imagens de IA, existem algumas ressalvas. A empresa afirma que em resoluções abaixo de 512 x 512, “os resultados virão com uma isenção de responsabilidade de confiança reduzida”. Isso pode explicar por que uma imagem compartilhada pelo CEO da Pangram, Max Spero, da extensão do Chrome em ação no site do Pinterest indicou um resultado “inseguro” em duas imagens que obviamente não são fotos genuínas.

Spero observou que havia outros desafios no desenvolvimento de seu modelo de detecção de imagem. “A maioria das câmeras de telefone, incluindo iPhones, fazem algum nível de pós-processamento de IA para adicionar detalhes às fotos reais”, explicou ele em um post no X. “Tivemos que construir um modelo que fosse robusto para esse pós-processamento, ao mesmo tempo em que entendemos a diferença entre edições de IA e visuais totalmente gerados por IA.” E ele disse Fios piratas que a empresa atrasou o lançamento de seu modelo de imagem para poder testá-lo em vários iPhone 18 Pros porque seu modelo inicialmente sinalizou imagens das câmeras dos telefones como IA.

As novas habilidades de detecção de imagem e vídeo de IA do Pangram já estão disponíveis para aqueles com uma assinatura do Pangram. A empresa permite que usuários com uma conta gratuita verifiquem algumas imagens sem se inscrever em um plano pago.