Fatos precisos ainda podem produzir uma resposta falsa de IA, e os tribunais estão começando a responsabilizar a plataforma

Um tribunal alemão responsabilizou o Google por uma resposta de IA elaborada a partir de fatos verdadeiros porque esses fatos pertenciam a um homem diferente.

Numa decisão datada de 24 de setembro de 2026, o Tribunal Regional de Aachen ordenou que o Google parasse de divulgar três versões de uma resposta do Modo AI sobre um médico local. Ele atuou como médico-chefe e professor de neurorradiologia até o final de junho. Quando as pessoas procuraram por que ele saiu, o AI Mode forneceu uma grave alegação criminal e, quando seguiram com termos como suspensão, rescisão e processos judiciais, produziu relatos de vários parágrafos sobre as consequências legais. O processo foi real. Envolveram um homem diferente, também ex-professor universitário, e o tribunal pôde confirmar a confusão a partir dos seus próprios registos.

O médico enviou ao Google uma explicação detalhada no final de agosto. Em meados de setembro, o Google disse que não tomaria nenhuma ação, e uma exigência legal formal enviada no mesmo dia não deu em nada. O tribunal agiu então em caráter emergencial, sem primeiro ouvir o Google, com multas de até 250 mil euros por violação. O Google ainda pode contestar a ordem.

O resultado importa menos do que o raciocínio. O tribunal de Aachen baseou-se numa decisão anterior do Tribunal Regional de Munique, que em maio responsabilizou diretamente a Google pelas visões gerais de IA que ligaram dois editores a fraudes e armadilhas de subscrição usando alegações que não apareceram em nenhuma das fontes ligadas. O Google argumentou que os próprios usuários poderiam verificar essas fontes. O tribunal de Munique rejeitou isso, concluindo que a visão geral era lida como uma declaração independente, e descreveu o que a IA do Google produz como “declarações independentes, novas e substanciais” construídas pela combinação de conteúdo de sites de terceiros. Aachen adotou essa linguagem diretamente. O Google anunciou um recurso da decisão de Munique e, de acordo com a reportagem do The Decoder, chegou a um acordo antes de qualquer tribunal superior decidir.

Os tribunais de Munique e Aachen já trataram as respostas de pesquisa de IA como declarações da própria plataforma, e essas declarações podem ser falsas mesmo quando todos os factos contidos nelas são verdadeiros. Escrevi no início deste ano sobre a superfície de responsabilidade passando da página de resultados para a resposta. Esses dois casos são a aparência dessa mudança quando chega ao tribunal.

Um tribunal de Berlim vê a situação de forma diferente e ninguém resolveu a questão ainda

No início de junho, um tribunal de Berlim chegou à opinião oposta numa disputa de marca. Uma empresa de perfumes se opôs às visões gerais da IA ​​que nomeavam suas marcas ao lado de links que vendiam imitações mais baratas. O tribunal de Berlim tratou as visões gerais da IA ​​como um novo formato de resultado de pesquisa que agrupa informações de outros sites, e não como o Google fala por si, e não encontrou nenhuma violação.

Os casos não se alinham perfeitamente. O resumo da IA ​​de Berlim repetiu com precisão o que outros sites disseram, enquanto as respostas de Munique e Aachen inventaram conexões que nenhuma fonte fez. Mesmo assim, os tribunais do mesmo país descreveram o mesmo produto em termos incompatíveis, e nenhum tribunal superior decidiu, porque o único caso que se dirigiu para lá foi resolvido.

Esse é o cenário para qualquer pessoa que trabalhe com pesquisa no momento, mesmo que seja de um país diferente. As regras que regem a superfície que responde a uma parcela crescente das perguntas dos seus clientes não estão resolvidas; eles diferem por jurisdição e até mesmo por tribunal, e o risco recai sobre quem presumiu que foram resolvidos. Esperar pela clareza não é uma opção, pois sua marca já aparece nessas respostas.

Como um fato verdadeiro acaba vinculado ao nome errado

O mecanismo é menos exótico que o resultado. Um sistema que responde a uma pergunta sobre uma pessoa ou empresa nomeada recupera documentos que correspondem ao nome e aos atributos circundantes, como função, instituição, cidade, setor ou um evento recente. Em seguida, ele gera uma narrativa fluente a partir de tudo o que recuperou. Quando duas entidades compartilham atributos suficientes, o sistema não tem uma maneira confiável de saber que contém fatos sobre dois assuntos diferentes, e a resposta gerada os funde. Eu chamo isso fusão de entidadeo que significa que o sistema funde duas pessoas ou empresas distintas em uma e depois fala sobre o resultado da fusão com total confiança.

O padrão se repete nos casos registrados. Em Aachen, dois homens partilhavam os atributos de professor universitário e de saída de um cargo. Em Munique, a IA misturou os editores com empresas genuinamente duvidosas que, segundo declarações juramentadas, não tinham qualquer ligação com eles. Em 2024, o Copilot da Microsoft descreveu um repórter do tribunal alemão como o autor de crimes que ele passou anos cobrindo, porque seu nome estava ao lado desses crimes em sua própria assinatura. As plataformas e os anos são diferentes e o fracasso é o mesmo.

A exposição não se limita a pessoas com antecedentes criminais próximos. Qualquer entidade que compartilhe um nome ou conjunto de atributos com outra é candidata: duas empresas com nomes semelhantes no mesmo setor, um local de franquia confundido com a marca, um executivo que compartilha um nome com outra pessoa na mesma área, uma linha de produtos cujo nome se sobrepõe ao de um concorrente. A maioria das empresas nunca verificou quais vizinhos são mais fáceis de confundir, porque em uma lista de links o leitor fez essa classificação.

O que se segue é a minha própria leitura, uma opinião e não algo que o tribunal concluiu. A resposta de Aachen respondia a uma pergunta que o registro público do médico deixou em aberto, razão pela qual ele saiu. Na minha opinião, um acontecimento inexplicável no registo público de uma entidade funciona como um convite: pede-se ao sistema uma explicação, procura a explicação plausível mais próxima e, se a correspondência mais próxima pertencer a outra pessoa, é ela que utiliza. Não posso mostrar que foi isso que aconteceu no Modo AI. Ofereço-o como uma forma de pensar sobre o risco, e acredito que uma lacuna inexplicável no registo público de uma entidade é onde a confusão ocorre mais facilmente.

Para onde eu acho que as plataformas irão a seguir

Esta seção é minha opinião e ideias, não relatórios. Vou expor a suposição claramente aqui e, na próxima seção, exporei o que provaria que ela estava errada.

Se os tribunais continuarem a tratar as respostas da IA ​​como declarações da própria plataforma, cada resposta gerada sobre uma entidade nomeada torna-se uma responsabilidade potencial. As isenções de responsabilidade por si só não resolverão isso, uma vez que Munique já rejeitou o argumento de que os usuários podem verificar por si próprios. Apontar para os links de origem também não resolverá o problema, porque quase ninguém os usa. A Pew Research descobriu que os usuários clicaram em um link dentro do resumo de IA em apenas 1% das pesquisas onde um resumo apareceu, e clicaram em qualquer resultado tradicional em 8% dessas pesquisas, em comparação com 15% quando nenhum resumo apareceu. As pessoas leem a resposta, e é exatamente por isso que os tribunais a tratam como o discurso da plataforma.

Portanto, espero que as plataformas restrinjam o conjunto de fontes em que confiam ao responder sobre pessoas e empresas específicas. Espero maior peso em fatos que sejam consistentes em fontes independentes, mais confiança em dados de entidades estruturados e sem ambigüidades e mais cobertura ou declínio total quando um sistema não consegue dizer a qual entidade uma consulta se refere. O tribunal de Aachen disse que o Google poderia verificar seus resultados comparando-os com os sites de origem, e que colocar as objeções do médico à sua própria IA teria exposto o erro. Uma etapa de verificação como essa custa cálculo e tempo em cada resposta, por isso espero que as plataformas a apliquem seletivamente no início, começando com os tipos de consulta com maior probabilidade de acabar na frente de um juiz.

Também não espero que o efeito permaneça na Alemanha. As plataformas raramente mantêm um pipeline de respostas separado para cada tribunal que decide contra elas, e as alterações na ponderação da fonte feitas para um mercado tendem a ser distribuídas de forma mais ampla porque a manutenção de sistemas divergentes é dispendiosa. A mesma lógica aplica-se a todas as empresas que geram respostas sobre entidades nomeadas, e não apenas à Google, uma vez que o raciocínio de Munique se baseia na forma como o produto funciona e não em quem o construiu.

Para as empresas, a consequência é que ser recuperável deixa de ser suficiente e ser inequívoco passa a ser o padrão. Uma empresa cujos factos entram em conflito no seu próprio site, nos seus perfis e na cobertura de terceiros, ou cujo nome e atributos se sobrepõem aos de um vizinho, é exactamente o tipo de entidade que um sistema cauteloso protege ou comete erros.

O que me faria errado

Vários desenvolvimentos prejudicariam esta previsão, por isso vamos examiná-los.

A primeira são os tribunais superiores que estão do lado de Berlim. Se um tribunal de recurso, ou, em última análise, o Tribunal Federal de Justiça da Alemanha, tratar as respostas da IA ​​como resultados de pesquisa cujo operador só se torna responsável após ser notificado, a pressão por detrás da minha previsão enfraquece consideravelmente.

A segunda é que nunca se forma precedente. A lei vinculativa só chega quando alguém leva um caso até ao fim. Se o Google continuar a fazer acordos, a responsabilidade continuará sendo um custo gerenciável, em vez de uma restrição de design, e as plataformas terão poucos motivos para mudar a forma como avaliam as fontes.

A terceira é a regulamentação indo na direção oposta. Os legisladores da UE ou dos EUA poderiam colocar as respostas da IA ​​sob as mesmas proteções que cobrem os intermediários que transmitem o conteúdo de outras pessoas. Nos EUA, nenhum tribunal decidiu claramente se a Secção 230 abrange o texto escrito por um modelo, e os profissionais esperam que os tribunais abordem essa questão em breve. Uma leitura ampla a favor das plataformas eliminaria a maior parte da pressão americana.

A quarta é que as plataformas resolvem a confusão dentro do modelo. Uma melhor verificação e verificações de autoconsistência poderiam detectar as entidades resultantes da fusão antes que uma resposta fosse enviada, deixando a ponderação da fonte praticamente inalterada e mantendo o fardo sobre as empresas.

A quinta é que as plataformas suprimem em vez de restringir. Em vez de elevar a fasquia das fontes, poderiam simplesmente parar de gerar respostas sobre particulares e empresas mais pequenas, o que restringe a cobertura sem alterar quem é confiável.

Se eu tivesse que observar um desses, seria o padrão de assentamento, porque já está visível. Se os próximos casos forem resolvidos silenciosamente, meu cronograma se estenderá consideravelmente.

Torne sua entidade difícil de confundir com qualquer outra pessoa

Nenhum desses desenvolvimentos torna o trabalho defensivo um desperdício. Mesmo sob o resultado mais favorável às plataformas, uma entidade resultante da fusão continua a ser um problema empresarial, com confiança desgastada, clientes mal direcionados e um processo de correção que, como demonstrou Aachen, pode estagnar durante semanas. O trabalho começa sabendo o que esses sistemas dizem sobre você atualmente, verificados de acordo com um cronograma, e não depois que um colega percebe. Medir isso é o que eu criei para fazer o CitationIQ, então avalie minha ênfase de acordo; qualquer que seja a ferramenta que você use, o objetivo é observar antes que algo quebre.

A partir daí, o trabalho se parece menos com o clássico gerenciamento de reputação e mais com a higiene de identidade. Você não está tentando enterrar um resultado ruim; você está tentando garantir que o sistema nunca tenha um motivo para misturá-lo com outra pessoa.

• Consulte a forma como a resposta de Aachen apareceu. Pesquise sua marca, executivos e produtos por nome combinado com função, localização e termos de evento, como saída, ação judicial, aquisição ou encerramento, uma vez que a confusão tende a aparecer mais nas consultas de acompanhamento do que na primeira.
• Publique fatos que o separam de seus vizinhos mais próximos. Indique detalhes de fundação, liderança, locais, o que você faz e o que não faz nas páginas que você controla, em frases simples que um sistema possa citar com precisão.
• Torne sua identidade legível por máquina. A marcação de organização e pessoa do Schema.org com links SameAs para seus perfis autorizados, além de nomenclatura consistente em todos os lugares, fornece ao sistema uma âncora que um nome sozinho não consegue.
• Feche você mesmo as lacunas. Quando algo material mudar, como uma saída de liderança, uma mudança de marca ou fechamento de local, publique sua própria conta para que o sistema tenha uma explicação que realmente pertence a você.
• Valide antes de publicar. Suas páginas agora são matéria-prima para frases de outras pessoas, portanto, um erro em seu próprio site vai mais longe do que antes, e as afirmações que você faz sobre si mesmo merecem uma segunda verificação.
• Documente tudo quando algo der errado. Guarde a consulta exata, o texto completo da resposta, a data e hora, a superfície, as fontes citadas, o seu pedido de correção e a resposta da plataforma, porque ambos os casos alemães se voltaram para pedidos documentados que ficaram sem resposta.

Fatos originais, únicos e verificados costumavam funcionar principalmente como um sinal de qualidade. Num sistema que responde com voz própria, eles trabalham mais próximos da proteção da identidade. A entidade mais segura na pesquisa de IA é aquela mais difícil de confundir com outra.

Mais recursos:

Esta postagem foi publicada originalmente em Duane Forrester Decodes.

Imagem em destaque: Roman Samborskyi/Shutterstock