Wikipedia proíbe uso de conteúdo gerado por IA

A Wikipedia publicou recentemente diretrizes que proíbem o uso de IA para gerar ou reescrever artigos, exceto por duas exceções relacionadas à edição e traduções. As diretrizes reconhecem que a identificação do conteúdo gerado por IA não pode ser baseada em sinais de estilo e não oferecem orientações adicionais sobre como identificarão o conteúdo baseado em LLM.

Violação das principais políticas de conteúdo da Wikipédia.

As novas diretrizes que proíbem o uso de LLMs afirmam que o uso de IA viola várias de suas principais políticas de conteúdo, sem realmente nomeá-las. Mas uma análise dessas políticas torna razoavelmente claro quais as políticas a que se alude, nomeadamente as suas políticas sobre a verificabilidade, a sua proibição de nenhuma investigação original e, possivelmente, a sua exigência de um ponto de vista neutro são muito provavelmente as duas políticas óbvias referidas.

A política de verificabilidade exige que o conteúdo que possa ser contestado seja atribuível a uma fonte publicada confiável que outros editores possam verificar para verificar se a fonte é confiável. Os LLMs geram texto sem citar fontes explicitamente e também tendem a alucinar fatos.

A política sobre pesquisas originais afirma:

“A Wikipédia não publica ideias originais: todo o material na Wikipédia deve ser atribuível a uma fonte publicada e confiável. Os artigos não podem conter qualquer nova análise ou síntese de material publicado que sirva para promover uma posição não claramente avançada pelas fontes.”

Obviamente, os LLMs geram uma síntese baseada em fontes publicadas e quanto ao ponto de vista neutro, é possível que um LLM dê mais peso aos pontos de vista dominantes em detrimento daqueles que estão em minoria. A maioria dos SEOs está ciente de que perguntar a um LLM sobre SEO resulta consistentemente em respostas que refletem o ponto de vista dominante, mas não necessariamente o mais correto.

A nova orientação faz duas exceções:

1. “Os editores estão autorizados a usar LLMs para sugerir edições básicas em sua própria redação e incorporar alguns deles após revisão humana, desde que o LLM não introduza conteúdo próprio. É necessário cuidado, porque os LLMs podem ir além do que você pede deles e alterar o significado do texto de tal forma que não é apoiado pelas fontes citadas.
2. Os editores têm permissão para usar LLMs para traduzir artigos da Wikipédia de outro idioma para a Wikipédia em inglês, mas devem seguir as orientações estabelecidas em Wikipédia:tradução assistida por LLM.”

Quanto à identificação de conteúdo gerado por IA, as novas diretrizes de IA da Wikipedia sugerem considerar até que ponto o conteúdo está em conformidade com suas diretrizes de conteúdo básicas e auditar postagens recentes do editor cujas edições estão sob suspeita.

Imagem em destaque por Shutterstock/JarTee