LLMs ‘não existiriam’ sem dados do Reddit

O CEO do Reddit, Steve Huffman, disse que grandes modelos de linguagem “não existiriam como os conhecemos” sem o conteúdo do Reddit. Ele chamou os dados gerados pelos usuários da plataforma de “petróleo moderno” para IA.

Huffman fez os comentários durante uma entrevista no Most Innovative Companies Summit da Fast Company.

O que Huffman disse sobre o valor do Reddit para a IA

Huffman descreveu a posição que os dados do Reddit ocupam no ecossistema de IA.

Huffman disse:

“Os LLMs não existiriam como os conhecemos sem o Reddit. O Reddit é uma das maiores fontes de dados de treinamento para os LLMs e o Reddit continua a ser uma das principais fontes de dados de treinamento e também somos a plataforma mais citada, a mais citada em todos os modelos.”

Ele atribuiu a reivindicação de citação à Profound, uma empresa que rastreia dados de citações de IA.

Huffman explicou por que as empresas de IA dependem do conteúdo.

“Não há inteligência artificial sem inteligência real. No final das contas, esses modelos são bastante simples. Eles estão regurgitando em uma escala absolutamente enorme o que consumiram em outros lugares e uma grande parte desse consumo é na verdade apenas a conversa humana no Reddit porque é natural e cobre basicamente todos os tópicos imagináveis.”

Acordos para alguns, ações judiciais para outros

O Reddit anunciou acordos de licenciamento de dados com Google e OpenAI em 2024. Huffman referiu-se a eles como os dois acordos originais de dados de IA do Reddit e não anunciou nenhum acordo adicional.

“Desde que fizemos os dois acordos originais com o Google e a OpenAI, isso foi há mais de dois anos, aprendemos muito. Eles aprenderam muito. O mundo inteiro aprendeu muito. Especificamente, quão valiosos são os dados do Reddit e quão úteis eles são. E então, acho que estamos sendo muito deliberados e seletivos. Mas sim, estamos abertos e abertos para negócios.”

Para empresas que não concordaram com os termos de licenciamento, o Reddit tomou medidas legais. A empresa processou a Anthropic no Tribunal Superior da Califórnia, alegando uso não autorizado de conteúdo do Reddit e violações dos termos do Reddit. Reddit entrou com uma ação federal contra a Perplexity no Distrito Sul de Nova York, juntamente com três empresas de coleta de dados, alegando violações anti-evasão do DMCA e reivindicações relacionadas.

Huffman traçou uma linha entre os dois grupos.

“Empresas como Google e OpenAI, onde tínhamos bons relacionamentos, podemos realmente fazer um acordo e colocar algumas barreiras de proteção no uso e acesso aos nossos dados em nome de nossos usuários, mas depois colaborar na criação de produtos para a próxima geração da Internet.”

Ele acrescentou que “nem todas as empresas estão dispostas a ser parceiras colaborativas e por isso, infelizmente, temos que seguir o outro caminho que são as ações judiciais”.

Huffman disse ao público que a posição do Reddit sobre o uso comercial é simples. “O uso comercial de nossos dados requer termos comerciais”, disse ele. O Reddit começou a cobrar pelo acesso comercial à API em 2023, uma medida que precedeu os atuais acordos de licenciamento.

Huffman disse que o Reddit ainda oferece acesso gratuito aos dados para pesquisadores e universidades e tenta permanecer flexível para uso não comercial.

O que mudou a abertura do Reddit

De acordo com Huffman, a disposição do Reddit de compartilhar dados livremente mudou quando a indústria de IA se afastou da pesquisa aberta. Como SEJ relatou anteriormente, o Reddit limitou o acesso para muitos rastreadores de mecanismos de busca, enquanto o Google permaneceu uma exceção.

“Historicamente, o Reddit tem sido como se tivéssemos nascido da Internet aberta e o Reddit tem sido aberto e muito permissivo para o acesso aos seus dados. E honestamente, penso que estaríamos numa posição diferente hoje se as empresas de IA ainda fossem basicamente abertas e de código aberto e fizessem investigação aberta.”

Huffman disse que o problema era que o Reddit não conseguia mais rastrear como seus dados estavam sendo usados. “As pessoas estão usando nossos dados e não sabemos para que eles foram usados”, disse ele ao público.

Além dos termos comerciais, Huffman disse que o Reddit quer evitar que seus dados sejam usados ​​para identificar usuários, direcioná-los com anúncios ou para substituir ou desintermediar a plataforma.

Esforços de IA próprios do Reddit

Huffman reconheceu o que chamou de “paradoxo”. O conteúdo do Reddit alimenta sistemas externos de IA, mas a empresa também usa IA em sua plataforma.

O produto mais visível é o Reddit Answers, um recurso de pesquisa baseado em LLM. Ele lê postagens e comentários e os organiza em respostas baseadas em citações literais de usuários. Huffman observou que ele foi projetado para perguntas sem respostas definitivas.

“O que o Reddit Answers faz são algumas coisas que são exclusivas do Reddit. Primeiro, ele basicamente responde apenas com citações literais de pessoas reais. E a segunda coisa que ele faz é tentar apresentar múltiplas perspectivas, porque o ponto principal, se você estiver no Reddit, é que você quer a perspectiva humana.”

Nos bastidores, o Reddit usa IA para moderação e classificação de conteúdo. Os LLMs podem avaliar se um comentário se transforma em bullying, algo que Huffman descreveu como anteriormente difícil devido à subjetividade envolvida.

Huffman apresentou a moderação de IA como uma forma de reduzir a exposição ao pior conteúdo, não como um substituto para o modelo de moderação da comunidade do Reddit.

“O pior trabalho na internet costumava ser olhar o pior conteúdo da internet e decidir se ele poderia estar online ou não”, disse Huffman. “Esse trabalho simplesmente desaparece.”

A área cinzenta das postagens escritas por IA

Huffman também abordou o desafio dos usuários escreverem conteúdo com ferramentas de IA e colá-lo no Reddit. Isso é diferente da atividade automatizada de bots, enfatizou.

“A coisa mais irritante que vejo não apenas no Reddit, mas em toda a Internet, é alguém que escreveu uma postagem ou comentário no ChatGPT e depois colou no Reddit. Tipo, isso é um bot? Certamente parece um bot, mas há um humano por trás da ideia.”

Huffman classificou a questão como intencional. “É muito importante para nós que haja um ser humano por trás da ideia, do conteúdo, da mensagem”, disse Huffman. Mas ele também observou que “a escrita é uma droga” quando os usuários dependem da IA ​​para redigir suas postagens.

Em vez de criar uma política para resolver o problema, Huffman indicou que o Reddit deixará sua comunidade lidar com o problema. Os usuários já estão votando negativamente no conteúdo escrito por IA e divulgando-o nos comentários. Huffman disse que o Reddit “capacitará mais os usuários e os subreddits para rejeitar completamente esse tipo de conteúdo”.

Ele comparou a questão mais ampla às calculadoras nas aulas de matemática. “As crianças hoje em dia estão apenas aprendendo a escrever com IA. O que vamos fazer a respeito?” ele disse. “Acho que temos que aprender junto com todo mundo.”

Por que isso é importante

Os comentários de Huffman reforçam a afirmação do Reddit de que as discussões dos usuários são uma contribuição essencial para os sistemas de IA.

O problema de conteúdo escrito por IA que Huffman descreveu é um SEJ abordado como parte de uma investigação mais ampla de resíduos de IA do YouTube. A decisão do Reddit de permitir que a votação da comunidade lide com postagens geradas por IA, em vez de criar ferramentas de detecção, é um caminho diferente das plataformas que implantaram rotulagem automatizada.

Olhando para o futuro

Huffman disse à Fast Company que o Reddit está “no mercado conversando com as pessoas o tempo todo” sobre novos acordos de dados, embora não tenha sugerido um terceiro acordo.

Os processos do Reddit contra a Anthropic e a Perplexity estão em andamento. O caso Antrópico foi objeto de uma audiência de prisão preventiva no tribunal federal em março.