OpenAI e Microsoft sabiam que estavam iniciando um ‘ciclo de destruição’ para a web
Documentos judiciais recentemente abertos no New York Times‘Os casos contra a OpenAI e a Microsoft são bastante contundentes. A própria documentação das empresas alertava que estava a iniciar um “ciclo de destruição” que danificaria a web, caracterizou a sua recolha de dados para treinar os seus modelos como o “maior roubo de mão-de-obra na história da humanidade” e que fez uma “completa paródia da ideia de utilização justa”.
Muitas das citações mais atraentes do documento vêm do Diretor de Ciência Aplicada da Microsoft, Brent Hecht. Porém, a empresa tentou se distanciar das afirmações de Hecht. O porta-voz da Microsoft, Alex Haurek, disse ao The Verge que “Esses comentários refletem a perspectiva individual de um funcionário, não são uma análise jurídica e não representam a visão da empresa”.
Em um processo separado, Jordan Usdan, gerente geral de estratégia e operações de dados da Microsoft AI, caracterizou o papel de Hecht como adversário. Ele disse que Hecht “tem visões divergentes, acadêmicas e voltadas para o futuro sobre como os ecossistemas de dados para IA devem operar e é empregado na Microsoft para trazer pontos de vista assimétricos, futuristas e acadêmicos… nem é alguém que fala especificamente pela Microsoft quanto às suas opiniões teóricas sobre o efeito potencial da IA sobre os criadores de conteúdo”.
Mas quer a Microsoft queira ou não ser proprietária desses comentários, está claro que isso se tornou realidade. Google Zero é real! A IA está comendo a web!
Há muito mais declarações selvagens em NYT arquivamento de uma variedade de figuras, incluindo Satya Nadella, Sam Altman e outros funcionários da OpenAI. Aqui estão alguns destaques do documento de 92 páginas.
“Um roubo surpreendente”
A introdução cita Hecht e o chefe do ChatGPT da OpenAI (presumivelmente Nick Turley) de uma forma que parece mostrar que as empresas sabiam que representavam uma “ameaça existencial” para editores como o New York Times. Hecht chama a coleta de dados do ChatGPT e do Copilot de “o maior roubo de trabalho na história da humanidade” e diz que a defesa da Microsoft faz “uma completa zombaria da ideia de ‘uso justo’”.
Satya Nadella admite que os chatbots basicamente substituíram a pesquisa e eliminaram a necessidade de ir direto à fonte para obter informações. Mas talvez mais contundente seja um documento interno da Microsoft que diz: “Nossa estratégia de conteúdo de IA iniciou um ‘ciclo destrutivo’ que prejudicará o desempenho de nossos modelos e de toda a web ao mesmo tempo: é altamente incomum que um produto final ameace as bases econômicas de seus fornecedores essenciais, mas essa é a situação que criamos para nosso negócio LLM no que diz respeito à sua ‘cadeia de fornecimento de conteúdo’”.
Isso nem é um número real
Não se deixe enganar pela OpenAI ou pelas alegações de intenção altruísta da Microsoft. O cofundador da OpenAI, Greg Brockman, está mais interessado nos “zilhões” de dólares que ele poderia ganhar por meio da IA comercial.
Apesar de Nadella ter sido posteriormente citado como tendo dito que “qualquer coisa que tenha acesso pago deve ser licenciada”, um representante da OpenAI admitiu que “não tinha conhecimento” de qualquer esforço para detectar ou remover conteúdo com acesso pago dos dados de treinamento.
“Insanamente bom em regurgitação”
Internamente, parece que a OpenAI estava bem ciente da tendência do ChatGPT de simplesmente reproduzir material protegido por direitos autorais “literalmente”. Embora reconhecesse que a “prevenção da memorização” era importante para “minimizar as violações de direitos autorais”, os funcionários admitiram que o GPT-4 “memorizou uma tonelada de dados e, portanto, será incrivelmente bom em regurgitar”.
O processo então cita vários exemplos de ChatGPT gerando longas sequências de cópias diretamente de artigos no Tempos, Notícias sobre Mercúrio, O Posto de Denver, LifeHackere Eurogamer em resposta a perguntas.
“’Aspirando’ todo o seu trabalho”
A Microsoft sabia como seria percebida a sua destruição em massa da Internet e admitiu que “quase ninguém pretende que o conteúdo que criou seja utilizado desta forma, nem é compensado pela sua utilização”.
Um “substituto para o trabalho das pessoas”
O diretor de políticas da OpenAI, Jack Clark, viu o que estava escrito na parede, dizendo que estava “criando sistemas que substituem o trabalho das pessoas que definem a ‘cultura’ da sociedade”. Documentos internos descreveram o ChatGPT como “a banca de jornal moderna”. Nick Turley, da OpenAI, foi posteriormente citado como tendo dito que, depois de obter uma resposta de seu chatbot, “não há um bom motivo para clicar” em um link para a fonte.
Destruindo sua própria cadeia de suprimentos
A Microsoft é citada como admitindo que “LLMs são um produto que destrói sua própria cadeia de suprimentos” porque, em muitos casos, é um substituto para seus próprios dados de treinamento.
OpenAI sabe que está matando o tráfego de referência
Os próprios especialistas em mídia e economia da OpenAI atribuíram a queda no tráfego de referência para sites como o Tempos diretamente para resumos de IA, como as visões gerais de IA do Google. Eles especularam que as referências de pesquisa podem cair até 60%.
O porta-voz da Microsoft, Haurek, advertiu que “o testemunho de Satya e a posição da Microsoft neste caso são perfeitamente consistentes. Ele falou sobre princípios gerais e mudanças em curso na forma como as pessoas encontram e consomem informações. Essas observações não devem ser confundidas com conclusões sobre questões de direitos autorais perante o Tribunal, que a Microsoft aborda em seus processos”.
Mas parece bastante claro, com base neste documento recentemente aberto, que tanto a Microsoft como a OpenAI sabiam que iriam prejudicar irreparavelmente a indústria editorial, os “milhões de pessoas” que ela emprega e, por extensão, danificar o seu próprio produto, mas seguiriam em frente de qualquer maneira em busca de “zilhões” de dólares – dane-se o ciclo da destruição.
