O problema da mesmice por trás daqueles menus pouco apetitosos gerados por IA

Quando isso acontece com você pela primeira vez, você pensa que está louco. Você entra em um café e olha um cardápio com uma variedade de sanduíches de bagel, mas cada ilustração parece estranhamente perfeita, precisamente simétrica e estranhamente suave, provocando uma sensação visceral de que algo não está certo. Você pode pensar que é paranóico, mas não está enlouquecendo. Os menus generativos de IA chegaram ao setor de restaurantes graças a modelos treinados em uma estética estreita e “agradável” que produz uma aparência que parece errada, mesmo quando você não consegue articular o porquê.

Às vezes, essas ilustrações são flagrantemente falsas, como um burrito com queijo tão borbulhante e derretido que parece mais arte de vanguarda do que almoço. Na maioria das vezes, eles têm uma aparência tão comum que você só percebe que algo está errado quando para um segundo para olhar mais de perto.

“É quase como um alienígena tentando fazer uma pizza sem entender seus princípios básicos”, disse o CTO do Reality Defender, Alex Lisle, ao TechCrunch. (O próprio Reality Defender faz parte de uma categoria crescente de startups que vendem ferramentas de detecção de IA e verificação de conteúdo – um negócio que existe em parte por causa de problemas como este.)

Lisle diz que a forma como esses modelos são construídos pode ajudar a explicar por que as ilustrações parecem abraçar uma estética tão específica – onde cada colher de sorvete é perfeitamente redonda e onde os camarões parecem ter sido geneticamente modificados para comerem suas próprias caudas, criando novos “horrores alimentares Lovecraftianos”.

Grandes modelos de linguagem (LLMs) e modelos de difusão – os tipos de modelos de IA que tornam possíveis chatbots e geradores de imagens aparentemente oniscientes como ChatGPT e Midjourney – são treinados em grandes quantidades de dados. Os modelos então identificam padrões nos conjuntos de dados para prever o que um usuário está procurando quando pergunta algo como: “Faça-me um cardápio para uma lanchonete”.

“Muitas dessas coisas parecem um cardápio de Chili de 2015, e há uma razão para isso”, disse Lisle. “Esse foi o corpus de trabalho do qual (os modelos) retiraram sua função.”

Novos dados de treinamento são inestimáveis ​​para as empresas que criam modelos de IA – descobriu-se que a Amazon fornece livros raros para digitalizar e adicionar aos seus dados de treinamento, apenas para destruir esses livros depois de carregados. É inevitável que algum conteúdo gerado pela IA se infiltre nesses conjuntos de dados incompreensivelmente grandes. Mas quando os modelos de IA treinam com muito conteúdo gerado por IA, eles correm o risco de colapso do modelo.

“O colapso do modelo é quase como a doença da vaca louca… quando você alimenta os resultados de um modelo de volta para si mesmo, eventualmente a endogamia se torna excessiva e a coisa toda entra em colapso”, explicou Lisle. “O que vemos aqui é convergência, que não é necessariamente o colapso do modelo.”

A convergência é um pouco menos extrema, degradando a qualidade dos resultados de uma IA sem torná-la totalmente inútil.

Se alguém pedir a um modelo de IA para gerar um cardápio para um restaurante fast food, o modelo provavelmente fará referência a cardápios da Wendy’s, Burger King, McDonald’s ou outra rede popular. Esses menus já compartilham um estilo semelhante, o que significa que os resultados gerados pela IA irão imitar o mesmo estilo, apenas para reforçá-lo ainda mais se o menu gerado pela IA acabar voltando aos dados de treinamento.

Mas os cardápios e anúncios de comida sempre parecerão melhores do que os reais, como um Big Mac em um comercial do McDonald’s, onde cada camada do sanduíche é organizada por um designer de acessórios para parecer ao máximo apetitosa. Este efeito pode tornar-se ainda mais pronunciado nos resultados da IA.

“A otimização dos conjuntos de dados é para agradar, ou você sabe, não para ser ofensiva, então há uma maneira que se transforma em homogeneização”, disse Lee Rainie, diretor do Centro Imagining the Digital Future da Elon University, ao TechCrunch. “O que a IA é conhecida por fazer tanto em imagens quanto em linguagem é eliminar as arestas.”

Em uma escala mais localizada, essa suavização de imagens parece acontecer quando você usa um gerador de imagens de IA para criar um menu e aplicar edições nele. No X, um usuário chamado Labtec mostrou o que acontece quando você cria um cardápio no ChatGPT e depois o edita 100 vezes para ver como a comida fica cada vez menos como deveria. (Replicamos o experimento e encontramos resultados semelhantes.)

“O resultado final realmente me deixa desconfortável”, escreveu Labtec.

Os restaurantes provavelmente serão vítimas desse problema, revisando seus cardápios gerados por IA para alterar continuamente pequenos detalhes, como preços ou nomes de itens. Parece que a cada edição, as imagens dos alimentos ficam um pouco mais redondas e suaves.

“As pessoas têm uma sensação quase inexplicável de quando estão olhando para algo gerado por IA, em comparação com algo que era real em primeiro lugar”, disse Rainie. “Há apenas uma sensibilidade que às vezes as pessoas acham difícil articular, mas elas meio que sabem disso quando a veem e acho que essa é uma das razões pelas quais algumas das primeiras histórias sobre a reação (contra restaurantes que usam menus de IA) são tão pronunciadas.”

Há ciência por trás da nossa aversão a esses menus de IA. Pesquisadores da Universidade de Duisburg-Essen, na Alemanha, descobriram que as imagens de alimentos geradas por IA exibiam um efeito de “vale misterioso”, onde imagens de alimentos que pareciam quase reais provocavam mais repulsa e desconforto do que imagens que eram obviamente falsas. Esse escrúpulo só se intensifica à luz do contexto cultural em torno da IA.

Se as pessoas reagem a essas imagens de forma tão negativa, isso provavelmente é razão suficiente para os restaurantes pararem de tentar fazer os menus de IA funcionarem. Mas os problemas que nos trazem pães de hambúrguer perfeitamente dourados vão além da mesa de jantar.

“Ver e ouvir sempre foi acreditar, a ponto de até mesmo nossos sistemas judiciais estarem totalmente sintonizados com a ideia de que o padrão ouro em provas são confissões gravadas e provas gravadas em vídeo”, disse Lisle. “Esse não é mais o caso. O mundo mudou fundamentalmente, para o bem ou para o mal.”