Por que os alimentos gerados por IA são assim?
Há uma torrente de resíduos pouco apetitosos provenientes de restaurantes, cafés e marcas que recorrem cada vez mais à IA para gerar imagens que promovam os seus alimentos. O show de terror resultante inclui camarão donut, Reubens from the deep, macarrão parecido com verme, e doces parecidos com macarrão e frango fibroso. Há também material de construção disfarçado de sorvete, sorvete disfarçado de cérebro e outros utensílios de cozinha adjacentes à alvenaria. Nem sei como começar a descrever essa tentativa monstruosa de hambúrguer, e quanto menos se falar do burrito tripofóbico do inferno, com larvas e tudo, melhor. Existem caroços. E buracos. Tantos buracos.
“Os modelos de difusão são notoriamente fracos na geração de estruturas terminais finas e contínuas.”
Geralmente não sabemos por que alguém usaria resíduos de IA para vender algo com a intenção de parecer apetitoso, especialmente quando a comida provavelmente está ali para ser fotografada. Mas sabemos um pouco sobre por que a IA é tão hábil em produzir imagens tão requintadamente nauseantes.
Há muitas razões pelas quais esse alimento de IA é tão errado, desde as nuances técnicas de como os sistemas de IA geram imagens e os materiais usados para treiná-los até a bagagem psicológica através da qual os humanos percebem as imagens. Freqüentemente, o problema começa desde o início. Muitos dos principais geradores de imagens produzem imagens usando difusão. Simplificando, os modelos de difusão começam com uma imagem de ruído puro – algo como uma tela cheia de estática – e gradualmente removem o ruído aos poucos para criar o visual solicitado. “Isso significa que as estruturas inicialmente grosseiras são recuperadas primeiro com detalhes de textura fina” no final, explicou Chris Russell, professor de IA, governo e política na Universidade de Oxford e especialista em visão computacional.
Russell disse que em muitas dessas imagens perturbadoras de alimentos as coisas já deram errado no momento em que esses detalhes mais sutis são adicionados. O modelo pode errar a estrutura básica de um objeto em um estágio anterior e, em seguida, agrupar detalhes de textura vívidos no topo dessa estrutura. “Este é o mesmo tipo de falha que vemos quando uma pessoa é gerada com seis dedos em vez de cinco”, disse Russell. (Isso também poderia explicar o camarão donut.)
O modelo pode errar a estrutura básica de um objeto em um estágio anterior e, em seguida, agrupar detalhes de textura vívidos no topo dessa estrutura.
Mesmo quando a estrutura subjacente é sólida, os detalhes mais sutis podem dar errado à sua maneira, disse Giovanbattista Califano, cientista comportamental que estuda respostas a imagens geradas por IA na Universidade de Nápoles Federico II, em Itália. “Os modelos de difusão são notoriamente fracos na geração de estruturas terminais finas e contínuas”, disse ele. “Macarrão, fios e gavinhas são exatamente o tipo de geometria que atrapalha isso, então você obtém artefatos semelhantes a espaguete sangrando em lugares sem lógica anatômica ou culinária.” Em outras palavras, uma vez que um modelo começa a gerar algo assim, ele pode ter dificuldade para descobrir onde deve parar ou a que deve estar vinculado. Outras texturas repetidas, como bolhas e sementes, são igualmente difíceis de serem contidas pelos modelos de difusão dentro de limites razoáveis, acrescentou ele, o que significa que muitas vezes se espalham em áreas onde não deveriam estar. Isso ajuda a explicar por que tantas imagens de alimentos de IA são tão implacavelmente confusas, com padrões perturbadores e crivadas de buracos agrupados que podem desencadear a tripofobia.
Não ajuda o fato de a IA não ter ideia do que realmente é um sanduíche. Ou um macarrão. Ou um burrito. Não tem compreensão dos objetos que está criando ou do mundo físico que habitam. Aprendeu, em termos gerais, como estas coisas tendem a ser a nível estatístico, mas não por que são assim ou como deveriam comportar-se. “A geração de imagens por IA reproduz aparências sem o conhecimento adequado do mundo”, explicou Roland Meyer, professor de culturas e artes digitais na Universidade de Zurique, na Suíça. O resultado é uma aproximação da comida divorciada de qualquer compreensão da coisa em si.
Essa falta de compreensão pode levar a algumas interpretações estéticas de revirar o estômago por parte dos humanos que veem as imagens, disse Michael Cook, professor sênior de ciência da computação no King’s College London. Daí o sorvete que lembra concreto rachado ou hambúrgueres aparentemente feitos de pedras. Os modelos de IA não entendem por que os alimentos não deveriam se parecer com outras imagens não alimentares dessa forma. “Essas texturas podem parecer totalmente normais se usadas em um contexto arquitetônico”, explicou Cook. “Mas eles se enganam quando imaginamos isso como alimento comestível.”
As imagens usadas para treinar esses modelos podem agravar o problema. “Como sabemos tão pouco sobre os processos de treinamento desses sistemas, não sabemos realmente que combinação de conteúdo eles estão recebendo ou que associações estão fazendo”, disse Cook.
A fotografia de alimentos costuma ser altamente estilizada, cheia de contrastes nítidos, cores intensas, iluminação brilhante e formas exageradas. Às vezes a “comida” fotografada nem é comida. Meyer disse que os modelos de IA podem captar essas qualidades superficiais e convenções visuais, mas reproduzi-las sem compreender o contexto por trás delas. “Em outras palavras, a geração de imagens por IA imita perfeitamente a aparência da fotografia, mas não suas estratégias estéticas profissionais”, disse Meyer. “Em última análise, é isso que os torna tão perturbadores.”
Não ajuda o fato de a IA não ter ideia do que realmente é um sanduíche. Ou um macarrão. Ou um burrito.
Deixando o estilo de lado, há outro problema em aprender sobre o mundo navegando na Internet: as coisas podem ficar estranhas rapidamente. Simon Colton, professor de criatividade computacional, jogos e inteligência artificial na Universidade Queen Mary de Londres, disse que pode haver relativamente poucas imagens de maçãs vermelhas comuns, por exemplo. “Quem iria querer postar a imagem de uma maçã chata na web?” Enquanto isso, imagens mais estranhas poderiam encontrar grande público em plataformas de mídia social como o Reddit, ou se espalhar amplamente como memes. O conhecimento bizarro da Internet e a podridão cerebral significam que um modelo de IA pode ter um conjunto estranho de associações em torno da comida e de sua aparência.
Cook disse que é bem sabido que os sistemas de IA agora também estão sendo treinados em material gerado por IA. Muito material popular de IA envolve comida, disse Cook, lembrando uma tendência para vídeos gerados por IA de pessoas pulando em pilhas de comida. Para além da natureza por vezes surreal do próprio material, a investigação sugere que treinar modelos de IA nos resultados de outros modelos pode causar uma espécie de “colapso do modelo”, cuja consequência pode ser uma espécie de degeneração visual e uma mesmice crescente entre as imagens.
A forma como as imagens são criadas e usadas pode piorar ainda mais a situação. Os prompts — tanto aqueles escritos pelos usuários quanto as instruções em nível de sistema que as empresas usam para orientar seus modelos — podem nem sempre produzir os melhores resultados. Eles podem ser vagos, como apenas pedir um sanduíche, ou conter uma linguagem como “seja preciso” que faz sentido para o texto, mas não faz muito sentido para a geração de imagens. Imagens de baixa resolução também podem ser ampliadas muito além do tamanho pretendido, ampliando cada imperfeição perturbadora que de outra forma poderia ter passado despercebida ou criando um vazio que um modelo é deixado para preencher, muitas vezes de forma imperfeita.
O conhecimento bizarro da Internet e a podridão cerebral significam que um modelo de IA pode ter um conjunto estranho de associações em torno da comida e de sua aparência.
Tudo isso empurra muitas imagens de alimentos geradas por IA para as profundezas do vale misterioso. E, infelizmente para nós, os humanos estão dolorosamente bem equipados para perceber quando a comida parece errada. Os cientistas acreditam que a repulsa evoluiu em parte como um meio de nos proteger de parasitas, agentes patogénicos, toxinas e outras ameaças potenciais, tornando-nos particularmente atentos a quando algo pode não ser seguro para comer. Califano disse que isso torna o misterioso vale da comida ainda mais visceral do que aquele que vivenciamos com não exatamente humanos.
Os alimentos gerados pela IA têm uma capacidade enervante de atingir muitos desses gatilhos de uma só vez. Estranhas gavinhas de macarrão lembram vermes ou parasitas, aglomerados de buracos sugerem infestações e cores e texturas estranhas sinalizam contaminação ou deterioração. Alimentos gerados por IA parecem errados porque, em um nível primordial, parecem errados. Pode parecer comida, mas nossos cérebros sabem melhor. É um desleixo e recuamos de acordo.
