Ele raspou toda a sua arte para IA. Agora ele está colaborando em uma ferramenta para ajudá-los
Desde o início de 2023, a fotógrafa Jingna Zhang e uma pequena equipe de voluntários trabalharam incansavelmente para manter um aplicativo de mídia social e portfólio de compartilhamento de imagens chamado Cara. Até agora, atraiu cerca de 1,5 milhão de artistas. O que os atraiu para a plataforma? Uma oposição partilhada à utilização não autorizada do seu trabalho para treinar modelos de IA e um desejo de divulgar a sua arte, evitando a exploração pelas Big Tech.
Mas embora Cara filtre imagens de IA e ofereça recursos de proteção – incluindo Glaze, uma ferramenta destinada a mascarar o estilo das imagens captadas por raspadores para interromper o mimetismo de IA – prevenir os próprios arranhões é quase impossível. E só neste mês, a partir de 13 de agosto, Cara foi submetido a três grandes problemas, que aumentaram as taxas de servidor e alarmaram os criadores que migraram para lá de plataformas como o Instagram, onde todo o conteúdo está explicitamente disponível para Meta como dados de treinamento.
O primeiro desses incidentes veio à tona quando o responsável postou um arquivo de 12 terabytes de 12 milhões de obras de Cara – mais ou menos toda a sua biblioteca de imagens disponíveis publicamente – no subreddit r/DefendingAIArt. “Foi um projeto divertido”, escreveu o redditor, MandarinDawnPoppy994, em sua postagem excluída, dizendo que o processo lhe custou menos de US$ 10.
“Na verdade, descobrimos isso através de nossos usuários que nos marcaram”, disse Zhang à WIRED, já que o raspador estava “exultante e procurando outras pessoas para se juntarem a ele para fazer algo com o conjunto de dados no Reddit”, provocando um debate acirrado em fóruns relacionados à IA sobre a ética do que ele havia feito. “Sinto que é direcionado e muito prejudicial”, acrescenta ela, observando que “as leis não se preocupam” com as proteções contra essas coletas de dados, o que significa que os scrapers muitas vezes podem justificá-las como tecnicamente legais. (Zhang faz parte separadamente de duas ações coletivas em andamento movidas por artistas visuais, uma contra Stability AI, Midjourney e outros e a segunda contra o Google, alegando que as ferramentas geradoras de imagens das empresas foram treinadas em seus trabalhos protegidos por direitos autorais.)
Em uma reviravolta surpreendente, no entanto, a pessoa que roubou toda a arte de Cara se arrependeria de sua façanha e concordaria em colaborar com Zhang em uma nova ferramenta de código aberto para proteger os artistas.
Enquanto isso, infelizmente, outros scrapers continuaram a tirar vantagem das vulnerabilidades e dos recursos mínimos de Cara. Embora vários proponentes da IA se opusessem a ir atrás de Cara, alguns foram aparentemente encorajados pelo MandarinDawnPoppy994 a realizar o que Zhang vê como ataques “imitadores”.
Um segundo raspador extraiu cerca de 8,5 milhões de links do Cara, bem como metadados como nomes de usuário, títulos e tags, e os carregou no Hugging Face, a plataforma de desenvolvimento de IA. Depois que Hugging Face foi bombardeado com pedidos de remoção, ele respondeu em um comunicado que embora enviasse um aviso ao usuário, “CaptiveDreamer”, para remover os metadados pessoais, não poderia fazer o mesmo com os URLs, já que “nenhuma cópia das obras de arte está hospedada aqui” e os links “apontam para as cópias que os artistas publicaram no Cara”. A empresa concluiu que “outros relatórios de direitos autorais na mesma base não alterarão este resultado”.
Finalmente, em 22 de agosto, um terceiro scraper obteve 123 mil imagens de Cara, juntamente com postagens de texto e biografias de usuários que incluíam informações pessoais, compartilhando tudo em um site chamado Academic Torrents. Zhang então lançou um GoFundMe para honorários advocatícios, estabelecendo uma meta de US$ 120 mil, explicando que o dinheiro seria destinado à exploração de toda e qualquer estratégia de defesa de Cara por meio de leis cibernéticas e de direitos autorais. Até quinta-feira, ela arrecadou mais de US$ 100 mil e diz que Cara está procurando ativamente por assistência jurídica adicional.
