Instagram impõe novos limites para perfis de IA não divulgados

O Instagram anunciou na segunda-feira que está mudando a forma como rotula os perfis gerados por IA e começará a limitar o alcance de contas que apresentam pessoas geradas por IA sem avisar.

A plataforma diz que está renomeando seu rótulo existente de “criador de IA” para “perfil gerado por IA”, o que, segundo o Instagram, deve tornar a divulgação mais fácil de entender. O novo rótulo pretende informar aos usuários que a pessoa apresentada em um perfil foi gerada ou substancialmente criada com IA.

De acordo com a nova política, os criadores que não rotularem adequadamente um perfil gerado por IA poderão ver seu alcance reduzido. Os criadores que usarem o novo rótulo, por outro lado, não serão penalizados simplesmente por terem uma pessoa gerada por IA como assunto de perfil.

O rótulo também não se destina a todos os usos de IA. O Instagram diz que as pessoas que usam IA para editar fotos, aprimorar legendas, criar gráficos ou fazer outros ajustes criativos não precisam usar o rótulo de perfil gerado por IA.

O Instagram diz que a mudança ocorre em parte em resposta aos usuários que encontraram perfis que pareciam pertencer a pessoas reais, apenas para descobrir mais tarde que a pessoa foi completamente gerada por IA.

“À medida que a IA generativa se torna uma parte importante de como as pessoas criam, ouvimos dizer que as pessoas não gostam de ver um perfil que parece humano, apenas para descobrir mais tarde que a pessoa apresentada é gerada por IA”, escreveu o Instagram. “Eles querem saber quando um perfil apresenta uma pessoa gerada por IA.”

O momento é notável. A frustração com o conteúdo gerado pela IA tem crescido à medida que os influenciadores da IA ​​se tornam mais comuns nas plataformas de mídia social.

Por exemplo, no início deste ano, o aplicativo de namoro gay Goose tornou-se objeto de uma investigação da Wired depois que uma rede de influenciadores masculinos aparentemente gerados por IA promoveu o aplicativo no Instagram. A Wired encontrou mais de duas dúzias de contas que pareciam apresentar influenciadores de IA, algumas das quais supostamente alcançavam usuários em potencial por meio de mensagens diretas para fazê-los se inscrever.

O conteúdo de saúde e bem-estar é outro exemplo particularmente preocupante. O New York Times informou em julho que encontrou centenas de médicos, curandeiros e personalidades do bem-estar geradas por IA nas redes sociais promovendo suplementos ou fazendo alegações de saúde aos usuários.

O anúncio ocorre depois que o Instagram enfrentou uma reação negativa por causa de uma ferramenta de IA que permitia aos usuários gerar imagens usando imagens de outras pessoas. Os usuários se opuseram a que seu conteúdo público do Instagram fosse usado sem uma aceitação explícita. Meta então removeu o recurso.

Na semana passada, a Meta chegou a um acordo de US$ 18 bilhões com os estados dos EUA sobre alegações relativas aos efeitos do Facebook e do Instagram em crianças e adolescentes. Como parte do acordo, a Meta introduzirá um limite padrão de uso diário de duas horas para adolescentes no Facebook e Instagram, um bloqueio do “Modo Noturno”, notificações silenciadas durante o horário escolar e outras restrições.