O que Hollywood pensa sobre os avisos existenciais de IA

Enquanto o sector tecnológico soa alarmes sobre o potencial da IA ​​para destruir a humanidade, grupos trabalhistas do entretenimento apelam ao público para que se mantenha concentrado no que já está a acontecer. A beira entrou em contato com Disney, Netflix, Amazon, Lionsgate e outros estúdios que começaram a usar IA, bem como startups de filmes focadas em trazer a IA generativa para o mainstream, para perguntar sua reação aos recentes avisos em torno da tecnologia. Nenhum respondeu ao nosso pedido de comentários. No entanto, o Screen Actors Guild – Federação Americana de Artistas de Televisão e Rádio (SAG-AFTRA) e o Writers Guild of America East (WGAE).

As ferramentas de IA utilizadas na produção de entretenimento diferem dos sistemas de IA que desencadearam uma recente ronda de denúncias e declarações apocalípticas. Eles não parecem ser tão existencialmente perigosos quanto os sistemas de IA que levaram o ex-pesquisador antrópico Jacob Coxon a deixar o emprego e levaram o alinhamento antrópico a levar Evan Hubinger a insistir que a tecnologia poderia “matar todos os humanos” em algum momento “na próxima década”.

Mas, apesar das diferenças entre a IA focada no entretenimento e os modelos desenvolvidos pela Anthropic e OpenAI, os modelos de IA que geram fac-símiles digitais de atores e tentam replicar ferramentas tradicionais de produção cinematográfica representam uma ameaça para alguns empregos humanos. Semelhante à forma como os sindicatos de Hollywood defenderam proteções e maior supervisão em torno do uso da IA ​​durante as greves de 2023, a saída antrópica de Coxon inspirou uma onda de investigadores de IA a falarem a favor de protocolos de segurança mais fortes. Os chefes das principais empresas de IA, incluindo Anthropic, OpenAI, Google DeepMind e X, também pediram uma desaceleração no desenvolvimento da tecnologia em todo o setor. Embora o presidente Donald Trump tenha rejeitado estas preocupações como reacções exageradas, alguns outros políticos dos EUA sentiram-se pressionados a tomar medidas legislativas. A luta dos sindicatos de Hollywood por regras rigorosas em torno da utilização da IA ​​não impediu a indústria do entretenimento de adoptar a IA, mas deram aos trabalhadores de Hollywood uma forma de reagir nos casos em que sentem que as ferramentas de IA estão a ser usadas para os prejudicar.

Quando falei recentemente com o negociador-chefe do Screen Actors Guild – Federação Americana de Artistas de Televisão e Rádio (SAG-AFTRA), Duncan Crabtree Ireland, ele me disse que o sindicato reconheceu desde o início como a IA poderia impactar os meios de subsistência de seus membros. A maioria das pessoas pode não estar familiarizada com a ideia de os estúdios substituirem completamente os atores humanos por réplicas digitais, mas a SAG-AFTRA entendeu que tinha a oportunidade de moldar a opinião pública sobre a IA em Hollywood, ao “falar sobre isso o mais cedo possível.”

“Negociamos e alcançamos barreiras de segurança aplicáveis ​​e significativas sobre como esta tecnologia pode ser implementada pelos principais empregadores da nossa indústria”, explicou Crabtree-Ireland. “Isso não inclui empresas como OpenAI, Anthropic ou Google diretamente, mas abrange todas as empresas que construíram negócios em torno da criação de conteúdo de entretenimento de nível profissional nos Estados Unidos.”

Embora Crabtree-Ireland acredite que “devemos preocupar-nos com as implicações sociais e sociais mais amplas da IA”, ele também pensa que alguns dos avisos sobre a tecnologia ser uma ameaça ao nível da extinção podem ser potencialmente hipérboles e exagerados. O doomerismo tornou-se uma das formas mais comuns pelas quais as empresas de IA geram buzz em torno de seus produtos, mas o fato de Coxon ter deixado a Anthropic para soar o alarme fez com que Crabtree-Ireland hesitasse. Ouvir a mensagem dos “CEOs destas empresas ou dos bilionários que ganharam milhares de milhões fazendo exactamente aquilo que agora nos avisam que pode não ser bom”, deixou-o inseguro “em que confiar ou em que acreditar”. Mas ele reconheceu que Coxon conseguiu “atrair o público”.

Fazer com que as pessoas acreditassem que os receios do SAG-AFTRA sobre a IA deveriam ser levados a sério foi um dos principais objectivos do sindicato quando os seus membros votaram pela greve. A chave para fazer isso, disse-me Crabtree-Ireland, foi liderar a greve com uma mensagem focada que expusesse claramente ao público o que estava em jogo e as medidas que poderiam ser tomadas para evitar os piores cenários. Se não fosse por isso, Crabtree-Ireland pensa que a Aliança de Produtores de Cinema e Televisão (AMPTP) poderia não ter concordado com algumas das exigências do sindicato, como exigir que os estúdios obtivessem permissão e compensassem os atores pelo uso de suas réplicas geradas por IA. “Se esse princípio não tivesse sido estabelecido, penso que o incentivo económico para usar a replicação e substituir performances humanas teria sido muito mais forte” e “teria resultado numa adoção muito maior e mais rápida da replicação digital”. Se as proteções não tivessem sido codificadas, a Crabtree-Ireland está confiante de que os trabalhadores do entretenimento estariam numa posição muito mais difícil agora.

O diretor executivo do Writers Guild of America East (WGAE), Sam Wheeler, foi muito mais contundente em sua condenação dos “oligarcas da tecnologia que impulsionam a IA em nossa sociedade”, cuja imprudência “só foi igualada por sua desonestidade desenfreada”. Mas embora Wheeler ache difícil aceitar os avisos das empresas de IA ao pé da letra, ele observou que o WGAE “há muito alerta que a inteligência artificial não regulamentada representa uma ameaça existencial para os trabalhadores, para a nossa democracia e para o mundo”.

“Os membros da guilda negociaram proteções significativas de IA em seus contratos; em 2023, os membros do WGA passaram 148 dias em greve antes que os estúdios de cinema e televisão concordassem com salvaguardas reais para os escritores de cinema e televisão”, disse Wheeler. “Mas a negociação coletiva não substitui a regulamentação governamental, e estamos gratos a estados como Nova Iorque que continuam a promulgar regulamentações significativas na ausência de ação federal.”

Wheeler enumerou a falta de poder dos trabalhadores, a degradação da Internet, a propagação da desinformação e o aumento dos custos de energia como alguns dos danos sociais tangíveis que a IA exacerbou. Ele instou os legisladores a não se distrairem com as alegações das empresas de IA de inaugurar um apocalipse, porque o verdadeiro problema em questão é o comportamento irresponsável das pessoas.

“Esses danos são o resultado de decisões tomadas por seres humanos”, insistiu Wheeler. “O WGAE acredita que abordar esses danos concretos e responsabilizar as empresas de IA e os seus executivos pela destruição que os seus produtos causam é a forma mais segura de se proteger contra quaisquer cenários de pior caso.”