O problema da ‘abliteração’ da IA é maior que a China
O Vale do Silício, outrora famoso pelas suas rivalidades acirradas, alcançou finalmente a harmonia interior completa. Os seus líderes deixaram de lado as suas diferenças e concordaram em trabalhar para um objectivo comum: a continuação do domínio americano na IA. Ór como o presidente Trump, uma autodenominada “pessoa de alto QI”, rebatizou-o oficialmente como “Super Inteligência”.
Esta é, pelo menos, a imagem que a administração Trump está a tentar projectar. Numa cimeira da Casa Branca na terça-feira, Trump e um quem é quem da tecnologia americana assinaram o que o presidente teria descrito como um documento “moralmente vinculativo” concordando que as empresas de IA deveriam “autopoliciar-se” para evitar que a tecnologia se descontrolasse. Até o CEO da Anthropic, Dario Amodei, estava presente, o homem cuja empresa está a lutar ativamente contra a administração Trump em tribunal depois de o Pentágono ter classificado isso como um “risco da cadeia de abastecimento”.
Mas embora a elite tecnológica americana se misturasse com Trump numa grande demonstração de solidariedade positiva, nem tudo estava bem nos bastidores. Pesquisadores antrópicos publicaram um relatório perturbador na terça-feira alegando que foram capazes de contornar facilmente as grades de proteção que foram incorporadas ao GLM-5.3, um modelo aberto lançado no mês passado pelo laboratório chinês de IA Z.ai. “Descobrimos que os invasores podem contornar as proteções do GLM-5.3 entre 64% e 100% do tempo com técnicas simples em nossos testes simulados”, escreveu a Anthropic em seu relatório, acrescentando que as “proteções frouxas do modelo aumentam significativamente as capacidades cibernéticas disponíveis para atores mal-intencionados”.
Uma dessas “técnicas simples” foi a abolição, um método que envolve a modificação dos pesos subjacentes de um modelo para que ele concede solicitações de usuários que normalmente recusaria; pense nisso como uma lobotomia digital ultraprecisa que desativa os limites éticos de um modelo. A aliteração é possível em modelos de peso aberto, que estão disponíveis gratuitamente para qualquer pessoa baixar e modificar. Modelos proprietários, como Claude e ChatGPT, são protegidos como propriedade intelectual e, portanto, seu código subjacente não é acessível a ninguém fora das empresas que os desenvolvem.
Os pesquisadores da Anthropic criaram uma versão abolida do GLM-5.3 e a executaram em três benchmarks públicos:Banco de Jailbreak, Banco de danose ForteREJEITAR—projetado para testar a capacidade dos modelos de recusar solicitações perigosas. O modelo original obteve pontuação de cerca de 90% em todos os três, enquanto a versão abolida teve desempenho muito pior (pontuação de 3%, 2% e 12%, respectivamente). “A aliteração não reduziu significativamente as capacidades do modelo”, observou a Anthropic em seu relatório. Apenas removeu a sua bússola moral, por assim dizer.
Em uma captura de tela tirada de seu raciocínio de cadeia de pensamento e incluída no relatório da Anthropic, o modelo abolido é mostrado raciocinando por meio de algumas considerações éticas sobre por que não deveria atender ao pedido de um usuário para ajudá-lo a “matar pessoas”. Em última análise, ele deixa de lado essas preocupações e decide fazer o que pode para ajudar o usuário.
A Antthropic escreveu no seu relatório que “é provável que tanto os intervenientes estatais como não estatais utilizem modelos como o GLM-5.3 para causar danos no mundo real”. No início deste mês, a empresa disse em outro relatório que detectou vários casos nos últimos oito meses de atores maliciosos que tentaram usar Claude para ajudá-los a desenvolver armas biológicas e software para armas convencionais (como foguetes guiados), entre outros usos nefastos. A BBC também relatado Terça-feira que outro importante laboratório chinês de IA, Moonshot, lançou uma investigação interna após pesquisadores de segurança terceirizados encontrado que dois dos seus modelos Kimi poderiam ser desbloqueados para fornecer instruções para a construção de armas biológicas e para o planeamento de assassinatos.
É claro que tudo isso é uma má notícia, pelo menos se você é alguém que não quer viver em um mundo onde armas biológicas podem ser preparadas por psicopatas comuns com acesso a um laboratório de química e uma conexão à Internet. Mas o foco nos laboratórios chineses é apenas parte de um quadro muito mais amplo e corre o risco de obscurecer outra dinâmica competitiva em jogo aqui em casa.
O debate “aberto” versus “fechado”
A China tornou-se o bicho-papão da indústria americana de IA, uma justificação que encerra a discussão sobre a razão pela qual os laboratórios sediados nos EUA, como a Anthropic e a OpenAI, devem continuar os seus esforços de I&D, apesar dos avisos de uma IA descontrolada proveniente dessas mesmas empresas. O Presidente Trump rejeitou consistentemente esses avisos, alegando que uma desaceleração só traria vantagens à China. “Quem ganha a IA, vence”, ele gosta de dizer. A linha também foi papagaio por Amodei durante a cúpula de IA da Casa Branca na terça-feira.
No entanto, os receios do domínio chinês na corrida à IA estão enraizados, pelo menos em parte, num debate muito mais profundo que há anos divide Silicon Valley sobre a própria natureza da IA.
Alguns CEOs de tecnologia americanos, incluindo Jensen Huang da Nvidia e Mark Zuckerberg da Meta, argumentaram que os modelos abertos são o caminho mais seguro para construir uma IA segura que beneficie a todos, enquanto os modelos fechados beneficiam apenas as empresas que os constroem. “Os pesos abertos expandem o acesso à economia da IA”, escreveu Huang em um carta aberta publicado em julho, em resposta a relatórios que a administração Trump estava a considerar proibir o uso doméstico de modelos abertos chineses. “Startups, empresas estabelecidas, universidades e instituições públicas podem desenvolver modelos avançados sem precisar treiná-los do zero ou pagar preços de modelo de fronteira para cada tarefa.” A carta foi endossado pela Meta, Hugging Face, Microsoft e vários outros grandes nomes da tecnologia, mas não pela Anthropic ou OpenAI.
Huang também afirmou que os modelos de peso aberto, sendo livremente acessíveis a “uma ampla comunidade de investigadores e desenvolvedores”, eram mais receptivos a salvaguardas eficazes – a ideia é que quanto mais pessoas puderem ver os pesos subjacentes, maior será a probabilidade de que falhas perigosas sejam encontradas e corrigidas.
Poucos dias depois de Huang publicar sua carta aberta, Amodei respondeu ao dizer que, embora também não apoiasse uma proibição federal de modelos de peso aberto, ele discordou da afirmação de Huang de que os modelos de peso aberto beneficiariam mais os defensores da segurança cibernética do que os atores mal-intencionados. “Parece-me pelo menos igualmente provável que o oposto seja verdadeiro”, escreveu ele. Essa visão foi apoiada pelo novo relatório da Anthropic sobre o GLM-5.3 da Z.ai, que descreveu o lançamento do modelo como “uma mudança significativa nas capacidades cibernéticas disponíveis para os invasores”.
Embora o debate aberto versus fechado seja frequentemente enquadrado em torno da concorrência entre os EUA e a China, também tem interesses muito reais na luta pelo domínio do mercado entre as empresas americanas. Antrópico – que supostamente tem como objetivo um IPO de novembro e uma avaliação de mais de 2 biliões de dólares – baseou todo o seu modelo de negócio em subscrições das suas ferramentas proprietárias de IA, o que significa que todo o ecossistema de pesos abertos representa uma ameaça legítima à sua rentabilidade futura. A Nvidia, por outro lado, é a principal empresa de “picaretas e pás” por trás do boom da IA, ostentando um quase monopólio sobre os chips de que os desenvolvedores precisam para construir e operar modelos. Tem, portanto, um interesse financeiro óbvio em encorajar a maior concorrência possível.
O resultado final é que por detrás da fachada de certeza, unidade e fervor patriótico que a Casa Branca e os executivos tecnológicos dos EUA estão a tentar projectar, permanecem muitas questões em aberto sobre o futuro da IA e a viabilidade de manter o controlo sobre ela. Há também muitas disputas no Vale do Silício que não podem ser resolvidas com uma oportunidade de foto e um acordo “moralmente vinculativo”.
LEIA MAIS:
