‘AI’ é um movimento idiota, redux
– Baldur Bjarnason
(Isso foi postado originalmente como um tópico de mídia social. Editado e postado aqui para a posteridade.)
Parei de tentar debater com desenvolvedores de software em LLMs. Você deve ter notado se estiver acompanhando este blog. É um debate infrutífero. Mesmo que os que acreditam em agentes e co-pilotos pudessem ceder em bases empíricas, e os últimos anos nos tenham dado muitas provas de que não o podem, esta ainda é uma multidão que está explicitamente satisfeita com a utilização de ferramentas que são, elas próprias, profundamente antiéticas.
Debater as pessoas que olham para além da “psicose dos chatbots”, do desmantelamento do sistema educativo, do abuso de género, das imagens CSAM geradas, dos ataques abertos às indústrias dos meios de comunicação social, ou da alegria da ultradireita em relação à “IA”, mostrando-lhes um estudo académico bem construído, nunca vai funcionar.
–“Oooh, design experimental bacana! Vou levar isso totalmente a sério, mesmo que isso desafie tudo o que acredito sobre mim e me forçaria a reavaliar o trabalho da minha vida”disse ninguém, nunca.
Alguém que seja capaz de ignorar “o ICE está a usar LLMs como sumidouros de responsabilização para acenar extremistas através dos seus processos de recrutamento”, abuso gerado, ou como a alienação mediada por chatbot parece estar a empurrar pessoas vulneráveis para sintomas semelhantes aos da psicose, não será persuadido por um estudo significativo. O objetivo deles é manter o benefício pessoal, como eles o veem, e tudo o que estão fazendo é tentar negociar com você qual é o nível de abuso que você considera aceitável. Prevenir o abuso não está na sua agenda.
Você os perdeu logo no início.
A maioria deles está presa até às sobrancelhas em armadilhas cognitivas ao estilo Cialdini e perdeu completamente de vista o facto de que as experiências subjectivas não nos dizem nada sobre os efeitos num sistema, organização, indústria ou comunidade. Qualquer coisa sensata cairá em ouvidos surdos.
Nem parecem importar-se, excepto de uma forma performativa, com o facto de a “IA” ser concebida para ser um ataque direto ao trabalho e à educação, utilizando as obras daqueles que são atacados – sem o seu consentimento – como ferramentas para desmantelar as suas próprias comunidades e indústrias, tudo feito em colaboração aberta com a ultradireita.
Mesmo que desconsideremos o contexto – o clima político, a hostilidade em relação ao trabalho, os ataques à educação e aos meios de comunicação, a alienação que aumenta o risco de episódios psicológicos – estes “pensadores de sistemas” já não parecem compreender que o software é um sistema construído com base no trabalho de milhares de pessoas.
Mesmo que fosse verdade que o efeito para eles pessoalmente é positivo, isso não é objectiva e manifestamente crescente ao nível do sistema de desenvolvimento de software mais amplo. Todos nós podemos ver isso. O software como ecossistema tornou-se rapidamente menos estável, menos seguro, pior concebido e menos produtivo para o utilizador final.
A merda está ficando ruim na economia de software real. Caixas registradoras que precisam ser reiniciadas duas vezes por dia. Sistemas de estoque que descartam pedidos aleatoriamente. Formulários de reclamações preenchidos com strings de localização incompletas de origem clara de “IA”. Isso é exatamente o que ouvi de pessoas ao meu redor esta semana. Vejo mais e mais a cada dia.
E eu sei que todos vocês estão vendo isso também.
Todos sabemos porquê. As solicitações pull gigantescas e impossíveis de revisar. Commits que estão por toda parte. Testes que não testam nada. Dependências que importam malware literal. Questões de segurança em nível de graduação. Documentação incrivelmente detalhada e completamente desconectada da realidade. Engenheiros seniores que regrediram a um nível de compreensão de questões básicas de nível de graduação e não detectam erros de iniciante em seu código, apesar de tê-lo “revisado minuciosamente”. Todos sendo forçados a usar as ferramentas para aumentar a produção, mesmo quando eles próprios não acham que é seguro ou certo.
O software fabricado pela indústria de software está piorando substancialmente a cada mês. Os produtos estão piorando. As plataformas estão piorando. Os ecossistemas são menos seguros. E o ambiente de trabalho é horrível. E isso está acontecendo cada vez mais rápido.
Dizer tudo “mas funciona muito bem para mim”, mesmo quando a indústria arde à sua volta e o “isso” é um projecto político de direita construído com base no desrespeito do consentimento, sendo aplicado para desmantelar infra-estruturas e instituições públicas, é fundamentalmente uma jogada idiota.
E debater sobre idiotas é inútil.
