por que os desenvolvedores que fazem as mesmas observações sobre LLMs chegam a conclusões opostas
– Baldur Bjarnason
“Por que você está sendo tão difícil? Isso pode ser uma coisa boa para nós? Como você pode ter tanta certeza?”
Isso foi no final de 2000. Estávamos bebendo na Bacia Hidrográfica de Bristol.
Para aqueles que não estão familiarizados com a Bacia Hidrográfica, é um cinema de arte, centro de excelência em produção de mídia, local de conferências, abriga uma comunidade diversificada de profissionais de mídia e um bar.
Era o lugar em Bristol onde as pessoas da mídia se encontravam. Estudantes, escritores, artistas, acadêmicos, pessoas de cinema, TV e rádio de todos os matizes, escritores e muito mais tendem a frequentar o local em vários momentos ao longo dos anos.
Não sei como é hoje – não vou ao Reino Unido há cerca de uma década – mas ficaria surpreendido se ainda não atraisse esse tipo de público. Pelo menos o que sobrou depois da última década de ruína.
Quando eu estava cursando meu mestrado em Mídia Interativa em 2000, nós, estudantes de mídia interativa, costumávamos distribuir muito. Durante um desses hangouts, encontramos um pequeno grupo de pessoas que afirmavam estar prestes a lançar uma startup pontocom.
Isso foi depois que a bolha das pontocom quebrou. Agora, há um argumento a ser defendido para iniciar uma empresa de tecnologia ou software à medida que o mercado atinge o fundo do poço. Sua concorrência foi eliminada ou está sofrendo. O financiamento pode ser difícil, mas o recrutamento torna-se mais fácil. Você também tende a ter acesso mais fácil a todos os tipos de infraestrutura com preços baixos.
Isto não foi isso. Este era um grupo de jovens que estava iniciando especificamente uma startup financiada por capital de risco, no estilo pontocom, e fazendo as mesmas promessas que você viu na bolha pontocom:
- “Vamos mudar o mundo.”
- “Qualquer pessoa que se inscrever para trabalhar conosco ficará rica.”
- “As opções de ações valerão uma fortuna.”
- “Temos um conceito incrível.”
- “Não, não vou te contar, a menos que você assine um NDA.”
Eles se sentaram em uma mesa cheia de estudantes de mídia interativa e basicamente nos ofereceram um emprego, com opções de ações e benefícios incríveis.
Eu mandei eles se foderem, embora em uma linguagem não tão educada. Naquela época, eu só estava no Reino Unido há algumas semanas como adulto. Eu ainda falava com um nível de franqueza que era até considerado um pouco exagerado por outros islandeses.
Eu era a única pessoa na mesa que estava um pouco cética. Eu disse aos outros que eles nunca mais ouviriam falar desses caras.
“Sim, você vai”, os caras da startup entraram na conversa. Eles ainda estavam à mesa.
“Se esses idiotas entrarem em contato com você, eles vão pedir para você trabalhar de graça, prometendo um futuro incrível.”
“Não, não vamos.” Eles estavam todos bastante bêbados.
Foi nesse momento que um dos meus amigos, outro estudante de mestrado, me chamou de lado e perguntou por que eu estava sendo difícil.
“Porque eles estão mentindo para você, tentando usar você, ou ambos.”
“Mas como você pode ter certeza?”
— Porque nada do que eles estão dizendo faz sentido. Nenhum de nós ouvirá nada de nenhum desses caras novamente. Além disso, você não estava ouvindo antes quando um deles falou sobre como estava preocupado que seu vizinho plagiasse a ideia deles ouvindo as ondas de rádio geradas pela fiação elétrica em seu apartamento? Elas não soam bem.
“Isso pode estar acontecendo! Tenho certeza que já ouvi falar que isso aconteceu com alguém.”
Nunca ouvimos falar de nenhum deles.
As pessoas querem acreditar em magia
Você não precisa gastar muito tempo examinando como os curandeiros e os homeopatas operam para perceber que sua maior vantagem é o desejo incansável das pessoas de serem enganadas. Eles querer acreditar em magia.
Mesmo quando eles sabem melhor. Mesmo quando as pessoas que fazem promessas de magia parecem estar à beira de um sério colapso.
Mas, muitas vezes quando isso acontece, não creio que seja por isso que fiquei sozinho naquela mesa com meu ceticismo. Era mais uma questão de como cada um de nós via a indústria da qual fazíamos parte.
Veja, esta foi uma noite no meio de uma semana, para onde saímos após o término das palestras do dia.
Isso significava que o grupo era formado desproporcionalmente por estudantes em tempo integral, sem família e sem emprego diurno para pagar os estudos.
Éramos pessoas que apenas haviam experimentado a web, o desenvolvimento e o design da web e a mídia interativa como uma coisa nova e poderosa que continha possibilidades infinitas.
E eu, o residente mal-humorado.
Os alunos que estavam no mestrado porque a empresa pontocom para a qual trabalhavam desmoronou estavam todos em casa. As pessoas que estavam estudando porque de repente tinham tempo livre depois que os negócios de seus estúdios de mídia interativa secaram, estavam em casa com seu parceiro assustador que dava em cima de todos os jovens de 20 anos à vista.
Se você vê principalmente o que há de positivo em sua área, promessas vagas de um grande futuro parecem mais atraentes. Se você viu a disfunção em primeira mão, mas ama a indústria apesar de suas falhas, sabe que a imprecisão esconde muitos horrores e decepções sombrias.
As promessas feitas pelos criadores de várias ferramentas de codificação construídas com Large Language Models (LLMs) exploram essa divisão.
Dois grupos no campo do desenvolvimento de software analisam a mesma dinâmica, os mesmos comportamentos e as mesmas características, mas chegam a conclusões diametralmente opostas.
Isso pode parecer desconcertante, mas faz sentido quando você percebe que o desenvolvimento de software já estava dividido:
- Aqueles que acreditam que o desenvolvimento de software e a indústria de software têm crescido cada vez mais – “o software está devorando o mundo” – e isso está apenas fazendo com que isso aconteça mais rápido.
- Aqueles que acreditam que estamos em uma crise de software cada vez maior desde pelo menos 2007.
A nossa actual crise de software – já tivemos algumas – tem vindo a aumentar desde que os EUA desistiram da regulamentação após a crise de 2007. Em vez de reformar e regulamentar as finanças, os EUA decidiram deixar a indústria financeira assumir o controlo de todas as suas indústrias, o que não tem sido muito bom em geral, mas para o software significou que a “qualidade” deixou de ter importância.
- Startups bem financiadas conquistam participação de mercado com produtos subsidiados.
- A grande tecnologia é um aglomerado de oligopólios e monopólios.
- Os projetos internos de software são impulsionados pelos seus efeitos potenciais sobre os preços das ações (“UGC! Não, Web 2.0! Não, blockchain! Não, IA!”).
- O aprisionamento do cliente é uma tática padrão.
Há pouca ou nenhuma desvantagem na baixa qualidade do software. A vantagem de fazer bem o trabalho é limitada em comparação com táticas como aprisionamento, modelos de assinatura desonestos e monopólios
Alguns setores da indústria de software são menos afetados. Outros, como web dev, são mais afetados.
Para ilustrar a falta de uma desvantagem:
O preço das ações da empresa que causou interrupções e destruição económica a nível mundial, a Crowdstrike, mesmo num mercado de ações afetado pela guerra no Irão, é hoje mais elevado do que o seu pico antes da interrupção.
Danos económicos massivos a nível mundial, sem consequências reais.
Isto levou a um campo cujas práticas padrão são um conjunto de maus hábitos e superstições. O desenvolvimento da Web agora é especialmente conhecido por desconsiderar completamente a acessibilidade, os recursos dos dispositivos do usuário e as regulamentações. A maioria das ideias de design centrado no usuário são estranhas aos desenvolvedores modernos. Existem muitos conceitos errados sobre desenvolvimento orientado a testes e programação em pares. A revisão de código é a norma, embora seja praticamente inútil quando praticada.
Quando os desenvolvedores dizem que os LLMs os tornam mais produtivos, você precisa ter em mente que esse é o que eles estão automatizando: disfunção, adulteração como estratégia de design, codificação orientada por superstições e software cuja qualidade realmente não importa, tudo em um ambiente onde o rigor está completamente ausente.
Eles são certo. Os LLMs tornam o trabalho que não importa mais fácil – são todos monopólios, assinaturas, VCs e aprisionamento de qualquer maneira – em uma indústria que não se importa, onde a única coisa que é medida é alguma medida de produtividade idiota que está completamente desconectada dos resultados.
Aqueles que hoje falam mais sobre as disfunções da codificação LLM foram já alertando sobre as disfunções da indústria de software muito antes do início da bolha da “IA”. Os problemas que assolam a indústria são anteriores a esta bolha em particular e muitos profissionais de software estão preocupados com eles há anos.
Da mesma forma, a maioria das pessoas que hoje falam mais sobre os benefícios da codificação LLM eram otimistas em relação ao desenvolvimento de software antes da bolha. Eles não viam nada de errado com a situação anterior, portanto não veem nada de errado em ampliar essa disfunção dez vezes.
Conseqüentemente, há uma divisão no discurso em torno dos LLMs para codificação.
Ambos veem os Grandes Modelos de Linguagem como um mecanismo para ampliar as práticas de software existentes com o mínimo de observação humana.
Um grupo pensa que isto tornará o mundo dez vezes mais rico. O outro acha que será uma catástrofe.
Não há nada que um grupo possa dizer ao outro para mudar a sua opinião, porque o desacordo se deve a uma diferença fundamental na visão do mundo.
Mas se você não está na área de tecnologia e está se perguntando em qual confiar, pergunte-se: você realmente acha que os idiotas da tecnologia já descobriram a codificação?
Ou são um bando de vigaristas egoístas sentados à mesa com otimistas inveterados contando a história de um grande futuro?
Ainda este mês lançarei um pequeno projeto.
A ideia é muito simples:
E se dermos às pessoas mais opções sobre como elas podem apoiar um boletim informativo que não envolva assinatura?
Em vez de cobrar das pessoas entre US$ 25 e US$ 50 por ano por uma assinatura, estou planejando oferecer um pequeno e-book contendo cópias antecipadas dos próximos ensaios emblemáticos que pretendo publicar no boletim informativo, junto com alguns milhares de palavras de ensaios e argumentos que provavelmente não verão a luz do dia em outro lugar.
Esses ensaios usam minha experiência pessoal com desenvolvimento de software e mídia interativa como uma lente para interrogar a evolução da indústria de software e o que podemos aprender com o que perdemos.
Comprá-lo lhe dará a oportunidade de ver os ensaios bem antes de serem publicados e mostrar o argumento que eles apresentam como um todo em um único e-book.
Se isso lhe parece e você não é um seguidor do meu boletim informativo, você pode querer se inscrever. Se você já é assinante, então você tem o meu agradecimento.
