Evitar modelos generativos é a coisa racional e responsável a fazer-acompanhamento de “confiar em seu próprio julgamento em ‘ai …’”
– Baldur Bjarnason
Não recomendo publicar seu primeiro rascunho de uma longa postagem no blog.
Não é uma questão de erros de digitação ou erros gramaticais ou similares. Eles sempre passam por alguma forma e, na maioria das vezes, não afetam o significado ou o argumento do post.
Não, o problema é que, com até um dia ou duas de distância, você tende a detectar lugares onde o argumento pode ser simplificado ou fortalecido, as pontes podem ser fortalecidas simultaneamente e menos óbvias, a ordem pode ser melhorada e você detectar qual dos seus queridos pode ser morto sem afetar o argumento e quais são essenciais.
Geralmente, você compensa a falta de distância da distância com o insight de outras pessoas depois de publicar, que você canaliza para a próxima postagem do blog, e é assim que você desenvolve o mau hábito de publicar os primeiros rascunhos como postagens de blog, mas no exemplo da minha última postagem no blog, Confiar em seu próprio julgamento sobre ‘ai’ é um grande riscoo grande número de respostas que recebi foi demais para eu lidar, então tive que optar por sair.
Então, em vez disso, deixo a distância criativa acontecer-um pré-requisito para qualquer tentativa de auto-edição-trabalhando em outras coisas e fazendo caminhadas.
Durante uma dessas caminhadas ontem, percebi que deveria ser possível condensar bastante o argumento para aqueles que encontram 3600 palavras de exposição e referências difíceis de analisar.
Tudo se resume a quatro problemas interligados:
- É quase impossível para os indivíduos avaliar o benefício ou dano de chatbots e agentes por meio da auto-experimentação. Essas ferramentas acionam vários vieses e efeitos que obscurecem nosso julgamento. Os modelos generativos também têm uma volatilidade dos resultados e distribuição desigual de danos, semelhante aos produtos farmacêuticos, o que significa que é impossível descobrir por si mesmo qual será o impacto social ou mesmo organizacional.
- A pesquisa em tecnologia, software e produtividade é extremamente ruim e é principalmente apenas marketing – muitas vezes replicando as táticas das indústrias de homeopatia e naturopatia. A maioria das pessoas em tecnologia não tem treinamento para avaliar o rigor ou a validade dos estudos em seu próprio campo. (Você pode discordar disso, mas estaria errado.)
- A magnitude pura da bolha “AI” e a quase totalidade da adesão institucional-universidades, governos, instituições-significa que Todo mundo é tendencioso. Mesmo se você não for tendencioso, seu gerente, organização ou financiamento será. Mesmo aqueles que tentam ser imparciais estão trancados em instituições inflacionais de bolhas e sentirão a necessidade de proteger suas carreiras, mesmo que seja inconscientemente. Mais importante, não há como o resto de nós saber a extensão do efeito que a bolha tem sobre os resultados de cada estudo ou artigo individual; portanto, temos que assumir que isso afeta todos eles. Até os feitos por nossos amigos. Os amigos também podem ser tendenciosos. A bolha também significa que a classe executiva e gerenciamento não pode ser confiável em nada. A julgar pelas bolhas anteriores em tecnologia e finanças, as honestas que entendem o que está acontecendo quase certamente já estão fora.
- Quando apenas entendemos alguma coisa, fechamos o loop da observação à crença, confiando no julgamento de nossos pares e figuras de autoridade, Mas esses grupos em tecnologia estão quase certos de estar errados ou substancialmente tendenciosos sobre modelos generativos. Esta é uma tecnologia praticamente feita sob medida para ser apenas meio entendida pela tecnologia em geral. Eles entendem o básico, talvez alguns dos detalhes, mas não totalmente. A “metade” de seu entendimento deixa o espaço cognitivo que permite que essa crença mal fundada se adapte a quaisquer outras crenças que a pessoa possa ter e qualquer contexto em que estivesse sem conflito.
Combine essas quatro questões e temos uma receita para o que é efetivamente uma superstição homeopática se espalhando como um incêndio através de uma comunidade em que todos estão ficando convencidos de que está tornando -os mais saudáveis, mais inteligentes, mais rápidos e produtivos.
This would be bad under any circumstance but the harms from generative models to education, healthcare, various social services, creative industries, and even tech (wiping out entry-level programming positions means no senior programmers in the future, for instance) are shaping up to be massive, the costs to run these specific kinds of models remain much higher than the revenue, and the infrastructure needed to build it is crowding out attempts at an energy transition in countries like Ireland and Iceland.
Se alguma vez houve uma tecnologia em que o ato racional e responsável era adiar e esperar e até que a bolha apareça, “ai” é isso.
