O contágio do medo

O contágio do medo (via) Bryan Cantrill responde ao tweet do ex-funcionário da Anthropic, Jacob Coxon, confirmando que muitos pesquisadores da Anthropic acreditam que a IA “poderia matar todos nós até o final da década”.

Bryan conta a história de seus próprios erros juvenis que causaram pânico injustificado entre colegas menos técnicos e alerta contra fazer o mesmo:

Estas afirmações macabras atingem descaradamente o coração e, dada a importância óbvia da IA, não é surpreendente que tenham saltado para o mainstream, com as pessoas a fazerem a pergunta natural: como é que isso aconteceria? As respostas sempre dependem de extrapolações manuais para o futuro; por exemplo, Jacob Coxon cita “hackeamento de infra-estruturas críticas” e “armas biológicas em nível de extinção” sem maiores explicações. Mas Coxon não é especialista em infra-estruturas críticas, nem em armas biológicas – nem, aliás, em extinção. (…)

Dito isto, não devemos esperar que o público compreenda os LLMs, as infra-estruturas críticas, as armas biológicas, a biologia da extinção, etc. – esse fardo deve recair sobre aqueles que fazem a afirmação. A lição que aprendi (vergonhosamente) há décadas é que os especialistas no domínio, através da sua experiência, detêm implicitamente a confiança do público – e não devemos abusar dela. Cabe-nos ser cautelosos nas nossas reivindicações – e ao máximo ao dar o alarme.

Bryan falou sobre suas dúvidas sobre as preocupações com armas biológicas no recente episódio de Oxide and Friends do qual participei. Você pode ouvir mais sobre o que ele pensa sobre isso a partir dos 51m44s desse episódio. Aqui estão 57m04s:

Eu realmente acho que precisamos ter cuidado porque é tão fácil ser dominado pelo medo quando inventamos isso… isso pode lhe dar armas biológicas. Tipo, como? Quero dizer, podemos pedir a um biólogo que avalie isso? Ou podemos ter alguém com experiência com armas biológicas? (…) A coisa da arma biológica só me incomoda porque deixa tanto para a imaginação que a gente insere com medo.