Pesquisador antrópico desiste com um aviso: a IA auto-aperfeiçoada poderia "mate todos nós"
Hoje em dia, quando um pesquisador proeminente deixa o emprego em um laboratório de IA de ponta, muitas vezes é para buscar uma nova startup ou protestar contra um novo modelo de negócios. Mas o investigador de IA Jacob Coxon está a aproveitar a sua saída da Anthropic para alertar publicamente que as empresas fronteiriças de IA estão a “jogar com as nossas vidas” com sistemas que “acreditam sinceramente… que poderão matar-nos a todos até ao final da década”.
Num tópico nas redes sociais na terça-feira à noite, Coxon disse que este risco existencial é inerente não tanto aos modelos actuais, mas mais à perspectiva iminente de “superinteligência auto-aperfeiçoada” criando “sistemas sobre-humanos que podem hackear qualquer coisa, revolucionar qualquer campo da noite para o dia, e adquirir poder e recursos reais”. Outros que trabalham nestes modelos ou não “internalizaram os riscos civilizacionais” ou acreditam que precisam de “acelerar” a corrida à superinteligência para evitar que uma parte irresponsável chegue lá primeiro, escreveu ele.
Para que você não pense que este é apenas um pesquisador que está de partida expressando uma opinião impopular, o líder da Anthropic Alignment Science, Evan Hubinger, interveio nas redes sociais para dizer que “Jacob está correto aqui – nós realmente acreditamos sinceramente que a IA poderia matar todos os humanos! Pessoalmente, acho que será> 10% na próxima década.”
Leia o artigo completo
Comentários
