Antrópico afirma estar próximo do autoaperfeiçoamento recursivo

Antrópico afirma estar perto de algo como autoaperfeiçoamento recursivoou RSI, de acordo com a última revisão de seu arquivamento S-1/A, publicada na segunda-feira. O novo aviso na seção “Fatores de risco” do documento é uma atualização sutil, mas notável, detectada pelo TechCrunch.

O RSI, se real, seria um ponto em que um sistema de computador pode melhorar-se autonomamente, e então a versão melhorada seria capaz de melhorar-se, e assim por diante. Uma versão do conceito foi fundamental para meu humilde trabalho sobre “a singularidade” em 2016, mas o jargão mudou com o tempo. O RSI, no que se refere à IA contemporânea, é um conceito um tanto nebuloso, embora alguns detalhes tenham sido discutidos nos últimos anos em espaços on-line racionalistas e eficazes afiliados a altruístas, como Lesswrong. Parece ter evoluído a partir de um termo anterior, “IA semente”, cunhado pelo padrinho do doomerismo da IA, Eliezer Yudkowsky.

Assim, a Anthropic está a revelar aos investidores avessos ao risco – ou talvez a anunciar a um mundo ansioso por saudar o seu deus mecânico – que o RSI pode estar a chegar “iminentemente”. A versão de 26 de outubro do pedido da Anthropic contém uma seção sobre a taxa de “aceleração impulsionada pela IA”, mas a empresa adicionou um trecho afirmando o seguinte:

“(…) as nossas estimativas internas e as nossas expectativas em relação aos modelos futuros, e não aos nossos modelos atuais, indicam que podemos cumprir iminentemente a definição da nossa Política de Escalabilidade Responsável de ‘progresso dramaticamente acelerado atribuível à IA’.”

E sim, Antrópico definitivamente significa alguma versão do RSI. O documento explica isto quando se refere à IA que melhora o seu próprio progresso como “uma das áreas cobertas pela nossa Política de Escalabilidade Responsável, que estabelece os nossos planos para monitorizar e mitigar os riscos à medida que nos aproximamos do que foi denominado ‘auto-aperfeiçoamento recursivo’”.

E de acordo com a minha leitura da Política de Escalabilidade Responsável, a Anthropic afirma que se progresso dramaticamente acelerado atribuível à IA surgissem, a empresa seguiria um padrão bastante surpreendente para prevenir catástrofes relacionadas à IA.

A Antthropic afirma que irá, por exemplo, “explorar formas ambiciosas e possivelmente não convencionais de alcançar níveis de segurança sem precedentes”, e também trazer alguma forma de omnisciência total sobre as suas actividades internas, um estado de coisas que chama de “olhos em tudo”. A política também afirma que a Anthropic se tornaria tão boa em equipes vermelhas que não precisaria mais depender de recompensas de insetos.

Se tudo isso estiver acontecendo “iminentemente”, acho que é melhor que a Anthropic comece a trabalhar nessas ambiciosas novas mitigações.