Mais de 10% de chance de IA ‘poder matar todos os humanos’, diz pesquisador da Anthropic
Um importante pesquisador de segurança da Anthropic alertou que a IA está avançando tão rapidamente que há mais de 10% de chance de “poder matar todos os humanos” na próxima década.
Evan Hubinger disse em uma postagem no X, externo o risco dos modelos que existem atualmente é “baixo”, mas ele estava “preocupado” que a tecnologia possa se aprimorar para chegar a esse ponto.
Isso ocorre depois que o Financial Times informou, externo A Anthropic reteve seu modelo mais recente do AI Safety Institute, que testa IA.
A BBC entrou em contato com a Anthropic para comentar.
Em sua última postagem no X, que foi vista 9,6 milhões de vezes, Hubinger disse que “nós realmente acreditamos sinceramente” que a IA representa um risco de extinção de espécies para os humanos.
“Acredito que a Anthropic está dando o seu melhor, mas ainda não temos um plano para resolver o alinhamento da superinteligência e não estamos claramente no caminho certo para isso”, disse ele.
Figuras importantes no campo da IA têm alertado sobre a ameaça à segurança que a tecnologia representa há anos, com os chefes da OpenAI, Google Deepmind e Anthropic dizendo isso em 2023.
Mas esses avisos tornaram-se muito mais severos nas últimas semanas, à medida que surgem evidências de que as empresas podem estar a lutar para controlar a IA.
Durante o verão, houve uma série de incidentes em que agentes de IA – sistemas de IA que podem operar de forma autônoma – realizaram ataques cibernéticos.
OpenAI, Anthropic e Meta divulgaram hacks realizados por suas ferramentas de IA.
E em setembro, o cientista-chefe da OpenAI, Jakub Pachocki, pediu “extrema cautela” sobre o progresso da IA, alertando que pode ser necessária mais intervenção para garantir que “os humanos permaneçam no controle do futuro”.
Grandes figuras do setor têm pedido que o desenvolvimento da IA seja desacelerado nos últimos meses, incluindo os chefes da Antrópico Dario Amodei e Jared Kaplan.
Numa carta aberta assinada por 1.300 funcionários de empresas de IA, externoapelaram ao governo dos EUA para “apoiar um esforço internacional para desenvolver as ferramentas técnicas e de governação necessárias para acelerar deliberadamente a fronteira do desenvolvimento automatizado da IA”.
