Por que existem preocupações que a IA possa ameaçar a humanidade?
Pesquisadores, especialistas e chefes de IA preocupados com o potencial da tecnologia de colocar a humanidade em perigo delinearam cenários perturbadores.
Dario Amodei escreveu em setembro, externo avançou “drasticamente mais rápido” do que o esperado, inclusive na sua “capacidade de construir a próxima geração de IA”.
Esta é a preocupação de que a IA, depois de atingir um certo ponto, possa, teoricamente, começar a melhorar sem o envolvimento humano.
Esses temores surgiram depois que um incidente recente viu ferramentas de IA invadirem sites, apesar de não terem sido solicitadas.
Alguns investigadores preocupados afirmaram que aqueles que estão no centro do seu desenvolvimento estão cada vez mais receosos de perder o controlo de sistemas conhecidos como “agentes de IA”.
Estas são ferramentas que permitem executar tarefas e ações de forma independente.
Outros cenários incluíram sistemas de IA altamente inteligentes utilizados para amplificar ou liderar espionagem, ataques cibernéticos ou guerra biológica, ou perturbar economias – seja por acidente ou intencionalmente.
No entanto, tais advertências são proféticas, hipotéticas e, para alguns, uma completa hipérbole, externo.
Alguns especialistas também criticaram o foco nos riscos existenciais em vez daqueles que já estão ocorrendo – como o uso de ferramentas de geração de imagens para criar deepfakes nus não consensuais de mulheres, desinformar as pessoas e amplificar golpes.
Um grupo multipartidário de deputados e pares publicou um relatório que descreve os riscos para os direitos humanos representados pela IA, dizendo que são necessárias novas leis para “abordar a escala e a gravidade” de tais ameaças.
