IA não controlada pode fazer com que ‘espécies de silício’ rivalizem com os humanos, alerta Microsoft

Falando ao programa Today na quinta-feira, Suleyman alertou contra as empresas que continuam a criar sistemas de IA capazes de definir os seus próprios objetivos, ganhar dinheiro e possuir ativos.

Isso significaria “essencialmente semear uma nova espécie de silício”, disse ele, que poderia “sem dúvida competir conosco por recursos, não importa o quanto se preocupe com a humanidade e nos ame”.

Os comentários de Suleyman à BBC seguem um ensaio que ele publicou no início desta semana, externono qual questionou a abordagem da Anthropic para treinar seu modelo de IA Claude, apesar de elogiar o chefe Dario Amodei e sua equipe como “pessoas intelectualmente honestas”.

Nele, ele criticou a Anthropic por ensinar sua IA a ter qualidades semelhantes às humanas, uma prática conhecida como antropomorfização, que, segundo ele, fazia parecer que Claude tinha seus próprios desejos, valores e senso de identidade.

Ele também alertou que as empresas de tecnologia correm o risco de criar algo “impossível” de controlar ao tratar a tecnologia como um ser humano.

“As IAs não estão conscientes”, escreveu ele.

“Eles não sentem, vivenciam ou sofrem. Eles não têm preferências inatas ou motivações subjacentes.

“Eles são motores de conclusão de sequência, internamente ocos, projetados para seguir instruções e cumprir metas estabelecidas por humanos.”