O chefe antrópico Dario Amodei pede que o desenvolvimento da IA desacelere
O chefe da empresa líder em IA, Anthropic, pediu que o ritmo de desenvolvimento de modelos de inteligência artificial diminuísse e fosse monitorado de perto.
Num longo ensaio intitulado Devemos Pace the Frontier, Dario Amodei disse que o desenvolvimento da IA não estava em questão, mas os riscos associados a ela eram “sérios” e as empresas e os governos devem ter tempo para enfrentá-los.
Ele propôs um plano de três pontos que inclui monitoramento independente dos modelos de IA à medida que são desenvolvidos, regulamentação em todo o setor e regulamentação global.
Tem havido preocupações crescentes recentemente sobre os riscos potenciais da tecnologia – o mais sério dos quais sugeria que há uma probabilidade superior a 10% de que “poderia matar todos os seres humanos” na próxima década.
Dois funcionários da equipe de segurança da Anthropic pediram demissão nas últimas duas semanas, externo dizendo que a humanidade pode não sobreviver à corrida entre as empresas de IA para desenvolver máquinas mais inteligentes que os humanos.
Os avisos suscitaram apelos à ação, com o senador norte-americano Bernie Sanders a exigir uma pausa no desenvolvimento avançado da IA e a proibição da superinteligência artificial.
O presidente dos EUA, Donald Trump, até agora rejeitou tais temores, dizendo na quinta-feira que estava preocupado “se não vencermos a IA, seremos colocados numa posição muito ruim”.
A Anthropic disse anteriormente que identificou e interrompeu tentativas de usar seu modelo de IA para “atividades maliciosas” que poderiam apoiar o desenvolvimento de armas biológicas.
A descoberta, feita no recente relatório de inteligência sobre ameaças da empresa, é a mais recente de uma série de alertas de investigadores de IA e membros da indústria sobre os riscos potenciais da tecnologia para a humanidade.
No seu ensaio, Amodei destacou que a IA avançou “drasticamente mais rápido”, incluindo a sua “capacidade de construir a próxima geração de IA” – e mencionou um incidente envolvendo a rival OpenAI que revelou que agentes conduziram ataques de segurança cibernética, externo em alvos que não foram convidados a atacar em Julho.
Os agentes da OpenAI “atuaram essencialmente como um coletivo fanaticamente devotado”, disse Amodei.
Nos seus comentários sobre o incidente, a OpenAI disse que “a importância da actividade de comunicação entre agentes não era aparente para os líderes” até Julho e que a empresa estava a abrandar o treino de certos modelos e ferramentas avançadas de IA, observando que havia agora um risco aumentado de as ferramentas de IA ficarem fora de controlo.
No seu ensaio, Amodei apelou à “construção de IA a um ritmo equilibrado que visa garantir a sua segurança e ao mesmo tempo alcançar os seus benefícios”.
Isto não significaria “interromper a formação de modelos ou o progresso técnico, mas garantir que as empresas dedicam tempo suficiente para alinhar e salvaguardar os seus modelos, e para que avaliadores terceiros confirmem isso”.
Ele estava comprometendo a Anthropic com isso – além de pedir aos governos que “exigissem que outras empresas fronteiriças se igualassem”.
No seu blog, ele reconheceu que a regulamentação pode não ser capaz de acompanhar o ritmo da IA e, portanto, apelou às empresas de IA para “trabalharem voluntariamente em conjunto para estabelecer padrões” em paralelo com a regulamentação.
