‘Parece uma configuração’: advertências de ex-funcionários da Antrópico sobre riscos de extinção de IA ridicularizados por Musk.


Linha superior

Elon Musk questionou e criticou as declarações feitas por um ex-pesquisador da Antrópico que levantou o alarme sobre o perigo representado pela IA para os humanos após deixar a empresa, já que o bilionário reforçou alegações infundadas de que a mudança era uma conspiração ou um golpe de relações públicas, apesar de outros pesquisadores de IA sinalizarem preocupações semelhantes.

Principais fatos

O ex-pesquisador antrópico Jacob Coxon levantou suas preocupações em uma série de postagens X na terça-feira acusando tanto a OpenAI quanto a Anthropic de não agirem de forma responsável, “correndo direto para o autoaperfeiçoamento da superinteligência e apostando em nossas vidas”.

A postagem de Coxon de que as pessoas que estão construindo IA acreditam que ela poderia “matar todos nós até o final da década”, e isso não foi um “golpe de marketing”, atraiu mais de 23 milhões de visualizações em X.

Reagindo a uma postagem sobre a duração do mandato de Coxon na Anthropic, publicada pela primeira vez na noite de quarta-feira twittando: “Parece uma configuração.”

Quando alguém apontou que a contagem combinada de visualizações das postagens de Coxon ultrapassou 120 milhões, Musk reivindicado ele não acha que algo assim tenha acontecido com uma “postagem de uma nova conta quase sem atividade anterior”.

Quando o CEO e bilionário da Epic, Tim Sweeney reivindicado que as postagens e reações pareciam “coreografadas”, Musk entrou na conversa novamente alegando, sem qualquer evidência, que esta foi uma faísca que se seguiu ao “trabalho de base” para uma “operação psicológica (por falta de um termo melhor)”, presumivelmente contra a IA.

Tangente

Algumas outras figuras ecoaram as críticas de Musk sobre a postagem e lançaram dúvidas sobre as intenções de Coxon, incluindo o bilionário Bill Ackmanque escreveu “Interessante” ao compartilhar novamente uma postagem alegando que as postagens pareciam ser o “início de uma operação de relações públicas MUITO sofisticada e bem financiada para obter apoio aos democratas para regular a IA até o esquecimento”. David Sacks, que serviu como conselheiro de criptografia e IA do presidente Donald Trump até março, também tentou a Anthropic e escreveu: “Certamente o IPO da Anthropic deve ser pausado até que as alegações deste ‘denunciante’ possam ser investigadas.” Sacos tem anteriormente acusado Antrópico de “executar uma estratégia sofisticada de captura regulatória baseada na disseminação do medo”. O investidor em tecnologia Jason Calacanis, que coapresenta o podcast All-In da indústria de tecnologia com Sacks, também dirigiu suas críticas à Anthropic. Calacanis perguntado se a Anthropic estivesse executando “algum tipo de manual de captura regulatória ou todos que trabalham na Anthropic veem algo que faz seu pdoom (probabilidade de destruição) aumentar?!”

O que sabemos sobre Jacob Coxon?

Eixos relatado que Coxon estava na Anthropic há apenas quatro meses, o que significa que ele deixou a empresa dois meses antes de suas opções de ações na empresa serem adquiridas. A reportagem observou que o pesquisador ainda detém patrimônio de seu empregador anterior, a OpenAI, onde também trabalhou como pesquisador de pré-formação. Em suas postagens X, comparou o trabalho nas duas empresas e disse que os funcionários da OpenAI não “internalizaram profundamente os riscos civilizacionais”, mas acrescentou que a questão era “bem compreendida” na Anthropic. No entanto, ele observou que, apesar disso, o criador de Claude estava “travado numa corrida para chegar lá primeiro”, pois acredita que “ninguém mais agirá de forma responsável, por isso devem fazê-lo eles próprios, apesar do risco”.

Coxon respondeu às críticas?

Depois da brincadeira de Musk “parece uma armação”, Coxon respondeu a ele no X e escreveu: “Eu sou real e essas são minhas crenças reais. Você poderia perguntar sobre mim aos seus pesquisadores xAI se não os tivesse demitido.” Em uma postagem de acompanhamento, Coxon pediu Musk para ajudar, dizendo: “Você falou muito sobre como se sente forçado a entrar nesta corrida e sobre os perigos da IA ​​avançada”.

Tangente

Apesar de criticadas por Musk, as observações de Coxon receberam apoio de vários outros pesquisadores de IA. Evan Hubingerlíder científico de alinhamento da Anthropic, compartilhou novamente as postagens X de Coxon e escreveu que ele e seus colegas “acreditam sinceramente que a IA poderia matar todos os humanos”, e disse que ele pessoalmente acha que há mais de 10% de chance de isso acontecer na próxima década. Hubinger acrescentou então: “Acredito que a Anthropic está dando o melhor de si, mas ainda não temos um plano para resolver o alinhamento da superinteligência e não estamos claramente no caminho certo para isso”.

leitura adicional

Pesquisador antrópico alerta que há ‘> 10% de chance’ de que a IA possa ‘matar todos os humanos’ na próxima década (Forbes)

Ted Cruz diz que prefere ‘robôs assassinos americanos’ aos chineses após aviso de extinção de IA (Forbes)



Source link

Deixe um comentário

O seu endereço de email não será publicado. Campos obrigatórios marcados com *

Botão Voltar ao Topo