Agentes de IA estão hackeando sistemas. Isso poderia levar os EUA e a China a cooperar?
A corrida pela IA há muito que é enquadrada como um jogo de soma zero: ou os EUA ou a China vencerão no final. Mas à medida que se acumulam preocupações em torno das crescentes capacidades dos modelos de IA – especialmente dos agentes de IA – os investigadores de ambos os países estão a tentar unir-se para trabalhar na segurança da IA. Esta semana, a editora colaboradora Zoë Schiffer fala com o redator sênior Will Knight sobre o que ele viu e ouviu no terreno quando visitou a China neste verão – e por que os dois países podem realmente precisar começar a trabalhar juntos para evitar uma grande catástrofe de IA.
Este é o nosso segundo episódio da nossa série de férias de verão. Voltamos na próxima semana com a nossa habitual mesa redonda.
Artigos mencionados neste episódio:
Você pode seguir Zoë Schiffer no Bluesky em @zoeschiffer e Will Knight no Bluesky em @willknight. Escreva para nós em (e-mail protegido).
Como ouvir
Você sempre pode ouvir o podcast desta semana através do reprodutor de áudio desta página, mas se quiser se inscrever gratuitamente para obter todos os episódios, veja como:
Se você estiver em um iPhone ou iPad, abra o aplicativo chamado Podcasts ou simplesmente toque neste link. Você também pode baixar um aplicativo como Overcast ou Pocket Casts e pesquisar “vale misterioso”. Estamos no Spotify também.
Transcrição
Nota: Esta é uma transcrição automatizada, que pode conter erros.
Zoë Schiffer: Este é o WIRED Vale Estranho. Sou Zoë Schiffer, editora colaboradora. Se você tem acompanhado as notícias de tecnologia neste verão e, definitivamente, se está ouvindo o programa, provavelmente já sabe que a China tem estado bastante nas manchetes, especialmente quando se trata da corrida pela IA. Os modelos abertos do país continuam a colmatar a lacuna em relação aos modelos fronteiriços dos EUA, pelo que algumas pessoas estimam ser uma fracção do custo. Por sua vez, os EUA mantiveram as suas rígidas restrições aos chips e aos controlos de exportação para abrandar a ascensão da China. Pensamos no avanço da IA de muitas maneiras como uma soma zero: se a China vencer, os EUA perderão e vice-versa. Mas há uma preocupação que realmente vai além dessas linhas: é sobre a segurança da IA.
Áudio de arquivo: Os riscos de segurança cibernética da IA têm sido os mais lembrados depois que vários agentes de IA da OpenAI e da Anthropic saíram de seus recintos.
Zoë Schiffer: Notícias de agentes de IA hackeando plataformas adicionaram urgência a esse problema durante o verão. Por sua vez, os funcionários do governo foram forçados a prestar atenção e agir na regulamentação da IA.
Áudio de arquivo: O presidente Trump assinou uma ordem executiva pedindo às empresas de tecnologia que dêem ao governo a supervisão de novos modelos de IA antes do seu lançamento público.
Zoë Schiffer: Então, os EUA e a China poderiam realmente beneficiar do trabalho conjunto? E o que seria necessário para que isso acontecesse? No início deste verão, o correspondente sênior da WIRED, Will Knight, visitou a China para obter algumas respostas. Will Knight, muito obrigado por estar aqui.
Cavaleiro: Obrigado por me receber.
Zoë Schiffer: OK, então quero começar com sua viagem. Você foi à China no início deste verão e, na época, não ouvíamos muito sobre a segurança da IA nos EUA. Na verdade, parecia que, com o segundo mandato de Trump na Casa Branca, era como se fosse um enquadramento de que os EUA precisam de vencer, e a segurança da IA quase começou a soar como anti-crescimento. Mas estou curioso para saber o que vocês ouviram e viram na China no que diz respeito à segurança da IA.
