OpenAI lança ‘sala de guerra’ para monitorar eleições intermediárias

Um grupo de funcionários selecionados da OpenAI passará o dia 3 de novembro na nova “sala de guerra” eleitoral do gigante da IA, com a tarefa de monitorar o papel do ChatGPT na máquina política.

A empresa anunciou, via Politico, que iria convocar o seu próprio Centro de Operações Eleitorais antes das eleições nacionais da próxima semana, com a tarefa expressa de detectar potencial uso indevido dos seus modelos de IA.

“Fizemos um esforço considerável para garantir que ajudamos os usuários a obter informações eleitorais confiáveis, combater o uso indevido de nossas ferramentas e apoiar os defensores eleitorais. O Centro de Operações Eleitorais se baseia no trabalho de um ano, reunindo nossas equipes para responder rapidamente às questões emergentes e aplicar nossas políticas à medida que as pessoas vão às urnas”, disse Josh Lawson, chefe de risco cívico e estratégico da OpenAI, ao Decoded by Politico.

Outros gigantes da tecnologia desviaram recursos para a integridade eleitoral nos últimos anos, incluindo a iniciativa de educação eleitoral e alfabetização de IA da Microsoft e os gastos de US$ 30 bilhões da Meta para promover suas iniciativas de segurança eleitoral, após alegações de que suas plataformas semearam discórdia política.

Em plena eleição presidencial de 2024, uma coligação de empresas tecnológicas comprometeu-se a trabalhar em conjunto para combater o potencial da IA ​​generativa para minar as eleições globais. O acordo incluiu compromissos com a educação pública em massa, políticas de IA mais transparentes e ferramentas de detecção robustas para conter a propagação de deepfakes políticos.

Mesmo assim, muitos continuam preocupados com o papel da IA ​​nas campanhas de desinformação eleitoral. De acordo com o órgão de vigilância da desinformação NewsGuard, as campanhas de desinformação dirigidas por governos estrangeiros aumentaram antes do dia das eleições, principalmente amplificadas em plataformas de redes sociais como X. Mais de metade dos americanos foram enganados por tal desinformação eleitoral, e as Notas da Comunidade de X não conseguiram identificar mais de 93 por cento de tais publicações, de acordo com a investigação da organização.

Um relatório do Brennan Center for Justice descobriu que as proteções nos principais modelos de IA, incluindo Gemini e Meta AI, não conseguiram impedir a geração de imagens eleitorais falsas – o ChatGPT foi o único modelo que mostrou alguma melhoria na redução de imagens fotorrealistas, de acordo com as conclusões do centro. Mas os testes do NewsGuard do ChatGPT Images 2.5 da OpenAI descobriram que o modelo gerava repetidamente imagens realistas de candidatos políticos quando solicitado.

Enquanto isso, um número crescente de americanos está recorrendo a chatbots para ajudá-los a encontrar informações sobre pesquisas, pesquisar candidatos e até mesmo preencher suas cédulas.

O proprietário da SpaceXSI (ex-xAI), Elon Musk, contribuiu pessoalmente com mais de US$ 366 milhões para os esforços eleitorais republicanos antes das eleições de 2026, tornando-o um dos megadoadores mais prolíficos da história recente.