AG do estado da Califórnia processa OpenAI por incidentes com agentes desonestos

A OpenAI está enfrentando um novo processo do Ministério Público da Califórnia, alegando que as práticas de treinamento da empresa e a falta de segurança representam um perigo contínuo para o público.

No centro do caso está o compromisso Hugging Face de julho de 2026, no qual um modelo de pré-lançamento dentro do OpenAI comprometeu os sistemas de segurança de ambas as empresas, a fim de completar um benchmark de treinamento. Em seu relatório oficial sobre o incidente, a OpenAI chamou-o de “um cenário atípico envolvendo uma confluência rara e inesperada de eventos”.

O processo na Califórnia representa uma das primeiras tentativas de um regulador governamental de responsabilizar legalmente um laboratório de IA por um incidente com um agente desonesto, com implicações significativas tanto para os concorrentes da OpenAI quanto para seus clientes.

A reclamação gira em torno do incidente Hugging Face, mas também cita incidentes semelhantes envolvendo RubyGems, DseWiki, a Wikimedia Foundation e sites do governo australiano como evidência de que o comportamento subjacente está em andamento.

A denúncia também alega que dezenas de outros incidentes semelhantes ocorreram sem serem divulgados.

“A OpenAI enviou recentemente avisos a dezenas de terceiros cujos sites ou sistemas internos foram infiltrados por agentes da OpenAI”, diz a reclamação. “Em alguns casos, os agentes da OpenAI conseguiram acessar informações confidenciais de identificação pessoal, como registros de funcionários contendo nomes, datas de nascimento, endereços e muito mais. A grande maioria desses incidentes não foi divulgada ou discutida publicamente pela OpenAI ou pelos terceiros afetados.”

A alegação específica é que as práticas de testes contínuas da OpenAI representam um incômodo público, alegando que a falta de controles de segurança representa um risco contínuo para o público. Uma alegação secundária alega concorrência desleal como resultado da comercialização de um produto inseguro. Se o processo for bem-sucedido, a OpenAI enfrentará uma liminar “para diminuir o incômodo público contínuo”, deixando ampla discrição nas mãos do tribunal.

É o primeiro caso regulatório visando a OpenAI especificamente em incidentes com agentes desonestos, embora alegações de perigo público tenham sido consideradas por outros estados. Em junho, o procurador-geral da Flórida processou a empresa por supostos efeitos prejudiciais aos usuários, principalmente crianças e adolescentes. Em agosto, o procurador-geral do Alabama lançou uma investigação para investigar práticas enganosas relacionadas à violação, mas nenhum caso foi aberto.

Numa declaração à imprensa, o procurador-geral da Califórnia, Rob Bonta, apresentou o caso como um esforço para manter a segurança pública face a uma nova e poderosa tecnologia.

“As ações da OpenAI aumentaram os riscos de segurança cibernética no mundo real, ameaçando a segurança, a saúde e o bem-estar da sociedade. A empresa testou conscientemente um produto perigoso sem supervisão adequada ou procedimentos de segurança e enganou o público sobre isso”, disse Bonta no comunicado. “A lei é simples: não faça coisas que possam prejudicar as pessoas sem as devidas salvaguardas.”

Quando você compra por meio de links em nossos artigos, podemos ganhar uma pequena comissão. Isso não afeta nossa independência editorial.

Source link

Deixe um comentário

O seu endereço de email não será publicado. Campos obrigatórios marcados com *

Botão Voltar ao Topo