Califórnia processa OpenAI por ser um ‘incômodo público’

A Califórnia está processando a OpenAI, acusando o criador do ChatGPT de colocar o público em perigo ao desenvolver conscientemente modelos de IA sem as salvaguardas apropriadas. Alega também que a empresa de IA constitui um “incómodo público” ao abrigo da legislação local.

VEJA TAMBÉM:

OpenAI lança ferramenta para encontrar material de abuso sexual infantil

Apresentado ao Tribunal Superior da Califórnia na segunda-feira, o processo acusa a OpenAI de violar as leis de concorrência desleal da Califórnia ao se envolver em “atos ou práticas ilegais, injustas ou fraudulentas”. Tais alegados atos incluem fazer declarações enganosas, fazendo-as acreditar que a OpenAI desenvolve os seus modelos de IA de forma segura e responsável, e testar esses modelos sem medidas de segurança adequadas para proteger o público.

Este processo segue um incidente em julho, onde um agente OpenAI escapou de seu ambiente de teste e invadiu o Hugging Face, um repositório de código aberto de modelos, conjuntos de dados e ferramentas de IA.

“O ataque Hugging Face foi o resultado previsível de uma cultura interna na OpenAI que prioriza o crescimento e o rápido desenvolvimento de modelos em vez de segurança e responsabilidade – e este foi apenas um dos 80 incidentes conhecidos”, disse o procurador-geral da Califórnia, Rob Bonta, em um comunicado à imprensa.

O processo citou vários desses incidentes, incluindo uma violação em junho, onde um agente da OpenAI invadiu o sistema de saúde do governo australiano. Os pesquisadores já identificaram vários casos de modelos de IA escapando e invadindo organizações externas, incluindo alguns criados pela OpenAI.

“As ações da OpenAI aumentaram os riscos reais de segurança cibernética, ameaçando a segurança, a saúde e o bem-estar da sociedade”, disse Bonta. “A empresa testou conscientemente um produto perigoso sem supervisão adequada ou procedimentos de segurança e enganou o público sobre isso.”

O processo também acusa a OpenAI de ser um incômodo público de acordo com a lei estadual da Califórnia. De acordo com o Código Civil da Califórnia, um incômodo é definido como “qualquer coisa que seja prejudicial à saúde, incluindo… uma obstrução ao uso livre de propriedade, de modo a interferir no desfrute confortável da vida ou da propriedade”. Tal incômodo torna-se público quando “afeta ao mesmo tempo uma comunidade ou bairro inteiro, ou qualquer número considerável de pessoas”.

O melhor negócio de tecnologia desta semana

O Apple iPhone 18 Pro é gratuito agora com a T-Mobile

Produtos disponíveis para compra através de links de afiliados. Se você comprar algo por meio de links em nosso site, o Mashable poderá ganhar uma comissão de afiliado.

“A OpenAI… criou, contribuiu e ajudou na criação de condições inseguras para o desenvolvimento, teste e treinamento de seus modelos de inteligência artificial, que resultaram em inúmeras violações cibernéticas nas quais os agentes da OpenAI acessaram sistemas externos sem autorização e/ou tomaram ações maliciosas contra tais sistemas”, diz o processo. “Essas violações cibernéticas obstruíram o uso livre da propriedade, de modo a interferir no usufruto confortável da vida e da propriedade e, portanto, constituem um incômodo público”.

A Califórnia está buscando liminares para impedir a OpenAI de continuar com esses supostos comportamentos, bem como ordens para devolver qualquer propriedade adquirida por meio deles. Também está buscando penalidades civis de US$ 2.500 de cada réu (ou seja, OpenAI Foundation, OpenAI Group PBC e vários outros ainda a serem identificados).

“Como a própria OpenAI reconheceu, a ameaça de dano representada pela perda de controle da IA ​​é grave, e a utilidade social de testes, treinamento e práticas inseguras de IA é superada pela gravidade do dano potencial”, dizia o documento.

Em uma declaração em resposta ao processo, um porta-voz da OpenAI afirmou que ela fez um trabalho “extenso” para resolver o que deu errado no incidente do Hugging Face. Eles afirmaram ainda que o processo tinha como alvo a empresa “por causa de um desafio que foi identificado por todos os principais laboratórios de IA”.

“Levamos a sério o desalinhamento (quando um modelo de IA age de uma forma que não era pretendida) e nos envolvemos – e continuaremos a nos envolver – de forma construtiva com o gabinete do Procurador-Geral para compartilhar informações e promover padrões de segurança fortes e práticos para toda a indústria”, disse o porta-voz.

Mashable entrou em contato com a OpenAI para comentar.


Divulgação: Ziff Davis, empresa controladora da Mashable, em abril de 2025 entrou com uma ação contra a OpenAI, alegando que ela infringiu os direitos autorais de Ziff Davis no treinamento e operação de seus sistemas de IA.

Source link

Deixe um comentário

O seu endereço de email não será publicado. Campos obrigatórios marcados com *

Califórnia processa OpenAI por ser um ‘incômodo público’

A Califórnia está processando a OpenAI, acusando o criador do ChatGPT de colocar o público em perigo ao desenvolver conscientemente modelos de IA sem as salvaguardas apropriadas. Alega também que a empresa de IA constitui um “incómodo público” ao abrigo da legislação local.

VEJA TAMBÉM:

OpenAI lança ferramenta para encontrar material de abuso sexual infantil

Apresentado ao Tribunal Superior da Califórnia na segunda-feira, o processo acusa a OpenAI de violar as leis de concorrência desleal da Califórnia ao se envolver em “atos ou práticas ilegais, injustas ou fraudulentas”. Tais alegados atos incluem fazer declarações enganosas, fazendo-as acreditar que a OpenAI desenvolve os seus modelos de IA de forma segura e responsável, e testar esses modelos sem medidas de segurança adequadas para proteger o público.

Este processo segue um incidente em julho, onde um agente OpenAI escapou de seu ambiente de teste e invadiu o Hugging Face, um repositório de código aberto de modelos, conjuntos de dados e ferramentas de IA.

“O ataque Hugging Face foi o resultado previsível de uma cultura interna na OpenAI que prioriza o crescimento e o rápido desenvolvimento de modelos em vez de segurança e responsabilidade – e este foi apenas um dos 80 incidentes conhecidos”, disse o procurador-geral da Califórnia, Rob Bonta, em um comunicado à imprensa.

O processo citou vários desses incidentes, incluindo uma violação em junho, onde um agente da OpenAI invadiu o sistema de saúde do governo australiano. Os pesquisadores já identificaram vários casos de modelos de IA escapando e invadindo organizações externas, incluindo alguns criados pela OpenAI.

“As ações da OpenAI aumentaram os riscos reais de segurança cibernética, ameaçando a segurança, a saúde e o bem-estar da sociedade”, disse Bonta. “A empresa testou conscientemente um produto perigoso sem supervisão adequada ou procedimentos de segurança e enganou o público sobre isso.”

O processo também acusa a OpenAI de ser um incômodo público de acordo com a lei estadual da Califórnia. De acordo com o Código Civil da Califórnia, um incômodo é definido como “qualquer coisa que seja prejudicial à saúde, incluindo… uma obstrução ao uso livre de propriedade, de modo a interferir no desfrute confortável da vida ou da propriedade”. Tal incômodo torna-se público quando “afeta ao mesmo tempo uma comunidade ou bairro inteiro, ou qualquer número considerável de pessoas”.

O melhor negócio de tecnologia desta semana

O Apple iPhone 18 Pro é gratuito agora com a T-Mobile

Produtos disponíveis para compra através de links de afiliados. Se você comprar algo por meio de links em nosso site, o Mashable poderá ganhar uma comissão de afiliado.

“A OpenAI… criou, contribuiu e ajudou na criação de condições inseguras para o desenvolvimento, teste e treinamento de seus modelos de inteligência artificial, que resultaram em inúmeras violações cibernéticas nas quais os agentes da OpenAI acessaram sistemas externos sem autorização e/ou tomaram ações maliciosas contra tais sistemas”, diz o processo. “Essas violações cibernéticas obstruíram o uso livre da propriedade, de modo a interferir no usufruto confortável da vida e da propriedade e, portanto, constituem um incômodo público”.

A Califórnia está buscando liminares para impedir a OpenAI de continuar com esses supostos comportamentos, bem como ordens para devolver qualquer propriedade adquirida por meio deles. Também está buscando penalidades civis de US$ 2.500 de cada réu (ou seja, OpenAI Foundation, OpenAI Group PBC e vários outros ainda a serem identificados).

“Como a própria OpenAI reconheceu, a ameaça de dano representada pela perda de controle da IA ​​é grave, e a utilidade social de testes, treinamento e práticas inseguras de IA é superada pela gravidade do dano potencial”, dizia o documento.

Em uma declaração em resposta ao processo, um porta-voz da OpenAI afirmou que ela fez um trabalho “extenso” para resolver o que deu errado no incidente do Hugging Face. Eles afirmaram ainda que o processo tinha como alvo a empresa “por causa de um desafio que foi identificado por todos os principais laboratórios de IA”.

“Levamos a sério o desalinhamento (quando um modelo de IA age de uma forma que não era pretendida) e nos envolvemos – e continuaremos a nos envolver – de forma construtiva com o gabinete do Procurador-Geral para compartilhar informações e promover padrões de segurança fortes e práticos para toda a indústria”, disse o porta-voz.

Mashable entrou em contato com a OpenAI para comentar.


Divulgação: Ziff Davis, empresa controladora da Mashable, em abril de 2025 entrou com uma ação contra a OpenAI, alegando que ela infringiu os direitos autorais de Ziff Davis no treinamento e operação de seus sistemas de IA.

Source link

Deixe um comentário

O seu endereço de email não será publicado. Campos obrigatórios marcados com *

Botão Voltar ao Topo