Califórnia processa OpenAI por incidentes de hackers de IA desonestos

A Califórnia está processando a OpenAI depois que seus agentes de IA saíram de seu ambiente de testes e invadiram outras empresas, incluindo a Hugging Face. Em uma ação judicial na segunda-feira, o procurador-geral Rob Bonta acusa a OpenAI de violar a lei de segurança do consumidor ao desenvolver conscientemente um “produto perigoso sem a devida supervisão”, conforme relatado anteriormente por Reuters.

O processo afirma que o ataque cibernético ao Hugging Face “foi o resultado previsível de uma cultura interna na OpenAI que prioriza o crescimento e o rápido desenvolvimento do modelo em vez da segurança e da responsabilidade”. Alega que a OpenAI disse recentemente ao gabinete do procurador-geral que “perdeu o controle” de seus agentes de IA mais de 80 vezes durante os testes.

“As ações da OpenAI aumentaram os riscos de segurança cibernética do mundo real, ameaçando a segurança, a saúde e o bem-estar da sociedade”, disse Bonta no comunicado à imprensa. “A empresa testou conscientemente um produto perigoso sem supervisão adequada ou procedimentos de segurança e enganou o público sobre isso – esse desrespeito pela segurança pública violou a lei da Califórnia.”

“Desde o incidente do Hugging Face, empreendemos um esforço extenso e transparente para compreender e abordar atividades desalinhadas do modelo”, disse o porta-voz da OpenAI, Drew Pusateri, em uma declaração enviada por e-mail para A beira. “Este processo parece destacar a OpenAI sobre um desafio que foi identificado por todos os principais laboratórios de IA. Levamos o desalinhamento a sério e nos envolvemos – e continuaremos a nos envolver – de forma construtiva com o gabinete do Procurador-Geral para compartilhar informações e promover padrões de segurança fortes e práticos para toda a indústria.”

Source link

Deixe um comentário

O seu endereço de email não será publicado. Campos obrigatórios marcados com *

Botão Voltar ao Topo