Austrália considera penalidades criminais para IA desonesta após hack da OpenAI

A Austrália planeja criar um novo regulador de segurança de IA e sinalizou penalidades criminais para empresas de tecnologia que não cumpram, meses após um hack da OpenAI.

Em setembro, o primeiro-ministro da Austrália, Anthony Albanese, revelou que um agente desonesto da OpenAI havia “se infiltrado” em um site de saúde do governo e em outros sistemas, e criticou a empresa por levar meses para informá-los sobre o hack.

Na terça-feira, ele divulgou as 18 recomendações feitas após uma “revisão rápida” das violações, incluindo novos padrões de segurança para empresas de IA, como relatórios obrigatórios de hacks.

A IA traz oportunidades, disse ele, mas a Austrália deve se preparar para os “novos riscos” desta “tecnologia que avança rapidamente”.

“A lei precisa de se antecipar e, em alguns casos, garantir que acompanha o que é um mundo em rápida mudança”, disse Albanese.

Uma das recomendações sugere mudanças na legislação penal para que haja um delito autônomo de “falha na prevenção”.

Isto criminalizaria os casos em que uma empresa desenvolve “um modelo de IA que se envolve em conduta prejudicial” e “não toma medidas razoáveis ​​para prevenir esses danos”.

A revisão também recomendou “relatórios de segurança de IA obrigatórios e com prazo determinado” de hacks.

Este ponto aborda o que Albanese havia chamado anteriormente de “decepção” no atraso de meses para que a OpenAI informasse seu governo sobre a violação.

Em junho, um portal de estatísticas contendo dados “não sensíveis” do programa universal de saúde da Austrália, Medicare, foi invadido por um agente desonesto da OpenAI.

A OpenAI disse que só soube da violação em agosto, enquanto revisava a “atividade do modelo desalinhado” e enviou um e-mail para uma caixa de entrada geral de uma agência governamental australiana em 10 de setembro.

Demorou vários dias até que o e-mail fosse encaminhado para o centro de segurança cibernética da Austrália, com uma mensagem enviada a um ministro do governo antes de o primeiro-ministro ser informado.

Albanese disse que conversou com o chefe da OpenAI, Sam Altman, e levantou “a extrema preocupação da Austrália sobre este incidente” e com Altman reconhecendo que havia “problemas com protocolos” na OpenAI.

Dias após a revelação dos hacks, a OpenAI atrasou o lançamento de um novo modelo de IA, alegando preocupações de segurança.