Nova York testará modelos de IA de forma independente
O centro de pesquisa do estado verificará o trabalho das empresas de IA em vez de acreditar na sua palavra.
À medida que o governo federal nos deixa essencialmente à mercê da indústria da IA, Nova Iorque está a resolver o problema com as próprias mãos. Na terça-feira, a governadora Kathy Hochul lançou o primeiro programa estatal de testes de IA do país. Em vez de confiar que as empresas de IA se autopoliciem, o sistema de Nova Iorque incumbirá investigadores independentes de verificar o seu trabalho. “Os riscos são muito altos para simplesmente acreditar nas palavras das empresas de IA”, afirmou Hochul em um comunicado à imprensa.
O trabalho será conduzido pelo Centro de Responsabilidade e Pesquisa em IA de Nova York da Universidade de Binghamton. Mais de 80 cientistas de Nova York contribuirão. Eles usarão o poder de computação da Empire AI, a parceria público-privada de IA do estado de US$ 500 milhões.
O gabinete de Hochul disse que o centro testará sistemas avançados de IA, estudará os seus riscos e fornecerá evidências para informar as decisões dos funcionários públicos. Também analisará como a IA pode ser usada de forma responsável em áreas como medicina e descoberta científica.
Uma falha potencial no programa é que ele só pode estudar o que as empresas de IA divulgam publicamente. A Lei RAISE de Nova Iorque, assinada por Hochul no ano passado, exige que os grandes criadores de IA se registem no estado até 1 de janeiro de 2027. A partir de então, as empresas terão de publicar estruturas de segurança e relatórios de transparência e reportar incidentes críticos de segurança no prazo de 72 horas. A Lei RAISE não tapará a lacuna dos modelos não lançados, mas pelo menos forçará as empresas a divulgar mais.
