Cidade de Nova York proíbe IA em escolas primárias

A cidade de Nova York está reprimindo o uso de IA por cerca de dois terços de seus alunos quando as escolas abrirem na próxima semana.

O sistema escolar público da cidade está planejando impor uma proibição geral de um ano ao uso de IA generativa para ensinar alunos até a oitava série. Os chatbots complementares que alegam oferecer apoio emocional e mental serão banidos para todos os alunos.

“As crianças precisam de professores e de ligação humana para aprenderem e crescerem. Precisam de desenvolver competências juntamente com os seus pares, construir relações com educadores e lutar sozinhas com problemas difíceis”, disse o presidente da cidade de Nova Iorque, Zohran Mamdani, num comunicado de imprensa. “A indústria tecnológica quer que acreditemos que a educação infantil alimentada pela IA não é apenas inevitável, mas necessária. Não vemos as coisas dessa forma. É por isso que estamos a implementar uma moratória sobre a IA generativa para alunos do 2.º ao 8.º ano e a passar o próximo ano a estudar os impactos desta tecnologia.”

Para alunos do ensino médio, Nova York limitará o uso de IA a cinco programas piloto que serão implementados para 5% do corpo discente das escolas públicas, e novos módulos de pensamento crítico de IA semestrais que serão implementados para todos os alunos.

“Os dois módulos de 45 minutos apresentarão aos alunos o que a IA é e o que não é, bem como preconceitos, riscos, considerações éticas e impactos relacionados à IA nas carreiras e habilidades futuras”, disse o gabinete do prefeito no comunicado à imprensa.

Os cinco pilotos limitados incluirão o Quill, que será projetado para “apoiar a leitura atenta, a análise de textos e o uso de evidências para apoiar afirmações” nas aulas de inglês; a Edia, que auxiliará nas aulas de matemática; e Brisk Teaching, que estará disponível em todas as disciplinas para atividades criadas por professores. O uso de cada um será limitado a não mais que 10 a 20 minutos por semana.

Os alunos também terão acesso ao Playlab, que os ensinará a “examinar os resultados da IA ​​em busca de preconceitos e raciocínio, e às Intel AI-Ready Schools”, que os orientará a “identificar problemas da comunidade e desenvolver soluções de IA por meio de projetos semestrais”, disse o gabinete do prefeito.

As diretrizes também restringirão o uso de IA pelos professores. Os professores só poderão consultar ferramentas de IA para tarefas operacionais como planeamento de aulas, tradução e comunicação, e não para avaliar ou aconselhar alunos.

O distrito escolar da cidade de Nova York é o maior do país, com as novas regras definidas para impactar cerca de 600 mil alunos quando entrarem em vigor na próxima semana. O gabinete do prefeito disse que formará uma coalizão de estudantes, educadores, líderes de pais, autoridades eleitas, defensores, parceiros sindicais e especialistas para avaliar a eficiência das novas diretrizes.

Crianças e adolescentes estão recorrendo cada vez mais aos chatbots de IA para obter ajuda com trabalhos escolares, conselhos sobre saúde mental ou até mesmo apoio emocional. Mas o impacto da tecnologia nas mentes ainda em desenvolvimento das crianças ainda não é bem compreendido. Os psicólogos consideram que as crianças e os adolescentes são particularmente vulneráveis ​​às consequências negativas para a saúde mental dos chatbots, muitas vezes apelidadas de psicose da IA. Alguns casos de grande repercussão envolvendo menores e o uso contínuo de chatbots terminaram em tragédia.

Estudos recentes também sugeriram que o aumento do uso de chatbots de IA poderia estar relacionado a um declínio na capacidade cognitiva.

Confrontados com as provas crescentes e insatisfeitos com o anterior projecto de orientação do distrito escolar, um grupo de pais de Nova Iorque exigia uma moratória de dois anos ainda mais longa e abrangente sobre o uso generativo de IA nas escolas.

As diretrizes surgem no momento em que a cidade de Nova York e o estado adotam uma postura mais dura em relação à IA, de data centers a chatbots. No início deste verão, Nova Iorque tornou-se o primeiro estado a emitir uma moratória sobre data centers. Os legisladores estaduais também aprovaram recentemente um projeto de lei histórico sobre segurança de IA que exigirá que as principais empresas de IA desenvolvam, publiquem e cumpram protocolos formais de segurança.

A governadora de Nova York, Kathy Hochul, citada no comunicado de imprensa por elogiar o gabinete do prefeito por divulgar as diretrizes, tem falado abertamente sobre os chatbots de IA e os perigos que eles representam também para os menores.

“Limitar o acesso a chatbots de IA para jovens e garantir que haja isenções de responsabilidade para que eles entendam que esta não é uma pessoa real com quem você pensa que está se relacionando: esse é um exemplo em que acho que a tecnologia precisa ser regulamentada”, disse Hochul ao The Verge’s Podcast do decodificador no fim de semana. “Ficou fora de controle e agora o governo tem que desempenhar uma função para proteger nossos moradores e nossos jovens, os mais vulneráveis.”

O novo mandato também inclui restrições ao uso de laptops e tablets individuais. Os alunos da pré-escola até a segunda série não poderão mais usar dispositivos individuais, enquanto os alunos mais velhos do ensino fundamental enfrentarão limites de tempo de 30 a 45 minutos por dia. Mas serão feitas excepções para estudantes que estejam a aprender inglês activamente ou que vivam com deficiências, bem como para a utilização de software de codificação.