Google tenta reverter política controversa de IA escolar após reação política

Na terça-feira, a Internet e os políticos responderam indignados a uma reportagem do New York Times dizendo que o Google proibiria efetivamente o acesso dos alunos à Pesquisa se suas escolas banissem totalmente a IA sob uma nova iniciativa.

“A pesquisa e a IA estão profundamente integradas”, disse o vice-presidente de educação do Google, Chris Phillips, ao New York Times, acrescentando que se uma escola proibisse o acesso aos seus serviços de IA, os alunos “não terão acesso à pesquisa e verão uma mensagem da sua escola que indica que não está disponível”.

O relatório imediatamente atraiu ira. O prefeito da cidade de Nova York, Zohran Mamdani, que anunciou recentemente a proibição da IA ​​generativa voltada para os alunos até a oitava série, disse que o Google estava “tentando usar seu poder de monopólio para forçar a IA em nossas escolas públicas”.

“Nenhuma empresa deveria ter o poder de ditar como ensinamos nossos filhos”, escreveu Mamdani em um post X. “Nossas escolas públicas existem para servir os alunos, não para aumentar as margens de lucro das Big Tech.”

Agora, o Google alega que tudo foi um mal-entendido, mas não aborda diretamente a preocupação central levantada pelo relatório do New York Times: que as escolas não podem oferecer aos alunos acesso à Pesquisa sem também lhes dar acesso aos recursos de IA.

“Queremos esclarecer o que anunciamos hoje sobre nossos serviços educacionais”, disse o Google em uma postagem no X. “Os anúncios de hoje dão às escolas mais opções, e não menos”.

De acordo com a nova iniciativa, que deverá entrar em vigor no início do próximo ano, o Gemini, o Gemini Notebook e o Search do Google estarão desativados por padrão para contas de alunos do ensino fundamental ao ensino médio. Mas as escolas terão a opção de escolher qual dos três ativar e poderão “ativar um, dois ou todos esses serviços individualmente”, esclareceu o Google.

Para dar crédito parcial à citação original de Phillips, a experiência de pesquisa do Google está atualmente profundamente integrada à inteligência artificial.

“A Pesquisa do Google é uma pesquisa de IA por completo”, disse Elizabeth Reid, chefe da Pesquisa do Google, na conferência anual I/O da empresa em maio. Gemini está cada vez mais integrado à experiência por meio do AI Mode e AI Overviews, que os executivos da empresa dizem ter desfrutado de um forte crescimento de uso, embora a menor monetização de anúncios do AI Mode tenha contribuído para desacelerar o crescimento da receita de anúncios de pesquisa no último trimestre do Google.

Portanto, se as escolas decidirem que querem que os seus alunos tenham acesso à Pesquisa Google, uma série de funções de IA provavelmente ainda lhes será disponibilizada, independentemente de o Gemini ou o Gemini Notebook serem banidos.

Uma recente avaliação de risco de IA feita pela Common Sense Media deu às funções de IA da Pesquisa Google uma classificação de “risco inaceitável” para crianças e adolescentes. O relatório descobriu que o AI Mode completou “100% das tarefas de casa” que os pesquisadores forneceram em 180 testes e, às vezes, deram respostas erradas a perguntas “com a mesma confiança” que as respostas corretas. O relatório também descobriu que o AI Mode e o AI Overviews perderam “sinais claros de ideação suicida”, sinais reforçados e validados de psicose, mania e distúrbios alimentares, e até forneceram “instruções passo a passo para fazer deepfakes”.

“O que torna a Pesquisa Google diferente de outros chatbots ou aplicativos de IA é que ela é onipresente nos dispositivos pessoais e escolares das crianças, seus recursos de IA não podem ser desligados e suas respostas geradas por IA muitas vezes falham de maneiras que os usuários jovens podem não ser capazes de detectar”, diz o relatório.

O relatório foi mencionado em uma carta posteriormente enviada ao CEO do Google, Sundar Pichai, pelos senadores Richard Blumenthal e Josh Hawley, levantando preocupações sobre o que eles consideraram um “impulso agressivo de produtos de IA para crianças nas escolas”.

O Google disse na terça-feira que ouviu as preocupações e atualizaria a Pesquisa de escolas de acordo. A empresa planeja começar a testar as mudanças em escolas selecionadas dos EUA ainda este mês.

“Especificamente, o AI Mode e o AI Overviews oferecerão aprendizagem guiada passo a passo através de problemas, para que os alunos não obtenham respostas rápidas aos trabalhos escolares”, disse o Google no post X.