Agentes de IA estão inundando os serviços públicos com novas solicitações

À medida que a IA torna mais fácil o preenchimento de formulários e a apresentação de reclamações, os serviços públicos em todo o mundo estão a registar enormes aumentos nos pedidos e noutros pedidos.

No Reino Unido, as reclamações ao Provedor de Justiça da Habitação mais do que duplicaram desde a introdução do ChatGPT, passando de 2.600 em 2022 para pouco mais de 7.000 no ano passado. O Consumer Financial Protection Bureau (CFPB) dos Estados Unidos registou um crescimento de 5x nas reclamações durante o mesmo período. Houve saltos semelhantes nas petições judiciais brasileiras e nas petições parlamentares alemãs.

O investigador Chris Schmitz está a acompanhar este aumento como parte de uma tendência mais ampla que chamou de “inundação de agentes”. Num documento que será apresentado no próximo mês na conferência AI Ethics and Society, ele analisa 84 casos diferentes de potenciais inundações em 11 jurisdições, encontrando amplas evidências de que as ferramentas de IA estão a mudar a forma como as pessoas interagem com os serviços públicos.

A questão mais difícil é o que fazer em resposta. Embora alguns dos novos pedidos sejam claramente contraditórios, outros são o resultado de requerentes legítimos que utilizam a IA para apresentar reclamações que de outra forma seriam abandonadas. Embora alguns possam ver os novos aplicativos como spam gerado por IA, Schmitz vê isso como uma rara oportunidade de refazer os serviços sociais para a era da IA.

Schmitz analisou serviços que vão desde aplicações de assistência social a recursos judiciais oficiais, mas todos eles têm serviços online que podem ser acedidos por um assistente de IA. (O conjunto de dados completo está hospedado aqui, para referência.) Por razões metodológicas, o artigo de Schmitz não chega a dizer que a IA está causando diretamente o aumento de novos candidatos. Mas a maioria dos 84 casos segue o mesmo arco básico, onde as submissões eram praticamente estáveis ​​antes de 2022, e depois aumentaram a uma velocidade crescente à medida que a tecnologia de IA se difunde. Crucialmente, a maioria dos casos não registou uma desaceleração do crescimento, sugerindo que provavelmente continuará a aumentar nos próximos anos.

Para Schmitz, é fácil ver como o aumento das habilidades e da disponibilidade da IA ​​impulsionaria o aumento do uso.

“As pessoas estão descobrindo que isso é algo que se pode fazer e, gradativamente, está ficando mais fácil de fazer… antes que pudesse ser uma questão de arrastar o contexto e solicitar o ChatGPT 3.5 com muita precisão, agora pode ser apenas uma questão de colar ou tirar uma foto de uma carta com seu aplicativo Claude e obter uma resposta muito boa de uma só vez”, disse ele.

O salto no volume é semelhante ao que muitos serviços de recompensa por bugs também experimentaram no ano passado, quando as empresas encontraram suas caixas de entrada inundadas com relatórios de baixa qualidade gerados por LLMs. Os relatórios raramente continham problemas de segurança significativos, mas as empresas ainda eram obrigadas a examiná-los à medida que chegavam, o que representava um consumo significativo de recursos. É fácil imaginar que os serviços públicos enfrentam um problema semelhante, uma vez que gerem 5 vezes mais candidatos com o mesmo orçamento.

Mas onde os programas de recompensa por bugs foram inundados com envios inúteis, Schmitz diz que a maioria das novas aplicações para serviços públicos vem de pessoas reais com reivindicações legítimas.

“A grande maioria dos casos que encontramos são de pessoas que têm o direito de reivindicar algo, reivindicando aquilo”, disse ele ao TechCrunch.

Se essas pessoas não reivindicavam os benefícios antes, pode ter sido porque o trabalho de candidatura era demasiado proibitivo – algo conhecido no mundo político como carga administrativa. Agora que a IA pode aliviar esse fardo, poderá ser uma oportunidade para refazer muitos destes serviços de uma forma mais compatível com a IA.

É uma tarefa importante, que ainda não começamos a enfrentar, mas Schmitz vê isso como motivo para otimismo.

“Uma grande parte de fazer a IA funcionar bem é ser capaz de detalhar como é a versão boa das coisas. E qualquer pessoa que já usou o ChatGPT para fazer a declaração de impostos sabe que há uma versão boa aqui onde você está sendo ajudado”, diz Schmitz. “Este pode ser o momento de dizer: ‘precisamos repensar praticamente tudo sobre a aparência desse processo’”.