O aplicativo Hungry Jack’s sinalizou o sobrenome mais comum do mundo como impróprio: “Remova para continuar”

Aviso: este artigo faz referência a filtros de palavrões e linguagem sinalizada

Esta semana, um usuário do Reddit compartilhou uma captura de tela mostrando que a rede australiana de fast-food Hungry Jack’s se recusou a permitir que eles criassem uma conta porque seu sobrenome, Wang, foi sinalizado como “linguagem inadequada”.

A captura de tela foi postada em r/mildlyinfuriating.

A mensagem na tela de inscrição dizia: “O sobrenome contém linguagem inadequada. Remova para continuar.”

Wang é considerado o sobrenome mais comum em todo o mundo. De acordo com o site de genealogia Antepassadosmais de 106 milhões de pessoas carregam o nome. Uma pesquisa de 2018 descobriu que ocupa o primeiro lugar na China, onde mais de 100 milhões de cidadãos o possuem. O nome deriva de uma palavra em mandarim que significa “rei” ou “príncipe”, com raízes que remontam à dinastia Zhou.

Assim, a postagem original (com a etiqueta “Eu só queria um cachorro-quente”) levou os comentaristas a descrevê-la como um problema clássico de Scunthorpe.

O problema de Scunthorpe refere-se a sistemas automatizados que bloqueiam conteúdo inofensivo por meio de filtros automatizados que procuram sequências ofensivas em palavras ou nomes maiores, sem compreender o contexto.

De acordo com Wikipédiao termo originou-se em abril de 1996, quando o filtro da AOL não permitiu que moradores da cidade inglesa de Scunthorpe criassem contas, porque o nome da cidade contém uma vulgaridade. Portanto, embora o filtro tenha encontrado facilmente a sequência ofensiva de letras, ele não sabia que era o nome de um lugar.

“Você pensaria que todo profissional de TI existente já teria aprendido sobre o problema de Scunthorpe”, escreveu um usuário. O problema com Wang também é que o filtro procura uma gíria e sinaliza qualquer sobrenome que contenha os caracteres alvo. Os sistemas automatizados muitas vezes não conseguem levar em conta o contexto cultural ou linguístico.

Graças a esses filtros de conteúdo, em 2004, um homem na Escócia chamado Craig Cockburn (pronuncia-se “Coburn”) foi bloqueado pelo Hotmail, e o Museu Horniman, em Londres, teve e-mails bloqueados por sistemas de filtragem.

Nesta postagem, um usuário descreveu ter um nome hifenizado que fez com que um aplicativo de entrega rejeitasse seu ID porque o aplicativo havia removido o hífen durante a inscrição. O nome no ID não correspondia ao nome no pedido. O aplicativo exigia que o entregador devolvesse o pacote sem nenhuma maneira de anular o sistema. Outro comentarista observou que nomes com apóstrofos são rejeitados por sistemas que não conseguem lidar com caracteres não-ASCII. Um terceiro compartilhou que um colega de trabalho cujo nome foi transliterado do chinês como “Shiting Sun” tinha dificuldades com sistemas automatizados. Um usuário com o sobrenome “Li” apontou que algumas plataformas rejeitam seu nome porque ele fica abaixo do requisito de comprimento mínimo.

Especialistas em tecnologia observam que a solução é que os usuários bloqueados por esses filtros podem tentar inserir uma ligeira variação do sobrenome (talvez adicionando um ponto final ou espaço extra, por exemplo) para ignorar a correspondência de substring.

Entrar em contato com o suporte ao cliente da empresa e solicitar uma revisão manual da conta também é outra opção, embora o processo possa demorar mais.

A solução a longo prazo, no entanto, é que as empresas implementem uma filtragem sensível ao contexto que utilize processamento de linguagem natural.

Hungry Jack’s não respondeu ao incidente até agora.