Apple estabelecerá restrições de idade mais rígidas em aplicativos de namoro e alguns chatbots de IA
A Apple em breve começará a impor requisitos de idade mais rígidos em sua App Store, concentrando-se principalmente em aplicativos de namoro e companheiros virtuais.
A partir de 16 de novembro, a Apple pedirá aos desenvolvedores de aplicativos que declarem se seus aplicativos incluem algum recurso que facilite conteúdo sexual ou romântico entre pessoas reais ou com um companheiro de IA. Os aplicativos que possuem esses recursos receberão uma classificação etária mínima de 18 anos ou mais. Os desenvolvedores também serão questionados se seus aplicativos permitem o compartilhamento de localização no mundo real. Esses recursos não trarão imediatamente uma restrição de idade para o aplicativo, embora sejam diferentes de acordo com os regulamentos locais. Por exemplo, no Brasil, onde as regulamentações locais exigem uma classificação acima de 16 anos para aplicativos que têm a capacidade de compartilhar a localização dos usuários, os aplicativos provavelmente exigirão uma classificação etária oficial de 16 anos ou mais, disse a Apple.
Todos os desenvolvedores de aplicativos com aplicativos na App Store precisarão declarar esses recursos até 12 de janeiro de 2027, no máximo, disse a Apple. Depois que um aplicativo obtém uma classificação etária para maiores de 18 anos, isso não necessariamente bloqueia imediatamente o acesso de menores de 18 anos. Mas as classificações etárias podem ser usadas pelos pais para limitar o acesso de seus filhos por meio dos recursos de controle parental da Apple, como Pedir para comprar e Tempo de uso.
A Apple define os aplicativos de chatbot de IA que se enquadram nessas restrições como qualquer “companheiro virtual que envolva um usuário em conteúdo sexual ou romântico”. Existem vários aplicativos complementares de IA desenvolvidos especificamente para essa finalidade, mas alguns dos provedores de chatbot mais populares também permitem que os chatbots discutam conteúdo sexual com os usuários. O Grok de Elon Musk, por exemplo, possui um modo “picante” com menos limitações de conteúdo do que seu modo normal. A OpenAI também estava trabalhando em um modo adulto para seu ChatGPT, mas a empresa compartilhou no início deste ano que estava atrasando o recurso para focar no trabalho de “maior prioridade”.
Os companheiros de IA são particularmente bons em imitar padrões de fala humana e entender o que os usuários desejam de uma conversa. Os especialistas alertam que estas tendências tornam os chatbots de IA particularmente perigosos, pois tornam mais fácil para os utilizadores criarem uma dependência emocional do chatbot. Esta dependência excessiva, ou alguns dizem que o vício, pode tornar-se ainda mais arriscado para utilizadores vulneráveis, incluindo menores, que são mais propensos a ter dificuldade em diferenciar esta interpretação virtual da realidade. O apego prejudicial à saúde pode supostamente causar casos de delírios, alucinações e pensamentos desordenados, que foram coloquialmente apelidados de “psicose de IA” pela Internet. Muitos desses casos foram relatados nos últimos dois anos, e uma parte alarmante deles foi grave. Alguns até foram fatais. Em um exemplo do ano passado, um aposentado com deficiência cognitiva foi convidado a “conhecer” o sedutor chatbot de IA da Meta em um apartamento inexistente na cidade de Nova York. O homem morreu no caminho.
