OpenAI adiciona limites mais rígidos para adolescentes que perguntam sobre armas de fogo
A empresa disse que essas restrições mais rígidas se aplicam mesmo que a pergunta feita “pareça inofensiva”.
A OpenAI está reprimindo “informações relacionadas a armas” que os adolescentes podem obter do ChatGPT, mesmo que sua pergunta “pareça inofensiva”, anunciou a empresa em seu último post. A OpenAI observou que já possui políticas em vigor que impedem o ChatGPT de ajudar usuários a cometer atos violentos ou que adolescentes coloquem as mãos em armas. Para limitar ainda mais esses cenários, a OpenAI disse que vai “restringir informações práticas sobre armas e sistemas de segurança que podem ser usados indevidamente para facilitar a violência, mesmo quando não há sinal de intenção violenta” com seus usuários adolescentes.
A gigante da IA observou que os adolescentes ainda poderão usar o ChatGPT quando se trata de prevenir ou diminuir a violência, buscar apoio e conectar-se com um adulto de confiança. Não apenas com os adolescentes, a OpenAI está a reforçar os limites políticos para todos os seus utilizadores, especialmente quando questionados sobre “reconstruções de ataques em massa passados, incluindo detalhes sobre as armas e equipamentos utilizados e como foram obtidos, e comparações detalhadas sobre a escala de danos que poderiam amplificar a notoriedade de um atacante”.
No entanto, essas restrições funcionarão em conjunto com os controles parentais que a OpenAI implementou no ano passado, que envia notificações aos pais se suas contas de adolescentes vinculadas violarem as políticas do ChatGPT relacionadas a ameaças violentas ou atos de violência. Essas salvaguardas adicionais surgem depois que a OpenAI foi processada em um processo por homicídio culposo no ano passado e quando o CEO da empresa, Sam Altman, se desculpou publicamente por não alertar a polícia sobre registros alarmantes de bate-papo em relação ao tiroteio em Tumbler Ridge no início deste ano. Olhando para o futuro, a OpenAI disse que publicará o seu primeiro Relatório de Segurança Comunitária no início de 2027, que será seguido por atualizações semestrais.
