De hacks a armas biológicas, o uso indevido de Claude está agora em toda parte
Num caso, um grupo de hackers patrocinados pelo Estado russo, identificados pela Microsoft como Midnight Blizzard, utilizou Claude para reconhecimento, violando alvos que incluíam redes governamentais ucranianas e outras redes governamentais europeias, e roubou dados e manteve o acesso. O grupo cibercriminoso ShinyHunters usou Claude em praticamente todas as etapas de suas campanhas de hacking e extorsão. Campanhas de desinformação centradas na política em todo o mundo, do Quénia ao Bangladesh, utilizaram a ferramenta. E talvez o mais perturbador é que, num punhado de casos, a Anthropic descobriu o que pareciam ser utilizadores das suas ferramentas que tentavam desenvolver potenciais armas biológicas, como doenças patogénicas e toxinas.
Embora a Anthropic apregoe no relatório o seu sucesso no combate a estas ameaças – ao mesmo tempo que se vangloria implicitamente do poder das suas ferramentas – o efeito dos estudos de caso é mais enervante do que tranquilizador. Afinal, não há garantia de que a Anthropic tenha detectado todos os usos malévolos de sua IA. Considere seus concorrentes e ferramentas de IA de código aberto menos protegidas, e o relatório parece menos uma volta de vitória para as barreiras de proteção da IA do que uma prévia do caos habilitado pela IA que está por vir.
A Garantia Xinbi, ao longo de sua existência de quatro anos, tornou-se o maior mercado ilícito da Internet. Realizou vendas estimadas em mais de US$ 30 bilhões, a maior parte das quais assumiu a forma de lavagem de dinheiro para operações fraudulentas de criptografia de “abate de porcos” – em grande parte baseadas no Sudeste Asiático – mas que também incluíam tráfico sexual e assédio de aluguel. Tudo isso prosperou no serviço de mensagens Telegram, que fechou o Xinbi há um ano apenas para que ele se reconstruísse e eventualmente crescesse mais do que nunca. Esta semana, finalmente, o governo dos EUA interveio para fazer o que o Telegram não fez, confiscando os canais do Xinbi na plataforma do Telegram e sancionando o mercado. O Departamento de Justiça anunciou simultaneamente incursões em 13 complexos fraudulentos em Madagáscar – um sinal de que as autoridades ocidentais estão a começar a levar a sério a epidemia de fraudes criptográficas de trabalho forçado, mas também uma prova de quão amplamente as operações se espalharam.
A gangue de ransomware Conti era, até ser oficialmente dissolvida em 2022, uma das equipes de hackers mais perigosas do mundo. De acordo com as autoridades dos EUA, atingiu mais de mil vítimas, extorquindo milhões e, a certa altura, perturbando os sistemas governamentais na Costa Rica de forma tão completa que desencadeou um estado de emergência. Agora, um membro desse grupo enfrenta a justiça: o ucraniano Oleksii Oleksiyovych Lytvynenko, de 44 anos, foi condenado a quatro anos de prisão esta semana, num raro exemplo de um ator de ransomware que verá o interior de uma prisão nos EUA.
O Facebook hospeda uma grande rede de contas que enviam vídeos gerados por IA que retratam a violência contra crianças, de acordo com a Futurism, que passou dias catalogando o material e continuou encontrando mais do que podia contar. Os clipes mostram crianças sendo espancadas, queimadas, confinadas e passando fome. Muitos atraem milhares de reações de usuários que parecem pensar que a filmagem é real. A Futurism disse que encontrou a maioria das contas abrindo uma e seguindo o feed de recomendações do Facebook, que fornecia um fluxo contínuo de vídeos semelhantes – um sinal de que os próprios sistemas da Meta já conseguem identificar a categoria de conteúdo que a empresa diz proibir.
O Futurism relatou oito das contas por meio do canal de usuário padrão. Meta removeu dois, um deles depois de rejeitar o relatório. Várias decisões levaram mais de uma semana. A empresa excluiu a maior parte dos vídeos enviados à sua assessoria de imprensa, mas inicialmente deixou outros no ar, incluindo um que mostrava uma criança trancada em um freezer.
Além da proibição geral de material de abuso sexual infantil, a política escrita da Meta proíbe representações de abuso infantil não sexual, sejam reais ou sintéticos, com exceções para arte, desenhos animados, filmes e jogos. Não diz se o vídeo gerado por IA se enquadra nessas exceções. Em comunicado, Meta disse aos repórteres que alguns links sinalizados não violavam suas regras e pediu que não escrevessem o contrário.
