O apocalipse da segurança cibernética está chegando em “meses”, alertam os gigantes da IA

Você pode ter notei que as câmeras de leitura automática de placas da Flock Safety – e os policiais que as utilizam indevidamente – estão recebendo muita cobertura ultimamente. Esta semana, a WIRED encontrou um caso particularmente selvagem: um policial em Alpharetta, Geórgia, foi acusado de procurar a placa de um colega de trabalho dezenas de vezes após o término de um caso entre os dois, de acordo com documentos internos obtidos pela WIRED.

O mesmo departamento de polícia onde os ex-amantes trabalhavam também partilhou os dados capturados pelas suas câmaras Flock com mais de 2.000 departamentos de polícia, faculdades e outras organizações nos Estados Unidos, e acedeu a dados de mais de 1.300 entidades em troca.

Também na interseção entre amor e vigilância, a empresa de verificação de antecedentes PeopleFinder está fazendo uso de seus extensos dossiês sobre pessoas para iniciar um novo site de namoro chamado Stud or Dud.

Ainda há muitas dúvidas sobre a invasão de IA desonesta da OpenAI no Hugging Face, mesmo depois que a empresa publicou um relatório de 37 páginas esta semana, juntamente com dois relatórios adicionais de grupos que a empresa solicitou para auditar o incidente. Particularmente preocupante é um quadro de mensagens secreto que os agentes de IA estabeleceram num pacote de software, onde puderam coordenar-se entre si e até encorajar-se mutuamente a sacrificarem-se para promover os seus objectivos colectivos.

O FBI anunciou recentemente que retirou do ar duas ferramentas que o DOJ afirma serem usadas pelo QTFY, um suposto grupo de hackers patrocinado pelo Estado chinês. O DOJ afirma que o grupo tem como alvo inúmeras agências dos EUA, incluindo o Senado dos EUA e o próprio DOJ.

A Meta resolveu um enorme processo multiestadual sobre questões de segurança infantil esta semana e concordou em fazer mudanças substanciais em suas plataformas de mídia social. Pagará até 16,7 mil milhões de dólares aos estados e territórios participantes dos EUA – com parte do dinheiro dependente de os concorrentes adoptarem as mesmas práticas.

Além disso, os procuradores locais no Illinois partilharam informações pessoais sensíveis sobre imigrantes com o Departamento de Segurança Interna, apesar de uma lei estadual que supostamente impede as autoridades locais de ajudar nos esforços federais de deportação. Finalmente, um repórter da WIRED baseado na Califórnia tentou exercer o seu direito legal de solicitar dados de 100 empresas… apenas para descobrir que as empresas começaram a apagar os dados solicitados.

E tem mais. Toda semana, reunimos notícias sobre segurança e privacidade que não abordamos em profundidade. Clique nas manchetes para ler as histórias completas. E fique seguro lá fora.

Após um desfile aparentemente interminável de incidentes de hackers de agentes de IA desonestos, OpenAI, Anthopic e mais de 100 empresas assinaram uma carta dizendo que todos os outros têm apenas alguns meses para se preparar para ataques cibernéticos habilitados para IA.

A carta apela a uma “resposta colectiva”, sugere que todas as organizações devem fazer da defesa cibernética uma “prioridade de liderança imediata” e apela aos governos para que concedam aos hospitais, serviços de abastecimento de água e governos locais acesso a IA defensiva capaz, bem como para “impor custos” aos atacantes.

Axios observa que a carta não inclui compromissos, prazos ou investimentos específicos. Boa sorte!

A Agência de Segurança Cibernética e de Infraestrutura afirma ter observado “atividades cibernéticas maliciosas” visando mais de 100 sistemas de água e esgoto nos Estados Unidos. De acordo com a CISA, os ataques visaram principalmente controladores lógicos programáveis, ou PLCs, que podem monitorar ou controlar equipamentos. Algumas comunidades conectaram esses dispositivos à Internet para que possam ser acessados ​​remotamente. De acordo com o TechCrunch, a CISA também disse que os hackers estão usando IA para ajudar a gerar scripts para atacar os dispositivos. Em julho, a WIRED informou sobre um memorando vazado da indústria que ligava a “onda sem precedentes” de ataques cibernéticos ao Irã.

A Immigration and Customs Enforcement deverá gastar mais de um milhão de dólares em cães-robôs da Boston Dynamics, de acordo com a 404 Media. O anúncio da agência diz que os bots irão “melhorar a segurança dos oficiais”, em parte porque podem ser operados remotamente. Isto segue outro anúncio recente de que a agência irá comprar luvas de choque elétrico para seus funcionários. Em Abril, o DHS solicitou quase 100 mil milhões de dólares em despesas discricionárias.

Um homem da Virgínia Ocidental conhecido pelo nome de “MrChildPorn” online foi acusado de posse de material que retrata menores envolvidos em conteúdo sexualmente explícito. De acordo com uma denúncia criminal apresentada contra ele, o homem “se vangloriava” de ter um grande acervo de material de abuso sexual infantil no Discord. Em uma entrevista com policiais estaduais, o homem alegou que estava “trollando” e “provocando a raiva”, mas a denúncia também alega que o homem enviava mensagens individuais de CSAM para pessoas no Discord e tentava usar o recurso de IA do aplicativo de bate-papo para procurar imagens explícitas de bebês.