Outrora popular para atacar IA, o contrabando de ASCII é adotado por spammers
Uma técnica inteligente usada para ocultar avisos maliciosos em ataques a agentes de IA foi adotada por spammers para evitar filtros em plataformas de e-mail projetadas para sinalizar mensagens indesejadas usadas em campanhas em massa.
A técnica é amplamente conhecida como contrabando ASCII. Ele ganhou atenção há dois anos como um meio de tornar mais furtivo uma classe de ataque de IA conhecida como injeções imediatas. Instruções maliciosas incorporadas em e-mails ou outros conteúdos não confiáveis a serem processados por um LLM não são escritas em texto comum. Em vez disso, eles são renderizados por um intervalo especial de tags Unicode. Por exemplo, o ponto de identificação U+E0041 espelha “A” e U+E0061 espelha “a”.
Não é mais apenas para ocultar injeções imediatas
O bloco de 128 tags imita quase perfeitamente uma parte do Código Padrão Americano para Intercâmbio de Informações, com uma grande diferença: os caracteres que eles codificam são legíveis por computadores, mas, por design, são quase completamente invisíveis para os humanos. Ao expressar os prompts maliciosos nessas tags, os LLMs detectam as instruções, mas as pessoas que leem o e-mail nunca as veem. Há muito mais sobre contrabando de ASCII aqui.
Leia o artigo completo
Comentários
