Claude pode ajudar a gerenciar sua caixa de entrada de e-mail, mas há alguns riscos envolvidos
Talvez seja melhor você mesmo classificar seus 12.000 e-mails, mas você mesmo faz isso.
Quando você para para pensar, é incrível o quão longe a IA avançou nos últimos quatro anos. Desde falhar repetidamente no teste “quantos r’s tem um morango” até ser capaz de gerar filmes altamente realistas em minutos. E agora, Claude aparentemente é bom o suficiente para gerenciar totalmente sua caixa de entrada do Gmail, incluindo enviar, responder e encaminhar e-mails em seu nome sem a sua aprovação.
Na sua rápida ascensão, a IA viu mais do que o seu quinhão de falhas épicas; há pouco tempo, o OpenClaw ignorou as instruções e excluiu os e-mails do pesquisador de segurança e segurança do Meta Superintelligence Lab AI, Summer Yue. Claramente, a tecnologia está longe de ser à prova de falhas. Portanto, entregar algo tão importante como sua caixa de entrada para Claude obviamente traz seus riscos, especialmente agora que ele pode tomar medidas sérias, como escrever e enviar e-mails sem a sua aprovação (se você permitir).
Alguns dos riscos mais aparentes incluem a possibilidade de a IA ter alucinações com informações falsas em um e-mail e enviá-las antes que você as pegue, Claude entendendo mal uma solicitação e enviando ou encaminhando algo que você nunca quis dizer, ou ainda mais sinistro, um prompt oculto em uma mensagem recebida sequestrando-a para agir de acordo com as instruções de um invasor. E estes riscos não são teóricos; eles realmente aconteceram. Felizmente, Claude não pode excluir permanentemente nenhum e-mail, mas pode lixá-los ou arquivá-los.
Riscos de permitir que Claude gerencie sua caixa de entrada
Vamos começar com o risco mais terrível: injeção imediata sequestrando o agente de dentro do e-mail. Em termos simples, um invasor pode dar instruções furtivamente a Claude, enviando um e-mail para você e incorporando-o com texto invisível (branco sobre branco, tamanho de fonte zero) para que não apareça na mensagem que você vê, mas Claude pode ler e receber instruções dela. Os hackers podem usar isso não apenas para monitorar seu Gmail, mas também para obter suas informações, incluindo códigos de verificação para violar suas outras contas. O hacking de injeção imediata é comprovado, não apenas hipotético. Claude até avisa sobre isso quando você permite o envio de e-mails pela primeira vez.
Captura de tela de Isaac Egbon (Anthropic)
Nem todo risco requer um invasor. Como é tão fácil pedir ao Claude para enviar e-mails em seu nome, o risco de enviar um e-mail com erros é grande. Quando você pede para o Claude enviar um e-mail para você, ele já pensa e envia o e-mail. O que torna isso tão arriscado é que você não consegue ver ou trabalhar no e-mail antes de ele ser enviado, a menos que tenha a configuração correta habilitada; a IA rascunha e envia o e-mail sozinha. Portanto, se houver um erro nesse e-mail, há uma grande chance de seu destinatário descobrir isso antes de você. Infelizmente, um monte de coisas podem levar Claude a cometer um erro – desde alucinações de informações falsas até simplesmente entender mal o que você quis dizer. Mesmo que o próprio Claude não cometa um erro, sempre há preocupações com a privacidade de confiar a Claude e à Anthropic todos os dados da sua caixa de entrada.
Como mitigar os riscos de Claude gerenciar sua caixa de entrada
O primeiro e mais importante passo para mitigar os riscos é manter a aprovação ativada. Sua caixa de entrada é muito sensível para permitir que uma IA faça e envie o que achar melhor. Portanto, deixe ativo o comportamento padrão “perguntar antes de enviar”; dessa forma, você pode revisar qualquer ação antes de executá-la.
Em segundo lugar, quando você pedir a Claude para agir em seu e-mail, seja muito específico em suas instruções. Diga a Claude exatamente o que você quer que ele faça ou diga. Por exemplo, em vez de usar instruções vagas como “enviar um e-mail ao RH explicando minha ausência”, inclua o máximo de detalhes possível. Isso torna muito mais difícil para Claude entender ou interpretar mal suas instruções.
Se você está preocupado com o hacking de injeção imediata, infelizmente não há como eliminá-lo completamente. Simon Willison, que cunhou o termo “injeção imediata”, diz: “ainda não sabemos como evitar que isso aconteça de forma 100% confiável”, e os especialistas continuam divididos sobre se ainda é solucionável.
Sua melhor defesa ainda é manter a aprovação, pois isso fará com que Claude peça sua aprovação antes de realizar qualquer ação. Ficar cauteloso com remetentes desconhecidos e ativar a autenticação multifator (MFA) em outros lugares também ajuda, mas ainda há um nível significativo de risco.
