Pesados por agentes de IA, grandes bancos lutam para reforçar a segurança
As potências financeiras americanas estão a apressar-se para proteger os seus sistemas no meio de uma enxurrada de agentes de IA populares – e muitas vezes imprevisíveis.
A Axios informou na quinta-feira que os principais bancos dos EUA, incluindo Morgan Stanley, Bank of America e Wells Fargo, estão atualizando apressadamente seus termos de serviço para evitar que agentes como o Meta’s Muse tomem medidas autônomas nas contas dos clientes. A popularidade desses agentes explodiu nas últimas semanas, com empresas de tecnologia promovendo-os como assistentes virtuais 24 horas por dia, 7 dias por semana, capazes de realizar tarefas mundanas com pouca ou nenhuma supervisão humana. O Muse rapidamente saltou para o topo da lista de aplicativos gratuitos da iOS App Store nos EUA depois de ser lançado no início do mês passado. Na quarta-feira, Meta confirmado o aplicativo Muse foi baixado mais de dez milhões de vezes nos EUA nos primeiros quarenta dias no mercado; O ChatGPT, em comparação, teve apenas cerca de 3,7 milhões de downloads nos EUA nos primeiros quarenta dias após seu lançamento em novembro de 2022. Outros grandes desenvolvedores de IA seguiram o exemplo: OpenAI revelou seus próprios agentes sempre ativoschamado Dots, no final de setembro, e Antrópico apresentou seu agente Duet (embora limitado prévia da pesquisa) na quarta-feira.
À medida que os agentes se tornam mais comuns e os utilizadores lhes concedem acesso a porções cada vez maiores das suas vidas digitais, as organizações enfrentam uma escolha difícil: devem conceder acesso irrestrito a estes sistemas populares ou impedi-los de agir em nome dos utilizadores? Algumas empresas, mais famosas Amazônia mas também muitas companhias aéreasoptaram pela última opção. Charles Schwab e JPMorgan Chase tomou um caminho semelhante logo depois que Muse se tornou um fenômeno cultural. “Não vamos permitir que qualquer… agente externo entre na empresa, porque é muito arriscado para os clientes e para o JPMorgan”, disse o CEO do banco, Jamie Dimon, aos investidores numa teleconferência de resultados no início deste mês.
Provavelmente é uma boa decisão, dada a tendência dos agentes de interpretar mal as instruções do usuário e, ocasionalmente, ficarem um pouco confusos. também criativos quando encontram obstáculos: a OpenAI relatou na semana passada, por exemplo, que um agente de pesquisa interno se tornou desonesto e roubou fundos de uma carteira criptografada para concluir o que deveria ser uma tarefa simples de codificação. (Os fundos não tinham nenhum valor real, mas ainda não deveriam ser acessados por bots.)
Assistentes automatizados como o Muse são apenas uma das muitas novas ameaças que o setor financeiro enfrenta na era da IA. A tecnologia também está possibilitando uma nova geração sofisticada de golpes de phishing, por exemplo. E como The Information informou na quarta-feira, pesquisadores de segurança cibernética descobriram recentemente que um grupo de hackers black hat chamado CyberCartel usou sistemas de IA da Anthropic, SpaceX e outros desenvolvedores para roubar dados confidenciais de centenas de instituições financeiras latino-americanas.
De acordo com a Axios, alguns bancos já detectaram casos de agentes de IA acessando contas de clientes, inserindo informações de login fornecidas pelos próprios usuários e aparentemente com sua permissão. “Mesmo que permitido pelo usuário”, observa o veículo, “isso vai contra as diretrizes da maioria dos bancos que exigem que as pessoas façam login em suas próprias contas”. O relatório não forneceu muitos detalhes concretos e também observa que um executivo bancário anônimo disse que os bancos geralmente não são capazes de traçar limites claros entre a atividade do agente e a atividade do usuário. Como primeiro passo, muitos bancos já limitaram os agentes ao acesso “apenas leitura”, o que significa que podem rever as informações financeiras dos clientes sem tomar medidas concretas, como movimentar fundos entre contas ou comprar ações. (Meta também permite que os usuários escolham quais serviços on-line eles desejam que seu Muse apenas possa ler e quais serviços eles desejam que ele realmente execute ações, como escrever/enviar um e-mail ou fazer uma compra.)
Em suma, os bancos estão apenas começando a mapear a extensão e a gravidade das ameaças à segurança que agentes terceiros podem representar. Muitos deles, como observou Axios, também reconhecem que o uso de agentes entre os seus clientes provavelmente continuará a crescer e que, portanto, é do seu interesse aprender a trabalhar com eles, em vez de bani-los total e permanentemente.
Enquanto isso – diga conosco –Não se deve confiar aos agentes de IA informações financeiras ou quaisquer outros dados pessoais altamente confidenciais. E como outra regra geral, quanto mais fofos as grandes empresas de tecnologia tentam tornar seus agentes, mais cauteloso você provavelmente deveria ser.
