Os fabricantes de agentes de IA estão prometendo privacidade – eles cumprirão?

No OpenAI DevDay deste ano, o CEO Sam Altman revelou o novo agente de IA da empresa, Dots – e disse à multidão que a empresa deseja “estabelecer um novo padrão de privacidade na IA de fronteira”. A OpenAI passaria o dia atirando veladamente no Muse da Meta, seu principal concorrente, por não conseguir manter os dados dos usuários seguros. No entanto, o próprio Muse, alguns meses antes, foi lançado como uma alternativa supostamente mais segura ao antecessor OpenClaw – com o CEO Mark Zuckerberg prometendo que foi “construído do zero para privacidade e segurança”.

Numa época em que as empresas acumulam dados pessoais dos clientes e os ataques cibernéticos custam dez centavos, os laboratórios de IA estão tentando convencer os usuários a compartilhar ainda mais informações com seus agentes. Sua mais recente estratégia para o sucesso é superar a concorrência, prometendo que, ao contrário de seus rivais, manterão os dados dos usuários longe de olhares indiscretos. A questão é se as empresas conseguirão cumprir essas promessas.

Nat Friedman, chefe de produto do Meta Superintelligence Labs, escreveu no X que o “objetivo da empresa com a muse era construir algo como o openclaw que pudéssemos tornar seguro e fácil de usar e dimensionar para bilhões de pessoas”. Os dados do usuário são armazenados em uma VM segura, o que Zuckerberg descreveu como um “computador Linux isolado com navegador, CPU, memória e armazenamento”. A empresa disse que a maior parte do esforço na construção do Muse estava relacionada ao “projeto e engenharia cuidadosos para operá-lo com mais segurança”. A postagem no blog da Meta continuou: “O Muse pode e ainda cometerá erros, mas esperamos que eles sejam muito menos frequentes e causem muito menos danos devido aos sistemas de segurança que incorporamos”.

Mas embora o Muse tenha liderado as paradas da App Store e, de acordo com a Apptopia, conquistado 600.000 usuários ativos diários nos EUA em semanas, as promessas da Meta parecem ter ficado aquém. Embora os dados estejam isolados de outros usuários, e a empresa planeje introduzir uma maneira de “impedir de forma criptográfica e verificável que o Meta acesse dados em sua VM” ainda este ano, o próprio Meta ainda pode acessar os dados. Um pesquisador de segurança expôs rapidamente uma vulnerabilidade de dia zero que poderia permitir que alguém assumisse o controle do Muse (que já foi corrigido), aumentando o temor de ataques externos. Vários problemas sérios de segurança surgiram no último minuto antes do lançamento, um dos quais poderia ter permitido aos usuários acessar os próprios bancos de dados internos do Meta, por 404 Mídia.

Muse também parece coletar dados liberalmente (e, em alguns casos, distribuir). O padrão é permitir que o Meta treine modelos com base no que os usuários colocam nele, embora seja possível cancelar. Um Inc. O repórter reclamou que Muse carregou e leu suas mensagens privadas sem que ele pedisse, e um YouTuber disse que havia oferecido seu endereço a um estranho via Marketplace – em ambos os casos, Muse estava funcionando aparentemente como pretendido, mas o usuário não percebeu até onde isso iria. A plataforma cria “perfis detalhados de todos os seus amigos e familiares”, conforme Com fio relatado. Nada disso é necessariamente inesperado do Meta, mas certamente não apóia a ideia de que o Muse se preocupa exclusivamente com a privacidade ou a segurança.

A OpenAI aproveitou esse fato ao anunciar o Dots no final de setembro. Alexander Embiricos, líder de produto Codex da OpenAI, disse no palco do DevDay que a OpenAI está focada em ter o “assistente mais confiável, seguro e protegido”, e o CEO Sam Altman demonstrou maneiras pelas quais as pessoas poderiam exercer controle sobre seus pontos individuais, como estabelecer uma regra de que nunca deveria fazer uma compra acima de uma determinada quantia em dólares. “Acho que estamos em uma posição diferente da Meta, pois eles não têm um produto de IA com 1,2 bilhão de usuários”, disse Glen Coates, chefe da plataforma de aplicativos da OpenAI, acrescentando que “lançar algo que cometa esse tipo de erros é algo que tentaríamos ter o cuidado de evitar”.

O próprio Altman também promoveu o ângulo da privacidade no DevDay. Para cortejar clientes empresariais, os executivos apresentaram uma estrutura que permite às empresas ter “controles mais fortes” sobre os seus dados e zero opções de política de retenção de dados (o que significa que nenhum dado é armazenado em servidores OpenAI). Na verdade, até agora, não houve muitos escândalos de privacidade com o Dots – embora, como ele só está disponível nos níveis de assinatura ChatGPT de US$ 100 ou mais, provavelmente haja menos pessoas usando-o.

As pessoas ainda podem não se sentir confortáveis ​​em fornecer seus dados pessoais à OpenAI, em parte simplesmente porque os agentes de IA exigem muito deles. Por exemplo, A beiraAllison Johnson se sentiu desconfortável ao digitar suas informações bancárias quando o bot perguntou como parte de uma tarefa relevante (o Muse tem uma integração com o Stripe para cuidar disso).

É claro que nem todas as empresas fazem promessas de privacidade. O Instinct foi criticado publicamente por termos de serviço supostamente excessivamente amplos que lhe davam acesso irrestrito aos dados; desde então, a empresa parece ter feito ajustes. Por enquanto, os laboratórios de IA parecem contar com uma abordagem de três partes para popularizar o uso de agentes de IA junto ao público em geral: torná-los úteis, torná-los fofos e desarmantes para ajudar a compensar o arrepio e fazer promessas sobre privacidade – e esperar que se mantenham.