A computação híbrida da Perplexity divide tarefas confidenciais entre nuvem e IA local


Em fevereiro, estreou Perplexity Computer. Assim como Claude Cowork, é um conjunto de agentes de IA que podem concluir tarefas de forma autônoma usando a web, bem como arquivos e aplicativos em seu PC. Desde então, a plataforma evoluiu para abranger alguns produtos diferentes, incluindo computador pessoal para Mac, e hoje a Perplexity está anunciando uma ramificação chamada Hybrid Compute.

As novas ferramentas permitem que você divida uma tarefa entre um modelo de fronteira baseado em nuvem, como Opus 5 ou GPT-5.6 Sol, e um LLM local em execução em seu computador – a ideia é que o modelo local possa lidar com qualquer informação sensível para que ela permaneça segura e protegida em sua máquina. Perplexity sugere alguns casos de uso diferentes onde a computação híbrida seria uma boa opção. Por exemplo, um advogado pode querer preparar um resumo que compare o caso em que está trabalhando com a jurisprudência existente. Nesse cenário, a ferramenta permitiria manter a confidencialidade dos dados de seus clientes. A Perplexity também está lançando a Computação Híbrida como uma forma de usuários econômicos economizarem em custos de inferência, descarregando parte do trabalho dos modelos de fronteira (normalmente mais caros).

“Isso é integrado diretamente ao aplicativo Mac. Sempre que você tentar fazer upload de arquivos ou enviar informações, verificaremos automaticamente se há conteúdo confidencial e garantiremos que você deseja compartilhar esses dados na nuvem”, disse Jon Staff da Perplexity, que supervisiona todos os produtos Mac da empresa. Como parte deste lançamento, a empresa treinou um novo classificador de privacidade que irá sugerir automaticamente arquivos e informações que o usuário deve manter em seu computador.

Antes que o Hybrid Compute comece a delegar sua tarefa entre diferentes modelos, você poderá verificar quais arquivos ele deseja excluir para verificar se não perdeu algo importante. Nesta fase, você também pode decidir quais modelos deseja abordar no trabalho. No lado local, suas opções são Gemma E4B e duas versões do modelo 3.6 de 35 bilhões de parâmetros da Qwen. Uma dessas variantes foi pós-treinada pela Perplexity. A empresa afirma que oferecerá mais modelos locais no futuro. Qualquer que seja a opção escolhida, a instalação de um modelo local não exige que você abra o terminal do seu Mac, e o aplicativo Perplexity cuida do processo de instalação.

Uma captura de tela mostrando a visualização do uso do sistema do Hybrid Compute.

Assim que o sistema estiver em andamento, você verá uma visualização exibindo sua CPU local, GPU e uso de memória. Ao lado disso, uma barra lateral mostra quantos tokens a tarefa consumiu. Você não será cobrado por nenhum token gerado por um modelo local em sua máquina pessoal. Depois que o sistema gerar uma saída, você poderá escrever instruções de acompanhamento normalmente. Você também pode usar um iPhone para colocar tarefas na fila.

Perguntei à equipe se a Perplexity comparou os resultados produzidos pela computação híbrida com os de um sistema totalmente em nuvem. “A resposta curta é que uma produção totalmente fronteiriça quase sempre será melhor em termos de criação de artefatos brutos. É mais caro, é mais capaz”, disse ele. No entanto, a equipe acrescentou que alguns usuários não precisam de acesso aos melhores e mais poderosos modelos de IA para realizar seu trabalho e, nesses casos, a privacidade e o custo dos dados podem ser fatores mais importantes.

“Acho que tem que ser uma escala móvel, e queremos que o usuário tenha controle sobre onde está nessa escala móvel para o tipo específico de trabalho que deseja fazer. Obviamente, tentaremos sugerir a melhor coisa, dado o contexto que temos, mas, em última análise, o usuário precisa ser capaz de decidir qual solução se adapta a ele”, disse Staff.

Por enquanto, Hybrid Compute está disponível apenas em Apple Silicon Macs rodando macOS 15, e a Perplexity recomenda uma máquina com pelo menos 32 GB de memória unificada. O recurso está disponível para assinantes Pro e Max, bem como para clientes corporativos da empresa.



Source link

Deixe um comentário

O seu endereço de email não será publicado. Campos obrigatórios marcados com *

Botão Voltar ao Topo