Como a OpenAI transformou suas ferramentas de codificação em pontos, um assistente pessoal sempre ativo

O assistente pessoal de IA sempre ativo, que continua trabalhando em segundo plano mesmo quando você não pede, é a resposta deste ano à questão de como as pessoas realmente usarão modelos de aprendizagem profunda. A startup Instinct se tornou uma sensação da noite para o dia, e a Meta colocou toda a força de seu marketing em seu assistente, Muse.

OpenAI não ficaria de fora. A empresa lançou dots, sua oferta de assistente, no dia do desenvolvedor no final de setembro. Alexander Embiricos, que lidera a equipe de produtos empresariais da OpenAI, juntou-se a nós no TechCrunch Disrupt este mês para explicar de onde veio o produto – começando com a questão de por que tantas empresas parecem estar recorrendo a mascotes bonitinhos como avatares para suas máquinas de multiplicação de matrizes de trilhões de parâmetros.

“Há uma espécie de evolução convergente acontecendo”, disse Embiricos sobre os esforços para construir assistentes de IA. “Enquanto trabalhávamos no produto, percebemos que se pudéssemos enquadrar isso como uma entidade e uma conversa única, não muitas conversas diferentes… começa a se tornar intuitivo.”

O assistente está disponível no desktop ChatGPT e em aplicativos móveis para assinantes do nível Pro ou superior, com planos a partir de US$ 100 por mês. Uma vez conectado ao seu calendário, e-mail, computador e outras ferramentas, o agente tenta ajudá-lo a realizar seu trabalho.

Embiricos ressalta que você poderia alcançar grande parte da funcionalidade dos pontos com o aplicativo Codex da Open AI, sua ferramenta de codificação, lançada no início deste ano. Mas isso requer mais trabalho e controle. Ele se lembra de comemorar quando sua esposa começou a deixar o computador ligado a noite toda para que seus agentes pudessem continuar trabalhando.

“Na equipe de produto, o que penso é como podemos tornar isso intuitivo e útil para as pessoas?” ele disse aos participantes do Disrupt. “Muito disso não é incorporar uma nova tecnologia ao produto; é como você o enquadra para o usuário e como ele se sente.”

Tornar a tecnologia intuitiva significava reembalar a funcionalidade dos modelos da empresa em algo mais acessível, um caminho que já estava trilhado ao transformar o ChatGPT Work a partir das ferramentas de codificação de agente que havia criado para engenheiros de software. Até mesmo o nome – uma brincadeira com o espaço negativo dentro do logotipo da OpenAI – pretende “sentir apenas algo que poderia eventualmente ser onipresente”. (Perguntado sobre quando soube que o empreendedor rival de IA Elon Musk é dono do URL ponto.com, Embiricos disse: “Descobri muito tarde”.)

A ideia de um agente persistente é que ele não precisa de aviso. Para a OpenAI, isso significa mais uso de tokens e, para os usuários, um assistente mais pró-ativo “que pensa em você e em como ajudá-lo”, como disse Embiricos.

Em nossos testes, a capacidade do assistente de pensar no futuro é aparente e muitas vezes útil, mas ainda não chegou lá. Ele sinalizará conflitos de calendário e prazos futuros, mas não necessariamente da maneira mais oportuna.

“A primeira vez que ele me contou sobre um desses (conflitos) – isso é como no início do desenvolvimento – ele me contou três minutos antes do ocorrido”, diz Embiricos sobre seu ponto. “É como, ‘Ei, essa coisa está chegando. Você pode querer fazer algo a respeito.’ Eu só tenho três minutos!”

A Embiricos espera que o momento melhore com o tempo, mas a abordagem proativa é fundamental para o produto. “Eu estava ouvindo falar de um engenheiro em uma startup de entrega de drones e eles estavam dizendo: ‘Tivemos essa interrupção e, quando percebi que a interrupção estava acontecendo, meu ponto já havia percebido que a interrupção estava acontecendo, já havia analisado a interrupção e veio até mim com informações úteis sobre como poderíamos resolver a interrupção.’”

Dando as chaves ao ponto

Tal como acontece com a maioria dos casos de uso de agentes de IA, há uma tensão entre as informações pessoais que um modelo de IA precisa para ser útil e exatamente quantos dados pessoais você está expondo a uma empresa de software. O Muse foi criticado pelos perfis que cria de sua família e amigos, que o software usa para saber, digamos, que tipo de restaurante você gostaria de ir com um amigo específico, mas também pode agregar um valor incrível ao negócio de publicidade da Meta. Os pontos coletam dados semelhantes?

“Sim, temos algo que construímos em pontos, que chamamos de pesquisa proativa”, disse Embiricos. “Em uma cadência, ele pensará sobre o que sabe sobre você, qual é a conversa que teve e, em seguida, o que você deu a ele acesso para que ele possa pensar, e então irá pesquisar: ‘O que eu poderia fazer para ser mais útil para você?’ E então, basicamente, irá propor isso.”

É difícil separar as necessidades de dados do agente das necessidades de sua empresa-mãe. Hark, uma start-up que desenvolve seu próprio assistente pessoal de IA, é explícita ao apontar que não coleta dados para alimentar um negócio de publicidade da mesma forma que OpenAI e Meta fazem.

Com pontos, a OpenAI diz que o agente tem os mesmos controles de privacidade que o próprio ChatGPT: os usuários podem desligar o treinamento do modelo (impedindo que a OpenAI use suas conversas para melhorar sua IA) e controlar quais recursos ele acessa em seu computador e como. Ainda assim, esses controles não são granulares e o aplicativo pode ser agressivo. Por exemplo, recusa-se a aceitar acesso somente leitura a unidades em nuvem.

“O que acho que precisamos fazer é basicamente desenvolver controles super, super, super granulares”, disse Embiricos, mas apontou a inteligência e a discrição do modelo como o outro lado da moeda.

“Na verdade, isso é algo que recebemos críticas quando lançamos”, disse Embiricos. “Tínhamos padrões muito conservadores sobre o que o agente faria, e ele pedia muita permissão. Lembro-me de saber que veríamos esse feedback, mas pensei: ‘Tudo bem, podemos ajustar isso com o tempo.'”

Os agentes pessoais de IA podem escalar?

A outra grande questão sobre os agentes de IA é se eles podem escalar. Eles são divertidos quando apenas algumas pessoas os possuem, e há muitas histórias de agentes que conseguem reservas difíceis de conseguir. Mas as empresas não gostam necessariamente de lidar com agentes e podem não estar equipadas para isso. As pessoas certamente não gostam de lidar com eles (nota: pare de pedir que seus agentes de IA me apresentem), e a Embiricos está entre essas pessoas. Ele também tem um assistente humano porque os parceiros corporativos da OpenAI querem interagir com uma pessoa, disse ele, acrescentando: “Pessoalmente, nunca pretendo ter uma reunião com o agente de outra pessoa”.

Se a indústria da IA ​​estiver certa de que os agentes são o nosso futuro, poderemos chegar lá sem sobrecarregar a infraestrutura em que o nosso mundo funciona atualmente, desde empresas e websites até redes de pagamento?

“Na OpenAI… nem sempre avançamos mais rápido em termos de fornecer a próxima capacidade para o agente trabalhar com o mundo”, disse ele. “Quando o fazemos, estamos fazendo isso em estreita colaboração com o resto do ecossistema. Provavelmente não posso dizer muito aqui, mas estamos envolvidos em muitas conversas com os processadores de pagamento.”

Permitir que um assistente de IA gaste dinheiro por meio de parcerias com empresas de pagamento seria uma novidade potencialmente lucrativa para a OpenAI, mas também um grande pedido para os consumidores. Conceder a um assistente acesso à minha caixa de entrada de e-mail já parece um grande pedido, mas minha conta bancária está fora dos limites. Por agora.