As instruções “Você é um especialista” podem prejudicar a precisão factual

A sugestão de “Você é um especialista” pode prejudicar o desempenho tanto quanto ajuda. Um novo estudo mostra que a solicitação pessoal melhora o alinhamento com as expectativas humanas, mas pode reduzir a precisão factual em tarefas que exigem muito conhecimento, com efeitos variando de acordo com o tipo e modelo de tarefa. A conclusão é que a solicitação pessoal funciona melhor em alguns tipos de tarefas do que em outras.

Solicitação de personalidade

A solicitação de persona é uma forma comum de moldar a resposta de grandes modelos de linguagem, especialmente em aplicações onde o tom e o alinhamento com as expectativas humanas são importantes. É amplamente utilizado porque melhora a leitura e a sensação das saídas. Dado o quão difundido é o persona prompting, pode ser uma surpresa que o seu efeito real no desempenho permaneça obscuro, uma vez que pesquisas anteriores mostram resultados inconsistentes, colocando a técnica em dúvida se está ajudando ou prejudicando.

Os pesquisadores concluíram que a solicitação pessoal não é amplamente benéfica nem prejudicial e que sua eficácia depende do tipo de tarefa.

Eles encontraram:

• Melhora as saídas relacionadas ao alinhamento, como tom, formatação e comportamento de segurança
• A solicitação pessoal degrada o desempenho em tarefas que dependem de precisão factual e raciocínio

Com base nisso, os autores apresentam um método chamado PRISM (Persona Routing via Intent-based Self-Modeling), que aplica personas seletivamente, usando roteamento baseado em intenção em vez de tratar personas como uma configuração padrão. Suas descobertas mostram que a solicitação pessoal funciona melhor como uma ferramenta condicional e fornece uma melhor compreensão de quando a solicitação pessoal ajuda e quando deve ser evitada.

Gerenciando Sinais Comportamentais

Na seção três do artigo, os pesquisadores dizem que as personas dos especialistas têm “sinais comportamentais úteis”, mas que o uso ingênuo da persona causa danos tanto quanto ajuda. Dizem que isto levanta a questão de saber se esses benefícios podem ser separados dos danos e aplicados apenas onde melhoram os resultados.

Sinais comportamentais influenciam a saída do LLM. Esses sinais são a razão pela qual a solicitação pessoal funciona. Eles impulsionam melhorias no tom, na estrutura, no comportamento de segurança e na forma como as respostas atendem às expectativas. Sem eles, não haveria nenhum benefício na solicitação pessoal.

No entanto, num aparente paradoxo, o artigo mostra que esses mesmos sinais interferem em tarefas que dependem da precisão factual e do raciocínio. É por isso que o jornal os trata como algo a ser gerenciado, e não maximizado.

Esses sinais incluem:

• Adaptação estilística e correspondência de tons: Adotando uma voz profissional ou criativa.
• Formatação estruturada: Fornecimento de layouts passo a passo ou técnicos.
• Aderência ao formato: Ajudar o modelo a seguir estruturas complexas, como e-mails profissionais ou explicações STEM passo a passo.
• Seguimento da intenção: focar o modelo no objetivo subjacente do usuário, especialmente em tarefas como extração de dados.
• Recusa de segurança: Identificar e recusar solicitações prejudiciais de forma mais eficaz, adotando uma função de “Monitor de Segurança”.

Prompt de personalidade vence

O artigo descobriu que as solicitações pessoais foram uma vitória em cinco das oito categorias de tarefas:

1. Extração: aumento de +0,65 na pontuação.
2. STEM: aumento de pontuação de +0,60.
3. Raciocínio: aumento de +0,40 na pontuação.
4. Escrita: Melhorada através de uma melhor adaptação estilística.
5. Interpretando um especialista de domínio: melhorado através de uma melhor correspondência de tom.

A inspiração da persona venceu nas categorias acima porque são mais uma questão de estilo e clareza do que se a resposta está correta para fatos e conhecimento. Eles também descobriram que quanto mais longo e detalhado o prompt da persona, mais forte se torna o alinhamento e os comportamentos de segurança.

Falhas no prompt de personalidade

Por outro lado, a persona especialista degradou consistentemente o desempenho nas três (de oito) categorias restantes porque dependem de recuperação precisa de fatos ou de lógica estrita, em vez de estilo e clareza. A razão para a queda no desempenho é que adicionar uma personalidade especializada detalhada essencialmente “distrai” o modelo ao ativar um “modo de seguimento de instruções” que prioriza o tom e o estilo.

A ativação de personas especializadas ocorre às custas da “recordação factual”. O modelo está tão focado em tentar agir como um especialista que se esquece das informações que aprendeu durante o treinamento inicial. Isso explica as quedas na precisão dos fatos e da matemática.

As solicitações de especialistas da Persona tiveram pior desempenho nas três categorias a seguir:

1. Matemática
2. Codificação
3. Humanidades (conhecimento factual memorizado)

O artigo observa que em um dos benchmarks de conhecimento (MMLU), a precisão caiu de uma linha de base de 71,6% para 68,0%, mesmo com a persona “mínima”, e caiu ainda mais para 66,3% com a persona “longa”.

Eles explicaram as melhorias de segurança:

“Descrições de personalidade mais detalhadas fornecem informações de alinhamento mais ricas, amplificando proporcionalmente os comportamentos de ajuste de instrução.”

E mostrou por que a precisão factual é prejudicada:

“Tarefas de pré-treinamento de danos pessoais
Durante o pré-treinamento, os modelos de linguagem adquirem capacidades como memorização de conhecimento factual, classificação, reconhecimento de relacionamento de entidade e raciocínio zero-shot. Essas habilidades podem ser acessadas sem depender de ajuste de instruções e podem ser prejudicadas por contexto extra de seguimento de instruções, como avisos de especialistas.”

Conclusões alcançadas

Os pesquisadores concluem que a solicitação pessoal melhora consistentemente tarefas dependentes de alinhamento, como escrita, dramatização e comportamento de segurança, ao mesmo tempo que degrada o desempenho em tarefas que dependem de conhecimento baseado em pré-treinamento, incluindo matemática, codificação e benchmarks de conhecimento geral.

Eles também descobriram que a sensibilidade de um modelo às personas aumenta com seu treinamento. Os modelos mais otimizados para seguir as instruções são mais “dirigíveis”, o que significa que obtêm o maior aumento em segurança e tom, mas também sofrem as maiores quedas na precisão factual.

Conclusões

1. Seja seletivo ao usar prompts pessoais:

• Não use como padrão os prompts “Você é um especialista”
• Trate as solicitações pessoais como situacionais. Usá-lo em qualquer lugar apresenta riscos ocultos de precisão.

2. A solicitação pessoal é eficaz para:

• Qualidade de escrita
• Tom
• Formatação e organização
• Legibilidade

3. Tarefas que não se beneficiam das solicitações pessoais e devem, em vez disso, usar solicitações neutras para preservar a precisão:

• Verificação de fatos
• Estatísticas
• Explicações técnicas
• Saídas com muita lógica
• Pesquisar
• Análise SEO

4. Lembre-se destas três descobertas:

• Use prompts pessoais para gerar conteúdo e, em seguida, mude para um prompt não pessoal (ou um modo mais estrito) para verificar os fatos.
• Solicitações de “especialistas” altamente detalhadas fortalecem o tom e a clareza, mas reduzem a precisão dos fatos e do conhecimento.
• Os prompts “Você é um especialista” podem fazer com que um modelo priorize parecer correto em vez de realmente ser correto.

5. Combine suas solicitações com a tarefa:

• Criação de conteúdo: Persona ajuda
• Análise e validação: Persona dói

A abordagem mais eficaz não é um prompt, mas um fluxo de trabalho que alterna os prompts dependendo da tarefa, semelhante à abordagem PRISM do pesquisador.

Leia o artigo de pesquisa:
Personas especialistas melhoram o alinhamento do LLM, mas a precisão dos danos: inicializando o roteamento de persona baseado em intenção com PRISM

Imagem em destaque da Shutterstock/ImageFlow