Lançamento: llm-echo 0.5

Estou trabalhando em um novo lançamento do LLM, e testar os PRs me fez revisitar o llm-echo plug-in de depuração. Este plugin fornece um “modelo” que não envolve nenhum LLM – ele apenas repete os prompts que foram enviados a ele. A nova versão agora atualiza as contagens simuladas de uso de tokens para levar em consideração chamadas de ferramentas, prompts do sistema e tokens de raciocínio.

Exemplo de uso:

uvx --with llm-echo llm -m echo 'hi there' -o thinking 1 --usage

Saídas:

First I consider the prompt, then I decide what to say.
{
  "prompt": "hi there",
  "system": "",
  "attachments": (),
  "stream": true,
  "previous": ()
}
Token usage: 2 input, 24 output