Mr. Chatterbox é um modelo (fraco) da era vitoriana eticamente treinado que você pode executar em seu próprio computador

Mr. Chatterbox é um modelo (fraco) da era vitoriana eticamente treinado que você pode executar em seu próprio computador

30 de março de 2026

Trip Venturella lançou Mr. Chatterbox, um modelo de linguagem treinado inteiramente em texto sem direitos autorais da Biblioteca Britânica. Veja como ele descreve:

Mr. Chatterbox é um modelo de linguagem treinado inteiramente do zero em um corpus de mais de 28.000 textos britânicos da era vitoriana publicados entre 1837 e 1899, extraídos de um conjunto de dados disponibilizado pela Biblioteca Britânica. O modelo não tem absolutamente nenhuma contribuição de treinamento posterior a 1899 — o vocabulário e as ideias são formados exclusivamente a partir da literatura do século XIX.

O corpus de treinamento do Sr. Chatterbox foi de 28.035 livros, com cerca de 2,93 bilhões de tokens de entrada após a filtragem. O modelo possui cerca de 340 milhões de parâmetros, aproximadamente o mesmo tamanho do GPT-2-Medium. A diferença, claro, é que, diferentemente do GPT-2, o Sr. Chatterbox é treinado inteiramente com base em dados históricos.

Dado o quão difícil é treinar um LLM útil sem usar grandes quantidades de dados copiados e não licenciados, venho sonhando com um modelo como este há alguns anos. Como seria conversar com um modelo treinado em texto sem direitos autorais?

Graças ao Trip agora podemos descobrir por nós mesmos!

O modelo em si é minúsculo, pelo menos para os padrões do Large Language Model – apenas 2,05 GB em disco. Você pode experimentar usando a demonstração do HuggingFace Spaces do Trip:

Honestamente, é muito terrível. Conversar com ele parece mais conversar com uma cadeia de Markov do que com um LLM – as respostas podem ter um sabor deliciosamente vitoriano, mas é difícil obter uma resposta que responda de forma útil a uma pergunta.

O artigo da Chinchilla de 2022 sugere uma proporção de 20x a contagem de parâmetros em relação aos tokens de treinamento. Para um modelo de 340 milhões que sugeriria cerca de 7 bilhões de tokens, mais que o dobro do corpus da Biblioteca Britânica usado aqui. O menor modelo Qwen 3.5 tem parâmetros de 600m e essa família de modelos começa a ficar interessante em 2b – então meu palpite é que precisaríamos de 4x ou mais dados de treinamento para obter algo que comece a parecer um parceiro de conversação útil.

Mas que projeto divertido!

Executando localmente com LLM

Decidi ver se conseguiria executar o modelo em minha própria máquina usando minha estrutura LLM.

Pedi a Claude Code para fazer a maior parte do trabalho – aqui está a transcrição.

Trip treinou o modelo usando o nanochat de Andrej Karpathy, então clonei o projeto, puxei os pesos do modelo e disse a Claude para construir um script Python para executar o modelo. Depois que tudo funcionou (o que acabou precisando de alguns detalhes extras do código-fonte da demonstração do Space), pedi a Claude que lesse o tutorial do plugin LLM e construísse o resto do plugin.

llm-mrchatterbox é o resultado. Instale o plugin assim:

llm install llm-mrchatterbox

Na primeira vez que você executar um prompt, ele buscará o arquivo do modelo de 2,05 GB do Hugging Face. Tente assim:

llm -m mrchatterbox "Good day, sir"

Ou inicie uma sessão de bate-papo contínua como esta:

llm chat -m mrchatterbox

Se você não tiver o LLM instalado, ainda poderá iniciar uma sessão de bate-papo do zero usando uvx assim:

uvx --with llm-mrchatterbox llm chat -m mrchatterbox

Quando terminar o modelo, você pode excluir o arquivo em cache usando:

llm mrchatterbox delete-model

Esta é a primeira vez que Claude Code constrói um plugin de modelo LLM completo do zero e funcionou muito bem. Espero usar esse método novamente no futuro.

Continuo esperando que possamos obter um modelo útil a partir de dados inteiramente de domínio público. O fato de Trip ter conseguido chegar tão longe usando nanochat e 2,93 bilhões de tokens de treinamento é um começo promissor.