Inkling: Nosso modelo de pesos abertos

Inkling: Nosso modelo de pesos abertos (via) O Thinking Machines Lab de Mira Murati acaba de lançar seu primeiro modelo de peso aberto. Inkling é “um transformador de mistura de especialistas com parâmetros totais de 975B, 41B ativos” – um modelo multimodal licenciado Apache-2.0 treinado em 45 trilhões de tokens de texto, imagens, áudio e vídeo.

Eles também estão prometendo o Inkling-Small, um modelo 276B (12B ativo), mas que ainda está sendo testado e os pesos serão liberados “assim que o trabalho for concluído”.

O cartão modelo é muito mais curto do que eu esperava dos laboratórios de IA dos EUA. Ele está vinculado a uma documentação de dados de treinamento ainda mais curta, sem quase nada de interesse – é melhor resumida por estes dois parágrafos:

Os conjuntos de dados que o Thinking Machines Lab usa para desenvolver seus serviços de IA incluem conteúdo de domínio público, bem como conteúdo que pode estar sujeito à proteção de propriedade intelectual.

Os serviços do Thinking Machines Lab foram desenvolvidos usando conteúdo disponível publicamente, obtido na Internet aberta e em repositórios de dados acessíveis ao público. Certos conjuntos de dados também foram obtidos de terceiros.

Como a própria Thinking Machines admite, este não é um modelo de fronteira. Em vez disso, pretende ser um modelo base forte para ajuste fino usando sua própria plataforma de treinamento Tinker:

Inkling não é o modelo geral mais forte disponível hoje, aberto ou fechado. Em vez disso, uma combinação de qualidades torna-o uma boa base aberta para personalização: capacidades multimodais, pensamento eficiente e disponibilidade no Tinker para ajuste fino.

Há muito o que gostar neste lançamento. É licenciado pelo Apache-2.0 e parece competitivo com os modelos de peso aberto vindos da China – é bom ver o ecossistema de pesos abertos dos EUA ganhar um novo concorrente viável para se juntar ao NVIDIA Nemotron e ao Gemma 4.

Aqui está a tentativa de um pelicano SVG andando de bicicleta, que gerei usando este curl comando na API Thinking Machines:

curl "https://tinker.thinkingmachines.dev/services/tinker-prod/oai/api/v1/chat/completions" \
  -H "Authorization: Bearer $TINKER_API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "thinkingmachines/Inkling",
    "messages": (
      {"role": "user", "content": "Generate an SVG of a pelican riding a bicycle"}
    ),
    "stream": false
  }'

Resposta completa aqui.

Como é um modelo multimodal, fiz com que ele descrevesse sua própria imagem (depois de renderizá-la em JPEG) enviando este JSON:

{
  "model": "thinkingmachines/Inkling",
  "messages": ({
    "role": "user",
    "content": (
      {"type": "image_url", "image_url": {"url": "data:image/jpeg;base64,$BASE_64_JPEG"}},
      {"type": "text", "text": "Describe this image in detail"},
    ),
  }),
  "stream": false
}

Aqui está a resposta completa. Pensou ter desenhado uma “cegonha ou gaivota”:

Esta é uma ilustração alegre de desenho animado vetorial plano apresentando um pássaro branco andando de bicicleta por uma paisagem verde.

O pássaro: A figura central é um pássaro branco estilizado – semelhante a uma cegonha ou gaivota – com corpo roliço e arredondado. Possui um bico longo e proeminente, laranja, ligeiramente aberto, revelando uma linha preta que representa a boca. Seu olho é pequeno e preto com um pequeno destaque branco. O pássaro tem penas pretas nas asas e na cauda com bordas brancas, e finas pernas laranja terminando em pés pretos que repousam sobre os pedais laranja da bicicleta.

A bicicleta: A bicicleta tem um quadro preto simples com duas rodas grandes com pneus pretos, aros internos cinza e raios pretos dispostos em padrão cruzado. O guidão é preto e há pedais laranja brilhantes presos a uma manivela preta. Um assento branco é visível atrás do corpo do pássaro.

A configuração: A cena se passa contra um céu azul claro e claro. Há duas nuvens brancas e fofas – uma no lado esquerdo e outra menor perto da cabeça do pássaro, à direita. Um sol amarelo sólido e brilhante brilha no canto superior direito. Na parte inferior, há colinas verdes com uma borda superior lisa e curva onde a bicicleta repousa.

O estilo geral é lúdico, simples e colorido, com linhas simples e uma atmosfera iluminada e ensolarada.