Byte por byte, os modelos abertos mais capazes

Byte por byte, os modelos abertos mais capazes


2 de abril de 2026 – Link Blog

Gemma 4: Byte por byte, os modelos abertos mais capazes. Quatro novos LLMs de raciocínio licenciados Apache 2.0 com capacidade de visão do Google DeepMind, dimensionados em 2B, 4B, 31B, além de uma mistura de especialistas 26B-A4B.

O Google enfatiza o “nível sem precedentes de inteligência por parâmetro”, fornecendo ainda mais evidências de que a criação de pequenos modelos úteis é uma das áreas de pesquisa mais quentes no momento.

Na verdade, eles rotulam os dois modelos menores como E2B e E4B para tamanho de parâmetro “Efetivo”. A placa do sistema explica:

Os modelos menores incorporam incorporações por camada (PLE) para maximizar a eficiência dos parâmetros em implantações no dispositivo. Em vez de adicionar mais camadas ou parâmetros ao modelo, o PLE fornece a cada camada decodificadora sua própria pequena incorporação para cada token. Essas tabelas de incorporação são grandes, mas são usadas apenas para pesquisas rápidas, e é por isso que a contagem efetiva de parâmetros é muito menor que o total.

Não entendo isso totalmente, mas aparentemente é isso que significa o “E” em E2B!

Eu experimentei usando os GGUFs para LM Studio. Os modelos 2B (4,41 GB), 4B (6,33 GB) e 26B-A4B (17,99 GB) funcionaram perfeitamente, mas o modelo 31B (19,89 GB) foi quebrado e cuspido "---\n" em um loop para cada prompt que tentei.

A sucessão da qualidade do pelicano de 2B a 4B e 26B-A4B é notável:

E2B:

Dois círculos azuis em um retângulo marrom e uma estranha confusão de bolha laranja e triângulo amarelo para o pelicano

E4B:

Duas rodas pretas unidas por uma espécie de prancha de surf cinza, o pelicano é semicírculo e uma bolha azul flutuando acima dele

26B-A4B:

A bicicleta tem as peças certas, embora o quadro seja instável. O pelicano é genuinamente bom, tem um grande bico triangular e um lindo pescoço curvo e é claramente um pássaro que está sentado na bicicleta

(Este na verdade tinha um erro SVG – “erro na linha 18 na coluna 88: Atributo x1 redefinido” – mas depois de corrigir isso, obtive provavelmente o melhor pelicano que já vi em um modelo que roda em meu laptop.)

O Google está fornecendo acesso API aos dois modelos maiores do Gemma por meio de seu AI Studio. Adicionei suporte ao llm-gemini e executei um pelican no modelo 31B usando isso:

llm -m gemini/gemma-4-31b-it 'Generate an SVG of a pelican riding a bicycle'

Muito bom, embora falte a parte frontal do quadro da bicicleta:

Byte por byte, os modelos abertos mais capazes



Source link

Postagens Similares

Deixe um comentário

O seu endereço de email não será publicado. Campos obrigatórios marcados com *