Apresentando nosso menor e mais eficiente modelo: Muse Ember

Apresentando nosso menor e mais eficiente modelo: Muse Ember. A Meta AI acaba de lançar sua entrada na categoria Claude Haiku/GPT Luna: Muse Ember, que eles descrevem como:

(…) nosso menor e mais eficiente modelo projetado para execução de raciocínios complexos e os agentes de trabalho repetem o dia todo: chamadas de ferramentas, subtarefas de codificação, roteamento, extração e análise longa de documentos.

Para prompts mais curtos, o preço é o mesmo do GPT-6 Luna e Claude Haiku 5.5 – ambos custam tokens de entrada de US$ 0,10/milhão e de saída de US$ 0,50/milhão. O outro grande lançamento de modelo de hoje, Claude Fable 5.2, é 80x esse preço por US$ 8/US$ 40.

O preço é um pouco menos simples, pois os prompts ficam mais longos. Luna, Ember e Haiku suportam até um milhão de tokens de entrada, mas também têm um limite após o qual o preço sobe. Tirando que limite em conta Ember tem um preço entre os dois outros:

Modelo Tamanho do prompt Entrada ($/M) Entrada em cache Saída
GPT-6 Lua ≤272 mil US$ 0,10 US$ 0,01 US$ 0,50
>272 mil US$ 0,20 US$ 0,02 US$ 0,75
Musa Ember 1.0 ≤200 mil US$ 0,10 US$ 0,004 US$ 0,50
>200 mil US$ 0,30 US$ 0,012 US$ 1,50
Claude Haiku 5.5 ≤100 mil US$ 0,10 US$ 0,01 US$ 0,50
>100 mil US$ 0,50 US$ 0,05 US$ 2,50

Mas comparar o preço por token não faz muito sentido hoje em dia, quando o raciocínio dos tokens significa que diferentes modelos podem usar números dramaticamente diferentes de tokens para resolver o mesmo problema.

Para isso, uma medida útil é a Análise Artificial.

Gráfico de barras empilhadas da Análise Artificial comparando um custo em dólares em seis modelos, cada barra dividida em quatro segmentos empilhados não rotulados, classificados do total mais baixo para o mais alto. Claude Haiku 5,5 (baixo): $ 0,04 * total, segmento inferior $ 0,02, três segmentos finos sem rótulo acima. GPT-6 Luna (sem raciocínio): $ 0,07 no total, segmento inferior $ 0,06, segmentos finos não rotulados acima. GPT-6 Luna (xhigh): $ 0,10 no total, segmentos da parte inferior $ 0,07, $ 0,02, $ 0,02, mais um segmento superior fino e não rotulado. Muse Ember (xhigh): $ 0,12 no total, segmentos da parte inferior $ 0,06, $ 0,02, $ 0,02, mais um segmento superior fino e sem rótulo. Muse Ember (máx.): $ 0,14 no total, segmentos da parte inferior $ 0,07, $ 0,03, $ 0,03, $ 0,02. Claude Haiku 5,5 (xhigh): $ 0,25 * total, segmentos da parte inferior $ 0,14, $ 0,04, $ 0,05, $ 0,02. As barras antrópicas são de terracota, as barras OpenAI são cinza escuro, as barras Meta são azuis, cada uma com o logotipo da empresa abaixo.

E ainda mais útil do que isso é o gráfico Índice de Inteligência vs. Custo por Tarefa, que mostra o seguinte para esses três modelos:

Gráfico de dispersão da Análise Artificial intitulado "Índice de Inteligência vs. Custo por Tarefa"traçando o Índice de Inteligência de Análise Artificial (eixo y, 5 a 40) em relação ao custo por tarefa em dólares americanos em uma escala logarítmica (eixo x, US$ 0,04 a US$ 0,3), com um verde "quadrante mais atraente" no canto superior esquerdo e uma linha de Pareto pontilhada. Claude Haiku 5,5 (baixo)* pontua cerca de 19, aproximadamente US$ 0,044. GPT-6 Luna (sem raciocínio) pontua cerca de 9,5, com cerca de US$ 0,07. GPT-6 Luna (xhigh) pontua cerca de 23,5, aproximadamente US$ 0,10. Muse Ember (xhigh) pontua cerca de 34, aproximadamente US$ 0,12, e Muse Ember (máximo), cerca de 36, aproximadamente US$ 0,14, ambos na linha de Pareto. Claude Haiku 5,5 (xhigh)* pontua cerca de 34,5, com cerca de US$ 0,25, bem à direita da linha de Pareto. Três pontos cinza não rotulados também ficam na linha de Pareto.

Os modelos Muse Ember ficam exatamente na linha de Pareto – a linha na qual você só pode melhorar uma dimensão abrindo mão de outra. Meta chama isso em seu anúncio:

Ele também está na fronteira de eficiência da tabela de classificação completa da Análise Artificial: nenhum modelo tem pontuação mais alta por menos por tarefa.

(Aquele ponto cinza na linha de Pareto no meio da área verde é GPT-6.1 Terra (baixo) – claramente eu deveria prestar mais atenção à família Terra!)

Muse Ember tem seis níveis de raciocínio – mínimo, baixo, médio, alto, xalto e máximo – então renderizei seis pelicanos andando de bicicleta. O nível de raciocínio “alto” não conseguiu retornar um SVG completo, e os outros SVGs foram surpreendentes porque o nível de raciocínio não foi mapeado de forma clara para a qualidade visual da resposta.

Aqui está o “máximo”, mas vale a pena dar uma olhada nos outros também:

Apresentando nosso menor e mais eficiente modelo: Muse Ember

Os pelicanos Ember são comparáveis ​​em qualidade aos que comprei no Muse Wonder, que custa 40x o preço do Muse Ember.

Source link

Deixe um comentário

O seu endereço de email não será publicado. Campos obrigatórios marcados com *

Botão Voltar ao Topo