Sam Altman diz que é melhor que a RAM esteja em um data center do que em sua mesa

“Muitas pessoas querem inferência local. E, de alguma forma, presumem que o problema está resolvido agora porque teremos modelos de código aberto, seremos capazes de executá-los em nossos computadores e, portanto, não precisaremos de todo o material no data center.

Mas, do ponto de vista da alocação global, na verdade, é terrível que todos tenham uma quantidade limitada de DRAM do mundo em seus próprios computadores e sendo usados ​​cinco por cento do tempo.

Você deseja utilização máxima na nuvem se estiver tentando lidar com esse ambiente com fornecimento limitado. E de alguma forma a intuição de todo mundo – de muitas pessoas é o oposto disso.”

Source link

Deixe um comentário

O seu endereço de email não será publicado. Campos obrigatórios marcados com *

Botão Voltar ao Topo