Sam Altman diz que é melhor que a RAM esteja em um data center do que em sua mesa

“Muitas pessoas querem inferência local. E, de alguma forma, presumem que o problema está resolvido agora porque teremos modelos de código aberto, seremos capazes de executá-los em nossos computadores e, portanto, não precisaremos de todo o material no data center.
Mas, do ponto de vista da alocação global, na verdade, é terrível que todos tenham uma quantidade limitada de DRAM do mundo em seus próprios computadores e sendo usados cinco por cento do tempo.
Você deseja utilização máxima na nuvem se estiver tentando lidar com esse ambiente com fornecimento limitado. E de alguma forma a intuição de todo mundo – de muitas pessoas é o oposto disso.”





