1 post
Posts marcados com CPU
-
Rodei o BitNet da Microsoft em duas CPUs: o 6x some contra o que já está no disco
Eu clonei o bitnet.cpp da Microsoft. O README promete 6,17x em CPU. Nas duas máquinas da casa o 4,2x contra f16 apareceu; contra o Q4 que o Ollama já entrega, cai para 1,3x. E o modelo vem com a ativação errada.