Fantástico Mundo de JonCaderno de bancada sobre IA rodando em hardware próprio: quantização, throughput, VRAM e o custo real de rodar LLM local.https://blog.jonathanschenker.com.brpt-BRQuando o modelo não cabe: o custo real do offload para CPUhttps://blog.jonathanschenker.com.br/posts/custo-real-do-offload-para-cpuhttps://blog.jonathanschenker.com.br/posts/custo-real-do-offload-para-cpuNo post anterior estimei que jogar camadas para a CPU custa dez vezes o desempenho. Medi nas duas placas e errei: o mesmo modelo cai de 66 para 3,1 tokens por segundo. E nada no runtime avisa quando isso acontece.Fri, 07 Aug 2026 00:00:00 GMTLLM localVRAMGPUbenchmarkoffloadDesenhos para colorir com IA local: do prompt ao arquivo que imprime bemhttps://blog.jonathanschenker.com.br/posts/desenhos-para-colorir-com-ia-localhttps://blog.jonathanschenker.com.br/posts/desenhos-para-colorir-com-ia-localGerar a imagem é a parte fácil, e é onde todo tutorial para. O que decide se a criança consegue pintar é o que vem depois: binarizar, vetorizar e imprimir sem serrilhado.Tue, 30 Jun 2026 00:00:00 GMTimagemFluxIA localimpressãoMLXQwen3.6 27B: quanta VRAM ele precisa de verdadehttps://blog.jonathanschenker.com.br/posts/qwen3-6-27b-quanta-vram-precisahttps://blog.jonathanschenker.com.br/posts/qwen3-6-27b-quanta-vram-precisaUm modelo de 27B que gasta metade do KV cache de um Llama 3 8B. A arquitetura híbrida quebra a conta usual — e decide, por menos de 1 GB, quais placas ficam de fora.Thu, 25 Jun 2026 00:00:00 GMTLLM localVRAMQwenatenção híbridaGPUQuanta VRAM um LLM realmente ocupahttps://blog.jonathanschenker.com.br/posts/quanta-vram-um-llm-ocupahttps://blog.jonathanschenker.com.br/posts/quanta-vram-um-llm-ocupaA conta de cabeça — parâmetros vezes bits — erra por vários gigabytes, porque ignora o KV cache. Aqui está a conta completa, com a fórmula, os números e como conferir na sua GPU.Wed, 10 Jun 2026 00:00:00 GMTLLM localVRAMquantizaçãoGPUMedi se arquivo de spec faz o modelo acertar mais. Não faz.https://blog.jonathanschenker.com.br/posts/spec-estruturada-nao-faz-acertar-maishttps://blog.jonathanschenker.com.br/posts/spec-estruturada-nao-faz-acertar-maisEm julho defendi que a spec estruturada muda o resultado. Medi em outubro: 360 gerações, 3 modelos locais, 3 formas do mesmo pedido. O que paga é a informação escrita, não o formato do arquivo.Tue, 14 Oct 2025 00:00:00 GMTspec-drivenagentes de códigoAiderLLM localbenchmarkO PRD vem antes: a spec que impede o agente de escrever o código erradohttps://blog.jonathanschenker.com.br/posts/prd-antes-do-prompt-spec-drivenhttps://blog.jonathanschenker.com.br/posts/prd-antes-do-prompt-spec-drivenO modelo não erra por burrice: erra porque fechou sozinho a lacuna que o prompt deixou, e fechou de um jeito plausível. O que muda no código quando o contrato vem antes do pedido.Tue, 15 Jul 2025 00:00:00 GMTagentes de códigospec-drivenClaude CodePRD