https://blog.cpdd.fyi/tags/%E6%9C%AC%E5%9C%B0%E9%83%A8%E7%BD%B2/Recent content in 本地部署 on Zampo BlogHugozh-cnFri, 03 Apr 2026 10:20:00 +0800https://blog.cpdd.fyi/posts/gemma4-local-deployment/Fri, 03 Apr 2026 10:20:00 +0800https://blog.cpdd.fyi/posts/gemma4-local-deployment/<blockquote> <p>昨天 Gemma 4 刚发，今天它已经跑在我本地了，而且接进了 OpenClaw。</p> </blockquote> <p>很多人一看到新模型发布，第一反应是去搜教程。</p> <p>然后就会看到两类内容：</p> <ol> <li>一堆参数表，读完还是不知道怎么装</li> <li>直接甩一句 <code>ollama pull xxx</code>，结果你一跑就报错，因为库里根本还没有，或者版本不对</li> </ol> <p>所以这篇文章我不聊空话，只讲一条真的能跑通的链路：</p> <div class="highlight"><div class="chroma"> <table class="lntable"><tr><td class="lntd"> <pre tabindex="0" class="chroma"><code><span class="lnt">1 </span><span class="lnt">2 </span><span class="lnt">3 </span></code></pre></td> <td class="lntd"> <pre tabindex="0" class="chroma"><code class="language-text" data-lang="text"><span class="line"><span class="cl">hf download </span></span><span class="line"><span class="cl">→ ollama create </span></span><span class="line"><span class="cl">→ OpenClaw 接入 </span></span></code></pre></td></tr></table> </div> </div><p>这条路的好处很现实：</p> <ul> <li>你知道模型文件是从哪里来的</li> <li>你知道自己下的是哪个量化版本</li> <li>你不需要赌 Ollama 官方库有没有同步</li> <li>你装完就能在 OpenClaw 里用，不是“理论上可行”</li> </ul> <p>如果你只想要一句结论，那就是：</p> <p><strong>先别冲 31B，也别一上来折腾一堆转换脚本。先从 Gemma 4 E4B 开始，用 GGUF 跑通本地链路，这是最稳的。</strong></p>https://blog.cpdd.fyi/posts/qwen3-5-local-deployment/Thu, 05 Mar 2026 10:37:00 +0800https://blog.cpdd.fyi/posts/qwen3-5-local-deployment/<blockquote> <p>阿里最新发布 0.8B-9B 端侧模型，10 分钟完成部署，显存最低 500MB。本文实测 4 种型号在 OpenClaw 中的表现，含完整配置、性能数据、踩坑记录。</p> </blockquote> <hr> <h2 id="写在前面">写在前面</h2> <p>2026 年 3 月初，阿里通义千问发布了 Qwen 3.5 小模型家族（0.8B/2B/4B/9B）。没有发布会，但技术文档里的几个数字让我停下了手头的工作：</p> <ul> <li>0.8B 模型显存占用 <strong>~500MB</strong></li> <li>4B 模型支持 <strong>原生多模态</strong>（非适配器方案）</li> <li>9B 模型用了 <strong>Scaled RL</strong> 强化学习</li> </ul> <p>我花了一下午把这四个型号全部署到 OpenClaw 里跑了一遍。结论先行：<strong>端侧 AI 的拐点，可能真的到了</strong>。</p> <p>下面是完整实测报告，包含部署步骤、配置方法、性能数据和踩坑记录。你可以直接照着做。</p> <hr> <h2 id="一qwen-35-小模型家族规格">一、Qwen 3.5 小模型家族规格</h2> <h3 id="11-型号对比">1.1 型号对比</h3> <table> <thead> <tr> <th>型号</th> <th>定位</th> <th>适用场景</th> <th>VRAM 占用</th> <th>推理速度</th> </tr> </thead> <tbody> <tr> <td><strong>0.8B</strong></td> <td>边缘设备/IoT</td> <td>传感器数据处理、简单指令</td> <td>~500MB</td> <td>120 tokens/s</td> </tr> <tr> <td><strong>2B</strong></td> <td>移动端/轻量任务</td> <td>聊天机器人、文本分类</td> <td>~1.5GB</td> <td>85 tokens/s</td> </tr> <tr> <td><strong>4B</strong></td> <td>轻量级 Agent</td> <td>多模态任务、自动化流程</td> <td>~3GB</td> <td>65 tokens/s</td> </tr> <tr> <td><strong>9B</strong></td> <td>推理与逻辑</td> <td>代码生成、复杂推理</td> <td>~6GB</td> <td>42 tokens/s</td> </tr> </tbody> </table> <blockquote> <p>测试环境：MacBook Pro M3，16GB 统一内存，量化版本 Q4_K_M</p>