Zampo Blog
  • 首页
  • 文章
  • 搜索
  • 关于
  • 标签
🏠 首页 → 🏷️ 标签 → MLX
🏷️

MLX

探索关于「MLX」的精彩内容

1 篇文章

相关文章

共 1 篇
29 6月
3 分钟

你装的 Ollama,在多用户场景下会慢 20 倍——但这不是它的错

你装了 Ollama,跑个 Qwen3 8B。一个人用,很流畅。

然后给团队搭了个内部 chatbot。三个人同时用——卡炸了。

你以为是模型太大,换了更小的模型。还是卡。

这时候你可能开始怀疑:是不是 Ollama 性能不行?

不是。问题 …

LLM Ollama vLLM +5
阅读全文 →

Zampo Blog

Zampo 的个人技术博客,专注后端开发、数据库、技术选型

© 2026 Zampo Blog · Zampo · 用心记录,分享美好