https://blog.eastseven.cn/tags/%E5%A4%A7%E6%A8%A1%E5%9E%8B/Recent content in 大模型 on D7 的知识库Hugozh-cnSun, 20 Sep 2026 00:00:00 +0000https://blog.eastseven.cn/posts/03-ai/bonsai-2-27b-%E6%9C%AC%E5%9C%B0%E9%83%A8%E7%BD%B2%E4%B8%8E%E6%8E%A5%E5%85%A5-hermes-agent---%E4%BD%8E%E6%98%BE%E5%AD%98%E5%A4%9A%E6%A8%A1%E6%80%81%E6%A8%A1%E5%9E%8B%E6%95%99%E7%A8%8B/Sun, 20 Sep 2026 00:00:00 +0000https://blog.eastseven.cn/posts/03-ai/bonsai-2-27b-%E6%9C%AC%E5%9C%B0%E9%83%A8%E7%BD%B2%E4%B8%8E%E6%8E%A5%E5%85%A5-hermes-agent---%E4%BD%8E%E6%98%BE%E5%AD%98%E5%A4%9A%E6%A8%A1%E6%80%81%E6%A8%A1%E5%9E%8B%E6%95%99%E7%A8%8B/<h2 id="简介">简介</h2> <p>本文介绍如何在 Windows 上部署 PrismML 的 Ternary-Bonsai-2-27B GGUF 模型，并通过 llama.cpp 提供 OpenAI 兼容 API，供 Hermes Agent 调用。文章将该模型描述为基于 Qwen3.8-27B 的约 9 倍压缩版本：主模型约 5.9GB，并支持最长 262K 上下文与图片输入。</p>