title: "1 bit 只有两个状态——用它画图，不是在开玩笑吗？" description: "Bonsai Image 4B把FLUX.2画图模型从7.75GB压到0.93GB，iPhone上9秒出图，但1-bit量化对扩散模型潜在空间的破坏是绕不过的代价" tags: ["Bonsai", "端侧AI", "1-bit量化", "FLUX", "PrismML"]
1 bit，只有两个状态：-1 和 +1。
用这种精度去表示一个 40 亿参数的扩散 Transformer，然后让它画图——这听起来像是在用算盘做天气预报。
但加州理工的 PrismML 团队做到了。Bonsai Image 4B，基于 FLUX.2 Klein 4B，1-bit 量化后模型体积 0.93GB，8.3 倍压缩。装进 iPhone，512×512 图片 9 秒出图。Apache 2.0 协议，可商用。
这是第一个能在 iPhone 上直接跑的 4B 级别画图模型。
但"能跑"和"画得好"是两码事。先看它到底怎么做到的，再看代价你能不能接受。
从 7.75GB 到 0.93GB：不是量化，是重训
大多数人理解的模型压缩：拿一个训练好的 FP16 模型，用 INT8 或 INT4 量化一下，体积缩小，精度损失。
Bonsai Image 4B 不是这么做的。
PrismML 的做法是从零开始，在 1-bit 精度下训练整个网络。权重只有 {-1, +1} 两种状态，配合 FP16 的 group-wise scaling factor，有效精度约 1.125 bits/weight。
关键区别：事后量化是在完整精度模型上"砍精度"，1-bit 原生训练是让模型从一开始就适应低精度生存。就像一个人从小练左手写字 vs 右手断了之后被迫改左手——前者更自然。
但不是所有参数都是 1-bit。约 5% 的精度敏感张量（projection layers）保留在 FP16。这 5% 是画图质量的命门——如果全部 1-bit，画面大概率崩塌。
两个版本：1-bit 极限压缩 vs Ternary 质量平衡
| 维度 | 1-bit Bonsai | Ternary Bonsai | FP16 FLUX.2 Klein 4B |
|---|---|---|---|
| 权重精度 | {-1, +1} | {-1, 0, +1} | FP16 |
| 有效精度 | ~1.125 bit | ~1.58 bit | 16 bit |
| Transformer 体积 | 0.93 GB | 1.21 GB | 7.75 GB |
| 压缩倍数 | 8.3× | 6.4× | 1× |
| 512² 活跃内存 | 1.5 GB | 1.96 GB | 11.74 GB |
| 1024² 活跃内存 | 1.95 GB | 2.38 GB | 14.39 GB |
| iPhone 17 Pro Max 512² | ~9s | ~9.4s | 跑不了 |
| M4 Pro 512² | ~5s | ~6s | 跑得了但慢 |
| 精度保留率 | ~84% | ~88%+ | 100% |
PrismML 官方推荐 Ternary 版本——多 0.28GB，质量明显更好，体积仍然只有原版的 1/6.4。
1-bit 版本是技术极限展示——"你看，1-bit 也能画图"。Ternary 版本才是日常使用的选择。
实测：能画，但画得怎么样？
GIGAZINE 做了一个同 prompt 对比测试，三个模型用同一个提示词出图：
- 1-bit Bonsai Image 4B：主体结构正确，细节有涂抹感，色彩偏平
- Ternary Bonsai Image 4B：接近原版质量，细节纹理有轻微损失，色彩还原较好
- FP16 FLUX.2 Klein 4B：完整精度，细节最丰富
Ternary 版本在大多数场景下和原版的视觉差异不大，但在以下场景会明显掉质：
- 高频细节：毛发、织物纹理、细小文字——这些需要高精度权重才能准确还原
- 色彩过渡：渐变天空、肤色过渡——1-bit 的离散性导致色阶不够平滑
- 复杂构图：多人、遮挡、精细手部——信息密度高，低精度权重撑不住
简单说：画表情包、画头像、画像素艺术——够用。画商业插画、画产品图、画精细人像——不够用。
端侧画图赛道横评
Bonsai Image 4B 不是唯一的端侧画图方案，但它是唯一用 1-bit 量化的。
| 维度 | Bonsai Image 4B (Ternary) | SD Turbo Mobile | FLUX.1 Schnell (云端) | DALL-E 3 (云端) |
|---|---|---|---|---|
| 运行方式 | 本地 | 本地 | 云端 | 云端 |
| 模型体积 | 1.21 GB | ~2 GB | ~12 GB | 未知 |
| 最大分辨率 | 1024×1024 | 512×512 | 1024×1024 | 1024×1024 |
| iPhone 可跑 | ✅ | ✅（限旧版） | ❌ | ❌ |
| 离线可用 | ✅ | ✅ | ❌ | ❌ |
| 隐私安全 | ✅ | ✅ | ⚠️ | ⚠️ |
| 画质（主观） | ⭐⭐⭐ | ⭐⭐ | ⭐⭐⭐⭐ | ⭐⭐⭐⭐⭐ |
| 商用 | ✅ Apache 2.0 | ⚠️ 限制 | ✅ | ❌ 付费 |
| 成本 | 免费 | 免费 | 按token | 按次 |
Bonsai 的定位很清晰：端侧画图里质量最高的，云端画图里最隐私的。
SD Turbo Mobile 也能在手机上跑，但画质和 FLUX 系列不在一个量级。FLUX.1 Schnell 画质好但必须上云。Bonsai Ternary 在"本地 + FLUX 级画质"这个交叉点上，目前没有对手。
代价清醒：1-bit 不是免费的午餐
1. 扩散模型的潜在空间被破坏了。
这是 Reddit r/LocalLLaMA 社区提出的最尖锐的批评：1-bit 极端压缩破坏了扩散模型潜在空间的连续性。扩散模型的工作原理是在连续潜在空间中逐步去噪，1-bit 量化把这个连续空间变成了离散的——就像把一条平滑的曲线变成了一串台阶。
对于 LLM，1-bit 量化的影响相对可控（语言是离散的）。但对于扩散模型，潜在空间的连续性是核心假设——破坏它，就破坏了模型"从噪声到清晰图像"的渐变能力。
2. 提示词遵循度下降。
低精度权重对复杂提示词的理解能力有限。"一只橘猫戴着红色蝴蝶结坐在蓝色沙发上"——主体（猫）没问题，属性（橘色、红色、蓝色）可能混淆。提示词越长越复杂，遵循度下降越明显。
3. 只支持文生图。
没有图生图（img2img）、没有 ControlNet、没有 Inpainting。这些功能需要额外的模型组件和更高的精度，1-bit 量化下很难保证质量。
4. Android 暂时用不了。
Bonsai Studio App 目前只有 iOS 版本，依赖 Apple Silicon 的 MLX 框架和 Neural Engine 加速。Android 端侧部署需要适配不同的 NPU 架构（骁龙 Hexagon、联发科 APU），工作量不小。
5. 1024×1024 要 34 秒。
原生分辨率 1024×1024 在 iPhone 17 Pro Max 上需要 34 秒。对于"随手画着玩"来说，9 秒（512²）可以接受，34 秒就有点考验耐心了。而且 1024² 下活跃内存 1.95GB，对 iPhone 的内存压力不小。
同源技术：Bonsai 8B LLM
PrismML 不只做了画图模型。他们的 1-bit Bonsai 8B LLM 更早发布：
- 8.2B 参数，1.15 GB 体积，14× 压缩
- iPhone 17 Pro Max 上 44 tokens/s
- 在同参数级别的 LLM 基准测试中，匹配或击败 14 倍体积的竞争对手
1-bit LLM 的质量损失比画图模型小得多——因为语言本身就是离散的，1-bit 量化对 LLM 的破坏远小于对扩散模型的破坏。这也从侧面印证了：1-bit 量化更适合 LLM，对画图模型是更激进的赌注。
谁该用，谁不该用
该用的：
- 想在 App 里集成离线画图功能的 iOS 开发者
- 做表情包、头像、像素艺术等低精度需求的创作者
- 对隐私有硬要求、数据不能上云的场景
- 想体验端侧 AI 画图的技术尝鲜者
不该用的：
- 对画质有专业级要求的商业插画、产品图场景
- 需要图生图、ControlNet、Inpainting 的工作流
- Android 用户（暂时）
- 需要高分辨率（1024²+）且对出图速度敏感的场景
端侧 AI 的真正意义不是替代云端
Bonsai Image 4B 的价值不在于"画得比云端好"——它画不过。而在于：
有些图，你根本不想让云端看到。
商业机密的概念图、个人隐私的照片编辑、内部产品的原型设计——这些内容上云就有泄露风险。Bonsai 让你在手机上完成这些工作，数据全程不出设备。
这是端侧 AI 的真正定位：不是云端 AI 的替代品，而是云端 AI 不敢碰的场景的补充。
1-bit 量化是达成这个目标的手段，不是目的。Ternary 版本在质量和体积之间找到了更好的平衡——如果你不是在追求技术极限，选 Ternary。
PrismML 的核心洞见值得记住：intelligence density（智能密度）比 sheer parameter count（参数量）更重要。 一个 1.21GB 的模型如果能覆盖 80% 的日常画图需求，那比一个 7.75GB 但必须上云的模型更有实用价值。
但别忘了那 20%——高频细节、色彩过渡、复杂构图——这些是 1-bit 量化的死区，不是"以后会好"的问题，是离散权重在连续潜在空间里的结构性限制。
相关链接：
- PrismML 官网：https://prismml.com
- Bonsai Image 4B 发布：https://prismml.com/news/bonsai-image-4b
- GitHub：https://github.com/PrismML-Eng
- Bonsai Studio App：App Store 搜索 "Bonsai Studio"
- HuggingFace（Ternary）：https://huggingface.co/prism-ml/bonsai-image-ternary-4B-mlx-2bit
暂无评论。