Bonsai 27B 把 27B 模型压到 3.9GB——但「手机能跑」还不是「手机好用」
PrismML 7 月 14 日发布基于 Qwen 3.6 27B 的 Bonsai 27B,称 1-bit 版仅 3.9GB、三值版 5.9GB,可在 iPhone、iPad、Mac 和 NVIDIA GPU 原生运行;帖子随后登上 Hacker News,截至 7 月 15 日 443 分、166 条评论。边界必须前置:90% / 95% 能力保留、速度与「首个手机 27B」均主要来自厂商自测,iPhone 演示还标注了图像上下文已缓存和预填充;HN 早期用户同时报告 LM Studio 兼容失败、Android 异常输出与低比特工具调用掉点,尚无独立中文、长上下文、功耗和持续 agent 循环基准,不能把「权重装得下」直接写成「普通用户已能稳定使用」。
推荐写作角度
- 中文实测向:同一台手机上跑中文口播总结、OCR、工具调用和多轮 agent,把首 token、持续速度、峰值内存、发热、耗电与失败率一起测,避免只复述 3.9GB
- 模型科普向:1-bit 为什么不是普通量化?拆开二值权重、三值权重、组缩放和量化感知训练,再解释 90% 综合分为何可能掩盖工具调用与视觉能力的明显下降
- 创作者决策向:本地隐私、离线可用和零调用费很诱人,但运行时兼容、中文质量和电量才决定能否进生产——做一张手机本地模型采用清单
标题模板
- 「27B 大模型真塞进 iPhone 了?3.9GB 背后的成绩与四条边界」
- 「手机端 AI 的 1-bit 时刻:Bonsai 27B 能跑,不等于已经好用」
- 「不上云的 27B agent 来了,但先别被「保留 90% 智力」带跑」
公开核验来源
事实、判断、写作角度和标题模板全部免费公开;引用前请回到原始来源再次核对。
PrismML 发布原文、规格与厂商基准9to5Mac 独立报道与 Apple 关系核查Hacker News 讨论(截至 7 月 15 日 443 分 / 166 评论)相关阅读
沿着这个问题继续读
Muse Spark 1.3 上线:少 20% 工具调用是厂商结果,Max 推理与开放权重仍在路上
Meta 于 2026-09-02 发布 Muse Spark 1.3,并开始向 Muse Code 与 Meta Model API 推送;截至 Asia/Katmandu 2026-09-03 06:07,Hacker News 为 340 分、237 条评论。Meta 称相较 1.2,内部工程师比较中工具调用约少 20%、token 约少 25%,并强调长任务、多工作流、澄清问题与高后果操作前确认;这些数字来自厂商自测,没有公开证明所有语言、仓库和真实创作任务都能同比节省。边界必须前置:Max reasoning 仍要等额外安全测试,官方只说开放权重未来会来,两者都不是当前已交付能力;页面中的工程、音频和演示文稿案例是原型展示,不等于可复现产品验收。独立 Artificial Analysis 的首日数据也只是特定端点与基准快照,价格、速度和排名会变,中文创作者应以自己的任务集、隐私选项和完整成本复测。
Mistral 的训练退出不是一个总开关:Vibe、API 与反馈要分开检查
Mistral 本周更新数据治理帮助页,明确普通 Vibe 用户的输入输出默认可用于训练、可自行退出,Vibe Enterprise 则默认退出;Vibe 与 Mistral Studio/API 的退出开关彼此独立,关闭一处不会自动关闭另一处,上传文档也算输入数据。截至 Asia/Katmandu 2026-09-03 06:07,相关 Hacker News 讨论为 359 分、155 条评论。边界必须前置:帮助页描述的是当前产品设置,不等于历史数据自动删除、零数据保留或所有第三方接入都遵循同一规则;反馈渠道另有处理,官方提醒不希望反馈数据被用于改进时不要提交带评论的赞/踩。产品名称、套餐默认值和控制入口可能继续变化,发布前应按当日账号与合同复核,不能把“可退出”简化成“默认不训练”。
21.5 万篇“最佳软件”页进入 AI 引用链:AEO 先要解决证据污染
Trellner Research 于 2026-09-02 公布一次 Perplexity 软件推荐审计:研究者用 380 个软件类别做单次快照,发现三个版式与基础设施高度相似的站点合计列出 215,128 个 `/best/` 购买指南;另一个软件厂商 Guideflow 的博客在 96 个类别中被引用 194 次,成为第三大引用来源。相关 Hacker News 讨论截至 Asia/Katmandu 2026-09-03 06:07 为 287 分、127 条评论。边界必须前置:研究只测 Perplexity、一个提示措辞、每类一次运行,两个模型档位的引用高度重合,不能当作两个独立实验;它没有证明这些页面一定错误、共同所有者是谁,也没有做移除来源后的因果测试,更不能外推 ChatGPT、Gemini、Copilot 或 Google AI Mode。215,128 是三站 sitemap 中对应 URL 数的合计,不是已人工逐篇判假的数量;“证据污染”应作为待复测风险,而不是给站点或运营者定罪。