与已发布的「GLM-5.2 发布」卡不同,本卡主角是推理引擎 colibrì 本身。写作红线:如实交代速度(作者自己的机器冷启动仅 0.05–0.1 tok/s,M5 Max 约 1 tok/s),不要夸成「流畅可用」;可写的记忆点:学习缓存会记住你常用的 experts、「越用越快」;作者公开求助社区跑质量基准——「一个人项目求测试机」本身就是好故事。数字均取自仓库 README 的实测表。
「25GB 内存跑 744B 大模型」——一个人用 1300 行 C 写的 colibrì,把 GLM-5.2 塞进了普通笔记本
7 月 9 日以「Show HN: Getting GLM 5.2 running on my slow computer」登上 HN 首页,399 分 103 条评论;纯 C、零依赖的单文件引擎,把 744B MoE 的 GLM-5.2 以 int4 跑在 25GB 内存的消费级机器上——常驻内存仅 9.9GB,370GB 模型放硬盘按需流式读取,Apple M5 Max 实测 1.06 tok/s。「本地跑前沿大模型」的想象力边界又被推了一格。
免费深读
公开核验来源
事实与热度可免费核验;Pro 只锁定写作角度、标题模板、竞争度、时效窗口和复制简报。
GitHub 仓库(colibrì,Apache 2.0)Hacker News 讨论(399 分)预转换 int4 权重(Hugging Face)解锁完整选题
这篇还能直接拆成 3 个写作角度
核验来源永久免费公开;搞选题 Pro 解锁竞争度、时效窗口、复制简报和 3 个标题模板,适合直接改成公众号、小红书或视频脚本。
相关阅读
沿着这个问题继续读
一篇电梯文章冲到 904 分:交互模拟很会讲故事,但别把单次仿真当行业结论
John 的交互文章《Elevators》于 7 月 31 日登上 Hacker News;截至 Asia/Katmandu 8 月 1 日 08:10,为 904 分、223 条评论。页面让读者直接改变楼层、轿厢数、客流和时段,比较 LOOK、作者简化的 RSR 与 Destination Dispatch,并用 p50/p90 等待时间把调度问题变成可操作叙事。事实边界必须前置:页面没有公开模拟器源码、随机种子、完整参数、乘客容量与真实楼宇校准数据,文中“多数情况下传统上下键胜过目的层派梯”只能描述作者这套仿真;学术研究与行业系统会同时优化等待、乘梯、总旅程、容量和特定客流,不能据此宣称 Destination Dispatch 普遍更差。RSR 的奖金/惩罚思想可由 Otis 专利交叉核对,但页面展示的具体评分项与每 5 秒重算仍是作者模型,不等于任何在运电梯控制器。
Mac Studio 接上 25GbE 只多读到 1.4GB/s:视频创作者先算散热和整条链路
Jeff Geerling 7 月 31 日发布 Mac Studio 25GbE 改造实测;截至 Asia/Katmandu 8 月 1 日 08:10,Hacker News 为 144 分、85 条评论。原机 10GbE 已能从 NAS 直接剪 4K、备份约 1 GB/s;他把一块服务器拆机 OCP 2 网卡接到 Thunderbolt 3 转接板,iperf3 多线程约 20 Gbps 单向、25 Gbps 双向,但 Samba 实际只有约 1.4 GB/s 读、1 GB/s 写,写入没有超过原有工作流。价格与工程边界必须前置:同类成品官方价约 399 至 1099 美元,测试转接器从 1 月约 160 美元涨到 299 美元;被动盒体让芯片烫手并出现掉线风险,作者拆前盖、3D 打印风道、焊接 5V Noctua 风扇后才在 10 分钟测试中压到 36°C 以下。结果只来自一台 Mac、一个 Ampere Altra NAS、特定 SSD/SMB/iperf 配置;Thunderbolt 5 接口不会把转接器内部 Thunderbolt 3 控制器变快,改盒、焊线和服务器拆机卡也不等于有保修、静音或长期稳定性。
Quill 3277 星:Mac 本地录会议、双轨分说话人,但现在只可靠转英语
digimata 于 7 月 24 日创建 Quill,一周内在 GitHub 新仓库榜升到 3277 星、196 forks(截至 Asia/Katmandu 8 月 1 日 08:10)。它用 macOS Core Audio 同时把麦克风与系统输出录成两个 CAF 轨道,停止后在 Apple Silicon 本地调用 FluidAudio 的 Parakeet TDT 0.6B v2,按时间合并成 me/them 标注的 JSON 与 Markdown;文件落在本机,适合访谈、播客和会议素材整理。限制必须前置:仓库没有 Release 或 tag,需从源码编译并授予麦克风与系统音频权限;当前默认模型是英语专用,中文不会因为“本地 AI”自动可用,README 所说每小时音频约 20 秒是项目/上游在 Apple Silicon 的口径而非本卡独立复测;所谓双说话人来自麦克风和全局系统声两轨,不会识别通话另一端的多位嘉宾;全局 tap 会录到通知、音乐等所有播放声,Whisper 回退和按应用选择仍是计划/issue,不是已交付功能。录制他人前还需按所在地与平台规则取得必要同意。