colibri:用纯C在25GB内存电脑上跑744B大模型
JustVugg/colibri 用单文件纯 C 引擎把 GLM-5.2 (744B MoE) 装进 25GB 内存笔记本:MoE 稀疏激活 40B/次、19,456 expert 流式加载、MLA 把 KV 压到 576 floats/token(57× 缩小)、MTP 投机解码提速 2.2-2.8×。22 天拿 17K⭐。本文拆解原理、硬件分层、同类对比与上手步骤。
aiec.fun
JustVugg/colibri 用单文件纯 C 引擎把 GLM-5.2 (744B MoE) 装进 25GB 内存笔记本:MoE 稀疏激活 40B/次、19,456 expert 流式加载、MLA 把 KV 压到 576 floats/token(57× 缩小)、MTP 投机解码提速 2.2-2.8×。22 天拿 17K⭐。本文拆解原理、硬件分层、同类对比与上手步骤。
cc-haha 是基于泄露 Claude Code 源码打造的桌面工作台:图形化多项目管理、工作区分支隔离、DeepSeek/GLM/Qwen/Ollama 多模型切换、Computer Use 桌面操作、H5 远程与 IM 接入、定时任务与 Token 统计。适合国内受墙、需混用国产模型与 Claude 的开发者。