本地

JustVugg/colibri 用纯C语言实现零依赖的MoE推理引擎，将744B参数的GLM-5.2模型部署到仅有25GB内存的消费级设备，通过「磁盘换内存」的三档分层架构（VRAM/RAM/SSD）让超大MoE模型在本地流畅运行。冷启动32秒、常驻<10GB、Apache 2.0开源。本文从机制、性能、横向对比、架构启示四维度拆解。