Antirez 出手了。
即便你不知道 Antirez 是谁,他写的 Redis 你也大概率用过或者听说过。这位写出过世界级开源项目的工程师,最近又整了个新活——ds4(DeepSeek 4 Flash),一个专门跑 DeepSeek V4 的本地推理引擎。
上线两周,11,540 Stars。速度惊人。

这项目解决什么问题
DeepSeek V4 是目前最强的开源大模型之一,但官方服务有时慢,有时排队,有时贵。ds4 的思路很简单:把它跑在你自己的机器上。
支持的平台有两个:Apple Silicon(通过 Metal)和 NVIDIA GPU(通过 CUDA)。也就是说,M系列 Mac 用户和游戏显卡用户都能跑。
技术上有几个亮点:
Flash Attention
这是 DeepSeek 官方也在用的注意力机制优化,ds4 直接集成,显存占用更低。
量化支持
FP16/INT8/INT4 都有,想省显存就往下压。
纯 C 实现
无重型依赖,一套代码走天下,移植性拉满。
性能怎么样
官方还没出 benchmark,但同类型引擎的数据可以参考:
| 引擎 | 推理速度 | 显存占用 | 适合场景 |
|---|---|---|---|
| ds4(Metal) | 待测 | 优化中 | Apple Silicon本地推理 |
| vLLM | 高 | 较高 | NVIDIA生产环境 |
| llama.cpp | 中 | 低 | 资源受限环境 |
老实说,现在下结论还早。项目才两周,稳定性需要时间验证。但 antirez 的过往项目质量摆在那里,值得关注。
怎么跑起来
macOS 上手很简单:
git clone https://github.com/antirez/ds4.git
cd ds4
make metal
./ds4 -m deepseek-v4-flash.bin -p "你好,请介绍一下自己"
编译大概几分钟,取决于你的机器。模型权重需要自己从 HuggingFace 下载。
值不值得试
如果你用的是 M 系列 Mac,又对 DeepSeek V4 有需求,这项目值得蹲一下。
它解决的不是「能不能跑」的问题,而是「跑在哪更舒服」的问题。Apple Silicon 的能效比在推理场景确实有优势,ds4 把这个优势直接变现了。
当然,如果你需要的是生产级服务,vLLM 生态更成熟。但如果只是想本地跑着玩、做一些开发测试,ds4 是目前看起来最干净的选择之一。
项目链接:https://github.com/antirez/ds4