文档大纲

Redis作者的新玩具:ds4让DeepSeek V4在Mac上跑起来

Antirez 出手了。

即便你不知道 Antirez 是谁,他写的 Redis 你也大概率用过或者听说过。这位写出过世界级开源项目的工程师,最近又整了个新活——ds4(DeepSeek 4 Flash),一个专门跑 DeepSeek V4 的本地推理引擎。

上线两周,11,540 Stars。速度惊人。

这项目解决什么问题

DeepSeek V4 是目前最强的开源大模型之一,但官方服务有时慢,有时排队,有时贵。ds4 的思路很简单:把它跑在你自己的机器上。

支持的平台有两个:Apple Silicon(通过 Metal)和 NVIDIA GPU(通过 CUDA)。也就是说,M系列 Mac 用户和游戏显卡用户都能跑。

技术上有几个亮点:

Flash Attention
这是 DeepSeek 官方也在用的注意力机制优化,ds4 直接集成,显存占用更低。

量化支持
FP16/INT8/INT4 都有,想省显存就往下压。

纯 C 实现
无重型依赖,一套代码走天下,移植性拉满。

性能怎么样

官方还没出 benchmark,但同类型引擎的数据可以参考:

引擎 推理速度 显存占用 适合场景
ds4(Metal) 待测 优化中 Apple Silicon本地推理
vLLM 高 较高 NVIDIA生产环境
llama.cpp 中 低 资源受限环境

老实说,现在下结论还早。项目才两周,稳定性需要时间验证。但 antirez 的过往项目质量摆在那里,值得关注。

怎么跑起来

macOS 上手很简单:

git clone https://github.com/antirez/ds4.git
cd ds4
make metal
./ds4 -m deepseek-v4-flash.bin -p "你好,请介绍一下自己"

编译大概几分钟,取决于你的机器。模型权重需要自己从 HuggingFace 下载。

值不值得试

如果你用的是 M 系列 Mac,又对 DeepSeek V4 有需求,这项目值得蹲一下。

它解决的不是「能不能跑」的问题,而是「跑在哪更舒服」的问题。Apple Silicon 的能效比在推理场景确实有优势,ds4 把这个优势直接变现了。

当然,如果你需要的是生产级服务,vLLM 生态更成熟。但如果只是想本地跑着玩、做一些开发测试,ds4 是目前看起来最干净的选择之一。

项目链接:https://github.com/antirez/ds4

阅读量: 271