henry 发自 凹非寺
量子位 | 公众号 QbitAi
DeepSeek V4,已经开始逼着海外开发者为它修专属高速公路了。
发布才两周,开源圈里,第一批V4原生基础设施已经冒了出来。
而且,不是那种在现有框架上套一层壳的“小修小补”。
不是通用GGUF加载器;不是llama.cpp的wrapper;甚至压根不支持别的模型。
它只干一件事:
把DeepSeek V4 Flash,在Mac上跑到极致。

这条“专属高速公路”,叫ds4.c。而把修出来的人,分量有点吓人——
Salvatore Sanfilippo,程序员圈更熟悉他的另一个名字:antirez。
他一手创造了 Redis(GitHub 7.4 万 Star),并亲自主导这个全球最流行的内存数据库整整 11 年。
而现在,他的新项目ds4.c,是一个专门为DeepSeek V4 Flash打造的本地推理引擎。
时间线上,已经有网友在128GB Mac上把它跑了起来。


你准备好在本地跑V4了吗?
一个模型一个推理框架这件事,也在开发者圈炸出了一个更大的讨论:
未来会不会变成——一个模型,一个推理框架?
Hacker News上一条高赞评论提了一个有意思的方向,如果开始针对精确的GPU加模型组合构建超优化推理引擎呢?
GPU越来越贵,如果去掉足够多的抽象层,直接针对精确的硬件和模型编码,可能能优化很多。
这条路的代价也很明显。同一条评论指出,一旦模型过时,一切从头来过。

antirez自己也承认了这个问题。他说ds4当前赌的是DeepSeek V4 Flash,但模型可能会换。
不变的约束是,本地推理要在高端个人机器或Mac Studio上跑得靠谱,起步128GB内存。
未来会怎样,README里留了个伏笔。
当前是Metal-only,未来可能会做CUDA支持。但他写得很谨慎,也许会,但仅此而已。这个项目刻意保持小、快、专注。

两周时间,从fork llama.cpp做适配,到从头写一个专用引擎,离不开AI辅助。这件事本身可能比ds4还更值得关注。
One more thing最后说一下antirez这个人。

真名Salvatore Sanfilippo,1977年出生于西西里岛。2009年创建Redis,主导这个项目十一年,2020年离开。

关于Redis的诞生,他在个人主页里写了一段:
我老婆说,Redis的前几年我大部分代码都是坐在马桶上写的,用一台MacBook Air 11寸。我真希望能说她错了,但她正好说得完全对。
这种调性贯穿了他做的所有项目。小、精确、自成一体。
ds4.c也是同一个路子。
看一下他在ds4 README里关于macOS bug的那段备注,能立刻感觉到这个人的味道。
ds4有一个CPU推理路径用于正确性验证,但当前版本的macOS在虚拟内存实现上有一个bug,跑CPU推理会导致内核崩溃。
他写道,记住了吗?软件都很烂。我没法修复CPU推理来避免崩溃,因为每次都得重启电脑,一点都不好玩。
然后加了一句,如果你有胆量,来帮我们。
他在个人主页里还留了一句话:
现代编程正变得复杂、无趣,全是要粘合的层。它正失去大部分美感。大多数程序员既不在面对编程的艺术面,也不在面对编程的高级工程面。
从Redis到ds4.c,十五年过去,antirez还是那个antirez。
只不过这一次,他开始给AI修路了。
参考链接[1]http://invece.org/[2]https://github.com/antirez/ds4[3]https://news.ycombinator.com/item?id=48050751
— 完 —
量子位 QbitAI · 头条号签约
关注我们,第一时间获知前沿科技动态
相关文章









猜你喜欢
成员 网址收录40418 企业收录2986 印章生成263660 电子证书1157 电子名片68 自媒体110233