一龍馬/AI 情報站讀懂消息背後的脈絡
星期六
搜尋

ds4 是 Redis 作者 antirez 主導的本機 LLM 推論專案,標榜在有限硬體上跑路由專家 MoE 模型

判讀範圍有限:僅有來源資料或上下文不足,請核對原始來源。

中文摘要

公開的抓取片段只提到對路由專家做非對稱 2 位元量化、保留關鍵共享路徑精度。HN 留言則在比較 ds4 量化與 Unsloth 量化優劣,並討論 Intel、AMD 與 Mac 支援,屬於社群使用心得而非官方效能保證。

一龍馬判讀

對想在筆電或個人電腦跑大模型的人有參考價值,但量化品質、支援模型與速度仍要看具體 checkpoint 與硬體實測。

原文節錄

Hacker News · fibo

Compress the routed experts, keep critical shared paths precise.

查看原文 閱讀社群討論
完整收錄文字與來源

From the creator of Redis; run LLM locally with ds4

收錄日期
2026-10-03
來源
Hacker News Firebase API
抓取時間
2026/10/03 05:40(台北)
來源資料
79 分 · 9 則討論