一龍馬/AI 情報站讀懂消息背後的脈絡
星期四
搜尋

Liquid AI 在 Hugging Face 發布 LFM2.5 系列的 QAD Q4_0 GGUF 檢查點

中文摘要

涵蓋 230M、350M、1.2B-Instruct 與 2.6B 四個模型。官方說法是用 Quantization-Aware Distillation,把高精度教師模型蒸餾到量化學生模型,讓 Q4_0 維持低記憶體與高吞吐,同時回復因量化損失的平均準確率;文中列出四個模型分別保留 BF16 基準的 97.1%、96.5%、97.4%、96.6%。測試包含 GPQA Diamond、MMLU-Pro、IFEval、IFBench、Multi-IF、BFCLv4,並依模型大小加入 GSM8K 或 AIME25;硬體測試則涵蓋 MacBook Pro、NucBox EVO-X2、Samsung Galaxy S26 Ultra 與 Raspberry Pi 5。

一龍馬判讀

這讓邊緣裝置與本機代理部署有機會用更低成本跑小模型,但目前數據來自官方部落格,仍需要第三方在真實工作負載上驗證品質、延遲與相容性。

原文節錄

Hugging Face

LFM2.5 Q4\_0 Checkpoints from Quantization-Aware Distillation Hugging Face Models Datasets Spaces Buckets new Docs Enterprise Pricing Website Tasks HuggingChat …

取得部分原文 · 不代表內容已獨立查證

查看原文
完整收錄文字與來源

LFM2.5 Q4\_0 Checkpoints from Quantization-Aware Distillation

收錄日期
2026-08-20
來源
官方 RSS+Hacker News Algolia API
抓取時間
2026/08/20 06:00(台北)
來源資料
官方來源