一龍馬/AI 情報站讀懂消息背後的脈絡
星期二
搜尋

Simulkit 頁面提供蘋果裝置本機 LLM 速度與記憶體估算器,說明解碼速度看記憶體頻寬、提示讀取看 GPU 算力

中文摘要

作者稱常數來自約 300 筆公開量測,估算通常在同軟體實測 15% 以內,但會受 App、版本與設定影響。這是基於模型的試算工具,不是逐台 Mac 實機測試。

一龍馬判讀

對想在 Mac 跑 70B 或 MoE 模型的使用者而言,可先用它估記憶體是否放得下、token 速度是否可接受,下單前再查對應軟體實測。

原文節錄

Hacker News

Writing speed is set by the memory bandwidth

取得部分原文 · 不代表內容已獨立查證

查看原文 閱讀社群討論
完整收錄文字與來源

Show HN: All local LLM(s) on all Apple Devices

收錄日期
2026-10-06
來源
官方 RSS+Hacker News Algolia API
抓取時間
2026/10/06 06:00(台北)