一龍馬/AI 情報站讀懂消息背後的脈絡
星期五
搜尋

Magnitude 是 Apache 2.0 授權的開源本機推論伺服器,會偵測晶片、記憶體與頻寬,推薦適合的模型並負責下載、調校、按需載入及閒置卸載

TypeScript · ⭐ 1,904 · 🍴 142 · 🔥今日 +130

中文摘要

它可接上 Pi、OpenCode、Hermes、OpenClaw、Codex、Claude Code、Oh My Pi 與 Cline,也能使用內建代理介面;模型完成下載後可離線執行,亦支援相容的 Hugging Face GGUF 模型。系統原生支援 macOS、Linux,Windows 必須透過 WSL;README 未提供版本穩定度、基準測試或推薦模型準確度的外部驗證。

一龍馬判讀

希望降低 API 費用、避免速率限制或讓程式碼與提示留在本機的開發者,可用它簡化模型選型與代理設定;代價是效能和模型品質受本機硬體限制,而且「完全私密」仍需連同所接代理、外掛與下載來源一起檢查。

原文節錄

magnitudedev/magnitude

Magnitude Run your agent on local models.

取得部分原文 · 不代表內容已獨立查證

查看原文
完整收錄文字與來源

Open source inference server that runs the best local models for your hardware, plugged into the agent you already use. Works with Pi, OpenCode, Hermes, OpenClaw, Codex, Claude Code, Oh My Pi, and Cline.

收錄日期
2026-09-04
來源
github.com/trending
抓取時間
2026/09/04 05:50(台北)
來源資料
TypeScript · ⭐ 1,904 · 🍴 142 · 🔥今日 +130