一龍馬/AI 情報站讀懂消息背後的脈絡
星期二
搜尋

llmfit 是一個用 Rust 寫的終端工具,目標是用一個指令判斷哪些 LLM 能在使用者的硬體上跑得動、跑得好

Rust · ⭐ 32,208 · 🍴 1,997 · 🔥今日 +239

中文摘要

README 顯示它會偵測 RAM、CPU、GPU/VRAM 與後端,依記憶體適配、預估速度、品質、上下文等維度替模型排序,並支援 Ollama、llama.cpp、MLX、Docker Model Runner、LM Studio 等本機執行環境。新版重點是讓使用者在自己機器上 benchmark,量測真實 tok/s 後可從 TUI 送 PR 回專案;合併後相同硬體的使用者會在下一版看到已量測數字。

一龍馬判讀

本機 LLM 選型常卡在硬體規格與模型量化版本的猜測,llmfit 把估算、驗證與社群量測資料放進同一個工作流程。限制是量測資料仍依賴使用者提交與合併,未覆蓋的硬體仍只能看估算。

原文節錄

AlexsJones/llmfit

# llmfit English · 中文 · 日本語 > **📊 New: benchmark & share — real numbers from your machine, better estimates for everyone.** Download a…

取得部分原文 · 不代表內容已獨立查證

查看原文
完整收錄文字與來源

Hundreds of models & providers. One command to find what runs on your hardware.

收錄日期
2026-08-18
來源
github.com/trending
抓取時間
2026/08/18 05:50(台北)
來源資料
Rust · ⭐ 32,208 · 🍴 1,997 · 🔥今日 +239