一龍馬/AI 情報站讀懂消息背後的脈絡
星期五
搜尋

Janus 自述是單一 Go 執行檔,可在本機跑 GGUF 模型,並提供 OpenAI 相容 API 與串流、換模型等功能

中文摘要

README 寫明以 llama.cpp 經 Vulkan 支援 AMD、Intel、NVIDIA,或退回 CPU,另附建置與環境變數說明。成熟度、效能與穩定性無法從 README 判定,HN 僅兩則留言,也未提供與 vLLM 等方案的基準測試。

一龍馬判讀

想在本機接 Cursor、Cline 等工具的人可拿來試驗;實際 VRAM 佔用與推論速度仍要自行實測,不宜只看免 Python、免 Docker 的訴求。

原文節錄

Hacker News · Maverick617

Janus is a single Go binary that runs .gguf models

取得全文 · 不代表內容已獨立查證

查看原文 閱讀社群討論
完整收錄文字與來源

Show HN: Janus – Go binary that runs GGUF models via Vulkan on AMD/Intel/Nvidia

收錄日期
2026-10-02
來源
Hacker News Firebase API
抓取時間
2026/10/02 05:40(台北)
來源資料
16 分 · 2 則討論