一龍馬/AI 情報站讀懂消息背後的脈絡
星期四
搜尋

Unsloth AI 宣稱 2-bit 量化版 NVIDIA Nemotron 3.5 Lightning 可在 22GB VRAM 上連續執行工具呼叫 10 分鐘

中文摘要

貼文列出的示範內容包括引用 80 多個網站、執行程式碼,以及搜尋 10 個真實世界地點,並提供 GGUF、指南與 Unsloth Desktop 執行/訓練路徑。這是單一示範與工具鏈發布資訊,尚不能推論一般任務的穩定性或準確率。

一龍馬判讀

22GB VRAM 門檻若可重現,會讓更多工作站級硬體能跑 agent 模型;但 2-bit 量化可能影響推理品質,開發者仍需用自己的任務測試。

原文節錄

NVIDIA AI · @NVIDIAAI

Unsloth AI (@UnslothAI) 2-bit NVIDIA Nemotron 3.5 Lightning ran tool calls nonstop for 10 minutes on just 22GB of VRAM.…

取得全文 · 不代表內容已獨立查證

查看原文
完整收錄文字與來源

Unsloth AI (@UnslothAI) 2-bit NVIDIA Nemotron 3.5 Lightning ran tool calls nonstop for 10 minutes on just 22GB of VRAM. 🤯 It cited 80+ websites, executed code & searched for 10 real-world locations. Run and train via Unsloth Desktop. GGUF: huggingface.co/unsloth/NVIDI… Guide: unsloth.ai/docs/models/nemot… Video — https://nitter.net/UnslothAI/status/2087598047589196052#m

收錄日期
2026-08-13
來源
Nitter RSS(公開貼文)
抓取時間
2026/08/13 06:12(台北)