一龍馬/AI 情報站讀懂消息背後的脈絡
星期日
搜尋

cactus-compute/needle 發布 Needle 2,一個開放的 45M 參數模型,目標是工具呼叫、裝置使用與結構化擷取

Python · ⭐ 6,030 · 🍴 402 · 🔥今日 +551

中文摘要

README 稱整個模型是單一 14MB binary,完整 session 約使用 28MB RAM,推論時不連網,工具呼叫以 text in、JSON out 的結構化資料回傳,並用 schema 編譯出的 byte-level grammar 約束輸出。專案提供 Python package,可做 inference、LoRA fine-tuning 與 export;引擎會先從 Hugging Face 抓取並快取,也有 air-gapped 裝置的離線設定文件。

一龍馬判讀

這把小型裝置上的本地工具呼叫門檻壓到手機、穿戴、智慧家庭與機器人等硬體等級;但效能主張主要來自 README 的 benchmark 描述,採用前仍要用自己的工具集、錯誤處理與信心分數門檻實測。

原文節錄

cactus-compute/needle

![Needle](assets/banner.png) # Needle 2 Needle 2 is an open 45M-parameter model for tool calling, device use and structured extraction.

取得部分原文 · 不代表內容已獨立查證

查看原文
完整收錄文字與來源

14MB foundation model for tiny devices; phones, wearables, smart home, and robots.

收錄日期
2026-08-16
來源
github.com/trending
抓取時間
2026/08/16 05:50(台北)
來源資料
Python · ⭐ 6,030 · 🍴 402 · 🔥今日 +551