一龍馬/AI 情報站讀懂消息背後的脈絡
星期六
搜尋

Needle 2 是 Cactus Compute 發布的 45M 參數小模型

Python · ⭐ 5,550 · 🍴 369 · 🔥今日 +661

中文摘要

目標是工具呼叫、裝置操作與結構化抽取,README 宣稱整個模型是一個 14MB binary,完整 session 約用 28MB RAM。它的 Python 套件提供推論、LoRA 微調與匯出,工具呼叫以 text in、JSON out 為介面,並用由 schema 編譯的 byte-level grammar 約束輸出。README 也宣稱它在小模型 benchmark 上可與 FunctionGemma 270M、LFM2.5 230M、Apple FM 互有勝負,但未在摘錄中提供完整表格數字;另外它使用 256-token sliding window,適合短指令與裝置場景,不是長上下文助理。

一龍馬判讀

手機、穿戴、智慧家庭與機器人團隊可以把工具呼叫放到低記憶體硬體上本機執行,降低網路依賴;真正上線仍要驗證信心分數門檻、工具描述品質與小視窗造成的誤判。

原文節錄

cactus-compute/needle

![Needle](assets/banner.png) # Needle 2 Needle 2 is an open 45M-parameter model for tool calling, device use and structured extraction.

取得部分原文 · 不代表內容已獨立查證

查看原文
完整收錄文字與來源

14MB foundation model for tiny devices; phones, wearables, smart home, and robots.

收錄日期
2026-08-15
來源
github.com/trending
抓取時間
2026/08/15 05:50(台北)
來源資料
Python · ⭐ 5,550 · 🍴 369 · 🔥今日 +661