一龍馬/AI 情報站讀懂消息背後的脈絡
星期一
搜尋

cactus-compute/needle 推出 Needle 2,一個開放的 45M 參數小模型,主打工具呼叫、裝置使用與結構化擷取

Python · ⭐ 6,516 · 🍴 431 · 🔥今日 +447

中文摘要

README 聲稱整個模型是單一 14MB binary,完整 session 約用 28MB RAM,透過 `pip install cactus-needle` 可在 Python 中描述工具並取得結構化 JSON 輸出;推論引擎會從 Hugging Face 下載一次後快取,推論本身不連網,也有離線裝置設定文件。它還提供信心分數門檻、工具檢索每回合只渲染前五個工具、256-token sliding window、LoRA 微調與匯出單一 `.cact` 檔等設計,但效能比較主要來自 README 所列 benchmark 敘述,仍需在實際硬體與任務上驗證。

一龍馬判讀

若手機、穿戴裝置、智慧家庭或機器人需要本機工具呼叫而不能依賴雲端大模型,Needle 把部署門檻壓到很小的記憶體與檔案大小;風險是上下文視窗與模型規模有限,複雜推理或長對話不應直接假設可取代大型模型。

原文節錄

cactus-compute/needle

![Needle](assets/banner.png) # Needle 2 Needle 2 is an open 45M-parameter model for tool calling, device use and structured extraction.

取得部分原文 · 不代表內容已獨立查證

查看原文
完整收錄文字與來源

14MB foundation model for tiny devices; phones, wearables, smart home, and robots.

收錄日期
2026-08-17
來源
github.com/trending
抓取時間
2026/08/17 05:50(台北)
來源資料
Python · ⭐ 6,516 · 🍴 431 · 🔥今日 +447