一龍馬/AI 情報站讀懂消息背後的脈絡
星期日
搜尋

Needle 3 是針對手機、穿戴裝置、機器人、車載系統與微控制器設計的端側模型,單一模型二進位檔為 8 至 29 MB,提供工具呼叫、結構化擷取與文字嵌入

Python · ⭐ 11,572 · 🍴 737 · 🔥今日 +207

中文摘要

README 稱其 121M 參數架構可依 2 至 20 層部署,並以 schema 編譯出的文法約束輸出格式;套件、權重與多平台引擎也已提供。效能比較與微調增益均為專案方自述,本次截取內容沒有可核對的逐項基準分數;此外,預設會啟用遙測,2-bit 後訓練與量化流程則依賴 Cactus 的專有資料及平台。

一龍馬判讀

它讓離線裝置執行結構化自動化與工具路由成為較實際的產品選項,可降低雲端延遲與資料外傳。採用者仍需自行重跑符合目標硬體與任務的測試,並在部署前關閉或審查預設遙測。

原文節錄

cactus-compute/needle

The whole model is a single 8-29 MB binary

取得部分原文 · 不代表內容已獨立查證

查看原文
完整收錄文字與來源

Automation foundation model for tiny devices: 2-bit, 8-29 MB, tool calls, structured extraction and embeddings on phones, wearables, smart homes, robots, cars and microcontrollers.

收錄日期
2026-09-20
來源
github.com/trending
抓取時間
2026/09/20 05:50(台北)
來源資料
Python · ⭐ 11,572 · 🍴 737 · 🔥今日 +207