一龍馬/AI 情報站讀懂消息背後的脈絡
星期二
搜尋

HN 發文者把它定位在裝置控制與結構化擷取,不是通用聊天模型

中文摘要

Needle 2 是 45M 參數、2-bit 壓縮的開放工具呼叫模型,整個 binary 14MB、session RAM 約 28MB;團隊宣稱 Raspberry Pi 5 解碼約每秒 500 tokens,並可跑在平價手機、VR 與部分微控制器。HN 發文者把它定位在裝置控制與結構化擷取,不是通用聊天模型。

一龍馬判讀

它把 edge AI 從 Mac/PC 再往真正小型裝置推進。數字主要來自作者,採用前要驗證工具選擇精度、量化退化與安全拒絕,而不只速度。

原文節錄

Hacker News · HenryNdubuaku

An open 45M parameter model for tool calling, device use, and structured extraction. Needle 2 runs as a 14 MB binary in 28 MB of

取得部分原文 · 不代表內容已獨立查證

查看原文 閱讀社群討論
完整收錄文字與來源

Show HN: Needle2: 14MB agentic LLM for phones, wearables, smart home and robots

收錄日期
2026-08-11
來源
Hacker News Firebase API
抓取時間
2026/08/11 05:40(台北)
來源資料
40 分 · 13 則討論