一龍馬/AI 情報站讀懂消息背後的脈絡
星期六
搜尋

它支援 macOS、Windows、Linux 與 Docker,所有模型可跑 CPU,但 NVIDIA GPU 加速限特定環境且要求 R580 以上驅動程式

中文摘要

Ollaya 是在本機執行開放權重「決策模型」的工具,可針對文字或 JSON 回答選擇、評分及是非題,並提供機率;它相容 TypeSafe 的 `/v1/systemone` 與 `/v1/models` 介面。專案頁稱,Laya 在 RTX 4090 上處理五個問題的 HTTP 請求約需 8 至 10 毫秒,校準誤差 ECE 為 0.081,但也明載其與 Jev 的比較環境不同,只能視為數量級參考。它支援 macOS、Windows、Linux 與 Docker,所有模型可跑 CPU,但 NVIDIA GPU 加速限特定環境且要求 R580 以上驅動程式。

一龍馬判讀

對客服分流、內容分類等固定格式工作,Ollaya 提供不把敏感資料送上雲端、也不按 token 計費的替代方案;但團隊仍須用自己的資料集驗證準確率與校準結果,而且固定任務可能直接訓練分類器更合適。

原文節錄

Hacker News · Ardakilic

Run decision models locally.

取得部分原文 · 不代表內容已獨立查證

查看原文 閱讀社群討論
完整收錄文字與來源

Ollaya – Ollama for open-source, Jev-style decision models

收錄日期
2026-09-26
來源
Hacker News Firebase API
抓取時間
2026/09/26 05:40(台北)
來源資料
208 分 · 59 則討論