一龍馬/AI 情報站讀懂消息背後的脈絡
星期一
搜尋

HN 簡短指出它似乎接替較早的 ipex-llm

中文摘要

Intel 的 LLM Scaler 為 Arc Pro B60/B70 提供 vLLM、ComfyUI、SGLang Diffusion 與 Xinference 支援,近期版本加入 MTP、LoRA serving、FP8 與多個新模型。HN 簡短指出它似乎接替較早的 ipex-llm。

一龍馬判讀

這擴大本機與自架推論的硬體選擇,不必只看 NVIDIA。採購前仍要以自己的模型、上下文長度、功耗與驅動版本跑 benchmark,不能只看支援清單。

原文節錄

Hacker News

running on Intel® Arc™ Pro B60 and B70 GPUs

取得部分原文 · 不代表內容已獨立查證

查看原文
完整收錄文字與來源

LLM Scaler – LLM Support for Intel's Arc Pro B60 and B70 GPUs

收錄日期
2026-08-10
來源
Hacker News Algolia API(AI 關鍵字)
抓取時間
2026/08/10 06:00(台北)