一龍馬/AI 情報站讀懂消息背後的脈絡
星期三
搜尋

白皮書也描述 CBOR 收據格式、Go/Python/Rust 實作,以及抽樣重跑驗證;不過來源是 Zenodo 摘要,HN 沒有討論內容,尚看不到外部複現或同儕審查

中文摘要

Zenodo 上的白皮書〈Deterministic Frontier-Scale Language Model Inference with Signed Receipts〉主張,可讓大型語言模型推論產生可重現的位元組級一致輸出,並用可離線驗證的 Ed25519 簽章收據綁定結果。作者稱在 NVIDIA H100 與 AMD MI300X 上測到多種設定的輸出雜湊一致;其中單 GPU bf16、eager attention 下,AMD 與 NVIDIA 在 51 個 token 的生成中位元組相同,但雙 GPU tensor parallel 會因 NCCL/RCCL all-reduce 拓撲而出現預期差異。白皮書也描述 CBOR 收據格式、Go/Python/Rust 實作,以及抽樣重跑驗證;不過來源是 Zenodo 摘要,HN 沒有討論內容,尚看不到外部複現或同儕審查。

一龍馬判讀

如果方法可被獨立驗證,雲端 AI 服務可用較低成本提供「這次推論確實照宣稱模型與環境執行」的證明。風險在於目前證據主要來自作者自述,且跨廠牌一致性只在特定設定成立,不能直接外推到所有模型、精度與分散式拓撲。

原文節錄

Hacker News

Deterministic Frontier-Scale Language Model Inference with Signed Receipts.

取得部分原文 · 不代表內容已獨立查證

查看原文 閱讀社群討論
完整收錄文字與來源

Cross-vendor byte-identical inference for a 72B LLM (AMD MI300X vs. Nvidia H100)

收錄日期
2026-08-26
來源
官方 RSS+Hacker News Algolia API
抓取時間
2026/08/26 06:00(台北)