一龍馬/AI 情報站讀懂消息背後的脈絡
星期五
搜尋

Earendil 的文章拆解 coding agent「compaction」

中文摘要

當對話歷史、工具呼叫、工具結果、系統提示與載入檔案逼近 LLM context window 時,代理會把舊內容摘要成較小的上下文,而不是整段丟掉。以 Pi 為例,原文說自動壓縮通常在一輪結束後檢查,也可用 /compact 手動觸發;Pi 會保留部分近期訊息,預設近期訊息預算為 2 萬 tokens,約 5 到 20 輪,較舊內容則用另一個「context summarization assistant」提示摘要成 goal、progress、key decisions 等結構。HN 討論補上使用者痛點:本地模型在 10t/s 到 45t/s 時重讀近 128k context 再產生 5k 到 10k tokens 會很慢,也有人希望能手動指定只壓縮吵雜的 MCP 工具呼叫或測試輸出。

一龍馬判讀

這把 coding agent 長工作階段的可靠性問題具體化:不是只看模型多強,還要看上下文如何被裁切、摘要與保留。開發者需要在成本、速度、記憶延續與摘要失真之間取捨,尤其本地部署更容易被壓縮時間拖慢。

原文節錄

Hacker News · tosh

How Compaction Works in Pi | EARENDIL MENU Purpose Values Join Us Posts Pi Lefos Works How Compaction Works in Pi Date: Thu, 13 Aug

取得部分原文 · 不代表內容已獨立查證

查看原文 閱讀社群討論
完整收錄文字與來源

How Compaction Works in Pi

收錄日期
2026-08-14
來源
Hacker News Firebase API
抓取時間
2026/08/14 05:40(台北)
來源資料
45 分 · 6 則討論