一龍馬/AI 情報站讀懂消息背後的脈絡
星期一
搜尋

文章反對事後把事故歸咎於單一「根本原因」,認為這常反映社會與組織尋找可責怪對象的需求,而不是對系統失效機制的技術理解

中文摘要

〈How Complex Systems Fail〉是 Richard I. Cook 於 1998 年撰寫的短文,核心主張是醫療、交通、發電等複雜系統本質上帶有危害,事故通常不是單一故障造成,而是多個看似微小的缺陷突破多層防線後共同形成。文章反對事後把事故歸咎於單一「根本原因」,認為這常反映社會與組織尋找可責怪對象的需求,而不是對系統失效機制的技術理解。它也提醒,事後知道結果會污染我們對當事人在事發前所見資訊的判斷,讓「他們當時應該知道」看起來比實際更合理。

一龍馬判讀

這篇老文對軟體基礎設施、AI 系統與資安事故同樣適用:真正要降低風險,不能只找一個人或一個 bug 背鍋,而要檢查防線、組織流程與日常降級運作如何累積脆弱性。

原文節錄

Hacker News · shortcrct

How Complex Systems Fail How Complex Systems Fail (Being a Short Treatise on the Nature of Failure; How Failure is Evaluated; How Failure is Attributed

取得部分原文 · 不代表內容已獨立查證

查看原文 閱讀社群討論
完整收錄文字與來源

How Complex Systems Fail (1998)

收錄日期
2026-08-24
來源
Hacker News Firebase API
抓取時間
2026/08/24 05:40(台北)
來源資料
181 分 · 50 則討論