自動化反諷

一、發生什麼事

要讓系統更可靠，最自然的做法是減少人的參與。1983 年，UCL 心理學者 Bainbridge 用一篇五頁短文，戳穿了自動化設計的核心假設[1]Bainbridge, L. (1983). Ironies of Automation. Automatica, 19(6), 775–779. 書目經多源交叉核對。主張已對照全文核實。。設計者視操作員為不可靠，想把人排除在系統之外，她指出這種態度帶著兩個反諷。第一，設計者自己的失誤，可能就是運作問題的一大來源。第二，設計者能自動化的，只是「想得到怎樣自動化」的部分：剩下的，恰好是連設計者都處理不了的難題，而這些難題全數落回操作員身上。

同時，人被降為監控者：長期不落手，操作技能隨之退化；持續監控本身又超出人的注意力極限，連「偵測到該接管」這一步都靠不住。等到異常真正發生，系統同時需要已退化的技能和已失效的監控。

談到操作員訓練時，她另加一句帶著「或許」的推論：越成功、越少需要人介入的自動化系統，可能反而最需要在操作員訓練上投入。

二、為什麼這對你重要

把工作交給 AI agent 之後，你的角色不會消失，只會變形：由執行者變成異常處理者。而異常處理恰恰要求你對這件工作保持手感。所以委派設計要問的不是「這步能不能自動化」，而是「自動化之後，留給人的那部分，人還做不做得來」。

給自己留一條定期落手的通道，不是低效，是維持接管能力的成本。全自動跑得越順，這條通道越值錢。

適用邊界：本文是因果論證，沒有給出該撥到哪一檔的答案；文中的半小時數字只能當量級參考。

↳ 你的情況在邊界內還是外？

驗證紀錄

記錄核查深度，不擔保結論為真。

這是少數一手全文到手的節點。Bainbridge 1983 的 PDF 抽出全文後逐條比對，七項實質主張經修正後全部在原文命中（首輪發佈前抽驗曾發現兩處讀錯：限定詞被刪、第一個反諷漏列，已依全文改正）：開篇兩個反諷、技能退化、持續監控「約半小時」的極限，以及談訓練時那句帶限定詞的推論（原文為 Perhaps … may：最成功的系統「可能」需要最多的操作員訓練，本頁照原樣保留限定）[1]Bainbridge, L. (1983). Ironies of Automation. Automatica, 19(6), 775–779. 書目經多源交叉核對。主張已對照全文核實。。書目零更正；本次增補為作者全名 Lisanne Bainbridge、UCL 心理學系，以及一項防誤植的分辨：本文 1982 年 9 月先於 Baden-Baden 的 IFAC 會議發表，1983 年才刊於 Automatica，引用年份要給後者。殘留一項：半小時那個數字是 Bainbridge 引 Mackworth（1950）的研究報告，本頁未獨立回查該報告，屬經由本文轉述而成立。本架「警覺遞減」節點另引 Mackworth 1948 年首次發表雷達鐘面實驗的論文，該實驗顯示的是偵測率在頭半小時內明顯下跌、之後緩慢續降，不是半小時一到就完全失效。

驗證層·反例與失效邊界

最常見的誤用是把這篇讀成反自動化。Bainbridge 主張的是把殘餘的人類角色當成頭等設計問題[1]Bainbridge, L. (1983). Ironies of Automation. Automatica, 19(6), 775–779. 書目經多源交叉核對。主張已對照全文核實。。失效邊界有三。其一，本文是因果論證：它解釋自動化程度升高為何反噬人，至於該撥到哪一檔，屬自動化等級那條線的事，兩者不可互相替代。其二，末尾那個反諷屬帶限定詞的推論，把它當主論點會令整套論證失去前提，起點是開篇那兩個。其三，半小時那個數字經由轉述成立，可以當量級參考；它描述的是偵測率明顯下跌的時段，不是失效的開關（實驗曲線見「警覺遞減」節點），寫進規格前須另行回查 Mackworth 的原始研究。