自动化反讽

一、发生什么事

要让系统更可靠，最自然的做法是减少人的参与。1983 年，UCL 心理学者 Bainbridge 用一篇五页短文，戳穿了自动化设计的核心假设[1]Bainbridge, L. (1983). Ironies of Automation. Automatica, 19(6), 775–779. 书目经多源交叉核对。主张已对照全文核实。。设计者视操作员为不可靠，想把人排除在系统之外，她指出这种态度带着两个反讽。第一，设计者自己的失误，可能就是运作问题的一大来源。第二，设计者能自动化的，只是「想得到怎样自动化」的部分：剩下的，恰好是连设计者都处理不了的难题，而这些难题全数落回操作员身上。

同时，人被降为监控者：长期不落手，操作技能随之退化；持续监控本身又超出人的注意力极限，连「侦测到该接管」这一步都靠不住。等到异常真正发生，系统同时需要已退化的技能和已失效的监控。

谈到操作员训练时，她另加一句带着「或许」的推论：越成功、越少需要人介入的自动化系统，可能反而最需要在操作员训练上投入。

二、为什么这对你重要

把工作交给 AI agent 之后，你的角色不会消失，只会变形：由执行者变成异常处理者。而异常处理恰恰要求你对这件工作保持手感。所以委派设计要问的不是「这步能不能自动化」，而是「自动化之后，留给人的那部分，人还做不做得来」。

给自己留一条定期落手的通道，不是低效，是维持接管能力的成本。全自动跑得越顺，这条通道越值钱。

适用边界：本文是因果论证，没有给出该拨到哪一档的答案；文中的半小时数字只能当量级参考。

↳ 你的情况在边界内还是外？

验证纪录

记录核查深度，不担保结论为真。

这是少数一手全文到手的节点。Bainbridge 1983 的 PDF 抽出全文后逐条比对，七项实质主张经修正后全部在原文命中（首轮发布前抽验曾发现两处读错：限定词被删、第一个反讽漏列，已依全文改正）：开篇两个反讽、技能退化、持续监控「约半小时」的极限，以及谈训练时那句带限定词的推论（原文为 Perhaps … may：最成功的系统「可能」需要最多的操作员训练，本页照原样保留限定）[1]Bainbridge, L. (1983). Ironies of Automation. Automatica, 19(6), 775–779. 书目经多源交叉核对。主张已对照全文核实。。书目零更正；本次增补为作者全名 Lisanne Bainbridge、UCL 心理学系，以及一项防误植的分辨：本文 1982 年 9 月先于 Baden-Baden 的 IFAC 会议发表，1983 年才刊于 Automatica，引用年份要给后者。残留一项：半小时那个数字是 Bainbridge 引 Mackworth（1950）的研究报告，本页未独立回查该报告，属经由本文转述而成立。本架「警觉递减」节点另引 Mackworth 1948 年首次发表雷达钟面实验的论文，该实验显示的是侦测率在头半小时内明显下跌、之后缓慢续降，不是半小时一到就完全失效。

验证层·反例与失效边界

最常见的误用是把这篇读成反自动化。Bainbridge 主张的是把残余的人类角色当成头等设计问题[1]Bainbridge, L. (1983). Ironies of Automation. Automatica, 19(6), 775–779. 书目经多源交叉核对。主张已对照全文核实。。失效边界有三。其一，本文是因果论证：它解释自动化程度升高为何反噬人，至于该拨到哪一档，属自动化等级那条线的事，两者不可互相替代。其二，末尾那个反讽属带限定词的推论，把它当主论点会令整套论证失去前提，起点是开篇那两个。其三，半小时那个数字经由转述成立，可以当量级参考；它描述的是侦测率明显下跌的时段，不是失效的开关（实验曲线见「警觉递减」节点），写进规格前须另行回查 Mackworth 的原始研究。