Trigpoint

本页由繁体中文版自动转换

Collections 书架 › 方法解说

先红队,再采信

适用:red-team-gate v0.1.x · 文章版本 1.0

多数被人拿来据以行动的主张,都由希望它成立的人查过。这算不上不诚实,检查通常就是这样发生:写下主张的人,在同一段时间、带着同一组假设,顺手找它的问题。这样找,多半找到的是支持。

查核来源有帮助,但回答的是另一个问题。好的来源说明一个主张有根据;它没有说明这个主张经不经得起有人全力推翻。还有一整类主张,来源根本无从裁定:概念区分、「应该怎样做」、某人为自己工作而建的框架。这些主张没有一份一手文件可以确认。

本文介绍一套回答第二个问题的程序,规模小、可重复,以及执行它的 agent skill。

程序

1. 先判定主张的类型。关于世界的经验型(empirical)、关于一个词涵盖什么的定义型(definitional)、关于概念之间关系的概念型(conceptual)、关于该做什么的规范型(normative),或某个自建框架(framework)。类型决定攻击方法。用统计检验概念主张是范畴错误;不看证据就辩论经验主张也是。混合型主张先拆开。

2. 先立最强版本(steelmanning)。攻击之前,把主张陈述到最好:补上作者没有明说的支持,把隐含前提写出来。打败一个弱版本,什么也证明不了。反方向的错误同样存在:强到连作者本人都不会持有的版本,已经是另一个主张。

3. 交给没有利害关系的审查者。审查者不知道主张由谁提出、为何重要。它唯一的任务是反驳;在主张顶住攻击之前,预设判决是「推翻」。它在全新的 context 里工作,不带作者的笔记。以 AI agent 执行时,这代表另开 sub-agent 或新对话;建构论证的那段对话不算。

4. 用方法攻击,不用意见。每一类主张都有累积已久的方法:

5. 回报三种判决之一。成立(survives):每一项认真的攻击,按方法执行后都失败。削弱(weakened):主张在较窄的范围内或以较低的信心成立。推翻(refuted):决定性反例、相反证据,或根本不存在可以推翻它的观察。因为找不到可推翻的观察而判推翻,意思是主张照原样无法依赖,并不表示它是错的。削弱是有用的结果:它指出哪一个版本真正可以依赖。「我们找过,什么都没找到」不等于成立。

判决交回决策的拥有者。它是一项输入,不是批准。

内建的两项更正

撰写方法卡时,我们也检查了方法本身,两个流行的引用没有站住。

事前验尸常附带一个数字:想像专案已经失败,可令人找出原因的能力提升 30%。这个数字转述自一篇 2007 年的文章[4]Klein, G. (2007). Performing a project premortem. Harvard Business Review, 85(9), 18–19. 书目经出版社记录核对。出处经跨模型双查核实。,该文把它归于一项 1989 年的研究[7]Mitchell, D. J., Russo, J. E., & Pennington, N. (1989). Back to the future: Temporal perspective in the explanation of events. Journal of Behavioral Decision Making, 2(1), 25–38. DOI 10.1002/bdm.3960020103. 书目经出版社记录核对。要旨与摘要一致。出处经跨模型双查核实。。那项研究把效果归于对结果的确定感,而非想像中的时间转移;我们在它可以取得的文本中,也找不到 30% 这个数字。这个技巧仍然有用,但这个数字不应被当作事实重复。

第二项是「正题、反题、合题」的公式,通常归于黑格尔。这套三分用语属于费希特;黑格尔描述自己的哲学时,从未采用[8]Maybee, J. E. (2020). Hegel's dialectics. In E. N. Zalta (Ed.), The Stanford Encyclopedia of Philosophy (Winter 2020 ed.). 书目经出版社记录核对。主张已对照全文核实。。方法卡描述的是动作本身(最强的对立立场、两者相撞、保留双方正确之处的新立场),不使用这个公式的名称。

目前的成效

我们先对私有版本做过一次小型试验:五个主张,其中三个植入错误,每个由一个全新的 agent 审查,审查所用的模型与写主张的模型不同。三个植入错误全部被推翻,审查者指出了正确的机制,也列出一手来源。两个本应成立的主张没有被推翻,但都判为削弱,因为审查者在措辞中找到真实的缺陷。没有主张达到成立。

之后我们在一台 agent 主机上,用六个练习主张测试第一个公开候选版,其中包括一个植入错误的框架、一项越界的建议,以及一个干净的真主张。六个判决全部落在答案范围内,真主张判为成立。这次的审查者与协调测试的 agent 是同一个模型,测试也非盲测。那次之后我们修改了部分措辞,尚未重跑。

两次小型测试合起来只算初步读数,尚不足以构成准确率。两次用的版本不同,又重用了三个主张,结果不应相加;而且多数主张可以对照公开来源查核,审查因此比多数规范型或框架型主张容易。每次审查也要跑一次完整的 agent:第一次试验中,约 8 万至 11.5 万个 tokens,耗时数分钟。

适用时机

适用于决策或出版真正依赖的少数几个主张,尤其是没有文件可以裁定的那些。逐句跑完一份报告并不适合。

取得 skill

skill 放在 GitHub:github.com/anselbuilds/agent-skills。skill 本身、方法卡与练习主张在 skills/red-team-gate/;练习主张的答案、完整的试验纪录与书目在 docs/red-team-gate/,不随 skill 安装。

参考文献

如何阅读来源注记 「书目经…核对」指作者、年份、题名与出版项已确认;不代表该来源的主张已被核对。「与摘要一致」指主张与论文摘要相符;不含逐句对照全文。「对照全文核实」指主张已与来源文本本身比对。 定义版本:2026-09-20。

  1. [1] Mayo, D. G. (1996). Error and the Growth of Experimental Knowledge. University of Chicago Press. https://doi.org/10.7208/chicago/9780226511993.001.0001 ↩
  2. [2] Mayo, D. G. (2018). Statistical Inference as Severe Testing: How to Get Beyond the Statistics Wars. Cambridge University Press. https://doi.org/10.1017/9781107286184 ↩
  3. [3] Popper, K. (1935). Logik der Forschung. Springer. https://doi.org/10.1007/978-3-7091-4177-9 ↩
  4. [4] Klein, G. (2007). Performing a project premortem. Harvard Business Review, 85(9), 18–19. https://hbr.org/2007/09/performing-a-project-premortem ↩
  5. [5] Lakatos, I. (1970). Falsification and the methodology of scientific research programmes. In I. Lakatos & A. Musgrave (Eds.), Criticism and the Growth of Knowledge (pp. 91–196). Cambridge University Press. https://doi.org/10.1017/CBO9781139171434.009 ↩
  6. [6] Zahar, E. (1973). Why did Einstein's programme supersede Lorentz's? (I). The British Journal for the Philosophy of Science, 24(2), 95–123. https://doi.org/10.1093/bjps/24.2.95 ↩
  7. [7] Mitchell, D. J., Russo, J. E., & Pennington, N. (1989). Back to the future: Temporal perspective in the explanation of events. Journal of Behavioral Decision Making, 2(1), 25–38. https://doi.org/10.1002/bdm.3960020103 ↩
  8. [8] Maybee, J. E. (2020). Hegel's dialectics. In E. N. Zalta (Ed.), The Stanford Encyclopedia of Philosophy (Winter 2020 ed.). https://plato.stanford.edu/archives/win2020/entries/hegel-dialectics/ ↩

全部方法卡的书目与核查方式见 GitHub 上的 docs/red-team-gate/SOURCES.md。