01 · AI Circularity Ledger
说不的稀缺性

一个带着记分板的商业循环。
结论让人不太舒服,却很有用:当 AI 能完成工作,最稀缺的资产会变成让它停下来的权力。
这听上去很消极。实际工作里,“不做”常常是 AI 原生公司最有生产力的决定。工程师拒绝违反系统约束的捷径;编辑删去证据撑不起的漂亮结论;资本配置者放弃上行空间耀眼、追索条款模糊的项目;创始人要求代理暂停,因为目标本身错了,即使执行非常漂亮。
这些拒绝不会制造值得庆祝的演示,却经常阻止演示变成事故。
Anthropic 建造新源代码管理系统 Scion 的复盘,把这种变化展示得很清楚。七人团队用五个月建成 Scion、代码审阅界面和一组相关系统,并完成大型 monorepo 迁移。Claude 大幅加速执行。工程师仍审核每个变更请求的意图;当代理方案违反核心约束,或为了假设风险而过度设计,他们会明确说“不”。
把这个故事压缩成“七个人和 AI 替代了多年的工程工作”很容易。更重要的部分是权力分工:Claude 提供大量执行,工程师定义系统、否决局部合理的答案,并对进入生产的结果负责。
执行越充足,拒绝越值钱。真正的问题是:谁配拥有这项权力?我们又如何判断一次否决改善了结果?
执行、判断与授权是三种不同资产
执行把既定目标变成产物:写代码、起草合同、整理研究、制作译文或建立财务模型。今天的代理可以越来越快地完成长链任务。
判断决定目标、方法、证据和取舍是否合理。它会发现客户指标没有分母、融资标题没有追索条款、机器人演示没有人工介入率,或译文把不确定偷偷改成确定。判断可以欣赏一份工作,同时拒绝它。
授权决定谁能让拒绝生效。审阅者可能看见问题,却无权停止发布;代理可能识别危险付款,却无权取消;创始人拥有正式权力,也可能没有足够信息。三种资产相互重叠,不能互相替代。
AI 降低执行成本的速度,比降低可问责判断成本更快。产出越多,审阅面越大;代码越快,测试的变更越多;研究越便宜,需要核验的主张越多;自治越长,系统需要“继续、升级或停止”的时刻越多。
Anthropic 的环境极不寻常:代码合并量从五月每天约 2,500 次增至九月超过 30,000 次;主分支历史接近 100GB;内部 token 预算远高于普通公司。它提醒我们不要照抄 Scion,也揭示了未来瓶颈。产量扩大十倍后,审批不能继续逐行阅读,而要上移到意图、约束和后果。
NIST AI Risk Management Framework从治理、情境、测量和管理组织 AI 风险。它没有规定“否决官”职位,却指向同一个运行需求:系统需要明确责任、可测风险和跨生命周期反馈。当证据不再支持预期用途时,必须有人或机制可以中断轨迹。
否决要用反事实证明价值
说“不”很容易,证明这句“不”有价值更难。
否决可以保护真实约束,也可能保护习惯、地位或恐惧。资深人员可能因为架构陌生而拒绝更好的设计;合规流程可能因为没有人负责例外而阻止无害实验;代理也可能产生无穷警告,把有用工作变得不可能。拒绝的价值必须放在可信反事实下评估:如果继续,最可能发生什么?
反事实通常不会立即出现。被拒的变更可能在生产中失败,也可能完全成功;被拒的文章可能伤害信誉,也可能开启重要讨论;被拒的投资可能保住资本,也可能错过好公司。决策时没有确定答案,但可以把记录做得更好。
每次重要否决应记录四项:提案,原本要做什么;理由,什么证据、约束或未知支持停止;预测,预期哪种失败或代价;结果,后来什么证据支持、削弱或推翻决定。
这样,拒绝就从性格变成学习事件。还可以区分三类“不”。硬边界否决保护权限、安全、法律、身份或不可逆资产,只有授权或证据变化才能解除。质量否决说明产物未通过验收,可修复后重交。战略否决认为资源应投入别处,机会成本变化时需要重审。
如果不分类,所有拒绝看起来都一样,团队会绕过审阅者,或反复请求同一许可。分类之后,接替者能判断这次停止是永久、可修复还是有时限。
上一篇 The Handoff Test要求任务在代理替换时携带目标、证据、失败记录、权限边界和验收状态。否决也应进入交接包。接替者需要停止条件和证据,而不是一句“Robin 不喜欢”。
廉价执行会制造审阅债
AI 产出看似便宜,因为边际草稿来得很快,审阅成本却在别处出现。
假设代理产出十个代码变更,而工程师过去只产出一个。即使每个变更只需原来五分之一的审阅,总审阅需求仍会翻倍。若变更相互作用,成本增长可能更快。瓶颈从写作迁移到集成、测试和决定哪些工作值得存在。
出版同样如此。十篇看似合理的文章会产生引用核验、四语义项对齐、视觉检查、Canonical 路线和分发决策。只庆祝草稿数量、忽略审阅债,就等于把廉价生成换成昂贵不确定性。
Autonomy Needs Acceptance Tests的核心是:活动不能代替验收结果。运行中的代理、绿色本地命令和已上传文件,都可能与失败结果同时存在。验收测试给否决一个明确对象,审阅者可以指出缺失条件,而不是只表达品味。
一人公司最容易掉进陷阱:创始人成为万能审阅队列。每个代理都回来等批准,每个例外都停住,每份产物争夺同一份注意力。系统自动化了执行,却保留了人工串行化。
解决方法不是无限自治,而是建立拒绝层级。常规质量否决交给确定性检查:源材料哈希、schema、预算、测试、公开路线和可回滚发布门。硬边界保持明确而狭窄。战略否决留给所有者,因为它定义身份、方向和稀缺注意力。创始人看到的决定更少,留下的决定更像创始人的工作。
An AI Coworker Must Survive Losing Permission描述了权限消失后的安全降级。面对生效的否决,代理也应保存状态、继续独立安全工作,并指出恢复所需的确切证据。它不能把挫折、延迟或能力解释成许可。
说不的人也需要反馈
没有反馈的否决权会变成仪式。审阅者积累权力,同时失去校准。
假设编辑拒绝五个大胆主张:两个确实无证据,一个后来被证明正确,两个从未复盘。记录若只有“已拒绝”,编辑看起来永远谨慎正确,组织却学不到错失机会的成本。完整记录必须包括反转和后悔。
经过合适时间,应回看预测:担心的失败是否在别处发生?新证据是否消除了未知?修复版是否通过?机会是否已经流失?优秀审阅者有时应该推翻旧决定,并解释证据如何变化。
Your AI Should Remember Less为运行记忆提出来源、置信度、有效期、权限范围和纠正路径。拒绝也应使用同样字段:记录支持否决的来源、信心、失效日、被阻止动作和推翻条件。永久的“不”需要永久边界;其他“不”都需要复查条件。
反馈也保护被审阅者。否决包含理由和修复路径时,创作者可以改进;理由隐藏时,拒绝就成为任意权力。AI 代理会迅速放大这个弱点,因为它能无休止重交近似版本。模糊的审阅者最终会淹没在重复方案里,或只为结束循环而通过一份工作。
运行规则很简单:每个可修复的“不”,都要教会下一次尝试如何变成“是”。
用小型公开实验运行拒绝账本
这个命题可以在不暴露私人系统、不授予生产权限的前提下测试。
发布一个简单邀请:记录一项你拒绝执行的 AI 建议,说明提案、拒绝理由、预期失败、后来结果,以及是否改判。不要收集保密 prompt、客户数据、医疗细节、凭据或金融账户信息。
把自愿案例分成硬边界、质量和战略三类,并标注证据是当时记录还是后来回忆。限制必须公开:参与者自我选择,结果可能不完整,样本不能代表所有 AI 使用。
第一目标是寻找重复机制:代理是否优化可见指标却违反隐藏约束?人类保护的是真边界还是习惯?验收测试是否让分歧更容易解决?新证据出现后,审阅者有没有重访决定?
第二目标是为 RobinOS 形成拒绝模板:确切提案与请求权限、否决类别与责任人、证据与未知、预期损害或机会成本、到期或复查条件、最终结果与反转。
实验成功的标准是得到一个可复用模板,以及至少三个证据充分、后续结果可核验的案例。点赞、浏览和泛泛认同都是弱指标;一份记录了改判的认真案例,比一千次反应更有学习价值。
本次发布不包含外部社交平台发帖。LinkedIn 衍生稿只归档供人工审阅。Robin 另行选择分发渠道后,读者参与才真正开始。网站今天可以发布框架,但不能假装实验已经运行。
谁应该拥有拒绝权
没有通用答案。授权应跟随后果和证据。
确定性系统可以拒绝格式错误、测试失败、翻译缺失、预算超限和越权动作。领域审阅者负责专业知识真正改变风险的主张与设计。所有者负责与身份、战略或不可逆承诺冲突的目标。高影响决定可能需要多个独立否决,因为单一盲点的代价太大。
分配方式必须可检查。否决者要有明确范围、理由标准和反馈循环。声音最大的人不能默认拥有所有停止权,最强模型也不能。
这会改变 AI 原生领导者的形象。领导者的产出不是批准了多少任务,而是建立什么系统来决定哪些任务值得完成。好的领导创造常规工作的快速“是”、危险工作的清晰“不”,以及证据缺失时诚实的“也许”。
稀缺资产因此不只是判断,而是与后果相连、具有正当性的判断。
AI 可以起草计划、实施变更、生成备选、监控结果。仍然要有人定义游戏、保护边界,并在拒绝错误时学习。这些工作可以在明确范围内与机器共享,责任必须保持可见。
执行变便宜以后,说“不”会变贵。把这项成本当成投资:记录理由,预测后果,重访决定,同时奖励阻止损害的人和证据变化后愿意改判的人。
未来不属于什么都批准的人,也不属于什么都阻止的人。它属于能够快速生产、精确拒绝,并从两者中持续学习的系统。
分类与关键词
分类: Agentic AI;治理;一人公司;系统。
关键词: AI 否决权;人类判断;代理治理;验收测试;审阅债;拒绝账本;RobinOS。
Hashtags: #AgenticAI #AIGovernance #HumanJudgment #OnePersonCompany #RobinOS