01 · AI Circularity Ledger

說不的稀缺性

Relationship map for 說不的稀缺性

一個帶著記分板的商業循環。

結論讓人不太舒服,卻很有用:當 AI 能完成工作,最稀缺的資產會變成讓它停下來的權力。

這聽上去很消極。實際工作裡,“不做”常常是 AI 原生公司最有生產力的決定。工程師拒絕違反系統約束的捷徑;編輯刪去證據撐不起的漂亮結論;資本配置者放棄上行空間耀眼、追索條款模糊的專案;創始人要求代理暫停,因為目標本身錯了,即使執行非常漂亮。

這些拒絕不會製造值得慶祝的演示,卻經常阻止演示變成事故。

Anthropic 建造新原始碼管理系統 Scion 的覆盤,把這種變化展示得很清楚。七人團隊用五個月建成 Scion、程式碼審閱介面和一組相關係統,並完成大型 monorepo 遷移。Claude 大幅加速執行。工程師仍稽核每個變更請求的意圖;當代理方案違反核心約束,或為了假設風險而過度設計,他們會明確說“不”。

把這個故事壓縮成“七個人和 AI 替代了多年的工程工作”很容易。更重要的部分是權力分工:Claude 提供大量執行,工程師定義系統、否決區域性合理的答案,並對進入生產的結果負責。

執行越充足,拒絕越值錢。真正的問題是:誰配擁有這項權力?我們又如何判斷一次否決改善了結果?

執行、判斷與授權是三種不同資產

執行把既定目標變成產物:寫程式碼、起草合同、整理研究、製作譯文或建立財務模型。今天的代理可以越來越快地完成長鏈任務。

判斷決定目標、方法、證據和取捨是否合理。它會發現客戶指標沒有分母、融資標題沒有追索條款、機器人演示沒有人工介入率,或譯文把不確定偷偷改成確定。判斷可以欣賞一份工作,同時拒絕它。

授權決定誰能讓拒絕生效。審閱者可能看見問題,卻無權停止釋出;代理可能識別危險付款,卻無權取消;創始人擁有正式權力,也可能沒有足夠資訊。三種資產相互重疊,不能互相替代。

AI 降低執行成本的速度,比降低可問責判斷成本更快。產出越多,審閱面越大;程式碼越快,測試的變更越多;研究越便宜,需要核驗的主張越多;自治越長,系統需要“繼續、升級或停止”的時刻越多。

Anthropic 的環境極不尋常:程式碼合併量從五月每天約 2,500 次增至九月超過 30,000 次;主分支歷史接近 100GB;內部 token 預算遠高於普通公司。它提醒我們不要照抄 Scion,也揭示了未來瓶頸。產量擴大十倍後,審批不能繼續逐行閱讀,而要上移到意圖、約束和後果。

NIST AI Risk Management Framework從治理、情境、測量和管理組織 AI 風險。它沒有規定“否決官”職位,卻指向同一個執行需求:系統需要明確責任、可測風險和跨生命週期反饋。當證據不再支援預期用途時,必須有人或機制可以中斷軌跡。

否決要用反事實證明價值

說“不”很容易,證明這句“不”有價值更難。

否決可以保護真實約束,也可能保護習慣、地位或恐懼。資深人員可能因為架構陌生而拒絕更好的設計;合規流程可能因為沒有人負責例外而阻止無害實驗;代理也可能產生無窮警告,把有用工作變得不可能。拒絕的價值必須放在可信反事實下評估:如果繼續,最可能發生什麼?

反事實通常不會立即出現。被拒的變更可能在生產中失敗,也可能完全成功;被拒的文章可能傷害信譽,也可能開啟重要討論;被拒的投資可能保住資本,也可能錯過好公司。決策時沒有確定答案,但可以把記錄做得更好。

每次重要否決應記錄四項:提案,原本要做什麼;理由,什麼證據、約束或未知支援停止;預測,預期哪種失敗或代價;結果,後來什麼證據支援、削弱或推翻決定。

這樣,拒絕就從性格變成學習事件。還可以區分三類“不”。硬邊界否決保護許可權、安全、法律、身份或不可逆資產,只有授權或證據變化才能解除。質量否決說明產物未透過驗收,可修復後重交。戰略否決認為資源應投入別處,機會成本變化時需要重審。

如果不分類,所有拒絕看起來都一樣,團隊會繞過審閱者,或反覆請求同一許可。分類之後,接替者能判斷這次停止是永久、可修復還是有時限。

上一篇 The Handoff Test要求任務在代理替換時攜帶目標、證據、失敗記錄、許可權邊界和驗收狀態。否決也應進入交接包。接替者需要停止條件和證據,而不是一句“Robin 不喜歡”。

廉價執行會製造審閱債

AI 產出看似便宜,因為邊際草稿來得很快,審閱成本卻在別處出現。

假設代理產出十個程式碼變更,而工程師過去只產出一個。即使每個變更只需原來五分之一的審閱,總審閱需求仍會翻倍。若變更相互作用,成本增長可能更快。瓶頸從寫作遷移到整合、測試和決定哪些工作值得存在。

出版同樣如此。十篇看似合理的文章會產生引用核驗、四語義項對齊、視覺檢查、Canonical 路線和分發決策。只慶祝草稿數量、忽略審閱債,就等於把廉價生成換成昂貴不確定性。

Autonomy Needs Acceptance Tests的核心是:活動不能代替驗收結果。執行中的代理、綠色本地命令和已上傳檔案,都可能與失敗結果同時存在。驗收測試給否決一個明確物件,審閱者可以指出缺失條件,而不是隻表達品味。

一人公司最容易掉進陷阱:創始人成為萬能審閱佇列。每個代理都回來等批准,每個例外都停住,每份產物爭奪同一份注意力。系統自動化了執行,卻保留了人工序列化。

解決方法不是無限自治,而是建立拒絕層級。常規質量否決交給確定性檢查:源材料雜湊、schema、預算、測試、公開路線和可回滾釋出門。硬邊界保持明確而狹窄。戰略否決留給所有者,因為它定義身份、方向和稀缺注意力。創始人看到的決定更少,留下的決定更像創始人的工作。

An AI Coworker Must Survive Losing Permission描述了許可權消失後的安全降級。面對生效的否決,代理也應儲存狀態、繼續獨立安全工作,並指出恢復所需的確切證據。它不能把挫折、延遲或能力解釋成許可。

說不的人也需要反饋

沒有反饋的否決權會變成儀式。審閱者積累權力,同時失去校準。

假設編輯拒絕五個大膽主張:兩個確實無證據,一個後來被證明正確,兩個從未覆盤。記錄若只有“已拒絕”,編輯看起來永遠謹慎正確,組織卻學不到錯失機會的成本。完整記錄必須包括反轉和後悔。

經過合適時間,應回看預測:擔心的失敗是否在別處發生?新證據是否消除了未知?修復版是否透過?機會是否已經流失?優秀審閱者有時應該推翻舊決定,並解釋證據如何變化。

Your AI Should Remember Less為執行記憶提出來源、置信度、有效期、許可權範圍和糾正路徑。拒絕也應使用同樣欄位:記錄支援否決的來源、信心、失效日、被阻止動作和推翻條件。永久的“不”需要永久邊界;其他“不”都需要複查條件。

反饋也保護被審閱者。否決包含理由和修復路徑時,創作者可以改進;理由隱藏時,拒絕就成為任意權力。AI 代理會迅速放大這個弱點,因為它能無休止重交近似版本。模糊的審閱者最終會淹沒在重複方案裡,或只為結束迴圈而透過一份工作。

執行規則很簡單:每個可修復的“不”,都要教會下一次嘗試如何變成“是”。

用小型公開實驗執行拒絕賬本

這個命題可以在不暴露私人系統、不授予生產許可權的前提下測試。

釋出一個簡單邀請:記錄一項你拒絕執行的 AI 建議,說明提案、拒絕理由、預期失敗、後來結果,以及是否改判。不要收集保密 prompt、客戶資料、醫療細節、憑據或金融賬戶資訊。

把自願案例分成硬邊界、質量和戰略三類,並標註證據是當時記錄還是後來回憶。限制必須公開:參與者自我選擇,結果可能不完整,樣本不能代表所有 AI 使用。

第一目標是尋找重複機制:代理是否最佳化可見指標卻違反隱藏約束?人類保護的是真邊界還是習慣?驗收測試是否讓分歧更容易解決?新證據出現後,審閱者有沒有重訪決定?

第二目標是為 RobinOS 形成拒絕模板:確切提案與請求許可權、否決類別與責任人、證據與未知、預期損害或機會成本、到期或複查條件、最終結果與反轉。

實驗成功的標準是得到一個可複用模板,以及至少三個證據充分、後續結果可核驗的案例。點贊、瀏覽和泛泛認同都是弱指標;一份記錄了改判的認真案例,比一千次反應更有學習價值。

本次釋出不包含外部社交平臺發帖。LinkedIn 衍生稿只歸檔供人工審閱。Robin 另行選擇分發渠道後,讀者參與才真正開始。網站今天可以釋出框架,但不能假裝實驗已經執行。

誰應該擁有拒絕權

沒有通用答案。授權應跟隨後果和證據。

確定性系統可以拒絕格式錯誤、測試失敗、翻譯缺失、預算超限和越權動作。領域審閱者負責專業知識真正改變風險的主張與設計。所有者負責與身份、戰略或不可逆承諾衝突的目標。高影響決定可能需要多個獨立否決,因為單一盲點的代價太大。

分配方式必須可檢查。否決者要有明確範圍、理由標準和反饋迴圈。聲音最大的人不能預設擁有所有停止權,最強模型也不能。

這會改變 AI 原生領導者的形象。領導者的產出不是批准了多少任務,而是建立什麼系統來決定哪些任務值得完成。好的領導創造常規工作的快速“是”、危險工作的清晰“不”,以及證據缺失時誠實的“也許”。

稀缺資產因此不只是判斷,而是與後果相連、具有正當性的判斷。

AI 可以起草計劃、實施變更、生成備選、監控結果。仍然要有人定義遊戲、保護邊界,並在拒絕錯誤時學習。這些工作可以在明確範圍內與機器共享,責任必須保持可見。

執行變便宜以後,說“不”會變貴。把這項成本當成投資:記錄理由,預測後果,重訪決定,同時獎勵阻止損害的人和證據變化後願意改判的人。

未來不屬於什麼都批准的人,也不屬於什麼都阻止的人。它屬於能夠快速生產、精確拒絕,並從兩者中持續學習的系統。

分類與關鍵詞

分類: Agentic AI;治理;一人公司;系統。

關鍵詞: AI 否決權;人類判斷;代理治理;驗收測試;審閱債;拒絕賬本;RobinOS。

Hashtags: #AgenticAI #AIGovernance #HumanJudgment #OnePersonCompany #RobinOS