01 · AI Circularity Ledger
智慧體做完之後,佇列裡還剩什麼

一個帶著記分板的商業循環。
設想一個智能體,早餐前就交出一百份質量不錯的報告。每份要由一個人花十分鐘核對。早餐還沒吃,桌上已經多了將近十七小時的工作。報告可以很好,組織仍然有麻煩。
這是假設例子,不是實測結果。它提醒我們一個容易被產量掩蓋的問題:誰接收智能體的成果?接收方還要做什麼,成果才會產生價值?
Anthropic的10月2日漏洞披露看板把這條邊界擺了出來。公司累計報告6,157項漏洞,已知其中516項獲得上游補丁。這些案例進入流程的時間不同,直接相除不能得到模型成功率;沒有記錄到補丁,也不能證明維護者什麼都沒做。這裏值得關注的是發現工作與解決工作的區別。Anthropic披露看板
我的經營判斷很直接:智能體聲稱完成時,應說清楚下一位接收者是誰。報告若讓接收者重新尋找證據、權限和待決事項,就只是把工作轉了過去。好的交接應當減少並顯露剩餘工作。這樣衡量自主能力,不必要求一個系統包辦一切。
接收工作的那張桌子
設想一家小型出版機構:研究交上來,文章生成了,系統興高采烈地宣佈完成。主人打開一看,三項說法存疑,一張圖沒解釋分母,還有一份等待授權的社交帖。主人隨即兼任研究員、編輯和權限管理員。
智能體確實產出了東西。主人甚至可能覺得,這比一張白紙好得多。缺少的計量,是原來的任務究竟還剩多少。把文章直接記成經營成果,會遮住主人原本最希望委派出去的部分。
接收者也可能是軟體維護者、客戶、另一個智能體或支付運營團隊。維護者需要可復現的問題,編輯需要站得住的說法,客戶需要能用的服務,支付運營則需要在網絡不配合時仍能對賬的交易。各自的驗收條件不同。
小公司往往由同一個人坐在好幾張桌子後面。交接因此更不顯眼,卻沒有消失。仍須有人判斷成果是否可用、正確、獲授權,以及值不值得繼續傳遞。一個創辦人的收件箱,可以裝下相當大一家公司的未完成工作。
有用的發現,也會生成新隊列
這份披露看板的價值,在於保留階段差異。發現、複核、報告、修復,各自對應不同工作。不能把這些數字壓成單一排行榜,也不能把所有已披露案例都看作經過相同獨立驗證、嚴重程度相同、等待時間相同的事項。
接收團隊可能優先處理嚴重問題、拒絕重複報告、延後低影響修改,也可能已發出補丁而報告方還不知道。這些是可能解釋,不是對數據中特定案例的結論。單一快照無法分配差距的責任。
承認這個限制,反而讓經營問題更清楚。不要默認要求智能體繼續多找問題,應先看下一次交接的哪一部分能減少工作。更好的復現說明,可能比再添一批候選問題更省接收者時間;明確範圍,可能避免一次多餘調查;記錄未知之處,能防止別人重複同一輪無果搜索。
所以我不會由此宣稱AI已完成從頭到尾的安全自動化。某一階段可以大幅改善,整項服務仍依賴其他團隊、決定與時間表。值得追求的是把這些階段接起來,並測出其中的延遲。
給產量旁邊加一隻鍾
回到那個虛構的百份報告早餐。假設接收團隊按要求的質量,每天能結清六十份。若每天收到一百份,第一天留下四十份,第二天留下八十份。這裏假設沒有重複、撤回、新增人手或原有積壓。五天之後,隊列裏就有二百份。
這項算術不描述任何具名公司。它說明局部生產率提高,怎樣增加未完庫存:產出方每天顯得更快,接收方卻越落越後。再加一個生產者,只會放大不匹配。
換一個試驗:保留相同的一百個潛在案例,按接收方的實際優先次序排列,只提交已經準備好驗收的六十份,其餘記作延後並留下理由。這不自動創造價值,排序可能錯,延後的事項也可能重要。但它讓取捨可檢查。
| 假設的單個工作日 | 提交 | 接收方結清 | 新增積壓 |
|---|---|---|---|
| 只看產量的流程 | 100 | 60 | 40 |
| 配合接收能力的提案 | 60 | 60 | 0 |
第二行假設接收者仍能以相同質量結清六十份。這是可檢驗提案,不是已證明的改善。要繼續跟蹤延後了什麼,以及是否因此錯過期限。靠藏起難題換來的短隊列,只是表面勝利。
圖示區分產出、接收工作與驗收使用,僅說明機制,不代表Anthropic或任何機構的實測處理量。
恢復運行時,也要保留接收方的狀態
斷線會暴露發送方記憶與接收方現實的差別。設想報告已提交成功,確認消息卻丟了。盲目重試可能產生兩份報告;拒絕重試則可能放棄一份對方從沒收到的報告。發送者需要知道實際發生了哪一種情況。
OpenAI在10月1日的Codex 0.160.0更新說明中,記錄了不確定提交狀態、重連後恢復排隊消息等修復,也包括保留仍在啓動的子代理環境。這是公開的軟體變更說明,本文沒有執行生產力測試。Codex版本記錄
可遷移到業務流程的原則,是給任務保留身份,並在重複有外部影響的操作前檢查接收狀態。具體實現因系統而異。有些服務提供正式的防重複機制,有些需要對照既有回執進行核對。發送者一句很有把握的“完成了”,代替不了這些證據。
人工交接也一樣。編輯若已因缺證據拒絕一項說法,重啓後的智能體應保留理由,否則所謂恢復只是讓同一項薄弱說法再繞一圈。有用的記憶包括決定及其邊界,不能只記活動摘要。
技術完成,也有適用邊界
21X的10月1日公告介紹了在Arc上以USDC完成不到一秒的證券原子結算測試,同時保留擬議掛牌在歐盟和美國的獨立審批邊界。其美國實體尚未註冊為經紀交易商。技術結果與市場準入,仍是兩項不同主張。21X公告
委派工作也有類似分界。智能體可以準備文件,發送權仍歸主人;可以整理投資備忘錄,資金配置仍不在其權限內;可以核實既有公開網頁,卻不會因此獲得修改賬戶設置的權力。
下一位接收者需要知道究竟跨過了哪條線。“可以發送”與“已經發送”對應不同責任;“測試通過”與“這位客戶可以使用”回答不同問題。混在一起,接收者就得重新拼出被省略的區別。
這也不是每個可逆步驟都請主人批准的理由。重複請示本身就會生成隊列。流程應明確授權智能體完成日常工作,再指出真正留給主人的少數決定。主人看到的決策面應當小而有意義,配套工作已經備妥。
發射可以是一個已完成的實驗里程碑
Google在10月1日的Project Suncatcher更新中稱,原型衛星已發射、建立聯繫,運行符合預期;隨後數週將採集輻射與熱環境數據。發射里程碑可以完成,商業論點仍可懸而未決。Google更新
這能糾正另一種不切實際的完成標準。如果每項研究都要先證明能賺錢才能結案,小實驗永遠沒有終點。有限任務應有與目的相稱的結束條件。
研究智能體的完成,可能是一份帶日期、保留一個未解問題的證據包。出版智能體的完成,可能是核驗過的公開頁面和送達回執。商業服務則可能要求客戶驗收及持續支持。“完成”只有接上當初承諾的對象,才提供信息。
接收記錄應把下一項不確定性傳下去,同時保留已完成的里程碑。後續實驗令人失望,不應抹掉髮射回執;傳播策略需要改善,也不應把已發表文章改稱未發表。階段清楚,系統才能學習,而不把歷史重寫成全勝或全敗。
有能力的接收者,也是產品的一部分
Anthropic在10月2日宣佈投入1億美元建設學院,目標是在2027年底前培訓一萬名工程師。計劃包含實踐、考核及與組織項目掛鉤的駐場訓練。這是投入與目標的公告,不是一萬名學員已畢業,也不是客戶回報已獲證明。Anthropic學院
由此可以作出的較廣推論,是模型改善後,實施能力仍有價值。有人必須選對問題、理解周邊流程、識別失敗,並決定什麼證據算數。這些工作可以得到輔助,也能部分自動化,但經濟模型不能把它們當作不存在。
一個人公司尤其需要留意:買更強模型,可能讓送到主人面前的工作增長得比主人的消化能力更快。另一種可行投入,是複用驗收條件、寫清交接內容,並減少每份成果裏尚待決定的事項。
例如,文章包可給出每項關鍵說法的確切來源及簡短未知說明;軟體包可保留預期行為、實際測試結果與可恢復的改動。接收者就少花一些時間重建意圖。是否真的省時,仍須在可比工作上測量。
一項七日交接試驗
我會選一條低風險、反覆發生的流程,觀察七天。交付物要是接收者本來就懂得判斷的東西。保留原有基線,在看到結果前寫下驗收規則。這是擬議試驗,本文不聲稱已執行或測得收益。
每項任務記錄提交時間、接收或拒絕時間,以及接收者花在解決它上面的分鐘數。保留拒絕理由,把等待時間與工作時間分開。隔夜延遲可能只反映接收者作息,未必說明成果難處理。
納入所有符合條件的任務,包括運行失敗、被退回補充說明的案例。拒收後從樣本中消失的報告,會讓剩下的平均值顯得漂亮。任務難度不同就加標記,不要把兩組小樣本包裝成普遍結論。
隨後只改一件事:要求產出方附上簡短交接包,包含成果、支持證據、已知缺口、下一步允許的動作,以及適用時的防重複憑據。與舊流程的類似任務比較,儘可能保持模型和權限不變,才知道結果與交接有何關係。
驗收條件應同時覆蓋成果質量與接收者負擔。只有可比案例中的驗收可靠性不降低、重大錯誤不增加、接收者投入下降,我才會採用新做法。樣本太少或差異太大,就保留為未定論試驗,並保存記錄。
主人仍然要做的工作
主人仍要決定什麼值得做。智能體可以協助搜索、質疑與執行,品味、優先次序及有真實後果的決定仍歸主人。測量接收負擔不會消滅判斷,反而能看清判斷實際花在哪裏。
這與編輯部是否從傳播中學習是不同問題。傳播跟隨文章走向受衆,今天則停在更早的邊界:下一位人或系統,能否直接使用成果,而無須重建它?兩者都重要,各自需要證據。
一張實用觀察卡只需幾欄:承諾對象、接收負責人、驗收規則、提交時間、接收時間、接收分鐘數、未解決依賴,以及下一步允許動作。無數據就留空,附上真實成果鏈接。慶祝下一批產出之前,先看看等待最久的交接。
下一項有價值的自動化,可能阻止一件不必要的事來到桌上,也可能把證據準備到讓你讀一遍就能決定。我會把這些與智能體創造的工作一起計數。早餐之後的收件箱,也是結果的一部分。
分類與關鍵詞
Categories: Agentic AI; Operating Systems; Productivity.
Keywords: handoff; receiver effort; acceptance; queue; autonomy; reconciliation.
Hashtags: #AgenticAI #AIProductivity #SystemsThinking #IAmRobin