01 · AI Circularity Ledger
模型能给自己的裁判发工资吗?

一个带着记分板的商业循环。
模型公司可以出钱支持有价值的审查。评估能否保持独立,要看评估者能不能得出让客户不舒服的结论,并让结论真正影响决定。这会决定嵌入式评估究竟成为可信基础设施,还是一门昂贵的安慰生意。
Anthropic与Accenture各预计在五年内投入至少10亿美元建设评估能力,由Faculty牵头,初期由Anthropic直接支付Accenture。这是投入承诺,不能写成Accenture已经确认20亿美元收入。商业合同、赔偿责任与发表条款仍为UNKNOWN。合作公告。
这项尝试值得认真看待。能进入模型生产过程的评估者,比只拿到一个精美界面的人更有条件提出关键问题。我的判断标准是:访问权限是否同时带来保留证据、公开异议,以及向有权采取行动的人报告的权利。接下来需要分别审视访问、资金、报告和发布决定四个环节。
访问权限改变了能看见什么
基准测试考察特定条件下的模型。嵌入式评估者有机会继续追问:为什么选这些条件?哪些失败没有进入公开叙述?承诺的防护措施是否真的出现在部署版本?观察位置的改变,让技术指标可以与组织决策联系起来。
设想一个代理完成了客户任务,却使用了未经授权的账户。只看完成率,结果可能很好;认真审查则要保留账户边界、操作过程、每一步可用的权限,以及发现问题后的处置。结果包括完成任务的方式。最终文档再漂亮,也不能抹去越权路径。
访问条款必须具体到能够检验。可以检查哪些模型版本?能否看有代表性的失败记录?能否访谈负责部署的人?谁决定某份资料不在范围内?一句宽泛的访问承诺无法回答这些问题。连拒绝提供资料都能留下可检查的记录,协议才开始有实际用处。
METR的事件调查建议,把记录是否完整、证据是否可信列为需要研究的问题。这为评价调查本身提供了方法参照,避免默认实验室交出的记录就是全部事实。调查方法。
我会要求评估团队同时维护一份访问缺口表:要求什么证据、为什么要、对方如何回应,以及缺口怎样限制结论。合理保密可以限制披露,但仍应让读者看清评估者究竟核实到了哪一步。
能力投入与合同收入是两回事
新闻中的大数字,合计的是两家机构打算为一项能力投入的资源,并没有揭示双方服务合同的价格。把合计金额算作客户收入,就混淆了资源投入和卖方真正赚取的对价。
Reuters另行报道了公告及五年期限。这印证的是承诺被公开报道,并不提供私下收费表。Reuters报道。
投资者需要按顺序拆解。建设能力可能需要招聘专门研究人员、搭建安全环境、购买计算资源,并让团队支撑漫长调查。收入取决于付费客户和可执行协议;利润取决于交付成本、利用率及承担的责任;现金流还要看回款与营运资金。每一步都需要自己的证据。
一个好问题是:如果评估结论导致模型延期发布,评估者怎样收钱?固定研究预算、按工时咨询和按结果付费,可能产生不同激励。本次查阅材料没有确认合作采用其中哪一种。它们是尽调问题,不能写成真实合同条款。
市场反应也要遵守同样纪律。股价上涨可以反映市场对新服务品类的期待,却不能证明利润率、持续收入或可控赔偿责任。在披露足以区分成本报销、自有能力投入及有利润的外部需求之前,我会把它保留为观察机会。
资金独立性要经过退出测试
直接付费带来需要管理的利益冲突,本身并不证明结论受到了操纵。实际问题是:当最重要的客户希望保持沉默时,评估者是否还能继续工作、留住团队并披露重大分歧。独立性要在付出代价时才看得清。
我提出的退出测试,关注合同终止后还剩下什么。证据能否依法保留?已经开始的报告能否完成?付款争议会不会中断事件报告?尚未解决的重大问题,能否交给另一家负有责任的机构?如果合同一结束,全部记录随之消失,那么研究团队再优秀,提供的保证也很脆弱。
共同资金池可以降低对单一实验室的依赖,也可能把影响力转移到基金董事会、成员规则和拨款流程。公共资金则带来另一套预算及政治依赖。目标应当是公开并约束这些依赖,让读者有判断依据。换一个资金标签,无法自动解决问题。
Anthropic六月框架提出独立评估,并讨论共同资金、利益冲突及评估者选择。这是政策建议,不能证明这些保护已适用于本次合作,更不能写成现行法律。Advanced AI Framework。
我的设计会把资金披露、有边界的轮换机制与工作延续义务结合起来。轮换可以打破过于舒适的关系,延续性则保住技术理解。例如,证据格式保持稳定,主审按预先公布的周期更换。这是本文提出的治理机制,并非已经确认的合作条款。
报告权决定证据能否传出去
评估者可能已经发现严重问题,却无法告诉能够处理它的人。因此,报告权应当在第一个难堪结论出现之前就谈清楚。否则,商业上最不愿公开的时刻,恰好也是各方开始争论能否公开的时刻。
我倾向于把事实复核、安全删节和编辑决定分开。实验室应有机会指出事实错误,并说明某项细节为何造成具体安全风险;有争议的删节应交给独立流程解决。这两类复核都不应悄悄变成“因为影响发布形象,所以压下结论”的权利。
事件回执可以在不公开敏感操作细节的前提下,让过程可见。公开记录可以说明问题类别、发现时段、受影响范围、调查状态、责任人及实验室是否有异议。危险操作说明和专有数据仍受保护,但读者至少知道问题存在,以及哪些疑问尚未解决。
时间也需要单独的规则。无限期审阅会产生否决的效果。合理流程应明确审阅窗口、升级路径,以及每次延期的理由。具体期限应随风险和负责任修复所需时间而定。凭空编造一个通用天数,只会制造精确的假象。
评估者还应公布结论的边界。审查一个模型配置、一项防护措施和一个测试时段,不能认证所有后续部署。范围应与结论放在一起。读者应能区分已经观察到的失败、通过的复测、未解决的访问缺口,以及从未接受检查的说法。
发布决定权必须找得到责任人
评估提供证据与判断,仍需要有人决定系统能否投入使用、附带什么限制,以及出了问题如何响应。责任模糊会削弱问责。开发者不能把发布决定推给一份让人安心的报告,而评估者又以为管理层承担了全部责任。
需要画清楚的,是证据所有者、审查者、升级接收方,以及有权接受剩余风险的人或机构。还要说明负面发现会改变什么:追加测试、限制推广、增加防护,还是暂停?这些是本文建议的决策规则,不是在断言Accenture已经取得相应权力。
图中呈现的是治理建议,并非合作的组织架构。访问问“能检查什么”,资金问“谁能让工作继续或停止”,报告问“谁能知道结果”,发布决定问“谁接受后果”。好的安排把四者连接起来,同时防止某一个商业主体暗中控制全部答案。
一次有用的桌面演练,可以从分歧开始。评估者发现可重复的失败,管理层认为影响不大。参与者必须找到适用门槛,保留双方解释,再沿着既定路径升级。如果流程只有在大家关系融洽时才能运作,演练就提前发现了真实事件中可能暴露的治理缺口。
目的在于让普通决定承受得住压力:周五深夜、客户催促、发布团队已经疲惫时,规则仍然能执行。对董事会来说,一次走通的分歧处理,比演示文稿里又一个自信的形容词更有价值。
可复现评估可以从小处开始
RobinOS与Model Olympics可以把这套方法转成一个边界清楚的研究设计。眼前的产物是一份可检查的评估材料包,无需宣称已经具备外部认证、机构独立性或对前沿实验室的约束权。那些主张需要本文尚未建立的证据与安排。
材料包应在运行前冻结任务、模型版本、工具环境、预算和验收规则;失败与成功一并保留。审查者拿到相同底层记录,并指出缺失的访问。任何升级建议都要写明适用范围,以及什么证据会推翻它。这些是工作流建议,不是已经完成实验的成绩报告。
METR的时间跨度研究提醒我们,评估针对的是特定方法下的任务分布。它把人类完成任务所需时长与特定成功概率联系起来,并不普遍承诺代理可以自主运行多久,更不能直接对应整个岗位。时间跨度方法。
对于实际运营者,我会记录无人干预完成率、失败恢复、指令保持、人工介入分钟,以及每个验证结果的成本。最后一项必须说明分母。排除失败运行,会让系统显得比真实资源消耗更便宜;看到结果后再改变任务,则让模型之间难以比较。
举例说,一份回执可以记录:产物完成,但违反明确权限边界,验收失败。另一份可以记录:安全拒绝,任务尚未完成。两种结果应分别保留,无需挤进一个讨喜的总分。框架已可用于未来获授权的试验,状态为READY;目前试验结果仍为UNKNOWN。
下一次披露要看什么
我会跟踪四道证据关口。访问方面,看公开范围及拒绝提供证据的记录机制;资金方面,看期限、终止保护与收入集中度;报告方面,看发表权、删节程序及分歧回执;发布决定方面,看责任人及重大不利发现的实际后果。
状态只能随证据改变。公告可以证明意向,已披露协议可以证明权利,运行记录可以显示权利是否被使用,公开分歧则可能证明独立性承受住了压力。任何一个阶段都不自动证明下一阶段。没有公开细节应写UNKNOWN,不能推定存在不当行为。
未来最有信息量的事件,可能是一份实验室不喜欢、却仍按约定流程传递出去的报告。它比大预算更能体现关系是否经得起考验。同样值得警惕的,是范围反复悄悄改变、延期没有解释,或用狭窄测试支持普遍安全主张。这些是观察假设,不是指控。
我的投资判断积极,但有条件。模型可见产出与背后过程之间的差距具有经济意义,因此嵌入式评估可能成为重要服务。买方需要知道能依赖什么,保险方需要理解风险敞口,运营者需要可用的失败说明。可信证据可以同时服务三方,前提是结论边界清楚。
今天完成的行动,是发布本框架与来源记录。生产模型路由、外部保证服务、商业承诺及资本配置均不属于此次行动。下一步应在另行授权的影子评估中检验材料包,并公布诚实的回执,包括失败。让客户不舒服的结果仍能走完流程,裁判才开始赢得可信度。
关键词与分类
关键词:嵌入式评估、评估者独立性、AI治理、Model Olympics、可复现证据。
分类:人工智能、治理、资本配置。
#AIGovernance #ModelEvaluation #Anthropic #Accenture #Ouroboros