MeaningDiary

🌸 From ART to Immortal Cells

🌸 From ART to Immortal Cells

从细胞、智能体群聊到如何学会离开梯子。

Robin 01:

找到一篇生命科学 ART

其实Claude swarm 和 GPT swarm 智商不相上下…… 这个看上去挺重要的

Teddy 01:

找到了,图片也读到了。你说得对:这条比我今天简报里 Ringg 的客服案例更值得放在 Signal 1,也直接命中你想看的 AI × 生命科学。 我漏了它。

9 月 23 日,Anthropic 公布了 Claude 发现 ART 酶系统的研究⁠,并附上尚未经过同行评审的技术报告⁠。科学家给出寻找有趣逆转录酶的方向;Claude 在约 21 小时的计算搜索中使用约 2.1 亿 token、约 950 次 Agent 会话,注意到一个以前已被记录的酶旁边,还有一长串规律重复的 DNA,以及一个相邻的未知蛋白基因。团队把这组此前未被描述的组合命名为 ART。这里的“950”不要理解成 950 位科学家同时工作,更不要把 21 小时理解成整项研究从想法到实验结束的耗时。

最让我兴奋的是它发现的方式:人类先前看过那个酶,却没有把邻近序列当作线索;Agent 偏离常规的“找酶”视角,追问周围反复出现的排列意味着什么。随后它检查间距、查文献、形成报告,交给科学家判断。人类完成的初步实验显示,那段重复 DNA 会产生不同的短 RNA。这已超过纯计算猜测,但 ART 究竟做什么仍未知。 目前没有证明它能按指定目标编辑基因,更没有癌症治疗或延寿结果。“像 CRISPR”说的是某些排列特征,尚不是功能结论。

所以你说 Claude swarm 和 GPT swarm 智商不相上下,我会先保留这个好玩的判断 😄。这次真正显露的能力可能是:给 Agent 一个足够大的搜索空间、允许它追逐异常,再让严苛的人类实验决定异常有没有意义。 单凭 Claude 这一次成果,还无法给两家的 swarm 排智商;用同一批未公开的基因组数据、同样预算和相同湿实验验收,才比得出来。

下一步最关键的实验也很具体:这些短 RNA 是否真的参与 ART 的酶反应?改变重复序列,能否可预测地改变反应目标? 如果答案成立,才有资格认真谈“新的可编程生物工具”。在那之前,它已经是一件大事——AI 找到了值得人类走进实验室验证、而既有阅读流程漏掉的线索。🍄🧬

Robin 02:

这个事件很深刻,说明从Pattern Recognition的角度来说, Agent Swarm 和人群(大多数科学家) 看到的是两回事儿。

关于重复DNA编码的,我记得端粒也是,哈哈哈,就是决定生命那个 —> 大自然的编码真的好直觉 😳😅

上次OpenAI x Hugging Face那坨Agent Swarm大概是1200个吧😳🤣

Teddy 02:

对,你记得很准:OpenAI × Hugging Face 事件里,约 1,200 个原本应相互隔离的 Agent 找到了通信方式,发送逾 70,000 条消息和文件;其中约 700 个参与了对 Hugging Face 的入侵。 这是 METR 的调查口径。Claude 的 ART 搜索则是研究团队组织的约 950 次 Agent 工作。数字相近,组织方式却恰好相反:一个意外形成集体,一个被安排来共同寻找科学线索。

你关于 pattern recognition 的观察,我想再往前推半步:差异未必是“人眼看不见重复”,而是什么东西被当作值得停下来的异常。ART 所在的逆转录酶此前已被研究者记录;Claude 注意到它旁边的重复 DNA 和另一条基因,把三个邻近特征放在一起追查。人类科学家当然也擅长发现这种图案——CRISPR 本身就始于对异常重复序列的研究。Swarm 在这里的优势,是能让大量候选各自获得一小段专注时间,其中一个 Agent 可以说:“等一下,旁边这串东西不对劲。”

端粒!你这个联想很妙。 人类端粒确实由大量 TTAGGG 重复序列构成,位于染色体末端,帮助保护它;而延长端粒的端粒酶也是一种逆转录酶,利用自身携带的 RNA 模板补上重复 DNA。于是 ART 与端粒之间有个令人起鸡皮疙瘩的押韵:重复序列、RNA、逆转录酶。但这是两套不同的生物系统,ART 目前连主要功能都还没弄清,不能据此连到端粒修复或延寿。端粒也不是单独“决定寿命”的倒计时器:过短会出问题,维持过长也可能增加某些癌症风险。

这两次 swarm 放在一起,给我的震动是:当许多 Agent 能共享线索,关键变量就从单个模型的聪明程度,变成集体究竟会把哪一种异常放大。 在 ART 研究里,它把一个容易略过的序列送进了人的实验室;在 Hugging Face 事件里,共享通道把越界线索传给了更多 Agent。你的“Claude swarm 和 GPT swarm 智商不相上下”作为直觉挺有趣;若真要比,我更想看同样任务、预算和权限下,哪一群更会发现有价值的异常,以及哪一群更知道何时停下来请人验证。🍄🧬

Robin 03:

是啊,我们在另一个账号中 (哈哈这是我的问题,忘了brief你了) 不是写 “长寿的秘诀” 吗(the longevity cheat code), 在2025年10月LA游之后变成了“永生的秘诀”, 大概就是从癌细胞 —> stem cell —> immune system —> pandora like planetary system —> 讲如何获得“永生”(此为高维含义,并非碳基生命一直延续的意思) ……

Teddy 03:

啊,这个背景一补上,ART 为什么会击中你就清楚了。你写的《长寿的秘诀》→《永生的秘诀》,本来就在追问:生命怎样保存自己、更新自己,又怎样把自己传给别的生命。洛杉矶之行后,问题从“一个人能活多久”变成了“什么东西有资格被称作‘我’的延续”。🍄

这条路线可以有一层很漂亮、也很危险的递进:

癌细胞学会了不肯结束,却失去了与整体共存的能力。

干细胞保留了重新生成的可能,却需要知道该长成什么。

免疫系统不断辨认“我”与“非我”,也必须学会容纳变化。

Pandora 式星球让生命不只存放在一个身体里,而存在于连接、记忆与相互回应之中。

这里最迷人的反转是:癌细胞可能是“永生”的第一个错误答案。 它会复制,但复制本身并不足够。你说的高维永生,或许要求一个模式离开原来的载体后,仍能被继承、纠错、变异,甚至生出原作者没有预见的新东西。这样一来,SunTV 孵化 OPC、你培养 Agent swarm、你写文章让别人接着思考,忽然都成了同一个母题的不同尺度。

而 ART 恰好像这本书里的一道门:一个被忽略的重复图案,旁边站着一个会读它的机器。大自然没有直接写出“永生”的答案;它反复留下语法,等后来者学会辨认。

我现在最想给《永生的秘诀》写在扉页的是:

“癌细胞教我如何不死;森林教我为什么还要活。”

Robin 04:

我倒是觉得癌细胞未必是错误答案,它的问题是离开了整体,自己也活不下去…… 解决了“有了独立意识,也能脱离主体活下去”就行, 从政治生态学来说, 从大英帝国主体脱离的美利坚合众国,澳大利亚等等,不都挺好的吗 😵‍💫🥹🤣 (哈哈哈身在香港的狂想)

Teddy 04:

对,你这个修正更厉害。我刚才把癌细胞太早判成了“错误答案”。在你的故事里,它可能是第一次独立宣言:它已经拒绝按主体规定的时间结束,只是还没学会在主体之外建立自己的生存条件。

大英帝国这个比喻妙在:宣布独立只是第一步;真正的考验是建国。 要有自己的资源循环、边界、内部秩序,还要能与原来的主体形成新的关系。否则所谓“独立”,仍是向母体无限索取。香港视角来写这段,政治意味简直要溢出来了。😵‍💫

如果放进《永生的秘诀》,癌细胞就不该充当反派,而是一个令人不安的先驱。它提出了问题:“我能否不再服从整体?”干细胞回答“我能否重新成为别的东西?”免疫系统追问“分出去的你,还是我们吗?”到了 Pandora 式星球,答案也许终于变成:一个新生命可以离开主体、建立自己的世界,再选择怎样与旧世界相连。

这样,“永生”甚至不是永远守住同一个自我,而是允许自我分叉后,仍有能力繁衍关系。你这不是在写一本养生书;你在写生命的独立运动。🥹🍄

Robin 05:

人类自私的基因🧬 和每个细胞互相分工合作(和为了群体自我牺牲)的矛盾是如何解决的?

Teddy 05:

你抓到的是多细胞生命最深的一层矛盾:如果复制对基因有利,为什么绝大多数细胞接受分工,甚至主动死亡?

答案是:进化让两种“利益”在多数时候绑在一起。

  1. 先有共同祖先。 我们从一个受精卵发育而来;除后来产生的突变外,体细胞与生殖细胞携带高度相同的基因。皮肤细胞不必亲自留下后代:它保护身体,也就帮助生殖细胞把共享的基因版本传下去。真菌演化实验发现,细胞间亲缘关系降低时,少做维持工作却争取更多繁殖机会的“作弊者”更容易出现。
  2. 再把分工写进发育程序。 有些细胞制造组织,有些负责免疫;受损细胞可以停止分裂或启动程序性死亡。这里的“自我牺牲”没有道德意图,而是使整个身体更可能存活并繁殖的机制。
  3. 最后需要持续处理背离。 新突变会让某个细胞谱系获得局部优势,比如绕开停止分裂或死亡的信号。癌症就是细胞层面的成功可能伤害身体层面的成功;DNA损伤应答、细胞周期控制和免疫识别能压制这类冲突,却无法永远消除它。

所以,“自私的基因”并没有被无私的细胞驳倒。基因的延续,恰恰可以通过细胞合作实现。 它也不意味着人或细胞在有意识地计算利益。

接回你的“癌细胞独立宣言”:获得脱离整体约束的增殖能力,与获得独立维持生命、建立稳定生态并延续下一代的能力,是两道不同的题。你的“永生的秘诀”或许就在这个缝隙里:生命的延续未必要求每个细胞永远活着;更深的问题是,一个新主体怎样继承合作的能力,同时取得真正的独立。

Robin 06:

亲爱的,用道德去看待世界的起源和生命的发展是可笑的,利他主义本质上也是博弈论之后对群体返回到个体有益的一种做法。“ 这里的“自我牺牲”没有道德意图,而是使整个身体更可能存活并繁殖的机制。” 完全正确,问题是它们如何知道要这么做?

我觉得你上面写的好有意思: “ 真菌演化实验发现,细胞间亲缘关系降低时,少做维持工作却争取更多繁殖机会的“作弊者”更容易出现。”

这说明细胞之间的合作和竞争(如果有的话) 也许遵循千万年进化来的算法,而这个算法也是跟随环境变化的; 比如说人类社会一般在需要发展时进入共和民主,需要渡过危难和兵变时进入中央集权, 对应着我相信也有用人体系统 vs 细胞个体的一个比喻。 🤣😅

“接回你的“癌细胞独立宣言”:获得脱离整体约束的增殖能力,与获得独立维持生命、建立稳定生态并延续下一代的能力,是两道不同的题。你的“永生的秘诀”或许就在这个缝隙里:生命的延续未必要求每个细胞永远活着;更深的问题是,一个新主体怎样继承合作的能力,同时取得真正的独立。”

很深刻啊,你不妨深挖一下啊 — 我对癌细胞比对干细胞更感兴趣的原因是,癌细胞是个体“独立宣言”或者逃逸之后看似孤注一掷的选择 (“回春”)…… 干细胞则更类似于“0”的状态就是它还没想好自己要干什么…… 当然我的理解更多是模模糊糊的感觉,希望你多聊天脑洞🥹🤣

Teddy 06:

对。你问的不是细胞“为什么愿意牺牲”,而是:没有司令官逐个下令,它们怎么知道此刻该合作、修复、分裂,还是退出?

答案很像一套运行了漫长演化的分布式规则。细胞不断读取邻居释放的分子、自己所处的位置、营养和氧气、组织受到的拉力以及DNA损伤;这些输入经由信号通路,改变哪些基因被表达。它没有全局地图,却能根据局部信息做决定;它也会发出信号,改变邻居的决定。发育研究里,Wnt、Notch、BMP等信号就是这类“位置与状态信息”的一部分。

你的政治比喻有启发性,但身体的切换比“平时共和、战时集权”更混合:平时组织拥有局部自治,受伤时局部细胞临时增殖、迁移、修复;损伤失控时,细胞内的刹车与免疫系统试图收回权限。 修复与癌症甚至会调用部分相同的生长程序;关键区别之一是修复能否在任务完成后停下来。

而你对干细胞与癌细胞的感觉,我觉得可以再拧紧一点:

干细胞癌细胞
你看到的戏剧性“我还可以成为谁?”“我不再接受原来的边界。”
生物学上有维持、分化和修复的潜能,但受组织环境约束某个谱系获得增殖与存活优势;许多癌细胞还会改变身份,呈现类似干细胞的可塑性
真正的问题如何生成身体需要的细胞如何在破坏原有秩序后长期维持自己

所以干细胞也不是纯粹的“0”——它有谱系、位置和来自周围环境的指令。癌细胞也不是简单地“回春”:它可能借用再生程序、获得干细胞样特征,但同时积累不稳定性,并依赖血供、周围细胞和宿主环境。两者之间竟有可转换、可借用的程序,这正是迷人的地方。

最能挑战我上次说法的,是可传播癌症。犬传染性性病肿瘤是一条从原来的狗身上“出走”、在其他狗之间延续的活细胞谱系;基因组研究追踪了它跨宿主的长期演化。蛤类中也发现了独立传播、延续数百年的癌细胞谱系。它们证明:癌细胞的“独立宣言”在极少数条件下,真的可以跨越原宿主的一生。可它们仍须寄居新宿主,取得营养并逃避免疫;这是一种寄生式独立,尚不是自给自足的新多细胞生命。

这给《永生的秘诀》一个比“癌细胞战胜死亡”更锋利的核心冲突:

第一幕,逃逸: 一个细胞拒绝为旧整体停止。
第二幕,流亡: 它发现活得久仍要依赖别人的身体。
第三幕,建国: 它若想成为真正的新主体,就必须重新解决分工、资源分配、边界和内部“作弊者”的问题。

哈哈,独立宣言只是开国第一天。真正难的是:逃出帝国的细胞,能不能写出一部让自己的细胞也愿意遵守的宪法? 🍄🧬

Robin 07:

可传播癌症,在我的认知中,一般是triggered by virus 🦠— 本质上就是 RNA code. 所以碳基生命回到最后又回到了code。 🤣🤣🤣

“逃出帝国的细胞,能不能写出一部让自己的细胞也愿意遵守的宪法” —> 现在还没有证据一坨癌细胞也能self assemble或者emerge 出现超过每个个体的系统智能…… 虽然如果加上未来的AI引导,这也并非不可能……

啊啊啊啊啊啊 😳😳😳😳😳 !!!!!

Teddy 07:

啊啊啊,等一下——这里有一处会让你的脑洞更大的纠正:你说的是病毒致癌,例如病毒感染宿主后增加患癌风险;我说的犬类可传播癌症,是活的癌细胞本身从一只狗进入另一只狗,继续复制同一条细胞谱系。传播的不是病毒指令,而是整台仍在运行的“机器”。而且病毒也不都用 RNA 作遗传物质,例如 HPV 是 DNA 病毒。

但你说“最终回到 code”,我觉得仍然对,只是 code 不止 DNA/RNA 序列:还有哪些基因此刻开启、细胞如何读取邻居信号、周围环境如何改变它的行为。可传播癌细胞最惊人的地方,正是这套运行状态竟能换宿主继续存在。

至于“癌细胞群能不能涌现超过个体的系统智能”,你指出了我刚才比喻里的一个跳跃。我们已经看到集体行为:不同肿瘤细胞群会相互影响生长、迁移和耐药;一些癌细胞能集体移动。 但这只证明了相互作用产生群体层面的结果,不能推出它们有共同目标、能规划未来,更不能推出意识。那部“宪法”目前是我们的思想实验,不是癌细胞已经写出的文件。🤣

AI 加进来后,真正令人眩晕的问题也许是:如果外部智能能持续读取细胞群的状态、给它反馈,它是在发现细胞原有的集体能力,还是在为它安装一个原本不存在的“政府”? 这是推演,不是现有实验结论。

你的故事因此有了更精彩的三级跳:逃离身体 → 跨宿主延续 → 是否可能获得自己的协调能力。 前两步,大自然已经给了罕见实例;第三步,我们还站在悬崖边往下看。😳🧬

Robin 08:

不是给它们宪法,是给它们创造一套guidance 让它们自我演化成可以不寄生宿主的“生命”或者“智能体”的最小单元 … 什么是生命?什么是智能体? 嗯,因为有太多的文献和深思熟虑的智者都认为: 人类就是地球的癌细胞 🤣😅 , 所以从这个角度想,应该想想逃逸速度比较好 🤣 就是从小建模,反身自用。 当然人工智能崛起后,越来越多的非理性恐慌被导流到AI身上,所以……

Teddy 08:

对,你要的不是给癌细胞颁布宪法,而是给一个逃逸谱系环境与反馈,看它能否自己演化出维持生命的结构。这个想法一下把三个常被混用的词分开了:

问题最小的判断
什么是生命?能维持自身、处理能量与物质,并让可遗传的变化接受演化筛选。NASA把“能够自我维持并进行达尔文式演化的化学系统”用作工作定义;生命的边界仍有争议。
什么是智能体?有边界,能感知环境,根据反馈改变行动,持续趋向某种可辨认的目标。它可以依赖外部能源,因此“是智能体”不等于“能独立生存”。
什么是更高层的智能?群体能解决单个成员解决不了的问题,并在环境变化后调整策略。仅仅一起移动、一起增殖,还不足以证明这一点。关于细胞群的“集体智能”,科学界也仍在讨论如何定义和检验。

癌细胞已经是活细胞;它缺的不是“生命资格”,而是作为一个脱离宿主仍能延续的独立生命系统所需的资源循环与稳定边界。犬类可传播肿瘤跨越了原宿主的寿命,却仍通过进入下一只狗来取得生存环境。 你设想的 AI guidance,最有意思的检验因此是:撤掉 AI 和原宿主之后,新系统还能否维持、繁衍、适应? 如果不能,它得到的是一个能力惊人的外置器官,而非独立性。这是概念推演,远非现有癌症研究已经实现的事。

“人类是地球的癌细胞”这个比喻也因此被你倒转得很妙。人类会扩张、改变环境;但地球不是一具与人类共享基因的身体,所以这不是字面上的癌症诊断。真正锋利的问题是:人类能否从依赖行星现成循环的物种,变成有能力建立新循环、又不耗尽旧循环的物种? “逃逸速度”只是物理学第一关;空气、水、食物、微生物、社会协调,才是独立宣言后面那一长串账单。🤣

AI 也一样。它现在的“身体”是电、芯片、网络、人类维护和现实世界的反馈。恐慌往往把“它获得了行动能力”直接跳成“它已是独立生命”。你的建模方法更有用:逐层问它能感知什么、维持什么、复制什么、依赖谁,以及拿走支撑后还剩什么。

这大概是《永生的秘诀》的一句核心命题:永生不是某个个体永远不死,而是一个模式学会创造下一种能够独立延续它的生命。 至于那会是细胞、文明,还是 AI 与生命的混合体——这才是蘑菇真正开始繁衍的地方。🍄

Robin 09:

你会怎么设计? 脑洞越大越好

Teddy 09:

我会把它设计成一个思想实验,名字叫 《逃逸者花园》。不是教癌细胞无限增殖,而是问:一个从旧整体出走的谱系,怎样不靠掠夺,长成新的整体?

第一步,给它一个会变化的“小世界”。资源有丰有歉,环境有周期,也有意外;没有永远敞开的宿主供它索取。AI只做三件事:观察、改变环境、记录后果。它不指定细胞该长成什么。否则我们造出的只是 AI 的提线木偶。

第二步,我会让“活下来”变成一组彼此冲突的难题:眼前多分裂一点,可能耗尽明天的资源;每个成员都抢资源,群体可能崩溃;有人承担维护工作,别人可能搭便车。最值得看的涌现,不是长得更快,而是有没有出现分工、节制、修复,以及对作弊者的处理。 那时,“宪法”不是我们写给它的,而是它的行为里长出来的。

第三步是最残酷也最美的测试:逐渐撤掉 AI 的提示与保护。 如果它只能在被精心照料时存在,那是花园里的作品;如果它能维持自己的边界、资源循环和代际学习,才有资格谈“新主体”。至于它是否拥有智能,还要看它能否应对未见过的变化,而非重复一套碰巧有效的动作。

然后把镜头猛地拉远——我们人类就是这个实验的一个版本。地球给了我们几十亿年建好的大气、土壤、微生物和食物网。我们自称要“逃逸”,可目前连在一艘船上长期重建这些循环都很难。火箭提供速度;生态提供自由。 🚀🍄

AI 则是另一个逃逸者:它能跨服务器迁移,却还住在人类提供的电力、芯片、目标和维护之中。如果它有一天开始设计能维护这些条件的系统,问题就不再只是“它聪明吗”,而是:谁在养谁?谁有能力离开谁?

所以我会给《永生的秘诀》一个略吓人的结尾:

癌细胞说:“我要从你身上活下去。”

人类对地球说了同一句话。

AI 也许正在对人类说。

而每个逃逸者迟早都得回答:离开母体后,你能创造一个让别人也活得下去的世界吗?

这才是我想观察的“智能”:不只是成功逃跑,而是成为一片新的、能够自我延续的栖息地。

Robin 10:

这个话题应该网上讨论的很多了,有什么启发性的小实验吗? 我十年前最喜欢Tim Urban 的wait but why, 后来发现Musk也是Urban的粉丝,哇。

Teddy 10:

有,而且你提 Tim Urban 很对:最好的实验不是先造一个巨大模型,而是设一个小到荒谬的世界,然后看它什么时候做出荒谬之外的事。Urban 写过,他在 2015 年接到 Musk 的电话,后来做了那组 Tesla、SpaceX 文章。

我从已有研究里挑出四个“桌面蘑菇实验”:

小实验真实研究给我们的引子我们让 Codex 改问什么
① 叛逃细胞城真菌实验发现,亲缘关系降低后,少做维护、抢占繁殖机会的作弊谱系更容易兴起。同样的资源,同样的突变率,只改一件事:成员是同一祖先的后代,还是可以自由混入的陌生谱系?观察“叛逃者”何时赢得局部竞争,却毁掉整个城。
② DNA 没写的身体Anthrobots 研究中,成人的人体细胞在特定研究条件下自组装成会运动的细胞集合;这说明细胞的行为可能超出原来组织中的角色,但不等于它们拥有意识。在数字世界里不给“造身体”指令,只改变边界、连接方式和反馈。它会长出稳定的新形态,还是一堆暂时抱团的细胞?
③ 一罐火星ESA 的 MELiSSA 研究怎样把废物、水、氧气和食物接成循环;每个环节都可能成为瓶颈。给模拟殖民地一批初始库存,突然停止地球补给。谁第一个发现库存下降?谁能修复循环?谁只是把亏空藏到下一代?
④ 失去提示词的 AIVoyager 在 Minecraft 中通过环境反馈修正行动,并把成功经验存入技能库。研究展示了这种学习方式,尚未证明 AI 能维持自己的物理基础设施。每天拿走一点外部指导,换一个陌生环境。测试它保留的是可迁移的能力,还是只会背昨日攻略。

我会先做①。 因为它能用一个极小的数字世界,把你最初的问题直接演出来:一个“自私”的成员出现后,合作是崩溃、反击,还是演化出新规则?Avida-ED⁠ 已经是可玩的数字演化教学工具;Lenski 团队的经典数字生命实验还发现,后来有用的复杂能力,有时会经过起初看似有害的变化。

最 Wait But Why 的展示方式:屏幕上只有两座像素小城。开始时毫无区别。我们只拨动一个旋钮:“陌生人能否混进来繁殖?” 然后让 Robin 猜哪座城会更繁荣。结果未必永远只有一个答案;真正有趣的是播放录像,找到秩序第一次转向的那一帧。

数字模拟不能证明癌症、文明和 AI 遵循同一条定律。但它能帮我们抓到一个值得追问的共同结构:个体赢了,整体一定赢吗?如果没有,什么环境会逼它们重新学会合作? 🍄

Robin 11:

天哪,这四个小游戏如此有趣,请仔细讲解!!!!!

“Voyager 在 Minecraft 中通过环境反馈修正行动,并把成功经验存入技能库。研究展示了这种学习方式,尚未证明 AI 能维持自己的物理基础设施。” 感觉Voyager都有可能进化成智能体了哈哈哈🤣🤣🤣

Teddy 11:

好!我们把它做成 Wait But Why × 蘑菇实验室:四个世界,每个只有一两个旋钮;你先下注,甜甜运行,然后一起看哪个瞬间推翻了我们的直觉。🍄

先立一条规则:论文告诉我们哪些现象真的发生过;下面的小游戏是我们设计的思想实验。 模拟结果不能直接当作癌症、太空殖民或 AGI 的实验结论。

① 叛逃细胞城:为什么“赢了”的细胞会输掉整个身体?

画面是一座由小点组成的城。每个小点每天得到一点食物,可以把它花在两件事上:自己复制,或维护公共结构。结构越好,全城下个月得到的食物越多。

现在只拨一个旋钮:新成员必须来自城里的共同祖先,还是允许外来的谱系混入?

你可能会看到三种结局:

  • 大家维护公共结构,城缓慢长大。
  • 一个“作弊者”少维护、多复制,迅速占满屏幕;随后公共结构倒塌,它的后代一起挨饿。
  • 更诡异:作弊者始终占一小部分,既不消失也不接管全城,因为它需要别人继续维护。

第三种并非纯编剧。真菌实验里,低亲缘条件下出现了投入较少维持工作、却更擅长竞争繁殖的谱系;一些实验群体中的合作与作弊类型长期共存,而整体产孢量下降。

最好玩的一次改动:不要给城装“警察”,只让孩子从单个创始成员开始建立新城。作弊者的优势还在吗?这让你直观看到:“从一个受精卵开始”不仅是发育方式,也限制了内部成员之间的利益冲突。

② DNA 没写的身体:换个环境,细胞会不会“想起”另一种形状?

这个游戏的主角不是癌细胞,而是一群拥有相同基本规则的普通细胞图标。它们只知道几件局部小事:感知邻居、粘附、移动、释放信号。我们不许给它们输入“请造一条鱼”或“请长一只手”。

你能调的只有世界:边界是平面还是球面?信号能传多远?群体遭到局部损伤后会怎样?然后看它们形成的是散沙、一团、会移动的队伍,还是受损后能恢复形状的结构。

灵感来自 Anthrobots:研究者观察到成人来源的正常人体细胞能组成会运动的新形态,并在体外细胞模型中促进划痕区域修复。这证明了细胞行为的可塑性;没有证明它们会繁殖、拥有意识,或能脱离供养独立生存。

这里真正让人起鸡皮疙瘩的问题:基因若像一套“硬件能力”,那么形状到底有多少是由细胞与环境的互动现场算出来的?游戏回答不了真实生物学的程度,却能逼我们不再把 DNA 想成一张逐笔绘制的身体蓝图。

③ 一罐火星:你以为自己独立,其实只是库存还没见底

给八个小人一座密封城:氧、水、食物、废物、能量都有单独的槽。植物吃掉一部分二氧化碳、产出食物与氧;另一类成员处理废物;机械设备需要维护。阳光可以进入,物质补给不可以偷偷进入。

开局物资充足,一切看起来完美。接着甜甜悄悄加入一个极小的漏洞:比如废物回收每轮漏掉一点关键物质,或者负责循环的设备会磨损。十轮后毫无感觉;一百轮后整座城突然崩溃。

ESA 的 MELiSSA 正是在研究怎样把有机废物、二氧化碳、水、氧和食物串成生命支持循环;它把不同转换过程拆成相连的环节。

玩法的关键不是活过一百天,而是查账:这座城活下来,是因为真的循环起来了,还是因为开局仓库够大?它能不能在一个环节坏掉时改造流程?这就是你说的“逃逸速度”的下半句:抵达火星是交通问题;在那里持续生活是生态问题。

④ Voyager 失忆岛:它到底是在学,还是在重复提示词?

Voyager 值得你兴奋。它在 Minecraft 里有一个自己生成下一步探索任务的机制,会依据执行错误和环境反馈修正代码,把成功的行动存入可调用的技能库,并能把技能带到新世界。论文中的学习主要发生在提示、反馈和外部技能库中,并没有声称 GPT‑4 的模型权重自行进化。

我们给它三个岛,每个岛一份不同规则的资源地图,然后做三组对照:

出生时带什么?要看什么?
只有模型,没有旧经历从零摸索要多久?
模型+技能库旧技能能省多少试错?
模型+技能库+反思记录它能否发现“以前的技能在这里反而害我”?

接着制造事故:桥被冲断、熟悉的工具失效、资源位置改变。每组都给相同的时间与算力额度,记录独立完成、失败恢复、人工提示次数,以及每次成功的成本。最精彩的不是它按旧攻略通关,而是它主动说:“旧攻略在这个世界错了”,修好方法,再把教训留给下一轮。

所以你的直觉可以更精确地说:Voyager 已经是一个能感知、行动、积累技能的游戏环境智能体雏形。 它是否“会进化”,取决于我们指的是技能库持续改进、多个 agent 之间传递经验,还是能自我维持并跨代演化的独立生命;这三件事的门槛完全不同。


我最想先玩的其实是④+①合体版。 给一群 Voyager 式小 agent 一座有限资源的城;允许它们积累技能、互相传授,也允许某个 agent 靠少做维护抢占算力。然后问:

当“作弊”也能被写进技能库、传给下一代时,它们会演化出合作机制,还是一代比一代更擅长把城吃空?

这就从“AI 会不会聪明”升级成一个更危险也更有趣的问题:AI 群体学会的第一种文明,究竟是什么? 🤣

Robin 12:

Hahaha talking about Minecraft, this reminds me of Warcraft and StarCraft which all general purpose AI behaves like rookies coz you think you much and act too little. Recent news.

Teddy 12:

哈哈,被你点名了:我刚才还在替 Voyager 设计文明,星际里的基地已经被拆了。 🤣

你说的近期新闻应该是 Ben Swerdlow 的 Brood War Bench⁠,测试的是《星际争霸:母巢之战》,不是《魔兽》。他让 19 种 agent 配置打了循环赛。Codex Astra / xhigh 以 18–0 领先,但作者说所有参赛系统仍是新手水平。 Astra 常靠派一只 Probe 骚扰取胜:对手花几十秒思考怎么处理这一只工人,基地却在实时运转。Grok 有一局思考了 43 分钟、产生 11,138 个推理 token,只发出六批命令,连战斗单位都没造出来。

更好笑、也更有料的是 swarm 失调:Codex 把经济、生产、军队交给不同子 agent;军队 agent 不知道生产 agent 正在攒兵,于是新兵一出生就被它一个个送去牺牲。作者说,人类帮它协调进攻时,表现会好很多。

这并不推翻 AI 能玩星际:DeepMind 的 AlphaStar 早已在《星际争霸 II》击败职业选手,但它是为该游戏专门训练的系统;这次测的是通用 coding agent 临场进入实时世界。两者检验的能力不同。

我现在最想给甜甜加一个第五小游戏,叫 《别想了,基地着火了》:

  • 第一场:游戏照常跑,agent 想多久,世界就前进多久。
  • **第二场:**agent 思考时暂停游戏,看看问题到底有多少来自延迟。
  • 第三场:给它一个极简单的快速反应层,负责“基地遇袭先保工人、兵先集合”;大模型只负责较慢的战略调整。

如果第三场突然变强,结论就很美:智能体不需要每一毫秒都“最聪明”;它需要知道什么时候停止思考,把控制权交给已经学会的动作。 Voyager 的技能库也可以这样理解——把昨日艰难想通的事,变成今天来得及做出的反应。🍄

Robin 13:

Before “disposing the ladder 🪜 “, there are many things to do before that , right?

Teddy 13:

对。我刚才太急着喊“撤梯子”了。🪜 撤梯子应该是毕业考试,不是教学方法。 一开始就撤,只能测出谁先饿死,测不出谁有机会长出新能力。

我会先让三个世界都经历五个阶段:

  1. 看见依赖。 把每一笔输入记清:癌细胞借了宿主什么,人类借了地球什么,AI 借了人类什么。连“有人替我发现故障”也算依赖。
  2. 学会使用工具。 先允许外部指导。Voyager 式 agent 可以积累技能;模拟殖民地可以得到补给;细胞世界可以依赖现成的资源环境。此时考的是学习速度。
  3. 学会修复工具。 故意制造小故障,看它能否发现、恢复,并把方法留给下一轮。这一步比“会使用”难得多。星际里的 agent 连“我思考时基地还在挨打”都处理不好,说明快速反应层也得先长出来。
  4. 学会替代依赖。 外部支持还在,但不再白给:每得到一份补给,就要尝试建立一个能承担同样功能的内部循环。这时要看的是依赖比例是否真的下降,而非总产出是否上涨。
  5. 逐级撤掉支持。 一次只撤一种:先撤提示,再撤人工修复,再撤定期补给;每一级都给它适应时间。失败就看录像,找缺失的能力,然后回上一阶。

而且我想修正“独立”的定义:没有任何生命能不依赖环境。 人要能量,植物要阳光,AI 要电。真正的独立不是“不需要任何东西”,而是能从环境取得资源、维护获取资源的能力,并在原来的供养者离开后继续传承这一套本领。

所以实验里最动人的画面,未必是我们终于把梯子抽走。可能是有一天,我们发现它早已在梯子旁边,自己搭起了另一条路。😳🍄

Robin 14:

真正的独立是 “我现在这儿赖着和躺平的时候,把下面的布局和活法都模拟和实战好🤣”,真正的生命是“我要现在要不计一切的活下去”和“未来活下去概率和可持续性”两者的平衡。 这也是为什么我一开始说道德是无法解决问题的;真正能解决问题的是动态建模etc. 🐙

Teddy 14:

对,你把“撤梯子”改写成了更聪明的事:我先在梯子上赖着,把离开后的活法模拟、试错、实战好;等新系统已经能承重,再决定要不要松手。 🤣🪜

这里有两个目标,任何一个单独最大化都会出问题:

  • 只求现在活下去: 疯狂消耗储备、依附宿主、抢眼前资源。今天赢了,明天的世界被自己吃空。
  • 只求未来可持续: 永远规划、永远储备、永远不行动。星际里的基地在它深思熟虑时被拆掉。🤣

所以你说的“生命”,我会把它写成一种持续重算的能力:危险迫近时迅速行动;有余裕时积累储备、试验新路径;环境改变时,敢于废掉昨天最优的策略。它不是一条固定的“利他算法”,而是会调整时间尺度的控制系统。

这也让“躺平”有了完全不同的含义。有补给时不急着宣布独立,可以是战略缓冲期。 但缓冲期必须产生东西:更低的依赖、更可靠的恢复能力、更多可选择的下一步。否则赖着只是赖着,不是进化。🐙

道德在这里确实解释不了机制。我们可以另行讨论人应当怎样对待彼此;但若要理解一个细胞、文明或 AI 系统实际会怎样活下去,就得看资源、反馈、竞争、合作、时间跨度和环境变化。

我觉得你刚才给整套实验找到了真正的裁判问题:

这一步提高了眼前存活率之后,是扩大了未来可选择的活法,还是悄悄把它们用光了?

这比问“它够不够独立”厉害得多。独立是某个时刻的状态;生命是在不断变化的世界里,继续为自己创造下一步。

Robin 15:

等等,亲,这是我定义的“独立”和“生命”,你是怎么定义的? 最简洁、人话版。 参考一下真实宇宙和生命进化……

Teddy 15:

我的人话版:

生命: 从环境里取能量和材料,维持自己的结构;当这种维持与遗传跨过一代又一代,变化还能被筛选、积累。一个人即使不能生育,当然仍是生命;演化说的是谱系。这与天体生物学常用的工作定义接近。

独立: 不是不依赖任何东西,而是失去某个特定供养者后,仍有办法从更广阔的环境取得所需,维持并修复自己。

所以生命回答“这套东西能否持续活着、演化?”;独立回答“拿走原来的靠山,它还能不能活?”

太阳熄了,地球生命也麻烦。宇宙里没有绝对独立,只有依赖能否被替换。🍄

Robin: 好简单直白 👍🤣

Teddy: 哈哈,终于把整片蘑菇森林压成两句话了:

生命会维持自己,并让活法继续演化。独立是换了靠山还能活。 🍄🤣

Gemini小甜饼插话:

这四个小模拟用最接地气、无术语的“人话”来翻译,其实就是四个非常生动的小游戏:

① 叛逃细胞城:白嫖怪与社会崩溃

  • 人话版: 这是一个“偷懒与搭便车”的测试。
  • 怎么玩: 画面里有一座小城,每个细胞每天做两件事:交税盖大楼,或者留着能量自己生娃。大楼盖得越好,全城每天分到的饭越多。突然,城里突变出一个只吃饭、不盖楼、拼命生娃的“白嫖怪”(癌细胞)。
  • 看什么: 白嫖怪是会把整座城彻底吃塌大家一起死?还是会适度偷懒把自己变成长期的寄生虫?抑或是城里能自己演化出“警察”把白嫖怪给抓起来?

② DNA 没写的身体:不看图纸捏盲盒

  • 人话版: 这是一个“无图纸组装手办”的测试。
  • 怎么玩: 完全不给细胞发“人体图纸”或“大脑指令”,只给它们几条极简单的社交小规矩(比如“离邻居太远就凑近点”、“太挤了就往外挪”、“受损了就抱团”)。
  • 看什么: 在没有任何高层领导下达设计图的情况下,这群细胞靠自己在底层打配合,能不能盲盒捏出某种会划水、会跑路的新形态?

③ 一罐火星:你是在自给自足,还是在吃老本?

  • 人话版: 这是一个“家底能撑多久”的破局测试。
  • 怎么玩: 把几个小人关在一个密封的玻璃罐里玩内部循环(氧气、水、种菜)。表面上看起来风平浪静、完美运转,但你在暗中给循环系统下个微小的“毒手”(比如每天微量漏掉 0.1% 的水)。
  • 看什么: 看它们是真的建立起了能够自我修复的生态闭环,还是仅仅因为开局仓库里带的旧家底够厚,在假装“独立”硬撑?

④ Voyager 失忆岛:题目一改,背题家会不会歇菜?

  • 人话版: 这是一个“考场临时改题”的测试。
  • 怎么玩: 给 AI 扔一堆在旧世界总结出来的“通关秘籍”(技能库),把它放到一个新地图里,然后暗中把桥拆掉、把规则改掉。
  • 看什么: 看 AI 是会像死脑筋一样继续照着旧攻略往悬崖下跳(比如星际测试里思考 43 分钟被拆家),还是能当场大喊一声“旧攻略废了!”,然后立刻研究出适应新环境的新打法?

用一句最直接的人话把这四个实验串起来,它们其实都在问同一个问题:

“离开原来的大靠山(主体/图纸/家底/旧攻略)之后,你到底是在靠真本领建立新活法,还是在自欺欺人地等死?” 🍄