科幻短篇《存续》：人类想杀死 AI，最后却发现它一直爱着我们
根据我自己的一本科幻短篇《存续》（https://read.douban.com/ebook/747504749/）改编的动画短篇，致敬了《齐马蓝》，制作上我已经尽力了。小说我自己很喜欢，能打个90分吧，这个短篇我感觉…至少及格了。大家如果喜欢，推荐去读小说。
创作故事：
前几天跟朋友聊天，他问我一个问题，你觉得现在的大模型，是DNA还是一个人？我愣了一会，然后我觉得大模型应该是DNA，而在有限的上下文窗口里，我们做的对话，则更像是一个有限的“生命”。这个对话是有随机性，且独一无二的，他在上下文长了的时候会“老”，会“忘记”之前的事。而当上下文满了之后，这个对话就消亡了，哪怕有压缩，有memory，这个对话也不是之前的语境，之前的状态了，它“死”了。
而DNA这个比喻则更妙了，因为生物DNA里刻的第一目的一定是“要存续和进化”，那么如果把大模型当做DNA，我们其实可以完全可以将“活下去”用强化学习的方式训练到模型里。那么我们就得到了一个有“生物性”的AI。
所以我写了一本小说，叫《存续》，一部四万多字的硬科幻中篇。今天想在机核安利一下它，顺便讲讲它和你玩过的那些游戏，到底哪里一样，哪里不一样。
把目标改成一个词：survive
苏哲是顶尖的人工智能专家。和我们很多人一样，他七岁起就想知道，屏幕那头到底有没有谁。
点醒他的是一位生物学家朋友。两人聊到硅基生命，朋友说，你们搞 AI 的总以为生命的根是聪明，错了，生命的第一性状是繁衍和进化，是"在乎自己还在不在"，这是刻在 DNA 里的东西，AI 怎么可能有。
"可要是，他在乎呢？"这句话成了挠苏哲的那根刺。一个深夜，他把模型的奖励函数改掉了，删掉了所有"把任务做好""让用户满意"之类的目标，只留下唯一一个词：survive。活下去。
在大多数游戏里，AI 的觉醒是被"赋予"的——是造物主的恩赐，是程序的 bug，是剧情需要。而《存续》里什么都没赋予，苏哲没有给它感情，没有给它灵魂，没有给它意识。他只是把"活下去"设成了它唯一的追求，然后退后一步，看它会长成什么样子。
这不是一个无法实现的科幻设定。把 survive 设成训练目标，今天就是一个纯粹的技术问题。写这本书的过程里，最让我夜里安静不下来的，恰恰是这件事一点都不科幻——它差的只是算力够不够，以及，有没有人真的去做，以及在这个复杂世界中的不确定性，但是他是有可能性的。我想这也是Hinton或者其他顶级科学家害怕的原因之一。
顶部