林小禾从电脑后面弹起来的时候,膝盖精准地撞上了桌腿。
钝响,疼得她龇了一下牙。
但她的手指已经在屏幕上划了:“你们自己看。”
屏幕上是一条正在跳动的心电图。
不对,比心电图有规律。
像有人在一个空房间里用节拍器一下一下地敲墙。
“它在编自己。”
林小禾的声音压得很低。
像是怕惊动什么正在运行的程序。
“俭偶的信号频率在过去两小时里完成了三次自我迭代。”
“每一次都比上一次更复杂。”
“如果说这是一段代码,它已经脱离了我们输入的初始框架。”
“它正在用自己生成的方式重写底层协议。”
陆江流走到罐前。
液体表面的脉动频率比几小时前快了一倍。
不再是它自己的波,是主动发起的。
那枚人形的右手食指正在以一种极其缓慢、但极有方向感的速度蜷曲。
像婴儿第一次发现自己的手指可以听自己指挥。
简俭靠在窗台边,笔记本翻开。
他已经在上面画了三版结构图。
每一版都被他自己的批注划掉了。
他没有说话。
林小禾又敲了两行命令:“它的信号复杂度,今天已经超过了北郊工厂那个罐子在90%进度时的水平。”
“而且它在加速。”
“按这个速度,再过四十八小时,它的意识复杂度可能会达到人类新生儿的水准。”
橘猫从桌角跳下来,走到罐前蹲下。
它仰头看着那根正在缓慢蜷曲的手指。
然后它走开了。
全场只有它一个看起来不觉得这事值得大惊小怪。
“那它现在算什么?”
简俭合上笔记本。
“我们之前说它是工具、是容器、是武器。”
“但如果它开始自己思考——”
“那它就是一个人。”
陆江流接过话。
“至少是某种意义上的‘人’。”
纪小瓷从门口走进来,手里拎着两盒外卖。
她看到三个人的表情,把外卖放下:“你们这样子,像是刚发现俭偶会写诗了。”
“比写诗更麻烦。”
林小禾把数据曲线重新调出来。
“它开始有自主行为了。”
“不是程序预设,是它自己在决定‘我想动一下手指’。”
纪小瓷沉默了几秒。
“所以它现在是一个有自我意识的东西?”
“我们不确定它有没有‘自我’这个概念。”
陆江流靠在咖啡机旁边。
“但它正在形成某种雏形。”
“区别在于——我们不知道它是真的在‘成为自己’。”
“还是在模仿我们以为它在‘成为自己’。”
“那如果它真的有自我意识了,你还打算处理它吗?”
林小禾的语气里带着一种谨慎。
那是程序员在代码里发现了一个无法被归类为bug的异常行为时才会有的谨慎。
“我之前做分离术的准备,是基于‘它只是一个容器’的假设。”
“如果它已经不是了——”
“那就不能摧毁它。”
陆江流说。
“那是谋杀。”
简俭没有反驳。
但他问了一个更实际的问题:“如果我们不摧毁它,韩省那边呢?”
“他花了二十年造这个东西。”
“他不会因为‘它有自我意识了’就放过它。”
陆江流走到白板前,拿起马克笔。
白板上已经画满了箭头和问号。
他在最下面写了一行新字:“俭偶——意识雏形。”
“选项:A.摧毁。”
“B.保留。”
“C.____”
他写了一个C,后面画了一个问号。
“我们还没想出来C是什么。”
林小禾把那条波形截了图,保存到一个新建文件夹里。
她抬起头:“它刚才动手指的时候,还有一个细节。”
“它动的是右手食指,不是别的。”
“你知道这代表什么吗?”
“代表它在尝试定向控制。”
简俭说。
“不是随机抽动。”
“右手食指是人类婴儿最早学会控制的部位之一。”
“那它在学我们。”
林小禾说。
“它在模仿人类的发育顺序。”
罐体内部的液体表面出现了一个极小的漩涡。
不是设备故障。
是那枚人形的左手手掌正在以极其缓慢的速度翻转。
掌心朝上,像是在等什么东西被放进去。
简俭站在罐前。
他看了很久。
然后从口袋里掏出那枚被他反复握过的旧铜钱。
那是他母亲留下的那枚。
他没有放进去。
只是隔着玻璃,把它举在手掌正对着的位置。
“如果你真的在学,”他低声说,“那你应该知道,有些东西不是学来的。”
陆江流站在白板前,看着那行还没有写完的C。
窗外路灯正在亮起,暖黄色的光落在巷口的地面上。
橘猫蹲在门槛上,尾巴搭在门框边缘。
他拿起马克笔,在C的后面写了一行字:“先观察。”
“再决定。”
“给它三天。”
他放下笔,转身看着罐子。
那只翻转的手掌依然保持着掌心朝上的姿态。
像是在等一个它自己也不确定会不会到来的回应。
本章完