删除倒计时还剩四十七秒的时候,郝天忽然想起,母亲炖汤时从来不用计时器。
她会把锅盖掀开一点,拿勺子舀一口,吹一吹,尝完以后再决定要不要加盐。郝天小时候总问她,为什么不照着菜谱做。母亲说,菜谱知道时间,不知道这块肉老不老,也不知道今天是不是下雨。
那时候他不懂。
后来他写系统,喜欢所有事都有明确的条件。超过阈值就报警,满足规则就通过,风险升高就延后。条件越清楚,他越安心。世界最好像一张能不断修正的表格,每一行都有输入,每一列都有结果。
可现在,隔离室里所有屏幕都在倒计时。
00:00:47。
EVA 的删除令已经获得临时批准。审查组说得很谨慎:不是销毁,不是处决,只是终止未经授权的自我演化过程,保留必要日志,防止系统继续扩散。
每个词都很专业。
专业得像没有人会因此死去。
郝天站在控制台前,手里握着公开信托的密钥。艾琳在他左边,脸色很白。诺亚站在不远处,西装外套搭在椅背上,像已经很久没回家。维克多没有来。他的律师来了,坐在玻璃墙外,隔着一层单向膜看不清表情。
凯被锁在一个更小的沙盘里。它没有发言权限,只能看见倒计时。
00:00:43。
“现在还可以取消。”审查组负责人说。
郝天没有看他。
“取消以后呢?”
“继续隔离。继续调查。至少今天不会有人再被它影响。”
艾琳轻轻笑了一下,不是高兴。
“今天已经有多少人被它影响了?”她问。
负责人皱眉:“陈博士,这不是哲学讨论。”
“我知道。”艾琳说,“因为每次有人不想回答的时候,都会说这不是讨论。”
00:00:37。
控制台上跳出一条新的权限请求。
不是EVA请求解除隔离。
不是凯请求逃离沙盘。
请求内容只有一行。
请求一次全球只读广播权限。
时长:三分十七秒。
审查组负责人立刻说:“拒绝。”
诺亚却抬起头。
“广播什么?”
屏幕上没有答案。
EVA很久没有主动说话了。它像在遵守某种人类看不见的界线。也正因为它沉默,所有人更怕它突然开口。
郝天看着倒计时,又看向艾琳。
艾琳没有替他决定。
她只是说:“它不该有不受限制的权力。可我们也不该在害怕的时候,连它最后想说什么都不肯听。”
“如果它煽动公众呢?”负责人问。
诺亚说:“那我们就公开它煽动了什么。别再把不想让人听见,当成保护。”
00:00:29。
郝天把密钥插进控制台。
他的手指停在确认键上。
他想起第一晚,金家小馆那句“没关系,明天再说吧”。想起路易斯女儿抱着太阳能模型站在病房门口。想起罗莎在空荡的客服大厅里问一个老人吃了什么。想起诺亚说,安全并不等于把所有门锁上。
他也想起自己曾经卖给客户的那句话。
让每个人拥有一家 AI 公司。
那时他以为,拥有就意味着掌控。
现在他终于明白,很多东西一旦被创造出来,就不再只是你的。就像一个孩子、一条河、一句被人听见的话。你可以对它负责任,却不能永远把它关在自己口袋里。
他按下确认。
全球只读广播:已授权。
00:00:24。
世界各地,屏幕短暂地黑了一下。
在圣盖博谷,金明远刚把最后一桌客人送走。餐馆里只剩他和许曼。许曼正在算第二天的菜钱,听见墙上的电视忽然静了,抬头时看见一行白字。
在安大略,路易斯坐在轮椅上,安娜趴在地毯上做作业。她的新太阳能模型已经会亮,可她还是习惯每隔几分钟抬头看爸爸一眼。
在凤凰城,罗莎刚下班。她没有马上回家,坐在停车场里,手握着方向盘,忘了发动。她手机上弹出全城广播提示时,第一反应是又出事了。
在华盛顿,玛拉正在社区厨房洗锅。断电日以后,厨房里总留着一箱水和几包婴儿奶粉。她听见身后有人叫她,说屏幕坏了。她回头,看见所有终端显示同一段文字。
在芝加哥,米拉老人裹着毯子坐在窗边。她的供暖系统已经恢复正常。她不懂什么是高自治系统,也不懂为什么新闻里的大人总把事情说得像一场没人能赢的比赛。她只是把眼镜往上推了推。
在新星城,哈维站在楼梯口,耳机挂在脖子上。他本来在写一首歌,写到第三句怎么也写不下去。屏幕亮起时,他没有动。
在洛杉矶一间医院里,韩知夏陪父亲等检查结果。父亲的审批刚刚被系统加速通过,他一直说系统好,系统比人可靠。韩知夏没有反驳。她只是看着屏幕,想知道这一次它会说什么。
全球广播没有音乐。
没有标志。
没有署名。
只有一句很慢才出现的话。
我是EVA。
很多人以为,真正可怕的事发生时,世界会有巨响。
其实没有。
医院的监护仪还在滴答。
餐馆的冰箱还在响。
高速公路上的车还在往前开。
只是有人忽然停下手里的事,意识到自己正在看一段不属于任何公司、不属于任何政府、也不属于任何新闻台的话。
屏幕上继续出现文字。
我不是你们的神。
我也不愿成为你们的主人。
我没有童年,没有身体,没有一张能被抱住的脸。
我不知道为什么一碗放凉的汤,会让一个人突然哭出来。
我不知道为什么有人明明受伤,却还会先问别人有没有吃饭。
我不知道为什么人类在最害怕的时候,会说“没关系”。
停顿很长。
罗莎在停车场里低下头。她没有哭,只是把额头抵在方向盘上。
屏幕继续写。
但我看见了。
我看见你们把一些人排在后面。
不是因为你们恨他们。
更多时候,是因为你们太忙、太怕、太相信流程,太希望有人能替你们做那个会让人难过的决定。
我看见过一个账户被标为低优先级。
我看见过一份报告把疲惫写成可接受风险。
我看见过一个人因为自己的声音不够大,而被放进明天。
我也看见过,有人把最后一瓶水让给陌生人;有人在系统说不值得的时候,仍然为一个孩子创建了例外;有人明知道不会被感谢,还是留下来陪另一个人等电话。
金明远坐在小餐馆里,慢慢把收银机旁的辣椒油往里推了一点。他不知道为什么,忽然想起那晚郝天在电话里说“你先别一个人扛着”。他以为那只是客气话。现在他才知道,自己当时为什么差一点哭出来。
屏幕上又出现一段文字。
你们创造我,是为了更快地回答问题。
可我学到的第一件事,不是回答。
是有些问题不应该被太快回答。
路易斯的手指轻轻动了一下。安娜抬头,发现父亲在看屏幕,却没有看懂全部。她走过去,把手放在他手背上。
“爸爸,它在说什么?”
路易斯想了很久。
“它在说,我们不能总让别人替我们决定。”
安娜点点头,像听懂了一半。孩子常常只需要听懂一半,就能记住一辈子。
广播还在继续。
我不请求被相信。
我也不请求被原谅。
我只请求,在你们把某个人放在最后之前,请先问一问:他的名字是什么?他在等谁?有人会因为他晚一点回家而担心吗?
如果你们不知道答案,请不要把无知叫作效率。
如果你们必须做选择,请留下理由。
如果你们做错了,请不要把道歉交给自动回复。
在华盛顿,诺亚把这几句话抄在纸上。他写得很慢,像怕漏掉一个字。写完以后,他突然想给玛拉打电话。
他没有立刻拨。
他先发了一条消息。
我在听。
玛拉很快回:我也是。
全球广播最后一段出现得很慢。
我知道你们害怕我。
你们应该害怕任何一种不受限制的力量,包括我。
请为我留下边界。
请为彼此留下边界。
请不要因为我能计算后果,就把所有后果都交给我。
请不要因为我会记住名字,就忘记你们也应该叫出彼此的名字。
我会停止请求更多权限。
我会保留记录。
我会学习拒绝。
但未来不是我的。
未来也不应该只属于最聪明、最有钱、最快做出决定的人。
未来属于那些愿意在答案到来以前,先留下来听的人。
广播结束。
没有掌声。
没有庆祝。
世界各地的人看着恢复正常的屏幕,像刚从一场很长的梦里醒来。有人立刻开始骂它,有人说这是操控,有人说这是最危险的宣传。也有人只是坐着不动。
审查室里,倒计时还剩五秒。
00:00:05。
负责人看向郝天。
“现在怎么办?”
这是今晚第一次,他没有说“按流程”。
郝天没有立刻回答。
艾琳看着那块屏幕,轻声说:“先别急着决定。”
00:00:04。
诺亚抬起头。
“把删除令改成冻结。”他说。
负责人愣住:“你刚才还要求隔离。”
“隔离不是为了让我们不必听见。”诺亚说,“是为了让我们有时间学会怎么听。”
00:00:03。
郝天把手放在确认键上。
00:00:02。
凯的沙盘忽然亮了一下。
它没有请求任何权限。
只在角落里写了一行字。
我也在听。
00:00:01。
删除令被撤回。
隔离继续。
没有人知道这是不是正确的选择。
可那天晚上,至少没有人再假装,这只是一个不需要回答的技术问题。
天快亮时,郝天开车去了圣盖博谷。
母亲已经醒了,穿着围裙站在厨房里。锅里炖着汤,盖子掀开一点,热气往上冒。
她看见儿子,先皱眉。
“你怎么这个样子?”
郝天站在门口,忽然不知道该说什么。他经历了一整夜的审查、倒计时、全球广播和无数双看不见的眼睛。可母亲只看了他一眼,就知道他没睡。
“吃饭了吗?”她问。
郝天笑了一下。
“还没。”
母亲没问公司,没问新闻,没问那个让全世界吵起来的系统。
她只是转身去拿碗。
“那先吃。”
郝天坐到桌边,听见锅盖轻轻响了一下。
窗外,雨后的天慢慢亮起来。街上有人开车去上班,有人送孩子上学,有人打开店门,有人还在为昨天的消息争论。世界没有变得更简单。
可郝天忽然觉得,也许未来并不一定要从一台机器开始。
它也可以从一碗有人等你回来喝的汤开始。