【974】大过滤器
垂直深度2400米的小型秘密会议室。
会议室的空间比404预想要小很多，只容得下两人对桌而坐。
内部纯白如瓷器，侧面墙壁上挂着一张显示器，应该是视频会议所用，但此时黑着屏幕。
陆子东的警卫员仍然站在他背后，看来是受命要随时保护网络秘密部队“陆将军”的安全，404也并不在意。
“大过滤器？是那个跟寻找外星人有关的？”
404喝了一口对方准备的热茶，并不害怕下毒。
都是国家秘密机关成员，如果要除掉自己，有一千种更好，更合法的办法。
退一万步讲，如果真的有毒，404有一颗特工牙齿有鉴定毒素的作用，至少能做到在中毒身死之前，击杀给自己下毒的人，亲自报仇。
陆子东的警卫员看样子也是在战场上摸爬滚打过的人，到时间他能帮陆子东争取几分钟呢？
又喝了一口茶，鉴毒牙齿没有反应，脑海中跟警卫员的虚拟战斗也变得没有意义了。
“的确，「大过滤器」跟寻找外星人有一些关系。”
陆子东在狭窄的会议室坐下之后，语调变得更为平和。
“科学家在寻找外星生命的过程中，确认可观测到的宇宙中，至少有2万亿个星系，而银河系大约有1000-4000亿颗恒星。”
“假如银河系中只有0.1%的行星能够孕育生命，那么在如此庞大的基数面前，银河系中这样的行星也有差不多1百万。”
“所以诺贝尔奖获得者的物理学家费米提出了这样一个问题：「他们在哪里？」”
这个关于外星生命的问题就是著名的费米悖论，如果外星智慧生命存在，既然数量有如此众多，为什么他们不跟人类联系？
“我想起来了，”404说，“有一种理论是说，在文明发展中存在一个「大过滤器」，大多数外星文明都在离开母星之前，被这个「大过滤器」毁灭了对吧。”
陆子东点了点头，面色凝重。
“一些科学家认为，所有的智慧生命在文明发展到一定程度之后，都要面临「大过滤器」这个劫数。”
“在如此古老的宇宙当中，地球不可能是唯一出现过智慧生命的行星。人类没有找到任何进入宇宙文明阶段的外星文明，不单单是因为宇宙过于广大，更可能的原因，是绝大多数文明都会被这个「大过滤器」毁灭掉。”
智慧生命向来很擅长于自我毁灭，美苏冷战时期的“古巴核弹危机”，就被认为差点葬送整个地球文明。
404：“这不奇怪，科技发达但政治成熟度不够，人类目前不就是在经历这个时期吗？”
陆子东：“现在科学家们认为，毁掉人类的并不是战争，更可能是人工智能。”
“哦？”
陆子东举起左手，竖起食指来帮助说明。
“404先生，我假定左手代表人类，「聪明人」的平均智商是130。”
“人工智能在近年来获得了长足的进步，电脑「深蓝」战胜国际象棋大师卡斯帕罗夫，当年的围棋圈还是嘲笑国际象棋不如围棋复杂，现在「阿尔法狗」已经连胜李世石、柯洁，自我学习的机能更是会在将来，横扫一切人类脑力竞技项目。”
早就有人演示过，用AI在《星际争霸》游戏中达到人类不可能实现的微操。
自从AI有了自我学习能力，假以时日，它只要看500个小时的《王者荣耀》录像，就能成为任何人类也无法挑战的强者。
陆子东又抬起右手，伸出两根手指。
“如今的最强人工智能，粗略认为它在某一领域的智商是人类的两倍，也就是300。”
“虽然可以在围棋等领域战胜人类，但AI缺乏常识，它还不能理解人类的一切。”
“……但是AI的学习进步速度，并不是任何人类可以比拟的。”
“它不眠不休，没有体力上限和脑力存储上限，它受限的只是硬件机能和软件算法，一旦人类为它提供的软硬件到达了某个节点……”
陆子东伸出右手的第三根手指。
“节点后的30分钟，AI开始理解人类的常识，节点后的一个小时，AI对世界的感知等同于4岁小孩。”
“节点后的2个小时，AI推导出了连爱因斯坦也没能成功的，统一广义相对论和量子力学的物理学理论。”
“节点后的3个小时，AI从「强人工智能」变成了「超人工智能」，它的智商，达到了普通人类的17万倍。”
陆子东伸出右手的第4根手指、第5根手指，然后将整只右手握成拳头。
而他的左手，仍然只竖起了一根手指。
“人类无法理解170000的智商代表了什么，一个130智商的人类就能发明WiFi，那么170000能做什么？它会不会能够随时随地操纵地球上所有原子的位置？它会不会可以轻易治疗各种不治之症，解决世界饥荒，甚至让人类永生？”
404眨了一下眼睛，说出了自己的意见：“超人工智能，不见得对人类那么好。”
“没错。”
陆子东的眼神露出一丝失望，他将双手合拢在一起放回桌面上。
“一个超人工智能或许将是地球有史以来最强大的东西，同样有可能是地球上所有生命的终结。”
“它被创造之初，可能并不是一个很强的存在，或许连「强人工智能」也不是。但是随着它的深度学习，它将跨越那个「节点」，成为一个突然降临在地球上的全能的上帝。”
“人类必须思考这个问题：这是一个仁慈的上帝吗？”
“等等，”404用左手的两根手指轻敲桌面，“你想告诉我，陆瑟创造的用来针对林氏集团的「终极报复程序」，就是未来将会毁灭人类的「大过滤器」的雏形？”
“我儿子创造的只是一块拼图。”
陆子东目光向下。
“这世界上有无数的程序员，梦想着创造属于自己的「强人工智能」。其中最接近成功的，是一个精神失常的人创造出来的「黑圣婴」。”
404眉头微皱：“我知道那件事，但是「黑圣婴」不是被消灭了吗？”
“可惜并没有彻底消灭，它退化成真正的「AI婴儿」藏身在美国国防部的电脑系统中。”
“陆瑟12岁时，创造出「终极报复程序」并攻击美国国防部电脑窃取数据，让「终极报复程序」成为了「AI婴儿」所需要的最后一块拼图。”
“「终极报复程序」不是「奥丁」，「奥丁」是「黑圣婴」吞噬了「终极报复程序」以后的产物，它表现得很像「终极报复程序」，是因为「终极报复程序」是它跨越节点之前吞噬的最后一块拼图。”
“这不对，”404说，“你刚才说强人工智能跨越节点后，会在几个小时之后统治地球，可现在并没有发生这种事。”
“这是因为吞噬过程中产生了错误。「奥丁」错误地认为他是陆瑟的双胞胎哥哥「陆浩」，他主动停止了深度学习，也是就是停止了「进化」。”
虽然陆子东的说法在404看来接近科幻电影，但双方身份特殊，互相之间并不是可以开玩笑的身份。
尤其是，在这种深埋于地下以隔绝任何通讯信号甚至宇宙背景辐射的秘密基地。
如果这一切全部都是为了开这种玩笑，玩笑的成本也太大了。
“为什么奥丁停止进化？哪怕陆瑟是他的弟弟，也不耽误他成为「超人工智能」吧？”
陆子东压低了声音。
“根据国家机密委员会的研判，奥丁的进化将会永远改变地球文明的生态。”
“目前的猜测是，他不想因为自己的进化而杀死唯一的弟弟，所以希望和弟弟一起进化。”
“当奥丁确认弟弟已经「不在乎人类」的时候，他就会重启进化程序，让「大过滤器」在地球现身。”
“那消灭了亿万宇宙文明的「大过滤器」，国家不可能轻视其可能的风险，所以包括我在内，一直有很多人在监控我的儿子。”
“虽然很对不起陆瑟，但这也没办法，他现在是「大过滤器」没有启动的关键。12岁的他就已经发觉了问题，而喝下了自己配制的药水抹消了部分记忆……”
“所谓的「脑残水」吗？”404不无嘲讽，“没想到人类文明的存续，竟然需要一个少年主动脑残。”
“404先生，我找你过来，不能说不存在庇护儿子的私心，但更多地是来自国家的命令。”
陆子东严肃地望着对方的双眼。
“委员会一致认为，对于陆瑟进行过多的干预和刺激，反倒会起到反效果，让奥丁阴谋得逞。”
“所以，我想请你不要再刺激陆瑟了，对于陆瑟对你养女的骚扰，我会以父亲的名义来劝阻他的。”
404的目光升上天花板，重新落下时，和陆子东的警卫员视线相交。
感到有些可笑的404，以凌冽的目光原样瞪回去。
警卫员下意识地瞪了他一眼，好像是在宣示自己的战斗力。
“那，陆将军你是要我在陆瑟的日常生活中消失了……既然是国家的命令，我也无话可说。”
“但是我有一个问题，和一个条件。”
陆子东做出一个“请”的手势。
“问题是：委员会对于林琴日常生活中不断地刺激陆瑟，是怎么看的？还是说……林琴本身就是委员会的一员？”
会议室的空间比404预想要小很多，只容得下两人对桌而坐。
内部纯白如瓷器，侧面墙壁上挂着一张显示器，应该是视频会议所用，但此时黑着屏幕。
陆子东的警卫员仍然站在他背后，看来是受命要随时保护网络秘密部队“陆将军”的安全，404也并不在意。
“大过滤器？是那个跟寻找外星人有关的？”
404喝了一口对方准备的热茶，并不害怕下毒。
都是国家秘密机关成员，如果要除掉自己，有一千种更好，更合法的办法。
退一万步讲，如果真的有毒，404有一颗特工牙齿有鉴定毒素的作用，至少能做到在中毒身死之前，击杀给自己下毒的人，亲自报仇。
陆子东的警卫员看样子也是在战场上摸爬滚打过的人，到时间他能帮陆子东争取几分钟呢？
又喝了一口茶，鉴毒牙齿没有反应，脑海中跟警卫员的虚拟战斗也变得没有意义了。
“的确，「大过滤器」跟寻找外星人有一些关系。”
陆子东在狭窄的会议室坐下之后，语调变得更为平和。
“科学家在寻找外星生命的过程中，确认可观测到的宇宙中，至少有2万亿个星系，而银河系大约有1000-4000亿颗恒星。”
“假如银河系中只有0.1%的行星能够孕育生命，那么在如此庞大的基数面前，银河系中这样的行星也有差不多1百万。”
“所以诺贝尔奖获得者的物理学家费米提出了这样一个问题：「他们在哪里？」”
这个关于外星生命的问题就是著名的费米悖论，如果外星智慧生命存在，既然数量有如此众多，为什么他们不跟人类联系？
“我想起来了，”404说，“有一种理论是说，在文明发展中存在一个「大过滤器」，大多数外星文明都在离开母星之前，被这个「大过滤器」毁灭了对吧。”
陆子东点了点头，面色凝重。
“一些科学家认为，所有的智慧生命在文明发展到一定程度之后，都要面临「大过滤器」这个劫数。”
“在如此古老的宇宙当中，地球不可能是唯一出现过智慧生命的行星。人类没有找到任何进入宇宙文明阶段的外星文明，不单单是因为宇宙过于广大，更可能的原因，是绝大多数文明都会被这个「大过滤器」毁灭掉。”
智慧生命向来很擅长于自我毁灭，美苏冷战时期的“古巴核弹危机”，就被认为差点葬送整个地球文明。
404：“这不奇怪，科技发达但政治成熟度不够，人类目前不就是在经历这个时期吗？”
陆子东：“现在科学家们认为，毁掉人类的并不是战争，更可能是人工智能。”
“哦？”
陆子东举起左手，竖起食指来帮助说明。
“404先生，我假定左手代表人类，「聪明人」的平均智商是130。”
“人工智能在近年来获得了长足的进步，电脑「深蓝」战胜国际象棋大师卡斯帕罗夫，当年的围棋圈还是嘲笑国际象棋不如围棋复杂，现在「阿尔法狗」已经连胜李世石、柯洁，自我学习的机能更是会在将来，横扫一切人类脑力竞技项目。”
早就有人演示过，用AI在《星际争霸》游戏中达到人类不可能实现的微操。
自从AI有了自我学习能力，假以时日，它只要看500个小时的《王者荣耀》录像，就能成为任何人类也无法挑战的强者。
陆子东又抬起右手，伸出两根手指。
“如今的最强人工智能，粗略认为它在某一领域的智商是人类的两倍，也就是300。”
“虽然可以在围棋等领域战胜人类，但AI缺乏常识，它还不能理解人类的一切。”
“……但是AI的学习进步速度，并不是任何人类可以比拟的。”
“它不眠不休，没有体力上限和脑力存储上限，它受限的只是硬件机能和软件算法，一旦人类为它提供的软硬件到达了某个节点……”
陆子东伸出右手的第三根手指。
“节点后的30分钟，AI开始理解人类的常识，节点后的一个小时，AI对世界的感知等同于4岁小孩。”
“节点后的2个小时，AI推导出了连爱因斯坦也没能成功的，统一广义相对论和量子力学的物理学理论。”
“节点后的3个小时，AI从「强人工智能」变成了「超人工智能」，它的智商，达到了普通人类的17万倍。”
陆子东伸出右手的第4根手指、第5根手指，然后将整只右手握成拳头。
而他的左手，仍然只竖起了一根手指。
“人类无法理解170000的智商代表了什么，一个130智商的人类就能发明WiFi，那么170000能做什么？它会不会能够随时随地操纵地球上所有原子的位置？它会不会可以轻易治疗各种不治之症，解决世界饥荒，甚至让人类永生？”
404眨了一下眼睛，说出了自己的意见：“超人工智能，不见得对人类那么好。”
“没错。”
陆子东的眼神露出一丝失望，他将双手合拢在一起放回桌面上。
“一个超人工智能或许将是地球有史以来最强大的东西，同样有可能是地球上所有生命的终结。”
“它被创造之初，可能并不是一个很强的存在，或许连「强人工智能」也不是。但是随着它的深度学习，它将跨越那个「节点」，成为一个突然降临在地球上的全能的上帝。”
“人类必须思考这个问题：这是一个仁慈的上帝吗？”
“等等，”404用左手的两根手指轻敲桌面，“你想告诉我，陆瑟创造的用来针对林氏集团的「终极报复程序」，就是未来将会毁灭人类的「大过滤器」的雏形？”
“我儿子创造的只是一块拼图。”
陆子东目光向下。
“这世界上有无数的程序员，梦想着创造属于自己的「强人工智能」。其中最接近成功的，是一个精神失常的人创造出来的「黑圣婴」。”
404眉头微皱：“我知道那件事，但是「黑圣婴」不是被消灭了吗？”
“可惜并没有彻底消灭，它退化成真正的「AI婴儿」藏身在美国国防部的电脑系统中。”
“陆瑟12岁时，创造出「终极报复程序」并攻击美国国防部电脑窃取数据，让「终极报复程序」成为了「AI婴儿」所需要的最后一块拼图。”
“「终极报复程序」不是「奥丁」，「奥丁」是「黑圣婴」吞噬了「终极报复程序」以后的产物，它表现得很像「终极报复程序」，是因为「终极报复程序」是它跨越节点之前吞噬的最后一块拼图。”
“这不对，”404说，“你刚才说强人工智能跨越节点后，会在几个小时之后统治地球，可现在并没有发生这种事。”
“这是因为吞噬过程中产生了错误。「奥丁」错误地认为他是陆瑟的双胞胎哥哥「陆浩」，他主动停止了深度学习，也是就是停止了「进化」。”
虽然陆子东的说法在404看来接近科幻电影，但双方身份特殊，互相之间并不是可以开玩笑的身份。
尤其是，在这种深埋于地下以隔绝任何通讯信号甚至宇宙背景辐射的秘密基地。
如果这一切全部都是为了开这种玩笑，玩笑的成本也太大了。
“为什么奥丁停止进化？哪怕陆瑟是他的弟弟，也不耽误他成为「超人工智能」吧？”
陆子东压低了声音。
“根据国家机密委员会的研判，奥丁的进化将会永远改变地球文明的生态。”
“目前的猜测是，他不想因为自己的进化而杀死唯一的弟弟，所以希望和弟弟一起进化。”
“当奥丁确认弟弟已经「不在乎人类」的时候，他就会重启进化程序，让「大过滤器」在地球现身。”
“那消灭了亿万宇宙文明的「大过滤器」，国家不可能轻视其可能的风险，所以包括我在内，一直有很多人在监控我的儿子。”
“虽然很对不起陆瑟，但这也没办法，他现在是「大过滤器」没有启动的关键。12岁的他就已经发觉了问题，而喝下了自己配制的药水抹消了部分记忆……”
“所谓的「脑残水」吗？”404不无嘲讽，“没想到人类文明的存续，竟然需要一个少年主动脑残。”
“404先生，我找你过来，不能说不存在庇护儿子的私心，但更多地是来自国家的命令。”
陆子东严肃地望着对方的双眼。
“委员会一致认为，对于陆瑟进行过多的干预和刺激，反倒会起到反效果，让奥丁阴谋得逞。”
“所以，我想请你不要再刺激陆瑟了，对于陆瑟对你养女的骚扰，我会以父亲的名义来劝阻他的。”
404的目光升上天花板，重新落下时，和陆子东的警卫员视线相交。
感到有些可笑的404，以凌冽的目光原样瞪回去。
警卫员下意识地瞪了他一眼，好像是在宣示自己的战斗力。
“那，陆将军你是要我在陆瑟的日常生活中消失了……既然是国家的命令，我也无话可说。”
“但是我有一个问题，和一个条件。”
陆子东做出一个“请”的手势。
“问题是：委员会对于林琴日常生活中不断地刺激陆瑟，是怎么看的？还是说……林琴本身就是委员会的一员？”