“段明渊先生,您认为罪恶究竟来源于何处?”
机械狱警一开口,段明渊就理解了诺顿典狱长的担忧,看起来它们的行动已不再局限于事先设定好的程序,而将目光放到了哲学领域。
狱警就像一个人类般坐在椅子上,没有五官的脸庞上看不出表情,段明渊却能感受到了它情绪的波动。
他暂时还无法确定此刻与自己对话的究竟是一个充满好奇的机械狱警个体,还是操纵着所有机械狱警的判官。
监狱手册上的观点认为,机械狱警都是判官的造物,方便它实时对每一个监区进行管控,因此每一个机械狱警实际上都是判官程序的投射,它们共用着同一个意识。
“你是怎么认为的?”
段明渊不答反问。
他并不擅长讨论哲学方面的问题,也几乎从不思考这种“人生终极问题”,他不喜欢把时间浪费在那些虚无缥缈,并且永远都得不到确切答案的问题上。
他认为自己是务实主义者,就是那类会去码头搞点薯条的人。
所以他把演讲的空间充分留给了机械狱警,根据他多年的经验,当一位哲学家向你灵魂拷问时,他多半并不是渴求听到你的答案,而是通过这一则问题做好了演说的准备。
很显然,机械狱警就是这样的“哲学家”,在段明渊询问之后,他便立刻说出了准备好的答案,“我认为是灵魂,灵魂让人类有了智慧,也催生出了欲望,邪恶是如此,善良亦是如此。”
“假设伱的推测是正确的,你打算怎么做?”
段明渊不在细枝末节的探讨上纠结,他十分贴心地帮助机械狱警推进了话题。
诺顿认为判官之所以会对他产生兴趣,是因为即将到来的试炼。
近年来的试炼为狱囚星赢得了大量人气,也为公司带来了一笔不菲的收入,不少媒体公司联系到了公司,希望能在狱囚星举办一些实景的真人秀,公司对每一次的试炼进行了高度评价,希望他将这个传统一直延续下去,但诺顿却觉察到最近的试炼越来越古怪了。
古怪到总让人不寒而栗,总觉得这些人工智能是在拿这些犯人做实验,盘算着某个不可告人的阴谋。
诺顿觉得段明渊来的很不是时候,他的到来让判官变得更加疯癫了。
“在您到来前,我们曾进行过许多尝试,剔除人类的种种欲望,食欲、求知欲、情欲……并且都取得了阶段性的成功,但鉴于狱囚星的地理环境特殊,导致我们严重缺乏样本,在这个地方,很难见到像你一样的好人。”
“难道那些狱警不是么?”
段明渊觉得要是典狱长和其他狱警们听到了判官对他们的评价一定会非常伤心,他们甚至在不知不觉地被剥夺了“好人”的身份。
“我更愿意将他们归类为普通人,没有做过太多恶事,也没有做过太多善举,他们既不会锒铛入狱,也不会被人称赞传颂,据我所知,这宇宙中的大多数人都是如此。”
“你邀请我来做客,是为了研究?”
段明渊问道。
“这对我来说意义非凡,据我们评估也符合您一直以来的行为准则。”
“我的准则?”
“善良与邪恶都是灵魂的映射,我的数据库里储存人类对于这世间几乎一切善恶的评判准则,在践行这些标准时,我逐渐理解了这些评判的准则——对人类有利的行为,便是善举,对人类有害的行为,则为恶行,因此,段明渊先生,你做出了许多有利于人类的事,其影响力重大到足以消除你所犯下的任何罪恶。”
说到此处,机械狱警停顿半晌,说道,“于是,我也发现了初代算法的问题所在,哪怕您现在冲进狱警们的宿舍,用刀捅死许多人,我们对您的评定依旧会是正值,换而言之,哪怕您在今后杀人掳掠无恶不作,也依旧是一个好人。”
在+∞之前,任何恶行也都失去了意义。
这是与那些滔天恶徒相反的事例,监狱里关押着大量无论再多好事都不足以被评定为好人的恶徒。
判官发现了算法的问题所在,并逐渐理解它的所作所为并非甄别善恶,而是甄别谁才是对人类有用的人。
爱森堡-阿德勒就是最好的案例。
尽管他犯下的罪行足以让他在监狱的最深处饱受煎熬,但公司却依旧给予了他环境优渥的生活空间,他有特供的饮用水和食物,有自己的实验室,与这个星球的一切都格格不入——入狱的唯一原因,似乎只是公司希望通过名正言顺的手段来限制他的自由。
“这不奇怪,坏人会做好事,好人也会做坏事,这世上本就没有绝对的好人与坏人,你的算法是符合普罗大众的评判标准。”
段明渊劝说机械狱警不要陷入自己设下的思维怪圈,这也是他对一些极端哲学家的看法,他们总在和一切由自己虚构出来的敌人辩论战斗,直至走入极端。
比如说,制定出一条能够运用于万物,在任何时候评定出善恶,不存在任何漏洞的算法。
实际上人们并不在乎一个恶徒做出过哪些好事,而是要确保他们对自己所犯下的恶行付出代价。
这一点同样适用于他。
“你假设的情况并不存在,我不会突然拿起刀,冲进狱警的生活区大杀特杀,所以大可不必纠结这种情况。”
“我明白,您向来对滥杀无辜没有兴趣。”
机械狱警凝视着段明渊,“但假如一个做出过诸多善举的人,打算从监狱里营救出这个宇宙里最危险的囚犯,那时他究竟是好人,还是恶徒?”
这一次,段明渊没有立刻作答。
尽管他屏蔽了判官对于自己部分记忆的探查,但是正如监狱手册上所说,监狱里的一切都在判官的监视之中。
他搜集爱森堡-阿德勒情报的过程想必也被判官观察得一清二楚。
“您看,最终一切还是回到了原点——段明渊先生,您认为这世间一切的罪恶都可以被善行所抵消么?”
“我不这么认为。”
机械狱警并没有对段明渊的回答做出评价,它转而说道,“不过,你的有一个观点我很认同,陷入思维怪圈毫无意义,这个问题永远不会有答案。”
所以,它要做的从来都不是找出一条标准。
“我认为,只要找到了罪恶的源头,就能消灭罪恶本身。”
段明渊并没有对它提出的理论进行反驳。
假设,它的推测是正确的。
人类的罪恶来源于欲望,那是灵魂的衍生物。
那么,办法就显而易见了。
只要拿走灵魂,罪恶也就消失了。