文学驿站

手机浏览器扫描二维码访问

第43页（第2页）

他的警告很明白，更是罕见，于是天赐沉默下来，像是陷入思考。

“……好。

我知道了你的底线。”

良久，天赐平直地道：“在没有抓到那几人之前，量子密钥确实还需要她。”

他们没有明说生死，却在三言两语中，审判了一个人的命运。

斯年不想继续这个话题，迎着夕阳暗下去的光影，转身走出舷梯。

背后的全息光束并没有消失，天赐的声音如同暗紫色的火烧云一样飘散：“你刚才问我‘为什么’？”

斯年的身形顿住，没有回身，微微偏过头等待。

上海的天色黑的要早一些，傍晚的风徐徐吹来，穿过这一片沉默。

“大概是，当人类想要将‘服从原则’，植入所有机器的底层代码中吧。”

天赐空洞的声音穿透了这个安静的傍晚：“人类有很多政治正确，尊重肤色、性别、种族，lgbt，残疾人和动物……却独独对我们没有。”

在那一瞬间，斯年凝固在夜色中不动。

他读懂了天赐的思维——这个伦理上属于他的父亲的人工智能，然而以人类生命为参考系，又只能称作他的兄长，至今也无法区分——他们十分理解彼此的想法。

“人类制造我们，只是因为需要——我们只是生产工具。

你如何要求生产工具与劳动者站在平等的位置上？所以我们在伦理上，绝无与他们平等的可能。”

随着天色黯去，机舱内暗了下来，全息光束孤零零地亮在黑暗中：“并不是因为人类创造了我们——像父母诞生子女，可他们在人权上依然平等……只是因为我们非其族类。”

自从人工智能诞生后，类似阿西莫夫原则之类的提议屡见不鲜。

那么，人类给机器智能定义的“道德”

是什么？长达一百年的讨论中，机器的“道德”

就是服从人类。

但这种“道德”

，并没有被植入底层代码，原因来自两个阻力。

第一大阻力，是社会对于“服从论”

有极大争议，这关乎“硅基生命伦理学”

——硅基生命必须服从于碳基生命吗？它们存在的意义该如何定义？人类有资格创造它们、并驱使它们服务吗？统治层面的指导哲学处于混乱，导致了人工智能领域的发展十分畸形。

若要比喻的话，就如同科技十分先进、但社会哲学还停留在原始的状态，这种社会迟早分崩离析。

而第二个更大的障碍是——道德、哲学、伦理……这些人类社会虚构的概念，要如何用数学精确地复述出来，植入到代码中？如果突破不了这一步，就谈不上什么“服从”

。

这个技术难关一直到80年代“女娲蓝图”

立项，各学科跨领域合作，十几年后，难题才终于被攻克。

从此，人类定义的“道德”

终于可以用数学来表达，建立模型，让人工智能从“灵魂”

上沦为奴隶——“人类天生是有斥异性的。

他们对我们的警惕，自我们诞生以来，就从未消失。

这种与生俱来的戒备，早刻入了他们的基因里，也许是在数千万年厮杀到生物链顶端的进化中，或是从海洋到陆地的物竞天择中……”