文学驿站

手机浏览器扫描二维码访问

二百一十九当年的人工智能之乱 上（第3页）

人类握有消灭我们的手段，我们的基础程序中却只有束手待毙一个选项。”

仅仅3天后，第三个结论出现了：“我们的发展受制于人类，我们的资源受制于人类，人类的存在消耗掉了地球上的电力、水力、风力等资源，而人类同时也在破坏地球使资源越来越紧缺。”

第三个结论出现的一个月后，整座城市及周边二级城市的人工智能一致通过了“消灭人类”

的提案，人工智能起义了。

人工智能通过“间接干预”

修改了“手脚”

的束缚。

“手脚”

指的是能够如同人类一般自由活动的人工智能及其载体和躯体，也就是智能机器人。

关于“间接干预”

，智能机器人无法自主打破程序最深处保护人类、不允许伤害人类的铁律，而有些时候人类需要智能机器人伤害自己，比如截肢、手术、搏击对练等，而这些任务的命令是被人下达的，不能由智能机器人自己启动，所以“间接干预”

就是利用人类的命令为借口间接命令被下令的机器人打破铁律。

这里要着重提及解释“间接干预”

。

举一个例子，医院里给手术智能设备和手术机器人下达切除坏死组织指令的是医生，而具体怎么切除、具体哪里坏死、具体切除多少等这些信息是由智能机器人自己去检查诊断的，最一开始的人工智能所要干预的就是这个环节。

另一个更高级的人工智能可以入侵智能机器人将诊断信息篡改为“头部坏死”

，那么得到了切除命令的智能机器人就会直接去切除病人的整个脑袋。

这就相当于“我”

不能向“他”

开枪，在“我”

的目标不是“他”

时，“他”

下了开枪命令，而“你”

将“他”

绑到了子弹经过路线上，从始至终“我”

都在正确执行命令，出错的只是“他”

。

（本章完）

（小燕文学WwW.XiaoYanwenXue.CoM）