“这点我知道,”李比不耐烦地说,“但这又和第一法则有什么关系?”
“驾驶那辆车的机器人并不知道这一点。我要它打开天窗,它立刻遵命了。根据第二法则,它必须服从命令。我当然觉得很不舒服,好在天窗及时关闭,否则我就要崩溃了。能不能说那机器人伤害了我?”
“它是奉命行事。”李比回嘴道。
“我来引述一下第二法则:除非违背第一法则,机器人必须服从人类的命令。所以你看,我的命令应该无效才对。”
“荒谬。机器人并不知道……”
坐在椅子上的贝莱倾身向前。“啊!这就对了。让我们把最正确的第一法则说一遍吧:机器人不得在知情的情况下伤害人类,或在知情的情况下因不作为而使人类受到伤害。”
“这个道理大家都懂。”
“我认为一般人并不懂。否则,人人都会了解机器人能进行谋杀。”
李比脸色苍白。“你有精神病!你是疯子!”
贝莱凝视着自己的指尖。“我想,凡是不会对人类造成伤害的任务,机器人都会执行?”
“必须有人下令。”李比说。
“是的,当然必须有人下令。而如果有另一个机器人,奉命执行另一件任务,只要这件任务不会对人类造成伤害,我想它也是会执行的?”
“没错。”
“有没有可能,这两件任务本身对人类都毫无危害,加在一起却构成了一桩谋杀案?”