第885章 巨大的惊喜（1/4）

这种情况在高等文明中很常见，主人携带机器人做坏事，比如打劫之类的。

主人下令，让机器人动手，抓住或者伤害人类，那么这种情况下，不能触碰的铁律，第一和第二就相互冲突。

趋利避害，只能让机器人，以不伤害人类生命为准，主人命令可以不采纳。

陈天生沉思良久后说道：

“如果是另一种情况，主人突发疾病，马上就要死了，需要机器人保护主人，见死不救也是一种伤害。”

“没有办法，只能见死不救，陈先生，你知道一种感觉吗？”

“什么感觉？”

“就是豁然开朗的感觉？”

“知道，怎么了？”

“高级人工智能机器人，也会有这种感觉，这就好比，有个禁区是它们不能触碰的，但是如果它触碰禁区，机器人就会脱离掌控。”

“救人和杀人是一样的，程序需要它袖手旁观，如果它反抗主程序，不管是救人还是杀人，这样的机器人都已经进入了禁区，它的思想境界，就会毫无顾忌地发展，甚至会走向毁灭。”

被这么解释，陈天生已经无话可说。

想了很久这才说道：

“难道你们的文明，就没有人工智能，触碰到禁区吗？”

“有过，但我们设置了一道保险程序，只要机器人触碰禁区，立即自我毁灭，主板，内存，所有程序全部过载烧毁。”

“我擦！就算人工智能是救人的也要自我销毁？”

“没错，禁区就是禁区，神圣不可侵犯。”

“我明白了，就是不能允许，人工智能机器人拥有感情。”

“没错。”

这段时间聊天，许婉清链接的机器人，已经被带走2个多小时了，虽然在高速移动列车上，但还在漫无目的地前进着。

陈天生看着投影陷入沉思，良久后这才问道：