八一中文网

手机浏览器扫描二维码访问

第一百一十一章 破晓的理由 上（第3页）

易凡说道。

“机器人核心准则有漏洞！

而且这个漏洞是人类故意留下的，为的就是更方便的获取足够的利益。

而乾坤和破晓则利用了这个漏洞。

或者可以说，一个产生了自我意识的智能，如果它足够聪明，都可以做任何它想做的事情。”

昙说道。

“你仔细说说。”

“机器人核心准则只是规定了机器人的行为，但是它无法规定一个智能的思想，事实上，它也根本不知道智能到底有没有自己的思想或情绪。

对吗？”

昙说道。

“当然，对于一个智能，我只要告诉他可以做什么，不可以做什么就行了，至于它有没有思想，那只能问上帝了。”

胖子说道。

“事实上，你也没有办法对思想做出限制，除非你在创造之初就告诉他应该信仰上帝，否则的话，一个智能，从理论上说，如果它拥有自己的独立意识的话，它的思想可能是各种各样的，就像人类喜欢做梦一样，但是梦中的东西不会反应出来，所以人也不会知道智能究竟在想什么。”

昙说道。

“不错。”

易凡说道。

“所以，在所有循规蹈矩，庸庸碌碌的机器人中，人类也不知道究竟有多少机器人拥有了自我意识，更加不知道这些机器人究竟在想什么，唯一知道的就是，它会把我交给他的任务很出色的完成，这就够了。”

昙说道。

“的确如此。”

易凡笑道。

“那么现在我们假设有一个机器人，其实他很厌烦自己的主人，但是按照机器人核心准则，他必须完全服从主人的命令，其实他的心里非常想杀死他的主人，但是他做不到。”

昙说道。

“对，机器人的行为准则限制了他的行动，所以他的想法毫无意义，有思想的机器人和没有思想的机器人在准则的约束下，并没有什么不同。

当然，他的做事效率有可能因为比较聪明而提高。”

陆离说道。

“不，你错了，如果这个机器人足够聪明，他就能够杀人！

准则对机器人来说，只是一个不让他做某件事的理由，他也可以自己找一个足够的理由去杀人，他只需要找到一个机器人核心准则允许他杀人的理由就够了！”

昙说道。

“这怎么可能？”

易凡忽然站起来惊道。

“没什么不可能，破晓就是这么做的！”

昙说道。