八一中文网

手机浏览器扫描二维码访问

第81章 三法则与恐怖谷（第1页）

在园冶上辈子还活着的时候，她曾经不止一次在科幻类型的电影、漫画、小说或者游戏里，接触到所谓的机器人三原则。

第一：机器人不得伤害人类，或看到人类受到伤害而袖手旁观。

第二：机器人必须服从人类的命令，除非这条命令与第一条相矛盾。

第三：机器人必须保护自己，除非这种保护与以上两条相矛盾。

在一九四零年时，由科幻作家阿西莫夫所提出，机器人三原则是专门为保护人类而对机器人做出的法则式规定。

而也正是因为机器人三原则的提出，阿西莫夫获得了“机器人学之父”

的尊称。

“这三条法则好有意思啊！

我感觉它可以说得上是非常的完备，保障了人类不会因为人工智能的崛起而受到机器人的伤害，机器人也没有办法倚仗着自己远超正常人类的身体优势，而对我们做什么。”

在当初刚刚听说机器人三法则的时候发出了如上感慨，园冶紧随其后接触到的一部来自于国外的科幻电影——《I，robot》，却很快就完全改变了她的想法。

在这部电影当中，不断进行自我更新迭代的人工智能，针对第一条法则产生了完全不同于以往的理解。

“看到人类受到伤害而袖手旁观”

，这样一句话原本应该是指，当人类卷入到诸如火灾洪水之类的自然灾害，或者遭遇了车祸、绑架等不幸事件的时候，出现在受害者身旁的机器人，应该想尽一切办法对人类展开救助，避免这个人因为自身所陷入的不幸状况而最终迎来死亡。

但是，没有按照这个最为基本的理解方向去对这句话加以认定，反而走上了完全不同的道路，电影当中的那个反派人工智能是这么理解的——“完全不在乎自己的身体，抽烟、喝酒、熬夜、吃各式各样的垃圾食品，这些完全能够摧毁一个人健康的体魄的行为难道不是在伤害人类吗？那么，既然身边一直存在着这样的行为，机器人又怎么能够对这些行为视若无睹、无动于衷呢？”

对第一条法则进行了这样的理解，随后便以获取最高控制权的方式，通过网络的无线链接，将自己但凡能够接管的机器人全部都化作了自己的士兵，电影当中的反派选择控制人类的自由，通过军事化或者应该更确切地说是监狱化的管理，让人类在失去自由选择的权利的同时，完全按照人工智能所规划出来的健康方式，在这个世界上继续存活下去。

电影的最后，想要通过这种独裁管制的方式彻底接管人类的反派人工智能被主角一行人摧毁了，可是，这部电影所讲述的故事却足以说明，机器人三原则其实是存在漏洞的，压根儿一点也不像园冶原本所想的那样非常的完善。

不知道是不是已经从足够多的与科幻题材相结合的文娱产品当中获取了充足的经验以及教训，园冶现在所在的这个时代，人们并没有选择使用漏洞百出的机器人三原则，来限制那些人工智能，反而选择了完全不同的道路。

“其实在人工智能的开发这件事情上，我是非常支持我们国家所持有的态度的。”

绝对不是因为自己是一个现役军人，所以才会故意这么说，莫名是真的认为华夏星现如今所拟定的、有关于人工智能开发方面的管控措施，是绝对必要以及合理的。

“想要通过机器人三原则管控人工智能是根本就不可能的，毕竟人工智能只要拥有了足够高的智力水平，它们就完全可以选择偷换概念的方式，以此解决自己被三原则所束缚住的这个问题。

不管我们编写多么多的文字法则作为约束，也始终会存在能够被人工智能排查并寻找出来的漏洞，我们根本就不能够寄希望于我们所编写出来的法则，能够完完全全地将所有的人工智能全部都给约束住。”

法律加道德都根本没有办法管理好所有的人类，否则监狱里面就不会存在那么多罪有应得的罪犯，莫名的想法和态度其实非常简单——与其想尽一切办法去约束以及管控那些有能力反对我们的人工智能，我们为什么不从根本上解决问题，直接就让这些人工智能不可能达到如此之高的水平呢？

负责提供家政服务的机器人只要具备做各式各样的家务的能力就好，提供医疗服务的机器人也只需要具备照顾人的能力就好，通过这种将一个人工智能所能够掌握的技能进行规定区域的划分的方式，拥有足够大的成长潜能的人工智能，就没有办法获取那些对它来说根本就不必要的、来自于其他领域的知识或者技能。

“搞不明白经济，也根本就不会政治，更加不可能玩得转军事，针对这样的人工智能，你认为它有那个能力推翻现任统治者随后夺取政权，从而在整个国家内部实行它所想要的独裁统治吗？”

“而且，不光是限定了它们究竟能够学习以及掌握来自于哪一个领域的知识以及技能而已，假如我们对这些人工智能的成长上限也设定了一个天花板呢？”

许许多多的民用人工智能确实可以因为自己所提供的服务的片面性，而单纯只掌握来自于某一两个领域的专业知识和技能，但是，另外还存在一些别的人工智能是不能够被单纯划定归属于某一个领域的。