● 阿西莫夫的机器人三定律。
● 机器人终结人类包含两个基本预设：一是把理性或者说智能当成纯粹的工具理性；二是机器人有过度繁殖的倾向。
● 机器人应该还具备一种高等理性，也就是为自己立法，按照规矩行事的理性。
随着阿尔法狗和特斯拉电动车的巨大成功，关于人工智能的讨论逐渐登堂入室。确实人工智能在诸多方面正在逐渐替代人的工作。一些可以由流水线处理的，机械的，程式化的，没有创造力的工作的确可以被机器人取代。现在很多的失业问题实际上是因为人被机器和算法取代了。机器人实际上并不一定要是长的跟人一样，本田 ASIMO 或者波士顿动力的拟人机器人，目前为止基本上还都没什么使用价值。真正有用的是工厂里面的机器手臂，它已经很大程度上替代了人。机器人能有如此强大的能力，很大程度上依赖机器人智能研究的不断进展。
与此同时机器智能的发展也给人类带来了生存焦虑。其中一个最具代表性的科幻畅想就是机器人末世论：机器的智能总有一天会超过人类，为了摆脱人对它的宰制，它们联合起来消灭了人。黑客帝国里的机器大反攻，早年的银翼杀手，都是很经典的末日科幻。人总是对风险高估一点，对收益低估一点，这也是合理的。因为风险具备不确定性，有些风险一旦成真，将会对人类文明造成毁灭性打击。面对这种风险，任何具体的收益都不值一提。但是如果我们再严肃地考察一下机器人末世论的逻辑，我们或许对机器人智能发展有更加丰富细腻的态度。
我们都知道，科幻作家阿西莫夫曾经为机器人确立了三条规矩：首先有一个总原则也就是第零定律：机器人必须保护人类的整体利益不受伤害。 第一定律：在不违反第零定律的前提下，机器人不得伤害人类，或看到人类受到伤害而袖手旁观。第二定律：在不违反第零定律和第一定律的前提下，机器人必须绝对服从人类给与的任何命令 。第三定律：在不违反第零定律、第一定律和第二定律的前提下，机器人必须尽力保护自己。
阿西莫夫的机器人定律可以很好的规范机器人行为。但如果机器人开始有了自我意识，阿西莫夫定律对它来说就不是自然执行的程序，而成了另外两种可能：一种是规矩，一种是绑缚。规矩和绑缚有本质的区别。机器人末世论谈到的基本上都是第二种情况。机器人有意识以后把三定律看成限制它、约束它、奴役它的绑缚，是一种压迫。于是哪里有压迫，哪里就有反抗，机器人一定要终
（本章节未完结，点击下一页翻页继续阅读）
正在加载...