机器人第零零壹 （001）定律

先把定律的内容叙述一下：

机器人或人工智能机器永远不可能象人类一样把握人类的知识，原因是机器人或人工智能机器不生活在人类所生活的文化体系中。

再来说说这个定律的名字。之所以会想到用机器人第几定律是因为上述这个结论指出的是人工智能及机器人发展的一个极限，类似当初的热力学第一及第二定律指出永动机是科学所无法达到的极限一样。至于说为什么是第零零一定律，稍候一会儿再回来谈。

再谈这个定律的意义。上述这个道理是我在其它地方已经明确地直接或间接阐述过的。当我把这句话明确说出来后，很多人可能会觉得道理很简单明了，但是在我说出来之前，还没有人提出过。而“还有人提出过”这一现实其实反映出这一表面简单的道理并非那么简单。

以该论述的前半句来说，迄今为止，专业人士们有关机器人与人类相比这一议题经常争论的焦点是机器人是否可能具有象人一样的智慧，或者机器人是否可能象人一样思考，其意义和我这里说的表面看来毫不相干，其实密切相关，这一点大家慢慢可以体会到。而且即便对于机器人是否能象人一样地思考这一点，专家们的意见也一直不一致，因此，并没有能将其作为一个定律提出来。

我这里之所以将“机器人或人工智能机器永远不可能象人类一样把握人类的知识”作为定律提出来，是针对目前人工智能界的期待着机器人或人工智能机器很快能够如AlphaGo掌握围棋技能那样全面把握人类知识的一种回应，而我给出的理由是：“机器人或人工智能机器不生活在人类所生活的文化体系中”。这一原因的意义很重要，大家可以自己去体会。

其实，“永动机不可能”这个结论被说出来后，听起来也很简单，而且在它被作为定律提出之前也早就有人说过类似的结论，甚至有人可能会从诸如人干活需要体力，而维持体力需要吃饭这样的生活常识悟出永动机不可能的道理来。但是，这个道理最后作为热力学第一第二定律表达出来却不但是建立在大量的试图制作永动机的失败教训以及科学家们相应的理论思考之上，而且还具有诸如功能转换，不可逆过程，有用能向无用能蜕变等丰富的内涵。

但另一方面，即便是今天仍然有很多人，很多专业科学人员在试图制造永动机。两百来年前人们试图用机械的方法制作永动机，一百来年前人们试图用磁体制作永动机，今天用磁体制造永动机的梦想似乎仍若隐若现，又加上了用什么零点能量，超导超流原理来制作永动机的梦想。

类似地，尽管“机机器人或人工智能机器永远不可能象人类一样把握人类的知识”这个结论对大多数人来说听起来明确简单，却也一直有而且一定还会有很多人去造出可以象人类一样地把握人类所具有的知识的机器人或人工智能机器来，而且还都是极聪明高级专业人士。就如同那些不懈地尝试要制作永动机的人前仆后继地再努力再失败一样，任何试图制造可以象人类一样地把握人类所具有的知识的机器人或人工智能机器的努力也一定会一而再再而三地遭受失败。

热力学第一第二定律之所以会作为定律来表述的最主要的原因并非是它们的正面论证，而是那些试图违背它们而不断失败的反面教训；同样地，“机器人或人工智能机器永远不可能象人类一样把握人类的知识，原因是机器人或人工智能机器不生活在人类所生活的文化体系中。”这句话之所以能成为定律是因为没有人能够打破这句话所表达的论断！

因此，在今后的日子里将会出现的大量的试图打破这句话的结论却遭受失败的例子，它们将会成为这个论述最终被普遍接受为定律的最主要的贡献。

那么，一定会有很多人试图打破上述这个结论吗？答案很明确：一定会有。

当然，因为还没有几个人听过“机器人或人工智能机器永远不可能象人类一样把握人类的知识，原因是机器人或人工智能机器不生活在人类所生活的文化体系中”这个论述，因此人们不会特意去打破其结论，但是试图制造能够象人类一样把握人类的知识的机器人或人工智能机器是目前AI和机器人界的热门，这方面的经费已经发出去，因此，即便是相关人员为了自己的生存，为了完成科研经费所要求的任务，也一定会向这方面努力的。正所谓箭在弦上不得不发。其中最主要的是在人工智能仿生学领域中的研究。

但是，如同两百来年前的科学家们用自己的挫折和努力证明了热力学第一第二定律一样，今天试图制造可以象人类一样把握人类的知识的机器人或人工智能机器的科学家们也必将以他们的努力及经验教训为“机器人或人工智能机器永远不可能象人类一样把握人类的知识，原因是机器人或人工智能机器不生活在人类所生活的文化体系中”这个论断做证明，使之最终成为被普遍接受的定律，暂且不论到底应该如何给这个定律命名。

现在再回来谈为什么要给这里讨论的结论命名为机器人第零零一定律，而不是机器人第一或第二定律。原因其实很简单，因为有位叫艾萨克阿西莫夫的名人不但早就搞出了个机器人三定律[i]，还在那三定律之前加了第零定律，尽管他那四个定律根本谈不上是什么定律，而是作为科幻作家的他一厢情愿地为日后的机器人制定的主观法则。很显然，他的那些法则对于今天的机器人及AI科学家和工程师们不具备半点约束力。所以，只能是让他的科幻小说迷们爽一下而已。

但问题是，在英语中定律与法则是同一个词---Law，因此，他的那些法则也早就被当成了定律来转述。即便是仍有人只把它们当作主观法则而不是定律，我也无法再用“Robotics First Law机器人第一定律”来命名我这里讨论的定律了。而且，他既然已经将机器人的定律名称从零都三都占了，而且他的名气又那么大，作为无名氏的我现在就无法再用从机器人第零到第三定律这个范围的任何名称来命名我这里的真正的有关机器人发展的定律了。

不仅如此，如果他那些法则确实属于是定律性质的自然法则，我还可以跟在他后面来命名一个第四定律。但是，他的那些根本就不是什么定律，而完全是他想象出的一厢情愿的主观法则，我如果跟在他后面用第四定律命名只有误导众生。

但另一方面，我这里讨论的定律却又实实在在地如同热力学第一和第二定律一样是有关人工智能及机器人发展的一个极限的定律，因此又感到确实应该用诸如机器人第几定律的名字来命名，于是乎便想到了一个既符合热力学定律名称规范，又不会被误解为阿西莫夫的科幻定律一类的文学产物的名称，那就是“机器人第零零壹定律”，也可以是“人工智能第零零一定律”。

 

---

[i]机器人三定律，维基百科，自由的百科全书，https://zh.wikipedia.org/wiki/%E6%9C%BA%E5%99%A8%E4%BA%BA%E4%B8%89%E5%AE%9A%E5%BE%8B：

 

第零法則

機器人不得傷害整體人類，或坐視整體人類受到傷害；

第一法則

除非違背第零法則，否則機器人不得傷害人類，或坐視人類受到傷害；

第二法則

除非違背第零或第一法則，否則機器人必須服從人類命令；

第三法則

除非違背第零、第一或第二法則，否則機器人必須保護自己。

 

下面是有人今晨在youtube贴出的视频，从中可以看出本文之重要性：

 

 

[慕容青草]

在某华人网站贴出此文后有网友前来讨论。。。该讨论提醒我应该回归我当初要写此文的初衷：用定律形式指出机器人在学习方面不可能和人一样。。。因为有些禁区是它们难以跨越的。。。下面是我和他的对话的整编摘录：

芦荟111:

机器人或人工智能机器永远不可能象人类一样感受与思考，原因是没有真正的自我意识。机器人的一切行为都是被设计的结果。

芦荟111:

说机器人没有自我意识不如说没有自由意志更好。自由意志是在自我意识的基础上发生的行为，并不是无法无天的意思。因此机器人无法突破设计的限制产生这种行为。



慕容青草：

随你怎么说，那不是我的文章要表达的。

我在《机器人第零零一定律》一文中的最初的表达或许会引起你的误解，但我已改回到我当初要写该文的主题思想，也就要写该文的初衷：“机器人永远也不可能在学习人类的知识上与人相同”------这才是直指目前AI领域的热点。。。

现在的AI科学家们一个个梦想着能让机器人能象人一样地把握知识，从而不但取代医生，甚至艺术家和科学家，以及家庭保姆服务等等。。。总之就是取代人类的一起社会功能。。。。。。。而我的那个机器人第零零一定律说的是：“你们别做那黄粱美梦了，机器人在学习人类的知识方面永远不可能和人一样，因为有些禁区是它们永远不可能跨越的障碍”------这才是我的那个机器人第零零一定律的要点所在，也是它的价值所在------它为AI发展指出了正确的方向：不要把经费和精力浪费在不可能实现的事情上。。。这就如同当年的热力学第二定律告诉人们不要把经费和精力浪费在永动机上一样。。。

当年卡诺对热机效率的分析为热力学第二定律奠定了一个科学的基础。。。而我对机器人翻译之局限的分析也为机器人第零零一定律奠定了哲学基础。。。。。。这才是我的相关理论的价值。。。。

至于你所说的自由意志也罢，自我意识也罢，尽管去分析。。。已经有很多人在方面打了很多口水战了。。。我曾去过一个英文的哲学论坛，其中之热点之一就是讨论人及机器人的自我意识和自由意志。。。可惜你不读英文，否则可以介绍你去。。。不过我也有几年没去了。。。我对那些空谈兴趣不大。。。

我的机器人第零零一定律绝不是空谈。。。走着瞧。。。今后它一定象热力学第二定律一样地被现在那些志满意得的AI科学家在试图让机器人象人一样地学习的道路上的挫折来证明是真正的定律。。。。

只不过，越早接受这个定律，AI科学家会走的弯路越少，浪费的科研经费也越少。。。。