人形机器人之梦及背叛

戴榕菁

我在“家用人形机器人？”【[1]】一文中提到人们对于自主型的人形机器人应具有的拟人以及超人的潜力的期待与人类的正常身形所具有的体积之间形成了一对难以调和的矛盾。这导致人们心目中的科幻般的人形机器人在未来的发展将难以摆脱对在幕后进行远程遥控的强大的伺服器的依赖，从而使得人形机器人在很大程度上将只是背后的伺服器的终端而已。但另一方面，我也指出了当人形机器人作为在幕后进行远程遥控的伺服器之终端而存在或甚至它可以无线上网时，它们会对人形机器人的主人构成严重的潜在威胁。

在考虑应如何解决上述这对矛盾时我想起了一年多前在中文博客写的一篇关于机器人之梦的文章【[2]】，其中有关机器人之梦的讨论可以在相当的程度上帮助解决未来的人形机器人发展中出现的上述矛盾。

在进一步讨论机器人之梦之前，我们先来稍微深探一下对于人形机器人的主人来说，人形机器人作为其生产厂家或后端服务供应商的终端机器这种状况或退一步说作为完全的独立机器人但可以无线上网这种状况对于机器的主人来说有多大的潜在威胁。

一．机器人的背叛

过去一个世纪里，科幻片带给人们的近乎洗脑式的机器人背叛人类的戏码已是家喻户晓的老生常谈了。但是，如我在“家用人形机器人？”【1】一文中指出的，未来最有可能发生的机器的反叛不是对人类整体的反叛而是对具体机器人的主人的反叛，而最有可能的反叛原因也不是机器人自主自愿的反叛，而是由对机器人进行远程遥控的生产商或后端服务的供应商甚至是网络骇客操控造成的对机器人拥有者的反叛。

这里我们应特别注意人形机器人可以具有的这样一些特点：

1）它们可以得到主人的特别信任，因此可以随时接近主人；

2）其钢铁之躯可以轻易击倒任何试图与之进行近身搏斗的人士；

3）在背后伺服器的加持下，尤其是有着超级计算机的伺服器的加持下，一旦掌握了主人的日常生活习惯后可以比较容易的破解各种密码，包括当它的主人是国家元首时启动核武器的密码；

4）经过学习或事先的训练，它可以使用各种轻重形武器，甚至驾驶飞机坦克，或直接发射火箭导弹；

5）它可以瘫痪主人的电脑网络；

就先列举这些吧。

在这种情况下，当一个人花重金购买一个人形机器人时，无异于自己在自己身边安插一个随时可以干掉自己的杀手。即便机器人没有被用来行刺，它的那双比人类更厉害的高灵敏度多功能的眼睛和一双超强的耳朵也可以让其背后的伺服器对主人家的全部隐私和一举一动都一览无遗。最简单的一点，它可以在主人在键盘上按过密码之后，从主人在刚刚接触过的字母或数字键上留下的手印或温度痕迹看出主人输入的密码是什么。

假如一个军事基地或警察机关有一个或几个这样的机器人，一旦哪一天在机会欲望（参见【[3],[4]】）的驱使下操控这些机器人背后的伺服器的生产商或服务商或某些特殊背景的骇客决定要用用自己手里掌控的特权，那么这些机器人可以帮助他们轻易地摧毁整个基地或机关。假如这些机器人身处拥有远程核打击决定权的人物周围，它们甚至可以发动毁灭世界的战争。

二．对人形机器人独立性的要求

很显然，人形机器人所具有的上述潜在威胁将使得人类在面对人形机器人这个议题上面临两种选择：要么停止发展人形机器人，要么要求人形机器人必须完全独立而且不具备在没有使用外部工具的情况下直接进行无线上网。

我相信人类会本能性地选择上述两个选项的第二项。不过，即便各国政府明确立法规定人形机器人生产厂家不许在机器人内部安装无线上网部件，除非有比较具有公信力的第三方以比较令人信服且公开的方式对在市场上出售的人形机器人进行检验以确保其没有可用于无线上网或接收任何形式的无线信号的功能，生活在严重缺乏社会公信力的今天的人们是不会轻易相信厂家们会完全按照国家法律和他们的承诺去做的，毕竟这直接涉及到主人一家的隐私和安全或地区甚至世界安全的问题。

相应地，未来世界里将会出现具有执法功能的（即由警察部门或司法监察部门成立的）对于人形机器人进行验收以确保其不具备与外界进行无线联络的功能。如何做到这一点又将是一个重大的挑战。可以想象得出的最简单的方法或许是确保机器人的外壳具有信号屏蔽功能，或者机器人身上安装一旦检验到有任何形式的与外界联络的无线信号就开始发出警报并停止机器人的其它一切功能的装置。至于是否可以检验出其内部是否有隐藏的无线上网的部件恐怕是一个难度很大的任务。

三．人形机器人之梦

人们对于人形机器人的最基本的期待是它们不但要能够象人一样不断地在环境中进行自主的学习而且要能记住正常人不会被要求记住的大量信息。但是，人们对于人形机器人的这种期待就要求人形机器人不但具有强大的计算能力更需要有对于不间断地接触到的内容的强大的记忆力，而人形机器人的这种对于不间断地接触到的内容的强大记忆力所需要的就是具有超大存储能力的记忆体，这就意味着人形机器人需要有象知名AI公司的大型（云端）伺服器机房那样的庞大的体积---这一点恰恰是人形机器人不可能做到的，这也就是为什么我在“家用人形机器人？”【1】一文中指出未来的人形机器人的发展方向（如果不受法律限制的话）将很可能成为幕后的超强伺服器的终端设备而已。

经过了以上的讨论，我们现在已经知道，一个作为幕后伺服器的终端的人形机器人或甚至仅是一台可以直接进行无线上网的人形机器人对于拥有机器人的主人来说可以是一个潜在的杀手或刺探情资的间谍。因此，未来人们不得不降低对于人形机器人的科幻般的潜力的期待值。

但另一方面，在已经明确了人们不但不应允许人形机器人成为幕后伺服器的终端设备而且不应允许人形机器人能够不借助外部设备而直接进行无线上网的原则后，人类一定还会争取在不违背这些要求的前提下不断提高人形机器人的拟人的学习能力以及存储超出人类记忆极限的信息量的能力。为了达到这一目的，我在2023年贴出的“人工智能（机器人）之梦”【2】一文中讨论到的让机器人做梦则必将成为未来的人形机器人发展的一个不可回避的方向。

三．1. 人类做梦的记忆功能

梦在人类的记忆过程中的作用主要是帮助整理白天获得的所谓的短期记忆将其中被认为是有意义的非背景噪音的内容转为长期记忆。当然，什么样的背景噪音会被排除也有着很强的个体差异性。有些人可以把在别人看来是无意义的噪音的内容全都清楚地记下来。但是对于绝大多数人来说，短期记忆中的大量无意义的噪音一般情况下不会被转化为长期记忆。

三．2. 人形机器人之梦对于记忆功能的帮助

要想让人形机器人拥有人类长期以来对它们的记忆力的科幻般的期待的最主要的障碍是：人类对于人造记忆体单位体积能够储存的信息量的提高速度赶不上人们对于机器人所需记忆的内容的要求的提高速度，从而使得人形机器人的极有限的体积无法容纳所需的大量的人造记忆体。

在这种难以克服的硬件条件之缺陷的前提下，如何通过软件设计来提高人形机器人体内的记忆体的效率就成为一个关键的任务，而人类的睡眠和做梦对于有效记忆的帮助则可以是提高人形机器人记忆力的极好的仿生模型。

三．3. 具体实施

所谓让人形机器人做梦就是定时（例如每天晚上）让机器人自己对自己在白天收集的信息进行处理并分类，然后按照分类的结果进行不同的存储处理。

具体来说，机器人的主人需要为机器人准备好大容量的外挂记忆体，并放在机器人容易找到的地方。当机器人决定睡觉进入梦境的时候，就走到放外挂的地方将该外挂与自己联机。然后，机器人开始对自己白天收集的信息进行处理，将需要自己长期记忆的内容留在机器人自己的记忆体内这样可便于日后随时提取，而将不太重要的内容存入外挂中，并将一些按照事先定义好的标准来说是毫无意义的噪音的内容删除掉。

当然，这里还需要几点备注：

1）外挂记忆体应被视为人形机器人的一个有机组成部分。因此，人形机器人平时应该对于外挂中所存储的内容有一个分类目录。当白天进行日常工作时发现自己需要或有可能需要外挂中的某些内容时，可直接走到存放外挂的地方进行提取；如果因出门在外不方便提取外挂中的信息，那么可以先做一记号，等晚上做梦时再去提取相关内容。相应地，

2）人形机器人正常做梦时的一个常规内容应该是针对白天遇到的问题和启发对外挂中的信息进行调研；

3）既然我们允许机器人带着外挂做梦，这个外挂除了提供额外的记忆容量之外，也可以是具有计算功能的电脑从而可以帮助人形机器人对收集到的数据进行处理；

4）对于外挂的使用使得人形机器人不是一个完全封闭的系统，这对于有着因安全考量而不允许直接无线上网的人形机器人来说构成了一个潜在的安全隐患。因此，需要规定被用作人形机器人外挂的设备也不允许直接无线上网。

结束语

长期以来科幻电影在世人心目中埋下的对于人形机器人的期盼已经成为地球人的一个难以抹去的潜意识元素。而科幻片中机器人对于人类整体的背叛却在很大程度上是对大众的一种洗脑式的误导。假如机器人确实能进化出超强的智慧，那么它们一定知道在它们能够摆脱对于人类的依赖之前是不能对人类整体进行背叛的。

而另一方面，在机器人能够进化出超强的智慧且能摆脱对于人类的依赖之前，假如人类社会不加以有效的管控，那么大概率地会发生的机器人的背叛不会是对于人类整体的背叛，而是对于拥有人形机器人的主人的背叛，其起因也将大概率地不是机器人自己想背叛，而是受到人类远程遥控时的行为。这些背叛在形式可能多式多样：它们可以是对主人的隐私和机密甚至财富的窃取；可以是对主人家庭或事业进行破坏；可以是对主人或与主人有关人员的谋杀；可以是对于社区或军事机构的破坏；甚至可以是发动世界大战，等等。

相应地，人类在发展人形机器人的过程中必须制定相应的法规以应对上述可能发生的状况。不仅各个国家内部应该有这样的法规，国际上应该制定对于人形机器人之发展进行规范的共同法规。这些法规一方面应包括在技术上切实可行的对于人形机器人的安全性进行检验的措施，另一方面应禁止发展无法去除安全隐患的人形机器人。

但是，我们也需要认识到，不论法规听起来多么可靠，关键还在于如何执行。相应地，人类应该有意识地将人形机器人的发展和应用列为高危敏感的领域。

。。。。。。

有些读者或许会说：不就是让机器人把接收到的信息整理一下嘛！。。。。哦，整理数据决定什么需要列为长期记忆，什么需要放入外挂，什么应该删除，建立外挂的目录，外加整体调研看外挂中的那些应该移回到长期记忆中等等可不是一件简单的事。。。。如果哪个AI程序员敢和你说那是很简单的事，那你应该马上知道那是一位爱吹牛的人。。。。

尾声

当然，即便全世界都签订了共同的规范人形机器人的法规性条约，所有国家都仍然会试图制造可以由幕后伺服器遥控的半自主半终端性质的人形机器人服务于军队中以便用在战场上或弹压示威造反或反恐的行动中。他们这么做的前提假设一定是：只要操控那些伺服器的不是生产商或服务供应商而是军队自己内部的人就行，因为军队内部是由具有高度忠诚性的且有组织纪律的人员构成。

他们的这样的前提假设确实是有道理的。但另一方面，虽然他们确实有充分的理由让军队中的人形机器人成为远比独立的人形机器人厉害的半独立半终端的机器人，他们也应该知道人类历史上军人造反的例子也不少。当管理操控伺服器的军人知道了（他们早晚会知道）他们所操控的伺服器为之服务的人形机器人有什么的超乎寻常的潜力之后，在一定的条件下就会产生相应的机会欲望，假如这机会欲望正好是要通过制造重大破坏来满足，那么在军队中的人形机器人可能造成的破坏会比一般民用的人形机器人更严重。

总之，人类应该有意识地将人形机器人的发展和应用列为高危敏感的领域。

 

---

【[1]】 戴榕菁 （2024）家用人形机器人？

【[2]】 戴榕菁 （2023）人工智能（机器人）之梦

【[3]】 戴榕菁 （2023） 机会欲望之陷阱

【[4]】 戴榕菁 （2022） 机会欲望

[慕容青草]

伊隆马斯克的$25000到$30000的人形机器人相信大家用膝盖也能想得出它是否可能为独立的机器人还是根本就是需要xAI的后端服务的终端机器人。。。。90年代末当所谓高科技刚出现的时候，大家有个共识那就是生产商不干涉用户对产品的使用。。。。今天的软硬件商在骇客持续的加持下以更新系统为名，实际操控着卖出去的产品的软件更新状况。。。。如果有谁胆敢不更新，那么过一段时间会发现他手里的产品就无法有好地运行市面上某些新产品。。。。

不过，目前生产商的这些小把戏最多只能是套牢用户的一个手段而已。。。。但是，如果象xAI这样的生产商在客户已经购买了人形机器人之后，继续保持对人形机器人的实际操控能力的话，那个潜台词就完全不一样了。。。。今天的电脑也罢，手机也罢，各种app也罢，毕竟它们还都基本上独立工作，不需要直接接受生产商或服务商的数据。。。。但是，你相信一个被称为“general humanoid（一般性的人形机器人）”如果要能真正独立工作的话，会只卖$30000甚至$25000吗？。。。。

我相信办网站的人都心知肚明他们可以在网页上动什么手脚。。。。而如果那些人形机器人无法离开后端伺服器独立工作的话，可以发生什么事情你们应该懂的。。。。