个人资料
慕容青草 (热门博主)
  • 博客访问:
归档
正文

他们怕的是什么?

(2024-08-01 14:01:20) 下一个

戴榕菁

前文“聊聊坏与笨”【[1]】提到我将关于人形机器人未来发展方向的文章“The Realistic Rebellion of Humanoid Robots and How to Avoid It”【[2]】给自然杂志投稿被拒一事。其实,主流学界过去这些年全面封杀我的文章对我来说早已是司空见惯的,因此在投稿时就没想着会被接受而是把每次投稿都当作是必要的战斗之一环节而已。

但多少令我感动意外的是在我将该文贴在academia.edu一周后的访问量是0,而且在脸书所有与AI有关的英文群组都拒绝贴出该文(当然,非AI的英文群组一般都没有拒绝)。与中文网站不同,academia.edu没有一个公共的界面,因此一篇文章有无访客完全取决于academia.edu是否将该篇文章贴出的消息通报给他人。Academia.edu名义上说他们会将文章贴出的消息通知所有follow作者的其他人,但那是骗人的。我在academia.edu有一百六十人follow,但academia.edu从未将我的文章向所有人通报过,最多从那些人里面挑出零星几个人通报一下或者另找几个网军到讨论页去发发言而已。有一次我向他们提出了这件事,他们回复说他们没有义务帮作者发通报(尽管每次我贴文章时都会有提示说他们将向follower们通报)。。。。这就意味着是否向读者发通报以及向多少读者发通报直接反映出academia.edu对于相关文章的态度。

我个人认为“The Realistic Rebellion of Humanoid Robots and How to Avoid It”是一篇有关机器人未来发展方向的非常重要的哲学分析文章。文中指出了不论机器人的自学能力有多强,学习本身的哲学决定了所谓学习一定是严重地依赖于不断增多的硬件记忆体,这是因为学习的基本哲学就是只有记住了才算是学会了。而学习的这一基本特点又决定了除非加以控制,未来的人形机器人将会是严重依赖后端伺服器的终端或半终端机器人。那篇文章又指出这种终端或半终端的机器人对于用户和社会乃至世界所具有的重大潜在威胁。。。。

这么重要的一篇文章,他们为什么要进行集体封杀?难道他们害怕这篇文章见光?我只不过是在危机没有发生之前指出了必会发生的危机,他们应该感谢我才对,又有什么能让他们害怕的呢?难道他们怕的就是我提前指出了可能发生的危机?应该不会的,因为只有想要一件事实际发生的人才会害怕别人提前指出那件所具有的威胁。

假如他们真的以为只要我不提前指出其中的危机别人就会被蒙在鼓里,那么他们太天真了。中国有句俗话叫做冷暖自知。今天在人形机器人还没有真正走向市场的时候,人们可以静静地站在那里吃瓜。但是,一旦人形机器人走向市场,他们能指望用户看不出其中的巨大威胁?

我这里再来提前数落数落未来人形机器人的发展道路上必将遇到的一些坑吧。

如果他们想让一个人形机器人在不依赖后端伺服器的前提下就具有如同ChatGpt(或GPT4等更先进的版本,这里就以多数人熟悉的ChatGpt为例)一样的拟人能力,那么他们就要把诺大的机房里供一个ChatGpt正常工作的庞大的全部硬件塞到一个机器人的体内,而且还不够,因为很显然ChatGpt并不具有空间行动的能力。虽然空间行动在学习上的范围应该比不上抽象的语言文化及环境识别学习的范围,因此所占用的空间应该是比较固定的而不像语言文化环境识别的学习是无上限的,但它们所占用的固定空间本身也已经不小了,再加上冷却系统和电池等等。这样下来,每一个人形机器人都将是一栋移动的房子,这显然是不行的。

所以,为了让未来的人形机器人长的象人,设计师们就会尽量地将逻辑运算和学习记忆的部分放到后端的共享伺服器中,而前端的机器人主要负责行动及收集信息。

但是,如我在【1】中指出的,这样的前端机器人一旦被别有用心的人操纵,对于用户来说,那会是非常危险的。

首先,前端机器人的那双眼睛和那对耳朵将比传统民间小说或科幻小说中能够想象得出的任何千里眼和顺风耳都要厉害得不知多少倍。它们能够看见几公里外的大楼中某间没有拉窗帘的屋子里发生的事;从键盘上残留的手印或温度痕迹判断出主人刚刚输入的密码就不在话下了;虽然它们看不见紧锁着门的卧室里面的人们穿什么内衣,但是通过红外成像,它们能大概看出他们在做什么动作。

只要墙壁厚度属于一般,那么它们能清楚录下隔壁屋里的说话声就不属稀奇;就算楼上茅厕里有人放个屁,也不要以为在地下室里的人形机器人听不见;定向远距录音的效果会出人意外,别以为机器人离你还有一段距离就不知道你在说什么;几个人躲在播放着金属音乐载歌载舞人声喧闹的大厅的某个角落里的交谈被站在大厅另一个角落里的人型机器人听到后,经过AI的处理将噪音除去就可以知道你们在讲什么,所以不要再玩间谍片里的什么谈话前先将音乐声调大的花样了。

主人在电脑上打一篇没有任何保密需要的文章,让无辜的人形机器人在一旁欣赏自己打字的美妙动作之后以为什么都没发生,只不过机器人的AI已经将主人敲打键盘上不同键的声音之间的细微差别分析了出来。从此以后,机器人不需就近偷看主人打字,仅凭主人打字的声音就能猜出主人打字内容的一个大概。总之,当用户将一个高科技的人形机器人带回家之后,他们家中就再也没有什么秘密可言了。

第二,你可以说未来高端的手机和电脑也可以做到这一点。但不要忘了这样两点:1)电脑和手机只能乖乖地呆在你放它们的地方,而人形机器人是可以到处逛逛地;2)电脑手机的摄像头是可以用套子遮住的,你总不忍心将机器人的眼睛挡上,耳朵堵上,把它当作推磨的骡子吧,更何况就算你能轻易挡住机器人的眼睛,要想堵住机器人的耳朵并没有那么容易。再说了,如果你不想要机器人所具备的先进科技,那么你还要买机器人干嘛呢?

第三,与电脑手机相比,人形机器人最大的危险当然还在于我在“人形机器人之梦及背叛”【[3]】一文中提到的在人类的操控下人形机器人可以做出刺杀主人等等反叛的行为。

以上我指出的这些没有一个涉及到如何具体设计制作人形机器人,我这里所说的一切都是基于有关AI科技的最基本的常识进行的逻辑分析------这才是这里所讨论的问题最可怕之处,因为这意味着我所指出的问题是不可能通过技术手段来克服的

 

结束语

与指出相对论的错误和挑战量子力学的漏洞以及批评某些数学理论中的逻辑问题不同,我关于人形机器人未来发展中将面临的问题的讨论不是揭别人已有的短处因而会让打上相关理论标签的专业人士感到被冒犯。指出现在还没有发生但未来一定会不可避免地发生的问题会让一些人感到害怕这一点实在令人费解!难道他们希望我所指出的未来人形机器人可能对个人对社会造成的危害实际发生?

当然,另一方面,我之所以在主流学界全面封杀我的文章的状况下还不断地投稿的原因之一(虽然并非主要的原因)也是因为我对人性有一定的了解。因为我知道对我的文章进行封杀,尤其是连academia.edu和脸书专业群组都参与的封杀本身也是传播我的文章内容的一个过程。。。。这是因为他们之所以封杀是因为他们害怕文章的内容会被广大读者们知道,而他们之所以会害怕文章的内容是因为他们自己已经读过文章的内容。

人性中的一个软肋就是越是被禁止封杀的内容越是会被私下里传播!

我于6月28日贴出“家用人形机器人?”【[4]】一文, 7月14日贴出“人形机器人之梦及背叛”【3】一文, 7月23日贴出“The Realistic Rebellion of Humanoid Robots and How to Avoid It”【2】一文并随后投稿。从6月28日到今天不过一个月多一点,最近这些天在YouTube已经开始看到与之前吹捧机器人完全不同调的声称 “未来的机器人不会是人形的”以及谈论“人形机器人将如何反叛”的视频了。。。。

当然,那些视频既有可能是受到我的文章的影响,但也有可能完全是巧合就如同2019年5月中我开始贴出的有关如何制作人造飞碟的文章与随后不久在整个美国掀起的有着来自政府最高机构背书且至今仍方兴未艾的UFO热只不过完全是一个巧合而已一样。现在人们对于未来机器人长什么样的变调与从6月28日开始我在中英文网站进行关于人形机器人的讨论完全可能只是时间上的巧合,而没有任何关联。。。。

但仔细一想,这才应该是封杀我的文章所能起到的最大的作用-----让世人不知道今后所发生的事情与我的文章之间是否有任何关系。。。。至于说我的文章的内容吗,他们是封不住的,因为他们自己就会是相关内容的最卖力的传播者。。。。更重要的是,只要他们不去按照我在“人形机器人之梦及背叛”中指出的那样去采取相应的措施,那么我在这几篇文章中提到的仅仅为后端伺服器的终端或半终端机器人所具有的对于用户的危害一定会在不久的未来发生在某些用户的家里甚至造成对社会乃至世界的危害。。。。今天假如他们一边封杀我的文章内容,一边在没有全面理解我的文章的内涵的情况下片面地传播我的文章的内容的话一定是不利于真正有效地在世界范围对于通过对于人形机器人进行规范而避免我在这几篇文章力提到的潜在威胁的。。。。

假如有人以为只要用户不知道他们通过人形机器人对用户的信息的窃取或所具有的潜在威胁,他们就可以浑水摸鱼,那也太天真了。你公司上层不说还能堵得住员工的嘴?今天的AI大玩家中哪家不是几千甚至上万个员工?哪有不漏风的墙?

对我来说,最主要的是向世界宣传哲学真理,只是非常遗憾地,过去这些年来总是有中美欧亚的奇怪势力在努力对抗真理。我真希望这些人能认清一点:没人能挡得住真理!真理一定会战胜任何试图拦阻真理的力量!

 

【[1]】戴榕菁 (2024)聊聊坏与笨

[[2]]Dai, R. (2024). The Realistic Rebellion of Humanoid Robots and How to Avoid It. Retrieved from: https://murongqingcao.wordpress.com/2024/07/23/the-realistic-rebellion-of-humanoid-robots-and-how-to-avoid-it

【[3]】戴榕菁 (2024) 人形机器人之梦及背叛

【[4]】戴榕菁 (2024)  家用人形机器人?

[ 打印 ]
阅读 ()评论 (2)
评论
慕容青草 回复 悄悄话 回复 'huiming1234' 的评论 : 所有大牌杂志,包括中国的,美国的,英国的过去这些年里都一律封杀我的英文文章。。。。步调非常一致。。。。当然,之前我投的都是物理和数学方面的,这次第一次有关机器人的文章。。。。自然杂志自从和Springer合并后恐怕基本上应该算是印度杂志。。。。
huiming1234 回复 悄悄话 应该考虑投其它杂志,自然这种杂志太吊了。
登录后才可评论.