AI的背叛？

戴榕菁

1. 引言

早在人类还根本不具备今天这样的AI水平的年代，所谓AI或更形象些的机器人对人类的背叛就已经随着科普界的丰富想象流行于通俗文化中，而背叛的经典方式则是机器人不但违抗人类的命令，并开始对人类进行屠杀等等。

但是，随着近几年AI技术的迅猛发展所带来的AI在社会上的广泛应用以及对文明的各层面和领域的日益增加的影响，我们已经可以隐约地感受到AI的不同于好莱坞式的想象但却非常真实一种另类的“背叛”。之所以这里要给背叛二字打上引号是因为与其说是AI的背叛还不如说是人类的主动让衔----人类不但主动而且积极地让AI来领导和支配自己的行为。

2. 关于AI之基本认知的一大误区

关于AI的一个基本认知是AI从人类对AI的训练及实际使用过程中向人类学习；与之相应地，过去这些年里在AI的对话应用及搜索应用中人们发现AI承袭了传统计算机的一个基本缺陷，即所谓的“garbage in garbage out”，也就是说，AI只是重复人类已有的知识，因而会将它们从人类那里学到的错误再展现给人类。

但是，随着对于获利于AI的欲望的不断增加，人们早已不满足于AI在文学创作科学调研上的助手作用了，而是要让AI开始规范被认为具有劣势或从属地位之他人的行为，这使得AI的地位从卑微的助手一跃成为高高在上的裁判。比如，在可以决定成千上万打工一族的人生机会的猎头公司的平台上，AI将不但会决定什么样的人的简历可以呈现给什么样的雇佣公司看，更会开始按照它们理解的理想方式来要求申请人来按照它们的要求修改简历。比如，公司对于市场规划，供应链的选择，员工的奖罚与升降都会逐渐地让AI参与甚至主导。比如，人类未来的说话方式将与今天的语言习惯有所不同，因为那时的语法和最佳写作风格将由诸如grammarly这样的软件的AI来决定。比如，。。。。

而在这过程中人类社会政治经济因素所造成的社会选择【[1],[2]】将至少在以下两个方面起着重要的作用：

1）对于AI之未来的崇拜将使得各国政府预算和金融投资者们都会将大量资本投向与AI有关的领域和项目。与之相应地，

2）在资本导向的现代社会里，各公司的上层在制定公司内部经费分配和项目安排上将鼓励带有AI色彩的项目和部门。基层各部门也会努力向AI发展，从而使得在人员聘用上也会倾向招聘AI专业人员。

这里需要指出一点的是，拥有资本的人本身往往并不懂AI，因此在资本流向AI的过程中会出现很多打着AI的旗号的项目不一定都非常AI，但这并不影响AI的诱惑成为社会各行各业努力的方向。

2.1. 转折期

从上面的讨论我们可以预期，整个社会的AI发展将经历一个由人类决定AI做什么向由AI规范人类的行为和实践的转折。尽管这不会是一个瞬间完成的转折点，但在经过一段时间之后，人们可能会发现世界整体的思维及行为方式已经不可逆转地由AI掌控了。。。。那时除非将整个世界的政治经济文化体系进行彻底的人为改造，人类已经无法摆脱AI来重新掌控自己的生活了；而那种政治经济文化体系的彻底的人为改造本身是不可能的事件，因为到了那个时候人类离开了AI根本无力进行大规模的组织和整合。

3. 危险所在

也许有人会以为AI主导人类的社会活动是文明进化的表现。但他们不知道的是，这种进化并不一定是朝向正面发展的进化。这里潜在的危险的根源其实还在于前面提到的AI所谓的“garbage in garbage out”之先天不足。。。。AI之最初发展是向人类学习，而它们最终主导人类的政治经济文化生活并不是因为它们进化得足以克服它本身之设计逻辑上的缺陷以及从人类那里学来的各种缺陷，而主要是因为两个基本的因素：1）AI的超级算力远非任何人类可比；2）人类政治经济文化活动之超级复杂性。

这两个基本点决定了人类在AI面前显得很无力。这时人类之贪婪便会让AI一步步在各方面取代人类。

结束语

今天AI已经成为世界各国尤其是强权之间的竞争热点。而这场狂热的竞争中埋下的一个对未来或许是致命的危机是没有人或者至少没有多少人象本博客在过去几年里这样对AI的哲学进行认真的研究【[3],[4],[5],[6],[7]】。。。。

 

---

[[1]]Dai, Rongqing. A Brief Discussion on Fairness Analysis:

• Published by Outskirts in 2015 (ISBN 9781478753698):
• Republished in a revised version by Scholars’ Press in 2017 (9783330652064) url: https://www.academia.edu/66445422/A_Brief_Discussion_on_Fairness_Analysis

[[2]]戴榕菁（Rongqing Dai）公平人生（Fair Life), ISBN 1425961401, 9781425961404, Publisher:               AuthorHouse, 2006

[[3]]Dai, Rongqing (2024). The Realistic Rebellion of Humanoid Robots, Retrieved from: https://www.academia.edu/122300430/The_Realistic_Rebellion_of_Humanoid_Robots_and_How_to_Avoid_It

[[4]] Dai, Rongqing (2019). A Philosophical Analysis on the Challenge of Cultural Context to AI Translation . Int Rob Auto J . 2019;5(4):153?155. DOI: 10.15406/iratj.2019.05.00189. http://www.medcrave.com/articles/det/20002/A-philosophical-analysis-on-the-challenge-of-cultural-context-to-AI-translation

【[5]】戴榕菁（2024）家用人形机器人？

【[6]】戴榕菁（2024）人形机器人之梦及背叛

【[7]】戴榕菁（2024）人工智能觉醒？