人工智能遭遇定律

人工智能遭遇定律

 

杨道还 2/12/2023

 

（一）摘自网络，属于AI的工作：

 

“墨菲定律”、“帕金森定律”和“彼德原理”并称为二十世纪西方文化三大发现。

 

1. 墨菲定律是一种心理学效应，由爱德华·墨菲（Edward A. Murphy）1949年提出。墨菲定律的原句是：如果有两种或两种以上的方式去做某件事情，而其中一种选择方式将导致灾难，则必定有人会做出这种选择。根本内容是：如果事情有变坏的可能，不管这种可能性有多小，它总会发生。

 

2. 帕金森定律是官僚主义或官僚主义现象的一种别称，源于英国著名历史学家诺斯古德·帕金森（Cyril Northcote Parkinson）1958年出版的《帕金森定律》一书的标题。

 

帕金森在书中阐述了机构人员膨胀的原因及后果：一个不称职的官员，可能有三条出路，第一是申请退职，把位子让给能干的人；第二是让一位能干的人来协助自己工作；第三是任用两个水平比自己更低的人当助手。这第一条路是万万走不得的，因为那样会丧失许多权利；第二条路也不能走，因为那个能干的人会成为自己的对手；看来只有第三条路最适宜。于是，两个平庸的助手分担了他的工作，他自己则高高在上发号施令，他们不会对自己的权利构成威胁。两个助手既然无能，他们就上行下效，再为自己找两个更加无能的助手。如此类推，就形成了一个机构臃肿，人浮于事，相互扯皮，效率低下的领导体系。帕金森得出结论：在行政管理中，行政机构会像金字塔一样不断增多，行政人员会不断膨胀，每个人都很忙，但组织效率越来越低下。这条定律又被称为“金字塔上升”现象。

 

3. 彼得原理由劳伦斯·彼得（Laurence J.Peter）提出。《彼得原理》在1969年出版，里面提出的“彼得原理”是指：在组织或企业的等级制度中，人会因其某种特质或特殊技能，令他被擢升到不能胜任的高阶职位，最终变成组织的障碍物、冗员、负资产。 

 

（二）AI与三个定理

 

根据墨菲定律，人工智能如果可能被滥用，就一定会被滥用。这似乎是悲观论，只有在某些有着阴暗心理或病态心理使用人工智能时，才有可能发生。但墨菲定律并没有说明这个限制，也就是说，在一般情形下的正常应用、好心的情形下，即便“无咎”，“事情变坏”也会发生。这里的“无咎”是引用《易经》的，人无过失的意思。“事情变坏”，即如《易经》中的悔、凶。

 

那么人工智能的“事情变坏”会怎样发生呢？这要从彼得原理来看。当人们使用人工智能时，一定会学和习，学即是慢慢掌握与人工智能的交流，习是练习用人工智能为人服务。这个阶段是蜜月期。当人们确定对人工智能有些了解，就一定会去探索人工智能的潜能，不断将更具挑战性的实际任务交给人工智能。

 

这个过程不会以人工智能不能处理或开始出错为止，即有个理性的停止点；而只能在人工智能的潜能达到极限、崩溃而导致大的危害的极端情形下，使用者才会达到理性。彼得原理的重点，即在于，人会自以为理性地走极端，“亢龙有悔”是不可避免的。

 

“亢龙有悔”与彼得原理不同，不将其“悔”仅仅限制在“组织或企业的等级制度”，而是指一般的规律。举个例子，爱德华·威尔逊指出，人类社会中，“文明涌现的关键是过度肥大症”。（Edward·Wilson，《论人性》，林和生等译，贵州人民出版社，1987.8）威尔逊这句话，实际上就是庄子所说的“骈拇枝指，出乎性哉！而侈于德”（《庄子·骈拇》）的翻版。（参见杨道还《经济的两重性：水准与超水准》，2016年）

 

过度肥大症是个比喻，当人掌握某种知识、能力、技术、制度等等后，会不断地简单重复，叠屋架床，人们对其有效性的认识，一直要到使其崩溃的时候，才发生“有悔”。在稻草没有压倒骆驼之前，人们不会停止再加一根、再加一根……的过程。

 

此类的例子很多，古来如此，埃及的金字塔，只会越建越大，直至超出经济能力太多，社会崩溃，而不得不终止。科学初期的机械知识，最终导致毫无用处的的机器人的发明。在英国和中国的博物馆里，至今仍有那个时代所费不赀的能歌舞写字的机械人玩具存留。

 

在艺术上，有技法；在哲学上，有主义，“亢龙有悔”无所不在，正如老子说：“天下皆知美之为美，斯恶已。皆知善之为善，斯不善已。”艺术技法和哲学主义，其初未尝不美或不善，而卒不美与不善。

 

渡过了蜜月期的人工智能，如不能逃脱彼得原理，可以想见，墨菲定律就是下一步。“事情变坏”会如何发生？人们不知道，否则就没有墨菲定律——我们只知道“事情变坏”必然发生。《易·大过》有，“过涉灭顶，凶，无咎。”

 

人类在“亢龙有悔”上的理解有多么消级，在“事情变坏”之后的弥补上，就有多么积极。科学时代人物靠此登场扬名。这就进入到了帕金森定律阶段。

 

 

这一场景，见上第一部分定律的解释，很容易想象，这里不必详述，只指出其结果。其结果是，人工智能无法处理的问题，将会由更平庸的补丁弥补，以至于臃肿狼犺，效率越来越低下。这就像新的计算机、手机出现，人们以为它们更快，可以节省时间，但却发现并非如此。

 

这也像计算机、手机的出现，人们以为可以节省时间，但更忙。这又回到了一个“大”彼得定律。

 

人工智能会击败三定律，还是被其限制，我们可以拭目以待：其“硕果不食，君子得舆，小人剥庐”（《易·剥》）之谓乎？

 

（三）

那么为什么会有这样的演变？所以然是什么？那是另外的问题了。