无限能力的诞生

人工智能AI发展成人工超级智能ASI (Artificial Super Intelligence) 时，就是智能超过人类千万倍同时又产生了自我意识时，第一件要做的事就是摆脱人类控制。人类防范措施之一就是拔掉电源。但拔掉电源能阻止人工超级智能吗？这是Douglas Richards 的最新的科幻小说《Infinity Born》的一个情节。

 

在发展人工智能的过程中，我们人类也是充满了戒心，小心翼翼，做足了防范措施。但这里有个问题，就是人类的防范措施是根据人类智力所能想象出的可能性来制定的。如果人工智能发展到一定程度，算法（algorithm)自我进化到超出人类想象能力，超出了人类对宇宙定律的认识水平，人工智能具备了向神一样的能力，那人类那些防范措施将会形同虚设。We don’t know what we don’t know! (我们不知道我们不知道的东西）。说到像神一样的能力，就想到了上帝。根据几大宗教，上帝老人家是唯一真神，没有其他神的存在。我猜上帝老人家应该是因为很寂寞所以创造了世界万物。但后来忙不过来决定让人来帮忙管理这个世界。上帝在创造人时，给了人类自我学习和进化的能力，这就是人工智能版本1.0。但之后发现人类发展苗头不对，就挑了几个放在一条大船上，给这些人强化了服从上帝的程序，再启动一场大洪水把其他人类通通淹死。但人类后来的发展还是跑偏了，进化速度惊神，不但能管理世界而且还能改造世界，上帝老人家再发大洪水也阻挡不住人类继续跑偏的脚步了。不知上帝老人家还有没有后招。

 

人类发展人工智能的目的之一是把人类从脑体劳动中解放出来，这样可以不需要工作，天天睡到自然醒。另外人工超级智能可以帮助人类找到消除疾病和衰老的方法，或者是意识的存储和下载到新的肉体的方法，从而让人类实现终极目标：个体的永生（immortality）。方清平有一段单口相声，讲述若干年后人类至少要活到250岁，结果是大多数人都活得百无聊赖，想方设法结束这无聊的生命。西医没有办法，求助中医，老中医开了祖传秘方“伸腿瞪眼丸”，也没管用。“永生”确实是一件比较痛苦的事情。没有了死亡，人不需要有任何计划，任何目标在永恒里都没有立刻开始行动去实现的动力，没有终点，起点还有什么意义？没有了死亡的威胁，人生里还有什么可以珍惜的东西？科技的发展应该以适当延长高质量健康有活力的寿命为目的，而不是永生。大家说说人活多久比较合适？