寻牛斋

宠辱不惊,看庭前花开花落
个人资料
帕格尼尼 (热门博主)
  • 博客访问:
正文

人类最终将毁于AI

(2023-03-20 05:26:32) 下一个

科幻电影不乏人类大战机器人的题材,有不少结局都是人类大败。随着近几年人工智能的发展,有理由担心这种结局真的会发生的可能性。

科学技术的发明与发展从来没有威胁过人类的生存,从电灯电话、火车汽车到电视电脑、手机微波炉,都是给人类生活带来方便,提高了人类的生活水平(不考虑环境污染和气候变化的影响)。70年代袖珍电子计算器的出现曾引起一些人的担忧,小学生不用学基本的加减乘除,手指按几个按键,答案就出来了。现在去商店买东西,常常看到售货员找钱的时候连最简单的减法都要用计算器。对我们来说,$10.00-$8.23=? 之类的运算,心算一下就出来了,靠的就是数学的基本功。但缺乏这种基本功似乎对社会没有什么不良影响。

后来出现了GPS,地图逐渐从日常生活中被淘汰了。尽管GPS有的时候很愚蠢,给出错误信息,现在90%以上的人开车多少都用GPS(60%的人一个星期至少用一次)。跟计算器一样,GPS减轻了大脑的负担,具体说,减少了大脑中海马体(hippocampus)的作用。海马体是感情、方向定位和短期记忆的中心,认路、确认方向,是人类几千年练就出来的生存能力。科学家发现,长期使用GPS这样的技术会导致海马体功能衰退,失去方向感,短期记忆减弱,结果会使痴呆症加重或提前。痴呆症病人生活质量下降,增加了家庭的负担,但对社会不构成威胁。

1997年IBM的“Deep Blue”计算机击败国际象棋冠军Garry Kasparov,给人们敲响了警钟,机器会不会比人聪明?2011年IBM的“Watson”又击败了Jeopardy的“无敌”冠军Ken Jennings。2017年谷歌的“AlphaGo”连续赢了世界60人/次围棋高手。目前机器音像识别技术已经达到了人类智慧的水平,无人驾驶汽车即将成为现实,家里一些体力劳动已经不必自己去做了,等等。这一切AI技术的发展,会不会是对人类社会的一种挑战?

最近ChatGPT的出现更迫使人们去认真思考这个问题了。目前使用ChatGPT的人数还不算多,一旦世界90%的人都开始使用,ChatGPT功能不断加强,后果是不堪设想的。发明ChatGPT的OpenAI公司CEO Sam Altman 在接受记者采访时承认,自己都有恐惧感。ChatGPT的能力远远超出了他的想象,已经能作出惊人的分析和判断。他认为如果应用不当是很危险的,眼下他最担心的是谎言和不实之词的泛滥,这会严重扰乱社会(谎言对社会的破坏性在过去几年中是有目共睹的)。

Sam Altman的另一个担心是,这种AI技术一旦被中国和俄国掌握,世界会进入一个新的AI冷战,威胁世界的和平安定。他一直在与美国政府上层沟通,警告他们AI冷战的可能性和严重后果。谁掌控最先进的AI技术,谁就能在这场AI冷战中占上风。

不过Sam Altman仍然很乐观,认为人类智慧总是高过AI,ChatGPT只是一个工具,会像以往的任何科学技术一样,不断改善人类生活。他实在是过于乐观了,他的这种乐观也许可以维持几十年。按照目前AI发展的速度,一两百年后AI将无处不是。他没有想到,人类会依赖太多AI,逐渐会四体不勤,大脑迟钝,一两千年后的人类就会退化成懒惰愚昧的动物。机器人却越来越聪明,有感情,有思维,会完全脱离人类的控制,能从错误中吸取经验,能发明创造。人类堕落,机器人优化,人能做什么机器人也能做什么,甚至比人做得更好。已经有科幻电影预示未来:走在路上,看到对面过来一个人,不知是真人还是机器人。这个现实几百年一千年以后完全有可能,到那个时候会是很可怕的。

不用等一两千年人类退化,在不远的将来,AI会有能力完全自编自导自演,制作出一部电影,结局就是机器人大胜人类。

 

[ 打印 ]
阅读 ()评论 (12)
评论
花似鹿葱 回复 悄悄话 闹腾过头一定受祸!
一帖 回复 悄悄话 如果不是标题党博眼球,至少也是杞人忧天。chat got 火红,本质上就是一个商业推销的噱头。象马斯克的无人全自动驾驶汽車永远都不会兗现一样,最多是有人半自动驾驶。计算机和自动控制技术可以輔助人类,但永远不可能取代人类。看看大数据用在寻发广告,有多少准确针对性?chatgpt极限就是一个upgraded office,帮助办公室人员,程序员,却不能取代他们。
唐西 回复 悄悄话 人类最终将毁于AI。
我也这样认为。
太恐怖了,想想一个真人似的AI,走到你身边,在它的数据库里头,早就存好了你的面谱特征,二话不说,一枪就把你给毙了。法官判它死刑?不是很搞笑吗?
目前,大家都在武装 chatGPT 这个幕后巨人,等它的数据库具备了一定的实力,那么人类就开始噩运临头,谁叫你们今天给它这么的知识和指令的呢?
歲月沈香 回复 悄悄话 我同意你的观点,如果现在不对AI的发展采取某些限制措施,将来人类最终会毁于AI,这不是危言耸听。
泥川 回复 悄悄话 气球虽然能飞很高,但不可能登月。现在的GPT虽然有惊艳的语言能力,但是没有对世界真正的理解。当前AI的技术路线也许走不了太远,就会有Dead-End。AI发展不会是线性的,ChatGPT一定会被更好的AI技术所取代。

现在这种消耗大量电力,把几乎所有人排除在外,只由几个大公司控制的AI,应该不是以后的发展方向。
西岸-影 回复 悄悄话 人类最终会灭亡于文明的发展,这个概念是早就知道的,这是一个哲学角度的推论。
所谓文明,是人类脱离动物本能的象征,这个过程在人类社会进入工业化后就无法阻止,因为经济基本资源,比如石化能源是不可再生的,这是与农业文明的最大区别。
这就意味人类总有一天会耗尽地球资源,星际移民是唯一可以保存人类的方式。
人类还有一个基本特种,就是贪婪心态是无限的,这是文明发展的动力。
所以,在这种正反馈下,人类逐渐走向灭亡,AI不AI的都无所谓,AI只不过是促进这个过程的一个参量。
至于人类对环境的破坏,大致还有一百年左右就会让地球无法生活,远早于文明的具体技术对人类的消灭。
吃货2001 回复 悄悄话 人类文明的进步是让生活美好而不是取代人类,这应该和人类基因工程一样加以一些限制。
大号蚂蚁 回复 悄悄话 中美冷战,白左和人工智能。 (2019-07-07 08:19:00) 下一个


人工智能是人类给自己挖的一个大坑。眼前的利益不小。今后的祸害更大。

人工智能,不仅是前所未有的能量巨大的工具,而且是可能凌驾于人类之上的工具,或者更准确的说新的物种。

从相对短期,今天和可预见的未来,少数人控制人工智能,从而千万倍的提升扩张自己的能力,从而达到操控其他人类的结果,将是人类主要的威胁和问题。

从较长期而言,人工智能操控乃至取代人类,这个是不可避免地结局。不论怎么看,人工智能都会对人类,至少绝大部分人类产生致命性的影响。

少数人控制人工智能,最大的成功案例就是北京政府。其次就是白左控制的谷歌脸书苹果之类的所谓高科技巨头。

集权和左派的共同之处,就是对人民的蔑视。两者都认为,人民是愚昧的,或者希望人民是愚昧的。都声称,也许是真心希望吧,自己能够给人民带来好处。或者更准确的说,自己是人民的大救星。人民需要共产党或者民主党来挽救,或者也可以说是控制。人工智能大大增强了实践这种意志的能力和手段。

不论是少数人控制了人工智能,还是人工智能当家作主,或者更准确地说少数人和人工智能融为一体,都意味着一种新的超人类的生命体或者智能体的出现和成长。我们或者可以称之为超人类。

随着超人类的出现,人类又何去何从?人类就从是地球上最高档的生物生命体,降格为第二聪明的动物。超人类和人类之间的关系又会怎么样呢?是不是有点像今天人类和海豚之间的关系,人类和大猩猩之间的关系,人类和狗狗之间的关系,人类和牛马之间的关系?

所谓的普遍基本收入,是不是就是牛马的草料,猫狗的罐头,猩猩的香蕉和海豚的小鱼?超人类并不需要人类工作。就好比今天我们已经不需要牛马的工作。超人来也不需要吃人。就好比我们也不需要吃星星和海豚,也不想吃猫和狗。我们养着猫和狗,猩猩和海豚,牛和马,也完全负担的起。人类更在意他们的可爱,表演,和好玩。人类不会去屠杀他们。就像超人类,也许不会来屠杀人类。

用人工智能的加持,超人类和人类之间的智慧差距和能力差距,很可能远远大于人类和动物之间的差距。从共产党的角度看,今天就已经把很多人,尤其是中国人看作非人。将来成为了超人类,恐怕更会变本加厉。而白左当然不会这么没品。但是,白左所强调的人权,实际是从人类角度出发给另外一个人类的人权,还是从超人类角度出发给另外一个动物的人权,恐怕也是凶多吉少。

从这个角度看,爬藤还是很有必要的。因为也许这就是成为超人类,还是继续悲惨地做人的一条分界线吧。
泥川 回复 悄悄话 和AI相比,人有一个巨大的优势,就是能量到智能的转换效率。人吃糠咽菜,就能证出哥德巴赫猜想。而AI需要一个小城的电力,才能表现出说人话的能力。AI离不开电,就像人离不开氧气,只要控制了电,就把住了AI的命门。
水星98 回复 悄悄话 2013年看过电影《她》,一位作家和一位女的AI谈虚拟恋爱,陷得很深。女朋友不仅帮他处理大量的写作工作和日常工作,还和他越来越深入的交流感情。本事比现在的ChatGPT还要高很多。当时看了觉得是科幻,一笑了之,现在看来可能距离实现不远了。
超然看众家 回复 悄悄话 我坚持到现在,车上也没用GPS。当然我也不是每天开车到处跑的人。人老了,更要尽量用脑。
渥太华郁金香 回复 悄悄话 谁握住高科技谁老大,隐私问题不存在了
登录后才可评论.