Can AI survive itself without human interface?

Quote: "不仅有machine learning，也有HL（human learning）。小时候饭桌上你妈对你的一次谴责，上学时候考了高分得到的满足，每一件事情都调整我们心里的权重。这些权重的组合叫做“三观”。

每个人的三观，其实都是靠很少的几件事情定了基调。也就是说，我们每个人受的训练，其实都很少。我们每个人的三观，其实都可能是错了，其实都很脆弱。"

** 

Yann LeCun, a pioneer in AI deep learning, acknowledges the limitations of current AI technology. Despite the vast amounts of data and training involved, AI still falls short of human capabilities.

LeCun points out that a 17-year-old can learn to drive in just 20 hours, while a 10-year-old can learn to set the table with a single demonstration. Even a cat can plan complex actions. In contrast, AI requires millions of miles of training for autonomous driving, yet it still lags behind human drivers with far less experience.

Similarly, to acquire knowledge that a person can gain from reading a few books, AI would need to process tens of thousands of books. With billions of parameters, AI systems consume immense amounts of electricity and cooling water, equivalent to that of a small city. In comparison, even the most brilliant human minds, like Einstein, require only basic sustenance.

LeCun's assessment of current AI is clear: "Something big is still missing." This underscores the notion that while AI may appear advanced, it still has a long way to go before reaching human-level intelligence and efficiency.

*** 

TJKCB 发表评论于 2024-02-07 12:50:50

硅谷工匠 发表评论于 2024-02-06 19:34:42
有读者认为生物很神秘。我同意。有人认为现在人工智能很原始，我也同意。但是有一点，就是仿生并不需要完全了解科学的一切细节。比如飞机是仿鸟，但是比鸟飞的好。我们从ML训练机器上看出一点-人的大脑可能是很高级的计算机，可是我们给大脑配的软件太差。差到什么？差到清华大学毕业谷歌工作的老两口子能一句话都不能认同。传统这叫教育，其实就是对人脑的训练。训练很不够。"
///In reality, while artificial intelligence (AI) may seem advanced, it's important to consider the energy efficiency of biological systems compared to machines. Birds, for example, are more energy-efficient than airplanes. AI requires vast amounts of energy compared to animals and humans.
Bird is better an autologous survival than airplanes, which need a huge service resource to operate. Can AI survive itself without human interface?

硅谷工匠 发表评论于 2024-02-07 07:34:23

回复 'BMC' 的评论 : 谢谢评论。据我所知，AI已经打败了人类最高端的象棋和围棋选手。AI引擎每天为你我提供youtube和amazon上面的产品推荐。如果这些不算“idea”，那您说的就是所谓“创造性思维”。如果从“思想”的角度，我认为AI已经在告诉我们，人的大脑是无敌硬件，可是人的教育基本就是几十个小时的培训加上几千小时做题。我们人类还远远没有发挥自己应有的智力。否则，也不会有这么多人六十岁就退休退出职业舞台，也不会有那么多清华毕业生干傻事。

BMC 发表评论于 2024-02-06 23:09:22

Would you please provide an example that AI generated any new ideas?

龙湾故事会 发表评论于 2024-02-06 23:08:53

Read Doctor Nick Lane! There is nothing special about human knowledge, reason or wisdom. Anything possible if given enough time.
Information can be carbon based or silicon based. Neither is superior than the other.
A piece of information is just a piece of information.

龙湾故事会 发表评论于 2024-02-06 23:00:58

Of course AI is capable of generating new ideas. Period!

Remember the moment Tesla decided to let go of radar sensors and rely purely on visual signals?

LLM opened the door to human knowledge for AI. There will be no return from this symbiotic relationship.

Yann LeCun is wrong. AI doesn't need eyes.

BMC 发表评论于 2024-02-06 21:49:06

AI有很强的学习能力，但目前的AI沒有创新能力。它的能力是建立在全人类几千年积累的知识基础上，但它不可能超越人类的知识，也就是说它可以从一变成十，但不可能从O变成一。一个苹果掉在牛頓的头上就砸出万有引力定律，AI有这个能力吗？

硅谷工匠 发表评论于 2024-02-06 19:36:42

回复 'gwangmsn' 的评论 : 这个稍微有点悲观，但是不离谱。人类最重要的功能是消费，consume。没有消费和demand，就没有商业。我们的功能就是消灭东西，给工厂活，给中间商买卖的赚钱机会。

硅谷工匠 发表评论于 2024-02-06 19:34:42

有读者认为生物很神秘。我同意。有人认为现在人工智能很原始，我也同意。但是有一点，就是仿生并不需要完全了解科学的一切细节。比如飞机是仿鸟，但是比鸟飞的好。我们从ML训练机器上看出一点-人的大脑可能是很高级的计算机，可是我们给大脑配的软件太差。差到什么？差到清华大学毕业谷歌工作的老两口子能一句话都不能认同。传统这叫教育，其实就是对人脑的训练。训练很不够。

gwangmsn 发表评论于 2024-02-06 17:20:12

人类最终会不会变成蜂皇一样，只成为生殖机器？

阳光单宁 发表评论于 2024-02-06 11:31:40

大脑没什么太神秘的
--------------------
是吗？就是蚂蚁的大脑也还没搞明白呢！

JustWorld 发表评论于 2024-02-06 07:57:29

言之过早。

硅谷工匠 发表评论于 2024-02-06 07:33:58

谢谢大家评论。训练机器，我们用的是科学。训练人，我们用的是感觉和几句“俗话说的好'。机器和人怎么比没法说，人类识别一个猫是猫也许只要一分钟，但是，人类经常做出很多很蠢很错误的决定，包括很多学霸和知识分子。这就是因为（1）人读的书和走的路都太少，都太自以为是。越是什么都不知道，越是感觉什么都知道（2）人没有靠经验训练的机会。每个试错的代价很大，所以人的决定大部分很脆弱。是考虑怎么改造学校体系，让世界成人辈出的时候。现在的教育，误人子弟。

何时归故里 发表评论于 2024-02-06 05:32:16

人的生物属性和机器ai决定了学习路径不一样，这不是很正常么？别太教条了。一个东西在 Ai上效率高，不一定在人身上效率高。

清漪园 发表评论于 2024-02-06 05:12:27

工匠兄深谋远虑，赞！AI开启的新时代目前只是一个非常原始的雏形，现在仅仅是个开始，以后的发展非人类目力所及。

歲月沈香 发表评论于 2024-02-05 23:37:45

现在的人类的确生病了，需要重新审视自己，获得自癒能力。谢谢居士分享！春节快乐！

泥川 发表评论于 2024-02-05 22:40:41

当人们仰视AI时，AI深度学习的先驱Yann LeCun最了解其局限，他说：

“今天的AI远未达到人类水平。
任何一个17岁的学会开车，只需20小时训练。
任何一个10岁的学会收拾餐桌，只需一次示范。
任何一只猫都可以计划一个复杂的行动。”

现在AI自动驾驶经过几千万里的训练，还远不如一个只开过几千里的人。
要获得人读几本书就能掌握的知识，AI要读几万本书。
AI有上千亿参数，运行需要一个小城的电力,上万吨冷却水。而人呢，即使聪明如爱因斯坦，也只需几个面包，一杯水。

关于现在的AI，Yann LeCun说：“Something big is still missing."

modems 发表评论于 2024-02-05 21:09:03

危言耸听

您的位置： 文学城 » 博客 »AI来了：人的训练教育需要打破重建

AI来了：人的训练教育需要打破重建

2024-02-05 20:22:35

硅谷工匠

理工男到创业者蜕变后感悟。来美三十年的感悟。工学院终身教授。五年六十次飞越太平洋，一年五十次深圳。

首页 文章页 文章列表 博文目录

给我悄悄话

打印(被阅读 2368次)

该是人向计算机学习的时候了。

2024, 永远不要再感觉人类有什么优越。人，只是一个有机的计算机驾驭一个高级的机器人而已。把nvidia的芯片装在tesla的人形机器人里，给他一些ego，也会觉得自己很棒。有机的身体长大，叫“大人”。心智成熟，有机计算机训练完成，叫“成人”。

现代社会，所谓“高等教育”是非常肤浅的。这是看到我们怎么训练AI以后，我得出的结论。

 

advertisement

 

 

是时候彻底重新定义教育了。否则人对不起我们创造的机器。

为什么这么说？

1. 计算机才是绝对的学霸。下围棋的AlphaGo可以看几万了人类棋手的案例，然后再自己和自己下三千万盘，自我学习，自我实践。计算机的聪明，都在于见多识广。相比什么神童学霸，美女学霸，在计算机学霸面前，都只是甘拜下风。人类棋手，看几本书就已经很罕见。

2. 计算机人工智能训练，使用的是神经网络模型。这个模型揭示了人类神经系统的神秘。这个模型虽然功能还很有限，但是他是靠反复重复学习和调整大约上万个内在的参数（权重）。每一个参数都有微妙的内在联系。可以说，牵一发动全身。现在的机器语言模型把人类所有已经发表过的东西作为输入。上百万台机器每天没日没夜的分析。那我们人呐？我们每天读了几张报纸没有？每个人还都牛逼哄哄的自以为是。没读几本书，叫自己“文化人”，还拿几个“古训”说事。可笑不？

人的训练，比起我们给机器的训练，太初级了。

一个神经网络可以用一个多层的处理器表达，在层与层之间数据阵列表达靠阵列数据。每个节点之间有可调权重的链接。这几万个权重模型，需要经过反复训练才能自我调节（此为“深度”学习）。

相比之下，人的学习是不是太简单粗暴了？我们的大脑经过多少书，多少社会经验，多少人生拼搏，多少人生阅历，才能真正说”调好了“。

我们的清华学霸，学了点编程，拿个学位，进入谷歌，就志得意满了。我们的训练早就完成了，我们早就是人上人了。我们的每一个决定都是正确的。

现在是怀疑这个结论的时候了。

 

advertisement

 

 

举个例子，如果用一个convolutional neural net 神经网络模型确定一个网上商店应该推荐给谁，这个算法是计算机自己计算出来的。人类已经不知道内部规律了。如果你是这个网店运营，那么你修改一个东西或者一个网页内容，都会彻底改变推荐的结果。

通过学习我们对AI的训练，可以说揭示了人类自己训练不足。

不仅有machine learning，也有HL（human learning）。小时候饭桌上你妈对你的一次谴责，上学时候考了高分得到的满足，每一件事情都调整我们心里的权重。这些权重的组合叫做“三观”。

每个人的三观，其实都是靠很少的几件事情定了基调。也就是说，我们每个人受的训练，其实都很少。我们每个人的三观，其实都可能是错了，其实都很脆弱。

为什么是时候改变人类的教育了？

1. AI训练，揭示我们人类大脑的利用率极低。人的大脑，就是一台发育不完全的计算机。永远不要再说什么我们比计算机优越。人就是一台有机物组成的计算机。在黄仁勋的nvidia成功后，在neural link可以对大脑实现读写以后，大脑没什么太神秘的。我们人类会去训练每一台计算机，但是人自己对自己就没有那么严格的训练了。

我们的训练，不过是背几首唐诗，学十年的课本，独生子女学会做番茄炒蛋，记忆课本里面的细节，会算几个3乘以3的矩阵，我们就会说，你，哈佛毕业了，可以去谷歌华尔街拿高薪了，可以去玩了。以后我们叫你美女学霸，一生尊敬有加。

2. 每一个人，从婴儿时候就相当于一台刚出场的nvidia芯片。只有硬件，没有任何算法，记忆，和逻辑。如果一个AI算法有上万个可以调节的knob，那么我们人的调节真的是太简单粗暴了。

 

advertisement

 

 

比如你让一百个人，给他看十个政客的照片，然后让他们把这些政客分类成“好人”和“坏人”，每个人脑子里的所有生活经历就都构成了他或者她独特的算法。也就是说，我们每个人的经历，三观，都是决定我们的算法。我们自己可能都不了解自己，也不知道自己的决定是怎么做的。就像一台电脑不知道自己的决定是怎么来的。我可以肯定，有一百个人，就会有一百种答案，五十种投票结果。大家还会为谁是“好人”“坏人”吵得不可开交，在社交网络上把自己很不成熟的思想表现出来。

其实吗，谁也都不对。你的”决定“只是你自己的网络算出来的。而你自己的神经网络，也就是从你念书，家庭，父母，工作里慢慢训练出来的。

我们对计算机要求很苛刻。比如让计算机认一个手写的“9”，然后如果计算机说是“7”，那人是不会善罢甘休了。我们会很快知道这个算法失败了。换个角度，如果拿一张拜登的照片给很多人看，有的人会说“总统”，有的人会说“骗子”。这里确实没有一个绝对标准。但是一个不可否认的事实，是每一个做决定的人，可能也都没有经历完全的“训练”。说别人片面和愚蠢很容易，但是意识到自己也很片面和愚蠢，是很难的。

这里看出，人类每个人都是一台生物计算机。而我们的“生物计算机”的"训练“是由很多要改进的地方。

比如

1. 人的训练要靠实践（experience），而不是靠读几本书。AI时代告诉人了，靠读几本书就说“教育好了”的时代结束了。

2. 人的训练需要有一个标准。这样才能保证每个生物计算机的训练完成了。以前这个事情是靠信仰和价值观传递的。一个人靠骗术上位，所有人都群起讨伐，那就是一个”9“就是”9“的一个输入-输出的calibration。一个社会这样的calibration没有了，每个人的思想都会产生意想不到的结论，甚至很多人会hallucinate。

3. 计算机会把几千年世界历史，所有的书，所有的音乐都看完，才会下一个结论。而我们人那，很多人除了课本什么也没有看过，但是下结论都是杠杠的。

每一个人对每一个事件都有不同的意见，不一定是什么好事情。这就像你把一个手写体的“9”给十个计算机看，每个计算机都有自己的结论一样可笑。

说这些废话有什么用？当然就。就是为了“避免悲剧”。

比如。

硅谷谷歌清华一对夫妇的事情，就是对一个事件有了两个不同的结论。大家谈不拢，鸡同鸭讲。这可以说是人性自由，也可以说是教育没完全。什么学霸才子，在计算机面前，都只是开始受训的芯片。两个没有训练完全的计算机，就被派了大用，最后就是要很快出错。因为，机器没有调好，清华教育很差（但别的学校也没浩多少）。

人太容易自满。这个在AI时代，计算机会打破人类的自豪感。我相信，计算机AI时代会对人本身产生根本性的，千年不遇的一次深度变革。

一个社会没有信仰，就像千百了nvidia的芯片随便训练一下就上路驾驶了一样可怕。信仰，圣经小故事，每一个都是人类的训练。全靠“妈妈小时候说的”“子曰诗云”，“高等学府”远远不够。把一个新人训练成“成人”，是一个任重道远的事情，不可能二十年读几本课本就完成。

作为一个教育工作者，我感到AI时代是人类重新审视自己的时候了。结果不应该亚于一次文艺复兴和法国大革命。