国华的世界

这是国华对读过的书, 看过的电视/电影, 听过的音乐, 访游过的地方, 经历过的事物, 和时事的感想或点评.
个人资料
国华P (热门博主)
  • 博客访问:
正文

黄氏定律接替摩尔定律?

(2020-10-15 08:31:41) 下一个

相信许多人都熟悉“摩尔定律”这个术语,即集成电路上可容纳的晶体管数目“每18个月增加一倍。”在过去的几十年里,摩尔定律一直是许多科技公司在提高晶体管密度方面的一盏指路明灯。笔者在发于9月28日的一篇名为“第三代半导体碳基芯片 (I) 摩尔定律终结”的博文中写道“现在的硅基芯片 (集成电路) 工艺制程发展至5nm (纳米),乃至3nm、2nm、 1nm,已经已达到了原子等级,接近物理极限,逼近 (集成电路) 工艺制程瓶颈 (图 Google Images)。有鉴于此,学界和业界研究者使出浑身解数,通过改进晶体管架构、改良制造设备等来为摩尔定律‘续命,’ 尽量延缓摩尔定律的终结。” 然而,无论是科学家还是半导体业界,都在担心摩尔定律不再适用这一天真正到来时,半导体产业将就此停滞。

其实,无论是科学家还是半导体企业都在努力寻找硅基半导体的替代品。如博文“第三代半导体碳基芯片 (II) 碳基半导体”注意到,碳基半导体材料被认为是取代基半导体的最佳材料。“第三代半导体碳基芯片 (III) 美中争先”一文显示人类,尤其是中美两国的科技人员,正在这方面取得进展。令人兴奋的是除却碳基半导体,阐明人工智能与芯片性能提高关系的“黄氏定律”很可能会是继著名的摩尔定律后,又一揭示半导体材料发展的指示灯。

“黄氏定律”是华尔街日报专栏作家米姆斯 (Christopher Mims) 发明的一个术语,它指代英伟达/辉达(NVIDIA)公司创始人兼首席执行官黄仁勋 (Jensen Huang) (图 Google Images) 对比GPU (图形芯片) 与CPU在处理人工智能时的优劣表现后,总结出来的规律,即人工智能提供动力的硅芯片每两年将性能提高一倍以上。

英伟达/辉达公司创始人兼首席执行官黄仁勋 (Jensen Huang) 在CES 2019 (消费电子展) (图 Google Images)上表示,传统的CPU在处理人工智能所需的所有必要任务时通常是无效的,“摩尔定律过去是每5年增长10倍,每10年增长100倍。而如今,摩尔定律每年只能增长几个百分点,每10年可能只有2倍。因此,摩尔定律结束了。” 他强调由于技术的飞速发展,GPU更适合于这些任务,因为它们的核心计数明显更高,并且能够并行处理少量数据。它假设用于人工智能(AI)的芯片的功率每年至少翻一番。黄仁勋指出,GPU有它自己的定律,无数的软件和硬件的发展使这一定律成为可能。

就像“摩尔定律”当年并非由戈登·摩尔取名那样,黄仁勋没有为他的这一理论命名。华尔街日报专栏作家米姆斯概括了黄仁勋的理论,认定新定律大致是,驱动人工智能 (AI) 的硅晶片效能,每两年可提高逾一倍。米姆斯以黃仁勋为名,將这个規律命名為“黃氏定律” (Huang's Law)。

众所周知,GPU晶片可同时处理许多任务,即黄仁勋所说的并行处理少量数据。某些 (包括AI相关的) 任务,可透过GPU 晶片以更低功耗分割並更快处理。而传统的CPU则擅长快速处理单一任务。英伟达/辉达首席科学家兼研究部门資深副总裁达利 (Bill Dally) 指出,2012年11月到今年5月,英伟达/辉达的晶片效能在一些AI運算的重要領域中提升了317倍,也就是说這些晶片的效能平均每年增加一倍以上。总部位于加州圣地亚哥 (San Diego, CA) 的自驾卡车创新公司图森未来 (TuSimple) (图 Google Images) 表示,该公司採用Nvidia AI晶片的系統,效能每年都增加一倍。

如今人工智能 (AI) 晶片已成为大至自駕交通工具、小到个人裝置的脸部,语音和物体辨识等各方面的重要元素。随著 AI 从云端移轉到终端裝置,Nvidia AI 晶片的系統/“黃氏定律”正以惊人的速度发展,从臉部或語音辨識、手机、各种智能产品、到自驾車、自驾船、到城市与工业设施。

与此同时,必须承认即便英伟达/辉达专长的GPU可以同时高效率运作多項任务,但在某些AI运算应用上,如果少了其他业者的帮助,Nvidia AI 晶片也会黯然失色。正如米姆斯指出那样,英特尔不是推动摩尔定律的主要推手,英伟达/辉达也非“黃氏定律“的唯一推动者。在某些应用上,英伟达/辉达的AI运算必须要与其它晶片搭配应用,方能持续实现“黄氏定律”的两年将性能提高一倍以上的规律。这方面的例子比比皆是。

以自驾车为例,虽然基本上是以 AI 人工智能为核心,但系统运作时仍然少不了传统的 CPU 运算。而英伟达/辉达首席科学家 Bill Dally 也坦承 (图 Google Images),当工程师大幅提升某部分的运算時,其他无法再加快的部分就会成为瓶颈 (需要CPU晶片解决?)。圣地亚哥自动化卡车新创公司图森 (TuSimple) 的创建人之一、首席技术官、人工智能专家侯晓迪 (Xiaodi Hou) (图 Google Images) 就指出,即使是自驾这种已定型以AI為中心的功能,系统运作的大部分核心仍少不了CPU。因为GPU也有其局限性,特别是在功耗方面。而以色列 AI 初创公司Nexar 联合创始人兼 CEO依兰·谢尔 (Eran Shir) 也說英伟达/辉达在云端 AI 运算几乎垄断,但当两年前Nexar在云端上执行40%的数据运算时,ARM的晶片就可以让他们在行动裝置上进行更快、更大量的边缘运算。

现在英伟达/辉达的GPU已经普遍存在于数据中心,并用于深度学习,这是一个教人工智能执行任务的通用术语。这可能包括模式识别等过程。这与在终端设备上进行的人工智能推理不同。推理是学习任务的应用。GPU也可以可以用于推理,但是AI加速器可以更好,因为它是专门为“加速”AI工作负载而构建的。ARM多年来一直致力于开发人工智能加速器以及一个机器学习软件库。ARM也將会是持续为提高AI速度提供必要零组件的关键厂商之一。这或许是英伟达/辉达为何会以400亿美元收购ARM的原因之一,因为这次收购将让英伟达/辉达获得ARM的人工智能能力 (图 Google Images)。 毫无疑问,这一理论并不是英伟达收购ARM的唯一原因。

当然就业界现状来说,黃氏定律仍需要相当时间来让自己像摩尔定律那样管用,其所提及的运算处理能力也不适用于所有情境。晶片制造商真正按黃氏定律开发出功能更全面的产品,恐怕仍有很长的路要走。黄氏定律也未必有摩尔定律那样的寿命,黃氏定律未來也会终结。ARM机器学习集团产品营销副总裁史蒂夫·罗迪 (Steve Roddy) 甚至认为,虽然黃氏定律能让自驾车、智能工厂、智能家庭等等 AI 应用很快成为现实,但黃氏定律能的寿命也就10年左右。

* 诚邀专家,学者,懂行,和感兴趣的博友分享你对此的见解和观点意见。

参考资料

Goetting, B. (2020). Advancing AI And ‘Huang’s Law’ Could Be Why NVIDIA Moved To Acquire Arm. Hot Hardware. 链接 https://hothardware.com/news/huangs-law-could-be-why-nvidia-moved-to-acquire-arm

Mims, C. (2020). Huang's Law Is the New Moore's Law, and Explains Why Nvidia Wants Arm. The Wall Street Journal. 链接 https://www.wsj.com/articles/huangs-law-is-the-new-moores-law-and-explains-why-nvidia-wants-arm-11600488001

[ 打印 ]
阅读 ()评论 (4)
评论
国华P 回复 悄悄话 回复 '破棉袄' 的评论 : 谢谢分享你的想法。以华人命名的定律还是挺鼓舞人心的,我觉得。
国华P 回复 悄悄话 回复 '武胜' 的评论 : 谢谢发表你的观点。
破棉袄 回复 悄悄话 搞一个和“摩尔定律”类似的定律,重新命名,没啥劲
武胜 回复 悄悄话 “定律"一词被滥用。
登录后才可评论.