万里千人

理工男到创业者蜕变后感悟。来美三十年的感悟。工学院终身教授。五年六十次飞越太平洋,一年五十次深圳。
个人资料
正文

疯狂的三维芯片堆叠封装术 - 为AI,都拼了

(2024-11-01 17:01:31) 下一个

古有精雕核舟,今有三维芯片封装。

Hynaix, TSMC,Micron,长江存储,在混战。

比的是人才,是管理。有了这些,你才能赢。

如果你是打工人才,建议你学以下三个:数学,编程,半导体物理。

日本有句古话:你比别人早看三天,就比别人富有三代。AI,就是干这个用的。芯片,就是为了支撑数学。数学,就是为了支撑”模式建立“和“判断”。

从前有一个伟大的人脑,拥有一千亿个神经元(100 B)。现在台积电的芯片,已经有200B三极管valve。计算机,真的不需要再仰视人了。计算机可以有trillion transistor,而且它每天晚上都不睡! 读书,对抗,学习,继续对抗,直到可以打赢别的计算机。

有网友问,工匠博士教授主任老板,您怎么看AI?我说,每个人的生命都会改变。

本文分三部分:

1. AI是真的?哪部分是真的?

2. AI带动芯片封装去哪里?

3. 疯狂的HBM

AI是真的?

未来世界,信息为王。试想两个场景。

您去买车。您想买一辆好的车,价钱便宜,价值保留的好。

第二个场景,你的公司要雇佣一个CTO或者technical director。

第一个场景,您可以上网疯狂的查和学习,可是您的知识还是不可能够用。如果您去选车的时候有一个类似苹果头显的东西,告诉你二百个选择里面哪个最好,那不是很好?

AI 能告诉你,那些你不知道你不知道的事情。

市场上很多车,很多品牌,大小,新旧,颜色,保养历史,售价。

如果有一个上帝,上帝知道哪辆车最好,在哪里,可是你不知道!

人以后,或者有钱买“上帝知道的”,或者就是“吃一堑长一智”。

AI可以从所有过往的销售数据,知道哪个牌子,哪个颜色,哪个过去的车主,最靠谱,价格最合算。这就需要算!

AI的算,就是要大量的比对模型,要知道,没有人知道是一个红的丰田还是一个黑的奔驰更好,但是数据是存在的。计算机以后就是数据发掘和数据整理的大师。当然,数据本身是需要花钱的。

所以说,AI是真的。AI改变人类的所有习惯 - 以前的什么读书,学习,工作,经验,都已经过时了。您如果不是含着数据库生下来的,您以后就是剩下来的。

 

说说第二个场景。

以前,您好好学习,开创企业,也许能上市,然后继续增长。某一天您公司知识不够用了,需要一个新的技术总监。您需要上网招聘。

这是过去的玩法。

现在,从您开创公司的前一百天,知识的神就早就知道未来的一切,包括你的选择,你的成长空间,你的商业模式,你的竞争对手。以前您可以说,这些我都不知道啊!

现在这句话不灵了。有了大数据,您这些“我不知道啊”的借口都成了空话。您不知道,就是因为您没钱买数据!以前需要一辈子积累的知识,经验,和钱,原来知识别人生下来就用的数据。

至于您要找的这个主帅,知识之神知道是谁!关键是,知识之神不告诉你。您如果有AI,有数据库,有知识的算法,是很容易的。

AI如何带动芯片业?

人工智能,核心就是矩阵行列式计算。而且结果是“算后就扔”。化上百万研发一个算法,只是为了“玩玩试试比较一下“, 看看work bu work。

这需要不仅CPU和GPU,还需要高速的存储。一个一百万乘以一百万的矩阵,就是10的十二次方大小。每一个数字都换一遍,算你八位存储,每一次变换是一个微秒(10的-6次方),就是半个小时。而且这只是复杂的CNN运算的一个很基础的一步。要建立一个大矩阵大语言多参数模型,计算量基本是千年起算。

除了CPI的鼻祖英特尔混的很差,GPU领头羊nvidia混的很好。另外就是韩国企业SK Hynix。 SK是高频存储的赢家,他家的芯片被nvidia堆叠在GPU里面,从而加入了TSMC的俱乐部。他家的芯片,已经堆叠到了十六层。

疯狂的三维高速存储

三维高速存储,加上chiplet的堆叠,是兵家必争之地。和以往不同的是,以前二维CPU厂家(比如TSMC,UMC,SMIC)和封装厂(比如以色列的晶方和江阴长电)都是各自玩,属于上下游,没有技术交集。现在,是TSMC开始玩封装。台积电的封装roadmap是这样的(下图)。你不和台积电玩,那就别玩了。

仔细看看图,当年finfet元年,Chengming Hu教授破了摩尔定律,世界欢呼雀跃。现在后摩尔时代,芯片向三维疯涨。没人提摩尔定律了,是因为摩尔定律不够用了!进步太慢了。

这个芯片封装和堆叠,太可怕的。TSV(through wafer via), DBI(double sided interface),无穷的想象力和三维物理。

- 每一个算法,开发费用都是百万美元起步

- 每一个芯片,都是百万美元起步开研

- 每一个晶片,都是十二寸硅片起算,300mm。不仅要平,还要均匀,还要高yield。而且,十八寸也在用了。

说实话,造芯片要的是会动手的男生。以后男生在数学,编程,物理方面都有无穷优势,就看你会不会用!

在一个头发丝上,起码可以刻出上亿个电容

四寸片

八寸片

十八寸片。

感觉新竹确实比东升乡伟大。这就是为什么清华东升乡校区的现在还要出国,可是清华新竹校区的不需要的。

年轻人,老人,中年人,都努力吧。

[ 打印 ]
阅读 ()评论 (15)
评论
硅谷工匠 回复 悄悄话 回复 'dhyang_wxc' 的评论 : In retrospect, DARPA ETO funded semiconductor club for decades. It was critical.
dhyang_wxc 回复 悄悄话 回复 '硅谷工匠' 的评论 :

呵呵,是呀,你前面提到Thanks to DARPA funding,DARPA是幹嘛的——都是應然。冷戰也行,眼見著有新發展。

二戰使世界給了原子彈們前所未有的尊敬,计算机,雷达們曝光少,得到尊敬和重視也少。三戰估計該輪到程序猿了,已經看到無人機器的苗頭了。

呵呵,說來難聽,但科學與資本一樣,blood最滋養。
硅谷工匠 回复 悄悄话 回复 'dhyang_wxc' 的评论 : 是啊,人类对存亡和打仗很在乎。计算机,雷达技术都是战时突飞猛进。航母,卫星都是为了战争。卫星以上天,G P S第二天就发明出来了。美国打独立战争,内战,一战,二战。感谢军工集团。
三战以后,会有突飞猛进,量子,神经接口,机器人,钻洞机器,都会十分成熟。
dhyang_wxc 回复 悄悄话 回复 '硅谷工匠' 的评论 :

很驚訝,也很高興看到你提到和平時代。現代科學這個東西,就是低烈度長期戰爭催化出的結果——我認為是這樣並寫在了covid那年出版的拙著裡——但也不止我認為,我也查到了早有西方歷史學家論證了這一點。

硅谷工匠 回复 悄悄话 回复 'ctaag' 的评论 : 英特尔刚刚被移出dow index
硅谷工匠 回复 悄悄话 回复 'dhyang_wxc' 的评论 : 我们公司的量子部门,就是搞不出sales和profit。量子纳米这些东西和平时代确实是花瓶。National Nano Initiative也就是C O V I D风光了一次。量子世界大战时候有用。
dhyang_wxc 回复 悄悄话 好文。

量子計算如果發展起來了,倒騰矩陣就快了。但能達到真正的AI嗎?我個人觀點認為,不能。數學有個問題,就是無限可能,但現實只有一個。一個微小的邊界條件設得不對,整體就會偏離,雖然數學上一點問題也沒有,參見《海森堡談理論、批判與哲學》。

呵呵,跟文章關係不大,題目扯遠了。
HBW 回复 悄悄话 真是货真价实的帖子!
ctaag 回复 悄悄话 A very nice intro; thank you! Intel, what a pity! It just doesn't seem like they'll be able to make a comeback.
暖冬cool夏 回复 悄悄话 涨知识了!虽然没有完全读懂:)从AI打败顶尖棋手开始,人类就应该醒悟了:)周末快乐!
桃花源里人家 回复 悄悄话 谢谢详尽介绍和解释。
野性de思维 回复 悄悄话 有趣。谢谢信息分享!
硅谷工匠 回复 悄悄话 回复 'dengzc1971' 的评论 : Yes. Thanks to DARPA funding. Hu later advised tsmc.
dengzc1971 回复 悄悄话 Prof Chenming Hu?
少而精 回复 悄悄话 well said and summarized! 谢谢!
登录后才可评论.