Deep Neural Network基本就是一个树形结构的信号处理,把一张帽的图像变成一个(010) 然后把一个狗的图像变成一个(100)。
以下是目前最时髦的alex net深度神经网络,用于识别猫。但是,人的大脑肯定不是这样干的。首先,人脑里面应该没有“卷积”这个操作。其次,人脑耗电量极小,而且学习效率肯定要快的多。没有一个人需要看那么多张猫的照片才能“学习”。我们看一只猫就够了。
其实人对于猫狗的识别是用生物神经网络。对于生物,我们知道的很少。很多我认识的玩“neural biology"的牛人,一问真的问题就一问三不知的搪塞。 没办法,半导体工程师需要自学一点神经学。
人的视网膜是这样的。这个结构,已经神奇的无法更神奇。但这只是开始。视网膜有六百万个cone,识别三原色。另外有一亿两千万rods,用于识别光的强度。这些cone和rods,都是特殊形态的神经元。
视网膜的讯号,通过弯弯绕的回鹘传到脑灰质。
真正的深度神经网络,发生在脑白质里。脑白质是axon,脑灰质是neuron。
脑白质的光学图像如下
在脑白质里面,神经的密度应该是极大的。都是电子和化学物质的接触。脑白质里面神经元密度是大约每立方厘米1000个。每个神经元是一百个微米大小的立方体。严格来说一百个微米够装一千个三极管。但是半导体基本是二维的,所以总体密度远远不如脑白质。
Structures near surface of cerebral cortex.
不同动物的脑体大小不同。其实人的也不是特别大。猪和狗已经很聪明了。鲸鱼的脑子很大是为了处理反射声波的信号处理。这个嘛,AI够不够海军用的?但是大象的脑子为什么那么大我们就不知道了。有人说是为了象鼻子的触觉信号处理用的。这些里面只有人的手指是分开opposable的,只有人可以“制造”。其余我们和海豚也差不多。
顺便提以下,神经元的基本结构,一般认定是这样的。这个三维的软性材料组成的单元,是人间的奇迹。看了这个,工程师可以相信上帝的存在。这是鬼斧神工,这是神迹。人类是很难reverse engineer出来的,因为都是纳米工程,靠蛋白质自组装出来的。
神经突触之间的接触,是化学物质完成的。是靠带电分子,而不是电子。这个大概不必深究。
神经信号的encoding,据说是靠spike。这样比较省电。信号action potential大概是靠spike的积分产生的。具体细节大概也不必深究。
There are more connections in our brain than there are stars in our galaxy.
所以,生物神经比台积电的半导体还要领先最起码二十年不止。那时候,硅谷工匠已经不久于人世了。
Our perception of the world is an illusion. Our eyes move three times a second, and we "interpret" the whole picture using partial scans.
We never see the blind spots. They are filtered out and repaired by our brain's experience.
马斯克的neural link,也是植入脑皮层
神经束的结构,类似电缆,只不过信号是波
有关神经记忆,存在一个动态链接起来的neural assembly.
有一个概念叫mindscape,就是一个共享的思维空间。类似我们共享宇宙空间,mindscape是一个空间。你的想法和发明,都会“存到里面”。这大概就是“意念”。
有人说,我很牛,我不信。请相信,我们人是一个封闭的大脑,靠几个传感器感知和构建环境。这个环境是会“骗”我们的,也就是说,我们认为的环境,是一个自圆其说的骗局。
一个人对世界,自己,宇宙,语言,文化所有理解,都是一个藏在头颅里面的肉身自己骗自己。如果一台苹果手机开始想,周围的一切都是我的,你会十分好笑。但是,我们每个人就是这么可笑。
先写一点留个笔记。后续再发现。请留言。