Reading notes of Brain and Behavior (III)

在这一章，我仍然惊异于人类大脑这个模拟模态机器的惊人的通信效率和信息表示/压缩效率。人类大脑的养成和运作也和神经网络的设计和训练多有相似。一些例子包括：

• 一个三岁孩童的大脑有一千万亿个神经突触，然而在成长的过程中经过自然剪枝过程后降低到一百到五百万亿（总量的1/10到1/2）。
• 神经间的通信的速率基本是每秒七次，并且从不会超过每秒五十次。（想想一台普通电脑的主频，2GHz）
• 人类大脑内的神经网络对信息的编码是基于概率的群体编码，和一个神经周围的神经的激活模式有关。（想想图神经网络中数据在不同层的图节点间的扩散）
• 人类大脑内的感觉性神经细胞和行动类神经细胞都很少，恰似使用代码设计的神经网络，在很少的输入和输出之间，是大量的中间传输层。那里多变的模式使得人类的大脑以及神经网络能够表达种类繁多且纷繁复杂的信息。

现在我们知道，人脑内部的电化学结构是使得突触能够传递信号的原因，同时基于群体的激活从概率上能够精确的表达信息。那么，大脑最后的秘密就是这些信息是如何被解码，从而让我们通过大脑理解这个世界并对它做出反应。OK，让我们继续旅程。