本书前面几章提到的深度学习加速器是当今 AI 芯片的主流。尽管近年来 DNN 取得了令人瞩目的进步，但与人脑相比，它们在效率（速度和功耗）方面的表现仍然不够好，因为在信息编码方面与人脑相去甚远。在生物大脑中，信息以连续的方式及时处理，而不仅仅是 DNN 系统所处理的一幅幅静态图像帧。此外，在传统的 DNN 中，计算不同神经层的输出以顺序方式进行，每层都必须等待，直到计算出上一层的输出后才能执行该层计算，从而在网络中引入了明显的时延。
相反，在生物大脑中，生物神经元以脉冲的形式将信息传递到下一个神经元层。每当神经元发出脉冲信号时，脉冲信号就会传输到所连接的神经元进行处理，这时仅有突触连接时延，信息编码极其高效。大脑高度非线性地工作。在大约 870 亿个神经元中，每个神经元在外部和内部都与其他神经细胞有多达 10,000 个连接，在内部承载着数十万个协调的并行过程（由数百万个蛋白质和核酸分子介导）。
与当今最先进的系统相比，模仿大脑结构的芯片具有更高的效率和更低的功耗。模仿这类大脑行为的神经网络常被称为神经形态网络，其代表则为脉冲神经网络（SNN）。这种被称为第三代神经网络的出现，就是为了弥合神经科学与机器学习之间的鸿沟，使用生物学上逼真的神经元模型进行信息编码和计算，以充分利用神经网络的效率。
与基于深度学习的 AI 使用的模型相比，深度学习所基于的大脑模型，是极度简化了的大脑神经元及其连接电路，而神经形态的特征是使用更忠实地模仿大脑行为的模型。虽然「人工神经网络」一词最初是指涵盖上述两种类型内容的广义概念，但是现在一般分成了深度学习（深度神经网络，DNN）和神经形态计算（脉冲神经网络，SNN）两大类，对应的 AI 芯片分为深度学习 AI 芯片（深度学习加速器）和类脑芯片。
（本章节完结）
正在加载...