第 26 节 脉冲神经网络的基本原理(第1页)

脉冲神经网络使用脉冲的方式与生物神经元类似。除了神经元的状态和突触权重之外,SNN 还将时间概念纳入到它的操作模型中。在这些神经元中,没有固定的传播周期,因此每个神经元仅在其状态达到特定阈值时才发出输出峰值。因此,这些网络中的信息流是脉冲序列,在神经元之间异步传播,并且脉冲之间的时间相关性至关重要。

让我们先来看一下生物大脑的机制。生物神经细胞(神经元)的细胞膜在没有受到刺激的时候,细胞膜内外两侧存在外正内负的电位差,形成一定的电位。当诸如钾和钠之类的离子通过通道进入或离开时,神经元会改变细胞膜电位。膜电位与离子电流的关系具有非线性特性,当超过一定的阈值时,输出是非常窄的脉冲,启动这种脉冲常被称为激发(Fire)。神经元通过被称为突触的连接进行连接,当从另一个神经元输入脉冲信号时,会在神经元内部产生与突触的连接权重相对应的效应(突触后电位),并且将被添加时间印记。

神经元内部和包括离子通道在内的突触具有非常明显的非线性特征,但是,在 SNN 中,这些细节被简化成一个简单明了的模型,如图 5.1 所示。一个神经元有许多输入脉冲,并在超过触发阈值时输出一个脉冲。从图上可以看到突触电位随着时间会有一定衰减,这是考虑了电路里 RC 时间常数的漏电效应,因此这个模型被称为漏电整合-激发(Leaky Integrate-and-Fire,LIF)模型,是目前使用最多的一种基本模型。根据对生物保真度的模仿程度,现在研究人员已经又提出了一些新模型,本书不再赘述,有兴趣的读者可自行查阅。

图 5.1 SNN 中的脉冲神经元模型

图 5.1 SNN 中的脉冲神经元模型

典型 LIF 神经元的膜电位随时间的变化如图 5.2 所示。当脉冲输入神经元,即 x i (t 1 )=1 时,与该脉冲相关的突触权重 w i 将在膜上整合。当膜电位 V m 超过阈值 V t 时,神经元激发(即 y i =1)并重置其膜电位。对
(本章节未完结,点击下一页翻页继续阅读)