1、 基于高低阈值的脉冲神经元抗噪学习算法*杨 静1,徐 彦2,姜 赢1(1.北京师范大学人文和社会科学高等研究院,广东 珠海 5 1 9 0 8 7;2.南京农业大学信息科技学院,江苏 南京 2 0 1 1 9 5)摘 要:脉冲神经元的动态阈值学习算法在训练神经元的过程中通过改变阈值的大小,可以有效提高神经元的抗噪能力。然而,动态阈值的使用又会降低神经元的学习精度,且在与基于梯度下降的学习算法结合使用时容易导致神经元沉默。基于此,提出了一种改进的基于梯度下降的高低阈值抗噪算法,使用高低阈值来避免神经元的学习精度损失,并在神经元沉默时使用虚拟激发脉冲来继续学习过程,同时使用动态的学习速率来降低高低
2、阈值对学习周期的影响程度。实验结果表明,该算法可以显著提高神经元的抗噪能力,并且能够保证学习精度和收敛速度,适用于基于梯度下降的脉冲神经元学习算法。关键词:脉冲神经元;高低阈值;梯度下降;抗噪能力中图分类号:T P 3 9 1.4 1文献标志码:Ad o i:1 0.3 9 6 9/j.i s s n.1 0 0 7-1 3 0 X.2 0 2 3.0 8.0 1 7A S p i k i n g N e u r o n s n o i s e-r e s i s t a n t l e a r n i n g a l g o r i t h m w i t h h i g h a n d l
3、 o w t h r e s h o l d s YANG J i n g1,XU Y a n2,J I ANG Y i n g1(1.I n s t i t u t e o f A d v a n c e d S t u d i e s i n H u m a n i t i e s a n d S o c i a l S c i e n c e s,B e i j i n g N o r m a l U n i v e r s i t y,Z h u h a i 5 1 9 0 8 7;2.C o l l e g e o f I n f o r m a t i o n S c i e n
4、c e a n d T e c h n o l o g y,N a n j i n g A g r i c u l t u r a l U n i v e r s i t y,N a n j i n g 2 0 1 1 9 5,C h i n a)A b s t r a c t:T h e d y n a m i c t h r e s h o l d l e a r n i n g a l g o r i t h m o f S p i k i n g n e u r o n s c a n c h a n g e t h e s i z e o f t h e t h r e s h o
5、l d d u r i n g t h e t r a i n i n g p r o c e s s,w h i c h c a n e f f e c t i v e l y i m p r o v e t h e n o i s e r e s i s t a n c e o f n e u r o n s.H o w e v e r,t h e u s e o f d y n a m i c t h r e s h o l d s c a n r e d u c e t h e l e a r n i n g a c c u r a c y o f n e u r o n s a n
6、d e a s i l y c a u s e n e u r o n s i l e n c e w h e n c o m b i n i n g w i t h t h e g r a d i e n t-b a s e d l e a r n i n g a l g o r i t h m.T o a d d r e s s t h i s i s s u e,a n i m p r o v e d g r a d i e n t-b a s e d n o i s e-r e s i s t a n t l e a r n i n g a l g o r i t h m w i t
7、h h i g h a n d l o w t h r e s h o l d s i s p r o p o s e d.T h i s a l g o r i t h m u s e s h i g h a n d l o w t h r e s h o l d s t o a v o i d l o s s o f l e a r n i n g a c c u r a c y a n d u s e s v i r t u a l e x c i t a t i o n p u l s e s t o c o n t i n u e t h e l e a r n i n g p r
8、o c e s s w h e n n e u r o n s a r e s i l e n t.A t t h e s a m e t i m e,a d y n a m i c l e a r n i n g r a t e i s u s e d t o r e d u c e t h e i m p a c t o f h i g h a n d l o w t h r e s h o l d s o n t h e l e a r n i n g c y c l e.T h e e x p e r i m e n t a l r e-s u l t s s h o w t h a
9、t t h i s a l g o r i t h m c a n s i g n i f i c a n t l y i m p r o v e t h e n o i s e r e s i s t a n c e o f n e u r o n s w h i l e e n s u r i n g l e a r n i n g a c c u r a c y a n d c o n v e r g e n c e s p e e d.I t i s w e l l s u i t e d f o r t h e p u l s e n e u r o n l e a r n i n
10、g a l g o r i t h m b a s e d o n g r a d i e n t d e s c e n t.K e y w o r d s:s p i k i n g n e u r o n;h i g h a n d l o w t h r e s h o l d s;g r a d i e n t d e s c e n t;a n t i-n o i s e c a p a b i l i t y1 引言越来越多的研究表明人类大脑的不同区域中都存在着基于时间编码的电脉冲序列1。脉冲神经网络通过离散的脉冲信号来表示和传输信息,相比传统的人工神经网络,更加接近真实的人脑活
11、动,具有更强的计算能力2,3。脉冲神经网络的有*收稿日期:2 0 2 1-1 0-2 8;修回日期:2 0 2 2-0 4-0 8基金项目:国家自然科学基金(3 1 8 7 2 8 4 7)通信地址:5 1 9 0 8 7 广东省珠海市金凤路1 8号北京师范大学珠海分校管理学院A d d r e s s:S c h o o l o f M a n a g e m e n t,B e i j i n g N o r m a l U n i v e r s i t y,1 8 J i n f e n g R o a d,Z h u h a i 5 1 9 0 8 7,G u a n g d o n
12、 g,P.R.C h i n a C N 4 3-1 2 5 8/T PI S S N 1 0 0 7-1 3 0 X 计算机工程与科学C o m p u t e r E n g i n e e r i n g&S c i e n c e第4 5卷第8期2 0 2 3年8月 V o l.4 5,N o.8,A u g.2 0 2 3 文章编号:1 0 0 7-1 3 0 X(2 0 2 3)0 8-1 4 8 2-0 8监督学习是通过样本学习使之能够在精确的时间点上激发出特定的目标脉冲序列。已有的有监督学习算法大致可以分为2类:脉冲驱动型和膜电位驱动型。第1类算法通过对比实际脉冲激发和目标脉冲
13、激发来调整权值。例如,基于梯度下降的多层前馈脉冲神经网络多脉冲有监督学习M S G D B(M u l t i-S p i k e l e a r n i n g m e t h o d f o r S p i k i n g n e u r o n s B a s e d o n G r a d i e n t D e s c e n t)算法4,将实际激发脉冲和目标脉冲的误差平方和作为误差函数,并通过梯度下降来调整权值。类似地,L i n等人5首先利用非负对称核函数对脉冲时刻进行转换,再通过脉冲序列的内积来构建误差函数。R e S u M e6,7虽然也是根据激发脉冲来调整权值,但该算法依
14、据的是S T D P(S p i k e T i m i n g D e p e n d e n t P l a s t i c i t y)规则:在目标激发点时刻加强权值,在实际激发点时刻减弱权值。P S D(P r e c i s e S p i k e D r i v e n)8采用了一种不同的窗口函数,但同样基于S T D P规则进行权值调整。第2类算法 是根据神 经 元S N(S p i k i n g N e u r o n)的膜电位大小来调整权值。例如,P B S N L R(P e r c e p t r o n B a s e d S p i k i n g N e u r
15、o n L e a r n i n g R u l e)9和HT P(H i g h T h r e s h o l d P r o j e c t i o n)1 0都是根据膜电位在不同时刻的大小利用感知机规则来调整权值。文献1 1 给出了一种基于膜电位的梯度下降学习算法,在目标激发时刻和非目标激发时刻基于膜电位和阈值的差异来构造不同的误差函数。脉冲神经网络的无监督学习算法1 2大多是基于H e b b i a n规则提出的,并常常被用于解决图像识别1 3 1 5和语音识别1 6等领域中的问题。虽然脉冲神经网络本身具有非常强大的时序信号处理能力,但在实际应用中往往只能解决一些比较简单的问题。
16、主要原因之一是实际应用环境中存在各种噪音,神经元在运行过程中其时间准确性和可靠性都会受到明显的干扰。许多研究人员在神经元学习过程中加入噪音,以提高神经元对环境噪音的抗干扰能力8,但这种形式的抗噪方法在遇到未学习过的噪音或较大的噪音时抗噪效果并不好。文献1 7 给出了一种动态阈值学习算法,该算法在学习过程中采用不同的阈值,但动态阈值又会造成学习精度的损失。基于动态阈值学习算法的固有缺陷,本文提出了一种基于高低阈值的脉冲神经元梯度下降抗噪学习算法。该算法采用一种高、低阈值相结合的方法,同时引入虚拟脉冲来解决动态阈值可能导致的神经元沉默问题,采用动态学习速率来减少抗噪学习算法导致的学习周期的增加。这
17、种算法的主要优点是可以在保证学习精度且不大幅增加学习周期的前提下实现脉冲神经元的抗噪学习过程,为脉冲神经网络的实际应用提供了一种有效的解决方案。2 动态阈值学习算法2.1 神经元模型及动态阈值本文选用S RM(S p i k e R e s p o n s e M o d e l)神经元模型作为研究对象。L I F(L e a k y I n t e g r a t e a n d F i r e)模型和HH(H o d g k i n H u x l e y)模型均可通过求解微分方程的方法转换成类似S RM模型的形式。S RM神经元的膜电位值在运行过程中会随着输入脉冲的累积作用逐渐增加,直到
18、超过阈值,神经元会在该时刻激发出一个脉冲,并且膜电位立即降为0,随后神经元在不应期函数(t)的作用下进入一个相对不容易再次激发脉冲的时期。图1显示了一个S RM神经元的运行过程片段,分别在2 5 m s,3 8 m s,4 6 m s和5 6 m s处各激发出一个脉冲。F i g u r e 1 R u n n i n g p r o c e s s o f a n S N i n S RM m o d e l图1 S RM神经元脉冲激发示意图S RM神经元在t时刻的膜电位由式(1)计算得出:u(t)=Ni=1t(g)iGit(g)it(f r)+Rawi(t-t(g)i)+(t-t(f r)
19、(1)(t)=te1-t,t00,t0 (2)(t)=-2e tR,t00,t0(3)其中,t(g)i表示第i个突触的第g个有效输入脉冲时刻;t(f r)表示最近一次的脉冲激发时刻;N表示神经元输入突触个数;Gi表示第i个突触到达神经元的脉冲时刻集合;wi表示第i个突触的权值;Ra表示绝对不应期长度;()表示反应函数,表示反应函数的延迟常数;()为相对不应期函3841杨 静等:基于高低阈值的脉冲神经元抗噪学习算法数,主要作用是抑制神经元在激发后的膜电位,使其不能连续激发;表示神经元的激发阈值;R表示不应期函数的延迟常数。动态阈值学习算法的主要思想是在训练神经元的过程中使用动态阈值。在神经元激发
20、时刻附近使用较高的阈值,使得神经元的膜电位需远大于原始阈值才能引起脉冲激发;而在远离激发时刻时使用低阈值,使得膜电位需要远低于原始阈值,以避免引起额外激发。算法将神经元的运行时间划分为2个部分:在目标激发点附近的时间to和不在目标激发点附近的时间tn o,如式(4)所示:to=t|ttkd-,tkd+tn o=t|ttkd-,tkd+(4)其中,tkd表示第k个目标激发点,是决定动态阈值使用区间长度的参数。动态阈值由式(5)计算得出:=+n+-+(t-tkd)2,tto-m+,ttn o(5)其中,参数m+和n+分别决定了低阈值和最高阈值的大小,参数+决定了高阈值区间中阈值的变化情况。具体的阈
21、值变化过程如图2所示。图2中的虚线表示原始阈值,实线表示可变阈值,t1d和t2d分别表示神经元的第1个和第2个目标激发时刻。可以看出,在目标激发点附近的动态阈值会随时间逐渐增大到最高阈值,然后又逐渐减小到低于原始阈值。F i g u r e 2 I l l u s t r a t i o n o f d y n a m i c t h r e s h o l d c h a n g i n g图2 动态阈值变化示意图2.2 动态阈值学习算法缺陷使用动态阈值训练神经元可以使得神经元的膜电位在非激发区域远低于阈值,而在激发区域远高于阈值,有效地提高了神经元的抗噪能力。然而,由于神经元在训练时采用的
22、动态阈值和实际运行时神经元的激发阈值是不同的,使用这种形式的动态阈值可能会带来神经元学习精度的损失,并导致出现假学习成功的情况。图3显示了一个假学习成功的例子,其中神经元的目标激发时刻为1 6 2 m s处。在训练过程中,神经元在目标激发时刻附近的膜电位会不断被调整以接近动态阈值。当膜电位在1 6 1 m s处超过原始阈值但小于动态阈值时(动态阈值在激发点附近会大于原始阈值),神经元并不激发而是继续增大权值直到膜电位超过动态阈值,算法在此刻认为神经元学习成功并停止。然而,在原始阈值的作用下,神经元的真实激发是在1 6 1 m s处激发并在1 7 1 m s处激发出一个额外的脉冲,显然出现了假学
23、习成功的情况。F i g u r e 3 A c c u r a c y l o s s c a u s e d b y d y n a m i c t h r e s h o l d l e a r n i n g a l g o r i t h m图3 动态阈值学习算法精度损失示意图另一方面,由于神经元在非激发点采用较低的动态阈值,导致神经元在学习初期非常容易激发出额外的脉冲,实际激发序列相较于目标序列通常会提前且更加密集。如果与基于梯度下降的学习算法结合使用,由于其误差函数由实际输出脉冲与相对应的期望输出脉冲构造而成,经过多次权值调整后,神经元的输入权值将减小,导致激发时间大幅延后甚至沉
24、默。图4显示了神经元经过一个学习周期后沉默而不再激发任何脉冲,学习终止。F i g u r e 4 I l l u s t r a t i o n o f a s i l e n t S N图4 神经元沉默示意图3 基于高低阈值的抗噪算法为了解决上一节中提到的动态阈值学习算法存在的问题,本文提出了一种改进的高低阈值的抗噪算法。算法分别从学习精度、学习周期及神经元沉默3个方面对算法进行改进。3.1 单点高低阈值的设置由于原始动态阈值学习算法在目标激发点的附近时刻采用逐渐增大的动态阈值,导致神经元可能在目标激发点附近的膜电位小于高阈值但大于实际阈值,从而导致学习精度损失。这种动态阈值4841C o
25、 m p u t e r E n g i n e e r i n g&S c i e n c e 计算机工程与科学 2 0 2 3,4 5(8)的设置方式主要是从学习效率的角度出发,目标激发点前的阈值是逐渐上升为高阈值而不是直接跃升为高阈值,从而显著降低学习难度。从解决精度损失问题的角度出发,动态阈值可以设置为单点高低阈值,新的学习阈值只分为高阈值和低阈值2种,由式(6)确定:=+n+,tt1d,t2d,tkd,-m+,tt1d,t2d,tkd,(6)在学习训练的过程中,只有在目标激发点时刻采用高阈值,而其他非激发时刻均采用低阈值。显然,使用这种单点高低阈值可以使得神经元的训练激发和实际激发完
26、全一致,避免了学习精度的损失。然而,神经元的动态阈值在目标激发点上的动态阈值远高于其他时刻的动态阈值,这使得神经元需要在目标激发点附近多次反复调整权值才能学习成功,需要更多的学习周期。3.2 学习效率提升针对单点高低阈值的缺陷,本文提出一种提高算法收敛速度的方法。对于非目标激发点上的神经元而言,学习目的是使得其膜电位低于低阈值,而目标激发点上的神经元的膜电位要高于高阈值。因此,影响学习周期的主要因素之一是高阈值和低阈值之间的差值m+n+,这个差值越大,所需要的学习周期也越多。在基于梯度下降的学习算法中,权值调整公式如式(7)所示:wi=-Ei=-12(tio-tid)2 wi(7)其中,tio
27、为第i个实际激发点,Ei为误差函数对权值wi的梯度。可以看出,调整幅度主要由目标激发点和实际激发点之间的距离决定。但是,引入高低阈值后,在学习后期即使神经元的激发时刻已经接近于目标激发时刻,神经元的膜电位可能还是离正确激发所需的膜电位较远,这时仍然需要较大的调整幅度。因此,本文引入学习加速系数af来解决调整幅度的问题。改进算法在学习过程中对每个时刻的膜电位进行判断,如果属于以下2种情况则在基准学习速率上乘以学习加速系数af(af1),否则使用固定的基准学习速率进行学习。c a s e 1:tt1d,t2d,tkd,a n d u(t)+n+显然,动态学习速率考虑了神经元的实际膜电位和目标膜电位
28、之间的差距,当目标膜电位和实际膜电位相差较远时使用较大的学习速率。3.3 神经元沉默解决方案在脉冲序列学习中,神经元的运行时间一般比较长,神经元完全没有脉冲激发的情况几乎不会发生。然而,在采用动态阈值学习算法后,低阈值的使用会导致神经元沉默的概率显著增加。为了解决这一问题,本文借鉴脉冲神经元精确序列学习算法1 8中的方法,当神经元沉默时,引入虚拟脉冲tfv以继续学习。新的误差函数由目标输出脉冲分别与F个虚拟脉冲tfv构建而成,如式(8)所示:En e w=12Ff=1(tfv-tfd)2(8)其中,虚拟激发脉冲tfv按最小扰动原则分别取值为Tt+1,Tt+2,Tt+F,Tt表示神经元的运行时间
29、长度,F表示目标激发脉冲个数。在计算权值更新的过程中,由于神经元未激发出任何脉冲,因此虚拟激发脉冲的有效输入脉冲取神经元从运行开始的所有到达输入脉冲。3.4 基于高低阈值抗噪算法流程基于高低阈值抗噪算法流程如算法1所示。算法1 基于高低阈值抗噪算法输入:输入脉冲序列、输出目标序列、神经元运行参数、初始权值、高阈值、低阈值、基准学习速率、学习加速系数、最大学习步数M a x_s t e p、初始学习步数s t e p=0、初始学习精度C=0。输出:权值。W h i l e s t e pM a x_s t e p a n d C1 根据式(6)生成动态阈值;运行神经元;根据3.2节膜电位判断方法
30、计算动态学习速率;调整权值;计算C;i f C=1 a n d 神经元激发个数小于目标激发个数 增加虚拟脉冲;根据式(8)更新C;e n d s t e p+;4 算法实验验证本节通过一系列实验来验证本文所提出的高低阈值抗噪算法的性能。实验中的相关参数的设定如下:反应函数的延迟常数=7 m s,不应期的延迟常数R=8 0 m s,神经元激发阈值=1,绝对5841杨 静等:基于高低阈值的脉冲神经元抗噪学习算法不应期常数Ra=1 m s,学习输入脉冲序列和目标输出脉冲序列均为通过给定激发频率生成的P o i s-s o n序列,Fi n表示输入激发频率,Fo u t表示输出激发频率。神经元的初始权
31、值为给定区间内的均匀分布的随机值。下文均采用以下缩写:多脉冲梯度下降学习算法为M S G D B,不带可变学习速率的高低阈值抗噪算法为M S G D B-N,带可变学习速率的高低阈值抗噪算法为M S G D B-VN。4.1 脉冲序列学习性能第1个实验中,神经元有2 0 0个输入突触,运行时间 为 2 0 0 m s,输 入 脉 冲 的 激 发 频 率Fi n=5 H z,目标输出脉冲的激发频率Fo u t=8 0 H z,初始权值在0,0.2 5,高阈值设为1.1,低阈值设为0.7,基准学习速率设为0.0 0 3,学习加速系数为1.5。该实验用于验证引入单点高低阈值后算法是否能通过样本学习准
32、确输出目标序列,并使得膜电位大小符合抗噪要求。图5展示了M S G D B-VN的学习结果,其中“”代表目标脉冲。F i g u r e 5 L e a r n i n g p r o c e s s o f a n S N t r a i n e d w i t h h i g h-l o w t h r e s h o l d n o i s e-r e s i s t a n t a l g o r i t h m图5 高低阈值抗噪算法学习过程示意图从图5中可以看出,神经元通过2 1 6个学习周期后准确地激发出目标脉冲序列。图5 e显示了学习结束后神经元在整个运行过程中各时刻的膜电位大小
33、。所有目标激发点上的膜电位均大于高阈值,而其他时刻的膜电位均小于低阈值。第2个实验用于验证可变学习速率对于单点高低阈值抗噪算法的学习效率的提升作用。实验的基本参数设置与第1个实验的相同,通过对初始权值、输入脉冲及目标脉冲序列的随机取值,得到2 0组独立的运行实例。对每一组实例分别采用M S G D B、M S G D B-N和M S G D B-VN进行学习,各算法所需的平均学习周期如表1所示。T a b l e 1 C o m p a r i s o n o f l e a r n i n g e p o c h s a m o n g M S G D B,M S G D B-N a n d
34、 M S G D B-V N 表1 M S G D B,M S G D B-N和M S G D B-V N学习周期数对比算法学习周期数标准差M S G D B3 5 53 1 0M S G D B-N4 4 42 8 7M S G D B-VN2 3 51 4 7 从表1中可以看到,M S G D B-N所需要的学习周期数最多,这是因为除了保证神经元正确激发时刻之外,算法还需要将膜电位调整到符合高低阈值范围的要求,所以比M S G D B需要更多的学习周期数,大约增加了2 5%。而M S G D B-VN由于引入了可变的学习速率,能够快速收敛,甚至比不带抗噪的原始算法还要快,平均学习周期数仅为
35、2 3 5。同时,从标准差还可以看出,M S G D B-VN还具有最稳定的收敛速度。第3个实验中,通过对初始权值、输入脉冲和目标脉冲序列的随机取值,得到一个神经元沉默的实例,其余参数设置与第1个实验的相同。从图6 a的学习过程中可以看到,神经元初始只激发出5个脉冲,而经过一次学习调整后神经元出现沉默,不再发出任何脉冲。此刻算法引入虚拟脉冲进行调整,通过第2步和第3步的调整,神经元在第4步激发出1个脉冲、第5步激发出3个脉冲,之后神经元的脉冲激发个数基本和目标序列中的脉冲个数一致,并在第2 1 7步时准确激发出全部目标脉冲。4.2 学习参数影响分析本节实验的目的是研究高低阈值抗噪算法中3个主要
36、参数对学习能力和抗噪能力的影响。实验设置如下:神经元输入突触个数为2 0 0,运行时间为 4 0 0 m s,Fi n=1 0 H z,Fo u t=5 0 H z,初始权值在0,0.0 5,基准学习速率为0.0 0 1。通过对初始6841C o m p u t e r E n g i n e e r i n g&S c i e n c e 计算机工程与科学 2 0 2 3,4 5(8)F i g u r e 6 L e a r n i n g p r o c e s s o f t r a i n i n g a s i l e n t S N t r a i n e d w i t h h
37、 i g h-l o w t h r e s h o l d n o i s e-r e s i s t a n t a l g o r i t h m图6 利用高低阈值抗噪算法训练默神经元的学习过程权值、输入脉冲和目标脉冲序列的随机取值,得到2 5组独立的运行实例,以下为平均结果。第1组实验中,参数m+从0.1以0.1为间隔递增到0.8,n+取值为0.1,af取值为1.5。学习结束后,用带有噪音的输入测试神经元的抗噪能力,输入噪音为随机产生的高斯白噪音,均值为0,方差为0.2。图7展示了不同低阈值引起的学习精度、带噪音测试精度以及学习周期数的变化。从图7中可以看出,随着低阈值的增大,学习精度
38、呈下降趋势,这是由于低阈值越大,学习越困难,相应所需要的的学习周期数也越多。而对于神经元的抗噪能力而言,低阈值并不是越大越好,可以看到低阈值取0.3时效果最好,而随着低阈值的继续增大效果开始下降。F i g u r e 7 E f f e c t o f l o w t h r e s h o l d o n l e a r n i n g p e r f o r m a n c e a n d l e a r n i n g e p o c h图7 不同低阈值取值对学习精度和学习周期数的影响第2组实验中,参数n+从0.0 5以0.0 5为间隔递增到0.4,m+取值为0.3,a+取值为1.5。
39、图8展示了不同高阈值引起的学习精度和学习周期数的变化。从图8中可以看出,高阈值对性能的影响趋势与低阈值类似,随着高阈值的增大,学习精度缓慢下降,学习周期数逐渐增多,当高阈值取0.2时神经元的抗噪能力最好。F i g u r e 8 E f f e c t o f h i g h t h r e s h o l d o n l e a r n i n g p e r f o r m a n c e a n d l e a r n i n g e p o c h图8 不同高阈值取值对学习精度以及学习周期数的影响第3组实验中,参数af从1.2以0.1为间隔递增到1.9,m+取值为0.3,n+取值为0
40、.1。图9展示了不同加速系数引起的学习周期的变化。从图9中可以看出,加速系数的取值对学习周期数的影响并没有呈现出明显的趋势变化,但相比未采用加速系数的算法而言,带可变学习速率的算法所需要的学习周期数明显更少。F i g u r e 9 E f f e c t o f a c c e l e r a t i o n c o e f f i c i e n t o n l e a r n i n g e p o c h图9 不同加速系数取值对学习周期数的影响4.3 抗噪能力分析本节通过一系列对比实验来验证利用高低阈值抗噪算法训练的神经元的抗噪能力。实验设置如下:神经元有2 0 0个输入突触,初始权
41、值在0,0.0 5,m+取值为0.3,n+取值为0.2,af取值为1.5。分2组神经元进行训练:第1组的运行时间为2 0 0 m s,Fi n=1 0 H z,Fo u t=5 0 H z,基准学习速率为0.0 0 3;第2组的运行时间为4 0 0 m s,Fi n=1 0 H z,Fo u t=5 0 H z,基准学习速率为0.0 0 1。神7841杨 静等:基于高低阈值的脉冲神经元抗噪学习算法经元在学习结束后分别在2种噪声环境中进行测试:膜电位噪声环境和输入脉冲噪声环境。实验噪声为随机产生的高斯白噪音,均值为0,方差取值从0.0 5以0.0 5为间隔递增到0.4。类似地,通过对初始权值、输
42、入脉冲和目标脉冲序列的随机取值,得到2 5组独立的运行实例,实验平均结果如图1 0和图1 1所示。F i g u r e 1 0 L e a r n i n g p e r f o r m a n c e v e r s u s m e m b r a n e n o i s e图1 0 膜电位噪声下神经元精度变化示意图F i g u r e 1 1 L e a r n i n g p e r f o r m a n c e v e r s u s i n p u t n o i s e图1 1 输入脉冲噪声下神经元精度变化示意图从图1 0和图1 1中可以看到,无论对于哪一种类型的噪声,高低阈
43、值的抗噪算法都能取得较好的抗噪效果,其中对于输入脉冲噪声的抗噪效果更为明显。对于不同长度的目标学习序列,本文的抗噪算法也都能保持较好的学习性能。5 结束语本文主要将动态阈值应用于梯度下降脉冲神经元学习算法M S G D B上,从学习精度、神经元沉默和收敛速度3个方面对原始动态阈值学习算法进行改进,提出了一种新的高低阈值抗噪算法。该算法能够避免动态阈值带来的学习精度损失,并且在神经元出现沉默时引入虚拟脉冲继续学习,对于采用高低阈值带来的学习周期增加的问题则通过动态学习速率来解决。本文的后续工作将主要集中于使用高低阈值抗噪算法来解决实际应用问题。参考文献:1 G o l l i s c h T,M
44、 e i s t e r M.R a p i d n e u r a l c o d i n g i n t h e r e t i n a w i t h r e l a t i v e s p i k e l a t e n c i e sJ.S c i e n c e,2 0 0 8,3 1 9:1 1 0 8-1 1 1 1.2 Z h a n g T i e-l i n,X u B o.R e s e a r c h a d v a n c e s a n d p e r s p e c t i v e s o n s p i k i n g n e u r a l n e t w
45、o r k sJ.C h i n e s e J o u r n a l o f C o m p u t e r s,2 0 2 1,4 4(9):1 7 6 7-1 7 8 5.(i n C h i n e s e)3 H u Y i-f a n,L i G u o-q i,W u Y u-j i e,e t a l.S p i k i n g n e u r a l n e t-w o r k s:A s u r v e y o n r e c e n t a d v a n c e s a n d n e w d i r e c t i o n sJ.C o n t r o l a n
46、d D e c i s i o n,2 0 2 1,3 6(1):1-2 6.(i n C h i n e s e)4 X u Y,Y a n g J,Z h o n g S M.A n o n l i n e s u p e r v i s e d l e a r n i n g m e t h o d b a s e d o n g r a d i e n t d e s c e n t f o r s p i k i n g n e u r o n sJ.N e u r a l N e t w o r k s,2 0 1 7,9 3:7-2 0.5 L i n X H,W a n g X
47、 W,H a o Z J.S u p e r v i s e d l e a r n i n g i n m u l t i-l a y e r s p i k i n g n e u r a l n e t w o r k s w i t h i n n e r p r o d u c t s o f s p i k e t r a i n sJ.N e u r o c o m p u t i n g,2 0 1 7,2 3 7:5 9-7 0.6 P o n u l a k F,K a s i n s k i A.S u p e r v i s e d l e a r n i n g i
48、n s p i k i n g n e u r a l n e t w o r k s w i t h R e S u M e:S e q u e n c e l e a r n i n g,c l a s s i f i c a t i o n a n d s p i k e s h i f t i n gJ.N e u r a l C o m p u t a t i o n,2 0 1 0,2 2(2):4 6 7-5 1 0.7 C h e n G u o-j u n,L i n X i a n g-h o n g,W a n g G u o-e n,e t a l.A d i r e
49、c t c o m p u t a t i o n m e t h o d o f s u p e r v i s e d l e a r n i n g f o r s p i k i n g n e u-r o n sJ.A c t a E l e c t r o n i c a S i n i c a,2 0 2 1,4 9(2):3 3 1-3 3 7.(i n C h i n e s e)8 Y u Q,T a n g H J,T a n K C,e t a l.P r e c i s e-s p i k e-d r i v e n s y n a p t i c p l a s t
50、 i c i t y:L e a r n i n g h e t e r o-a s s o c i a t i o n o f s p a t i o t e m p o r a l s p i k e p a t t e r n sJ.P L o S O n e,2 0 1 3,8(1 1):e 7 8 3 1 8.9 X u Y,Z e n g X Q,Z h o n g S M.A n e w s u p e r v i s e d l e a r n i n g a l g o-r i t h m f o r s p i k i n g n e u r o n sJ.N e u r
