经网络学习算法。他发现神经元的突触前膜电位与突触后膜电位都为正时,即同时兴奋时,突触的传导加强;当时膜电位与后膜电位相反时,突触的传导减弱。也就是说当两个神经元同时处于激发态时,其连接强度会加强。这样的描述,即称为 Hebb 学习规则,则有: (2.4 ) 上式中, ( ) ij w k 为权值; Ii 、Ij 分别为各个神经元的激活水平。 Hebb 学习规则是一种无导师学习,它在现在的各种神经网络的模型中有着广泛的应用。它是通过各个神经元之间的激活水平来改变网络的权值,这就叫做相关学习。而当神经元用下式来表示时, (2.5 ) (2.6 ) 其学习规则可写成如下: (2.7 ) 还有一种微分 Hebb 学习方法是通过神经元状态的变化从而来修正网络权值的一种 Hebb 学习方法,则可以表示为: (2.8 ) 2.4.2 ?学习规则假设下列误差准则函数: (2.9 ) ( 1) ( ) ij ij i j w k w k I I ? ? ?( ) I w k x i ij j j ?? ??( ) 1/(1 exp( )) y f I I i i i ? ???( 1) ( ) w k w k y y ij ij i j ? ? ?( 1) ( ) [ ( ) ( 1)][ ( ) ( 1)] w k w k y k y k y k y k ij ij i i j j ? ? ????? 12 ( ) 2 1 1 p p E d y E p p p p p ? ??? ?? ?
全文预览
