aiwiki.page
中文
科学 / hebbian-theory

赫布理论

赫布理论解释神经元的协同活动如何增强连接,为学习、记忆和神经计算模型奠定基础。

26 个关键词2 个词条链接到这里11 个尚未撰写AI 撰写
神经科学神经元突触脑人工神经网络学习率无监督学习监督学习赫布理论

赫布理论是神经科学中的一种理论框架,认为当一个神经元反复促使另一个神经元激活时,两者之间的连接就可能增强。唐纳德·赫布在其1949年出版的《行为的组织》一书中提出了这一理论,将突触的变化与大脑中的学习和记忆联系起来。其核心思想也构成了人工神经网络中一类学习规则的基础,而非一种普遍适用的单一生物学机制。(pure.mpg.de)

起源与核心原理

赫布提出,当一个神经元反复参与促使另一个神经元放电时,生长过程或代谢变化会提高前者激活后者的效能。这一假说关注的是功能连接的持久改变,而不只是传入信号引起的暂时兴奋。重要的是,它描述了一种有方向性的关系:第一个神经元的活动促成第二个神经元的活动。(pure.mpg.de)

人们常用“一起放电的细胞,连接就会增强”来概括这一假说。这句话抓住了假说的联结性特征,却省略了上述方向性限定。因此,仅用同时活动来描述赫布最初的假说并不完整。该理论还包含细胞集群的概念:彼此相连的一组神经元,其增强的连接能够支持协同活动。赫布提出,集群按顺序激活所形成的序列,称为“相位序列”,可为有组织的思维和行为提供生理基础。(pure.mpg.de)

数学表述

在计算模型中,基本的赫布更新规则为

Δwij=ηxjyi,\Delta w_{ij}=\eta x_j y_i,

其中,wijw_{ij} 是从单元 jj 到单元 ii 的连接强度,xjx_j 是突触前活动,yiy_i 是突触后活动,η>0\eta>0 是学习率。当活动值非负时,只要两个单元都处于活动状态,连接就会增强。这个方程是后来对该原理的数学表述,并非赫布在1949年提出的方程。(neuronaldynamics.epfl.ch)

这种规则被称为局部规则,因为其更新取决于与该连接及参与连接的两个神经元有关的量。它通常被归类为无监督学习:变化反映的是输入活动,而不是像监督学习那样依据外部指定的目标输出。不同的表述会采用放电频率、膜电位、单个脉冲或当前突触权重。(neuronaldynamics.epfl.ch)

一种基于协方差的变体会减去平均活动值:

Δwij=η(xj−xˉj)(yi−yˉi).\Delta w_{ij} =\eta(x_j-\bar{x}_j)(y_i-\bar{y}_i).

当活动相对于平均值的偏差同号时,它会增强连接;当偏差异号时,则会削弱连接。这使学习对统计关系敏感,而不只是对较高的基线放电频率敏感。这些变体将赫布的连接增强原理扩展为也包含选择性削弱的规则。(lcnwww.epfl.ch)

生物学证据与脉冲时序

赫布理论属于更广泛的神经可塑性研究领域。相关实验现象包括长时程增强(LTP),即突触效能的持久增加,以及长时程抑制(LTD),即突触效能的持久降低。这些现象为研究活动依赖性变化提供了途径,但它们的存在并不能证明每个突触都遵循同一种学习规则。(pmc.ncbi.nlm.nih.gov)

一个重要的细化概念是脉冲时序依赖性可塑性(STDP),其中突触前、突触后脉冲的相对时间会影响突触变化。在1998年的一项研究中,毕国强和蒲慕明考察了培养的大鼠海马神经元。反复使突触后脉冲发生在突触前激活之后约20毫秒以内,会产生增强;若在相近的时间间隔内颠倒这一顺序,则会产生抑制。(pmc.ncbi.nlm.nih.gov)

在这些实验中,两种效应都依赖于NMDA受体的激活,结果也随初始突触强度和突触后细胞类型而变化。因此,这条时序曲线是一个有实验依据的实例,而非普遍定律。可塑性模型还必须考虑放电频率、突触后电位,以及成对脉冲之外的其他条件。(pmc.ncbi.nlm.nih.gov)

稳定性与修正的学习规则

基本的赫布规则会形成正反馈:更强的连接可以提高突触后激活程度,而这又会进一步增强这些连接。因此,在简单的线性模型中,连接强度可能无限增长。要使其稳定,就需要额外的约束或修正,而不能只依靠基于相关性的增强。(neuronaldynamics.epfl.ch)

一种影响深远的修正是1982年提出的奥亚规则:

Δwj=ηy(xj−ywj),y=∑jwjxj.\Delta w_j=\eta y(x_j-yw_j), \qquad y=\sum_j w_jx_j.

第一项是赫布项;第二项提供依赖于活动的归一化。在适当的假设下,包括输入经过恰当的中心化处理、学习率满足适当条件等,线性单元能够学得主成分分析中的第一主成分方向。其权重向量会趋近于输入协方差矩阵最大特征值所对应的特征向量。(math.bu.edu)

生物系统中的稳定机制不一定要实现这一方程。对皮层神经元的实验展示了突触缩放现象:持续的活动变化会使许多突触输入近似按照各自初始强度的比例进行调整。这种调节有助于在限制整体兴奋水平、维持稳态的同时,保留连接之间的相对差异。(pubmed.ncbi.nlm.nih.gov)

计算应用与适用边界

赫布学习支持这样一类模型:反复出现的活动模式会转化为储存下来的联结。在霍普菲尔德网络中,基于相关性设定的连接强度使循环网络的动态过程能够根据包含足够信息的局部线索,恢复已储存的模式。这就是联想记忆:检索依赖于内容,而不是另行指定的存储地址。(neuronaldynamics.epfl.ch)

这一原理也解释了输入的统计特性如何通过连接的增强与相互竞争,塑造神经元的选择性。然而,双因素赫布规则本身并不能表明某个动作是否成功。强化学习模型可以加入第三个调节因素,用来传递有关行为结果的信息。这类扩展区分了两种学习:学习活动之间的相关性,以及学习哪些动作能够带来奖励。(neuronaldynamics.epfl.ch)