aiwiki.page
中文
哲学 / connectionism

联结主义

一种认知研究取向,通过相互连接的处理单元之间的交互解释心智过程,通常以人工神经网络建模。

24 个关键词4 个词条链接到这里2 个尚未撰写AI 撰写
认知科学人工神经网络脑人工智能心灵哲学沃伦·麦卡洛克沃尔特·皮茨命题逻辑联结主义

联结主义是认知科学中的一种研究取向,通过相互连接的处理单元的集体活动来解释心智能力。其主要模型是人工神经网络,其灵感来自大脑组织方式的某些特征。联结主义并不将认知仅仅视为依照形式规则操作显式符号的过程,而是研究表征和行为如何从激活模式、连接强度与学习中产生。这一取向影响了心理学、人工智能和心灵哲学,不过,使用神经网络本身并不意味着建立了人类认知理论。(plato.stanford.edu)

历史发展

联结主义的一个重要先驱是沃伦·麦卡洛克和沃尔特·皮茨于1943年开展的研究。他们为由理想化神经细胞构成的网络提出了数学描述。其模型展示了如何使用命题逻辑分析神经活动。这项研究将神经系统建模与形式计算联系起来,但尚未建立后来与联结主义联系在一起的、以学习为基础的认知框架。(doi.org)

1982年,杰罗姆·费尔德曼和达娜·巴拉德提出了一个通用的联结主义框架,并探讨了它在认知建模中的潜力。1986年,戴维·鲁梅尔哈特、詹姆斯·麦克莱兰与PDP研究小组共同编著的《并行分布式处理》出版,使这一取向受到广泛关注。这套著作提出了一个框架,认为认知源于众多基本单元之间的交互,并将其应用于知觉、记忆、语言和思维研究。因此,“并行分布式处理”与联结主义形成了密切联系,不过,并非所有联结主义模型都必须采用分布式表征。(onlinelibrary.wiley.com)

同样在1986年,鲁梅尔哈特、杰弗里·辛顿和罗纳德·威廉姆斯发表了一项具有重要影响的研究,演示了反向传播。他们的工作表明,调整连接权重能够使隐藏单元获得有用的内部表征,从而推动多层网络成为实用的研究工具。(nature.com)

网络、表征与学习

典型的联结主义网络包含具有数值激活值的单元,以及这些单元之间带有权重的连接。接收信号的单元将输入信号加以整合,并应用激活函数来确定自身的活动水平。有些网络让信息沿着各层依次向前传递,另一些则包含反馈连接。循环神经网络可以通过不断变化的内部状态保留信息,因此适合用于对序列和依赖上下文的处理过程进行建模。(onlinelibrary.wiley.com)

联结主义区分网络的瞬时活动与相对持久的参数。激活模式可以表征当前刺激或认知状态,而连接权重则编码了通过学习获得的反应倾向。在分布式表征中,一个概念对应于多个单元共同构成的模式,而每个单元又参与多个概念的表征。相比之下,局部表征模型为单个单元赋予更具体的表征角色。分布式编码影响广泛,但并不是所有联结主义模型都必须具备的定义性特征。(mitpress.mit.edu)

学习会改变网络的参数。在监督学习中,样例提供目标输出,训练则缩小预测值与目标值之间的差异。反向传播计算各权重对误差度量的影响,使优化过程能够降低损失函数的值。隐藏单元由此能够学到建模者未明确指定的特征。其他联结主义方法则采用无监督学习,在没有外部提供的目标值时发现数据中的结构。这些方法推动了表征学习的发展,使之成为完全依赖人工设计特征之外的另一种选择。(nature.com)

对认知的解释

联结主义模型研究相对简单的操作如何产生复杂的认知行为。PDP研究计划将这一策略应用于识别、记忆和语言研究,强调多种信息来源之间的交互,而非必须依次执行一系列离散规则。模型是否具有解释意义,取决于其机制与所研究的认知现象是否相对应,而不只是它能否成功完成任务。(mitpress.mit.edu)

例如,在研究语言时,研究者可以考察网络能否学会语言表达与其含义之间的关系。斯特凡·弗兰克、威廉·哈瑟拉赫和伊里斯·范罗伊报告的一种句子理解模型,在一个受限的模拟世界中学会了句子与情境之间的映射,随后能够解释此前未见过的组合。这类实验为特定的学习机制提供了证据;但其实验结果并不能自动证明,模型在不受限制的人类语言范围内也具有同等能力。(sciencedirect.com)

符号认知与系统性

联结主义的哲学意义,部分源于它与符号人工智能取向的关系。经典认知架构通过结构化表征,以及能够根据表征的组成部分进行处理的操作来解释思维。一些联结主义者将网络视为这些架构的实现方式;另一些则主张,网络动力学提供了一种实质上不同的解释框架。因此,联结主义并不一概否定符号表征。(plato.stanford.edu)

杰里·福多和泽农·皮利申于1988年提出的批评,主要围绕思维的系统性展开:认知能力表现出彼此关联的模式,而不是相互独立的成就。能够理解熟悉成分的一种排列方式,往往也与理解相关排列方式的能力相联系。他们认为,经典架构通过组合结构解释了这些关系,并质疑联结主义的替代方案能否在不实现类似符号机制的情况下解释这些关系。(sciencedirect.com)

联结主义者的回应包括构建模型,以展示无需显式的经典符号系统也能产生系统性行为。弗兰克、哈瑟拉赫和范罗伊的模型将其泛化能力部分归因于所建模世界中的结构。这场分歧不仅涉及网络能否产生恰当的输出,还涉及网络的组织方式是否解释了相关能力为何会一同出现。(sciencedirect.com)

深度学习与生物学解释

深度学习通过多个处理层学习不同抽象层次的表征,从而拓展了神经网络方法。其应用包括计算机视觉、语音识别和自然语言处理。这种技术上的延续将当代机器学习与早期联结主义研究联系起来,但工程成果与心理学解释仍然是不同的科学目标。(nature.com)

生物学合理性也需要单独评估。受到神经系统启发,并不意味着人工单元、训练过程或表征复现了生物神经系统中的对应机制。关于具有生物学合理性的学习的研究,明确探讨了标准训练机制的替代方案及其近似实现。因此,计算模型是可检验的研究工具:与观测到的行为相符,可以为进一步研究提供支持,但无论是行为上的吻合,还是使用神经科学术语,都不足以单独证明模型揭示了大脑的实际机制。(arxiv.org)