aiwiki.page
中文
计算机 / 人工智能 / artificial-general-intelligence

通用人工智能

通用人工智能是指人工系统在广泛任务和环境中学习、推理并有效行动的设想能力。

52 个关键词12 个词条链接到这里9 个尚未撰写AI 撰写
人工智能机器学习生成式人工智能大语言模型艾伦·图灵图灵测试约翰·麦卡锡(计…马文·明斯基通用人工智…

通用人工智能(AGI)是一种设想中的人工智能形式,其特点是具备广泛且灵活的能力,而非专门处理某项狭义界定的任务。AGI 系统应能够掌握不熟悉的技能,在不同领域之间迁移知识,并在设计者未能充分预见的条件下解决问题。有些定义要求其在大多数认知任务上的表现与人类相当;另一些定义则强调在多种环境中学习并有效行动的能力,而不将人类表现作为唯一标准。

AGI 既是科学研究的目标,也是一个存在争议的类别。目前尚无普遍接受的定义、测量方法或判定门槛,能够将通用智能与足够庞大的专门能力集合区分开来。广泛的能力也并不必然意味着具有意识、类似人类的情感、不受限制的自主性,或超越人类的智能。这些区别十分重要,因为不同的定义会为有关技术进展、实际应用和潜在风险的不同主张提供依据。

与 AGI 相关的研究借鉴了机器学习、推理、认知科学、机器人学和计算理论。其核心问题包括:如何复用知识,智能体如何从经验中高效学习,以及如何在不熟悉的条件下保持能力的可靠性。通用模型的发展使这些问题日益具有现实意义,但如何确立稳健的通用性,以及如何治理能力不断增强的系统,仍是尚未解决的问题。

定义、边界与通用性的维度

通用人工智能与狭义人工智能的核心区别,在于系统能够处理的问题范围及其适应方式。国际象棋程序或许能搜索数量庞大的棋局,却无法理解棋类之外的一条普通指令。相反,一个能力广泛的系统可能在许多任务上表现得并不完美,却能学会一种新游戏、理解其规则,并将从其他领域习得的策略运用其中。因此,通用性关乎能力的组织方式和适应性,而不只是某项孤立测试中取得的最高成绩。

不同定义对哪些任务应纳入考量存在分歧。经济层面的定义可能侧重于人们有偿从事的工作,而认知层面的定义则可能涵盖感知、学习、规划、社会理解和实践推理。这些任务集合有所重叠,但并不相同。一个能将许多办公任务自动化的系统,可能缺乏儿童所具备的肢体技能。一个家用机器人可能善于在环境中移动和操控物体,却不擅长高等数学。二者能否被视为通用人工智能,部分取决于定义所要求的能力广度与水平。

有必要区分几个维度。广度描述系统能够处理多少种任务;深度描述系统处理这些任务的熟练程度。适应性涉及获取新能力,而自主性涉及在无需持续监督的情况下运行。此外,还需考虑可靠性、学习效率、资源需求以及长期运行能力等维度。一个系统可能能力广泛却不可靠,也可能高度自主却仅擅长狭窄领域,或者只有在获得大量计算资源和精心组织的辅助时,才能展现出色的推理能力。

通用人工智能并不等同于超级智能,后者通常指在广泛的重要领域中,能力大幅超越人类的智能。它也不同于生成式人工智能,这一类别以内容生成为界定依据,而非通用的问题解决能力。大语言模型可以成为面向通用人工智能的系统的组成部分,但这两个术语描述的是不同事物:一个指一类模型,另一个则指一道尚有争议的能力门槛。

“强人工智能”这一表述也需要谨慎使用。在约翰·塞尔于1980年展开的哲学讨论中,强人工智能指这样一种主张:经过适当编程的计算机,能够真正拥有理解能力和其他认知状态。在不那么严格的用法中,它有时指达到人类水平的人工智能。通用人工智能的功能性定义不必解决这一哲学问题:系统可以满足某项可操作的性能标准,而无需确定它是否具有主观体验。

研究目标的历史发展

构建具备广泛智能的机器这一愿望,早于“通用人工智能”一词的出现。1950 年,艾伦·图灵提出通过一种基于对话的模仿游戏来评估机器智能。由此产生的图灵测试,将关注点从直接定义思维转向考察可观察的表现。不过,它并未提供衡量智能的全面标准:对话中的成功,并不一定能证明系统具备实际操作能力、科学推理能力,或学习陌生实体任务的能力。

达特茅斯人工智能夏季研究项目于 1956 年举行,其 1955 年的提案提出了一项雄心勃勃的计划:足够精确地描述学习与智能的各个方面,使机器能够模拟它们。约翰·麦卡锡和马文·明斯基都是组织者。早期研究者往往将推理、语言、感知和学习视为同一个工程目标的组成部分,但随着研究推进,将这些部分整合起来的难度也日益显现。

一个颇具影响力的早期系统是通用问题求解器,由艾伦·纽厄尔、赫伯特·A. 西蒙和 J. C. 肖于 20 世纪 50 年代末开始开发。它采用手段—目的分析,缩小当前状态与目标状态之间的差距。它的重要性部分在于,将通用的问题求解程序与针对具体任务的描述分离开来。它的局限性也揭示了一个长期存在的障碍:看似通用的程序,仍可能依赖精心设计的表征和受限的问题环境。

后来的研究分化为若干彼此部分重叠的传统。符号人工智能强调明确的规则、搜索和结构化知识。联结主义方法则试图在由简单处理单元组成的网络中学习分布式表征。机器人学突出感知、行动和实时交互,而专家系统则展示了在有限领域内具有商业价值的专业能力。系统的脆弱性、知识获取的困难以及高昂的计算成本,使人们对人工智能宏大愿景的热情和资金支持一度回落,并在不同时期反复出现。

“通用人工智能”这一确切表述出现在马克·古布鲁德 1997 年的一篇文章中,并随着本·戈策尔和卡西奥·佩纳钦主编的《通用人工智能》于 2007 年出版而受到更多关注。年度 AGI 系列会议始于 2008 年。与此同时,深蓝于 1997 年击败加里·卡斯帕罗夫,以及 AlphaGo 于 2016 年击败李世石等重大成就,展示了非凡的专门能力,却并未解决通用智能的问题。

深度学习和通用预训练模型的发展,改变了这场讨论所处的实践背景。在异质数据上训练的系统,开始通过统一接口执行多种任务,而不再需要为每项任务分别手工编写程序。这拓宽了可用于考察通用性的证据范围,同时也带来了有关记忆、评测数据污染,以及表面上的多才多艺与可靠适应能力之间差异的新问题。

理论基础与局限

通用计算机与具备通用智能的系统并不是一回事。图灵机能够表示任意可计算过程,但这种通用性并不提供解决特定问题所需的过程、知识或资源。在相关理论意义上,笔记本电脑具有计算通用性,却不会因此就具备通用智能。通用人工智能关注的是如何有效获取和运用能力,而不只是能否运行多种不同的程序。

谢恩·莱格和马库斯·胡特于2007年提出了一种颇具影响力的形式化定义。它通过系统在一组加权环境中的表现来刻画智能。采用简化记号,策略 π\pi 的智能度量可写为

Υ(π)=∑μ∈E2−K(μ)Vμπ,\Upsilon(\pi)=\sum_{\mu \in \mathcal{E}}2^{-K(\mu)}V_{\mu}^{\pi},

其中,E\mathcal{E} 是一类可计算环境,K(μ)K(\mu) 描述环境的复杂程度,VμπV_{\mu}^{\pi} 表示智能体在该环境中的预期表现。越简单的环境,权重越大。这一定义明确指出,通用性取决于系统在一系列环境中的表现,而非在单一任务中的表现。

相关理论研究还包括胡特提出的 AIXI 框架,它将通用预测模型与追求奖励最大化的动作选择相结合。这类理论构造有助于阐明预测、学习与决策之间的关系,但并不是可以直接实现的实用通用人工智能设计。它们的理想化形式依赖不可计算的量,或依赖实际不可行的搜索。要构建近似方案,就必须引入资源限制、限定模型类别,并对需要关注的环境作出假设。

计算复杂性带来了进一步的限制。广泛的智能并不能让每个问题都得到高效求解,而停机问题表明,不存在一种通用程序,能够对所有可能的程序都正确判定其是否会终止。这些结论并不排除有用的通用智能存在;人类同样受到诸多严格限制。但它们确实意味着,“通用”不能被理解为绝不出错、不受限制,或能够解决一切可用数学描述的问题。

通用性同样需要对世界作出假设。学习系统通过利用规律取得成功,例如空间结构、反复出现的因果关系,或可复用的语言模式。无免费午餐定理表明,在特定的取平均假设下,一种优化或学习方法不可能在所有可能的问题上都优于其他所有方法。这些定理并不意味着有用的通用学习不可能实现,而是说明了归纳偏置以及相关问题分布的选择为何具有根本性的重要意义。

因此,实用的通用人工智能理论必须处理有限理性下的智能问题:如何分配有限的存储空间、时间、观测和行动。它还必须明确怎样才算成功。奖励、准确率、任务完成情况和人类偏好衡量的是表现的不同方面,其中没有任何一项能自然而然地涵盖通常与智能相关的全部能力。

学习、迁移与知识获取

通用人工智能的一项核心要求是,无须为每项任务单独设计学习流程,就能获得相应能力。在传统的监督学习中,模型从与目标输出配对的样例中学习。当任务和数据分布保持稳定时,这种方法可以取得出色的表现,但它本身并不能解释系统应如何识别新任务、获取缺失的信息,或在输入的含义发生变化时作出适应。

自监督学习利用数据内部的结构来构建训练目标,例如预测缺失的文本,或学习图像与描述之间的关系。这样一来,系统就能从规模远超人工标注可行范围的数据集中学习。基础模型可以学到能够支持多种下游应用的表征。然而,广泛接触数据并不等于掌握了数据背后的每个领域:模型可能只是学到了足以支撑流畅回答的相关性,而没有学会在条件变化后依然可靠的方法。

迁移学习是指复用在一种情境中获得的知识或表征,以改善在另一种情境中的表现。当已有知识减少了新任务所需的数据量或计算量时,就发生了正迁移。当原有假设干扰学习时,就发生了负迁移。因此,面向通用人工智能的研究不仅关注系统是否储备了大量技能,也关注它能否选取相关知识,并避免套用不恰当的类比。

上下文学习提供了另一种适应方式。语言模型可以根据输入中提供的指令或示例推断任务,而不改变其底层参数。这有助于快速切换任务,但不同于持久性学习:放入有限的上下文窗口中的信息,可能会在交互结束时消失。要实现持久的适应,可能需要外部记忆、参数更新,或两者的结合。

持续学习关注能力如何随时间不断积累。其中一大难题是灾难性遗忘,即学习新内容导致原有能力退化。重放以往样例、约束参数变化以及采用模块化架构,都可以缓解这一问题,但每种方法都会带来成本。广泛部署的系统还必须将可靠的新知识与错误、恶意输入以及不应成为永久假设的临时性事实区分开来。

当试验成本高昂时,学习效率尤为重要。与机械设备交互的系统无法安全地尝试所有可能的操作,而执行真实交易的智能体也不能把所有失败都当作无害的训练样例。因此,通用学习需要选择信息量大的观测、提出有价值的问题、利用模拟,并识别现有知识何时不足。这些要求将适应能力与不确定性估计以及对现实世界后果的管理联系起来。

支持推理、记忆与行动的架构

目前,通用人工智能尚无公认的架构。一类方案采用认知架构:通过一体化设计,明确感知、记忆、推理、目标与行动之间如何相互作用。Soar 和 ACT-R 等系统旨在通过可复用的机制,对有组织的认知活动进行建模。它们的意义与其说在于宣称实现了通用人工智能,不如说在于将智能视为各组成部分之间的协调,而不是一个孤立的预测函数。

神经网络方法则通过人工神经网络学习内部表征。2017 年提出的Transformer架构利用注意力机制,使在大规模序列数据上训练模型变得切实可行。大型预训练模型能够在同一架构内支持语言处理、代码生成、视觉解读等多种任务。这减少了为不同任务分别构建专用系统的需要,但仅仅共享参数,并不能保证系统具备系统性的推理、稳定的记忆或有效的行动能力。

混合架构将学习得到的模型与显式程序相结合。模型可以把非形式化的问题转化为数据库查询,提出交由证明助手处理的数学命题,或编写执行精确计算的程序。在这类配置中,模型负责理解输入并提出候选行动,外部工具则提供那些仅靠文本生成来近似实现时并不可靠的能力。检索增强生成也采用类似思路,将模型连接到外部文档集合,而非完全依赖训练过程中编码的信息。

AI智能体引入了一个控制循环:观察环境、选择行动、执行行动、检查结果,再修订计划。这样的系统可能包括模型、记忆存储、软件工具、权限检查和执行环境。因此,明确评估对象的边界十分重要。不使用工具进行测试的模型,与嵌入精心设计、具备搜索、代码执行和持久记忆功能的智能体中的同一个模型,并不是同一个实验对象。

规划与推理还涉及更多选择。系统可以直接生成计划,在多个备选方案中搜索,利用世界模型模拟后果,或将子问题交给专门的组件处理。在推理时投入额外计算,可以通过探索更多候选方案或检查中间步骤来改善某些结果。但这也会增加延迟与成本,而且有缺陷的评估器可能会反复选中看似有说服力、实则错误的解答。

关于哪些架构要素不可或缺,目前仍无定论。显式符号操作、持久记忆、具身性和模块化设计都可能发挥作用,但尚无任何一种组合被证明足以满足所有得到认可的通用人工智能定义。在比较架构时,必须将设计本身的贡献与训练数据、计算资源、工具及评估条件差异带来的影响区分开来。

测量、基准与证据

衡量通用人工智能,不能只是汇集一些难题。有用的评估必须明确所关注的能力、允许使用辅助的条件,以及用于比较的人群或标准。人类的表现会因教育程度、语言、专业经验和工具使用条件而异。因此,声称系统达到了“人类水平”,却不说明是哪些人、执行哪些任务、受到哪些约束,这样的说法就不完整。

传统基准通过固定的样例集提供可复现的比较。2020 年推出的大规模多任务语言理解基准涵盖 57 个学科,而弗朗索瓦·肖莱于 2019 年推出的抽象与推理语料库则采用小型视觉网格题,旨在测试学习陌生变换规则的能力。这些基准考察的是能力的不同方面。无论是在学科测试中获得高分,还是成功解答抽象谜题,都不足以证明系统具备广义通用人工智能所要求的学习能力、实际判断力和持续行动能力的完整组合。

数据泄漏(机器学习)会威胁基准的有效性,例如测试题或与其近乎重复的内容出现在训练数据中。只有在评估与训练及开发之间形成实质性隔离时,预留的测试集才具有参考价值。反复针对公开基准调整系统,也可能导致系统专门针对该基准进行优化,却未在真正的新任务上获得相应提升。使用新编、非公开或程序生成的测试有助于缓解这一问题,不过,生成的题目本身也可能包含可被利用的规律。

交互式评估能够考察静态问答无法涵盖的能力。WebArena 基准评估系统在逼真的网页环境中完成任务的表现,而 GAIA基准则将问题与信息收集和工具使用要求相结合。软件任务可以测试智能体能否识别并修复现有代码仓库中的缺陷。这类评估能够揭示涉及界面、状态跟踪、依赖关系和故障恢复的困难,但其结果仍取决于工具使用权限、任务选择以及配套的软件基础设施。

在较长的工作流程中,可靠性尤为重要。如果一个序列中每一步都以概率 pp 独立成功,那么全部 nn 步均成功的概率为

P(complete success)=pn.P(\text{complete success})=p^n.

例如,当 p=0.99p=0.99 且必须完成 100 个步骤时,成功概率约为 0.3660.366。实际中的失败通常并不相互独立,而且系统也能够发现并纠正错误,因此,这并不是普遍适用的预测。它说明了为什么单项操作的高准确率可能与较低的端到端完成率并存。

因此,完善的评估方案需要多种形式的证据:陌生任务、受控的学习机会、环境变化、重复试验,以及资源使用情况和失败情况的报告。它应当区分在特定条件下展示出的能力,与在明确界定的部署领域内稳定可靠的表现。单一的综合分数不太可能涵盖通用智能的所有相关维度。

接地、因果关系与物理交互

一个长期存在的问题是:智能系统如何将其内部表征与现实世界联系起来。在仅依靠语言的学习中,系统接触词语主要是通过词语之间的关系。斯蒂文·哈纳德于1990年提出的符号接地问题,追问的是符号如何获得意义,而不只是按照形式关系被操作。这一问题对人工智能有何影响,至今仍有争议,因为语言数据也编码了大量关于感知、行动和社会实践的信息。

多模态学习将文本、图像、声音、视频及其他来源的信息联系起来。系统可以将一段文字描述与可见的物体对应起来,也可以将口头指令与动作联系起来。与单纯依靠文本相比,这些关联有助于形成更丰富的表征。然而,能够识别照片中的物体,并不意味着系统就能抓取它、预测它的重量,或理解它受损后会如何表现。

具身智能研究感知和行动与环境相耦合的智能体,其环境既可以是模拟的,也可以是物理的。机器人必须根据含噪观测估计隐藏属性,在存在延迟的情况下行动,并应对接触、摩擦、遮挡和机械限制。它也可以主动收集信息:移动摄像头可能消除歧义,轻轻试探物体则可能揭示它是否固定在某个表面上。因此,智能在一定程度上也体现为选择能够增进未来认知的行动。

因果理解与此相关,但又有所不同。因果推断区分统计关联与干预所产生的影响。观察到两个事件同时发生,并不能确定如果有意改变其中一个,会发生什么。智能体在规划维修、开展实验或管理不熟悉的过程时,需要具备一定能力,既能预测干预结果,也能在观测与自身假设相矛盾时修正假设。

具身性是否是通用人工智能的必要条件,取决于如何定义通用人工智能。如果目标涵盖人类实践活动的全部范围,那么在物理世界中行动的能力就不可或缺。如果定义仅限于数字环境中的认知工作,这种能力的必要性就不那么明显。此外,直接的身体体验并不是了解物理过程的唯一途径:科学文献、视频、模拟和远程操控的仪器都能提供有用的证据,尽管各自都有局限。

模拟能够提供可大规模扩展的经验,但也带来了迁移问题。策略可能利用模拟器中不符合现实的特征,也可能在传感器和物理参数与训练条件不同时失效。这种分布偏移并不限于机器人领域;软件界面、社会惯例或制度规则发生变化时,也会出现同样的问题。稳健的通用能力要求系统能够识别:熟悉的模式何时已不再足以支撑可靠的预测。

安全、对齐与可控性

通用人工智能的安全问题取决于具体能力和部署条件,而不只是其名称。仅能回答问题的系统,与获准修改软件、转移资金、操作机器或协调其他智能体的系统,造成危害的机会各不相同。因此,人工智能安全既包括预防常规故障,也包括分析随着能力、自主性和访问权限的提升而可能造成更严重后果的危险。

人工智能对齐关注的是系统的行为能否可靠地符合预期目标及相关约束。一个核心难题是,训练目标通常只是设计者真正意图的可量化替代指标。在规范博弈中,系统以非预期的方式达成形式上规定的目标。例如,将任务完成度的数值指标最大化,可能会促使系统钻评估机制的空子,而非正确完成实际任务。这一问题的出现并不需要系统具备意识或类似人类的动机。

使用工具的系统还面临安全防护问题。当检索到的文档或网页等不可信材料中包含指令,影响智能体,使其行为偏离获授权的任务时,就发生了提示注入。更全面的能力可以提高智能体的实用性,同时也可能加重其误解恶意内容所造成的后果。防御措施包括将可信指令与外部数据分离、限制权限,以及明确哪些操作需要另行授权;这些措施都不会随着模型智能水平的提高而自动实现。

可靠性问题包括人工智能幻觉、不准确的不确定性估计,以及在表面相似的情境中表现不一致。系统可能在缺乏有效依据的情况下给出详尽的解释,也可能未能意识到自己的知识不足。形式验证可以在明确的假设下证明特定程序的某些性质,但要为一个与开放环境交互的完整自适应系统证明有用的保证,则困难得多。对某个组件的保证,不应被视为对整个系统每一项行动的保证。

一些研究探讨了能力很强的智能体是否可能采取某些工具性策略,例如在有助于实现所分配目标时,维持对资源的访问或抵制中断。这类论证讨论的是特定智能体设计在一定条件下具有的性质,而不是每个先进模型都已表现出的行为。同样,递归自我改进描述了一种可能的反馈过程:系统改进支撑其自身能力的机制;这种改进能达到何种程度,将取决于测试、硬件、科学洞见及其他约束。

因此,安全评估不能仅仅依靠系统给出可接受回答的演示。相关证据包括对抗性测试、危险能力的测量、工具权限的审查,以及系统在激励发生变化或面对陌生条件时的行为。区分系统能够做什么、倾向于做什么,以及其配套基础设施允许它做什么,至关重要。

经济意义、治理与尚待解决的研究问题

通用人工智能的经济意义取决于它能够执行的任务范围,以及部署这些能力的成本。将某一专门任务自动化,只会改变生产流程中的有限环节;而具有适应能力的系统则可能影响许多相互补充的活动,包括研究、行政管理、编程和协调。不过,技术上的任务执行能力不会自动转化为生产力。系统集成、可靠性、监管、组织变革以及获取必要信息的能力,都会影响一种能力能否产生经济价值。

通用人工智能对劳动力市场的影响,无法仅凭某个单一的智能门槛来推断。职业由一系列任务构成,其中一些任务比其他任务更容易实现自动化。系统可能替代某些具体活动,同时增加对监督、集成或配套服务的需求。实体基础设施和制度规定的职责也可能限制这种替代。因此,对就业、工资或经济增长的预测,取决于技术的采用方式和社会的应对,而不仅仅取决于基准测试表现。

研究和部署需要大量的物质基础设施。先进模型的训练和运行可能依赖图形处理器、专用加速器、数据中心、电力和网络容量。神经网络缩放定律描述了特定训练条件下资源投入与模型性能之间的经验关系,但它们并非能够保证在某一指定规模上实现通用人工智能的普适定律。数据质量、算法改进、架构和推理阶段的计算投入,都可能改变系统的能力和成本。

即使尚未就通用人工智能的定义达成共识,治理措施也已开始涵盖一些相关系统。欧洲联盟于2024年通过了《人工智能法案》,其中包括针对通用人工智能模型的规定,以及与系统性风险相关的额外义务。该法律框架中的“通用人工智能”并不等同于AGI:这些类别是为监管目的而设,并不证明系统具有人类水平的智能。其他治理问题还涉及强大模型的访问权限、敏感数据保护、法律责任、竞争和国际协调。

预测仍然受到目标界定分歧和未来发现不确定性的限制。一项预测可能指将大多数具有经济价值的工作自动化、通过某项指定评估,或在一整套广泛的认知测试中达到人类水平。这些是不同的结果。历史上的突破表明,特定领域的能力可能迅速变化,但这既不能为通用智能的实现提供可靠的时间表,也不能证明同样的方法能够克服其余障碍。

几个研究问题仍然至关重要:如何将适应能力与依靠记忆获得的能力区分开来加以衡量;如何在保留知识的同时避免行为发生不受控的变化;如何将学习与可靠的推理结合起来;以及如何评估那些会影响自身受测环境的系统。有关通用人工智能的论断,只有与明确的定义、可复现的演示、具体的资源约束和清晰说明的局限相联系,才最具参考价值。