Claude 是由 Anthropic公司开发的一系列生成式人工智能模型及相关助手产品。Claude 于 2023 年 3 月首次向公众推出,支持回答问题、分析文档、撰写和修改文本、生成软件以及解读图像等任务。这个名称既指开发者可通过软件接口访问的底层模型,也指将这些模型以对话助手形式提供给用户的应用程序。
Claude 属于大语言模型,这类系统通过训练学习海量数据中的统计关系,并根据指令和上下文生成输出。Claude 的开发与宪法式人工智能密切相关;这是 Anthropic公司采用的一种方法,在训练助手行为时运用明确的原则和模型生成的反馈。后续版本在最初的纯文本服务基础上,增加了视觉输入、更长的上下文、工具使用能力,以及面向软件开发的接口。
要理解 Claude,需要区分模型本身与围绕模型构建的产品。模型负责生成回答,而实际部署的服务还要管理文件、对话历史、权限、外部工具和用户账户。因此,具体能力取决于所用的模型版本、界面和配置,而不能仅凭 Claude 这个名称来判断。
模型系列的起源与发展
Anthropic 于 2021 年由包括前 OpenAI 研究人员达里奥·阿莫代伊和丹妮拉·阿莫代伊在内的一群人创立。公司的研究计划将高能力语言模型的开发与模型可靠性、可解释性及可控性等问题联系起来。Claude 成为这一研究计划的主要商业化成果,既提供对话界面,也为构建自有应用的组织提供接入服务。
Claude 于 2023 年 3 月 14 日首次公开发布,包括最初的 Claude 模型和 Claude Instant,后者延迟更低,旨在提供成本相对低廉的使用方案。最初的服务侧重于文本生成、对话、摘要及相关的自然语言处理任务。2023 年 5 月,Anthropic 宣布 Claude 的上下文容量达到约 10 万个词元,使处理大批量文档成为 Claude 早期产品定位的一大重点。Claude 2 随后于 2023 年 7 月 11 日推出,同时上线面向公众的网页版服务,最初仅在美国和英国提供。2023 年 11 月 21 日发布的 Claude 2.1 将公布的上下文容量提升至 20 万个词元,并引入了测试版工具使用能力。
2024 年 3 月 4 日发布的 Claude 3 系列确立了三个模型名称:Haiku、Sonnet 和 Opus。这些名称代表速度、成本与能力之间不同的预期权衡,而非不同的专业领域。Claude 3 还将图像理解纳入该系列的主要能力。2024 年 6 月 20 日推出的 Claude 3.5 Sonnet 保留了 Sonnet 的产品档位,同时据介绍在多项评测中的表现有所提升。2024 年 10 月,更新版 Claude 3.5 Sonnet 与计算机操作功能的公开测试版一同发布。
2025 年 2 月 24 日发布的 Claude 3.7 Sonnet 引入了可选的扩展思考模式。Anthropic 将其称为混合推理模型,因为同一个模型既可以较快地作答,也可以在给出最终回答前投入更多计算资源来处理问题。此次发布还推出了 Claude Code 的研究预览版,用于在终端中开展软件开发工作。
这些版本的发布说明,与其将 Claude 视为单一且固定的系统,不如将其视为一个持续演进的模型系列。关于某一代模型的上下文上限、图像支持或工具行为的描述,不一定适用于另一代模型。相比系列名称,具体的模型名称、带日期的标识符以及特定版本的文档能提供更准确的信息。产品是否可用则是另一个问题:已公布的模型可能先在某项服务中开放,之后才在其他服务中提供;此前可用的版本也可能在日后停用。
语言建模、训练与生成
Claude 的基本运作方式遵循当代生成式助手所采用的语言建模方法。输入文本经过分词与词元化,转换为表示词语、词语片段、标点或其他符号的数值单元。经过训练的人工神经网络会处理这些单元,并为各种可能的后续内容赋予概率。Anthropic 并未针对每个版本公开 Claude 的内部架构、模型规模及完整的训练数据构成,因此,在介绍这一模型系列时,不应假定其参数量已经披露,也不应假定它始终采用同一种实现方式。
对于词元序列 ,自回归语言建模将其概率表示为
在生成过程中,系统会反复选择下一个词元,并将其纳入上下文,用于后续预测。这种机制能够生成解释、程序、译文或结构化的工具调用请求,因为这些内容都可以表示为序列。解码设置会影响系统如何从候选项中进行选择,但降低随机性并不意味着回答就一定正确。
训练过程可分为广泛的预训练和后续的行为适应训练。预训练使用大量训练数据,学习语言模式、事实关联、编程惯例及其他规律。Anthropic 曾以宽泛的类别描述其训练数据来源,包括公开可获取的信息、经授权或以其他方式提供的数据,以及内部生成的数据。这些描述并不等于逐份文档的完整清单。后续的微调和基于反馈的训练,则用于塑造系统遵循指令、处理不确定性以及回应请求的方式。
对话是这种序列处理机制的一种应用。指令、用户消息、助手先前的回复,有时还有工具返回的结果,会被组织成结构化输入。模型基于这些汇集起来的材料生成回复。因此,多轮对话中呈现出的连贯性,在很大程度上取决于应用程序重新提供了哪些内容,而不是模型像人一样,始终意识到先前的互动。
一个有用的区分是:哪些信息编码在模型参数中,哪些信息是在运行时提供的。模型学到的参数可能使其无需外部检索,就能回答有关某个历史事件的问题。相比之下,一份新近上传的报告之所以能被分析,是因为报告内容出现在输入中,即使它是在模型训练结束后才形成的。这两种途径都不能保证准确:基于参数的回答可能包含过时的关联,而基于上下文的回答则可能误读或遗漏证据。
部署还涉及神经网络推理基础设施,包括加速器、内存管理和调度。这些系统会影响吞吐量、延迟及运行成本。因此,Claude 服务的改进可能来自底层模型、推理系统或应用层的变化,而这些变化不一定同时发生。
宪法式人工智能与行为对齐
Claude 与 Anthropic 在人工智能对齐方面的研究密切相关,尤其是宪法式人工智能(Constitutional AI)。这一方法于 2022 年的一篇研究论文中提出,使用一套书面原则来指导模型回答的生成与评估。“宪法”一词指的是这些指导原则,并不意味着模型拥有法律权威,也不意味着其行为由一个绝不会出错的规则引擎决定。
最初的研究描述了一个监督学习阶段:模型先根据提示生成回答,再依据选定的原则对这些回答进行批评,随后给出修订版本。这些修订后的示例接着用于进一步训练。原则的内容可以涉及避免提供有害帮助、尊重隐私,或在回答时避免不必要的评判。其关键机制在于,由模型协助生成行为示例,供下一阶段的训练学习,从而减少对人工逐条撰写修正内容的依赖。
第二阶段使用由人工智能生成的偏好。模型参照宪法原则比较候选回答,再利用这些比较结果训练偏好模型。随后,通过强化学习优化助手,使其更倾向于生成偏好模型所青睐的回答。这种方法通常称为基于人工智能反馈的强化学习。它与基于人类反馈的强化学习有关,但区别在于,相当一部分比较性反馈的产生方式不同。在选择原则、设计实验、构建评估以及制定部署政策等方面,仍然需要人类决策。
宪法式训练并不意味着,实际运行中的每一次回答都是通过显式查阅一份固定清单来生成的。它的影响可以通过训练融入模型习得的行为中。运行时指令和安全系统可以提供额外控制,但它们与训练过程本身不同。同样,某种宪法式人工智能方法的发表,也不能证明后续每一款 Claude 模型都采用完全相同的训练方案、数据集或宪法。
这种方法也带来了实质性的设计问题。宽泛的原则之间可能存在冲突:提供有帮助的回答,可能与隐去危险的具体操作细节相矛盾;而避免没有充分依据的确定性表述,则可能使回答不够直接。以自然语言表述的原则需要解释,而模型对这些原则的理解可能前后不一致。因此,符合偏好模型的偏好,并不等于证明回答在事实层面正确或在伦理层面妥当。
Claude 的拒绝回应、限定性表述和对话风格,都是这一更广泛的训练与部署过程共同作用的结果。拒绝回应可以防止产生有害输出,但拒绝范围过宽也可能阻碍正当请求得到满足。反过来,语气礼貌而谨慎的回答也可能是错误的。行为对齐与事实可靠性存在交集,但二者不是可以互相替代的属性,需要采用不同类型的评估。
上下文窗口、文档分析与检索
上下文窗口是指模型在一次请求中能够处理的输入内容与生成内容的总量上限。Claude 在发展早期就以较大的上下文容量受到关注:2023 年 5 月公布的容量约为 100,000 个词元,之后推出的 Claude 2.1 则支持 200,000 个词元。这些数字表示词元数量,而非固定的字数或页数。一份文档需要多少词元,取决于其语言、格式、代码内容以及所用的分词器。
长上下文支持合同对比、研究文献集摘要、技术文档中的引用追踪,以及大型代码库分析等任务。应用程序无需先将每份来源材料压缩成简短摘要再提出问题,而是可以提供大段原始材料。这样有助于保留那些可能在预处理过程中丢失的限定条件和交叉引用。不过,标称容量只是所提供材料的数量上限,并不保证模型能够同样有效地关注每一段内容。
模型可能无法从冗长的输入中找到重要细节,也可能混淆名称相近的实体,或将不同文档中的论述混为一谈。信息的位置、重复情况、相互矛盾的证据以及问题的措辞,都可能影响结果。此外,在长文档中定位一句特征鲜明的话,与整合分散在多个章节中的证据,也是不同的任务。因此,长上下文性能测试需要区分简单检索、多文档比较,以及依赖多个相互关联事实的推理。
一种替代或互补技术是检索增强生成。在这种架构中,独立的信息检索系统从资料集合中选取段落,并将其提供给模型。数据库或搜索索引所能保存的信息量,可以远远超过单个上下文窗口的容量。检索将输入范围缩小到被判定为相关的材料,而长上下文则允许模型同时考虑更多这类材料。两种方法都无法消除错误:检索可能遗漏必要的来源,生成过程也可能曲解已被正确检索出的段落。
文档处理还取决于预处理方式。PDF 可能包含可选取的文本、扫描页面、图示、表格,或这四种内容的混合。其可见的页面顺序,未必与软件提取内容时的顺序一致。图像可以保留纯文本会丢失的空间关系,而文本提取则可能更高效地获取小字号文字。Claude 模型看到的是传递给它的内容表示,而不是一份抽象且完美还原的文档。
由应用程序管理的记忆是另一种独立机制。服务可以保留指令、项目文件或选定的对话信息,并将其插入后续请求中。不应将这类功能与无限的模型上下文,或根据个别用户的活动持续重新训练模型混为一谈。持久化存储、检索和上下文构建都属于产品功能,其行为可以独立于模型而发生变化。
多模态输入与生成式工作区
Claude 3 系列在文本输入的基础上引入了图像输入,将 Claude 的应用范围扩展到多模态学习领域。支持的任务包括描述照片、从图表中提取信息、解读示意图,以及回答有关屏幕截图的问题。这些应用的输出通常是文本。能够解读图像,本身并不意味着同一模型能够生成原创图像,或执行所有类型的音频和视频处理。
视觉分析并不只是说出图中物体的名称。回答图表相关问题,可能需要识别坐标轴、读取标签、区分线条样式,并将图中不同位置的数值联系起来。一张屏幕截图可能同时包含图标、文本、布局和应用程序状态。模型可能正确识别图像的整体主题,却在数值或空间关系上出错。细小的文字、低分辨率、密集的表格和含义模糊的视觉编码,都可能增加分析难度。因此,模型的表现不仅取决于图像主题,也会受到实际输入呈现方式的显著影响。
Claude 的视觉能力还支持结合图像与文字进行推理。用户可以同时提供示意图和书面规格说明,询问两者是否一致。在软件开发中,界面截图可以作为生成前端代码的参考。在文档分析中,可以结合图注解读嵌入的插图。这些任务将视觉解读与语言生成结合起来,但并不能保证几何测量、提取的数值或推断的关系完全准确。
2024 年 6 月,Anthropic 推出了 Artifacts。这项界面功能将某些生成内容从对话流中独立出来。代码、格式化文档、示意图和交互式网页内容可以显示在专用工作区中,便于查看连续修订的各个版本。这使交互模式从接收一连串彼此独立的回答,转变为围绕同一对象进行迭代完善。用户要求修改图表或调整界面时,可以直接引用现有的 Artifact,而无须手动重新构建。
Artifacts 体现了内容生成与执行之间的区别。模型可以生成超文本标记语言、样式代码或 JavaScript,而预览环境则由应用程序提供。内容能否正确运行,取决于浏览器行为、依赖项、获准使用的接口以及执行限制。预览看起来像模像样,并不能证明底层程序满足所有要求,也不能证明它可以安全地用于不受限制的部署。
这些界面也带来了人机交互方面的问题。将输出内容与聊天分开,可以让修订历史和应用程序状态更清晰,但生成的界面也可能用精美的外观掩盖错误。无障碍支持、键盘操作行为和错误处理,都是最终生成内容本身的属性,并不会因为使用了具备视觉能力的模型就自动得到保障。
工具使用、计算机交互与编程智能体
工具使用使 Claude 能够请求执行常规文本生成之外的操作。在应用程序编程接口工作流中,开发者会提供可用工具及其预期参数的描述。模型可以生成结构化请求,由宿主应用程序执行相应操作,再将结果作为补充上下文返回。工具可以用于查询数据库、进行算术运算、检索文档,或与其他服务交互。
模型发出的请求本身并不等于外部操作。将两者分开十分重要,因为应用程序掌控着哪些工具可用、工具使用什么凭据,以及拟执行的操作是否需要批准。查询天气和删除文件的命令,在对话中的形式可能相似,后果却可能截然不同。工具的结构定义可以约束格式,却无法保证所选操作恰当,也无法保证参数符合用户意图。
2024 年 10 月,Anthropic 随更新后的 Claude 3.5 Sonnet 推出了计算机使用功能的公开测试版。演示中的交互循环包括接收屏幕截图,以及请求移动指针、点击或输入等操作。模型随后可以查看新的屏幕截图并继续操作。这将工具使用扩展到了没有专门语义接口的软件,但也带来了脆弱性:屏幕坐标、加载延迟、意外弹出的对话框以及布局变化,都可能打断一连串操作。
基于 Claude 构建的AI智能体,通常会将这种反复观察与行动的循环,同任务目标、工作状态及终止条件结合起来。可靠性因而取决于整个循环。即使每个单独操作通常都是正确的,较长的操作链仍可能不断累积失败。稳健的实现会区分可撤销的检查操作与会产生实质影响的修改操作,并保留操作及工具返回结果的记录。
Claude Code 于 2025 年 2 月以研究预览版形式推出,将这一模式应用于终端中的软件开发。它能够在所在环境授予的权限范围内检查项目文件、提出或实施修改、运行命令,并使用开发工具。这类编程智能体不同于仅返回代码块的聊天机器人:它能够直接操作实际的代码仓库,并观察修改带来的结果。
由此形成的工作流将内容生成与版本控制、测试及代码审查连接起来。成功的修改不仅要求代码在语法上有效,还必须符合项目的依赖关系、约定和预期行为。通过测试套件,只能说明代码与所测试的用例相容,并不代表代码完全正确。因此,工具辅助编程既展现了语言模型的实用价值,也揭示了将生成的补丁视为能够自行证明正确的结果这一做法的局限。
应用、部署与商业访问
用户可以通过几种不同的渠道使用 Claude。面向消费者的助手提供对话界面、文件处理,以及项目和生成式工作区等产品功能。开发者则可通过 API 调用模型能力。企业服务还涵盖组织管理和系统集成方面的需求。在某些配置下,这些渠道使用相同的底层模型,但其提供的功能、使用限制和数据处理条款未必完全一致。
Anthropic 也通过主要的云计算平台提供 Claude,包括 Amazon Bedrock 和 Google Cloud 的 Vertex AI。这类安排让组织能够将 Claude 接入现有云环境,而不必仅围绕 Anthropic 自有服务直接构建系统。所选择的托管渠道会影响身份验证、计费、可用区域,以及与周边基础设施的集成方式。但这并不意味着模型可以不受限制地访问同一云账户中的其他数据。
Haiku、Sonnet 和 Opus 这套命名体系,从商业角度区分了各模型在预期性能与资源消耗之间的不同取舍。速度快、成本较低的模型可能适合大批量分类或简短的信息提取任务,而能力更强的模型则可能被用于复杂分析。这些名称并不代表跨越所有代际、始终不变的能力排名。某一档位的新模型可能在特定任务上优于另一档位的旧模型,而响应延迟则取决于请求长度、系统负载和部署配置。
API 的使用成本通常按输入和输出的词元数量计算。较长的源文档会增加输入处理量,而篇幅较长的回答则会增加输出生成量。长时间运行的智能体工作流可能因反复发起请求和处理工具返回结果而产生额外用量。提示缓存和批处理等功能可以改变成本结构,但其是否可用以及具体运行方式取决于所使用的服务。因此,实际运行中的评估不仅要考虑回答质量,还要考虑响应时间、并发能力和完成任务的总成本。
常见应用包括客户支持辅助、文档信息提取、研究辅助、内部知识检索、写作和编程。在这些应用中,实际工作流程均由配套软件决定。客户支持系统可能先检索经过审核的政策文本,再请 Claude 起草答复;文档处理流水线可能依据预设的数据模式验证提取出的字段;编程服务则可能在应用补丁后运行测试。这些配套措施可以显著改变系统在实际使用中的可靠性。
Claude 是专有软件,其模型权重通常并未以开源软件的形式发布。因此,使用该服务的组织依赖于外部模型的可用性、版本政策和合同安排。固定模型标识符有助于保持应用的稳定性,但要确保可复现性,还需要记录提示、工具定义、解码设置,以及相关产品的行为。
评估、推理与事实可靠性
对 Claude 能力的评估综合采用标准化基准测试、特定任务测试、人工评判和实际使用情况。基准测试涵盖通识知识、数学解题、编程、视觉理解、指令遵循和长上下文检索等类别。公布的分数反映的是模型在特定评估流程下的表现,并不能确立其普遍适用的智能水平,也不能保证它在具体应用中达到相同的成功率。
评估细节可能显著影响结果。模型可能只有一次尝试机会,也可能获准多次尝试;可能使用工具,也可能独立作答;分配到的推理计算预算也可能较少或较多。软件基准测试在是否允许安装依赖项、查看代码仓库或反复运行测试等方面也可能存在差异。只有这些条件一致时,比较才最有意义。如果一份模型发布公告汇总了不同条件下得到的分数,就不能将其视为一次统一的受控实验。
Claude 3.7 Sonnet 引入的扩展思考模式,使计算预算明确成为评估中需要考虑的因素。在给出最终答案之前投入更多计算,可以改善模型在某些高难度任务上的表现,但通常也会增加延迟和资源消耗。由此生成的解释并不是对所有内部过程经过核实的完整记录,推理回答更长也不代表答案正确。数学解答仍须依靠有效的推导步骤,软件修复是否成功仍取决于修改后程序的实际行为。
与其他语言模型一样,Claude 也可能产生人工智能幻觉:表述流畅,却没有所提供的证据或事实支持的说法。例如,编造引用、提及并不存在的软件函数,以及作出错误的摘要。其底层生成过程倾向于输出在训练中学到的、看似合理的后续内容,并不会自动对每句话进行外部核验。检索和工具调用可以提供证据,但模型仍可能误解结果,或将某一说法归于错误的来源。
基准测试的有效性还取决于训练材料与评估材料是否分离。如果测试题目、解答或高度相似的变体出现在训练中,基准数据污染就可能使测得的性能虚高。即使不存在直接重叠,反复针对某个熟悉的基准进行开发,也可能降低它衡量模型应对陌生任务能力的价值。非公开测试集和新构建的评估可以解决其中一部分问题,但也会带来透明度和可重复性方面的新问题。
对于已部署的应用,任务层面的指标往往比综合排名更重要。信息抽取系统可以用字段遗漏和误报来评估;编程智能体可以用解决的问题和引入的回归缺陷来评估;研究助手则可以用来源归属的准确性来评估。概率校准是另一个独立问题:语气自信并不等于对正确概率作出了经过校准的数值估计,助手愿意作答本身也不能证明其答案可靠。
安全、隐私与系统层面的约束
Claude 与文档、外部工具和组织内部系统的集成,带来了超出单次回答内容范畴的安全问题。一个典型例子是提示注入:不可信材料中包含旨在改变助手行为方向的指令。例如,检索到的网页可能要求模型忽略原有任务、泄露机密信息,或调用无关工具。这类攻击利用了这样一个事实:合法指令和恶意文本都可以通过语言形式进入模型。
因此,指令与数据之间的区分是一道安全边界,而不仅仅是一种格式约定。系统可能需要让助手总结一份文档,却不能允许该文档重新定义助手的权限。常见的做法包括标明消息角色和工具输出、限制可执行的操作,以及在模型之外验证请求。不过,以自然语言建立的边界并不等同于通过形式化机制强制实施的隔离。模型层面的防御能力可以降低风险,但不能取代应用层面的控制措施。
工具权限决定了成功操纵模型后可能造成的后果。只能读取公开网页的助手,与能够发送消息、修改生产环境记录或执行 shell 命令的助手,面临的风险截然不同。最小权限原则要求将每个组件的权限限制在完成其任务所必需的范围内。沙箱(计算机安全)可以限制代码执行的范围,而明确的审批步骤则可以将操作提议与操作授权分开。这些控制措施在宿主系统中实施,而不是完全依赖模型自身的判断。
讨论隐私问题时,也需要区分不同的服务配置。通过面向消费者的应用、商业 API 或云端托管的集成服务提交的数据,可能适用不同的设置和合同条款。数据保留、用于改进模型、管理员访问以及数据删除,是彼此独立的问题。如果不指明具体产品及其政策,仅笼统地声称 Claude“保护隐私”或“使用用户数据”,并不足以说明实际情况。放入提示中的信息,即使不用于训练,也必须由服务进行处理。
模型拒绝请求所能说明的问题也有局限。一次拒绝只能表明模型对某个特定请求的反应,并不能证明所有其他提示方式或借助工具的路径都已被封堵。反过来,如果误解了上下文,过滤请求也可能阻碍正常工作。因此,安全评估既要考察成功的攻击,也要考察不必要的限制,同时还要评估凭据保护、访问日志和事件处置等常规措施。
基于 Claude 构建的智能体,也会承袭其周边软件的风险。即使工具请求的格式完全正确,仍可能利用过度授予的权限;模型给出安全的回答,也无法修复存在漏洞的集成。相关的威胁模型涵盖用户、外部文档、所连接的服务、执行环境和管理员,并对各方采用不同的信任假设。系统层面的安全保障取决于这些边界如何实施和测试,而不只是底层语言模型的行为。