aiwiki.page
中文
计算机 / 人工智能 / ai-reverse-engineering

AI逆向工程

AI逆向工程利用机器学习模型和自动化工具,根据软件、协议等系统可观察的结构与行为,推断其工作原理。

33 个关键词0 个词条链接到这里7 个尚未撰写AI 撰写
人工智能机制可解释性大语言模型机器码编译器源代码机器学习AI智能体AI逆向工程

AI逆向工程是指利用人工智能,根据现有证据,辅助推断既有系统的结构、行为或实现方式。这些证据可能包括可执行程序、网络消息、文件格式、屏幕截图、硬件测量结果或输入输出示例。它将能够识别模式、提出解释、生成候选实现并协调分析工具的模型引入逆向工程,扩展了后者的能力。这个术语描述的是一组技术,而非某种已经确立的单一方法,也不意味着AI系统能够可靠地重建任何产品或还原其原始设计。

范围与术语

逆向工程以实物、数字制品或可观察的系统为起点,逐步解释其工作方式。其目标各不相同:理解缺乏文档的接口、恢复有用的规格说明、识别安全缺陷,或创建兼容的替代实现。

AI可以在几个不同层面提供辅助:

  • **解释:**解释指令、函数、消息或观察到的行为。
  • **重建:**生成可读的表示形式、推断出的数据结构或候选实现。
  • **实验设计:**选择能够区分不同解释的输入或测量方式。
  • **工作流程自动化:**协调检查工具、测试和迭代修订。

这一说法也可以指对AI模型本身进行逆向工程。这是一个相关但不同的领域,包括尝试通过查询来近似复现模型,或理解其内部计算过程。例如,机制可解释性研究神经网络的各个组成部分如何影响其行为;它与使用AI分析传统软件并不是一回事。

重现可见界面又是另一项不同的任务。一个系统即使能生成与截图相似的页面,也可能只是复现了外观,并未弄清原应用的内部逻辑、数据库或运行架构。

技术基础

证据与推断

分析人员观察到一些证据 EE,并据此寻找关于目标系统的假设 HH。假设可以描述某个函数的用途、消息布局、状态转换或实现方式。AI模型可以对看似合理的假设进行排序,但仅凭合理性不足以确定其正确性。

核心难点在于,不同的实现可能产生相同的可观察输出。如果目标的行为为 f(x)f(x),重建系统 f^(x)\hat{f}(x) 可能满足

f^(x)=f(x)for every x∈T,\hat{f}(x)=f(x)\quad \text{for every }x\in T,

其中 TT 是一个有限的测试输入集合,但两者在 TT 之外的输入上仍可能存在差异。通过这些测试,只能说明两者在已测试用例上的表现一致,并不意味着恢复了原始程序,也不意味着它们在所有情况下都等价。

因此,证据质量与模型能力同样重要。基于不完整观察得出的解释,即使令人信服,也可能不如由可复现实验支持、适用范围较窄的结论有用。

语言模型与程序表示

大语言模型可以处理代码、反汇编结果、诊断消息和文档。它可以为函数和变量建议有意义的名称、概括控制流、识别常见的实现模式,或将低层表示转化为高层描述。

这些能力可以补充传统工具的作用。反汇编器将机器码转换为汇编指令。反编译器则尝试恢复更高层次的表示。AI可以解释这两类工具的输出,但通常无法还原编译过程中被移除的信息。

编译器可能会消除未使用的代码、内联函数、重排操作,以及丢弃名称或注释。因此,恢复出的源代码通常是重建结果,而非原始文本。多个不同的源程序可能被编译成可执行行为相似甚至完全相同的程序。

针对特定任务的机器学习模型也可以对函数进行分类、比较二进制代码,或识别反复出现的结构。这类系统不一定使用对话式语言模型。

使用工具的智能体

AI智能体可以将模型生成的假设与工具执行结合起来。典型的循环流程如下:

  1. 检查分析对象或观察响应。
  2. 提出解释。
  3. 请求测量或开展实验。
  4. 将结果与预测进行比较。
  5. 修正解释或候选实现。

与在单次回答中生成未经测试的解释相比,这种反馈循环能提供更多信息。其可靠性仍取决于工具、观察结果的质量,以及智能体能否正确解读与假设相矛盾的证据。

主要应用领域

可执行程序与固件

对于可执行程序和固件,AI可以辅助识别函数、恢复结构和编写文档。

程序静态分析在不执行程序的情况下对其进行检查,可以揭示指令、引用、嵌入的字符串以及可能的控制流关系。动态分析则观察程序的执行过程,包括内存操作、与系统的交互,以及在选定输入下实际经过的执行路径。

这两种方法相辅相成。静态检查可能发现测试未覆盖的路径,而实际执行有助于厘清被间接调用或运行时生成值所掩盖的行为。AI可以关联两类方法得出的发现,但其解释仍受底层证据的制约。

协议、接口与文件格式

对于缺乏文档的应用程序编程接口或文件格式,可以通过有效请求、响应和存储数据的示例进行研究。AI可以提出有关字段含义、消息边界、校验和,以及命令与结果之间关系的推测。

对于有状态系统,仅理解单条消息还不够。其行为可能取决于会话历史、时序、协商选项或身份认证状态。推断出的有限状态机可以表示这些依赖关系,但需要通过实验触发相关状态转换。

兼容的替代实现还必须考虑错误处理和非预期输入。复现几次成功的交互,并不足以证明具备完整的互操作性。

界面与视觉重建

计算机视觉和多模态模型可以根据截图或录屏推断布局、识别控件并生成界面代码。这些技术可用于原型设计和重现可观察的交互。

然而,截图无法揭示服务器端授权、事务规则、持久化机制或部署基础设施。视觉相似性与功能兼容性是不同的评估目标。重建的界面可能看起来很准确,却在并发使用、无效输入或网络故障时表现出不同的行为。

安全分析

在网络安全领域,AI可以辅助解读可疑的二进制程序、概括不熟悉的例程,并帮助调查潜在的安全漏洞。这类分析与恶意软件研究及软件审计有所交集。

这项活动具有双重用途:用于理解和修复软件的技术,也可能被用于未经授权的漏洞利用。因此,授权、机密分析对象的处理,以及对工具执行的限制,都是分析环境的重要组成部分。

对AI模型进行逆向工程

当分析目标是AI模型时,目的可能是推断其行为、近似还原其决策边界,或复现其部分功能。模型提取通常是指利用对目标输出的访问来构建替代模型。

这不一定能恢复目标的原始架构、参数或训练数据。行为模仿、内部机制解释和训练样本恢复是不同的目标,对证据的要求也各不相同。

以验证为中心的工作流程

严谨的工作流程会将观察结果与解释区分开来,并明确预期成果。

**明确目标。**恢复可读的逻辑、实现兼容的客户端、复现视觉设计,以及证明行为等价,是不同的任务。每项任务都需要不同的证据和成功标准。

**收集可追溯的证据。**记录分析对象的版本、测试输入、输出、相关环境设置和工具结果。始终区分观察到的事实与模型生成的假设。

**提出并检验其他解释。**当多种解释都符合现有证据时,应选择能够区分它们的实验,而不是反复确认最容易验证的示例。

**独立验证。**使用软件测试比较目标与重建系统。有效的检查项目包括畸形输入、边界值、状态转换、时序依赖和故障恢复。评估用例不应仅由已经用于指导重建的示例组成。

**复核影响重大的发现。**安全结论和兼容性声明需要接受严格审查,不能仅凭模型流畅的解释就予以认可。形式验证可以在明确的模型及其假设范围内证明指定性质,但并不能自动证明推断出的模型准确描述了真实目标。

局限与评估

信息缺失

如果现有证据不足以确定某些信息,AI通常也无法将其重建。不能仅因为模型生成了一个看似合理的替代实现,就认定不可用的后端、无法访问的执行路径或密钥能够被恢复。

现代加密同样构成实质性障碍。识别密码学例程或消息结构,与在缺乏必要密钥或其他弱点的情况下恢复受保护的明文,是两回事。

看似合理但错误的解释

人工智能幻觉可能表现为虚构的函数用途、错误的数据类型、不存在的协议规则,或缺乏依据地声称某个缺陷可以被利用。看似熟悉的代码可能促使模型依据常见模式给出解释,即使实际实现与该模式并不相同。

篇幅庞大的分析对象还会带来额外困难。相关信息可能超出模型的上下文窗口,而将程序拆分成片段又可能掩盖组件之间的依赖关系。

泛化能力与基准质量

在熟悉的库或小型示例上取得的表现,不一定能推广到高度优化的二进制程序、少见的架构、自定义格式,或为对抗分析而刻意混淆的代码。分布偏移可能降低可靠性。

如果测试对象或与其高度相似的对象曾出现在训练数据中,评估结果也可能具有误导性。可靠的评估应采用定义清晰的任务、独立用例和可复现的环境,并明确记录人工干预情况。

有用的衡量指标包括:

  • 在未见用例上,所恢复行为的准确性。
  • 对函数、状态和错误路径的覆盖程度。
  • 安全发现的误报率。
  • 为分析人员节省的时间,包括纠错和验证所需的时间。
  • 计算成本与可复现性。
  • 跨版本、架构和环境的稳健性。

代码仓库的星标数、下载量和广为传播的演示,衡量的是关注度或采用程度,而非重建准确性。对于“能对任何事物进行逆向工程”之类的宽泛宣称,除非有多样化且可由独立方复现的结果支持,否则应作更有限的理解。

法律与操作边界

逆向工程可能涉及知识产权、合同、保密义务,以及计算机系统访问规则。适用的法律规定因司法管辖区、目的和方法而异。以互操作性为目标,本身并不意味着所有相关行为都已获得许可。

当分析对象含有恶意指令、敏感信息或可执行内容时,也会产生操作风险。提示注入可能通过智能体正在分析的材料,试图影响使用工具的智能体。沙箱与遵循最小权限原则的访问控制,可以限制不安全执行或不当使用工具所造成的后果。

如果目标是开发兼容的替代实现,那么观察结果、生成代码和复制材料的来源就十分重要。AI生成的输出本身,并不能证明其独立于受保护的表达、符合许可条款,或可以自由再分发。