可执行文件格式与静态分析原理
可执行文件格式与静态分析原理
一句话定义
可执行文件格式(Executable File Format)是编译器与操作系统加载器之间的结构化契约,ELF、PE、Mach-O 三大格式抽象层次同构;静态分析(Static Analysis)就是不运行程序,解析契约、反汇编指令、重建控制流与数据流,还原程序语义。
为什么重要
二进制是安全世界的”源材料”:样本分析、供应链审计、漏洞研究,第一步都是读懂二进制结构与程序声明的系统能力;而所有解析二进制的组件——加载器、防病毒引擎、分析工具——本身都是攻击面。理解格式既能读懂程序,也能判断”谁在解析它、解析出错会怎样”。
前置知识
- 操作系统基础:进程、虚拟地址空间、内存映射(mmap)。
- 机器码与指令集架构(ISA):指令是定长或变长字节序列。
- 十六进制与字节序(Endianness)表示。
核心概念
- 文件头(Header):魔数(Magic Number)、架构、入口点等元数据。
- 节(Section)与段(Segment):前者是编译与工具视角的内容容器,后者是加载视角的映射单元。
- 符号表(Symbol Table)与重定位(Relocation):符号命名与加载期地址修正。
- 导入表/导出表(Import/Export Table):对动态库符号的依赖与供给。
- 反汇编(Disassembly):字节流还原为指令序列。
- 控制流图(CFG)与调用图(Call Graph)。
原理与机制
三大格式共性。 ELF(Linux)、PE(Windows)、Mach-O(macOS/iOS)字段各异、层次一致:文件头声明全局信息 → 视角容器(节表/程序头表、数据目录、加载命令)→ 代码与数据 → 符号与重定位。掌握一种,其余只是换字段名。
加载器如何把文件变成进程。 读头并校验魔数 → 解析程序头,把各段按权限映射进虚拟地址空间 → 依赖动态库时递归加载,按重定位与导入表填好符号地址 → 指令指针指向入口点。文件布局到内存布局按”段”重组而非复制;BSS 不占文件空间,只在内存清零展开。
静态分析流水线。 格式解析 → 反汇编 → 控制流重建 → 数据流与调用图分析。反汇编两条路线:线性扫描(Linear Sweep)逐字节解码,遇数据或对齐填充会错位;递归下降(Recursive Descent)沿控制流解码,更准但遇间接跳转留空洞。
启发式特征。 字符串(配置与域名)、导入表(真实依赖的系统能力)、熵(加密压缩区逼近上限)、节属性异常,都是低成本可批量的特征;单条弱,组合即是规则与分类器的基础输入。
攻击面:解析器本身。 头部的数量、偏移、大小字段被解析器信任并用于分配与索引,畸形值可致越界或溢出;模糊测试(Fuzzing)即投喂变异文件并监控崩溃,系统性挖掘这层缺陷。防御映射三层:签名校验在解析前验证来源;格式校验在解析中拒绝畸形字段;SBOM 在解析后登记二进制成分,支撑供应链审计。
实例或案例
Google OSS-Fuzz 长期对 GNU binutils(readelf、objdump 等解析器)做模糊测试,累计修复数百个解析缺陷,说明分析工具自身会被畸形输入击穿;Windows 与 Linux 内核也多次公开修复对畸形可执行文件的解析缺陷。共同原理:解析器把不可信文件中的长度与偏移当成可信值。
常见误区
- 把节与段当同一概念:节表服务链接与工具,程序头表服务加载器,用途不同。
- 以为静态分析能完整还原源码:优化、宏展开、类型擦除使信息不可逆丢失。
- 以为导入表所见即所用:运行期动态解析 API 可绕开枚举,导入表只证明下限。
- 把高熵一律当恶意:正常资源也可能压缩,熵是信号而非判决。
自测题
-
节表与程序头表分别服务谁? 要点:节表服务编译与工具观察;程序头表服务加载器,决定映射位置与内存权限;一个文件两套视图。
-
“高熵节加极少导入”为何比单特征可信? 要点:加壳后导入表消失、节熵升高,两条独立证据指向同一解释;弱特征合成强判定,且难以同时伪装。
-
解析器为何是攻击面?如何系统性发现其缺陷? 要点:长度与偏移字段被信任并用于分配索引,畸形值致越界或溢出;模糊测试批量投喂变异文件并监控崩溃即可覆盖。
公式或模型
香农熵 H = -Σ p(i)·log₂ p(i),p(i) 为字节值 i 的频率,范围 0 至 8 比特/字节。代码与文本有结构、熵偏低;加密压缩趋近均匀、熵逼近 8。熵是解析阶段零成本可得的随机性度量,与导入面组合即加壳嫌疑评分。
图示
可执行文件(ELF/PE/Mach-O)
┌────────────────────────────┐
│ 头部:魔数 / 架构 / 入口点 │
├────────────────────────────┤
│ 节表 / 程序头表 │ ← 工具看节,加载器看段
├────────────────────────────┤
│ 代码节 │ 数据节 │ 只读数据 │
├────────────────────────────┤
│ 符号表 / 重定位 / 导入导出 │
└────────────────────────────┘
│ 按段映射 + 重定位 + 填导入
▼
进程地址空间:.text(r-x) .data(rw-) 栈 堆
直观类比
可执行文件像集装箱船的舱单体系:文件头是船籍证书,节是编号集装箱,程序头表是装卸图,符号与重定位是”到港再贴门牌”的清单——有些地址只有靠岸(进内存)才填得上。静态分析就是不开箱查舱单,凭标签、重量、申报品名推断货物性质。
与其他知识点的关系
- kp-037 把本篇方法论搬到字节码世界,还原阻力更低。
- kp-016 是格式思想在移动包体上的延伸:包结构、清单与签名校验同属”先验证来源、再解析内容”的防御映射。
- 加载器的映射机制也是内存安全类知识的坐标系来源。
延伸阅读
- Tool Interface Standard《Executable and Linking Format (ELF) Specification》——ELF 一手规范。
- Microsoft 文档《PE Format》——PE 结构权威说明。
- Apple 文档《OS X ABI Mach-O File Format Reference》——Mach-O 结构说明。
- 《Practical Binary Analysis》(Dennis Andriesse)——二进制分析系统教材。