勒索软件加密算法逆向分析实战指南
勒索软件加密算法逆向分析实战指南
面向安全研究人员与应急响应人员,系统讲解勒索软件加密机制的逆向分析方法论。
本文所有内容仅用于防御性安全研究与受害者文件恢复,不用于任何攻击用途。
一、为什么需要逆向勒索软件的加密算法
勒索软件(Ransomware)的核心逻辑可以简化为:
扫描文件 → 选择加密算法 → 生成/获取密钥 → 加密文件 → 销毁密钥明文 → 留下勒索信
逆向加密算法的价值在于:
- 判断是否存在解密可能 —— 部分勒索软件存在密钥管理缺陷,可以在受害者机器上恢复密钥。
- 编写解密工具 —— 如果发现算法实现错误(如密钥可预测、IV 重用、对称密钥残留),可以编写免费解密器。
- 同族判定 —— 通过加密算法的指纹特征快速归因到已知家族,辅助应急决策。
- 防御规则编写 —— 提取文件加密后的特征(扩展名、文件头标记、勒索信格式),编写检测规则。
二、勒索软件常见的加密方案
2.1 混合加密模型(绝大多数现代勒索软件)
现代勒索软件几乎都采用 对称 + 非对称 的混合模型:
1. 为每个文件生成随机对称密钥 (Session Key),通常 AES-256 或 ChaCha20
2. 用对称密钥加密文件内容
3. 用非对称公钥加密对称密钥(RSA-2048/4096 或 ECDH)
4. 将加密后的对称密钥写入文件尾部或单独文件
5. 对称密钥明文从内存中清除
攻击者持有的私钥 ←→ 受害者机器上的公钥
没有私钥 → 无法解出对称密钥 → 无法解密文件
为什么用混合模型? 非对称加密速度慢,不适合加密大文件;对称加密快但密钥分发困难。混合模型兼顾速度与密钥保护。
2.2 纯对称加密(早期/低级勒索软件)
部分早期或低质量勒索软件直接使用硬编码的对称密钥:
- 密钥硬编码在二进制中 → 逆向即可提取
- 密钥由可预测的 PRNG 生成(如以时间戳为种子)→ 可重建
- 这类勒索软件通常可以轻松解密
2.3 部分加密
为提高加密速度,部分勒索软件只加密文件的头部若干字节或按块交替加密:
文件: [Header 512B][Body...]
方案A: 只加密 Header → 文件体不变,可部分恢复
方案B: 每隔 N 字节加密 M 字节 → 间隔加密
方案C: 加密前 4KB + 最后 4KB → 头尾加密
逆向时需要确定加密的范围和步长,这对编写解密器至关重要。
三、逆向分析方法论
3.1 分析前的安全准备
⚠️ 绝对不要在真实环境或联网机器上运行勒索样本
推荐环境:
├── 隔离的虚拟机(无网络、无共享文件夹、无拖拽)
├── 快照可随时回滚
├── 准备无害的测试文件(txt, jpg, pdf, docx 等)
└── 监控工具:Process Monitor, API Monitor, Wireshark
3.2 静态分析:定位加密相关代码
第一步:识别加密算法的特征常量
加密算法在二进制中有可识别的特征:
| 算法 | 特征常量 / 字符串 |
|---|---|
| AES | 0x63, 0x7C, 0x77, 0x7B, 0xF2, 0x6B, 0x6F, 0xC5(S-Box 首字节);字符串 “AES”、“Rijndael” |
| RSA | 大素数运算;字符串 “RSA”;调用 BCrypt/CryptoAPI 中的 RSA 相关函数 |
| ChaCha20 | 常量 expand 32-byte k(即 0x61707865, 0x3320646e, 0x79622d32, 0x6b206574) |
| Salsa20 | 常量 expand 32-byte k 同上(ChaCha20 改自 Salsa20) |
| RC4 | 无常量但有 256 字节初始化循环 for i in 0..255: S[i] = i |
| Camellia | 0x12345678901ABCDEF 等特征常量 |
实操: 在 IDA Pro / Ghidra 中搜索这些常量(Search → sequence of bytes),快速定位加密函数。
第二步:识别加密 API 调用
Windows 平台勒索软件常用加密 API:
CryptoAPI (advapi32.dll):
├── CryptAcquireContext — 获取加密上下文
├── CryptGenKey — 生成密钥
├── CryptImportKey — 导入密钥
├── CryptEncrypt / CryptDecrypt — 加密/解密
└── CryptDeriveKey — 派生密钥
CNG (bcrypt.dll):
├── BCryptOpenAlgorithmProvider — 打开算法
├── BCryptGenerateSymmetricKey — 生成对称密钥
├── BCryptEncrypt / BCryptDecrypt — 加密/解密
└── BCryptGenerateKeyPair — 生成非对称密钥对
OpenSSL (libcrypto):
├── EVP_aes_256_cbc / EVP_aes_256_ctr
├── RSA_public_encrypt / RSA_private_decrypt
└── EVP_PKEY_derive (ECDH)
实操: 在 IDA 的 Imports 窗口查看导入了哪些加密相关 DLL 和函数,在 Ghidra 中用 Function Call Graph 追踪调用链。
第三步:识别自实现的加密代码
部分勒索软件不调用系统 API,而是自实现加密算法。识别方法:
- AES S-Box 查表:搜索 256 字节的 S-Box 表(
08 01 07 0D 0C 02 06 0E等逆序特征) - Rijndael 轮常数:
0x01, 0x02, 0x04, 0x08, 0x10, 0x20, 0x40, 0x80, 0x1B, 0x36 - RSA 大数运算:识别大数乘法/模幂的循环结构(BigNum / MPI 库特征)
- 椭圆曲线运算:搜索曲线参数(如标准曲线 NIST P-256 的 p, a, b, G 坐标)
3.3 动态分析:观察加密运行时行为
使用 API Monitor 追踪加密调用
1. 启动 API Monitor,勾选 Cryptography 相关 API
2. 运行勒索样本(在隔离环境中)
3. 观察调用序列:
CryptAcquireContext("Microsoft Enhanced RSA and AES Cryptographic Provider")
→ CryptGenKey(CALG_AES_256, ...) // 生成 AES-256 密钥
→ CryptEncrypt(hKey, data, ...) // 加密文件
→ CryptGenKey(CALG_RSA_KEYGEN, 2048, ...) // 生成 RSA 密钥对
→ CryptExportKey(hKey, hPublicKey, ...) // 导出公钥
4. 记录密钥参数、加密模式(CBC/CTR/ECB)、IV/Nonce 值
使用 Process Monitor 观察文件操作
CreateFile → 目标文件被打开
WriteFile → 加密数据被写回(注意写入偏移和大小)
RenameFile → 文件扩展名被修改(.locked, .encrypted, .crypto 等)
SetFileAttributes → 文件属性变更
关键观察点: 加密是原地覆写还是先创建新文件再删除原文件?这影响数据恢复策略。
使用调试器(x64dbg / WinDbg)动态跟踪
1. 在 CryptEncrypt / BCryptEncrypt 下断点
2. 运行到断点,检查栈上的参数:
- 参数2: 密钥句柄 → 追溯密钥来源
- 参数3: 明文缓冲区 → 确认加密前的原始数据
- 参数4: 明文长度
- 参数5: 密文输出缓冲区
- 参数6: 加密模式标志
3. 在 CryptGenKey / BCryptGenerateSymmetricKey 下断点:
- 检查密钥种子/熵来源
- 如果种子来自 CryptGenRandom → 真随机数,无法预测
- 如果种子来自 GetTickCount / time() → 伪随机,可重建
3.4 密钥来源分析(最关键的一步)
逆向的核心问题:密钥从哪来,存在哪,能否恢复?
密钥来源分类:
类型1: 硬编码在二进制中
→ 逆向提取即可解密(低级勒索软件)
类型2: C2 服务器下发,运行时获取
→ 检查网络通信,抓包分析密钥分发协议
→ 如果 C2 已被接管或通信被记录,可能恢复密钥
类型3: 本地生成非对称密钥对,公钥上传 C2,私钥加密存储
→ 检查私钥存储位置和加密方式
→ 部分勒索软件将私钥用 C2 公钥加密后留在本地 → 需 C2 私钥
→ 部分勒索软件私钥存储有缺陷 → 可能本地恢复
类型4: 内嵌 C2 公钥,本地只生成对称密钥
→ 对称密钥用内嵌公钥加密,需 C2 私钥才能解出
→ 最常见的现代勒索软件模式,若无 C2 私钥则无法解密
四、常见加密实现缺陷与利用
4.1 密钥可预测(PRNG 种子缺陷)
缺陷: 对称密钥由弱 PRNG 生成,种子可预测。
// 缺陷代码示例
srand(GetTickCount()); // 种子 = 系统启动毫秒数(32位)
for (int i = 0; i < 32; i++) {
aes_key[i] = rand() & 0xFF;
}
利用: GetTickCount() 返回值范围仅 0 ~ 2^32,且文件创建时间戳可缩小范围。暴力枚举种子,对每个候选密钥尝试解密已知文件头(如 PNG 的 89 50 4E 47),匹配则找到正确密钥。
实际案例: 早期版本的 WannaCry 使用 CryptGenRandom 生成密钥(安全),但其 RSA 公钥硬编码在代码中——逆向发现其"开关域名"(kill switch domain)逻辑,通过注册该域名阻止了大规模传播。
4.2 IV / Nonce 重用
缺陷: AES-CBC 模式下多个文件使用相同的 IV,或 CTR 模式下重用 Nonce。
AES-CBC IV 重用:
C1 = AES_K(P1 ⊕ IV)
C2 = AES_K(P2 ⊕ IV)
→ C1 ⊕ C2 = P1 ⊕ P2 (泄露明文 XOR)
AES-CTR Nonce 重用:
C1 = P1 ⊕ AES_K(Nonce)
C2 = P2 ⊕ AES_K(Nonce)
→ C1 ⊕ C2 = P1 ⊕ P2 (同样泄露明文 XOR)
利用: 如果有任一明文-密文对(如已知文件类型的头部),可以解密其他文件对应位置。
4.3 密钥残留在内存或磁盘
缺陷: 加密完成后未安全擦除内存中的对称密钥,或将密钥临时写入磁盘未删除。
利用:
- 内存取证: 如果受害者机器在加密后未重启,通过内存转储搜索密钥模式(AES-256 密钥为 32 字节高熵数据,可结合已知明文-密文对验证)。
- 磁盘残留: 检查临时文件、pagefile.sys、休眠文件中是否残留密钥。
- 实际案例: Petya/NotPetya 将加密密钥相关数据写入 MBR,但其早期版本的扇区加密使用了固定 XOR 密钥,可通过 256 种暴力枚举恢复。
4.4 非对称密钥生成缺陷
缺陷: 部分勒索软件在受害者机器上生成 RSA 密钥对,但私钥的存储保护不足。
正常流程:
1. 本地生成 RSA 密钥对 (pub_local, priv_local)
2. 用 priv_local 加密各文件的对称密钥
3. 用 C2 的 RSA 公钥加密 priv_local
4. 将加密后的 priv_local 随勒索信一起保存
5. 赎金支付后,C2 用其私钥解出 priv_local,发给受害者
缺陷场景:
- priv_local 未加密直接写入注册表/文件 → 直接提取
- priv_local 用弱口令加密 → 暴力破解
- priv_local 的加密使用了有后门的 PRNG → 可重建
实际案例: TeslaCrypt 早期版本声称使用非对称加密,但逆向分析发现其密钥派生过程存在缺陷,安全研究人员据此开发了免费解密工具,最终 TeslaCrypt 作者被迫发布通用主密钥。
4.5 部分加密导致数据残留
缺陷: 勒索软件只加密文件头部,文件体未被加密。
文件结构: [Header 512B 已加密][Body 未加密]
对于图片/视频等文件:
- 头部包含文件格式标识和元数据
- Body 包含实际像素/帧数据
- 即使头部被加密,Body 部分仍可被文件雕刻工具恢复
利用: 使用文件雕刻工具(如 PhotoRec、Scalpel)扫描磁盘,提取未加密的文件体部分。虽然文件头丢失,但部分文件类型可以通过内容特征重建头部。
五、逆向分析工作流总结
┌─────────────────────────────────────────────────┐
│ 静态分析阶段 │
│ 1. PE 结构分析(节区、导入表、导出表) │
│ 2. 识别壳/混淆 → 脱壳/去混淆 │
│ 3. 搜索加密算法特征常量 │
│ 4. 识别加密 API 导入 │
│ 5. 定位加密核心函数 → 反编译阅读逻辑 │
│ 6. 提取硬编码密钥/公钥(如有) │
└──────────────────────┬──────────────────────────┘
│
┌──────────────────────▼──────────────────────────┐
│ 动态分析阶段 │
│ 7. API Monitor 追踪加密调用序列 │
│ 8. Process Monitor 追踪文件操作 │
│ 9. 调试器断点追踪密钥生成/使用 │
│ 10. 网络抓包分析 C2 通信(密钥分发) │
│ 11. 确定加密范围(全文件/部分/交替) │
└──────────────────────┬──────────────────────────┘
│
┌──────────────────────▼──────────────────────────┐
│ 缺陷分析阶段 │
│ 12. 密钥来源是否可预测? │
│ 13. IV/Nonce 是否重用? │
│ 14. 密钥是否残留在内存/磁盘? │
│ 15. 非对称密钥存储是否有缺陷? │
│ 16. 是否只加密了部分文件? │
│ 17. 加密实现是否有算法错误? │
└──────────────────────┬──────────────────────────┘
│
┌──────────────────────▼──────────────────────────┐
│ 解密工具开发阶段(如有缺陷) │
│ 18. 根据缺陷类型设计解密算法 │
│ 19. 编写解密工具(Python/C++) │
│ 20. 用测试文件验证正确性 │
│ 21. 发布给受害者使用 │
└─────────────────────────────────────────────────┘
六、常用工具清单
| 阶段 | 工具 | 用途 |
|---|---|---|
| 静态分析 | IDA Pro / Ghidra | 反汇编、反编译、常量搜索、调用图分析 |
| 静态分析 | Detect It Easy (DIE) | 识别壳、编译器、框架 |
| 静态分析 | strings / FLOSS | 提取字符串(含混淆字符串) |
| 静态分析 | yara | 编写规则匹配已知勒索家族 |
| 脱壳 | x64dbg + Scylla | 动态脱壳、修复 IAT |
| 脱壳 | Unicorn / Qiling | 模拟执行脱壳 |
| 动态分析 | API Monitor | 追踪 API 调用及参数 |
| 动态分析 | Process Monitor | 追踪文件/注册表操作 |
| 动态分析 | Wireshark | 网络通信抓包 |
| 动态分析 | x64dbg | 断点调试、密钥追踪 |
| 内存取证 | Volatility | 内存转储分析 |
| 内存取证 | procdump / MiniDump | 进程内存转储 |
| 文件恢复 | PhotoRec / Scalpel | 文件雕刻 |
| 解密开发 | Python + PyCryptodome | 快速编写解密原型 |
| 解密开发 | C++ + OpenSSL / libsodium | 高性能解密工具 |
七、编写解密器的注意事项
当逆向发现可利用的缺陷后,编写解密器时需注意:
7.1 先验证再批量
# 解密器框架伪代码
def decrypt_file(encrypted_path, key, iv, algorithm):
"""解密单个文件"""
with open(encrypted_path, 'rb') as f:
ciphertext = f.read()
plaintext = algorithm.decrypt(key, iv, ciphertext)
return plaintext
# 1. 先对已知文件测试
test_plain = decrypt_file("test_encrypted.txt", key, iv, aes_cbc)
assert test_plain[:4] == b'\x89PNG' # 验证文件头
# 2. 确认无误后再批量处理
for file in encrypted_files:
decrypt_file(file, key, iv, aes_cbc)
7.2 保留原始加密文件
解密时不要覆写加密文件,先输出到新文件,人工确认内容正确后再决定是否删除原文件。万一解密逻辑有误,原文件还在。
7.3 处理文件结构
部分勒索软件将元数据(加密的对称密钥、原始扩展名等)追加到文件尾部或写入单独的元数据文件。解密器需要:
- 正确解析文件结构,分离密文和元数据
- 从元数据中提取加密的对称密钥
- 用恢复的私钥解密对称密钥
- 用对称密钥解密文件内容
- 恢复原始文件名和扩展名
八、防御建议
从逆向分析的视角,对防御方的建议:
- 备份是终极防线 —— 无论逆向分析多么成功,都不能保证所有家族都能解密。离线备份不可替代。
- 快速归因 —— 建立内部勒索软件特征库(加密算法指纹、扩展名、勒索信格式),遭遇攻击时快速归因,判断是否属于已知可解密家族。
- 保护内存取证窗口 —— 遭遇勒索攻击后,不要急于重启。先做内存转储,可能残留对称密钥。
- 监控加密行为 —— 部署 EDR 监控高频文件加密操作(短时间内大量 WriteFile + RenameFile),在加密早期阶段阻断。
- 关注公开解密工具 — NoMoreRansom 等项目持续发布各家族的解密工具,遭遇攻击时先查询是否有现成解密器。
九、总结
勒索软件加密算法的逆向分析,本质上是回答一个问题:密钥能否在没有攻击者配合的情况下恢复?
- 如果密钥管理无缺陷 → 无法解密,只能依靠备份
- 如果密钥管理有缺陷 → 逆向定位缺陷 → 编写解密器 → 恢复文件
逆向分析的核心路径:静态定位加密代码 → 动态追踪密钥生命周期 → 分析密钥存储与销毁逻辑 → 判断是否存在可利用缺陷。
这不是一次就能完成的工作,而是反复在静态与动态之间切换、在代码逻辑与运行时行为之间交叉验证的过程。耐心和系统性是关键。
- 点赞
- 收藏
- 关注作者
评论(0)