勒索软件加密算法逆向分析实战指南

举报
yd_278325498 发表于 2026/11/11 21:18:13 2026/11/11
【摘要】 勒索软件加密算法逆向分析实战指南面向安全研究人员与应急响应人员,系统讲解勒索软件加密机制的逆向分析方法论。本文所有内容仅用于防御性安全研究与受害者文件恢复,不用于任何攻击用途。 一、为什么需要逆向勒索软件的加密算法勒索软件(Ransomware)的核心逻辑可以简化为:扫描文件 → 选择加密算法 → 生成/获取密钥 → 加密文件 → 销毁密钥明文 → 留下勒索信逆向加密算法的价值在于:判断是...

勒索软件加密算法逆向分析实战指南

面向安全研究人员与应急响应人员,系统讲解勒索软件加密机制的逆向分析方法论。
本文所有内容仅用于防御性安全研究与受害者文件恢复,不用于任何攻击用途。


一、为什么需要逆向勒索软件的加密算法

勒索软件(Ransomware)的核心逻辑可以简化为:

扫描文件 → 选择加密算法 → 生成/获取密钥 → 加密文件 → 销毁密钥明文 → 留下勒索信

逆向加密算法的价值在于:

  1. 判断是否存在解密可能 —— 部分勒索软件存在密钥管理缺陷,可以在受害者机器上恢复密钥。
  2. 编写解密工具 —— 如果发现算法实现错误(如密钥可预测、IV 重用、对称密钥残留),可以编写免费解密器。
  3. 同族判定 —— 通过加密算法的指纹特征快速归因到已知家族,辅助应急决策。
  4. 防御规则编写 —— 提取文件加密后的特征(扩展名、文件头标记、勒索信格式),编写检测规则。

二、勒索软件常见的加密方案

2.1 混合加密模型(绝大多数现代勒索软件)

现代勒索软件几乎都采用 对称 + 非对称 的混合模型:

  1. 为每个文件生成随机对称密钥 (Session Key),通常 AES-256 或 ChaCha20
  2. 用对称密钥加密文件内容
  3. 用非对称公钥加密对称密钥(RSA-2048/4096 或 ECDH)
  4. 将加密后的对称密钥写入文件尾部或单独文件
  5. 对称密钥明文从内存中清除

  攻击者持有的私钥 ←→ 受害者机器上的公钥
  没有私钥 → 无法解出对称密钥 → 无法解密文件

为什么用混合模型? 非对称加密速度慢,不适合加密大文件;对称加密快但密钥分发困难。混合模型兼顾速度与密钥保护。

2.2 纯对称加密(早期/低级勒索软件)

部分早期或低质量勒索软件直接使用硬编码的对称密钥:

  • 密钥硬编码在二进制中 → 逆向即可提取
  • 密钥由可预测的 PRNG 生成(如以时间戳为种子)→ 可重建
  • 这类勒索软件通常可以轻松解密

2.3 部分加密

为提高加密速度,部分勒索软件只加密文件的头部若干字节或按块交替加密:

  文件: [Header 512B][Body...]

  方案A: 只加密 Header → 文件体不变,可部分恢复
  方案B: 每隔 N 字节加密 M 字节 → 间隔加密
  方案C: 加密前 4KB + 最后 4KB → 头尾加密

逆向时需要确定加密的范围和步长,这对编写解密器至关重要。


三、逆向分析方法论

3.1 分析前的安全准备

  ⚠️  绝对不要在真实环境或联网机器上运行勒索样本

  推荐环境:
  ├── 隔离的虚拟机(无网络、无共享文件夹、无拖拽)
  ├── 快照可随时回滚
  ├── 准备无害的测试文件(txt, jpg, pdf, docx 等)
  └── 监控工具:Process Monitor, API Monitor, Wireshark

3.2 静态分析:定位加密相关代码

第一步:识别加密算法的特征常量

加密算法在二进制中有可识别的特征:

算法 特征常量 / 字符串
AES 0x63, 0x7C, 0x77, 0x7B, 0xF2, 0x6B, 0x6F, 0xC5(S-Box 首字节);字符串 “AES”、“Rijndael”
RSA 大素数运算;字符串 “RSA”;调用 BCrypt/CryptoAPI 中的 RSA 相关函数
ChaCha20 常量 expand 32-byte k(即 0x61707865, 0x3320646e, 0x79622d32, 0x6b206574)
Salsa20 常量 expand 32-byte k 同上(ChaCha20 改自 Salsa20)
RC4 无常量但有 256 字节初始化循环 for i in 0..255: S[i] = i
Camellia 0x12345678901ABCDEF 等特征常量

实操: 在 IDA Pro / Ghidra 中搜索这些常量(Search → sequence of bytes),快速定位加密函数。

第二步:识别加密 API 调用

Windows 平台勒索软件常用加密 API:

  CryptoAPI (advapi32.dll):
  ├── CryptAcquireContext      — 获取加密上下文
  ├── CryptGenKey              — 生成密钥
  ├── CryptImportKey           — 导入密钥
  ├── CryptEncrypt / CryptDecrypt  — 加密/解密
  └── CryptDeriveKey           — 派生密钥

  CNG (bcrypt.dll):
  ├── BCryptOpenAlgorithmProvider  — 打开算法
  ├── BCryptGenerateSymmetricKey   — 生成对称密钥
  ├── BCryptEncrypt / BCryptDecrypt — 加密/解密
  └── BCryptGenerateKeyPair        — 生成非对称密钥对

  OpenSSL (libcrypto):
  ├── EVP_aes_256_cbc / EVP_aes_256_ctr
  ├── RSA_public_encrypt / RSA_private_decrypt
  └── EVP_PKEY_derive  (ECDH)

实操: 在 IDA 的 Imports 窗口查看导入了哪些加密相关 DLL 和函数,在 Ghidra 中用 Function Call Graph 追踪调用链。

第三步:识别自实现的加密代码

部分勒索软件不调用系统 API,而是自实现加密算法。识别方法:

  • AES S-Box 查表:搜索 256 字节的 S-Box 表(08 01 07 0D 0C 02 06 0E 等逆序特征)
  • Rijndael 轮常数:0x01, 0x02, 0x04, 0x08, 0x10, 0x20, 0x40, 0x80, 0x1B, 0x36
  • RSA 大数运算:识别大数乘法/模幂的循环结构(BigNum / MPI 库特征)
  • 椭圆曲线运算:搜索曲线参数(如标准曲线 NIST P-256 的 p, a, b, G 坐标)

3.3 动态分析:观察加密运行时行为

使用 API Monitor 追踪加密调用

  1. 启动 API Monitor,勾选 Cryptography 相关 API
  2. 运行勒索样本(在隔离环境中)
  3. 观察调用序列:

     CryptAcquireContext("Microsoft Enhanced RSA and AES Cryptographic Provider")
     → CryptGenKey(CALG_AES_256, ...)          // 生成 AES-256 密钥
     → CryptEncrypt(hKey, data, ...)            // 加密文件
     → CryptGenKey(CALG_RSA_KEYGEN, 2048, ...) // 生成 RSA 密钥对
     → CryptExportKey(hKey, hPublicKey, ...)    // 导出公钥

  4. 记录密钥参数、加密模式(CBC/CTR/ECB)、IV/Nonce 值

使用 Process Monitor 观察文件操作

  CreateFile  →  目标文件被打开
  WriteFile   →  加密数据被写回(注意写入偏移和大小)
  RenameFile  →  文件扩展名被修改(.locked, .encrypted, .crypto 等)
  SetFileAttributes  →  文件属性变更

关键观察点: 加密是原地覆写还是先创建新文件再删除原文件?这影响数据恢复策略。

使用调试器(x64dbg / WinDbg)动态跟踪

  1. 在 CryptEncrypt / BCryptEncrypt 下断点
  2. 运行到断点,检查栈上的参数:
     - 参数2: 密钥句柄 → 追溯密钥来源
     - 参数3: 明文缓冲区 → 确认加密前的原始数据
     - 参数4: 明文长度
     - 参数5: 密文输出缓冲区
     - 参数6: 加密模式标志
  3. 在 CryptGenKey / BCryptGenerateSymmetricKey 下断点:
     - 检查密钥种子/熵来源
     - 如果种子来自 CryptGenRandom → 真随机数,无法预测
     - 如果种子来自 GetTickCount / time() → 伪随机,可重建

3.4 密钥来源分析(最关键的一步)

逆向的核心问题:密钥从哪来,存在哪,能否恢复?

  密钥来源分类:

  类型1: 硬编码在二进制中
    → 逆向提取即可解密(低级勒索软件)

  类型2: C2 服务器下发,运行时获取
    → 检查网络通信,抓包分析密钥分发协议
    → 如果 C2 已被接管或通信被记录,可能恢复密钥

  类型3: 本地生成非对称密钥对,公钥上传 C2,私钥加密存储
    → 检查私钥存储位置和加密方式
    → 部分勒索软件将私钥用 C2 公钥加密后留在本地 → 需 C2 私钥
    → 部分勒索软件私钥存储有缺陷 → 可能本地恢复

  类型4: 内嵌 C2 公钥,本地只生成对称密钥
    → 对称密钥用内嵌公钥加密,需 C2 私钥才能解出
    → 最常见的现代勒索软件模式,若无 C2 私钥则无法解密

四、常见加密实现缺陷与利用

4.1 密钥可预测(PRNG 种子缺陷)

缺陷: 对称密钥由弱 PRNG 生成,种子可预测。

// 缺陷代码示例
srand(GetTickCount());  // 种子 = 系统启动毫秒数(32位)
for (int i = 0; i < 32; i++) {
    aes_key[i] = rand() & 0xFF;
}

利用: GetTickCount() 返回值范围仅 0 ~ 2^32,且文件创建时间戳可缩小范围。暴力枚举种子,对每个候选密钥尝试解密已知文件头(如 PNG 的 89 50 4E 47),匹配则找到正确密钥。

实际案例: 早期版本的 WannaCry 使用 CryptGenRandom 生成密钥(安全),但其 RSA 公钥硬编码在代码中——逆向发现其"开关域名"(kill switch domain)逻辑,通过注册该域名阻止了大规模传播。

4.2 IV / Nonce 重用

缺陷: AES-CBC 模式下多个文件使用相同的 IV,或 CTR 模式下重用 Nonce。

  AES-CBC IV 重用:
  C1 = AES_K(P1 ⊕ IV)
  C2 = AES_K(P2 ⊕ IV)
  → C1 ⊕ C2 = P1 ⊕ P2  (泄露明文 XOR)

  AES-CTR Nonce 重用:
  C1 = P1 ⊕ AES_K(Nonce)
  C2 = P2 ⊕ AES_K(Nonce)
  → C1 ⊕ C2 = P1 ⊕ P2  (同样泄露明文 XOR)

利用: 如果有任一明文-密文对(如已知文件类型的头部),可以解密其他文件对应位置。

4.3 密钥残留在内存或磁盘

缺陷: 加密完成后未安全擦除内存中的对称密钥,或将密钥临时写入磁盘未删除。

利用:

  • 内存取证: 如果受害者机器在加密后未重启,通过内存转储搜索密钥模式(AES-256 密钥为 32 字节高熵数据,可结合已知明文-密文对验证)。
  • 磁盘残留: 检查临时文件、pagefile.sys、休眠文件中是否残留密钥。
  • 实际案例: Petya/NotPetya 将加密密钥相关数据写入 MBR,但其早期版本的扇区加密使用了固定 XOR 密钥,可通过 256 种暴力枚举恢复。

4.4 非对称密钥生成缺陷

缺陷: 部分勒索软件在受害者机器上生成 RSA 密钥对,但私钥的存储保护不足。

  正常流程:
  1. 本地生成 RSA 密钥对 (pub_local, priv_local)
  2. 用 priv_local 加密各文件的对称密钥
  3. 用 C2 的 RSA 公钥加密 priv_local
  4. 将加密后的 priv_local 随勒索信一起保存
  5. 赎金支付后,C2 用其私钥解出 priv_local,发给受害者

  缺陷场景:
  - priv_local 未加密直接写入注册表/文件 → 直接提取
  - priv_local 用弱口令加密 → 暴力破解
  - priv_local 的加密使用了有后门的 PRNG → 可重建

实际案例: TeslaCrypt 早期版本声称使用非对称加密,但逆向分析发现其密钥派生过程存在缺陷,安全研究人员据此开发了免费解密工具,最终 TeslaCrypt 作者被迫发布通用主密钥。

4.5 部分加密导致数据残留

缺陷: 勒索软件只加密文件头部,文件体未被加密。

  文件结构: [Header 512B 已加密][Body 未加密]

  对于图片/视频等文件:
  - 头部包含文件格式标识和元数据
  - Body 包含实际像素/帧数据
  - 即使头部被加密,Body 部分仍可被文件雕刻工具恢复

利用: 使用文件雕刻工具(如 PhotoRec、Scalpel)扫描磁盘,提取未加密的文件体部分。虽然文件头丢失,但部分文件类型可以通过内容特征重建头部。


五、逆向分析工作流总结

  ┌─────────────────────────────────────────────────┐
  │              静态分析阶段                        │
  │  1. PE 结构分析(节区、导入表、导出表)           │
  │  2. 识别壳/混淆 → 脱壳/去混淆                     │
  │  3. 搜索加密算法特征常量                          │
  │  4. 识别加密 API 导入                            │
  │  5. 定位加密核心函数 → 反编译阅读逻辑            │
  │  6. 提取硬编码密钥/公钥(如有)                   │
  └──────────────────────┬──────────────────────────┘
                         │
  ┌──────────────────────▼──────────────────────────┐
  │              动态分析阶段                        │
  │  7. API Monitor 追踪加密调用序列                 │
  │  8. Process Monitor 追踪文件操作                 │
  │  9. 调试器断点追踪密钥生成/使用                   │
  │ 10. 网络抓包分析 C2 通信(密钥分发)              │
  │ 11. 确定加密范围(全文件/部分/交替)              │
  └──────────────────────┬──────────────────────────┘
                         │
  ┌──────────────────────▼──────────────────────────┐
  │              缺陷分析阶段                        │
  │ 12. 密钥来源是否可预测?                          │
  │ 13. IV/Nonce 是否重用?                           │
  │ 14. 密钥是否残留在内存/磁盘?                     │
  │ 15. 非对称密钥存储是否有缺陷?                    │
  │ 16. 是否只加密了部分文件?                        │
  │ 17. 加密实现是否有算法错误?                      │
  └──────────────────────┬──────────────────────────┘
                         │
  ┌──────────────────────▼──────────────────────────┐
  │              解密工具开发阶段(如有缺陷)         │
  │ 18. 根据缺陷类型设计解密算法                     │
  │ 19. 编写解密工具(Python/C++)                   │
  │ 20. 用测试文件验证正确性                         │
  │ 21. 发布给受害者使用                             │
  └─────────────────────────────────────────────────┘

六、常用工具清单

阶段 工具 用途
静态分析 IDA Pro / Ghidra 反汇编、反编译、常量搜索、调用图分析
静态分析 Detect It Easy (DIE) 识别壳、编译器、框架
静态分析 strings / FLOSS 提取字符串(含混淆字符串)
静态分析 yara 编写规则匹配已知勒索家族
脱壳 x64dbg + Scylla 动态脱壳、修复 IAT
脱壳 Unicorn / Qiling 模拟执行脱壳
动态分析 API Monitor 追踪 API 调用及参数
动态分析 Process Monitor 追踪文件/注册表操作
动态分析 Wireshark 网络通信抓包
动态分析 x64dbg 断点调试、密钥追踪
内存取证 Volatility 内存转储分析
内存取证 procdump / MiniDump 进程内存转储
文件恢复 PhotoRec / Scalpel 文件雕刻
解密开发 Python + PyCryptodome 快速编写解密原型
解密开发 C++ + OpenSSL / libsodium 高性能解密工具

七、编写解密器的注意事项

当逆向发现可利用的缺陷后,编写解密器时需注意:

7.1 先验证再批量

# 解密器框架伪代码
def decrypt_file(encrypted_path, key, iv, algorithm):
    """解密单个文件"""
    with open(encrypted_path, 'rb') as f:
        ciphertext = f.read()
    plaintext = algorithm.decrypt(key, iv, ciphertext)
    return plaintext

# 1. 先对已知文件测试
test_plain = decrypt_file("test_encrypted.txt", key, iv, aes_cbc)
assert test_plain[:4] == b'\x89PNG'  # 验证文件头

# 2. 确认无误后再批量处理
for file in encrypted_files:
    decrypt_file(file, key, iv, aes_cbc)

7.2 保留原始加密文件

解密时不要覆写加密文件,先输出到新文件,人工确认内容正确后再决定是否删除原文件。万一解密逻辑有误,原文件还在。

7.3 处理文件结构

部分勒索软件将元数据(加密的对称密钥、原始扩展名等)追加到文件尾部或写入单独的元数据文件。解密器需要:

  1. 正确解析文件结构,分离密文和元数据
  2. 从元数据中提取加密的对称密钥
  3. 用恢复的私钥解密对称密钥
  4. 用对称密钥解密文件内容
  5. 恢复原始文件名和扩展名

八、防御建议

从逆向分析的视角,对防御方的建议:

  1. 备份是终极防线 —— 无论逆向分析多么成功,都不能保证所有家族都能解密。离线备份不可替代。
  2. 快速归因 —— 建立内部勒索软件特征库(加密算法指纹、扩展名、勒索信格式),遭遇攻击时快速归因,判断是否属于已知可解密家族。
  3. 保护内存取证窗口 —— 遭遇勒索攻击后,不要急于重启。先做内存转储,可能残留对称密钥。
  4. 监控加密行为 —— 部署 EDR 监控高频文件加密操作(短时间内大量 WriteFile + RenameFile),在加密早期阶段阻断。
  5. 关注公开解密工具 — NoMoreRansom 等项目持续发布各家族的解密工具,遭遇攻击时先查询是否有现成解密器。

九、总结

勒索软件加密算法的逆向分析,本质上是回答一个问题:密钥能否在没有攻击者配合的情况下恢复?

  • 如果密钥管理无缺陷 → 无法解密,只能依靠备份
  • 如果密钥管理有缺陷 → 逆向定位缺陷 → 编写解密器 → 恢复文件

逆向分析的核心路径:静态定位加密代码 → 动态追踪密钥生命周期 → 分析密钥存储与销毁逻辑 → 判断是否存在可利用缺陷。

这不是一次就能完成的工作,而是反复在静态与动态之间切换、在代码逻辑与运行时行为之间交叉验证的过程。耐心和系统性是关键。

【声明】本内容来自华为云开发者社区博主,不代表华为云及华为云开发者社区的观点和立场。转载时必须标注文章的来源(华为云社区)、文章链接、文章作者等基本信息,否则作者和本社区有权追究责任。如果您发现本社区中有涉嫌抄袭的内容,欢迎发送邮件进行举报,并提供相关证据,一经查实,本社区将立刻删除涉嫌侵权内容,举报邮箱: cloudbbs@huaweicloud.com
  • 点赞
  • 收藏
  • 关注作者

评论(0)

0/1000
抱歉,系统识别当前为高风险访问,暂不支持该操作

全部回复

上滑加载中

设置昵称

在此一键设置昵称,即可参与社区互动!

*长度不超过10个汉字或20个英文字符,设置后3个月内不可修改。

*长度不超过10个汉字或20个英文字符,设置后3个月内不可修改。