让 AI 生成的配置可审计:用 JSON Schema 建立安全边界
让 AI 生成的配置可审计:用 JSON Schema 建立安全边界
AI 助手越来越擅长根据自然语言生成配置文件:部署参数、任务编排、权限清单和服务连接信息都可以在几秒钟内得到一个初稿。但“能生成”不等于“能上线”。配置的风险往往不在语法,而在于字段缺失、类型漂移、默认值过于宽松,以及把不应出现的敏感信息带进了版本库。
本文给出一条不依赖特定模型的做法:把模型当作不可信的配置建议者,在它与真实系统之间放置一个可执行的 JSON Schema 边界。边界负责结构校验、范围限制和额外字段拒绝;业务层再负责跨字段规则、密钥引用和变更审计。这样,模型输出从“直接执行”变成“可检查的候选变更”。
一、先定义配置的最小可信形状
假设我们要描述一个批处理任务。它包含任务名、并发度、超时时间、重试次数和一个密钥引用。第一步不是让模型自由发挥,而是先写出系统认可的形状:
{
"$schema": "https://json-schema.org/draft/2020-12/schema",
"type": "object",
"additionalProperties": false,
"required": ["name", "concurrency", "timeout_seconds", "retries", "credential_ref"],
"properties": {
"name": {"type": "string", "pattern": "^[a-z][a-z0-9-]{2,31}$"},
"concurrency": {"type": "integer", "minimum": 1, "maximum": 32},
"timeout_seconds": {"type": "integer", "minimum": 1, "maximum": 3600},
"retries": {"type": "integer", "minimum": 0, "maximum": 8},
"credential_ref": {"type": "string", "pattern": "^secret://[a-z0-9/_-]+$"}
}
}
这里有三个容易被忽略的约束。additionalProperties: false 防止模型拼出未被审核的开关;数值上限阻止“为了更快”而生成过大的并发度;credential_ref 只允许引用,不允许把密码本身塞进配置。
Schema 解决的是结构问题,不应被误认为完整的安全策略。它不理解某个任务是否有权访问某个密钥,也不判断生产环境是否允许重试,这些规则需要放在后续的业务校验层。
二、把模型输出当作不可信输入
无论模型返回 JSON、Markdown 代码块还是带解释的文本,都不要直接交给执行器。可以要求模型只返回 JSON,但解析失败、字段多余和类型错误都必须成为明确的拒绝结果,而不是静默修复。
下面是一个最小的 Python 校验器。示例使用标准库实现边界检查,这样文章读者不需要先安装额外依赖;生产环境可以把同样的规则迁移到成熟的 JSON Schema 校验库。
import json
import re
from typing import Any
NAME = re.compile(r"^[a-z][a-z0-9-]{2,31}$")
SECRET_REF = re.compile(r"^secret://[a-z0-9/_-]+$")
def validate_config(raw: str) -> dict[str, Any]:
value = json.loads(raw)
if not isinstance(value, dict):
raise ValueError("configuration must be an object")
required = {"name", "concurrency", "timeout_seconds", "retries", "credential_ref"}
if set(value) != required:
raise ValueError("configuration fields do not match the allowlist")
if not isinstance(value["name"], str) or not NAME.fullmatch(value["name"]):
raise ValueError("invalid task name")
for field, low, high in (("concurrency", 1, 32), ("timeout_seconds", 1, 3600), ("retries", 0, 8)):
number = value[field]
if isinstance(number, bool) or not isinstance(number, int) or not low <= number <= high:
raise ValueError(f"invalid {field}")
if not isinstance(value["credential_ref"], str) or not SECRET_REF.fullmatch(value["credential_ref"]):
raise ValueError("credential_ref must reference a secret")
return value
candidate = '{"name":"daily-sync","concurrency":8,"timeout_seconds":120,"retries":2,"credential_ref":"secret://prod/sync"}'
print(validate_config(candidate)["name"])
这个函数故意没有帮忙补字段或删除多余字段的逻辑。自动修复会掩盖模型输出的问题,也会让审计记录无法回答“系统究竟执行了什么”。校验失败应当携带错误位置,并回到生成或人工编辑步骤。
三、把跨字段规则放在第二道门
Schema 能分别限制每个字段,却不一定能表达所有业务关系。例如低超时配高重试可能造成请求风暴;生产任务的并发度也许必须低于测试任务。跨字段规则应该单独命名、单独测试:
def validate_policy(config: dict[str, Any], environment: str) -> None:
if environment not in {"test", "staging", "production"}:
raise ValueError("unknown environment")
if environment == "production" and config["concurrency"] > 8:
raise ValueError("production concurrency exceeds policy")
if config["timeout_seconds"] < 30 and config["retries"] > 3:
raise ValueError("short timeout with many retries is unsafe")
这一步让规则的责任边界清晰:Schema 描述格式与范围,策略校验描述业务约束。未来模型增加字段时,Schema 的变更可以单独评审;策略变更也能单独回归,不会把一大段提示词当成唯一防线。
四、只把引用交给运行时
配置文件可以包含 secret://prod/sync,但运行时才解析这个引用。读取密钥时至少要做三件事:校验引用所属环境、根据最小权限获取对应值、在日志中只记录引用而不记录解密后的内容。
同样的原则适用于网络地址、镜像标签和文件路径。模型可以建议值,但系统应当通过 allowlist 判断它是否能够访问目标;禁止把“模型说这是安全的”当成授权依据。对于路径,解析后要检查其规范化结果仍位于允许的根目录内。
五、让每次生成都留下可复核记录
一次配置变更至少应记录以下信息:
| 记录项 | 作用 |
|---|---|
| 原始请求 | 说明配置为何产生 |
| 模型版本与参数 | 便于复现生成过程 |
| 原始输出摘要 | 保留证据但避免写入密钥 |
| Schema 版本 | 确认采用的边界 |
| 校验结果 | 区分结构拒绝和策略拒绝 |
| 人工确认者与时间 | 记录高风险变更的责任 |
| 最终配置指纹 | 防止执行内容被悄然替换 |
日志也需要脱敏。不要为了“完整审计”把模型原文中的访问令牌复制进日志;可以保存经过脱敏的结构摘要和哈希。若确实需要保留原始输入,应使用有访问控制和保留期限的安全存储。
六、把验证放到执行前
推荐的流水线如下:
- 接收自然语言需求和模型候选输出。
- 解析为 JSON;解析失败立即拒绝。
- 用 Schema 做结构、类型、范围和额外字段校验。
- 用业务策略做跨字段校验和环境校验。
- 对引用执行权限检查,对敏感字段做脱敏审计。
- 生成变更预览,让人确认高风险差异。
- 对最终配置计算指纹,然后再交给执行器。
- 执行后记录结果,但不把秘密写入输出。
其中第 6 步不能被“模型很可靠”替代。低风险配置可以自动合并,但权限、网络出口、生产并发和数据保留期等字段应设置人工门槛。自动化的目标不是消灭判断,而是让判断面对一份结构稳定、来源清晰的变更。
结语
把 AI 输出直接当成配置,是把不确定性推入系统边界;把它当作候选变更,并用 Schema、业务策略、权限引用和审计记录逐层收敛,才是可持续的工程方式。最重要的不是某个提示词,而是执行器永远只接受经过验证的结构化输入。
当配置边界清楚后,模型可以更大胆地参与生成,工程师也能更放心地审查差异。生成速度与上线可靠性并不矛盾,前提是中间必须有一条可执行、可拒绝、可追溯的验证链。
- 点赞
- 收藏
- 关注作者
评论(0)