当“眼见为实”失效：拆解 AI 跨模态鉴伪的技术栈、工程边界与落地路径【AI图像鉴伪】

2026世界人工智能大会（WAIC 2026）集中呈现了生成式AI从能力突破走向产业落地的最新进展。当图片、视频和文本都能被大模型低成本生成与修改，“眼见为实”正面临前所未有的挑战。在本届大会上，合合信息展示了全新升级的AI跨模态鉴伪技术，将鉴伪范围拓展至图片、视频、文本等主要信息介质，为社交聊天、图文资讯、电商交易、短视频、学术研究以及金融保险风控等场景提供可信内容识别的新思路。

生成式 AI 正在把“制作内容”的门槛快速压低。过去需要专业修图、剪辑乃至特效团队才能完成的伪造，如今可能只需要一句提示词；图片、视频、聊天截图和长文本又会在社交平台、电商系统与业务流程中彼此引用、相互佐证。问题因此发生了根本变化：我们面对的不再只是某一张图有没有被 Photoshop 修改，而是一个跨图片、视频、文本的内容组合，是否在共同讲述一件真实发生过的事。

“眼见为实”并没有完全失效，但肉眼已经很难独自承担真实性裁决。对开发者和技术决策者而言，AI 鉴伪也不能被理解成一个返回真假标签的分类 API。真正可用的系统，需要从不同模态中提取互补证据，在压缩、转码、截图、二次编辑和未知生成模型面前保持尽可能稳定的判断，还要处理阈值、误报、漏报、证据留存、人工复核与业务责任边界。

本文从一次实际体验切入，进一步拆解图像、视频、文本鉴伪的信号来源，以及跨模态系统的工程架构。先说明边界：文中体验数字只对应本次送检样本，不代表统计学准确率；FakeShield 与 AIDE 均为公开学术项目，用于帮助理解行业研究路线。

一、先做七道题：人眼为何会在“看起来合理”处失守

现场“AI较真大赛”包含 7 关，素材覆盖热身判断、电信诈骗、电商“仅退款”、社交关系骗局、新闻视频和论文 AI 率鉴定等类型。这个组合很有启发性：伪造风险并不局限于人脸换脸或艺术图片，而是会嵌入转账凭证、商品证据、聊天关系、资讯传播和学术表达等具体语境。人眼往往优先理解“内容说了什么”，却不擅长稳定检查像素、频谱、噪声、时序与统计分布。

转账图：语义可信，不等于载体真实

第一关出现一张社交聊天中的转账图。金额、头像、时间与对话语气共同构成一个非常熟悉的界面，人眼容易沿着“有人转来 1000 元”这一语义快速完成判断。体验者选择“真实”后，系统也给出“真实”、AIGC 置信度 0% 的结果。此处值得关注的不是双方碰巧一致，而是判断路径不同：人主要依赖界面熟悉感和语义连贯性，机器则可以综合频谱伪影、元数据或隐式水印、物理规律及几何关系等线索。

这也说明，鉴伪系统不应把“AIGC 检测”与“事实核验”混为一谈。一张真实截图中的转账可能后来被撤回，一张未经生成模型处理的图片也可能讲述虚假故事；反过来，一张由生成工具制作的示意图并不必然具有恶意。技术检测回答的是内容来源与加工痕迹，业务真实性仍需结合交易流水、账号主体、时间戳和平台日志。

电商“仅退款”：三选一中，人眼选错，AI 给出 99.1%

第四关要求从三张商品相关图片中找出唯一真实图片。体验者选中的那张“看起来最自然”，结果却被判为伪造；页面显示该样本的 AIGC 置信度为 99.1%，并列出空间特征、边缘级检测、元数据或隐式水印、边界与羽化自然度等鉴定依据。

对电商风控而言，这一差异非常关键。人工审核员面对高吞吐队列时，容易把注意力集中在“证据是否符合退款理由”，而不是“证据如何被生产”。机器能够持续扫描细小异常，但也可能被截图、压缩、拍屏或新型生成器扰动。因此合理流程不是用模型简单替代审核，而是用风险分层改变审核资源分配：低风险自动流转，中风险补充材料，高风险进入人工复核，并保留原文件、模型版本、阈值和理由码。

AI鉴伪小程序-自带图片实测：生成街景 100%，真实照片 0.25%

为了避免只在预设关卡里体验，我使用 GPT-Image-2，输入“给我生成一张真实的西安旅行实拍图，街道”等描述，得到一张包含鼓楼、街道招牌与行人的旅行风格图片。随后将图片上传至“扫描全能王 AI鉴伪小程序”。本次报告显示“检测到 AI 生成痕迹”，AI 可能性 100%，耗时 2.436 秒。

作为对照，我又上传了一张用户拍摄的真实横版照片。报告显示“未检测到异常”，AI 可能性 0.25%，耗时 1.006 秒。对照实验至少说明，小程序能够在同一入口接收不同来源的图片，并给出概率式结果与检测说明；但两个样本远不足以评估准确率，更无法覆盖不同手机、滤镜、社交平台压缩、裁剪、拼接和图生图重绘等变量。

AI鉴伪小程序-五秒生成视频：本次检测为 100%

视频样本来自 Vidu Q3 Pro。生成信息显示宽高比 16:9、分辨率 1080P、时长 5 秒，提示词描述清晨西安街道、仿唐建筑、行人、钟楼剪影等内容。上传后，视频鉴定报告显示检测到 AI 生成痕迹，AI 可能性 100%，检测耗时 1.121 秒；报告同时呈现 5 秒、1920×1080、24fps 等基础信息。

把这些结果放在一起，本次体验形成了一个有用但克制的观察：活动现场的”AI较真挑战“暴露了人眼在具体业务叙事中的误判可能；自带样本则展示了图片与视频可在同一产品入口被处理，且结果包含置信度和耗时。它不是实验室基准测试，没有随机抽样、盲测、重复试验、分层数据集和置信区间，因而不代表统计学准确率。如果要做正式选型，应建立覆盖真实业务分布、困难负样本和未知生成器的评测集，并按场景分别报告 ROC、PR、FPR、FNR、校准误差和端到端延迟。

二、图像鉴伪：从“看内容”到“看生成与成像过程”

图像鉴伪的困难在于，生成模型输出首先要满足人的感知。高层语义越自然，肉眼越容易接受；但生成、编辑与真实相机成像来自不同的计算链条，可能在频域、噪声、边缘、纹理、几何和元数据中留下统计差异。可靠检测通常不会押注某一个“银弹特征”，而是组合多类证据。

RGB 空间：纹理、边缘与局部一致性

RGB 分支直接处理像素。它可以学习材质纹理是否连续、物体边缘是否自然、局部重采样与羽化是否留下异常，以及文字、手指、反射、阴影等区域是否存在语义或几何冲突。对于局部编辑，整图分类还不够：模型最好同时输出可疑区域热图或分割掩码，让审核员知道异常集中在哪里。

但“常识错误”会快速过时。生成模型已经在改善手部、文字和光影，真实照片也可能因 HDR、夜景增强、美颜、去噪而显得“不自然”。因此，高层语义线索应被视作证据之一，而不是永远有效的规则库。

频域与噪声：寻找人眼不敏感的统计痕迹

将图像变换到频域后，模型可以观察不同空间频率上的能量分布。上采样、卷积、扩散采样、抗锯齿与压缩过程可能形成频谱结构；高频区域包含边缘和细粒度噪声，低频区域更多承载轮廓和缓慢变化。真实相机还经历镜头、传感器、去马赛克、降噪、锐化和编码流程，这些环节共同塑造设备噪声与处理指纹。

频域并不天然等于“AI 雷达”。JPEG 压缩会削弱高频，社交平台转码会改变量化痕迹，截图与拍屏会引入新的成像链条。工程系统要在训练和评测中显式加入这些操作，并观察性能随压缩质量、缩放倍率、裁剪比例和二次保存次数如何退化。

语义与低层证据融合

合合信息将图像鉴伪描述为对图像语义信息、频谱伪影与噪声分布异常进行综合判断，并指出对 AI 生成、AI 编辑和人工伪造等类型建立检测能力。

公开学术工作 AIDE 则给出了一个可讨论的研究样例。论文《A Sanity Check for AI-generated Image Detection》提出 Chameleon 挑战集；9 种现成检测器几乎都把其中的 AI 图判为真实，提醒业界不要被同分布测试上的高分迷惑。AIDE 采用多专家融合：使用 CLIP 高层语义特征，同时从最高频与最低频 patch 中提取低层噪声、抗锯齿等特征。在 AIGCDetectBenchmark 与 GenImage 上，论文报告相对当时 SOTA 分别提升 3.5 和 4.6 个百分点，但作者仍强调问题远未解决。

这个结论的重要性不在于某个榜单数字，而在于方法论：检测器必须同时问“画面表达了什么”和“像素是怎样形成的”，并且要用专门设计的困难集检查捷径学习。

三、视频鉴伪：空间问题乘以时间维度

视频不是多张图片的简单堆叠。若只逐帧检测，再对分数平均，可能遗漏最有价值的动态证据。一个视觉上逼真的单帧，在连续播放时可能出现身份特征漂移、局部纹理闪烁、口型与语音节奏不一致、遮挡关系突变、物体轨迹不符合惯性，或者光照与阴影跨帧跳变。

帧内、帧间与全局三层分析

帧内层可复用图像检测器，分析每个关键帧的 RGB、频谱、噪声和局部异常。帧间层关注相邻帧的光流、特征轨迹、关键点、遮挡和残差，判断运动是否连续。全局层则对完整片段建模，例如人物身份是否保持、动作阶段是否合理、镜头语言与音画关系是否一致。

合合信息提到，视频鉴伪会结合视频时序、运动规律、时空频域和传感器噪声等检测方式，并关注帧间物体抖动、运动轨迹异常、时空网格伪影等典型漏洞。这些是公开的能力描述；在没有更多披露的情况下，不应把它扩写为具体网络、采样率或性能指标。

抽帧不是越多越好

实际服务必须权衡覆盖率、延迟和成本。均匀抽帧简单，却可能错过短暂异常；只抽场景切换附近，又会漏掉长镜头中的局部漂移。可采用分层策略：先做镜头切分和低成本粗筛，再对高风险片段增加采样密度；同时保留音轨、容器和编码信息，避免在预处理时丢掉潜在线索。

视频转码是部署中的硬问题。平台常进行降分辨率、变帧率、码率压缩、补帧、滤镜和裁剪，这些操作既可能擦除生成痕迹，也会制造类似伪造的异常。测试集需要复现真实分发链路，而不只是比较原始生成文件与原始相机文件。对于 5 秒样本得到 1.121 秒结果，只能说明本次链路具备较快反馈，不能据此推算长视频吞吐或不同硬件上的 SLA。

跨模态一致性才是视频的额外价值

带音频、字幕、标题和发布文案的视频，本身就是一个多模态证据包。系统可以检查口型与语音对齐、语音内容与字幕一致性、画面地点与文本声称地点是否冲突、标题所述事件是否在画面中出现。不过，一致并不等于真实：攻击者可以同时生成画面、配音和字幕；不一致也不必然是伪造，例如翻译配音、无障碍字幕和二次剪辑都可能造成合理偏差。因此，一致性模块适合产出风险特征与解释，不宜单独作最终裁决。

四、文本鉴伪：检测“生成倾向”，不是审判作者身份

文本不像图像那样保留相机噪声，也不像视频那样提供运动轨迹。传统方法常依赖词频、句长、困惑度或突发性，但这些表层统计容易受温度、提示词、人工润色、翻译、同义改写和领域文体影响。短文本尤其困难，因为可供统计的样本不足；高度模板化的人类公文可能像 AI，经过编辑的 AI 文本又可能像人。

合合信息生成式 AI 文本鉴定从统计表象深入语义层，分析模型生成过程中的高概率表达形式，以及 AI 与人类写作在深层语义连贯性、句法结构微小畸变和高维逻辑表征上的差异。公开信息没有给出私有模型细节，本文不作进一步归因。

对开发者而言，文本检测至少应注意四点。第一，按语言、领域、长度和写作目的分层评测，不能拿新闻长文阈值直接判断聊天短句。第二，训练集要覆盖人工改写、机翻、拼接和人机协作文本。第三，输出概率及不确定性，而不是“作者一定使用 AI”的断言。第四，在教育或学术场景中，检测只能成为调查线索，必须结合版本历史、引用、实验记录和答辩等证据，避免单次模型结果伤害真实作者。

五、跨模态鉴伪如何搭建：专用检测、证据融合与解释输出

用户看到的可以是“图片｜视频｜文本一键检测”，但工程内部不适合让单一模型包办所有任务。更可行的设计是：入口层统一接收文件、计算哈希并保留原件；检测层按模态分流，图片侧分析 RGB 语义、频谱、噪声、元数据与局部篡改，视频侧补充关键帧、运动轨迹、时空频域和音画同步，文本侧关注语义连贯性、句法结构与生成概率模式；融合层再结合来源可信度、账号历史和业务状态形成风险判断。

多专家的价值并非简单投票，而是让不同证据互相校验。元数据缺失可能只是平台清洗，频域异常可能源于强压缩，语义异常也可能来自罕见的真实场景。系统因此需要同时表达风险分数和证据可靠度，并在证据冲突时允许输出“不确定”。结果侧则应保留模型版本、阈值、预处理过程、可疑区域或时间段，使一次判断能够被解释和复核。

公开研究 FakeShield 展示了“检测—定位—解释”的思路：模型不仅给出真假判断，也尝试输出篡改区域及基于像素伪影、语义不一致的说明。需要强调的是，FakeShield 是公开学术参考，并非合合信息公司技术原理，本文也不据此推断合合信息的私有模型结构。

其中，RGB 分支负责学习纹理、边缘和局部空间特征，频域分支观察生成、上采样和压缩可能留下的统计痕迹，最后由分类头融合两类特征。真实系统还需要更强的骨干网络、局部定位、概率校准和鲁棒训练；数据集也必须控制格式、分辨率和内容主题，避免模型只学会“PNG 像 AI、JPEG 像真实”之类的捷径。

六、从 Demo 到生产：泛化、阈值与人工复核

鉴伪系统真正的难点不是在已知样本上得到高分，而是在未知生成器和复杂传播链路中保持稳定。AIDE 的 Chameleon 挑战集曾让多种现成检测器把高质量 AI 图误判为真实，说明同分布基准成绩并不等于开放世界能力。现实内容还会经历截图、裁剪、滤镜、JPEG 压缩、视频转码和再次下载，这些操作既可能擦除生成痕迹，也可能制造类似伪造的异常。因此，评测应覆盖未知生成器、不同压缩等级和跨平台传播，而不能只报告一个总体准确率。

模型输出的 0.9 也未必等于“九成可信”。概率需要在独立数据上校准，阈值则应结合业务损失设置：金融、保险等高风险场景更关注漏判，内容平台还要控制对正常创作者的误伤。相比强制二选一，更合理的策略是设置低、中、高风险区间——低风险自动流转，中风险补充材料，高风险进入深度检测或人工复核；当文件质量过低或专家证据冲突时，系统应明确拒判。

生产系统还需要一条可审计的证据链，为每次检测绑定输入哈希、模型与阈值版本、预处理记录、关键证据和建议动作。人工复核不是模型失败后的临时兜底，而是完整流程的一部分：审核员需要看到原件、可疑区域、关键帧及跨模态冲突，并记录复核理由。部署时可采用“快速筛查—深度分析—人工复核”三级流水线，先以影子模式验证，再逐步灰度自动化。

合合信息公开材料提到，其图文鉴伪技术已能进行日均数十万条内容的全量核验。规模化应用的意义并不是用一个分数代替所有判断，而是让模型承担高频筛查，让有限的人工审核集中到高风险、高价值和证据冲突的案例上。无论模型能力如何演进，置信度都应被视为风险证据，而不是对事实或责任的最终裁决。

七、哪些场景最需要跨模态鉴伪

金融：从转账截图回到交易事实

诈骗者可能同时提交聊天记录、转账截图、语音或视频。图片检测可发现生成与编辑痕迹，音画检查可识别可疑视频，但最终还需与核心交易流水、账户和设备风险交叉验证。模型适合拦截与分流，不应仅凭截图概率决定资金归属。

保险：核验理赔材料的来源与一致性

理赔可能包含事故照片、现场视频、说明文本和票据。跨模态系统可检查图片局部编辑、视频时序异常，以及文字描述与视觉内容是否冲突；再结合保单、时间地点和历史案件形成风险队列。对于自然灾害、夜间拍摄和低清设备等困难真实样本，要特别控制误报。

电商：治理虚假凭证，也保护真实消费者

“仅退款”关卡展示了人眼可能被合理外观误导。平台可对商品损坏图、开箱视频、聊天说明进行综合检测，但需同时防止把压缩严重、光线奇怪的真实证据误判。高置信风险应触发补拍、多角度视频或人工审核，而不是自动给任何一方定责。

社交聊天：对抗组合式诈骗

诈骗叙事往往跨头像、人像、语音、视频通话截图与转账凭证。跨模态检测可发现身份与内容之间的异常，但更有效的防线还包括陌生账号风险、设备变化和支付确认。面向普通用户时，提示应清楚表达“存在 AI 生成/编辑风险”，避免制造新的恐慌。

图文资讯：来源、内容与上下文共同核验

一篇资讯可以使用真实旧图配虚假新标题，也可以使用 AI 图配真实文字。仅检查图片是否生成不足以判断新闻真假。系统需要保留来源链、发布时间，检查图文语义与时间地点，并将事实核查交给相应流程。内容鉴伪是新闻验证的一个环节，而不是全部。

短视频：在转码链条中寻找时空证据

平台可在上传原文件阶段检测，因为这时生成痕迹尚未被多次转码削弱；分发后的举报复检则应使用针对平台编码训练的模型。对于直播和长视频，可先实时轻筛，再异步深检风险片段。标注 AI 生成内容通常比简单删除更适合合法创作场景。

学术研究：审慎识别生成文本与篡改图表

学术材料可能同时包含正文、实验图片、统计图和引用。文本检测应配合版本历史和答辩，图像检测可辅助发现拼接、重复使用和生成内容，但不能凭单一概率指控学术不端。对方法、阈值、申诉与复核流程保持透明，和检测模型本身同样重要。

这些场景共同说明：跨模态的价值不是把三个分类器放在同一页面，而是让不同证据在同一治理框架中互相验证、互相制约。合合信息AI 跨模态鉴伪范围包含图片、视频和文本，并将应用从银行、保险等合规风控场景扩展到社交聊天、图文资讯、电商交易、短视频与学术研究。对开发团队而言，真正的下一步是把能力映射到自身风险成本、数据分布和人工流程，而不是照搬一个统一阈值。

八、理性边界：鉴伪是概率证据，不是真相机器

这次体验里，GPT-Image-2 西安街景得到 100%、真实照片得到 0.25%、Vidu Q3 Pro 五秒视频得到 100%，而且反馈都在数秒内完成；电商三选一也直观展示了人眼判断与机器结果的差异。这些结果足以说明工具值得体验，却不足以证明普遍准确。样本数量少、来源已知、没有盲测，也没有覆盖压缩、对抗、混合编辑和不同领域。

成熟的 AI 跨模态鉴伪系统应当坚持五条边界：不把置信度冒充事实；不把 AIGC 来源等同于恶意；不把公开论文架构包装成企业私有原理；不以单一模型替代证据链和人工复核；不因一次高分忽视开放世界中的持续退化。

反过来看，这并不削弱技术价值。恰恰因为检测不可能一劳永逸，企业才需要多专家、跨模态、可校准、可解释、可审计、可复核的系统工程。生成模型与检测模型会长期演进，可信的目标不是许诺“永不出错”，而是在风险出现时更早发现、给出更多证据，并为人保留最终判断空间。

如果希望直观理解这种能力，可以通过“扫描全能王 AI鉴伪小程序”分别上传图片、视频和文本，查看检测结果与鉴定记录；也建议主动加入真实照片、平台压缩图、二次编辑内容做对照。体验时请把页面数字视为单次样本的风险判断，避免上传无授权或高度敏感材料，更不要将一次结果直接用于公开指控。

总体来看，WAIC 2026 不仅集中展现了生成式 AI 的能力跃迁，也让“如何建立可信 AI”成为大会值得关注的技术主线。合合信息此次带来的 AI 跨模态鉴伪技术，亮点不只是能够识别图片、视频和文本中的 AI 生成痕迹，更在于它已经从单点算法能力走向面向真实业务的产品化体系：既能通过扫描全能王 AI 鉴伪小程序为普通用户提供直观、便捷的检测入口，也能服务于金融、保险、电商等高频、高风险场景。现场实测中，无论是 AI 生成街景、生成视频，还是容易被人眼误判的电商素材，产品都能快速给出清晰的鉴定结果与置信度参考。它让复杂的鉴伪技术真正变得可体验、可理解、可落地，也体现出合合信息在多模态文本智能、安全风控和规模化应用方面的技术积累。面对“眼见未必为实”的内容时代，这类兼顾技术深度与使用体验的产品，正为可信信息环境提供一套更具现实价值的解决方案。