全连续多模态:MultimodalFlow 把语言和视觉塞进同一个向量场

举报
wuhongyi1977 发表于 2026/11/10 16:12:22 2026/11/10
【摘要】 统一多模态模型一直卡在同一个问题上:语言天生是离散的符号,图像天生是连续的信号。把两者塞进一个模型,要么把图像也切成离散 token,要么让语言和图像各走各的生成路线。华中科技大学王兴刚团队联合地平线等机构提出的 MultimodalFlow(arXiv:2609.40362)选择了第三条路:干脆全连续,用一个 Flow Matching 向量场同时建模语言和视觉。两条老路各自的代价离散化路...

统一多模态模型一直卡在同一个问题上:语言天生是离散的符号,图像天生是连续的信号。把两者塞进一个模型,要么把图像也切成离散 token,要么让语言和图像各走各的生成路线。华中科技大学王兴刚团队联合地平线等机构提出的 MultimodalFlow(arXiv:2609.40362)选择了第三条路:干脆全连续,用一个 Flow Matching 向量场同时建模语言和视觉。

两条老路各自的代价

离散化路线用 VQ-VAE 把图像量化成码本 token,语言和图像终于能用同一个自回归目标训练,代价是量化瓶颈:细节在码本里被抹平,重建质量先天受限;想要更高保真度就得扩大码本,训练和推理成本跟着上涨。

混合路线则让语言用交叉熵做离散预测,图像用扩散或流模型做连续生成。两种目标、两套采样流程拼在一个模型里,架构割裂,跨模态对齐全靠后期缝合,训练时还要小心两种损失的权重配比。

超块:把文本和图像排进同一条序列

MultimodalFlow 的核心抽象是超块(hyperchunk):文本块和图像都被组织成有序的连续超块,文本保留 token 顺序,图像保留空间结构。共享的 chunk-causal flow backbone 在这些超块上学习一个向量场,Flow Matching 负责把噪声一步步推向目标分布。联合注意力让两种模态互相看见对方,模态专属的前馈网络则各自处理本模态的细节——共享的是生成过程,分工的是特征变换。

训练时模型并行预测多个目标超块,推理时再按顺序逐个生成超块。这种并行训练、顺序推理的设计,既保留了自回归的因果结构,又让训练效率接近非自回归模型。

效果:小预算也能打

实例化模型 MF-1 只有 1.6B 参数,用 150B token 从零预训练。在 GenEval 和 DPG-Bench 上平均 82.8 分,在 VQAv2、MMBench 和 POPE 上平均 75.3 分,与用多得多数据训练的统一模型相当;在数据、优化器和参数量都对齐的条件下,还超过了同等预算的混合式与全离散架构。需要注意,这些分数出自论文自身的评测,跨论文横向比较时应留有余地。

对工程实践意味着什么

对做 Agent 和后端系统的人来说,全连续架构的吸引力不在分数,而在接口的统一:一种表示、一个目标、一套采样流程,意味着多模态能力可以像调用同一个生成服务那样接入,不必为文本和图像各维护一套推理管线。代价同样真实:连续表示的采样不如离散 token 那样容易做精细控制,温度、top-p 这类成熟的解码工具需要重新设计;长程一致性和可控生成仍是开放问题。MultimodalFlow 的代码和模型已经公开,值得在真实任务上验证它的承诺。

统一多模态的竞争正在从“能不能统一”转向“用什么统一”。离散化赢了工程便利,混合架构赢了单项性能,全连续路线赌的是生成过程本身的统一。更长远看,连续表示还可能让文本、图像、音频共享同一套生成原语,多模态不再是多个模型的拼接。如果这条路走得通,下一个多模态 Agent 的底座可能不再有模态之分。

【声明】本内容来自华为云开发者社区博主,不代表华为云及华为云开发者社区的观点和立场。转载时必须标注文章的来源(华为云社区)、文章链接、文章作者等基本信息,否则作者和本社区有权追究责任。如果您发现本社区中有涉嫌抄袭的内容,欢迎发送邮件进行举报,并提供相关证据,一经查实,本社区将立刻删除涉嫌侵权内容,举报邮箱: cloudbbs@huaweicloud.com
  • 点赞
  • 收藏
  • 关注作者

评论(0)

0/1000
抱歉,系统识别当前为高风险访问,暂不支持该操作

全部回复

上滑加载中

设置昵称

在此一键设置昵称,即可参与社区互动!

*长度不超过10个汉字或20个英文字符,设置后3个月内不可修改。

*长度不超过10个汉字或20个英文字符,设置后3个月内不可修改。