Tsinghua team's MGFlow and Elastic Forcing achieve SOTA one-step image generation and efficient 14B video model post-training
Researchers at Tsinghua University and collaborators introduced distributional training, a method that supervises generation by comparing the overall distribution of generated samples with reference samples rather than assigning unique answers per sample. Their MGFlow method achieved state-of-the-art one-step generation on ImageNet 256×256 (pMF-H, JiT-H: 1.45, 1.64 FID) and outperformed the original 4-step FLUX.2 [klein] 4B model in text-to-image (GenEval 0.900, PickScore 21.98). Elastic Forcing, the video counterpart, scored 84.64 on VBench, surpassing Self Forcing, and post-trained a 14B streaming video model on 8 H200 GPUs in 23.2 hours.
Coverage timeline
机器之心机器之心
对着屏幕说一句 “向左转”,画面随即展开新的视野;调整角色的动作,场景紧接着给出反馈。多模态交互要求视觉生成跟上人的操作,而漫长的等待会打断整个体验。 这让 few-step generation,少步生成,成为交互系统的关键能力。将生成压缩到一步或少数几步,为持续响应腾出时间与算力,同时保持高质量,是生成模型走向实时多模态交互、进一步连接世界模型的重要问题。 一步生图达到 SOTA 水平,8 卡搞定 140 亿参数流式视频模型后训练。 清华大学等机构研究者的 MGFlow 与 Elastic Forcing,交出了两份相互呼应的成绩单。 MGFlow 在 ImageNet 256×256 生成中,后训练 pMF-H、JiT-H 取得单步生成 1.45、1.64 FDr⁶ 的断崖式 SOTA 好成绩;在 FLUX.2 [klein] 4B 文生图对照中,一步生成的 GenEval 达到 0.900,PickScore 达到 21.98 ,超越原版 4 步模型,领先所有同规模 baseline。Elastic Forcing 则以更少算力, 在 VBench 上取得 84.64 总分大幅超越 Self Forcing ,同时在 8 张 H200 上用 23.2 小时完成了对 14B 生成模型的流式实时生成改造 。 两项工作的共同问题是:当生成过程被压缩到一步或少数几步,能否让一批生成结果,直接从一批参考结果中学到 “整体应该是什么样”? MGFlow 从理论上解释这类监督怎样产生有效的更新,Elastic Forcing 则回答它怎样扩展到昂贵的视频训练。连接两者的,是一种新的训练方法: 样本分布训练(distributional training)。这种基于样本统计的分布级训练,通过比较生成样本与参考样本的整体分布提供监督,而不必为每个生成结果预先指定一个唯一的参考答案 。直观地说,这是让模型从 “分布对分布” 的比较中学习。 图 1:MGFlow 一步文生图样例。 Volcanic dusk|火山暮色。Elastic Forcing 五步流式生成。 A field of sunflowers|向日葵花田。Elastic Forcing 五步流式生成。 从逐个 “对答案”,到一批结果共同学习 生成任务通常没有唯一答案。同样是 “山谷中的河流”,不同的视角
