网易首页 > 网易号 > 正文 申请入驻

比扩散模型快50倍!OpenAI发布多模态模型实时生成进展

0
分享至

西风 发自 凹非寺
量子位 | 公众号 QbitAI

两位清华校友,在OpenAI发布最新研究——

生成图像,但速度是扩散模型的50倍

路橙、宋飏再次简化了一致性模型,仅用两步采样,就能使生成质量与扩散模型相媲美。



他们成功将连续时间一致性模型的训练规模扩展到了前所未有的15亿参数,并实现了在512×512分辨率的ImageNet数据集上的训练。

参数15亿模型在单张A100 GPU上无需任何推理优化即可在0.11秒内生成一个样本



团队还表示通过定制系统优化,可以进一步加速,为实时生成图像、音频和视频提供新的可能

值得一提的是,论文仅有的两位作者还都是清华校友



该项研究发布后得到大量网友点赞转发。

把正在休假的Openai总裁Greg Brockman都炸出来了:

多模态模型正迈向实时生成



那么,sCM是如何实现的?

两步采样,50倍加速

一致性模型是一种快速的扩散模型替代方案。

当前扩散模型的采样方法通常需要数十到数百个连续步骤才能生成单个样本,这限制了其实时应用的效率和可扩展性。

逐步通过大量去噪步骤生成样本的扩散模型不同,它旨在一步直接将噪声转换为无噪声样本。



OpenAI最新这项研究提出了一种改进连续时间一致性模型(Continuous-time Consistency Models)的综合方法,主要包含题目中提到的三个关键点:简化、稳定和扩展



论文指出,现有一致性模型主要采用离散时间步训练,这种方法会引入额外的超参数并容易产生离散化误差。尽管连续时间公式可以避免这些问题,但之前的工作中连续时间一致性模型始终面临训练不稳定的挑战。

为此,论文首先提出了TrigFlow,巧妙地统一了EDM(Exponential Diffusion Model)和Flow Matching两种方法。

TrigFlow使扩散过程、扩散模型参数化、PF-ODE、扩散训练目标和一致性模型参数化都能够拥有简洁的表达式,如下所示。





在此基础上,研究人员深入分析了导致训练连续时间一致性模型不稳定的原因

在TrigFlow框架的基础上引入了几项理论上的改进,重点是参数化、网络架构和训练目标。

连续时间一致性模型训练的关键是:



取决于:



经过进一步分析,研究人员发现不稳定源自于时间导数:



并据此提出了三个关键改进:

  • 采用恒等时间变换c_noise(t)=t代替原有的对数正切变换,避免了t接近π/2时的数值不稳定性;
  • 使用位置时间嵌入替代傅里叶嵌入,减少了导数震荡;
  • 引入自适应双重归一化层替代AdaGN,在保持模型表达能力的同时提高了训练稳定性。

此外,论文还改进了训练目标,包括切向量归一化和自适应权重等技术。

以上种种改进使得研究人员成功将时间一致性模型的训练规模扩展到15亿参数,并在多个基准数据集上表现优异。

CIFAR-10上的FID(越低越好)为2.06,ImageNet 64×64上为1.48,ImageNet 512×512上为1.88。





特别值得注意的是,这些模型只需要两步采样就能达到接近最好的扩散模型的生成质量(FID差距在10%以内),而计算开销仅为后者的10%



研究人员还比较了改进后的一致性模型与变分分数蒸馏(VSD)方法的区别,发现一致性模型能产生更多样的样本,并且在更高的引导水平下表现更好。

他们还有一个关键发现,随着teacher扩散模型的规模扩大,sCM的改进也呈比例增加

用FID分数的比率来衡量样本质量的相对差异在模型大小不同的规模上是一致的,这意味着当模型规模增加时,样本质量的绝对差异会减小。

此外,增加sCM的采样步骤可以进一步减少质量差距。



作者简介

路橙

去年在清华大学TSAIL实验室,在朱军教授指导下获得博士学位;2019年获清华大学计算机科学与技术系学士学位。

现在他是OpenAI研究科学家,对大规模深度生成模型和强化学习算法感兴趣。

喜欢在数学理论和实际应用技巧之间找到理想的平衡点。

他对一致性模型、扩散模型、归一化流和基于能量的模型及其在图像生成、3D 生成和强化学习中的应用有丰富的研究经验。



宋飏

宋飏在清华大学获数学和物理学士学位后,在斯坦福大学获得了计算机科学博士学位,导师Stefano Ermon。

其研究目标是开发能够理解、生成并处理多种形态高维数据的强大AI模型。

目前,宋飏专注于改进生成模型,包括它们的训练方法、架构设计、对齐、鲁棒性、评估技巧及推理效率。

他对探索生成模型作为科学发现工具的潜力也很感兴趣。



参考链接:
[1]https://x.com/OpenAI/status/1849139783362347293
[2]https://luchengthu.github.io/
[3]https://yang-song.net/

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
天雷滚滚,一季报64利润暴降超80%,龙头暴降10023%,都有1个特点

天雷滚滚,一季报64利润暴降超80%,龙头暴降10023%,都有1个特点

鹏哥投研
2025-04-23 13:39:32
特朗普,害怕了?

特朗普,害怕了?

中国新闻周刊
2025-04-23 12:37:33
京东美团互撕我管不了,就好奇东哥火锅局怎么给这三家企业打广告

京东美团互撕我管不了,就好奇东哥火锅局怎么给这三家企业打广告

明月聊史
2025-04-23 13:48:31
尚东红,被查

尚东红,被查

新京报政事儿
2025-04-23 13:37:09
45岁南京高校李玮玮老师去世,死因细节曝光,14岁儿子一度想轻生

45岁南京高校李玮玮老师去世,死因细节曝光,14岁儿子一度想轻生

叨唠
2025-04-21 19:46:27
1953年毛主席途经淮海战场,罕见发火:粟裕不是樊哙,我也非刘邦

1953年毛主席途经淮海战场,罕见发火:粟裕不是樊哙,我也非刘邦

柳絮忆史
2025-04-23 10:31:39
马颖慧任上海市政府外办党组书记

马颖慧任上海市政府外办党组书记

中国经济网
2025-04-23 10:50:16
一天的吸烟量,尽量别超过这个数,既不用戒烟,肺也能舒服些!

一天的吸烟量,尽量别超过这个数,既不用戒烟,肺也能舒服些!

新时代的两性情感
2025-04-21 11:49:33
9分大剧终于推出续作,开分直接飙到9.9分!

9分大剧终于推出续作,开分直接飙到9.9分!

热荐电影
2025-04-23 22:57:55
好兄弟一辈子,王楠老公谈刘国梁辞职:保重,此生有你终生骄傲

好兄弟一辈子,王楠老公谈刘国梁辞职:保重,此生有你终生骄傲

二哥聊球
2025-04-23 15:42:50
江西女教师回娘家探亲失踪,12年不断托梦给哥哥:我在香炉里

江西女教师回娘家探亲失踪,12年不断托梦给哥哥:我在香炉里

悬案解密档案
2025-03-24 15:43:32
辽宁饮鸩止渴?连续两轮对手伤兵满营 总决赛希望大增

辽宁饮鸩止渴?连续两轮对手伤兵满营 总决赛希望大增

野渡舟山人
2025-04-24 00:27:44
云南大理州洱源县发生4.8级地震

云南大理州洱源县发生4.8级地震

中国地震台网速报
2025-04-24 00:30:05
刘国梁辞职!三大原因曝光,马龙退役不远了

刘国梁辞职!三大原因曝光,马龙退役不远了

体育就你秀
2025-04-24 01:00:03
韩美会谈前,中国严厉警告韩国:不准出口稀土给美,否则后果自负

韩美会谈前,中国严厉警告韩国:不准出口稀土给美,否则后果自负

国际阿尝
2025-04-23 15:14:46
火箭队G2出奇招,5+1射手进9人轮换,范弗利特让位 3铁闸消耗库里

火箭队G2出奇招,5+1射手进9人轮换,范弗利特让位 3铁闸消耗库里

替补席看球
2025-04-23 15:45:41
弟弟生活困难哥嫂给了他5万,5年后他装穷回村,哥嫂的做法太感人

弟弟生活困难哥嫂给了他5万,5年后他装穷回村,哥嫂的做法太感人

白云故事
2025-04-17 05:20:03
北理工导师被118页举报,已被学校解聘,但评论区未一边倒

北理工导师被118页举报,已被学校解聘,但评论区未一边倒

娱乐的宅急便
2025-04-21 13:38:42
宁都起义2个旅长7个团长不愿当红军领300元走人,后来其结局如何

宁都起义2个旅长7个团长不愿当红军领300元走人,后来其结局如何

老谢谈史
2025-04-21 11:34:53
不敢认!她这是换头了?

不敢认!她这是换头了?

寻艺
2025-04-21 18:25:01
2025-04-24 03:19:00
量子位 incentive-icons
量子位
追踪人工智能动态
10362文章数 176115关注度
往期回顾 全部

科技要闻

马斯克:中国用户对FSD"最为苛刻"

头条要闻

美国拒交会费 世卫组织:别无选择 只能裁员

体育要闻

金牌和金子,刘国梁改变国乒的这些年

娱乐要闻

于和伟领衔,央视谍战剧要有天花板了

财经要闻

董明珠放话"海归有间谍" 打工人破防了

汽车要闻

以经纬叙事 奇瑞瑞虎新旗舰SUV瑞虎9L快评

态度原创

教育
游戏
本地
家居
公开课

教育要闻

蓝色阴影三角形DEG面积为7,求绿色阴影三角形BCE的面积

48小时破千万!《无畏契约》手游点燃全民射击DNA

本地新闻

云游湖北 | 澴川醉古今!孝文化名城藏了多少宝藏?

家居要闻

开阔空间 家居轻智能

公开课

李玫瑾:为什么性格比能力更重要?