网易首页 > 网易号 > 正文 申请入驻

静态油画秒变动态视频,西安交大等提出「无需训练」的绘画动态化新范式

0
分享至

随着人工智能技术的飞速发展,图像到视频(I2V)生成已成为艺术与科技融合的前沿领域。然而,现有方法在将静态绘画转化为动态视频时,仍面临两大核心挑战:

(1)不动:现有模型无法准确解读和执行文本提示中的运动指令,导致生成的视频缺乏动态效果或完全静止;

(2)乱动:模型在尝试赋予静态绘画动态效果的过程中,可能会出现与原作品风格不符或破坏其完整性的现象。

针对上述难题,西安交通大学、合肥工业大学以及澳门大学的研究团队联合提出一个零训练图像转视频框架——“Every Painting Awakened”,成功实现静态绘画的动态化生成。

该技术不仅能让静态油画根据提示文本动起来,更可精准保持原画笔触的微妙渐变,解决了艺术动画领域长期存在的动态失真与风格偏离两大难题。

论文标题: Every Painting Awakened: A Training-free Framework for Painting-to-Animation Generation 论文链接: https://arxiv.org/abs/2503.23736 项目主页: https://painting-animation.github.io/animation/

Every Painting Awakened 示例 一、从静态到动态:艺术动画的终极挑战

“Every Painting Awakened” 创新性地引入双路径分数蒸馏技术与混合潜在融合机制,突破性实现:

  • 动态精准控制:通过预训练图像模型的文本-图像对齐能力,将文本提示编码进图像域空间。

  • 风格完美继承:在潜在空间进行球面线性插值,确保动态化过程不损伤原作色彩、笔触等艺术特征。

  • 即插即用部署:无需额外训练,可直接增强现有 I2V 模型。

二、核心技术解析

Every Painting Awakened 架构

“Every Painting Awakened” 框架首先应用一个预先训练的图像模型从真实绘画中生成一个代理图像,代理图像作为后续步骤的未来指导。随后将双路径分数蒸馏采样应用于真实绘画和代理图像,得到两个更新的初始视频潜在向量。

这两个向量沿时间维度进行球形插值,以生成融合的潜在向量。该融合向量被用作 I2V 模型的输入,用于视频生成。

框架的核心技术主要集中在两个方面:

1. 双路径得分蒸馏(Dual-path Score Distillation)

问题:静态绘画缺乏动态数据支撑,模型难以捕捉运动规律。

方案:构建双路径架构,从代理图像中提取动态先验,同时从真实绘画中保留原画静态细节。

效果:既保证画作风格的完整性,又为动态生成提供运动逻辑支持。

2. 混合潜在融合(Hybrid Latent Fusion)

问题:动态生成过程中,画面过渡生硬或风格断裂。

方案:在潜在空间中通过球面线性插值(Slerp)融合真实绘画特征与代理图像的动态特征。

效果:实现自然流畅的时序过渡,确保动态与静态元素的和谐统一。

三、实验结果

研究显示,“Every Painting Awakened”不仅能够大幅提升与文本提示语义上的契合度,同时也能忠实地保留原绘画的独特风格和完整性。

在各 I2V 基础模型上的评估结果和消融实验结果

AnimateAnything 模型上的示例

ConsistI2V 模型上的示例

Cinemo 模型上的示例 四、总结与未来方向

“Every Painting Awakened” 框架为数字艺术、影视特效等领域提供了高效工具。例如,博物馆可将经典画作转化为动态展览。当静态艺术遇上动态 AI,技术与美学的边界再次被突破。

这项研究不仅让静态绘画“活”了起来,更以零训练成本的优势,为创意产业注入新动能。未来,研究将探索复杂场景推理优化,进一步提升长视频生成的连贯性。

参考文献

[1] Z. Dai, Z. Zhang, Y. Yao, B. Qiu, S. Zhu, L. Qin, W. Wang, Fine-grained opendomain image animation with motion guidance, arXiv (2023).

[2] W. Ren, H. Yang, G. Zhang, C. Wei, X. Du, W. Huang, W. Chen, Consisti2v: Enhancing visual consistency for image-to-video generation, Transactions on Machine Learning Research (TMLR) (2024).

[3] X. Ma, Y. Wang, G. Jia, X. Chen, Y.-F. Li, C. Chen, Y. Qiao, Cinemo: Consistentand controllable image animation with motion diffusion models, Proceedings ofthe IEEE/CVF Conference on Computer Vision and Pattern Recognition (2025).

来源:公众号【PaperWeekly】

llustration From IconScout By IconScout Store

-The End-

扫码观看!

本周上新!

“AI技术流”原创投稿计划

TechBeat是由将门创投建立的AI学习社区(www.techbeat.net)。社区上线600+期talk视频,3000+篇技术干货文章,方向覆盖CV/NLP/ML/Robotis等;每月定期举办顶会及其他线上交流活动,不定期举办技术人线下聚会交流活动。我们正在努力成为AI人才喜爱的高质量、知识型交流平台,希望为AI人才打造更专业的服务和体验,加速并陪伴其成长。

投稿内容

// 最新技术解读/系统性知识分享 //

// 前沿资讯解说/心得经历讲述 //

投稿须知

稿件需要为原创文章,并标明作者信息。

我们会选择部分在深度技术解析及科研心得方向,对用户启发更大的文章,做原创性内容奖励

投稿方式

发送邮件到

melodybai@thejiangmen.com

或添加工作人员微信(yellowsubbj)投稿,沟通投稿详情;还可以关注“将门创投”公众号,后台回复“投稿”二字,获得投稿说明。

关于我“门”

将门是一家以专注于数智核心科技领域新型创投机构,也是北京市标杆型孵化器。 公司致力于通过连接技术与商业,发掘和培育具有全球影响力的科技创新企业,推动企业创新发展与产业升级。

将门成立于2015年底,创始团队由微软创投在中国的创始团队原班人马构建而成,曾为微软优选和深度孵化了126家创新的技术型创业公司。

如果您是技术领域的初创企业,不仅想获得投资,还希望获得一系列持续性、有价值的投后服务,欢迎发送或者推荐项目给我“门”:

bp@thejiangmen.com

点击右上角,把文章分享到朋友圈

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
泰晤士报:曼联与亚特兰大就埃德松达成转会协议,总价3800万镑

泰晤士报:曼联与亚特兰大就埃德松达成转会协议,总价3800万镑

懂球帝
2026-05-27 23:05:21
医生:能跑能跳的老人,基本在65岁,就已经不做这5件事了!

医生:能跑能跳的老人,基本在65岁,就已经不做这5件事了!

医学科普汇
2026-05-27 23:00:13
【2026.5.26】景甜现在被男友起诉?综艺节目真的会恶意剪辑?很好奇李光洁?

【2026.5.26】景甜现在被男友起诉?综艺节目真的会恶意剪辑?很好奇李光洁?

娱乐真爆姐
2026-05-27 23:45:33
国家杰青、高分子专家朱新远教授,出任上海市教育委员会主任

国家杰青、高分子专家朱新远教授,出任上海市教育委员会主任

高分子科学前沿
2026-05-27 21:00:00
52岁北京炒股冠军罕见发声:如果本金有20W,建议死啃涨停双响炮

52岁北京炒股冠军罕见发声:如果本金有20W,建议死啃涨停双响炮

股经纵横谈
2026-04-13 18:28:54
为什么今年没人提“消费降级”了?

为什么今年没人提“消费降级”了?

黯泉
2026-05-20 17:47:21
中国连夜官宣重磅消息!科技圈集体沉默:这次弯道超车太狠了

中国连夜官宣重磅消息!科技圈集体沉默:这次弯道超车太狠了

Thurman在昆明
2026-05-27 01:28:39
提醒:直肠癌有一个明显特征,肉眼可见,排便时可以注意观察一下

提醒:直肠癌有一个明显特征,肉眼可见,排便时可以注意观察一下

医学原创故事会
2026-05-28 00:18:03
俄动用榛树导弹,精确打击基辅,冯德莱恩:是莫斯科绝望的表现

俄动用榛树导弹,精确打击基辅,冯德莱恩:是莫斯科绝望的表现

温读史
2026-05-25 10:01:39
我今年72了,用一生的经验告诉你:永远不要跟任何人,透露这3个底牌,哪怕是最亲的人

我今年72了,用一生的经验告诉你:永远不要跟任何人,透露这3个底牌,哪怕是最亲的人

东林夕亭
2026-05-07 09:32:41
赖清德万万没想到!大陆还没收台,台军内部先爆出致命危机

赖清德万万没想到!大陆还没收台,台军内部先爆出致命危机

荷兰豆爱健康
2026-05-27 17:17:36
14年湖北妈妈肾衰竭,移植7岁儿子的肾,得救后:孩子,你安心走

14年湖北妈妈肾衰竭,移植7岁儿子的肾,得救后:孩子,你安心走

怪味历史连连看
2026-05-27 06:15:09
期待!世界杯名单相继公布:至少7名现役或前中超外援入选

期待!世界杯名单相继公布:至少7名现役或前中超外援入选

邱泽云
2026-05-27 20:46:51
毛岸英究竟怎么牺牲的?2020年彭德怀发的绝密电报公开,写了什么

毛岸英究竟怎么牺牲的?2020年彭德怀发的绝密电报公开,写了什么

楚风说历史
2026-02-18 07:25:03
突发!雷军宣布永久降价

突发!雷军宣布永久降价

品牌头版
2026-05-27 18:13:14
长鑫上市造富前夜,合肥楼市里涌动的“大厂经济”

长鑫上市造富前夜,合肥楼市里涌动的“大厂经济”

第一财经资讯
2026-05-27 18:04:30
金小刀或入狱?不到24小时,萧旭岑抵达大陆,对民进党喊出四个字

金小刀或入狱?不到24小时,萧旭岑抵达大陆,对民进党喊出四个字

共工之锚
2026-05-26 14:01:35
多名院士调查发现:吃一口久冻馒头,等于中一次毒?真假

多名院士调查发现:吃一口久冻馒头,等于中一次毒?真假

医学科普汇
2026-05-27 20:00:13
特朗普:对目前同伊朗谈判进程“不满意”

特朗普:对目前同伊朗谈判进程“不满意”

新华社
2026-05-28 00:50:07
一人毁掉整部剧?央视剧《主角》唯一败笔,观众:看他演戏真别扭

一人毁掉整部剧?央视剧《主角》唯一败笔,观众:看他演戏真别扭

老黯谈娱
2026-05-26 12:47:27
2026-05-28 02:11:00
将门创投 incentive-icons
将门创投
加速及投资技术驱动型初创企业
2391文章数 596关注度
往期回顾 全部

科技要闻

韬定律:全球在卷纳米数 华为换了一把尺子

头条要闻

特朗普:伊朗即使放弃高浓缩铀也无法获得解除制裁

头条要闻

特朗普:伊朗即使放弃高浓缩铀也无法获得解除制裁

体育要闻

这群老阿姨,是最硬核的马刺球迷

娱乐要闻

王鹤棣风波连累父亲炸串店遭差评?

财经要闻

中国半导体的阳谋

汽车要闻

限时补贴价9.28-10.98万 MG 4X正式上市

态度原创

本地
亲子
手机
时尚
公开课

本地新闻

用剪纸的方式,打开江苏扬州

亲子要闻

韩国孩子4岁就要考英语幼儿园是家长停不下来的教育焦虑

手机要闻

鸿蒙系统大推送:6.1.0.125已来袭,API 24也转正了!

这几件单品太火了,今年流行的风格都离不开它

公开课

李玫瑾:为什么性格比能力更重要?

无障碍浏览 进入关怀版