网易首页 > 网易号 > 正文 申请入驻

加速量子化学计算,字节&北大量子蒙特卡罗研究进展登Nature子刊

0
分享至

编辑 | 萝卜皮

基于神经网络的变分蒙特卡罗(NN-VMC)已成为一种有前途、有潜力的从头计算量子化学的尖端技术。然而,现有方法的高计算成本,阻碍了它们在现实化学问题中的应用。

字节跳动与北京大学团队介绍了 NN-VMC 的最新研究进展,它实现了显著的加速率,从而极大地将 NN-VMC 的适用性扩展到更大的系统。

该团队的关键设计是一个名为 Forward Laplacian 的计算框架,它通过有效的前向传播(forward)过程来计算与神经网络相关的 Laplacian(这是 NN-VMC 的瓶颈)。

然后,研究人员证明Forward Laplacian 可以进一步促进各个方面的加速方法的更多发展,包括稀疏导数矩阵的优化和高效的网络设计。

该团队的方法使 NN-VMC 能够研究更广泛的系统,为其他从头算方法提供有价值的参考。

该研究以「A computational framework for neural network-based variational Monte Carlo with Forward Laplacian」为题,于 2024 年 2 月 13 日发布在《Nature Machine Intelligence》。

准确求解与时间无关的电子薛定谔方程,可以得出给定量子力学系统的基本属性。量子蒙特卡罗(QMC)是求解薛定谔方程最重要的从头算方法之一,广泛应用于量子化学的各种场景。

然而,在 QMC 中,解决方案的准确性在很大程度上取决于 ansatz 的选择,这需要大量的专业知识。与其他确定性方法相比,例如耦合簇单簇和扰动三元组的双簇 [CCSD(T)] ,这种限制阻碍了 QMC 的适应性,后者被广泛认为是「黄金标准」。

近期,深度学习彻底改变了量子化学领域,使科学家可以获得薛定谔方程更准确的解。开创性的方法之一是基于神经网络的实空间变分蒙特卡罗(NN-VMC),例如 FermiNet 和 PauliNet。通过变分原理可以得到基态波函数,从而使能量的期望值最小化。基于这一事实,NN-VMC 方法利用深度神经网络对波函数进行参数化,并以能量作为损失函数来优化网络参数。

受益于神经网络的卓越能力,NN-VMC 方法在实现不同系统的化学准确性方面表现出了稳健的结果。然而,需要注意的是,这些方法在模型训练过程中通常会产生大量的计算成本。例如,在现代硬件上学习苯二聚体系统的波函数需要大约 10,000 个图形处理单元 (GPU) 小时,这使得扩展到更大的系统具有挑战性。

在最新的工作中,字节跳动和北京大学的研究人团队解决了 NN-VMC 方法中计算效率的挑战,特别是对于大规模系统。

图示:计算过程示意图。(来源:论文)

NN-VMC 需要计算神经网络输入的 Laplacian 以获得损失;该项的计算消耗了整个训练时间的很大一部分,并成为学习过程中的主要瓶颈。

具体来说,之前的工作首先使用深度学习工具包中的自微分(AutoDiff)方法计算 Hessian 矩阵,然后通过迹推导 Laplacian 矩阵。这样的过程需要执行昂贵的导数传播,显著降低了 NN-VMC 的整体训练速度。

为了观察这个问题,研究人员首先开发了一个新的计算框架,名为 Forward Laplacian。

与从 Hessian 间接导出 Laplacian 的常用方法相比,Forward Laplacian 通过精心设计的前向传播过程直接计算值;研究人员在数学上证明这种方法效率更高,因为它消除了不必要的计算和传播。

其次,研究人员证明这种计算方式不仅加速了过程,而且为开发 NN-VMC 先进技术铺平了道路。在与 NN-VMC ansatz 相关的 Forward Laplacian 中,许多中间导数表现出稀疏性并且可以在相当大的程度上进行优化。

图示:LapNet 架构。(来源:论文)

该团队还设计了一种名为 LapNet 的高效神经网络架构,它可以使用精心设计的具有稀疏导数的注意力块来更好地利用 Forward Laplacian方法的优势。总之,这些进展使研究人员能够研究超出现有 NN-VMC 软件包能力的原子、分子和化学反应。

该团队在计算绝对能量跟随方面在各种系统上评估他们的方法。所有结果一致表明,LapNet 与 Forward Laplacian 方法相结合,可以获得准确的能量估计,同时显著降低模型训练的计算成本。

图示:不同 NN-VMC 方法的效率和性能比较。(来源:论文)

鉴于这些稳健的结果,研究人员进一步探索该方法是否可以在不同的实际场景中学习更有用的量(相对能量),包括化学反应的势垒、过渡金属的电离能和分子之间的非共价相互作用。

图示:系统规模的缩放效应。(来源:论文)

图示:使用 LapNet 进行相对能量估计。(来源:论文)

结果表明,使用 NN-VMC 方法获得的相对能量与使用黄金标准计算方法和实验结果获得的相对能量一致,这表明使用深度学习来解决量子力学系统的巨大潜力。

虽然该团队提出的方法在大多数情况下,可以产生与金标准或实验结果密切相关的相对能量;但在少数情况下,该方法输出的结果与现实情况之间仍然存在差异。

该团队认为这种不一致是因为现有的 NN-VMC 方法没有充分整合所有关键的化学和物理知识。研究人员相信,将适当的化学和物理知识(例如尺寸扩展性和尺寸一致性)编码到神经网络中对于未来推进 NN-VMC 技术至关重要。

虽然,该研究的主要目标是解决与 NN-VMC 中 Laplacian 计算相关的计算瓶颈,但是 Forward Laplacian 方法的预期用途可以扩展到量子力学领域之外的各种场景。

例如,Forward Laplacian 方法在计算 Laplacian 时可以代替以前的方法,并且提高了效率。因此,它可以加速其他基于神经网络的偏微分方程求解器。

论文链接:https://www.nature.com/articles/s42256-024-00794-x

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
特朗普宣布:50%关税!立马暴跌

特朗普宣布:50%关税!立马暴跌

中国基金报
2025-07-31 06:47:53
道教协会副会长在上海有栋楼!儿子曾因炫富被抓,名下四辆豪车

道教协会副会长在上海有栋楼!儿子曾因炫富被抓,名下四辆豪车

社会酱
2025-07-31 17:46:01
央行最新公布:3.09%!

央行最新公布:3.09%!

中国基金报
2025-07-30 21:30:20
50%!美国宣布新关税

50%!美国宣布新关税

环球时报新闻
2025-07-31 10:18:47
泰军招呼柬埔寨士兵一起庆祝停火,20人乐颠颠跑过去,直接被俘虏

泰军招呼柬埔寨士兵一起庆祝停火,20人乐颠颠跑过去,直接被俘虏

南宫一二
2025-07-31 12:35:05
“有香港客户包车来看房”,最低40万元一套,李嘉诚家族降价推售大湾区400套房源

“有香港客户包车来看房”,最低40万元一套,李嘉诚家族降价推售大湾区400套房源

每日经济新闻
2025-07-31 12:32:08
韩国游客在长白山挥国旗,工作人员飞奔夺下,想要回被警方带走?

韩国游客在长白山挥国旗,工作人员飞奔夺下,想要回被警方带走?

涵豆说娱
2025-07-31 15:20:19
行业末日已到,中国人正在集体戒酒!

行业末日已到,中国人正在集体戒酒!

金投网
2025-07-30 15:42:11
俄罗斯8.8级地震,威力堪比8000枚核弹,日本福岛核电站停止排放

俄罗斯8.8级地震,威力堪比8000枚核弹,日本福岛核电站停止排放

碳基生物关怀组织
2025-07-30 17:56:22
图书馆诬告事件,武汉大学终于回应了

图书馆诬告事件,武汉大学终于回应了

清书先生
2025-07-31 17:38:29
曝张雪峰出轨小12岁中专生,两人合影被扒,女方承认被包养

曝张雪峰出轨小12岁中专生,两人合影被扒,女方承认被包养

180视角
2025-07-31 09:56:42
A股:周四,大盘为何突然跳水?原因有三点!

A股:周四,大盘为何突然跳水?原因有三点!

明心
2025-07-31 11:27:33
确诊超6000例!一地免费核酸筛查!广州全市中风险!华山医院最新提醒

确诊超6000例!一地免费核酸筛查!广州全市中风险!华山医院最新提醒

极目新闻
2025-07-31 15:36:03
很遗憾,中国已经错过了催生的最好时间

很遗憾,中国已经错过了催生的最好时间

小星球探索
2025-07-31 12:58:24
爱康国宾同时“宣战”媒体与患癌女律师,CEO发声揭示行业真相还是责任推诿?

爱康国宾同时“宣战”媒体与患癌女律师,CEO发声揭示行业真相还是责任推诿?

新民周刊
2025-07-31 14:55:18
武大杨某的软肋被抓到!网友真厉害,打蛇打七寸,这下有好戏看了

武大杨某的软肋被抓到!网友真厉害,打蛇打七寸,这下有好戏看了

美美谈情感
2025-07-31 01:56:40
1700家社区食堂关门了:不是老人不吃饭,是饭没送到嘴边

1700家社区食堂关门了:不是老人不吃饭,是饭没送到嘴边

史行途
2025-07-31 08:33:42
邮报:梅西佩戴着价值超1400万元的劳力士,全世界仅有10块

邮报:梅西佩戴着价值超1400万元的劳力士,全世界仅有10块

懂球帝
2025-07-30 10:37:34
释永信落马后,新方丈出手!上任免去3人职务,再给僧人立下新规

释永信落马后,新方丈出手!上任免去3人职务,再给僧人立下新规

会一帆风顺的
2025-07-31 11:04:07
奶茶风险巨大!一杯就超控糖上限,严重者损伤肝脏甚至痛风

奶茶风险巨大!一杯就超控糖上限,严重者损伤肝脏甚至痛风

直呼内行
2025-07-30 20:53:15
2025-07-31 19:00:50
ScienceAI incentive-icons
ScienceAI
关注人工智能与其他前沿技术
1041文章数 214关注度
往期回顾 全部

科技要闻

理想i8与重卡对撞测试引争议,工程师点评

头条要闻

记者问"为何有1000多条投诉" 爱康国宾发布会突然停播

体育要闻

梅西:今天赢球很重要 德保罗为球队带来很多东西

娱乐要闻

站位暴露咖位:C位亮了

财经要闻

吴晓求刘煜辉对谈:讲透A股未来趋势

汽车要闻

连续掉头/丝滑避让 传祺向往S7辅助驾驶有点东西

态度原创

手机
艺术
旅游
教育
本地

手机要闻

第一款 2 亿像素主摄新机曝光:三星 HP5、天玑 8 系平台

艺术要闻

故宫珍藏的墨迹《十七帖》,比拓本更精良,这才是地道的魏晋写法

旅游要闻

热闻|清明假期将至,热门目的地有哪些?

教育要闻

当孩子进入青春期,不尊重你、不理你时,不必翻脸,只需要“三好一纠”教育,就够了

本地新闻

换个城市过夏天|躲进雅安过几天大熊猫式慢生活