网易首页 > 网易号 > 正文 申请入驻

何恺明ResNet登顶,Transformer加冕!Nature独家揭秘25篇高被引论文

0
分享至


新智元报道

编辑:桃子

【新智元导读】21世纪最具影响力的25篇论文中,AI论文竟然独占鳌头!从席卷全球的ResNet到奠定ChatGPT基础的Transformer架构,Nature独家揭秘全球高被引论文。

21世纪第一个25年,AI领域被引最高25篇论文都有哪些?

近日,Nature头版独家文章,揭秘了不同科学领域最具影响力的论文。


然而,令人意外的是,那些广为人知的科学发现:从mRNA疫苗和CRISPR基因编辑技术,到希格斯玻色子的发现和引力波的首次测量,并没有出现在这些入选的论文中。

他们得出结论,被引最高的论文,正是描述科学方法、软件工具或系统性综述的「幕后英雄」。

那么,都有哪些论文上榜了呢?


引用:科学影响力的衡量标准

引用是学术界衡量论文影响力的重要指标,作者通过引用来致敬前人的工作。

Nature的分析基于五个学术数据库(涵盖了21世纪数千万篇论文),通过取中位数排名,筛选出本世纪最受引用的25篇论文。

结果显示,人工智能、提升研究质量提升、癌症统计、研究软件相关的论文占据了榜单前列。

唯一例外是一篇2004年关于石墨烯实验的开创性论文,这项工作为作者赢得了2010年的诺贝尔物理学奖。

AI崛起,ResNet登顶

人工智能论文,在本世纪引用榜单中独领风骚。

位居榜首的是,微软团队2016年发表的一篇论文——Deep Residual Learning for Image Recognition。

这恰恰是所有人熟知的「深度残差学习」神经网络——ResNets的开山之作,由AI大牛孙剑带队何恺明等人完成。


论文地址:https://arxiv.org/abs/1512.03385

ResNets解决了信号在多层网络中传播时衰减的问题,让研究人员能够训练约150层神经网络。

这大约是当时常规神经网络层数的5倍。


该论文首次作为预印本发布于2015年末,微软团队凭借其在图像识别竞赛中夺冠。

ResNets的突破为AI飞速发展铺平了道路,催生了AlphaGo、AlphaFold、ChatGPT等模型诞生。

现就职于麻省理工学院的何恺明表示,「在ResNets之前,深度学习并不那么『深』」。

据统计,这篇论文的引用量在10万-25.4万次之间。在五个数据库中有两个将其列为第一,两个列为第二,一个列为第三,综合中位数排名第一。


Google Scholar这篇论文被引数已超25万

此外,2017年谷歌发表的Attention is all you need排位列七,论文中提出了著名的Transformer架构,成为ChatGPT等大模型的核心。


论文地址:https://arxiv.org/pdf/1706.03762

AI论文的高引用量,主要是因为其广泛的应用领域和快速的研究进展。

同样,AI教父Geoff Hinton指出,「AI论文天然具有引用优势」。

2012年,Hinton带领学生Ilya、Alex Krizhevsky发表的AlexNet论文排名第八。

这篇巨作展示了神经网络在图像识别竞赛中的压倒性优势,掀起了后来的深度学习革命。


论文地址:https://proceedings.neurips.cc/paper_files/paper/2012/file/c399862d3b9d6b76c8436e924a68c45b-Paper.pdf


此外,开源也助推了AI论文的引用。

比如排名第六的Random Forests论文介绍了一种开源、易用的机器学习算法,广泛应用于多个领域。


论文地址:https://link.springer.com/article/10.1023/A:1010933404324

需要说明的是,许多AI论文以预印本形式发布,增加了引用统计的复杂性。

OpenAlex数据库尝试合并预印本与最终出版物的引用,而Google Scholar则努力将同一作品的所有版本归类并汇总引用。

研究软件:科学家的「工具箱」

除了AI领域,研究软件相关论文在本世纪引用榜单中表现亮眼。

排名第二的论文由Thomas Schmittgen等人于2000年发表,介绍了一种用于定量PCR(聚合酶链式反应)数据分析的方法。

这篇论文应审稿人要求而生,因其提供了计算基因活性变化的简单公式,被引量超过16.2万次,跻身历史前十。


论文地址:https://www.sciencedirect.com/science/article/abs/pii/S1046202301912629

排名第五的论文,是由英国化学家George Sheldrick撰写,介绍SHELX程序套件,用于分析X射线散射模式以揭示分子结构。

这篇2008年的综述论文建议使用SHELX时引用,引用量在7万至9万次之间。


论文地址:https://journals.iucr.org/a/issues/2008/01/00/sc5010/index.html

其他软件论文,如排名第十五的scikit-learn(Python机器学习库)和排名第十八的DESeq2(RNA测序分析),因其开源和易用性,成为科学家不可或缺的工具。

统计软件:数据分析的利器

统计软件相关论文,也在榜单中名列前茅。

例如,排名第15的scikit-learn论文和排名第22的lme4论文分别为Python和R语言用户提供了强大的数据分析工具。

排名第23的G*Power软件论文则帮助生物学家计算实验所需的样本量,以确保统计显著性。

值得注意的是,R编程语言本身未出现在榜单中,尽管OpenAlex记录其引用量超过30万次。

这是因为R的开发者建议用户引用其网站而非学术论文,导致数据库记录不一致。

这也提醒研究者:若开发了有影响力的程序,发表一篇相关论文至关重要。

癌症与健康:数据驱动的洞见

癌症研究领域的三篇论文在榜单中占据重要位置。

排名第四的Diagnostic and Statistical Manual of Mental Disorders(DSM-5)是精神病学领域的权威指南,2013年出版后广泛用于研究和临床,定义了精神障碍的诊断标准。

排名第九和第十的是世界卫生组织GLOBOCAN项目于2018年和2020年发布的全球癌症统计报告,为研究者和政策制定者提供了关键数据。

排名第十九的综述论文总结了癌症的「标志性特征」,激励了无数学生投身癌症研究。

提升研究质量

提升研究质量的论文在本世纪引用榜单中熠熠生辉。排名第三的论文Using thematic analysis in psychology,由心理学家Virginia Braun和Victoria Hannah Clarke于2006年发表,介绍了「主题分析」——一种分析定性数据的系统方法。

这篇为学生设计的指南意外成为本世纪第三高引用论文,彻底改变了两位作者的职业轨迹。

排名第11的PRISMA声明(2009年)为系统综述和荟萃分析提供了27项报告规范,引用量在5.3万至13.8万次之间。

2020年更新的PRISMA(排名第23)同样上榜。排名第17的论文(2003年)讨论了行为研究中的方法偏差,帮助研究者提高研究严谨性。

参考资料:

https://www.nature.com/articles/d41586-025-01125-9

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

/阅读下一篇/

马斯克懂王闹掰!70亿美元砸出全球最大AI超算巨兽,奥特曼偷笑太早

返回网易首页 下载网易新闻客户端
相关推荐
热点推荐
湖人签约亚当斯,詹姆斯力挺双塔组合即将成型

湖人签约亚当斯,詹姆斯力挺双塔组合即将成型

最美不过相遇
2025-06-06 13:39:25
二婚老伴的女儿要来家坐月子,我躲去儿子家,三天后他说:离婚吧

二婚老伴的女儿要来家坐月子,我躲去儿子家,三天后他说:离婚吧

堇色夜行
2025-06-05 10:32:20
重庆轨道10号线不延伸至巴南区,官方给出原因!

重庆轨道10号线不延伸至巴南区,官方给出原因!

看秋月春风
2025-06-06 16:27:44
俄罗斯若真敢发射一枚核武器会怎样?

俄罗斯若真敢发射一枚核武器会怎样?

荆楚寰宇文枢
2025-06-05 23:55:17
马英九:若大陆统一台湾的手段不和平,过程不民主,台湾人不接受

马英九:若大陆统一台湾的手段不和平,过程不民主,台湾人不接受

红色鉴史官
2025-04-11 20:15:02
董卿:男人要是提出离婚,往往是他已经不喜欢她的妻子了;女人要是提出离婚,往往是她丈夫已经不喜欢她了

董卿:男人要是提出离婚,往往是他已经不喜欢她的妻子了;女人要是提出离婚,往往是她丈夫已经不喜欢她了

LULU生活家
2025-04-20 18:01:04
俄罗斯顶级航空专家,放弃一切“回”中国,其祖父是我国开国元勋

俄罗斯顶级航空专家,放弃一切“回”中国,其祖父是我国开国元勋

苏星河
2025-05-27 21:48:15
全球首个满级QQ即将诞生:目前255级 活跃天数超182年

全球首个满级QQ即将诞生:目前255级 活跃天数超182年

TechWeb
2025-06-06 09:50:06
国足世预赛:无缘世界杯后,球迷低价抛售球票

国足世预赛:无缘世界杯后,球迷低价抛售球票

封面新闻
2025-06-06 18:02:07
特朗普请求普京不要用核武器反击乌克兰,普京没答应

特朗普请求普京不要用核武器反击乌克兰,普京没答应

彼得堡的肥天鹅
2025-06-05 22:06:42
美媒彭博社狂吹杨瀚森!价值超越状元大热门弗拉格!

美媒彭博社狂吹杨瀚森!价值超越状元大热门弗拉格!

田先生篮球
2025-06-05 14:48:38
中国正考虑最快下月订购数百架空客飞机!难道C919的量产有问题?

中国正考虑最快下月订购数百架空客飞机!难道C919的量产有问题?

翻开历史和现实
2025-06-05 12:08:52
不到72小时,黄杨钿甜再迎3个噩耗,网友:这下麻烦更大了

不到72小时,黄杨钿甜再迎3个噩耗,网友:这下麻烦更大了

界史
2025-06-04 16:16:13
菲律宾回过神来:不仅是仁爱礁和黄岩岛,连中业岛东大也要收回来

菲律宾回过神来:不仅是仁爱礁和黄岩岛,连中业岛东大也要收回来

阿龙聊军事
2025-06-05 17:40:15
2字已删除,台当局对陆称呼变了,蔡正元预言结局,大陆派出军机

2字已删除,台当局对陆称呼变了,蔡正元预言结局,大陆派出军机

暖心的小屋
2025-05-17 13:48:34
吉林和龙一村民偶遇黑熊,向其吹口哨打招呼,文旅局:属景点未开发区域,会发布公告提醒

吉林和龙一村民偶遇黑熊,向其吹口哨打招呼,文旅局:属景点未开发区域,会发布公告提醒

极目新闻
2025-06-06 13:58:34
为什么左翼思想在年轻人中如此受欢迎?

为什么左翼思想在年轻人中如此受欢迎?

熊倌儿
2025-06-05 10:22:42
最后2分半落后雷霆9分又如何?请用四个字来形容本场比赛的步行者

最后2分半落后雷霆9分又如何?请用四个字来形容本场比赛的步行者

雷速体育
2025-06-06 11:18:11
巴铁媳妇娘家没钱交电费,让中国老公给三万块,老公回应大快人心

巴铁媳妇娘家没钱交电费,让中国老公给三万块,老公回应大快人心

王觪晓
2025-06-06 15:23:31
当着全球的面,巴基斯坦代表团
承认曾锁定20架印度军机没全打?

当着全球的面,巴基斯坦代表团 承认曾锁定20架印度军机没全打?

大道无形我有型
2025-06-04 18:41:38
2025-06-06 19:24:49
新智元 incentive-icons
新智元
AI产业主平台领航智能+时代
12826文章数 66059关注度
往期回顾 全部

科技要闻

鸿蒙折叠电脑首批售罄,现货黄牛加价2000

头条要闻

盘点中国十大毒蛇:榜首致死率超65% 银环蛇位居次席

体育要闻

苏超红红火火,国足继续下沉

娱乐要闻

章子怡新造型惊到我!国际章突破形象

财经要闻

娃哈哈“体外”迷局待解

汽车要闻

新增两款专属车色 奇瑞艾瑞泽8 PRO 2.0T官图发布

态度原创

健康
数码
亲子
公开课
军事航空

减重专家破解减肥九大谣言!

数码要闻

华为MateBook Fold深度体验:史上最特别,PC大革命?

亲子要闻

#跳跳猪 #宝宝玩具 #哄娃神器 #自己玩的不亦乐乎 #萌娃

公开课

李玫瑾:为什么性格比能力更重要?

军事要闻

中方对恐怖分子编入叙政府军表关切