网易首页 > 网易号 > 正文 申请入驻

AI领域新进展:自动化所联合清华北大提出具有内生复杂性的类脑计算方法

0
分享至

中国日报8月18日电 构建更加通用的人工智能,让模型具有更加广泛和通用的认知能力,是当前人工智能(AI)领域发展的重要目标。目前流行的大模型路径是基于Scaling Law(尺度定律)去构建更大、更深和更宽的神经网络,可称之为"基于外生复杂性"的通用智能实现方法。这一路径面临着计算资源及能源消耗难以为继、可解释性不足等问题。中国科学院自动化研究所李国齐、徐波研究团队联合清华大学、北京大学等借鉴大脑神经元复杂动力学特性,提出了"基于内生复杂性"的类脑神经元模型构建方法,改善了传统模型通过向外拓展规模带来的计算资源消耗问题,为有效利用神经科学发展人工智能提供了示例。

本研究首先展示了脉冲神经网络神经元LIF(Leaky Integrate and Fire)模型和HH(Hodgkin-Huxley)模型[ HH神经元模型,全称为Hodgkin-Huxley模型,由英国生理学家Alan Hodgkin和Andrew Huxley在1952年基于鱿鱼巨型轴突的电生理实验数据提出,用以描述神经脉冲的产生和传导,并因此获得了1963年的诺贝尔医学或生理学奖。该模型是一组描述神经元细胞膜电生理现象的非线性微分方程,直接反映了细胞膜上离子通道的开闭情况及其与膜电位变化之间的关系。HH模型是神经科学领域中的一个重要里程碑,它首次从分子水平上解释了动作电位的产生机制,为后续神经元电生理研究奠定了基础。

]在动力学特性上存在等效性,进一步从理论上证明了HH神经元可以和四个具有特定连接结构的时变参数LIF神经元(tv-LIF)动力学特性等效。基于这种等效性,团队通过设计微架构提升计算单元的内生复杂性,使HH网络模型能够模拟更大规模LIF网络模型的动力学特性,在更小的网络架构上实现与之相似的计算功能。进一步,团队将由四个tv-LIF神经元构建的"HH模型"(tv-LIF2HH)简化为s-LIF2HH模型,通过仿真实验验证了这种简化模型在捕捉复杂动力学行为方面的有效性。

实验结果表明HH网络模型和s-LIF2HH网络模型在表示能力和鲁棒性上具有相似的性能,验证了内生复杂性模型在处理复杂任务时的有效性和可靠性。同时,研究发现HH网络模型在计算资源消耗上更为高效,显著减少了内存和计算时间的使用,从而提高了整体的运算效率。研究团队通过信息瓶颈理论对上述研究结果进行了解释。

本研究为将神经科学的复杂动力学特性融入人工智能提供了新的方法和理论支持,为实际应用中的AI模型优化和性能提升提供了可行的解决方案。目前,研究团队已开展对更大规模HH网络,以及具备更大内生复杂性的多分支多房室神经元的研究,有望进一步提升大模型计算效率与任务处理能力,实现在实际应用场景中的快速落地。

该工作发表在《Nature Computational Science》,共同通讯作者是中国科学院自动化所李国齐研究员、徐波研究员,北京大学田永鸿教授。共同一作是清华大学钱学森班的本科生何林轩(自动化所实习生),数理基科班本科生徐蕴辉(自动化所实习生),清华大学精仪系博士生何炜华和林逸晗。

来源:中国日报网

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
国内用了脱酸剂的砂糖橘,你还敢吃吗?《Nature》证实果糖会“滋养”癌症

国内用了脱酸剂的砂糖橘,你还敢吃吗?《Nature》证实果糖会“滋养”癌症

回旋镖
2024-12-22 14:09:29
英超:曼联0-3伯恩茅斯!近6场输掉4场,加纳乔失单刀+B费失良机

英超:曼联0-3伯恩茅斯!近6场输掉4场,加纳乔失单刀+B费失良机

侃球熊弟
2024-12-22 23:31:00
硬碰硬!计划加920%关税!美国抄中国打法是吧?有本事就硬到底…

硬碰硬!计划加920%关税!美国抄中国打法是吧?有本事就硬到底…

魏家东
2024-12-22 10:03:23
最新消息!已坠毁

最新消息!已坠毁

FM93浙江交通之声
2024-12-22 23:50:32
3艘094同时上浮,西方卫星拍下,令美国人压力倍增的一幕

3艘094同时上浮,西方卫星拍下,令美国人压力倍增的一幕

空天力量
2024-12-22 10:47:43
美国教授泰勒.考恩:我去过100多国家,印度的食物是世界上最好的

美国教授泰勒.考恩:我去过100多国家,印度的食物是世界上最好的

蜉蝣说
2024-12-22 15:20:22
姆巴佩MVP!力压巴塞罗那,皇马狂进4球,传奇谢幕:全场起立鼓掌

姆巴佩MVP!力压巴塞罗那,皇马狂进4球,传奇谢幕:全场起立鼓掌

话体坛
2024-12-23 02:01:10
惊险!列车被塔吊击中,上海地铁紧急道歉,网友:还好不是工作日

惊险!列车被塔吊击中,上海地铁紧急道歉,网友:还好不是工作日

娱官儿
2024-12-22 16:15:52
南方都市报:“短视频崛起导致全民弱智”相关言论并非出自郑永年

南方都市报:“短视频崛起导致全民弱智”相关言论并非出自郑永年

IPP评论
2024-12-22 20:48:33
英媒爆:波兰总统呼吁没收价值2600亿欧元俄资产用于援乌,朔尔茨当场怒吼反对

英媒爆:波兰总统呼吁没收价值2600亿欧元俄资产用于援乌,朔尔茨当场怒吼反对

环球网资讯
2024-12-22 12:34:31
大反转!拜登最后一刻签署法案,删除所有对中国不利条款

大反转!拜登最后一刻签署法案,删除所有对中国不利条款

头条爆料007
2024-12-22 14:06:19
我发现那些父母都有退休金的家庭,基本上都会有以下这四种现状

我发现那些父母都有退休金的家庭,基本上都会有以下这四种现状

小鹿姐姐情感说
2024-12-22 23:12:36
一内地游客香港买花胶,店员切片后单价由斤变两,被宰2.64万港元

一内地游客香港买花胶,店员切片后单价由斤变两,被宰2.64万港元

风语励志情
2024-12-21 20:00:32
雷蒙多承认:遏制中国技术进步“徒劳无益”

雷蒙多承认:遏制中国技术进步“徒劳无益”

参考消息
2024-12-22 18:55:09
外媒:特朗普上任首日拟退出世卫组织

外媒:特朗普上任首日拟退出世卫组织

参考消息
2024-12-22 21:24:50
黑龙江一企业回应“春节前禁止员工到冰雪大世界游玩”:属实,门票紧张,希望员工错开旅游时间

黑龙江一企业回应“春节前禁止员工到冰雪大世界游玩”:属实,门票紧张,希望员工错开旅游时间

极目新闻
2024-12-22 16:48:41
马斯克被曝闯入特朗普和贝索斯晚宴,本人回应“联席总统”说法:民主党试图离间我们

马斯克被曝闯入特朗普和贝索斯晚宴,本人回应“联席总统”说法:民主党试图离间我们

红星新闻
2024-12-22 19:28:34
产妇在家生子开出生证明被拒? 多部门积极介入

产妇在家生子开出生证明被拒? 多部门积极介入

南方都市报
2024-12-21 08:48:06
闹掰了!瓜达尔港的民众抗议:要钱不要港!

闹掰了!瓜达尔港的民众抗议:要钱不要港!

小企鹅侃世界
2024-12-22 22:40:29
多图直击上海地铁遭塔吊侵入抢修现场:受损列车尚未驶离

多图直击上海地铁遭塔吊侵入抢修现场:受损列车尚未驶离

南方都市报
2024-12-22 14:19:32
2024-12-23 04:03:00
中国日报网 incentive-icons
中国日报网
网站及本账号运营主体为中报国际文化传媒(北京)有限公司。
311325文章数 387988关注度
往期回顾 全部

科技要闻

售价78.80万元起,蔚来高端行政车ET9上市

头条要闻

上海女子忍无可忍报警:家里被灌进70斤胶水 要价2万

头条要闻

上海女子忍无可忍报警:家里被灌进70斤胶水 要价2万

体育要闻

逆潮流而行!灰熊已成NBA最另类球队

娱乐要闻

赵丽颖化淡妆、唐嫣戴帽子,相差4岁状态不一样

财经要闻

山姆,又出事!网友:太吓人

汽车要闻

直面78S挑战 蔚来ET9售价66万元起

态度原创

游戏
时尚
本地
艺术
军事航空

Epic喜加一:《传说法师》免费领取

“非正式”学院风,还得看朴彩英

本地新闻

好吃潮州|潮州腐乳饼,咸甜党都沦陷了

艺术要闻

故宫珍藏的墨迹《十七帖》,比拓本更精良,这才是地道的魏晋写法

军事要闻

扎哈罗娃:乌克兰无人机袭击俄罗斯喀山系报复

无障碍浏览 进入关怀版