网易首页 > 网易号 > 正文 申请入驻

苏州元脑智能科技申请显存页分配方法专利,解决大型语言模型计算效率问题

0
分享至

金融界2024年12月18日消息,国家知识产权局信息显示,苏州元脑智能科技有限公司申请一项名为“显存页分配方法、装置、计算机设备及存储介质”的专利,公开号 CN 119127506 A,申请日期为2024年9月。

专利摘要显示,本发明涉及计算机技术领域,公开了显存页分配方法、装置、计算机设备及存储介质,该方法包括:在接收到显存页请求的情况下,根据显存页请求确定显存页的目标数量;根据目标数量从空闲显存页表中确定预设数量个目标显存页组合,将预设数量个目标显存页组合中的空闲显存页分配给显存页请求,并更新空闲显存页表,其中,空闲显存页表用于确定空闲显存页,目标显存页组合包含若干连续的空闲显存页。本发明解决了从分配的显存页读取键值缓存时,需要手动修改内核代码进行多次分段读取,影响大型语言模型的计算效率的问题。

本文源自:金融界

作者:情报员

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
毕业半年逆袭人生,上海买房开宝马,25岁东方卫视新晋一姐不简单

毕业半年逆袭人生,上海买房开宝马,25岁东方卫视新晋一姐不简单

容景谈
2024-12-21 16:57:58
张雪峰强烈劝退:这4个专业,“又累又穷”,毕业即失业!

张雪峰强烈劝退:这4个专业,“又累又穷”,毕业即失业!

华人星光
2024-12-22 12:14:07
一觉醒来,美国彻底不装了?特朗普突然喊话中国,火速传遍全球

一觉醒来,美国彻底不装了?特朗普突然喊话中国,火速传遍全球

傲气经说
2024-12-22 15:45:02
落叶归根!奥斯卡告别上海海港 时隔15年重回巴甲母队

落叶归根!奥斯卡告别上海海港 时隔15年重回巴甲母队

球事百科吖
2024-12-23 00:12:37
再见哈兰德!公开质疑瓜帅!拒绝续约,转投皇马,取代姆巴佩

再见哈兰德!公开质疑瓜帅!拒绝续约,转投皇马,取代姆巴佩

阿泰希特
2024-12-22 14:40:38
郑爽大手笔给儿子庆5岁生日!带男伴一同出席,儿子长得像妈妈

郑爽大手笔给儿子庆5岁生日!带男伴一同出席,儿子长得像妈妈

海盐有点甜
2024-12-21 20:34:55
湖北一养老院破旧不堪,窗户无玻璃,老人被反锁?民政局:会向上级反映

湖北一养老院破旧不堪,窗户无玻璃,老人被反锁?民政局:会向上级反映

黄河新闻网吕梁频道
2024-12-22 08:30:54
千金难买的短文(非常精辟)

千金难买的短文(非常精辟)

心情句子语录
2024-12-20 20:12:05
暴力扣杀一锤定音!朱婷把客场打成主场,领奖时欢呼声远超李盈莹

暴力扣杀一锤定音!朱婷把客场打成主场,领奖时欢呼声远超李盈莹

嘴炮体坛
2024-12-22 21:20:28
台湾内部已经全面台独了?不!回归统一才是正确的选择!

台湾内部已经全面台独了?不!回归统一才是正确的选择!

墨下
2024-12-21 16:53:18
终于来了,世界上第一个冷冻人已解冻,50年过去,他还能复活吗?

终于来了,世界上第一个冷冻人已解冻,50年过去,他还能复活吗?

听风者说
2024-12-18 21:27:45
汪小菲带女友坐飞机,路人视角照流出,马筱梅O型腿小菲成小矮人

汪小菲带女友坐飞机,路人视角照流出,马筱梅O型腿小菲成小矮人

古今历史记
2024-12-20 16:09:19
奇瑞汽车申请智界图形商标,车标 LOGO 曝光

奇瑞汽车申请智界图形商标,车标 LOGO 曝光

IT之家
2024-12-22 21:24:15
不顾央视警告顶风作案,与刘涛传出绯闻的杨烁,到底谁在给他撑腰

不顾央视警告顶风作案,与刘涛传出绯闻的杨烁,到底谁在给他撑腰

美食阿鳕
2024-12-23 00:34:25
阿萨德夫妇逃亡俄罗斯,财产公布震惊了全世界

阿萨德夫妇逃亡俄罗斯,财产公布震惊了全世界

涛哥锐评
2024-12-15 12:58:00
3200万,重签湖人!佩林卡赌对了,雷迪克苦苦寻求的答案已在阵中

3200万,重签湖人!佩林卡赌对了,雷迪克苦苦寻求的答案已在阵中

呆哥聊球
2024-12-22 22:53:29
确诊晚期,已全身转移!浙江女子懵了: 完全没感觉! 医生痛心:错过太多次机会

确诊晚期,已全身转移!浙江女子懵了: 完全没感觉! 医生痛心:错过太多次机会

FM93浙江交通之声
2024-12-21 16:16:00
最近看了一套房,房东22年买的期房,117平,一楼,花了300多万。

最近看了一套房,房东22年买的期房,117平,一楼,花了300多万。

人情皆文史
2024-12-22 03:53:00
罗德里戈本场数据:传射建功+2关键传球,评分8.5

罗德里戈本场数据:传射建功+2关键传球,评分8.5

直播吧
2024-12-23 00:57:48
简单,干练,微胖身材的完美模板!配上职业装更显魅力!

简单,干练,微胖身材的完美模板!配上职业装更显魅力!

人情皆文史
2024-11-23 00:59:29
2024-12-23 07:56:49
金融界 incentive-icons
金融界
投资者信赖的财经金融门户网站
4906886文章数 542789关注度
往期回顾 全部

科技要闻

GPT-5受阻,OpenAI成功为自己制造了危机

头条要闻

英媒称多名金融高官将随英财相访华:凸显此访的重要性

头条要闻

英媒称多名金融高官将随英财相访华:凸显此访的重要性

体育要闻

逆潮流而行!灰熊已成NBA最另类球队

娱乐要闻

赵丽颖化淡妆、唐嫣戴帽子,相差4岁状态不一样

财经要闻

山姆,又出事!网友:太吓人

汽车要闻

直面78S挑战 蔚来ET9售价66万元起

态度原创

教育
家居
游戏
亲子
数码

教育要闻

提醒!这两周千万别惹当妈的......

家居要闻

现代轻奢 新中式的和谐交响

魔兽怀旧服:正式官宣,TOC定档日期确定,奥杜尔装备值得买吗?

亲子要闻

我以为胡图图是来捣蛋的,没想到他真的帮上了忙,我终于终于终于拼好了! 杨雪呀

数码要闻

国产DDR5内存首次拆解:基本锁定来自长鑫

无障碍浏览 进入关怀版