网易首页 > 网易号 > 正文 申请入驻

马斯克官宣Grok 3预训练完成,计算量比Grok 2提升10倍

0
分享至

马斯克的 xAI 及其 Grok 模型正在快马加鞭地发展。

当地时间 1 月 4 日,马斯克在推特官宣 Grok 3 预训练已经完成,将在不久的将来推出。

据称,Grok 3 在训练过程调用了 10 万个 Nvidia H100 芯片,较前代产品 Grok 2 使用的 15,000 个 GPU 实现了数倍的跨越式提升。


图丨相关推文(来源:X)

马斯克对 Grok 3 寄予厚望,称其发布时“应该成为当时世界上最强大的AI”。

根据 xAI 工程师团队发布的技术文档,Grok 3 在多个关键领域实现了技术突破。在视觉分析方面,新模型具备快速图像解析能力,可应用于医疗影像和工业检测等专业场景。知识处理系统整合了涵盖科学、人文等多个领域的专业知识库,通过系统化的组织和关联分析提供专业解答。

新模型还通过与 X 平台的对接实现了实时数据获取,可持续追踪网络和社交媒体信息。在复杂问题处理方面,工程团队优化了数学计算和代码分析等技术难题的解决能力。这些改进建立在对模型基础架构的优化基础之上。

为了支撑 Grok 庞大的训练规模,xAI 在田纳西州孟菲斯建立了代号 Colossus 的超级计算机集群。据称,该设施仅用 122 天就完成初期建设,目前已部署 10 万个 NVIDIA GPU。


图丨Colossus 数据中心(来源:xAI)

且 xAI 计划将其规模扩大至少 10 倍,部署多达 100 万个 GPU。若达成这一目标,Colossus 将远超当前世界最强大的超级计算机 El Capitan(配备约 4.38 万个 AMD Instinct MI300A GPU)和 Frontier(约 3.8 万个 GPU)的总和。

xAI 的雄心得到了资本市场的强力支持。2024 年 12 月 24 日,公司宣布完成 600 亿美元融资,投资方包括贝莱德、富达和红杉资本等。这笔资金使 xAI 估值达到 400 亿美元,较年初的 240 亿美元显著提升。迄今为止,xAI 已累计筹集超过 120 亿美元资金。对于如此大手笔的融资,马斯克给出了简单而直接的解释:“我们需要大量的算力。”

不过,和其他旗舰模型类似,Grok 3 的训练过程并非一帆风顺。此前有媒体爆料称,Grok 3 在训练过程中“发生了灾难性事件”。尽管这一消息被迅速辟谣,但还是在业界引起了不小的震动。

原定于2024 年底的发布计划也未能如期实现。在接受知名播客主持人 Lex Fridman 采访时,马斯克坦言,能在预期时间内发布Grok 3“需要运气”。

而在此之前,xAI 可能会先推出过渡版本 Grok 2.5。


图丨相关推文(来源:X)

另一方面,在等待 Grok 3 到来的这段时间里,xAI 动作频频,采取了一系列重要举措来扩大其市场影响力。

2024 年 11 月,xAI 推出了 Grok 应用程序编程接口(API)的第一个公开测试版,正式允许开发者使用该模型构建应用程序。

12 月初,xAI 调整了其服务策略,开放 Grok 至所有 X 平台用户。免费用户每两小时可获得 10 条消息配额,每天可进行 4 次图像生成和 3 次图像分析。借助这一策略,xAI 正在寻求扩大其用户基础。

在技术层面,Grok 也在持续进化。近期,模型新增了图像分析功能,应用范围涵盖医疗检测记录解读、视频游戏画面分析等多个领域。同时发布的 Aurora 图像生成模型采取了较为开放的政策,不同于行业主流做法,允许生成公众人物图像并支持使用受版权保护的素材,这或将帮助 xAI 在竞争激烈的市场中去的一些差异化优势。


图丨Grok 图像生成(来源:xAI)

作为一家成立仅一年多的年轻公司,xAI 的发展速度属实惊人,但同时也面临诸多挑战。

一方面,Colossus 超算中心极速的扩张计划引发了环保方面的争议。南方环境法律中心指出,xAI 在未获得必要许可的情况下运营燃气轮机,这一做法涉嫌违反联邦法律。该机构指控道,这些涡轮机的运行正在对南孟菲斯地区的家庭造成显著的空气污染危害。相关活动人士也对其展开了抗议。

另一方面,相比于人才储备充足的科技巨头,xAI 的团队规模相对精简,这可能会在某种程度上影响开发进度。不过,小而精的团队结构也可能带来更高的创新效率和决策灵活性,这种优势或许能帮助 xAI 在特定领域实现突破。


图丨xAI 团队(来源:xAI)

随着 Grok 3 预训练的完成,这个由巨量 GPU 训练成的模型或许很快就会揭开面纱。它的发布不仅将检验超大规模训练的效果,也将为整个 AI 行业的发展方向提供重要的实践参考。如果 Grok 3 能够展现出预期的卓越性能,这或许意味着通过提升算力规模来推动 AI 进步的技术路径仍然可行。

参考资料:

1.https://x.com/elonmusk/status/1875357350393246114

2.https://x.com/elonmusk/status/1815341263102804072

3.https://x.com/MarioNawfal/status/1875341634440728892

4.https://techcrunch.com/2025/01/02/xais-next-gen-grok-model-didnt-arrive-on-time-adding-to-a-trend/

5.https://www.heise.de/en/news/AI-chatbot-Grok-available-as-standalone-iOS-app-in-first-countries-10223161.html

6.https://www.nytimes.com/2024/12/24/technology/elon-musk-xai-funding.html

运营/排版:何晨龙

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
热搜!刘强东给自己小学老师每人发10万元现金红包,60岁以上老人发1万元!当年全村凑76个茶叶蛋和500元送他上大学

热搜!刘强东给自己小学老师每人发10万元现金红包,60岁以上老人发1万元!当年全村凑76个茶叶蛋和500元送他上大学

每日经济新闻
2025-01-07 19:56:40
正式退出,欧文做出选择,官宣决定,独行侠批准,东契奇祝福

正式退出,欧文做出选择,官宣决定,独行侠批准,东契奇祝福

东球弟
2025-01-07 10:59:50
香港黑老大李泰龙在街上被当场砍死,知情人:惹了不该惹的人

香港黑老大李泰龙在街上被当场砍死,知情人:惹了不该惹的人

纸鸢奇谭
2025-01-04 22:32:12
今天宣布特朗普当选的人,令美媒唏嘘

今天宣布特朗普当选的人,令美媒唏嘘

环球时报国际
2025-01-07 00:22:16
反转!演员王星进入园区是假消息!业内斥徐大久胡说,曝光实情!

反转!演员王星进入园区是假消息!业内斥徐大久胡说,曝光实情!

古希腊掌管月桂的神
2025-01-06 13:50:58
美研究报告:用户在TikTok上花的时间越多,越接受支持中国的观点

美研究报告:用户在TikTok上花的时间越多,越接受支持中国的观点

观察者网
2025-01-07 17:08:15
美媒:天塌了!中方敢在通告上加这句话,事情要比想象中严重得多

美媒:天塌了!中方敢在通告上加这句话,事情要比想象中严重得多

小波股事历程
2025-01-07 09:49:42
仅一夜,7换1交易诞生,快船组三巨头豪阵,这让其他队怎么打

仅一夜,7换1交易诞生,快船组三巨头豪阵,这让其他队怎么打

青山隐隐啊
2025-01-07 12:35:07
肥娟小吃1月6日营业额2472元,有人进店就说罚款,湛江文旅一年白干

肥娟小吃1月6日营业额2472元,有人进店就说罚款,湛江文旅一年白干

小淇言说
2025-01-07 00:47:09
张颂文事件又有反转?人民日报下场,曝瓜当事人道歉,姜尘还嘴硬

张颂文事件又有反转?人民日报下场,曝瓜当事人道歉,姜尘还嘴硬

喜欢农家生活的阿律
2025-01-08 03:24:20
日本执政党代表团将访华

日本执政党代表团将访华

新京报
2025-01-07 11:16:14
尺度逆天!生日节目变脱衣舞俱乐部 阿里纳斯直接塞钱进

尺度逆天!生日节目变脱衣舞俱乐部 阿里纳斯直接塞钱进

直播吧
2025-01-07 14:28:17
演员王星有救了!潮汕商会杨会长隔空喊话:妙瓦底各园区请留意

演员王星有救了!潮汕商会杨会长隔空喊话:妙瓦底各园区请留意

垛垛糖
2025-01-07 11:25:13
访韩第二天,布林肯就尹锡悦事件表态,得到指示后,首尔做出决断

访韩第二天,布林肯就尹锡悦事件表态,得到指示后,首尔做出决断

影孖看世界
2025-01-07 19:42:19
国家发改委:各地区不得突破国家规定的红线底线违规实施税费等方面的招商引资优惠政策

国家发改委:各地区不得突破国家规定的红线底线违规实施税费等方面的招商引资优惠政策

证券时报
2025-01-07 11:16:09
西藏定日县发生6.8级地震,巴俄韩美等多国表示慰问

西藏定日县发生6.8级地震,巴俄韩美等多国表示慰问

环球网资讯
2025-01-07 22:08:15
塞班岛赌王纪晓波覆灭:吴佩慈6年给他生四个孩子,五胎奖励50亿

塞班岛赌王纪晓波覆灭:吴佩慈6年给他生四个孩子,五胎奖励50亿

易玄
2024-11-19 17:53:39
底薪加盟湖人,接受老詹邀请!1年300万美金,你却又要被交易了

底薪加盟湖人,接受老詹邀请!1年300万美金,你却又要被交易了

肖语谈
2025-01-08 00:43:30
刚刚确认!上海又将新建2座高铁站,位置定了

刚刚确认!上海又将新建2座高铁站,位置定了

上观新闻
2025-01-07 21:48:17
澳网最新战报!中国金花喜忧参半,2人出局2人晋级郑钦文首秀敲定

澳网最新战报!中国金花喜忧参半,2人出局2人晋级郑钦文首秀敲定

曹说体育
2025-01-07 22:15:18
2025-01-08 07:28:49
DeepTech深科技 incentive-icons
DeepTech深科技
麻省理工科技评论独家合作
14680文章数 513154关注度
往期回顾 全部

科技要闻

黄仁勋化身"美国队长" 发布RTX 50系列显卡

头条要闻

男子称到银行取现2.9万遭报警排查来源用途 银行回应

头条要闻

男子称到银行取现2.9万遭报警排查来源用途 银行回应

体育要闻

奥运冠军强强联合!郑钦文将搭档德约科维奇,出战澳网表演赛

娱乐要闻

星星缅北照片公开:眼神空洞表情恐惧

财经要闻

中共中央、国务院:大力发展养老金融

汽车要闻

10万元级无图智驾 悦也PLUS全路况实测

态度原创

亲子
数码
家居
公开课
军事航空

亲子要闻

你永远猜不到萌娃下一秒会做出什么事!兔子:不是在喂我吗?

数码要闻

雷鸟V3 AI拍摄眼镜正式发布 搭载通义千问定制大模型

家居要闻

简约大气 居心之所

公开课

李玫瑾:为什么性格比能力更重要?

军事要闻

朝鲜成功试射新型高超音速中远程弹道导弹

无障碍浏览 进入关怀版