网易首页 > 网易号 > 正文 申请入驻

AI 大模型遇阻,ChatGPT 们能否打破 “停滞诅咒”?

0
分享至

以ChatGPT 为首的这些人工智能聊天机器人,真的像我们想象的那么聪明吗?

大模型不会有更好的结果?

近年来,AI领域的发展可谓如火如荼。以ChatGPT为代表的聊天机器人,以其强大的自然语言处理能力,赢得了广泛的关注和赞誉。然而,随着技术的深入发展,一些质疑声也开始出现。

Salesforce的首席执行官马克·贝尼奥夫(Marc Benioff)就是其中之一。他认为,自主代理(AI智能体)才是AI发展的真正方向,而非当前用于训练ChatGPT等聊天机器人的大型语言模型(LLM)。他警告说:“我们可能已经接近LLM的技术上限。”马克·贝尼奥夫提到,近年来社会对ChatGPT的热潮让许多人错误高估AI的能力,他们从而会认为大语言模型是推动AI发展的核心动力。

事实上,自ChatGPT发布之后,尽管AI聊天机器人如雨后春笋般涌现,但真正能够突破技术瓶颈的产品却寥寥无几。早在今年9月,硅谷技术圈就一直流传GPT-5内部测试失败的消息,称基于Transformer的GPT类模型已经进入了扩展瓶颈,除了聊天和一些工作流辅助类应用外,很难全面应用于市场,而这些GPT-4已经足够支撑。原有架构再升级短期内很难有质的突破。


图片来源:摄图网

这些瓶颈不仅限于模型自身架构的扩展能力,还包括数据瓶颈、安全和伦理需求的应对瓶颈,以及因应用局限带来的市场需求本身的瓶颈。

美国信息网援引OpenAI内部员工的话称,该公司一些研究人员认为,下一个旗舰AI模型Orion“在处理特定任务方面不一定优于前一版本”。彭博新闻社援引匿名消息人士的话称,Orion“没有达到标准”,而且“到目前为止,人们认为它相对OpenAI现有模型取得的进步不如GPT-4对GPT-3.5的进步那么大”。

路透社的报道进一步证实了这一困境。据报道,“据三名知情人士透露,各大AI实验室的研究人员力争发布一款性能超过GPT-4模型的大语言模型,但进度一拖再拖,取得的结果也令人失望。而GPT-4模型已经推出了近两年”。此外,路透社还援引今年5月离开OpenAI的联合创始人伊利亚·苏茨克韦尔的话说:“本世纪10年代是规模迅速扩张的时代,而现如今,我们又回到了惊奇与发现的时代。每个人都在寻找下一个突破点。”苏茨克韦尔还说:“找对扩张方向比以往任何时候都更重要。”

就连曾积极看好AI发展的风险投资家马克·安德烈森也在播客上表示,现有模型在能力方面已撞上类似的天花板。

众多看好AI的人表示,根据目前发布的产品来看,我们可能已经来到一个转折点。美国投资集团D.A.戴维森公司的常务董事吉尔·卢里亚说:“我们已经有一段时间没看到突破性模式了。部分原因是我们已经用完人类全部数据,对同样的数据进行更多计算可能不会带来更好的结果。”

AI的瓶颈到底在哪儿?

从技术与应用层面来看,AI的发展确实遇到了一些挑战。智源研究院院长王仲远在近期接受的采访中表示,大模型技术已经开始发挥作用并转化成生产力了。比如,利用相关技术开发各种各样的效率型工具,用于会议纪要、生成图像素材进行广告投放、辅助设计师创意工作等。但是,当前对人工智能能力的感知还局限于部分领域。“我们一直希望C端AI‘杀手级’应用能够出现,但目前还需要继续提升基座模型的能力,进一步解决‘AI幻觉’等问题。”

从市场层面来看,AI的发展同样面临着一些挑战。随着越来越多的企业和机构涌入AI领域,市场竞争变得异常激烈。这不仅使得企业难以在市场中脱颖而出,还可能导致资源的浪费和重复建设。

有观点认为,国内的百模大战,事实上已经造成了对社会资源的“巨大浪费”。一开始,各个科技大厂和AI公司为了抢跑,都在和GPT比能力、秀肌肉。但在头部大模型格局已经形成的背景下,这种竞争是否还能带来实质性的技术进步和创新?

或许,正如周鸿祎所言,现在是时候多关心明星场景和“超级应用”了。


图片来源:摄图网

DA Davidson分析师Gil Luria(卢里亚)在近期表示,“就上季度和本季度对英伟达(产品)的需求而言,毫无疑问,需求已经超过了其供应能力。”但如果我们真的遇到了尺度瓶颈,“可能意味着拥有超高市值的科技企业进行了过度投资”,它们可能在不久的将来缩减规模。

据BusinessInsider 11月27日报道,AI技术的进步正在放缓,大模型性能提升瓶颈、训练数据短缺、训练数据质量问题、推理能力提升遇阻等是这一领域面临的主要困境。然而,以OpenAI、谷歌等为主的几家头部公司却坚称,AI并没有遇到所谓的“壁垒”和“瓶颈”。

OpenAI的首席执行官Sam Altman是首批发声的人之一,他在社交平台“X”上称:“根本没有瓶颈。”Anthropic和英伟达的CEO也表示,AI的进步并未放缓。

当下,包括Marc Andreessen在内的一些人士质疑,AI模型的性能提升并不显著,且趋于同质化。对于科技行业来说,这是一个价值数万亿美元的问题,如果现有的AI模型训练方法回报递减,那么可能会影响到新创企业、产品以及数据中心的投资热潮。

据BusinessInsider梳理,AI领域广泛面临的困境包括训练数据枯竭、性能提升遇阻等问题。在AI研发的早期阶段,企业可能会遭遇两个主要瓶颈:计算能力和训练数据。首先,获取专用芯片(如GPU)的能力有限,影响大模型训练。其次,训练数据的瓶颈逐渐显现,互联网上公开可用的数据资源已经逐渐枯竭。研究机构Epoch AI预测,到2028年,能够用于训练的数据可能会耗尽。

数据质量也成为一大问题。过去研究人员可以在预训练阶段对数据质量要求不高,但现在需要更加关注数据的质量,而不仅仅是数量。而推理能力的提升和突破被认为是AI发展的下一个关键方向。

在这种情况下,寻找下一个突破点成为了AI发展的关键。OpenAI前首席科学家Ilya Sutskever上个月对媒体表示,模型在预训练阶段的规模扩展已经达到平台期,且“大家都在寻找下一个突破”。

你认为AI行业当下的破局点在哪?

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
英超:曼联0-2不敌阿森纳!阿莫林执教首败,廷贝尔+萨利巴皆破门

英超:曼联0-2不敌阿森纳!阿莫林执教首败,廷贝尔+萨利巴皆破门

侃球熊弟
2024-12-05 05:54:56
韩国6小时戒严,被无知者嘲笑

韩国6小时戒严,被无知者嘲笑

难得君
2024-12-04 17:16:12
上海与台北宣布重磅信息,郭正亮:应提醒陆生不要讲“中国台北”

上海与台北宣布重磅信息,郭正亮:应提醒陆生不要讲“中国台北”

历史阿务
2024-12-05 09:21:57
中国留学生在美国用暗号隐晦写差评,餐厅评论区瞬间沦陷,歪果仁看懵了

中国留学生在美国用暗号隐晦写差评,餐厅评论区瞬间沦陷,歪果仁看懵了

北美省钱快报
2024-12-05 07:19:14
网友算了笔账:假如孩子上国际学校,12年要花540万,若出国留学至少要准备1000万!

网友算了笔账:假如孩子上国际学校,12年要花540万,若出国留学至少要准备1000万!

西虹市闲话
2024-12-04 21:16:13
文在寅退休后,每月1400万韩元退休金,配65名警卫,他为何能善终

文在寅退休后,每月1400万韩元退休金,配65名警卫,他为何能善终

欲知
2024-12-03 20:57:15
3-1横扫打哭日本张本美和,混合团体世界杯:中国队4连胜誓夺冠军

3-1横扫打哭日本张本美和,混合团体世界杯:中国队4连胜誓夺冠军

全能体育柳号
2024-12-05 06:43:45
余承东也无奈,雷军:智能手机时代已结束,国际上只有苹果和三星

余承东也无奈,雷军:智能手机时代已结束,国际上只有苹果和三星

蜉蝣说
2024-12-03 16:18:18
保险公司回应“10年交23万保费取钱还要等60年”:无营销员误导证据,难退全款 律师解读

保险公司回应“10年交23万保费取钱还要等60年”:无营销员误导证据,难退全款 律师解读

红星新闻
2024-12-04 22:00:18
17岁云南女生 “没病做手术离世”?家属回应:确诊先心病,三家医院都建议手术|云辟谣

17岁云南女生 “没病做手术离世”?家属回应:确诊先心病,三家医院都建议手术|云辟谣

封面新闻
2024-12-04 22:46:22
普京:俄罗斯从未拒绝使用美元

普京:俄罗斯从未拒绝使用美元

界面新闻
2024-12-04 21:50:56
1-2爆冷,皇马轰然倒下,姆巴佩罚丢点球,贝林厄姆发威难救主

1-2爆冷,皇马轰然倒下,姆巴佩罚丢点球,贝林厄姆发威难救主

侧身凌空斩
2024-12-05 05:56:12
唐嫣拍新戏戴假发被骂不敬业!网友:看起来好假,不能剪短就别演

唐嫣拍新戏戴假发被骂不敬业!网友:看起来好假,不能剪短就别演

校长侃财
2024-12-05 09:35:20
80部剧,超10亿版权费,“言情教母”走了

80部剧,超10亿版权费,“言情教母”走了

中国企业家杂志
2024-12-04 22:07:15
国足新归化呼之欲出!后者发文:中国、中国,回家,球迷:挺帅

国足新归化呼之欲出!后者发文:中国、中国,回家,球迷:挺帅

侧身凌空斩
2024-12-05 09:23:02
买彩票中2.25亿男子已兑奖,缴纳个人所得税人民币45094008元

买彩票中2.25亿男子已兑奖,缴纳个人所得税人民币45094008元

封面新闻
2024-12-04 12:53:53
“第2个深圳”诞生!已晋升为特大城市,3年GDP目标突破3万亿!

“第2个深圳”诞生!已晋升为特大城市,3年GDP目标突破3万亿!

老鹈爱历史
2024-12-04 17:52:07
6小时“戒严闹剧”将如何收场?美韩关系面临考验,尹锡悦“高尔夫外交”计划恐泡汤

6小时“戒严闹剧”将如何收场?美韩关系面临考验,尹锡悦“高尔夫外交”计划恐泡汤

红星新闻
2024-12-04 17:45:21
长沙男子在上海花300多万买房4年后得知是凶宅,我爱我家:原房主隐瞒

长沙男子在上海花300多万买房4年后得知是凶宅,我爱我家:原房主隐瞒

环球网资讯
2024-12-04 22:01:06
达成一致!5年1.75亿美元!勇士垃圾合同诞生,波杰是科尔亲儿子

达成一致!5年1.75亿美元!勇士垃圾合同诞生,波杰是科尔亲儿子

张家大院趣说天下事
2024-12-05 09:45:02
2024-12-05 12:31:00
未来图灵
未来图灵
在这里每个人都能读懂人工智能
873文章数 2485关注度
往期回顾 全部

科技要闻

美国加大制裁之时 中国半导体出口破万亿

头条要闻

牛弹琴:尹锡悦政治生命已基本结束 可能比朴槿惠更惨

头条要闻

牛弹琴:尹锡悦政治生命已基本结束 可能比朴槿惠更惨

体育要闻

哈登,我不做大哥好多年

娱乐要闻

琼瑶尸检结果:一氧化碳中毒窒息而亡

财经要闻

代表青春的人人网,怎么“又”凉了?

汽车要闻

表现够全能 柴油版二代哈弗H9或许更适合家用

态度原创

艺术
亲子
家居
健康
教育

艺术要闻

故宫珍藏的墨迹《十七帖》,比拓本更精良,这才是地道的魏晋写法

亲子要闻

小孩哥轻轻松松爬上衣柜,小孩哥:运动一下,网友:这怎么做到手脚不打滑

家居要闻

舒适优雅 打造从容舒适的居家氛围

花18万治疗阿尔茨海默病,值不值?

教育要闻

动点定值问题,突破压轴题就四个字,胆大心细!

无障碍浏览 进入关怀版