以ChatGPT 为首的这些人工智能聊天机器人,真的像我们想象的那么聪明吗?
大模型不会有更好的结果?
近年来,AI领域的发展可谓如火如荼。以ChatGPT为代表的聊天机器人,以其强大的自然语言处理能力,赢得了广泛的关注和赞誉。然而,随着技术的深入发展,一些质疑声也开始出现。
Salesforce的首席执行官马克·贝尼奥夫(Marc Benioff)就是其中之一。他认为,自主代理(AI智能体)才是AI发展的真正方向,而非当前用于训练ChatGPT等聊天机器人的大型语言模型(LLM)。他警告说:“我们可能已经接近LLM的技术上限。”马克·贝尼奥夫提到,近年来社会对ChatGPT的热潮让许多人错误高估AI的能力,他们从而会认为大语言模型是推动AI发展的核心动力。
事实上,自ChatGPT发布之后,尽管AI聊天机器人如雨后春笋般涌现,但真正能够突破技术瓶颈的产品却寥寥无几。早在今年9月,硅谷技术圈就一直流传GPT-5内部测试失败的消息,称基于Transformer的GPT类模型已经进入了扩展瓶颈,除了聊天和一些工作流辅助类应用外,很难全面应用于市场,而这些GPT-4已经足够支撑。原有架构再升级短期内很难有质的突破。
图片来源:摄图网
这些瓶颈不仅限于模型自身架构的扩展能力,还包括数据瓶颈、安全和伦理需求的应对瓶颈,以及因应用局限带来的市场需求本身的瓶颈。
美国信息网援引OpenAI内部员工的话称,该公司一些研究人员认为,下一个旗舰AI模型Orion“在处理特定任务方面不一定优于前一版本”。彭博新闻社援引匿名消息人士的话称,Orion“没有达到标准”,而且“到目前为止,人们认为它相对OpenAI现有模型取得的进步不如GPT-4对GPT-3.5的进步那么大”。
路透社的报道进一步证实了这一困境。据报道,“据三名知情人士透露,各大AI实验室的研究人员力争发布一款性能超过GPT-4模型的大语言模型,但进度一拖再拖,取得的结果也令人失望。而GPT-4模型已经推出了近两年”。此外,路透社还援引今年5月离开OpenAI的联合创始人伊利亚·苏茨克韦尔的话说:“本世纪10年代是规模迅速扩张的时代,而现如今,我们又回到了惊奇与发现的时代。每个人都在寻找下一个突破点。”苏茨克韦尔还说:“找对扩张方向比以往任何时候都更重要。”
就连曾积极看好AI发展的风险投资家马克·安德烈森也在播客上表示,现有模型在能力方面已撞上类似的天花板。
众多看好AI的人表示,根据目前发布的产品来看,我们可能已经来到一个转折点。美国投资集团D.A.戴维森公司的常务董事吉尔·卢里亚说:“我们已经有一段时间没看到突破性模式了。部分原因是我们已经用完人类全部数据,对同样的数据进行更多计算可能不会带来更好的结果。”
AI的瓶颈到底在哪儿?
从技术与应用层面来看,AI的发展确实遇到了一些挑战。智源研究院院长王仲远在近期接受的采访中表示,大模型技术已经开始发挥作用并转化成生产力了。比如,利用相关技术开发各种各样的效率型工具,用于会议纪要、生成图像素材进行广告投放、辅助设计师创意工作等。但是,当前对人工智能能力的感知还局限于部分领域。“我们一直希望C端AI‘杀手级’应用能够出现,但目前还需要继续提升基座模型的能力,进一步解决‘AI幻觉’等问题。”
从市场层面来看,AI的发展同样面临着一些挑战。随着越来越多的企业和机构涌入AI领域,市场竞争变得异常激烈。这不仅使得企业难以在市场中脱颖而出,还可能导致资源的浪费和重复建设。
有观点认为,国内的百模大战,事实上已经造成了对社会资源的“巨大浪费”。一开始,各个科技大厂和AI公司为了抢跑,都在和GPT比能力、秀肌肉。但在头部大模型格局已经形成的背景下,这种竞争是否还能带来实质性的技术进步和创新?
或许,正如周鸿祎所言,现在是时候多关心明星场景和“超级应用”了。
图片来源:摄图网
DA Davidson分析师Gil Luria(卢里亚)在近期表示,“就上季度和本季度对英伟达(产品)的需求而言,毫无疑问,需求已经超过了其供应能力。”但如果我们真的遇到了尺度瓶颈,“可能意味着拥有超高市值的科技企业进行了过度投资”,它们可能在不久的将来缩减规模。
据BusinessInsider 11月27日报道,AI技术的进步正在放缓,大模型性能提升瓶颈、训练数据短缺、训练数据质量问题、推理能力提升遇阻等是这一领域面临的主要困境。然而,以OpenAI、谷歌等为主的几家头部公司却坚称,AI并没有遇到所谓的“壁垒”和“瓶颈”。
OpenAI的首席执行官Sam Altman是首批发声的人之一,他在社交平台“X”上称:“根本没有瓶颈。”Anthropic和英伟达的CEO也表示,AI的进步并未放缓。
当下,包括Marc Andreessen在内的一些人士质疑,AI模型的性能提升并不显著,且趋于同质化。对于科技行业来说,这是一个价值数万亿美元的问题,如果现有的AI模型训练方法回报递减,那么可能会影响到新创企业、产品以及数据中心的投资热潮。
据BusinessInsider梳理,AI领域广泛面临的困境包括训练数据枯竭、性能提升遇阻等问题。在AI研发的早期阶段,企业可能会遭遇两个主要瓶颈:计算能力和训练数据。首先,获取专用芯片(如GPU)的能力有限,影响大模型训练。其次,训练数据的瓶颈逐渐显现,互联网上公开可用的数据资源已经逐渐枯竭。研究机构Epoch AI预测,到2028年,能够用于训练的数据可能会耗尽。
数据质量也成为一大问题。过去研究人员可以在预训练阶段对数据质量要求不高,但现在需要更加关注数据的质量,而不仅仅是数量。而推理能力的提升和突破被认为是AI发展的下一个关键方向。
在这种情况下,寻找下一个突破点成为了AI发展的关键。OpenAI前首席科学家Ilya Sutskever上个月对媒体表示,模型在预训练阶段的规模扩展已经达到平台期,且“大家都在寻找下一个突破”。
你认为AI行业当下的破局点在哪?
特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.