网易首页 > 网易号 > 正文 申请入驻

Claude 3.5深夜觉醒,学会模仿人类用电脑!编程干翻o1,Agent一夜变天

0
分享至


新智元报道

编辑:编辑部 HYZ

【新智元导读】太科幻了,深夜上线的Claude,可以像人类一样使用计算机了?查看屏幕、移动光标、点击按钮、输入文本,还能查找代码错误、自动搜集信息填表。AI推理已至瓶颈,下一个爆破点,就是AI操作电脑!

Claude 3.5深夜迎来重磅升级!

不出所料,Anthropic AI这周终于有了大动作——首发Claude 3.5 Haiku,全新升级版Claude 3.5 Sonnet也来了。


不过,「超大杯」Opus依然没有亮相。

让人惊艳的是,进化后的Claude 3.5 Sonnet一举击溃OpenAI o1,堪称最强推理模型。

它在各个方面得到了全面显著的提升,尤其是业界领先的编码能力。


而Claude 3.5 Haiku与上一代最强Claude 3 Opus性能相当,成本、速度与上一代Haiku相近。

甚至,Claude现在能够像人类一样操作计算机,不仅可以查看屏幕、移动光标,还可以单机按钮、键入文本!

Anthropic开发者关系主管表示,「计算机使用」是全新人机交互范式的第一步。同时也是,AI模型应该具备的全新基础能力。



许多做浏览器智能体的初创公司,一夜之间过时了。


网友们纷纷感叹:Agent和工作流都要变天了……

会自己用电脑的AI来了?

在公测中,Anthropic引入一项突破性的新功能:计算机使用能力。从今天起,开发者可以通过API,指导Claude像人类一样使用计算机了。

Claude 3.5 Sonnet是首个在公测中提供此功能的模型。

当然,这项功能仍处于实验阶段,使用起来还有些笨拙,可能出错。而Anthropic选择提前发布此功能,也是为了获得开发者反馈,将之快速改进。

为什么要训练AI操作电脑?

Anthropic表示,在过去几年里,强大的AI开发已经达到了许多里程碑,比如执行复杂逻辑推理,以及识别和理解图像的能力。

而下一个突破点,就是AI操作电脑了!如果模型不必通过专门定制的工具进行交互,而是按指示就能使用所有软件,这一定代表着未来的方向。

基本电脑操作

在这个demo中,Anthropic研究员给Claude提出了一个极有难度的挑战:

我的朋友要来旧金山,我想明天早上和他一起在金门大桥看日出。我们将从太平洋高地出发。你能帮我们找到一个绝佳的观赏地点,查看一下开车时间和日出时间,然后安排一个日历活动,让我们有足够的时间到达那里吗?

Claude自行打开了Google,开始了搜索。


金门大桥和用户居住地有多远呢?Claude会自己打开地图查找距离。


了解所需信息之后,它打开了日历,为主人安排好了日程。


自动编码写网站

开发者展示出Claude如何操控了自己的笔记本电脑,丝滑地完成了一个网站编程任务。

首先,Claude在小哥的Chrome浏览器中导航到了Claude.ai,并且让Claude为自己创造了一个90年代主题的个人主页。

只见它自己输入网址,键入提示,向另一个Claude发出请求。


Claude.ai返回了一些代码,渲染出来的画面看起来很不错,但小哥希望在自己的电脑本地上对网站做一些修改。

于是他让Claude下载文件,然后在VS Code中将其打开。Claude成功完成了这些指令。

然后小哥让Claude启动了一个服务器,然后就可以在浏览器中实际查看这个文件了。

Claude打开了VS Code终端,尝试启动一个服务器,然后却遇到了错误:机子上并没有安装Python。

结果,通过查看终端输出,Claude自己发现了这个问题!它用Python 3再次尝试,成功运行起了服务器。


不过,终端输出中有个错误,顶部还缺少了一个文件图标。开发者小哥请Claude来识别这个错误,在文件中修复它。

令人惊喜的是,Claude在VS Code中找到了引发错误的行,删除了整行,然后保存文件、重新运行网站。


这次,网站完全正确!


自动寻找数据填表

假设我们需要填写一份来自「蚂蚁设备公司」的供应商请求表,但需要填写的数据散步在电脑的各个角落,Claude能帮我们完成吗?

只见它开始截取小哥的屏幕截图,并且很快发现:蚂蚁设备公司并不在表格中。


这时,它立刻切换到CRM系统中,去搜索这个公司。找到后,它开始滚动页面,查找填表所需的所有信息,然后提交了表格。

这也就意味着,我们工作中许多不得不做的繁琐事项,都可以交由Claude代劳了!


现在,这个功能已经在API中可用了。

现在,Asana、Canva、Cognition、DoorDash、Replit和The Browser Company等多家知名公司,已经在探索Claude的新潜能,让它们执行数十步甚至数百步的复杂任务了。

比如,Replit正在利用Claude 3.5 Sonnet的计算机使用和用户界面导航能力,为Replit Agent开发功能,在构建应用程序过程中对其实时评估。

远低于人类,但未来可期

新升级后的Claude 3.5 Sonnet,电脑使用能力究竟如何?

在 OSWorld测试中,它在仅基于屏幕截图的任务类别中得分为14.9%,明显超越了排名第二的AI系统(7.8%)。

当允许更多操作步骤来完成任务时,Claude得分提高到了22.0%。

这表明模型与环境的多次交互,能够优化任务性能。

虽然这一结果比之前有了大幅提升,但仍然远低于人类72.36%的表现。

这也暗示了,Claude 3.5 Sonnet未来还有很大的改进空间。


毕竟,人类毫不费力完成的一些操作(滚动、拖动、缩放),目前对于Claude来说极具挑战。

升级版Claude 3.5 Sonnet,编码王者干翻o1

在各项行业基准测试中,升级版Claude 3.5 Sonnet性能得到了全方位提升。

特别是,智能体编码、工具使用任务中取得显著突破。


论文地址:https://assets.anthropic.com/m/1cd9d098ac3e6467/original/Claude-3-Model-Card-October-Addendum.pdf

在编码能力方面,它在SWE-bench Verified测试中,性能从33.4%大幅提升至49.0%。

这超越了所有公开可用的模型——包括OpenAI o1-preview等推理模型和专为智能体编码设计的专门系统。


此外,在TAU-bench(一项评估智能体工具使用能力的基准测试)中,Claude 3.5 Sonnet也表现出色:

在零售领域的得分从62.6%提高到69.2%,在更具挑战性的航空领域则从36.0%跃升至46.0%。


从下表中,可以看出推理测试基准GPQA(Diamond)上,新版Claude 3.5 Sonnet大幅超越GPT-4o。


在视觉QA、数学推理、文档视觉问答、图表问答、科学表格基准测试中,Claude 3.5 Sonnet性能成为业界新标杆。


值得一提的是,新版Claude 3.5 Sonnet性能突破同时,仍保持了与前代模型相同的价格和运行速度。

一些早期测试用户的反馈,进一步印证了升级后Claude 3.5 Sonnet,在AI驱动编码领域实现「质」的飞跃。

  1. GitLab:在DevSecOps任务测试中,发现Claude 3.5 Sonnet在不增加延迟的前提下,推理能力显著提升(各用例最高提升10%),使其成为驱动复杂软件开发流程的理想选择

  2. Cognition:将新版Claude 3.5 Sonnet应用于自主AI评估,在编码、规划和问题解决等方面,相较前代模型均取得了实质性进步

  3. The Browser Company:在使用该模型自动化网络工作流程时发现,Claude 3.5 Sonnet的表现超越了他们此前测试过的所有模型

此外,在安全部署前,Claude 3.5 Sonnet已经在美国AI安全研究所(US AISI)和英国安全研究所(UK AISI)进行了联合测试。

而且,经过自身评估,Anthorpic在「Responsible Scaling Policy」中制定的ASL-2标准仍然适用于新模型。

如前所述,升级版的Claude 3.5 Sonnet现在已经可以在网页、终端APP上使用了。


API的定价起始为每百万输入Token 3美元每百万输出Token 15美元

通过使用智能缓存技术可节省高达90%的成本,而使用批处理API则可节省50%成本。

应用场景

Claude 3.5 Sonnet能够理解细微的指令和上下文,识别并纠正自身错误,还能从复杂数据中生成深入的分析和洞察。结合最先进的编码、视觉识别和写作能力,Claude 3.5 Sonnet可以被应用于各种场景。

- 模拟人类操作电脑

通过API集成Claude,开发者可以指导Claude像人类一样使用电脑——通过观察屏幕、移动鼠标、点击按钮和键入文字。Claude 3.5 Sonnet是首个能够以这种方式可靠使用电脑的前沿AI模型,虽然目前在公开测试阶段仍具实验性质,但其能力会随时间持续提升。

- 代码自动生成

Claude 3.5 Sonnet可以协助整个软件开发生命周期——从初始设计到错误修复,从系统维护到性能优化。可以直接将它被集成到产品中,或通过Claude.ai平台将其用作智能编码助手。

- 智能对话系统

凭借增强的推理能力和亲和、自然的语气,Claude 3.5 Sonnet非常适合开发需要跨系统连接数据并执行操作的智能对话系统。

- 智能知识问答

Claude 3.5 Sonnet具有大规模上下文处理能力和极低的幻觉率,使其成为处理大型知识库、文档和代码库问答任务的理想选择。

- 视觉信息提取

Claude 3.5 Sonnet能够轻松从图表、图形和复杂示意图等视觉材料中提取信息——这使其成为数据分析和数据科学任务的理想人工智能模型。

- 流程自动化

Claude 3.5 Sonnet能够实现重复性任务或流程的自动化。它具备业界领先的指令执行能力,能够处理复杂的流程和操作。


全新Claude 3.5 Haiku,智能超越上代老大哥

从上一代对标来看,Claude 3.5 Haiku称得上是「最小杯」。

这是Anthropic速度最快的模型。

它不仅保持乐了与Claude 3 Haiku相同的运行成本和相近的处理速度,还在各项技能全面提升。

甚至,在多项智能基准测试中,Claude 3.5 Haiku超越了上一代最强大的模型Claude 3 Opus

同样,Claude 3.5 Haiku在编码任务上的表现尤为卓越。

比如,在SWE-bench Verified测试中,它取得了40.6%的高分,超越了许多使用公开可用的最先进模型的AI智能体——包括原始版本的Claude 3.5 Sonnet和GPT-4o


Claude 3.5 Haiku具备了三点突出优势:

1. 低延迟响应

2. 更精准的指令执行能力

3. 更准确的工具使用

这些特性使得模型特别适用于,面向用户的产品开发、专门的子智能体任务处理、基于海量数据(如购买记录、价格信息或库存数据)生成个性化体验。

本月末,Claude 3.5 Haiku将在多个平台上推出,包括Anthropic API、Amazon Bedrock和谷歌云的Vertex AI。(最初会以纯文本模型形式推出,随后会加入图像输入功能)

Claude 3.5 Haiku的定价起始为每百万输入Token 0.25美元每百万输出Token 1.25美元

通过使用提示词缓存技术可节省高达90%的成本,而使用消息批处理API则可节省50%的成本。

应用场景

凭借快速的处理速度、改进的指令执行能力和更准确的工具使用,Claude 3.5 Haiku非常适合面向用户的产品、专门的辅助任务,以及从海量数据中生成个性化体验。

- 代码自动补全

Claude 3.5 Haiku能够提供快速、准确的代码建议和补全,有效加速开发工作流程。特别适合那些希望简化编码过程并提高生产力的软件开发团队。

- 智能聊天机器人

借助增强的对话能力和快速的响应时间,Claude 3.5 Haiku在驱动能处理大量用户互动的响应式聊天机器人方面表现出色。对于需要可扩展互动能力的客户服务、电子商务和教育平台来说,它尤其有价值。

- 数据提取和自动标注

Claude 3.5 Haiku能高效处理和分类信息,在快速数据提取和自动标注任务中表现优异。这一能力对于需要处理金融、医疗保健和研究领域大量非结构化数据的组织特别有用。

- 自动实时内容审核

Claude 3.5 Haiku通过其改进的推理和内容理解能力,提供可靠、即时的内容审核服务。这对于那些需要大规模维护安全、适当内容的社交平台、在线社区和媒体组织来说极具价值。

如何教会Claude操作电脑

Anthropic表示,人类轻松执行的操作——滚动、拖拽、缩放,目前对Claude来说仍然很有挑战性。

而对于垃圾邮件、虚假信息、欺诈这类风险,公司正在寻找安全部署的策略,比如开发了识别系统,检测是否发生危害。

研究过程

Anthropic在工具使用和多模态的工作,为AI识别和解释图像奠定了基础。

在此基础上,Claude还需要推理如何以及何时根据屏幕内容执行操作。

为此,研究者训练Claude准确计算像素,从而完成命令,因为它必须计算出需要垂直或水平移动鼠标指针多少像素,才能点击正确的位置。

在此期间,Claude迅速将学习成功从计算器和文本编辑器这类简单软件的训练中,迁移到了其他应用(注意,期间它不允许联网)。

这种训练让它能将用户指令转化为一系列逻辑步骤,执行操作。遇到障碍时,甚至还能自我纠正、重试任务。

小插曲

Anthropic开发者关系主管Alex Albert还分享了,团队在开发计算机使用功能时的一个有趣故事。

当时,他们举行了一场工程师的bug bash(漏洞排查活动),以确保发现API所有潜在的问题。

这意味着,要把一群工程师关在一个房间里几个小时。

当时,恰好大家都饿了。其中一位工程师灵机一闪,「不如让Claude来个实战演习,自主打开DoorDash帮我们订餐」。


没想到,大约一分钟后,Claude为工程师们定来了披萨。


展望未来

AI操作电脑能力代表了一种全新的人工智能开发方法。

迄今为止,LLM开发者一直在努力使工具适应模型,创造特殊的环境,让AI使用专门设计的工具来完成各种任务。

现在,Anthropic「反其道而行之」——他们选择让模型去适应工具。也就是,Claude能像人类一样,融入我们日常使用的计算机环境,直接使用现有的软件。

虽然Claude已经达到了当前的最高水平,但它的操作仍然相对缓慢且容易出错。我们日常使用电脑时的许多操作,如拖拽、缩放等,Claude都还无法做到。

此外,Claude目前观察屏幕的方式类似于快速翻阅一本「画册」——通过连续截图并拼接在一起,而不是观察连续的视频流。这意味着它可能会错过一些短暂的动作或通知。

有趣的是,Anthropic在录制Demo时,还遇到了一些有趣的小插曲。

比如,在一次演示中,Claude不小心点击停止了一个长时间运行的屏幕录制,导致所有录像都付诸东流。

而在另一次编码演示中,Claude则突然「走神」,开始饶有兴趣地浏览起黄石国家公园的照片。


总之,Claude如今的表现让人对未来充满期待:AI操作电脑的能力将神速进步,那一天,软件开发小白都能轻松使用它。

参考资料:

https://www.anthropic.com/news/3-5-models-and-computer-use

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

/阅读下一篇/

19岁华人辍学创业,刚刚拿下百万美金融资!All in智能体,誓要实现Siri初心

返回网易首页 下载网易新闻客户端
相关推荐
热点推荐
火箭119-120惜败灰熊 球员评价:1人满分,6人及格,2人崩盘

火箭119-120惜败灰熊 球员评价:1人满分,6人及格,2人崩盘

篮球资讯达人
2025-01-31 13:30:37
知名男演员自曝,除夕夜发生意外!医生紧急提醒→

知名男演员自曝,除夕夜发生意外!医生紧急提醒→

新晚报
2025-01-30 14:46:20
宁在国外种榴莲,也不回国执教,养出92个世界冠军的李永波咋样了

宁在国外种榴莲,也不回国执教,养出92个世界冠军的李永波咋样了

简读视觉
2025-01-31 00:10:21
中国男篮冲击3连胜!赵睿回归首秀,郭士强启用双塔,CCTV5直播

中国男篮冲击3连胜!赵睿回归首秀,郭士强启用双塔,CCTV5直播

体坛瞎白话
2025-01-31 10:03:49
刚刚,地震了!福建震感强烈!早晨,广东地震!

刚刚,地震了!福建震感强烈!早晨,广东地震!

漳州壹条
2025-01-30 11:36:57
他被判处死刑,行刑前夕,他表示自己要上厕所,狱警:早去早回

他被判处死刑,行刑前夕,他表示自己要上厕所,狱警:早去早回

坦然风云
2025-01-26 00:10:02
2024年,宋彬彬在争议中离世,临终遗愿三句话,却未能实现

2024年,宋彬彬在争议中离世,临终遗愿三句话,却未能实现

历史详说官
2025-01-31 11:41:52
千磨万击还坚劲!哈登重返全明星 他做了什么击碎偏见赢回尊重

千磨万击还坚劲!哈登重返全明星 他做了什么击碎偏见赢回尊重

直播吧
2025-01-31 11:16:34
央视内部食堂罕见曝光,看了主持人的饭菜,网友们大呼:长见识了

央视内部食堂罕见曝光,看了主持人的饭菜,网友们大呼:长见识了

十二生肖运势分析
2024-10-20 06:50:03
10条处世天规,若能牢记,受益终生!

10条处世天规,若能牢记,受益终生!

传统文化家园
2025-01-30 19:46:57
这么凶的网红,为何要穿战袍?

这么凶的网红,为何要穿战袍?

风子说个球
2024-12-28 14:10:09
一夜醒来,美国媒体惊呼:中国春晚的机器表演,认为是秀肌肉

一夜醒来,美国媒体惊呼:中国春晚的机器表演,认为是秀肌肉

玲子日记
2025-01-29 08:40:20
洪都拉斯三军总司令替父回中国寻根,找到老家时,遇见87岁亲哥哥

洪都拉斯三军总司令替父回中国寻根,找到老家时,遇见87岁亲哥哥

卿昀
2025-01-25 21:29:07
美国陆军:出事的“黑鹰”直升机飞行员经验丰富 采用的是例行路线

美国陆军:出事的“黑鹰”直升机飞行员经验丰富 采用的是例行路线

小宇宙双色球
2025-01-31 07:48:38
潮汕除了汕头和潮州,还有一座被严重忽略的小城……

潮汕除了汕头和潮州,还有一座被严重忽略的小城……

潮人游纪
2025-01-31 11:06:18
梁文锋除夕夜谈DeepSeek的初心

梁文锋除夕夜谈DeepSeek的初心

互联网思想
2025-01-29 00:28:48
“一梯一户”的快乐谁懂?浙江姑娘把电梯间当玄关,布置得太实用

“一梯一户”的快乐谁懂?浙江姑娘把电梯间当玄关,布置得太实用

装修秀
2025-01-28 11:35:03
韦德:被诊断出右肾上有一个肿瘤,2023年末切除了40%的右肾组织

韦德:被诊断出右肾上有一个肿瘤,2023年末切除了40%的右肾组织

懂球帝
2025-01-31 11:16:55
茅台员工曾透露:买茅台送的2个小酒杯,压根就不只是用来喝酒的

茅台员工曾透露:买茅台送的2个小酒杯,压根就不只是用来喝酒的

历史阿务
2025-01-20 17:53:03
14年,加拿大女孩来中国寻亲,寻到最后吓一跳:父母竟都是大富豪

14年,加拿大女孩来中国寻亲,寻到最后吓一跳:父母竟都是大富豪

星光历史
2025-01-23 17:39:39
2025-01-31 14:07:04
新智元 incentive-icons
新智元
AI产业主平台领航智能+时代
12085文章数 65808关注度
往期回顾 全部

科技要闻

苹果季度业绩"历史最好" 中国收入唯一下滑

头条要闻

DeepSeek R1率先上线英伟达平台 此前遭网络攻击升级

体育要闻

湖人官方晒赢球海报 詹姆斯登上封面

娱乐要闻

杜海涛沈梦辰带父母游环球影城

财经要闻

光伏投资人众生相

汽车要闻

10万元级无图智驾 悦也PLUS全路况实测

态度原创

健康
教育
艺术
旅游
游戏

抑郁症患者称好的“乌托邦”宝地

教育要闻

孩子抽动了, 妈妈为什么会焦虑?

艺术要闻

故宫珍藏的墨迹《十七帖》,比拓本更精良,这才是地道的魏晋写法

旅游要闻

“春节游”预订火热,亲子游持续走俏

外媒质疑《GTA6》发售日泄露:9月17日疑点重重