网易首页 > 网易科技 > 网易科技 > 正文

OpenAI发布插件帮助ChatGPT连网 内容质量、安全性引担忧

0
分享至

3月24日消息,美国当地时间周四,人工智能研究公司OpenAI为其爆火聊天机器人ChatGPT发布了多个插件,它们将帮助ChatGPT连接网络以实时检索信息或使用第三方应用。

据悉,OpenAI的插件将允许ChatGPT访问第三方知识源和数据库,包括网络,从而大大扩展了聊天机器人的能力。OpenAI将向ChatGPT测试申请用户和开发者提供Alpha版。在面向大众开放访问前,最初将优先考虑少数开发者和ChatGPT Plus订阅者。

最吸引人的插件无疑是OpenAI的第一方网络浏览插件,它允许ChatGPT从网络上寻找数据来回答向它提出的各类问题。而此前,ChatGPT的信息内容仅限于2021年9月之前的日期、事件和人物。新插件使用微软必应搜索API从网络上检索内容,同时显示它在概括答案时所访问的网站,并在ChatGPT的回应中引用其来源。

不过,可以联网访问其他信息来源的行为可能会存在新的风险,正如OpenAI团队此前的研究发现一样。OpenAI曾于2021年创建过名为WebGPT的实验系统,它有时会引用不可靠来源的信息,并被诱导从用户可能信任的网站上挑选数据,即使这些来源客观上并不十分权威。Meta后来下线的BlenderBot 3.0也可以访问网络,但很快偏离了最初设想。当收到某些文本提示时,它会发布阴谋论或其他攻击性内容。

与静态训练数据集相比,实时网络的精确度更低,而且这意味着过滤限制更少。谷歌和必应等搜索引擎使用自己的安全机制来降低不可靠内容升至搜索结果首位的几率,但这些结果可能会被操纵,它们也不一定能代表整个网络。正如此前有报道称,谷歌的算法优先考虑使用加密、移动支持和模式标记等现代网络技术的网站。因此,许多拥有其他高质量内容的网站往往会被漏掉。

这给了搜索引擎很大权力来挑选数据,这些数据可能会为网络语言模型的答案提供信息。人们发现,谷歌在搜索中优先考虑自己的服务,例如用Google Places的数据回答旅行查询,而不是从像TripAdvisor这样更丰富、更社会化的资源汇总信息。与此同时,搜索的算法方法也容易出现漏洞。2020年,Pinterest曾利用谷歌图像搜索算法的一个异常,在谷歌图像搜索中显示了更多内容。

OpenAI承认,能够连网的ChatGPT可能会出现所有类型的不良行为,如发送欺诈性信息和垃圾电子邮件,绕过安全限制,并通常“增强那些欺骗、误导或虐待他人的不良行为者的能力”。但该公司也表示,其已经在内部和外部“实施了几项保障措施”,以防止这种情况发生。

除了浏览器插件,OpenAI还为ChatGPT背后的模型提供了一个在沙盒、防火墙执行环境中工作的Python 解释器,以及一些临时磁盘空间。这种插件支持将文件上传到ChatGPT并下载结果。OpenAI表示,它在解决数学问题、进行数据分析、可视化以及文件格式之间转换方面特别有用。

许多早期合作者已经为ChatGPT构建了插件,包括Expedia、FiscalNote、Instacart、Kayak、Klarna、Milo、OpenTable、Shopify、Slack、Speak、Wolfram以及Zapier。

在很大程度上,这些插件的用途不言自明。例如,OpenTable插件将允许聊天机器人在餐厅中搜索可用的预订,而Instacart插件允许ChatGPT从本地商店下订单。Zapier是迄今为止可扩展性最强的应用之一,它可以与Google Sheets、Trello和Gmail等应用连接,从而触发一系列生产力相关任务。

为了鼓励开发者创建新插件,OpenAI已经开源了一个“检索”插件,使ChatGPT能够通过用自然语言提问来访问来自文件、笔记、电子邮件或公共文档等数据源的文档片段。OpenAI发文称:“我们正在努力开发各类插件,并将它们带给更广泛的受众。我们还有很多东西需要学习,在大家的帮助下,我们希望打造出既实用又安全的东西。”

对于ChatGPT来说,插件是必不可少的补充。ChatGPT曾经受到严格限制,只能从其培训数据中学习,但在有了插件后,它突然变得更加强大,或许法律风险也更小。许多专家指责OpenAI通过利用未经许可的数据训练ChatGPT获利,ChatGPT的数据集包含各种各样的公共网站,而插件可能会通过允许公司保留对其数据的完全控制权来解决这个问题。(小小)

延伸阅读
相关推荐
热点推荐
790可以舌吻摸私处,这女孩不愿意的话还可以换人,网友:恶心

790可以舌吻摸私处,这女孩不愿意的话还可以换人,网友:恶心

说真话的小陈
2024-12-19 18:39:40
亲密约会,林高远恋情公开?美女大2岁,颜值惊艳,大学老师

亲密约会,林高远恋情公开?美女大2岁,颜值惊艳,大学老师

东球弟
2025-02-21 12:38:57
“我上班时放了个屁,结果hr直接...”Reddit这两天出了个神帖,太好笑了哈哈哈

“我上班时放了个屁,结果hr直接...”Reddit这两天出了个神帖,太好笑了哈哈哈

英国那些事儿
2025-02-20 23:17:53
美军飞行员称与“足球大小”不明飞行物近距离接触,泄露录音显示:就在我机翼下方

美军飞行员称与“足球大小”不明飞行物近距离接触,泄露录音显示:就在我机翼下方

书中自有颜如玉
2025-02-21 11:46:46
断流30年!中国最长的内陆河“塔里木河”,为何会“重新复活”

断流30年!中国最长的内陆河“塔里木河”,为何会“重新复活”

文史达观
2024-02-14 06:45:03
美股持续走低 三大指数均跌超1%

美股持续走低 三大指数均跌超1%

财联社
2025-02-22 01:58:05
英国王室一家五口要"单飞"了!乔治王子再无法与母亲凯特王妃同城

英国王室一家五口要"单飞"了!乔治王子再无法与母亲凯特王妃同城

观察鉴娱
2025-02-21 09:53:30
就差10海里!2月17日,美国、法国、日本的航母舰长都“傻眼”了

就差10海里!2月17日,美国、法国、日本的航母舰长都“傻眼”了

小企鹅侃世界
2025-02-19 21:22:53
江西女硕士失踪,被发现时已在教授实验室待6年,魔鬼真的存在

江西女硕士失踪,被发现时已在教授实验室待6年,魔鬼真的存在

灿烂夏天
2025-02-10 20:20:13
AI算力50强!DeepSeek催生需求爆发,芯片、服务器、液冷,龙头股

AI算力50强!DeepSeek催生需求爆发,芯片、服务器、液冷,龙头股

小波股事历程
2025-02-21 18:33:16
离开曼联后,马夏尔成为了更好的球员

离开曼联后,马夏尔成为了更好的球员

仰卧撑
2025-02-22 00:02:06
A股:今天踏空者彻底破防,盘后,市场再次传来三大重磅消息

A股:今天踏空者彻底破防,盘后,市场再次传来三大重磅消息

云姐财说
2025-02-22 00:00:12
金树林晚宴现场!宋佳应酬酒杯见底,刘涛坐其腿上热聊有点微醺

金树林晚宴现场!宋佳应酬酒杯见底,刘涛坐其腿上热聊有点微醺

郑丁嘉话
2025-02-21 11:33:49
从总统到士兵都对美国说不!乌军士兵撕掉星条旗换上黄蓝旗

从总统到士兵都对美国说不!乌军士兵撕掉星条旗换上黄蓝旗

大风文字
2025-02-21 15:17:03
这个春节,网红城市跌下神坛,为何没能挺过2024年?

这个春节,网红城市跌下神坛,为何没能挺过2024年?

毒sir财经
2025-02-17 18:25:58
4位劣迹艺人复出失败,镜头被删除、演出被取消,全部遭到抵制

4位劣迹艺人复出失败,镜头被删除、演出被取消,全部遭到抵制

就一点
2025-02-21 23:00:05
车评人闫闯发文称吃早餐劝诫旁人别抽烟被打,报警后对方秒怂道歉

车评人闫闯发文称吃早餐劝诫旁人别抽烟被打,报警后对方秒怂道歉

老鹈爱历史
2025-02-21 14:47:21
马卡:马德里德比还未开打皇马已经处于不利,赛前比马竞少休息一天

马卡:马德里德比还未开打皇马已经处于不利,赛前比马竞少休息一天

雷速体育
2025-02-21 21:18:13
中国男篮VS关岛!郭士强冲击4连胜,周琦轮休,CCTV5直播

中国男篮VS关岛!郭士强冲击4连胜,周琦轮休,CCTV5直播

体坛瞎白话
2025-02-21 07:43:48
54分+52分+50分!联盟第1!SGA创神级纪录,他要签2.91亿超级顶薪

54分+52分+50分!联盟第1!SGA创神级纪录,他要签2.91亿超级顶薪

生活新鲜市
2025-02-22 04:22:03
2025-02-22 06:56:49

科技要闻

华为尊界挑战迈巴赫 余承东:已经大幅领先

头条要闻

澳外长对三艘中国军舰进行实弹演习表示关切 中方回应

体育要闻

她用滑行纪念空难中逝去的挚友

娱乐要闻

原来她就是导演饺子的妻子,怪不得177亿

财经要闻

“杭州六小龙”催热楼市?

汽车要闻

星途揽月又升级了 这次终于有插混版了

态度原创

房产
家居
时尚
公开课
军事航空

房产要闻

开年狂卖10亿+,阿那亚再成海南楼市现象级!

家居要闻

现代通透 打破传统界限

爱美的人,家也很有格调!

公开课

李玫瑾:为什么性格比能力更重要?

军事要闻

美防长下令未来5年内每年削减8%国防预算

×