网易首页 > 网易科技 > 网易科技 > 正文

OpenAI发布插件帮助ChatGPT连网 内容质量、安全性引担忧

0
分享至

3月24日消息,美国当地时间周四,人工智能研究公司OpenAI为其爆火聊天机器人ChatGPT发布了多个插件,它们将帮助ChatGPT连接网络以实时检索信息或使用第三方应用。

据悉,OpenAI的插件将允许ChatGPT访问第三方知识源和数据库,包括网络,从而大大扩展了聊天机器人的能力。OpenAI将向ChatGPT测试申请用户和开发者提供Alpha版。在面向大众开放访问前,最初将优先考虑少数开发者和ChatGPT Plus订阅者。

最吸引人的插件无疑是OpenAI的第一方网络浏览插件,它允许ChatGPT从网络上寻找数据来回答向它提出的各类问题。而此前,ChatGPT的信息内容仅限于2021年9月之前的日期、事件和人物。新插件使用微软必应搜索API从网络上检索内容,同时显示它在概括答案时所访问的网站,并在ChatGPT的回应中引用其来源。

不过,可以联网访问其他信息来源的行为可能会存在新的风险,正如OpenAI团队此前的研究发现一样。OpenAI曾于2021年创建过名为WebGPT的实验系统,它有时会引用不可靠来源的信息,并被诱导从用户可能信任的网站上挑选数据,即使这些来源客观上并不十分权威。Meta后来下线的BlenderBot 3.0也可以访问网络,但很快偏离了最初设想。当收到某些文本提示时,它会发布阴谋论或其他攻击性内容。

与静态训练数据集相比,实时网络的精确度更低,而且这意味着过滤限制更少。谷歌和必应等搜索引擎使用自己的安全机制来降低不可靠内容升至搜索结果首位的几率,但这些结果可能会被操纵,它们也不一定能代表整个网络。正如此前有报道称,谷歌的算法优先考虑使用加密、移动支持和模式标记等现代网络技术的网站。因此,许多拥有其他高质量内容的网站往往会被漏掉。

这给了搜索引擎很大权力来挑选数据,这些数据可能会为网络语言模型的答案提供信息。人们发现,谷歌在搜索中优先考虑自己的服务,例如用Google Places的数据回答旅行查询,而不是从像TripAdvisor这样更丰富、更社会化的资源汇总信息。与此同时,搜索的算法方法也容易出现漏洞。2020年,Pinterest曾利用谷歌图像搜索算法的一个异常,在谷歌图像搜索中显示了更多内容。

OpenAI承认,能够连网的ChatGPT可能会出现所有类型的不良行为,如发送欺诈性信息和垃圾电子邮件,绕过安全限制,并通常“增强那些欺骗、误导或虐待他人的不良行为者的能力”。但该公司也表示,其已经在内部和外部“实施了几项保障措施”,以防止这种情况发生。

除了浏览器插件,OpenAI还为ChatGPT背后的模型提供了一个在沙盒、防火墙执行环境中工作的Python 解释器,以及一些临时磁盘空间。这种插件支持将文件上传到ChatGPT并下载结果。OpenAI表示,它在解决数学问题、进行数据分析、可视化以及文件格式之间转换方面特别有用。

许多早期合作者已经为ChatGPT构建了插件,包括Expedia、FiscalNote、Instacart、Kayak、Klarna、Milo、OpenTable、Shopify、Slack、Speak、Wolfram以及Zapier。

在很大程度上,这些插件的用途不言自明。例如,OpenTable插件将允许聊天机器人在餐厅中搜索可用的预订,而Instacart插件允许ChatGPT从本地商店下订单。Zapier是迄今为止可扩展性最强的应用之一,它可以与Google Sheets、Trello和Gmail等应用连接,从而触发一系列生产力相关任务。

为了鼓励开发者创建新插件,OpenAI已经开源了一个“检索”插件,使ChatGPT能够通过用自然语言提问来访问来自文件、笔记、电子邮件或公共文档等数据源的文档片段。OpenAI发文称:“我们正在努力开发各类插件,并将它们带给更广泛的受众。我们还有很多东西需要学习,在大家的帮助下,我们希望打造出既实用又安全的东西。”

对于ChatGPT来说,插件是必不可少的补充。ChatGPT曾经受到严格限制,只能从其培训数据中学习,但在有了插件后,它突然变得更加强大,或许法律风险也更小。许多专家指责OpenAI通过利用未经许可的数据训练ChatGPT获利,ChatGPT的数据集包含各种各样的公共网站,而插件可能会通过允许公司保留对其数据的完全控制权来解决这个问题。(小小)

延伸阅读
相关推荐
热点推荐
汪小菲与S家首次谈判开启,双方均请顶尖律师团!S妈没资格上战场

汪小菲与S家首次谈判开启,双方均请顶尖律师团!S妈没资格上战场

娱圈小愚
2025-02-22 09:09:35
梁文锋老家房前屋后进行整修,路变宽敞,开车回来可以停家门口了

梁文锋老家房前屋后进行整修,路变宽敞,开车回来可以停家门口了

归史
2025-02-22 10:13:38
上海刚刚确认:4月全面开放!离黄浦江仅20米,周边好吃好玩的太多,市民:不敢想象会有多火

上海刚刚确认:4月全面开放!离黄浦江仅20米,周边好吃好玩的太多,市民:不敢想象会有多火

上观新闻
2025-02-22 11:38:55
我们004型航母最准确消息

我们004型航母最准确消息

书中自有颜如玉
2025-02-22 09:11:57
“穷人刷不到,富人不需要”的8个省钱冷知识,泼天富贵我收藏了

“穷人刷不到,富人不需要”的8个省钱冷知识,泼天富贵我收藏了

逍遥史记
2025-02-20 11:05:24
确实力不从心!菲律宾闯黄岩岛数据公布,中国直9被高空压制

确实力不从心!菲律宾闯黄岩岛数据公布,中国直9被高空压制

暖心的小屋
2025-02-21 16:31:07
️波斯特:我爸今天就在现场 这是他来看的第一场NBA比赛

️波斯特:我爸今天就在现场 这是他来看的第一场NBA比赛

直播吧
2025-02-22 12:34:15
王思聪女友大量私照曝光,身材火辣网红脸,网友:谁看谁不迷糊

王思聪女友大量私照曝光,身材火辣网红脸,网友:谁看谁不迷糊

奇思妙想草叶君
2025-02-21 23:47:26
蒯纪闻,你连中甲都捞不到踢啊

蒯纪闻,你连中甲都捞不到踢啊

中场阴谋家
2025-02-21 23:46:07
彻底拥抱归化!国足目前可用归化已达15人:6人亚洲顶级水平!

彻底拥抱归化!国足目前可用归化已达15人:6人亚洲顶级水平!

邱泽云
2025-02-21 22:40:21
湾区电台主持人:我严重低估了巴特勒 和这几场胜利对球迷的影响

湾区电台主持人:我严重低估了巴特勒 和这几场胜利对球迷的影响

直播吧
2025-02-22 07:12:20
笑死!中国特高压有多牛?日本网友羡慕,加拿大网友怒怼韩国人!

笑死!中国特高压有多牛?日本网友羡慕,加拿大网友怒怼韩国人!

涵豆说历史
2025-02-21 17:06:13
大S巨额遗产再添新证据 汪小菲不忍了 直接抛出 如今继承权有方案

大S巨额遗产再添新证据 汪小菲不忍了 直接抛出 如今继承权有方案

晓徙娱乐
2025-02-22 11:32:44
A股:2个消息来临,下周,很可能要迎来大级别的行情了

A股:2个消息来临,下周,很可能要迎来大级别的行情了

财经大拿
2025-02-22 03:40:03
韩星金喜善公开16岁女儿,网友:“完全继承了母亲的DNA”

韩星金喜善公开16岁女儿,网友:“完全继承了母亲的DNA”

韩娱明星趣闻
2025-02-22 07:32:28
左小青太丰满了,穿小白裙都兜不住好身材,我感慨资本果然会选人

左小青太丰满了,穿小白裙都兜不住好身材,我感慨资本果然会选人

星辰生肖馆
2025-02-21 04:50:03
贵阳IMAX影院:哪吒爆火天下知,本地人:都快要倒闭硬是被救活了

贵阳IMAX影院:哪吒爆火天下知,本地人:都快要倒闭硬是被救活了

沧海一书客
2025-02-22 09:05:10
文班赛季报销!Scotto:马刺与中锋比永博签下第二份10天短合同

文班赛季报销!Scotto:马刺与中锋比永博签下第二份10天短合同

直播吧
2025-02-22 02:14:27
41岁中国籍女子在日本被捕,照片曝光后日本网友却称其太“可爱”?

41岁中国籍女子在日本被捕,照片曝光后日本网友却称其太“可爱”?

日本物语
2025-02-22 11:56:14
马斯克:每天躺在床上,不运动,不学习,不挣钱,那你迟早完蛋

马斯克:每天躺在床上,不运动,不学习,不挣钱,那你迟早完蛋

清风拂心
2025-02-20 07:38:04
2025-02-22 14:20:49

科技要闻

字节跳动估值破4000亿美元 AI成重要推动力

头条要闻

美媒:特朗普对美军高层进行"史无前例的清洗" 发出信号

体育要闻

她用滑行纪念空难中逝去的挚友

娱乐要闻

森林北被曝怀孕,汪峰第五次升级当爸

财经要闻

DeepSeek,把投资人馋哭了……

汽车要闻

腾势N9霸气来袭 配空悬和云辇-A 剑指理想L9!

态度原创

游戏
亲子
健康
数码
军事航空

《宣誓》总监称销量令黑曜石满意 暗示想做续作

亲子要闻

我的小小少年,是时候展现真正的技术了

抑郁症患者称好的“乌托邦”宝地

数码要闻

新 Mac 配置告别手动输入:macOS 15.4 将增“近距离配对”

军事要闻

特朗普:泽连斯基是否参与谈判不重要

×