网易首页 > 网易号 > 正文 申请入驻

OpenAI与Anthropic首次设立“选举作战室”,严防中期选举虚假信息

0
分享至

美国中期选举于当地时间11月3日正式拉开大幕,“选举作战室”正迈入人工智能时代——AI企业OpenAI与Anthropic均已设立专门的“作战室”,用于监控其平台上的滥用行为,这在两家公司历史上尚属首次。

据新华社报道,多家美国媒体称此次选举为“美国史上首场有相当数量选民使用人工智能(AI)的选举”,认为AI给选举带来的影响广泛而直接。

据美媒Politico报道,OpenAI于中期选举前一周启动“选举运营中心”,运行至所有选票统计完毕,旨在识别虚假信息的潜在传播或破坏选举的其他企图。OpenAI的模型中内嵌了安全防护机制,试图阻止恶意行为者生成误导性内容。这包括一种“卡通化”处理程序。例如,如果用户要求OpenAI生成一张投票站排长队的图片,系统将返回一张卡通图片,而非逼真的照片。

OpenAI今年5月宣布与非营利机构Democracy Works达成合作,向选民提供关于选民登记和投票站位置的可靠信息。该公司还宣布与美联社达成协议,以便提供最新的选举结果。这两项平台内的集成功能都将受到选举作战室的监控。

同时,Anthropic也设立了“选举作战室”。该公司一位发言人告诉美媒Semafor:“我们全公司的团队全年都在致力于强化与选举安全相关的防护措施并执行相关政策。在选举前夕,我们设立了专门的作战室,负责监控平台上的滥用行为,并准备快速响应任何突发事件。”

此外,美国科技公司Meta、微软等也针对中期选举采取措施,应对平台上的潜在滥用行为。微软平台禁止针对候选人和选举官员的恶意深度伪造(Deepfake)内容,受影响的人员可以直接举报。

美国布伦南司法中心10月22日发布最新报告指出,虽然OpenAI的ChatGPT升级了防范机制,但谷歌的Gemini以及Meta AI却变得更容易生成逼真的虚假选举图像,而其他工具则几乎没有变化。该中心的测试显示,只有OpenAI这一家公司显著加强了对选举虚假信息的防范。

布伦南司法中心选举与政府项目技术政策策略师阿布迪阿齐兹·艾哈迈德表示,“投票是我们极少数完全为自己做出的决定之一。因此,将它交由聊天机器人决定令人担忧。聊天机器人可能会弄错事实,而它们的答案也可能会被那些最擅长操纵它们的人所塑造。”

据美媒NPR报道,研究人员警告,美国中期选举期间,越来越多的选民依赖AI聊天机器人获取信息,但许多最受欢迎的机器人可能会提供关于候选人和投票站开放时间的误导性信息。部分聊天机器人甚至直接给出了推荐投票的候选人名单。

弗吉尼亚州民主党参议员马克·华纳及多位民主党议员10月曾致信多家头部科技公司,敦促它们确保旗下平台有助于维护中期选举的公正性。他们鼓励这些公司确保其AI内容在回答选举相关问题时,仅从“高度权威的来源”提取数据,而不是来源于社交媒体平台。

美国AI行业面临中期选举后监管政策变化的可能性。据彭博社报道,Meta、Anthropic和微软在内的大型科技公司最近提交的文件显示,它们承认其AI产品可能会面临越来越多的监管挑战,以及可能阻碍数据中心建设的法律规章。科技巨头们正聘请律师和掮客,为即将到来的国会博弈严阵以待,准备应对可能包含大量新税种和新法规的激进监管政策。

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
国际油价拉升,黄金白银齐跌

国际油价拉升,黄金白银齐跌

21世纪经济报道
2026-11-16 15:21:41
震惊!孙宇晨账号短短数日突然消失,前女友曾颖发文:抛出“孙宇晨对她是真爱”,引发全网吃瓜

震惊!孙宇晨账号短短数日突然消失,前女友曾颖发文:抛出“孙宇晨对她是真爱”,引发全网吃瓜

火山詩话
2026-11-14 08:34:16
宝玉刚梦遗,袭人就伸手摸到了大腿根:这场“意外”也太巧了吧

宝玉刚梦遗,袭人就伸手摸到了大腿根:这场“意外”也太巧了吧

如玉公子
2026-11-04 08:30:16
中国人的“大G”来了,29.99万级真男人座驾!

中国人的“大G”来了,29.99万级真男人座驾!

米粒说车唯一呀
2026-11-16 15:00:04
不查不知道一查吓一跳!44岁一家人住北京豪宅的陈婷,私下有多壕

不查不知道一查吓一跳!44岁一家人住北京豪宅的陈婷,私下有多壕

冷紫葉
2026-09-19 12:41:16
宋庆龄一辈子没有生养,1981年法医对她的遗体进行解剖检查,这才揭开了她心底最痛苦的隐情

宋庆龄一辈子没有生养,1981年法医对她的遗体进行解剖检查,这才揭开了她心底最痛苦的隐情

扶苏聊历史
2026-11-12 18:31:31
火箭四喜临门!33岁硬汉归来,杜兰特稳健夺4连胜,3大替补闪耀

火箭四喜临门!33岁硬汉归来,杜兰特稳健夺4连胜,3大替补闪耀

李喜林篮球绝杀
2026-11-16 11:46:25
04年阜阳纵火灭门案,一家四口被害居然源于性亢奋

04年阜阳纵火灭门案,一家四口被害居然源于性亢奋

巍言大案
2026-11-15 11:16:22
终于知道为啥家人得了大病要隐瞒!评论区分享一针见血,太真实了

终于知道为啥家人得了大病要隐瞒!评论区分享一针见血,太真实了

夜深爱杂谈
2026-11-15 22:50:00
28岁女子戴假牙套相亲走红!本想逼退相亲男,谁料父母提前把原装照片给发了过去

28岁女子戴假牙套相亲走红!本想逼退相亲男,谁料父母提前把原装照片给发了过去

王老师你还好吗
2026-11-11 21:45:48
一个叫黄乐的女人,凭什么放倒5万亿美元的全球芯片大佬黄仁勋?

一个叫黄乐的女人,凭什么放倒5万亿美元的全球芯片大佬黄仁勋?

微评社
2026-11-10 09:37:39
MVP概率已断崖第一!东契奇一战又造9纪录 8连胜场均41+9强到发紫

MVP概率已断崖第一!东契奇一战又造9纪录 8连胜场均41+9强到发紫

颜小白的篮球梦
2026-11-16 10:08:32
博士太多,高校已经装不下了?现在就连辅导员岗位都要求博士学历,真的还有读博的必要吗?

博士太多,高校已经装不下了?现在就连辅导员岗位都要求博士学历,真的还有读博的必要吗?

高教经纬88
2026-11-16 11:40:03
中年无性成常态:那些憋回去的性需求,最多都去了这里

中年无性成常态:那些憋回去的性需求,最多都去了这里

觉叔说
2026-11-14 09:53:45
开门一天亏15万,关门却要先花5000万,最窝囊的生意出现了?

开门一天亏15万,关门却要先花5000万,最窝囊的生意出现了?

铜臭的历史味
2026-11-06 00:26:34
她11岁被导演看中,被名导睡了十年被抛弃,如今复出却无人问津

她11岁被导演看中,被名导睡了十年被抛弃,如今复出却无人问津

观察鉴娱
2026-11-15 14:25:45
最新:乌克兰强势反攻顿巴斯南部!收复科马尔住宅区

最新:乌克兰强势反攻顿巴斯南部!收复科马尔住宅区

项鹏飞
2026-11-15 20:59:16
穆里尼奥看走眼!皇马 6300 万弃将彻底逆袭!四大豪门哄抢

穆里尼奥看走眼!皇马 6300 万弃将彻底逆袭!四大豪门哄抢

奶盖熊本熊
2026-11-16 08:54:45
魏莹“陪睡”案新进展:案件细节太颠覆,三方口述揭露更多内幕!

魏莹“陪睡”案新进展:案件细节太颠覆,三方口述揭露更多内幕!

莫地方
2026-10-22 10:22:36
本以为播音员只会念稿,她却穿旗袍劈碎瓦片

本以为播音员只会念稿,她却穿旗袍劈碎瓦片

橙星文娱
2026-11-15 13:04:49
2026-11-16 16:36:49
澎湃新闻 incentive-icons
澎湃新闻
专注时政与思想的新闻平台。
947850文章数 5098769关注度
往期回顾 全部

科技要闻

硅谷大佬组局,帮黄仁勋杀回来!

头条要闻

特朗普:我即将访问中国 期待参加中俄美元首会晤

头条要闻

特朗普:我即将访问中国 期待参加中俄美元首会晤

体育要闻

热火4连胜:就因为维金斯替补了?

娱乐要闻

43岁佟丽娅官宣新身份担任职务不一般

财经要闻

10万人逼宫英伟达,黄仁勋要复职了?

汽车要闻

日产终于开窍了!全新NV200 PHEV才是露营党的梦中情车?

态度原创

教育
健康
手机
本地
家居

教育要闻

日常英语:公交车上问路

情绪真能让健康人"伤心至死"?

手机要闻

荣耀700系列手机搭载“行业独家”2亿柔光背屏自拍:200MP主摄+影棚级柔光环

本地新闻

乌兰察布:以前种土豆,现在种Token

家居要闻

2026建博会(广州) 公装联探展交流活动

无障碍浏览 进入关怀版