多地严查AI造谣，整治“按键伤人”

　　8月7日，首都机场公安发文呼吁理智“追星”。　首都机场警方供图

　　从网民利用AI造谣“广州即将成为全国首个限制外卖配送的城市”，再到多位奥运健儿遭遇网暴，涉演唱会门票诈骗高发……今年以来，违法犯罪活动呈现出新趋向。

　　在此背景下，南都、N视频记者注意到，警方不断深化分析研判，出重拳、亮利剑，全面发起凌厉攻势，深入推进“净网”专项行动，持续整治网络造谣、网络暴力，严厉打击虚假演唱会门票诈骗，有力遏制相关违法犯罪新苗头，回应群众新期待。

　　此前，南都、N视频联合孙杨、苏炳添、梁小静、林跃、范忆琳等知名运动员，以及广东省田径协会、广东省游泳协会等多方发起倡议，共同抵制体育“饭圈化”乱象，近期对话学者，共同探讨新趋势下的社会治理之策。

　　多人利用AI造谣被处罚　　

　　“广州即将成为全国首个限制外卖配送的城市”形成网络热搜，经查系网民利用AI造谣；网民编造“深圳高中生兼职卖淫女”的虚假文案，利用AI合成虚假短视频后发布，被警方处罚……

　　随着AI技术的发展，不法分子为了牟利、引流，利用“AI生成图文”“AI换脸”“AI脱衣”工具作案愈演愈烈。

　　南都此前调查发现，给出相应指令后，一些AI工具就能快速批量扩写出不同的故事文案，有的每个月会员费只要99元，充值一年还能打五折。

　　南都记者随机点进一个“AI文案速写”的小程序中，在对话框内输入创作有关“抢劫”“霸凌”“火灾”3个主题内容的详细指令，就快速得到3段被扩写至100字左右不同故事情节的文案，其中还有一些生动的细节。

　　无论新技术如何发展，针对网络谣言的打击整治从未间断。

　　广东省公安机关纵深推进“净网”专项行动，今年以来，截至7月2日，依法侦办查处网络谣言案件899起、网络水军案件105起，全力整治网络乱象，其中不乏有人利用AI造谣被查处。

　　5月，深圳网民刘某某为博取关注、增加点击量，先编造“深圳高中生兼职卖淫女”的虚假文案，然后利用AI视频软件根据文案合成虚假短视频后发布，相关信息引发网民热议，其行为扰乱社会公共秩序，造成不良影响。属地公安机关依法对其处以行政罚款的处罚。

　　此前，还有网民发布“广州即将成为全国首个限制外卖配送的城市”的消息，迅速形成网络热搜。

　　经查，四川德阳网民杨某组织招揽广东江门网民叶某英等多名兼职人员，使用人工智能工具批量生成不实文章进行引流牟利。叶某英为吸引眼球编造发布上述谣言，扰乱社会正常秩序。广东广州公安机关已对杨某、叶某英等6名人员采取刑事强制措施。

　　“随着技术快速发展，相对于生成视频图片，纯文本大模型的技术难度较低，生成文本也是非常基础的功能，例如给定一个框架让AI批量生成内容，速度是非常快的。”中国计算机学会计算机安全专业委员会数字经济与安全工作组成员方宇告诉南都记者，犯罪分子利用AI工具生成谣言的成本比较低。

　　“目前监管机构、平台方正在努力，通过更有效的技术和管理措施，来识别和阻止这类行为，降低AI工具在这一方面的负面影响。”方宇认为，除了监管与执法，还可以从加强技术防范、公众网络安全教育、鼓励行业自律、开展国际合作、激励社会共治等角度入手开展治理。　　

　　严厉整治“按键伤人”　　

　　“每个字都像是射出的子弹。”近年来，网络暴力事件层出不穷，“按键伤人”已成为一个社会问题。

　　今年3月，广州胡某与前女友分手后，以散播发布前女友私密视频作为要挟，要求继续与其保持男女朋友关系。被拒绝后，胡某将前女友私密视频发布到多个微信群，实施网络暴力行为，造成恶劣影响。属地公安机关依法对其予以刑事拘留。

　　深圳黄某某与前男友分手后存在纠纷，为诋毁前男友，黄某某将前男友照片修改为遗像，配上出殡背景音乐，并搭配文字污蔑前男友吸毒、前男友母亲卖淫，在短视频平台发布、扩散。最终，属地公安机关依法对其作出行政拘留处罚。

　　为有效净化网络环境，广东省公安机关深入推进“净网”专项行动，持续整治网络乱象。今年以来，截至9月3日，广东共依法侦办网络暴力案件289起，查处违法犯罪嫌疑人447人，有力打击了各类网络暴力违法犯罪活动。

　　恶意诋毁、无故中伤，这些网络上不良的“饭圈”风气正向体育界蔓延。一些人顶着虚拟ID，在网上随意发言，宣泄情绪，肆意妄为。殊不知，这类行为已经触及法律底线，引得公安机关出手，开展打击治理行动。

　　今年夏天的巴黎奥运会上，赛场内外部分粉丝互相拉踩。公安部网安局特别点名“涉体育领域‘饭圈’违法犯罪行为”，强调公安机关网安部门高度重视“饭圈”乱象，并会同有关部门依法严厉打击相关违法犯罪行为。

　　8月13日，广州市公安局番禺区分局通报了一起案例。

　　王某自5月以来，在网络社交平台上多次发表辱骂、诋毁中国国家队运动员和教练员的言论，造成恶劣社会影响，其行为已涉嫌扰乱网络秩序和公然侮辱、诋毁他人。最终王某被广州番禺警方依法刑事拘留。

　　中国传媒大学文化产业管理学院法律系主任郑宁告诉南都记者，包括公安打击在内的司法举措，是一种事后途径。针对“饭圈”网暴等乱象，还需要依靠各方合力系统治理。

　　郑宁指出，从主管部门角度，则是通过出台上述政策推动治理。社交平台方则要依据规定，及时处置违法违规账号。　　

　　摧毁演唱会诈骗黑灰产业链　　

　　今年以来，演唱会市场强劲复苏，持续火爆。“分手票”、伪装“粉丝”含泪转让、“黄牛”出售低价票……随之而来的是诈骗分子钻起了新“空子”。

　　广东警方监测到，省内虚假演唱会门票诈骗案件有多发苗头，随即组织多地开展专案攻坚，深挖该类犯罪产业链条，发起了一系列高质量打击，有效遏制了此类案件蔓延趋势。

　　其中，佛山市公安机关针对虚假买卖演唱会门票诈骗案开展专项攻坚，发现一批盘踞当地的犯罪团伙，打掉犯罪团伙7个，抓获犯罪嫌疑人88人。

　　肇庆市公安机关针对本地演唱会门票诈骗案件进行研判分析，发现多个专门为虚假演唱会门票诈骗“引流”的窝点，抓获犯罪嫌疑人39人。

　　广东警方深挖扩线，摧毁为这类诈骗服务的黑灰产业链。

　　6月，广东省公安厅组织广州、深圳、珠海、汕头、佛山、惠州等14个地市发起“铲诈23号”集群战役，对虚假演唱会门票买卖类诈骗团伙开展统一收网打击行动，抓获犯罪嫌疑人219名，取得了灭团伙、清源头的整体性、系统性成效。

　　为进一步深挖该类犯罪的黑灰产业链，打深打透，省公安厅组织指导佛山市公安机关进一步强化审讯攻坚，深挖扩线，并发起全国性集群打击，有力打击了该类犯罪产业链。

　　今年4月，深圳市公安机关对本地虚假演唱会门票买卖诈骗案件进行集中研判，经缜密侦查，发现一条利用网上支付为上游犯罪集团提供资金结算的产业链条，掌握涉案嫌疑人100余人，关联全国电诈案件40余起。

　　6月，省公安厅组织指导深圳市公安机关开展集中收网行动，先后在全国多地抓获犯罪嫌疑人114人，成功摧毁该条黑灰产业链。

　　截至8月20日，广东省共打掉该类诈骗团伙125个，刑事拘留犯罪嫌疑人1689人。

　　广东警方分析，虚假演唱会买卖门票诈骗案件中，嫌疑人主要通过社交类App，以“票务代理”“折价转让”等话术，发布演唱会门票售卖信息。

　　初步取得受害人信任后，诈骗分子便谎称平台有监管，需另外通过微信或其他方式私下交易，诱骗受害人添加微信、QQ等进行转账，或通过微信、QQ等发送虚假的购票网站链接要求填写银行账号、密码和验证码进行购票，从而盗刷受害人的银行卡。　　

　　统筹:南都记者 向雪妮 韦娟明

　　采写:南都记者 敖银雪 韦娟明