警惕AI造成的 “污染”！需要注意点啥？

你知道“Ai”也能造成污染吗？有的朋友可能会对这个说法感到陌生，那小夏再给大家给大家举几个例子。当你浏览一篇新闻，却发现是Ai杜撰的；当你看到一个明星在为某产品代言，却发现是Ai伪造的；当你刷到一位高颜值的自媒体博主，一刷评论区却发现竟然也是ai生成的……诸如此类的例子不胜枚举，在你不知不觉的情况下，你所接触的环境里已经充斥着Ai创造的、真假不明的“污染物”。

这一点，咱通过数据可以看得更清楚。清华大学今年发布的研究报告显示，近一年来，经济与企业类AI谣言量增速达99.91%。美国某调查机构也称，生成虚假文章的网站数量自2023年5月以来激增1000%以上，涉及15种语言。一些专家则认为，AI制造的“信息垃圾”产量庞大，且辨别难度较大、筛选成本较高（资料来源：新华社24241022）

当然，有不少Ai产物还存在明显的瑕疵，文章语言空洞生硬，被人调侃“废话文学”、人物“千人一面”，充满“假人感”……而这些案例也被人们戏称为“Ai替代不了人类”佐证。可大家有没有想过，如果真的有人没办法辨认这些信息，或者Ai伪造的技术真的到了一般人都“真假难辨“的程度，这类咱平时一笑置之的信息所带来的危害也日渐显露了出来。

近日，就有一港星称有人通过人工智能技术盗用他的形象，用于为一个某知名的药膏品牌代言，并称这种行为纯属欺诈，旨在误导公众并从中取利。无独有偶，特斯拉首席执行官埃隆·马斯克也深受其害，今年8月，他的形象被AI编辑后，生成了向公众推荐某投资理财产品的视频，看了视频之后，有人出于对明星本人的信任，进行了投资，结果血本无归。（资料来源：中国工业报20241112）

除此之外，”AI污染“还涉及法律、伦理甚至社会稳定等诸多问题。AI制造的虚假内容，或侵犯知识产权、动摇版权规则，也涉嫌侵犯个人隐私、泄露身份信息，且有滥用风险，恐扰乱、操控社会舆论，AI制造的违法行为还会加大社会治理难度。

既然存在如此多的风险，此类AI技术为何仍旧盛行呢？小夏注意到，此类技术在营销、电商等领域可谓大有用处。以电商为例，有从业人员表示，靠着AI视频技术，他家的产品推荐视频，不仅能在极短时间里就翻译成了几十种语言，还能模仿当地人的口音，不仅迅速拉近了和目标国家消费者的心理距离，扩大了受众群体，还节省了寻找专业人才需要花费的精力和成本。然而，随着之而来的就是前面提到的各类粗制滥造、虚假宣传以及侵权问题。（资料来源：中国工业报20241112）

这类问题的产生得从训练AI的来源说起，据相关人士透露，当前生成式AI最稀缺的资源，就是包含大量人类经验智慧的资料。举例来说，尽管AI能够知晓当今所有的成文法、行政法规以及海量的典型案例信息，但资深律师的在实践中获取的经验智慧却是无从获取的。此外，一些用于训练AI模型的信息，尽管是公开的，也屡屡引发版权危机。小夏今年6月给大家分享的索尼、环球和华纳为首的三家唱片公司起诉音乐领域的两家技术企业大规模使用其公司的版权音乐用于训练AI模型一案，即是很好的例子。（资料来源：中国工业报20241112）

要遏制住这类无形中的“污染，需要大家的共同努力。首先，从源头来看，应明确AI平台对源头素材的把控责任和对生成内容的监管责任，完善AI内容生成规则，强制对AI生成内容打上显著标识，提升AI技术的透明度和可解释性。其次，在监管上，有关部门及企业需将监管重点放在对AI生成内容的筛查及审核上，可开发相关的审查算法，规范生成内容向舆论场的流入及传播途径，及时发现并删除低质量或虚假内容。最后，用户自身也应提高辨别能力和防范意识，可使用反向搜索工具，检查内容来源和作者信息，分析内容的语言和结构特征，从而鉴“伪”鉴“劣”。 （资料来源：新华社20241022）

今天的话题我们就聊到这里，你平时接触最多的“AI污染”是什么？你能分辨得出来吗？或者有什么好办法能够避免被“AI信息”牵着鼻子走的情况发生呢？欢迎在评论区分享你的经验哦！

温馨提示：本文所述不作为个股推荐。本资料不作为任何法律文件，资料中的所有信息或所表达意见不构成投资、法律、会计或税务的最终操作建议，我公司不就资料中的内容对最终操作建议做出任何担保。在任何情况下，本公司不对任何人因使用本资料中的任何内容所引致的任何损失负任何责任。我国基金运作时间较短，不能反映股市发展的所有阶段。市场有风险，入市需谨慎。