完蛋！我被AI美女包围了，AI技术不该这样用

随着人工智能技术的不断突破，如今的内容制作正在变得更容易上手。无论是文字内容输出，还是视频剪辑制作，都有着相应的AI工具来帮助实现。

但与此同时，AI的急速发展也带来了技术支持之外的“蝴蝶效应”。

如今，不少网友都喜欢在各大平台上观看跨文化交流的内容。这些内容往往充满了文化碰撞和生活趣事，生活化又切入点独特，很能吸引人看下去。

然而，随着这一视频制作领域的火热发展，有些人却开始通过AI技术来“批量制作、程序化生产”外国美女博主。

AI美女涌现

这些AI生成的“外国美女”频繁出现在社交媒体上，他们与网友互动、讲述自己的生活、分享家乡的文化、表达自己的期望。

初看之下，这些内容似乎与真人录制的视频无异，但实际上，它们却是AI技术的产物。从画面到语音，甚至口型动作，都透露出这是一项较老的AI技术所制作的，而非最新的技术。

观察这些AI生成的美女账号，可以发现他们往往使用相同或类似的文案，视频画面则是选取了其他博主的视频片段并换脸后重复使用的。

因此会出现大量说着同一段话的不同账号，甚至这些账号中的外国美女有时候会有着一样的外形轮廓和背景。

（短视频账号截图）

虽然这些AI制作的视频在技术和细节上显得相对粗糙，例如口型与发音不同步，但依然收获了大量热情的评论和欢迎。观众们似乎并不介意这些形象并非真人，而是AI合成的产物。

然而事实却是，对于熟悉AI技术的人来说，这些内容的人工痕迹显而易见；但对于初次接触或不常关注这类内容的人而言，他们可能很难区分真实与虚拟。

哪怕平台在视频下方标注了“内容疑似AI生成，请谨慎甄别”，但还是会有部分网友由于对“AI”的概念不理解，认为其中显示的是真实的人。

（短视频账号截图）

而在这种情况下，这类虚拟内容可能会误导那些不熟悉AI技术的观众，让他们对一个完全虚构的角色投入真实的情感。

通过这类账号的评论区，也能够看到确实有很多网友真的认为视频中的是真人、视频内容则是真情实感地表达。

（短视频账号截图）

流量的尽头是带货

那么，这些账号背后的运营者这么做的原因是什么呢？

按照相关的调查报告来看，这些账号的吸粉速度很快，在通过几个视频引流并积累到一定粉丝量后，就会进行带货。带货的产品定价往往不会太高，但佣金不低。账号背后的运营者通过大量账号的带货，就可以获得不低的收入。

（短视频账号截图）

目前，网信办2024年“清朗”系列专项行动中提到了网站平台要对AI生成信息进行标注。各平台目前也已经加强了对AI类账号的监管。

就此，这类AI生成式账号的存在空间正在变小，目前查询可以发现不少账号已经停止更新或者全部清空。

技术应用的底线在哪里？

在看过了大量这类AI账号后，可以发现这些视频制作十分粗糙，但是这样的技术已经令不少网友受到了欺骗。

那么在如今更新、更先进的技术下，又会有多少人无法区分虚假和真实呢？

事实上，目前这类视频已经可以做到越来越逼真，不少最新的AI视频已经令许多人很难判断是否真实。

而随着技术的发展，让多数人真假难辨的情况早晚会出现。在这种情况下，明显的提示不可或缺。用户应该有知情权，应该被告知所观看的是AI生成的内容，并非真实的人物。

那么，如果你看到一个制作精良的AI生成内容，无论是主播还是美女，与你进行交流，你会愿意相信它是真实的吗？