AI鉴定AI，下一个千亿级的生意

AI警察，吃到了AI红利。

文｜陈只三

编｜园长

AI只用了5年，就追上了全球人类生产内容的速度。

从2020年1月开始，网络研究公司Graphite为了持续追踪互联网上AI生产的内容，抽样调查了54400个URL，同时用Pangram、Copyleaks和GPTZero三种AI鉴定工具检测，如果一篇文章里真人写的内容低于50%，就会判为AI生成。

Graphite发现，在2025年第四季度，互联网上的AI生成内容超过了人类原创的数量，比例达到了50.9%，而这个数字，在2020年1月还是0.97%。准确地说，AI只用了3年，因为AI内容开始狂飙的拐点，是2022年11月OpenAI发布了ChatGPT。

图源Graphite

从几乎为0到半壁江山，AI的高产程度直追美洲大蠊，甚至开始挤占人类的创作空间。一些衍生产业趁着产能的爆发，也顺势大发AI财，比如为AI建数据中心的基建商、替服务器散热的能源公司，以及AI鉴定工具。

毕竟AI打得越火热，市场对分辨真伪的需求就越强烈。但如果拉长时间线来看，这未必是一门好生意。

一个直观的信号是，这场防守战的难度正在指数级上升。目前市场上的AI检测工具主要是检测AI文本，但随着Deepfake视频、AI图片和AI音频大量进入互联网，检测范围也从一篇文章的AI含量，扩展到了整个数字世界还有多少真实信息。

这意味着一个令人不安的现实：AI制造的假货正在泛滥。

一个建立在恐惧之上的新行业

如果你已经大学毕业，那看起来AI泛滥对你造成的伤害似乎为0，最多就是上班总要路过还打着AI水印的地铁广告，手机里多了些人机味的文章，在被杀猪盘盯上之前，岁月还是很静好的。

问题是，诈骗分子学习AI的积极性，不输给大厂最卷的牛马。Deepfake（深度伪造）技术已经可以生成非常逼真的图像、声音或视频，哪怕是面对面打视频，也可以实时换脸，这项本来广泛应用在影像制作和虚拟主播身上的技术，到了骗子手里就成了跨国网络诈骗和虚假信息传播的利器。

2024年，香港一家跨国公司的职员收到一封钓鱼邮件，对方自称是英国总部的CFO，把他拉进了一个多人会议，会上的CFO和“同事”，其实都是骗子利用公开视频和音频资料，通过Deepfake技术换的脸，在他们的要求下，这名职员最后把2亿港元转到了骗子的账户里。

图源央视网

首席安全官智库CSO统计，2025年，82.6%的钓鱼邮件使用了AI技术，Deepfake驱动的欺诈攻击激增2137%，AI驱动的网络攻击在全球造成的损失预计高达300亿美元，比起AI文本泛滥带来的资讯爆炸，老百姓更需要提防的是吃到AI技术红利的骗子。

不只是个人，企业也深受其害。今年夏天，湖南衡山县的村民们发现，不管在哪个电商平台下单榴莲或车厘子，只要收货地址填的是衡山县，就会被退单，哪怕发货了也会被拦截。

背后的原因，其实是衡山县的谭某疯狂购买金枕榴莲和车厘子，收到货后用AI给水果一键生成腐烂发霉的痕迹，把照片发给平台客服申请退款，再把榴莲和车厘子挂到闲鱼转卖。

就这样下单了100多笔后，谭某和整个衡山县都被电商平台的水果商家拉进了黑名单。

图源央视网

技术快速迭代的同时也在被滥用，AI公司把昂贵的算力打包成廉价的Token，也降低了伪造和诈骗的门槛，成了学术不端、金融诈骗、电商骗赔的温床。以前大家担心AI能不能创造足够好的内容，现在又开始担心眼前看到的内容还能不能相信。科技便利的暗面，是普遍蔓延的信任危机。

用 AI 鉴定 AI ，正是在这种信任危机中诞生的新产业。表面上， AI 鉴定工具在判断图文或视频是不是 AI 生成，真正解决的，其实是帮企业组织和个人降低因为 AI 造假带来的风险。

全球AI警察，出列

AI文本检测工具是率先吃饱的，瞄准教育市场，这也是当前现金流最稳的To C检测生意。

人不会永远年轻，但永远有年轻的大学生在生产毕业论文，国外检测论文AI代写的平台有Turnitin、GPTZero等，国内的知网、维普网等系统也都上线了自己的AIGC检测服务。

GPTZero成立三年，总共融资了1350万美元，年度经常性收入已经达到3000万美元(约合2.03亿元)。Turnitin的用户人数超过7100万，年收入1.05亿美元（约合7.09亿元）。

国内大部分论文检测工具没有披露自己的盈利模式，但AI文本检测工具大体上都是两头赚，学生们订阅会员，或者按字收费购买查重服务；高校和教育机构则按年打包订购系统的许可授权。

更多的AI检测工具赚的是企业的钱，主要提供API接口、SaaS订阅或定制化解决方案，也是最有增长潜力的部分，客户买的是一份托底保障，而不是100%测得准：

比如，君同未来旗下的AI风险评测系统，既负责检测AI幻觉，也能识别用户的恶意提问，刚成立就在天使轮获得数千万人民币的融资，不到两年已经实现盈利，服务对象包括工信部、字节跳动、海康威视、蚂蚁集团等；中慧创杰研发的“白泽AI”幻觉治理引擎，能为银行智能客服系统实时校验金融术语，给线上智慧门诊校验问诊内容，还为网信部门部署AI内容监管平台，日均处理超200万条AIGC内容，成立三年营收就从50万元跃升至4000万元。

咨询机构Dataintelo的调查报告显示，2025年合成媒体（AI生成内容）检测市场规模为38亿美元（约合257亿元），预计到2034年将达到226亿美元（约合1525亿元），复合年增长率将达到21.9%。

B端市场释放出的庞大需求，让AI鉴定从一项附加功能演变为通用的底层基础设施，连芯片巨头也坐不住了。2026年7月21日，英伟达宣布推出合成视频检测器服务（Synthetic Video Detector NIM），号称可以逐帧识别AI生成的假视频，准确率最高可达92%。

图源NVIDIA

把芯片卖给AI公司，给企业和开发者搭建可以在线部署AI模型的微服务平台NVIDIA NIM，现在又提供AI视频检测服务，在这场AI淘金热里，英伟达可以说是又卖铲子，又卖加工机床，现在还要卖试金石。

由此可见，上桌吃饭的不一定是技术最先进的，往往是那些能将检测工具丝滑地嵌入客户工作流程中的。

面向普通人的多维AI检测工具，大部分还是免费试用模式，技术实用性还需验证。比如腾讯的朱雀AI检测助手和合合信息推出的扫描全能王AI鉴伪小程序，提供检测文本、图片和视频的服务。就在上个月，国家反诈中心APP上线了AI内容鉴定功能，由中科睿鉴提供技术支持，可以上传可疑的视频、语音、图片、文本，一键检测是否存在人工智能生成痕迹，每天有10次检测机会。

图源国家反诈中心App

我把三个免费产品都试用了几轮（毕竟免费嘛），扫描全能王AI鉴伪小程序和朱雀AI检测助手成功辨认出了AI生成的内容，扫描全能王AI鉴伪小程序会谨慎地告诉我“AI可能性为76.55%,515字疑似AI生成”，国家反诈中心APP在文本和图片上都测准了，视频检测有点翻车：同一个真人拍摄的短视频，一次说是真的，一次说是AI的，看来反诈之路还是任重道远。

图源扫描全能王AI鉴伪小程序

图源国家反诈中心App

在闲鱼，我还发现了一些用肉眼和经验鉴AI的“工具人”，手搓鉴定结果，每张图的要价低至6块钱。

图源闲鱼

插画师兼设计师的朋友告诉我，这种鉴定的准确率很大程度上依赖卖家对光影、透视和结构等的掌握程度和理解力，有时候更复杂的立绘、厚涂等作品更容易看出是否有AI的痕迹，反而简单的不好分辨。和面向C端的多模态AI检测工具类似，这些服务一样有“测不准”的风险。

是一场军备竞赛，还是一次阵痛？

从企业级解决方案到巨头入场，再到为大众服务，AI鉴定似乎顺理成章地撑起了一片新蓝海。但当我真正测试时，却发现这门生意背后，隐藏着一个更大的矛盾：负责寻找答案的工具，本身也在追逐一个不断变化的问题。

2026年最荒诞的商业闭环已经成型——我们一边花钱买token让大模型疯狂生成内容，又不得不花钱去雇佣另一个AI来检测和清洗AI制造的幻觉垃圾。

问题在于，检测工具不会给你一个100%的确定性结果，不管是文本还是图像影音，都是在找AI留下的痕迹，并告诉你在统计上有多少概率是AI生成的。

所谓概率，其实就是一个大写的免责声明，结果仅供参考。

所以这个行业有个天然的悖论：AI强到泛滥成灾，AI检测工具才有机会挣钱，但AI越强，工具就越容易失效。检测工具永远在追赶生成模型，就像一场无尽的军备竞赛。

幸好，越来越多人注意到了这个问题，并试图从源头上去解决。

2025年3月7日，国家网信办等四部门联合发布《人工智能生成合成内容标识办法》，明确规定从2025年9月1日起，AI生成合成内容必须添加标识，欧盟的《人工智能法案》也出台了类似的标准。

Google、Meta、阿里云等AI公司，都开始在生成内容时直接把人眼不可见的水印深度嵌入AI生成内容，即使被裁剪、压缩和转码，检测算法依然能识别出隐形水印。最好的AI检测工具，其实就是AI生成模型自己。

图源《机械公敌》

按照这个方向，AI检测有可能不是一门持久的生意，而是一次AI浪潮进入新阶段的一次阵痛。等到内容溯源技术全面普及，社会建立新的信任机制，AI检测工具的市场就会大幅萎缩。

然而对于怎么打水印，怎么鉴别水印，行业还没有达成共识和制定统一的标准，AI生成内容未来会变得不需要被检测，还是无法被检测，我们其实也说不准哪一个会更快到来。

参考资料：

Graphite《AI Now Writes as Many Online Articles as Humans》

Dataintelo《Synthetic Media Detection MarketGlobal Industry Analysis, Size, Share, Growth, Trends And Forecast》

CSO：《2025年人工智能(AI)网络攻防数据统计、趋势、成本和防御安全报告》