山东
近日，腾讯发布重要消息，旗下朱雀实验室精心打造的全新 AI 检测工具“朱雀”AI大模型检测系统正式上线，意在切实帮助广大用户高效且精准地识别 AI 生成的文本与图像内容。随着AI技术发展迅速发展，AI制作的内容真实感也越来越强。无论是AI生成的文本，还是图片，或是视频，生成式AI因其强大的学习与自我纠错能力，能够精准洞察用户需求，这一趋势也引发了高校对于学术诚信和学术质量的担忧，不少高校纷纷出台规定，规范大学生对AI工具的使用。（此前报道→AI席卷学术圈，高校首发“AI禁令”引发热议。）
虚假信息的传播对社会造成了潜在的威胁，尤其是AI生成的图像和文本在外观上愈加真实，使得人们难以分辨。为了应对这一挑战，腾讯推出“朱雀”AI大模型检测系统。
这款AI检测工具的核心功能是快速识别AI生成的图像和文本。在图片检测方面，通过对用户上传的图片进行几秒钟的快速验证，判断该图片是否由AI生成。该系统的原理基于捕捉真实图片与AI生成图像之间的差异，如逻辑不合理、包含隐形特征等。为了确保检测的准确性，腾讯在模型训练中使用了140万份正负样本，涵盖了人体、人像、风景、地标、植物、电影、游戏和新闻等多种内容类型，最终测试的检出率达到了95%以上。
在文本检测方面，通过对比检测文本与大模型的预测内容，能够推测出文本的AI生成概率。腾讯的检测系统经过了大量正负样本的训练，能够覆盖新闻、公文、小说、散文等多样化文体，甚至未来还计划扩展至诗歌等其他体裁，以进一步提高识别准确率。这一检测系统不仅能够用于普通用户的日常检查，还对新闻媒体、教育机构等对文本真实性要求较高的行业有着重要的应用价值。
“朱雀”的应用场景十分广泛。例如，在社交媒体上，用户可以利用这款工具来检测自己收到的图片和文本是否由AI生成，避免受到虚假信息的误导。在新闻媒体行业，编辑和记者可以利用这款工具来验证新闻稿件的真实性，确保报道的准确性和公信力。在教育领域，教师和学校可以利用这款工具来检查学生的作业和论文是否抄袭了AI生成的内容，维护学术诚信。
此外，腾讯还表示，“朱雀”的视频功能也在积极研发之中。未来，用户将能够利用这款工具来检测视频内容是否由AI生成，进一步拓展其应用场景。“朱雀”的推出，不仅是对市场需求的回应，更是对未来内容创作的引导。
随着AI技术的不断进步，AI生成的内容质量越来越高，使得这种内容更难辨别。因此，拥有一款高效的检测工具将有助于公众在这个信息爆炸的时代中提高鉴别力，避免受到虚假信息的侵害。这也提醒我们，在使用AI技术的同时，也要关注其可能带来的风险和挑战，并积极寻求解决方案。
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
