AI生成内容可以检测！准确率超90%

从 AI绘画、音乐创作到虚拟人，到最近兴起的 ChatGPT，随着 AI生成内容（AIGC）技术的快速发展，使内容生产模式发生了重大变化。同时，如何在网络内容的“生长”中，寻找一种能够辨别真伪、辨别真伪的技术标准，将是关系到整个产业长期、健康发展的重要因素。

今天，AIGC-X在网络上进行了公开测试。据了解，该系统是由《人民日报社》牵头，依托《人民网》建设的“传播内容感知”国家重点实验室、中国科技大学、合肥综合科研中心人工智能研究院等单位共同研发的，是我国第一款基于 AI的内容感知系统。您可以访问http://ai.sklccc.com/AIGC-X/#/进行测试。

该系统能够迅速地识别出机器产生的文字和人为产生的文字，在中文文字的识别方面，其识别精度已经达到了90%以上。

交流内容感知国家重点实验室总研究员张勇东认为，由于 AIGC具有对话咨询、文字写作、内容修整等多种应用场景，将会进入一个全新的发展时期。伴随而来的伦理规范、内容侵权、信息造假等风险也不能被忽略，亟需研发有针对性的检测产品，提高对内容生产新范式的监管治理技术能力。

他表示，AIGC-X可以利用算法融合和知识驱动的人工智能框架，利用深度建模来捕获由 AI技术产生的虚假新闻、内容抄袭、垃圾邮件等，它在内容版权、网络钓鱼、虚假信息和学术造假等内容安全、内容风控等领域有着广泛的应用前景。将来，AIGC-X将进一步拓展，使其能够应用于由人工智能产生的文字、图像甚至视频等多个领域。

“AIGC亟需一个正确的导向和标准。”“传播内容认知”国家重点实验室研究人员靳国庆也指出，要注意防止“AIGC”在“虚假信息”、“学术造假”、“网络钓鱼”等“灰色地带”的误用。“AIGC-X将促进人工智能风险管理和安全评估技术的发展，为构建安全、可控制的 AIGC生态系统奠定基础。”

据悉，在这次AIGC-X的发布前，中国传媒大学的“内容识别”国家重点实验室已经研发出了“智晓助”、“白泽”两套以人工智能为基础的内容风险控制体系，目前已经有上百个组织在应用。以内容风险管理为主业的《人民网》资讯科技有限公司，以AIGC-X为基础，以“人民审校”为平台，推出了一款“捕获 AIGC”软件。

根据工业和信息化部发布的数据，现在，在中国，人工智能核心产业的规模已经达到了4000亿元，拥有了将近4000个左右的公司，它所带动的相关产业的规模已经达到了几万亿元，而且还会继续快速地增长。业界人士认为， AIGC是一种新型的“数字经济”与“实体经济”相结合的商业模式，将极大地赋能企业的创新发展。

张勇东说：“AIGC-X并非一成不变的技术，它将伴随着 AIGC的成长而成长。AIGC-X由于受到时间、资源等因素的限制，其对一些特殊问题及应用的支持还不够完善。比如，AIGC-X现在只能对中文的内容进行检索，英文的检索还需要进一步完善；在此基础上，还需提高对图像、音频、视频等内容的探测能力，以实现对全媒体的探测，保障 AIGC的健康发展。