天目 – 人民网推出的AI内容检测工具

天目

天目智能识别系统是什么 天目...

一、天目的基本概念

天目是人民网传播内容认知全国重点实验室研发的智能识别系统，于2023年12月9日正式发布，是探索“用AI治理AI”的内容风控新模式的成果。它主要专注于对人工智能生成内容进行识别、对深度伪造内容进行检测，并且有能力对合成手段进行追根溯源的智能识别系统。

二、天目的功能特点

1. AI生成文本识别准确率高
   • 天目在公开测试数据中，对国内外主要人工智能大模型生成中文文本的识别准确率达到93%，能够精准辨识文本是否由AI生成，确保内容的真实性和可靠性。例如在学术领域，可以有效防止AI创作内容冒充为人工撰写的论文；在媒体内容创作方面，保证所发布内容不是由AI生成却未声明的情况发生。这一高准确率在当前人工智能内容识别领域表现出色。
   • 研发团队还在持续优化算法能力，以进一步提高识别准确率。随着更多新的人工智能技术及更多类型的AI生成内容出现，天目的识别能力也将不断提升，适应不断变化的识别需求。
2. 深度伪造内容检测功能
   • 不仅能够识别普通的AI文本，还对深度伪造内容有效检测。在如今网络信息纷繁复杂的环境下，大量虚假信息或者经过精心编辑伪装的内容充斥其中，天目可以发现这些隐藏在深处伪装成正常内容的危险信息，例如某些可能被篡改成看似权威的新闻报道或者虚假的资讯。
   • 在社交媒体、新闻媒体等场景中，深度伪造内容检测功能有助于维护信息的真实性和可信度，阻止虚假信息的传播和扩散。
3. 合成手段追根溯源能力
   • 可以追溯合成内容制作方法的能力，帮助用户了解内容的原始来源和真实性。例如针对一些疑似被AI篡改或者伪造的作品，通过追根溯源知晓是通过哪种AI模型或者什么方式合成的，这对于追究责任、判断内容可靠性等方面具有重要意义。
4. 高效处理能力
   • 支持单次最多10万字的数据检测，且对于DOC、TXT格式文档文件可以直接上传导入检测。并且能够快速生成检测报告，高效地将分析结果呈现给用户。无论是长文档的学术著作，还是大规模的新闻资讯稿件，天目都能够进行有效检测，并且快速反馈结果，这对于提高工作效率，特别是对于处理大量文档内容时的效率提升十分明显。
5. 标识清晰便捷查看
   • 系统对于疑似AI生成的句段采用高亮显示的标识方式，明确指示内容的检测结果。使得用户在查阅检测结果时能够方便地区分人工创作内容和AI创作的内容，无论是内容审核人员还是普通使用该系统查看检测结果的人，都能够简单明晰地理解检测结果的含义。

三、天目的应用场景

1. 学术评审领域
   • 在学术研究中，随着AI写作工具的普及，学术不端行为有可能增加，天目可以准确识别论文、报告等内容是否由AI生成。这有助于维护学术的公正性和严肃性，确保学者独立的学术创作成果得到认可。例如在高校、科研机构进行论文评审时，可以利用天目快速筛查稿件是否涉嫌AI作弊，如同一名监督学术道德规范的智能助手，保障学术成果的真实和诚信。
   • 对于检查引用文献是否存在AI伪造的嫌疑也有很大作用，如果引用的内容本身是通过AI伪造并且未被发现，可能会误导后续的研究，天目可以帮助避免此类情况的发生。
2. 内容创作领域
   • 媒体、自媒体等内容创作者在创作过程中可能会使用到AI提供的信息或者AI生成部分内容的辅助。天目能够帮助他们明确识别出哪些内容是AI生成的，确保创作过程符合创作规范。一方面让创作者能够合理按照规定公开AI在创作中的作用，另一方面避免因过度使用AI而可能出现的版权、真实性等风险。
   • 大型内容创作企业也可以在内容生产流程中使用天目进行最后的内容检测，筛选出不合适或者存在AI未声明使用的内容，把好内容出品关。
3. 教育领域
   • 在教育过程中，学生可能会受到新的AI工具影响而产生使用AI作弊的情况。天目可以检测学生提交的作业、考试内容是否由AI生成。老师就可以借此判断学生在知识学习和作业完成中的真实情况，并且能够培养学生正确使用工具和独立完成学习任务的意识。
   • 同时，教师在编写教案、课程内容时，也可以用天目检查是否不经意间引用了AI伪造的信息作为教学资料，保证教学内容来源准确可靠，有助于对学生传递正确的知识内容。

四、天目与其他类似产品比较

1. 与其他AI识别类产品
   • 功能侧重不同
     • 部分AI识别类产品主要针对图像识别、语音识别等单一或少数几种任务。例如某些产品专注于人脸识别、车牌识别等，功能相对比较集中在特定非文本内容的识别方面。像神目AI更多的是在人脸识别、车牌识别等方面有专门的SDK功能，如人脸检测、车牌字符识别且在速度和准确性上在其适用范围有所专长，而天目更专注于文本内容的盘古（这里盘古根据前面推测应该是指文章类文本内容）识别与深度伪造内容的检测等，尤其是针对AI生成文本内容进行识别，这是很多一般识别类产品所不具有的功能。
     • 有一些其他AI识别产品虽然也是针对内容相关，但可能侧重于语法检查、抄袭检测等方面。天目重点在于从是否是AI创作角度进行识别、检测深度伪造内容且能追根溯源。
   • 应用场景区分
     • 像识别类产品多应用于安防（人脸识别用于门禁安防等）、交通（车牌识别用于交通管理等）等场景。天目主要应用在与内容的真实性检查相关的场景，如学术、媒体、教育等，这些场景需要确定内容是否被伪造或者是否是AI创作，与安防和交通等场景有较大的区别。
   • 准确率方面
     • 在各自擅长的区域准确率都会有所不同，以天目在AI生成文本识别准确率达到93%为例，其他非专门针对AI文本识别的产品在针对AI文本识别方面难以达到这样的准确率，而其自身的准确率优势在特定场景需求下具有明显的竞争力。不过像在神目AI在人脸检测或者车牌识别时也有自己的优势准确率，在其对应的适用场景下表现出色。
2. 与其他综合AI工具对比
   • 功能集成性
     • 一些综合AI工具像天工AI是集AI生成文字、图片、音乐、PPT、搜索等多功能于一体的强大AI工具。而天目功能比较单一，仅专注于人工智能生成内容的识别、深度伪造内容检测和合成手段的追根溯源三个功能领域。天目没有像天工AI那样去支撑多种内容生成等多功能业务，功能更纯粹聚焦在内容风控识别领域。
     • 在一些通用基础能力方面，综合AI工具可能运算能力强、可用于多种格式生成等。但天目为了特定任务进行了能力专门化，如能够支持单次多字的数据检测并且快速生成报告，在这特定的数据处理能力和格式方面有自身的特点。
   • 目标用户群体
     • 综合AI工具的目标用户群体广泛，可以满足不同的人群如一般创作者、学生、职场人士需求。天目的主要目标用户群体为对内容真实性和来源严谨性要求较高的群体，例如学术评审机构、内容制作企业、教育机构等，以满足他们在各自场景下对内容中AI成分检测的需求。