如何应对人工智能带来的认知安全挑战？院士提出四点对策

12月5日，2024第三届北外滩网络安全论坛在上海“世界会客厅”举行。多位院士专家与会，共同探讨网络安全技术的最新进展、分享标杆案例与应用经验，探索多层次、多维度合作机制，推动构建更加安全、可靠的网络空间。

论坛上，中国工程院院士、中国信息安全测评中心专家委员会副主任黄殿中发表了题为《智能时代网络空间认知安全新观察》的主旨演讲。

黄殿中院士发表主旨演讲。澎湃新闻记者 徐亦嘉 图

黄殿中从人工智能革命掀起认知安全新浪潮、人工智能技术塑造认知安全新范式、人工智能治理构建认知安全新秩序等三个方面，探讨了人工智能在网络安全中的应用以及改变国际认知格局等议题。

在黄殿中看来，人工智能技术的发展和应用已成为认知安全格局中的关键因素，将给全球权力结构和国际关系带来深刻变革。尤其是近两年来，以生成式智能为代表的人工智能技术与应用发展，被视为推动新一轮科技革命发展的风向标。而在国家战略层面，人工智能已成为大国竞争的关键赛道。

人工智能作为引领未来的战略性基础，新一代人工智能、特别是生成式人工智能导致认知安全态势呈现巨大变化，使得人工智能治理的重要性和紧迫性日益凸显。此外，深度伪造、社交媒体机器人、精准算法推荐等技术助推了认知域安全性的复杂化。如何在保持技术创新活力的同时，有效地防范认识安全风险，已成为全球人工智能企业的重要议题。

对此，黄殿中分享了4个应对的策略：一是以创新应对，加快认知安全防护技术的突破。未来，中国需从理论角度，分析以人工智能技术来应对智能化认知安全挑战，加快认知安全防护技术的突破；二是以法治应对，完善认知安全法律制度。打造具有中国特色的治理模式，有效地实现认知威胁的防范，确保技术发展遵循人类共同的价值观；三是以协同应对，构建认知安全协作机制。要积极推动多部门协作，通过政策协调、资源整合和跨地域的合作，推动技术创新和行业应用的加速落地，打造具有国际竞争力的人工智能产业集群；四是以良知应对，共建认知安全的数字未来。要坚持以人为本，智能向善，从社会治理角度完善认知安全的治理。