AI连接千行百业网络安全应答新考题

在第十二届互联网安全大会的现场，跳舞机器人、艾灸机器人、自动化妆机和各类AR游戏、智能办公助手、汽车智能座舱都吸引了大量参观者，无处不在的AI技术昭示着一个新时代的到来。

展厅中，正在计算机专业就读研究生的郭同学向记者表示，他目前的研究方向和这两年爆火的大模型密切相关，当前越来越多的AI 大模型技术被应用到了工业生产、医疗服务、日常办公、艺术创作等方方面面，未来也可能会更多深入民众的工作生活，成为日常不可或缺的一部分。

随着AI的使用场景愈发丰富，互联网安全作为互联网生态的基础性支撑，在使用范围和用户需求上都有了新的变化。多位专家和行业人士表示，“安全+AI”的新生态带来新场景，成为驱动互联网安全产业发展的关键动力。

“安全+自动驾驶”就是其中极富代表性的“新生态”之一。

山石网科副总裁贾宇告诉记者，自动驾驶过程中感知系统、分析系统、决策系统协作运行，都需要智能网联技术的加持。如果未来主驾位无人的自动驾驶汽车进入商业化推广阶段，出于对人身安全的保护，无人驾驶汽车的信息安全就会变得非常重要。他提到，在驾驶场景下，安全监管需要同时满足高性能和低延迟两项要求，以平衡网络安全和物理安全。因为软件延迟如果过高，车辆行驶中事故发生的概率也将提升。

360集团创始人周鸿祎则表示，随着汽车行业智能化的发展，汽车在出厂前不仅需要进行物理世界的碰撞试验，同样要在数字世界里要经过“数字碰撞”，以保证没有明显的数字安全漏洞。除去车身安全，车厂安全也需要被重点关注。周鸿祎表示，攻击车厂的难度比攻击车身低很多，因为车厂网络与普通办公网络差异不大，更容易出现漏洞。而如果车辆接入车联网，车厂被“拦截”一样会带来严重后果。

应对新挑战

当前，以生成式人工智能为代表的新一代数字技术逐渐成为引领科技创新、提高新质生产力的关键力量，同时也带来了社会伦理以及数据隐私泄露等挑战。

公安部原副部长、国家网信办原副主任陈智敏表示，确保数据安全是人工智能安全的基本保障，而构建与新质生产力相适应的新型生产关系则是保障其可持续发展的当务之急。应健全关键核心技术攻关的体制机制，将政府、市场、社会有机地结合起来，健全要素参与、收入分配机制，激发各类经营主体的创造活力。深化教育、科技、人才体制机制创新，畅通三者的良性循环。

贾宇表示，AI技术的发展对网络安全行业带来了巨大冲击。新技术带来新使用场景的同时，安全问题也自然随之而来。例如，AI大模型从学习到输出的过程中会需要和输出海量数据，如何保证这些数据不会被污染，污染了以后如何处理，都是网络安全行业需要考虑的问题。

中国工程院院士吴世忠从生成式人工智能安全研究的总体态势和技术热点角度对行业当前发展趋势进行了分析。他表示，AI技术带来的新型安全问题已成为现实，安全行业将迅速迈进AI驱动的新时代。然而，目前对大模型安全的研究才刚刚开始，相较于技术发展，安全研究明显滞后。

推动协同共治

中国科学院院士、清华大学计算机系教授张钹提到，由于当前计算机LLM基础模型的局限性，AI和人工智能生成的语言与人类语言本身只是行为上的相似，内在机制完全不同，因此虽然大模型拥有强大的语言生成、对话、迁移能力，但必然会出现“幻觉”——也就是质量上的不可控和内容上的不可信。因此在人工智能技术发展的同时，构建可解释的AI理论与方法极为重要。这也需要政府、企业等各方参与者能够保持开放的态度协同共进，在技术发展的过程中关注AI大模型和人工智能相关伦理规则，形成社会和全球范围内的共识。

陈智敏提到，在AI时代更应坚持科学向善的原则，这是人工智能发展过程中面对潜在威胁必须坚持的道德伦理底线。针对个人信息被窃取盗卖引发犯罪、危害社会公共安全等问题，要建立健全数据确权、数据安全保障、算力安全审查等制度，为人工智能发展形成正确的价值导向和稳定的社会预期提供有力的保障。

世界互联网大会秘书长任贤良表示，人工智能迎来发展与治理协同共进的新阶段，在人工智能时代，确保网络安全不仅是保障互联网作为全国各行业纽带的核心要素，更是实现人工智能为社会带来福祉的基础前提。应该倡导遵守网络空间国际规则，将防控网络安全风险放在人工智能发展与治理的重要位置。此外，广大数字安全企业应以技术为本，深入研究人工智能等重点领域，构建跨领域、多层次的数字安全技术产品和服务创新体系，同时注重开放合作，推动协同共治。