据全国信息安全标准化技术委员会官网,该会组织制定的技术文件《生成式人工智能服务安全基本要求》(下称《要求》)已于 10 月 11 日形成征求意见稿,现将技术文件面向社会公开征求意见,如有意见或建议,需在 10 月 25 日 24:00 前反馈。

《要求》给出了生成式人工智能服务在安全方面的基本要求,包括语料安全、模型安全、安全措施、安全评估等,适用于面向我国境内公众提供生成式人工智能服务的提供者提高服务安全水平,或是提供者自行或委托第三方开展安全评估,也可为相关主管部门评判生成式人工智能服务的安全水平提供参考。

图源 Pexels
整理部分要求如下:
-服务适用的人群、场合、用途等信息
-第三方基础模型使用情况。
应充分论证在服务范围内各领域应用生成式人工智能的必要性、适用性以及安全性。
此前报道,网信办、发改委、教育部、科技部、工信部、公安部、国家广播电视总局七部门于 7 月 10 日印发了《生成式人工智能服务管理暂行办法》,自 8 月 15 日起施行。