AI“双刃剑”，我们如何应对？

人工智能负责任开发与应用分论坛

今年10月以来，人工智能再次向世人展示了其“双刃剑”的特性。

由人民网制作的时空漫谈《AI Talk》

一方面，人工智能技术因其在科学领域的贡献而获得了诺贝尔物理学奖和化学奖的双重认可，这些成就不仅彰显了AI在科学研究中的潜力，也预示着它在未来将发挥更大的作用。

另一方面，在国庆假期期间，AI技术因冒牌“雷军”在社交媒体上的不当言论而遭到非议，再次引发了公众对于AI安全性及伦理性的讨论。

值得注意的是，在今年的诺贝尔物理学奖颁奖过程中，评委们特别强调了科技伦理与责任的重要性。获奖者之一杰佛里·辛顿也指出，科技界和社会应共同探讨如何在推进AI技术进步的同时，确保其负责任地被使用。这反映出国际社会对于AI技术正面影响和负面影响共存的认识，并呼吁各方共同努力，构建一个健康的技术生态系统。

10月8日，2024年诺贝尔物理学奖公布现场。图源：新华社

近年来，生成式AI的发展速度令人惊叹。曾经“一眼假”、“一听假”的AI生成内容，如今已经进化至“真假难辨”的水平。随着AI技术的进一步成熟、普及，其潜在的安全风险也在不断增加。

对此，全球范围内已经出现了积极的应对措施。欧盟通过了一系列法规，如《人工智能法案》《一般数据保护条例》和《数字服务法案》等，旨在通过法律手段来规范AI技术的应用。在中国，《网络安全法》《数据安全法》《个人信息保护法》等法规也已陆续颁布执行。去年，中国国家网信办等七部门联合发布了《生成式人工智能服务管理暂行办法》，对生成式人工智能的监督检查和法律责任进行界定；今年9月，《人工智能生成合成内容标识办法（征求意见稿）》公开征求意见，旨在通过规范人工智能生成合成内容标识，维护国家安全和社会公共利益，保护公民、法人和其他组织的合法权益。

2024年世界互联网大会乌镇峰会将于11月19日至22日在浙江乌镇举办。本次乌镇峰会将聚焦人工智能，以“拥抱以人为本、智能向善的数字未来——携手构建网络空间命运共同体”为主题，围绕人工智能负责任开发与应用、下一代互联网、跨境电商、青年与数字未来、金融科技、智能交通等议题举办20余场分论坛。

2024乌镇峰会新闻发布会现场

其中，11月21日上午举办的人工智能负责任开发与应用分论坛将由世界知识产权组织、人民网、中国网络空间安全协会、安恒信息主办，英国标准协会、印象笔记、钛媒体协办。主办方介绍，该论坛将聚焦“以人为本、智能向善、造福人类”，汇聚国内外顶尖专家、学者及行业领袖开展深入讨论，旨在促进建设多主体参与、多层面治理的人工智能科研、转化与发展机制，共同推动构建人工智能技术、产业发展的良好生态。