5月13日,据《每日邮报》报道,一家西班牙小电影公司Peabody Films收到英国著名男星“卷福”本尼迪克特·康伯巴奇的电话,电话里的“卷福”对电影剧本感兴趣,想合作拍电影。但电影公司几次邀约他本人面谈,“卷福”都拒绝了,甚至还提出天价见面费,要该公司先汇款20万英镑再说。
AI换脸生成不雅视频
4月26日,网红“Caro 赖赖_”在微博发文称,自己被外网某社交平台“盗脸”,冒充注册她本人的假账号,并且粉丝只要付费就可以观看自己的不雅视频。
3月28日,“女子地铁照被AI一键脱衣传播”登上微博热搜,照片里的女士是一名小红书博主,而所谓的“裸照”则是她去年7月在平台分享的一张照片。
原图中她衣着正常,但却被有心之人使用AI软件“一键脱衣”,故意全网散播造成恶劣影响。事件发酵后,该博主已向有关部门进行维权。
由于这组AI生成的图片太过“火爆”,以防路人误解,推特作为平台方,及时将图片标记上了“AI-generated”(AI生成)。
纵观海内外,近期有不少平台及时跟进针对AI内容的监管,发布了人工智能相关的规范和举措。
该行业倡议其中的第九条至第十一条,提到了对AI生成内容进行标识以及将对虚拟人提供注册能力,并且会开放用户反馈渠道。
9. 平台将提供统一的人工智能生成内容标识能力,帮助创作者打标,方便用户区分。 10. 平台将提供虚拟人的注册能力,并对已注册的虚拟人形象进行保护。 11. 平台将提供用户反馈渠道,方便用户反馈违规生成内容。
图源:网络
谷歌在最近召开的2023年开发者大会上宣布,将确保公司的每一张AI生成图片都内嵌水印,该水印虽然无法以肉眼识别,但谷歌搜索引擎等软件可读取并以标签显示出来,以提示用户该图片由AI生成。在未来的几个月内,这项功能将上线。
此外,我国在2021年就发布了《新一代人工智能伦理规范》,其中涉及战略规划、政策法规和技术标准制定实施,资源配置以及监督审查等。并且在今年3月,网信办发布了《生成式人工智能服务管理规定(征求意见稿)》,对生成式AI服务提供者的行为进行了规范,还包括用户权益保护、信息安全保障、技术安全保障等方面。
放眼海外,意大利政府在今年3月对ChatGPT实施了临时禁令,理由是担心它违反了欧盟的《通用数据保护条例》。5月16日,OpenAI的CEO Sam Altman也在美国参议院就AI技术的潜在危险作证,并且督促立法者对开发GPT-4等先进AI系统的组织实施许可要求和其他法规。
OpenAI CEO亮相美国国会山,呼吁监管AI
图源:网络
可以看到,目前这些侵害更多还是在信息领域。一方面从物料来看,是相对无主的公共信息,原本茶余饭后街谈巷议的东西,虽然有大量的虚假和臆测,但无非也就是从这个街头传到那个巷口,但就像社交媒体能把信息流放大,恶人们也可以用AI把浊流放大;另一方面从受害者来说,则大多是有口难辨的普通人,发声明也没人看,更很难去发律师函了。尽管法律法规以及平台都在跟进对AI技术的监管,但普通人的维权成本还是很高。
问题回到恶人,当他们藏身于网络背后,管住他们手里的刀成为一个必须去做的事。