“AI换脸”相信大家都不陌生。只需要一张照片，通过人工智能深度合成技术，任何人都能成为视频中的主人公，甚至连表情和动作都能以假乱真。
然而，这项新技术，却让一些人产生了不良想法。今日（6月18日），话题#男子用AI伪造学生同事近7000张裸照#冲上热搜。
据央视新闻官方微博6月18日消息，犯罪嫌疑人白某某，原本是一家互联网公司的技术员。他用AI“一键去衣”技术，深度伪造淫秽图片近7000张，再每张1.5元卖出。图片涉及女性人数多，包括学生、教师、同事。目前白某某已被提起公诉。
男子用AI伪造学生同事近7000张裸照
据央视新闻客户端，一名被警方抓获的犯罪嫌疑人白某某原本是一家互联网公司的技术员，他因为使用AI去衣技术，制作、贩卖淫秽物品而涉嫌犯罪。2023年6月，家住北京的白某某在境外的社交媒体上接触到了这项“一键去衣”的技术，于是他动起了歪心思，打算利用这项技术来赚钱。
北京市海淀区人民检察院检察官助理郭树正表示：白某某用的这款人工智能软件，能很快对被害人的图片“一键去衣”，基本上几秒钟、几分钟就能批量生成相应的图片。
警方在白某某家的电脑里，查获了大量的涉案照片，都是经过“一键去衣”技术处理的。
郭树正：他在QQ上向351个人贩卖过相关图片，图片数量将近7000张。
北京市海淀区人民检察院检察官李鹏表示：白某某在境外的社交媒体上发布了广告，内容就是“去衣”，1.5元一张。
这就是白某某发布的广告帖，上面写着“电脑AI去衣，白菜价”“身边人、网红、明星皆可”。他的广告发布后，有不少人联系白某某，给他发送照片并购买这项“去衣”服务。
郭树正：一张图片他卖1.5元，能迅速满足相关人的需求。这个时候就有很多人去浏览白某某在境外社交网站上发布的帖子，经过我们统计，浏览他发布广告的人有3万人左右。
AI去衣”究竟是怎样的一种技术呢？据白某某供述，这项技术并不是真的“去衣”，而是一种伪造、重绘的技术。
郭树正：其实我们可以把它理解为深度的图片伪造，它并不是真的去掉别人照片上的衣服，其实都是针对已有的模型和已有的模组进行图片重绘。
而且，这项技术操作起来十分简单，去衣只需要一键就能完成，因此白某某定价不高，一张照片只需要1.5元，却可以利用低价吸引更多的订单。
短短几个月的时间，白某某就制作了几千张去衣的图片，赚了将近一万元钱。然而，他却没有意识到这一行为可能产生的严重后果。
检察机关认为，被告人白某某以牟利为目的，制作、贩卖淫秽物品，情节严重，其行为触犯了《中华人民共和国刑法》的相关规定，应当以制作、贩卖淫秽物品牟利罪追究其刑事责任。
检察机关认为，白某某利用AI技术犯罪的行为不仅侵犯了无数无辜者的隐私与名誉，还破坏了网络环境的纯净，与科技向善的精神相背离。而利用新技术犯罪，也将受到司法机关的严厉打击。
另外，一键去衣、AI换脸技术，还会被不法分子利用，成为敲诈勒索的工具。近期，这类案件又有抬头趋势。前不久，深圳警方打掉一个团伙，这个团伙从网上等各种渠道收集被害人图片信息，然后进行合成处理，用来敲诈勒索。
公诉人：人工智能技术兴起之后，已经成为当今科技领域备受瞩目的技术之一，正在深刻改变我们社会、经济以及生活方式，为社会带来更多的便利。同时我们也打击治理运用AI技术实施犯罪，任何利用新技术实施犯罪的行为必将受到严惩。
有人用暗恋女生换脸
据央视新闻，2022年8月，杭州市萧山警方在网上巡查中获取一条线索，辖区内有人利用AI技术制作淫秽视频在网上进行大量传播，警方依法对此立案侦查，并迅速抓获了犯罪嫌疑人虞某，随后该案被移送至杭州市萧山区人民检察院审查起诉。
图片来源：央视新闻视频截图
检察机关调查发现，虞某从2020年开始接触“AI换脸”软件，起初，他想通过在网上推广该项技术以及相关的软件来获利，但是，一段时间过后关注他的人却很少，一次偶然的机会，虞某看到有人在社交群组中发布淫秽信息来吸引他人关注，于是他也动起了类似念头。
据虞某供述，为了吸引更多的关注和流量，他在社交软件上创建了“浏览群”和“私人定制群”，“浏览群”主要用来传播“AI换脸”的淫秽视频吸引、招揽观看者，其中包括一些经过虞某换脸的视频，当有人提出“定制换脸”的需求，虞某会将这些人引入所谓“私人定制群”。
图片来源：央视视频截图
杭州市萧山区人民检察院第七检察部检察官助理陈禹尧：通过收取入（浏览）群费用的方式，一个198元、298元或者398元。另外一个就是虞某还提供人脸视频定制服务，相当于客户如果需要定制一个换脸的视频，他可以根据时长，根据视频的难度大小收取相应的费用。
据检察机关调查，虞某一边通过传播换脸的淫秽视频来“吸粉引流”，同时又通过出售“AI换脸”软件和提供所谓“AI换脸”的私人定制服务，在不到半年的时间里就获利数万元。而被“AI换脸”侵害人脸敏感信息的受害者，不仅包括多位知名公众人物，还有很多不特定的普通人。
据检察机关调查，虞某根据“AI换脸”视频的长度、清晰度等难易条件，按照5分钟300元、10分钟500元等标准来收取定制的费用。虞某声称，“只要能看到脸的都能换”。
据检察机关了解，虞某的客户要求“定制”换脸的对象不仅包括一些知名的公众人物，也有生活中的普通人，其中就有人提出想要定制自己暗恋女生的换脸视频，而对于这些未经同意就擅自侵犯他人敏感信息的违法行为，虞某也是来者不拒。
另外，虞某除了进行定制化的换脸服务，还将“AI换脸”软件分为初级、中级和高级三个等级进行销售并传授使用教程，同时还提供网上非法收集的他人人脸素材。
2023年4月14日，杭州萧山区人民检察院决定对虞某“AI换脸”侵犯公民个人信息公益诉讼案立案，当日履行公告程序，公告期满，无适格主体提起诉讼。6月9日，检察机关依法对虞某提起民事公益诉讼。7月28日，该案在杭州互联网法院一审公开审理。
2023年11月，杭州市萧山区人民法院判决被告人虞某犯制作、传播淫秽物品牟利罪，判处有期徒刑七年三个月，并处罚金6万元。
专家建议：隐私不要随意发
任何利用新技术犯罪的行为，必将受到严惩！以牟利为目的，制作、贩卖、传播淫秽物品的行为，要承担哪些法律后果？
根据《中华人民共和国刑法》第三百六十三条规定，以牟利为目的，制作、复制、出版、贩卖、传播淫秽物品的，处三年以下有期徒刑、拘役或者管制，并处罚金；情节严重的，处三年以上十年以下有期徒刑，并处罚金；情节特别严重的，处十年以上有期徒刑或者无期徒刑，并处罚金或者没收财产。
中国行政法学研究会常务理事、华东政法大学教授沈福俊建议提升全民个人信息保护意识，谨防隐私泄露。“不管是在互联网上还是社交软件上，尽量避免过多地暴露自己的信息，在涉及转账交易等行为时，可以多角度询问身份信息，反复验证对方是否为本人。”
专家建议大家尽量不要把个人的隐私数据随意发到公共互联网上，如果有一些不法分子想要对你的家人实施诈骗，采集到数据以后还是比较容易实现的。
据北京商报报道，当前AI换脸的一些技术弱点仍然存在。中国信通院人工智能中心安全与元宇宙部主任石霖指出，一些换脸的视频会存在光照、表情等不够自然、帧与帧之间不够连贯的问题，尽管随着模型能力的提升，这些换脸的痕迹已经做到几乎肉眼难以辨别的程度，但我们仍然可以通过一些专用的检测算法进行辨别。这些检测算法在训练过程中大量学习了换脸视频中伪造特征的方式，在使用的过程中逐帧提取特征，从而判断一段视频是否经过了换脸。当前，这些技术已经开始用在金融场景中，实现对诈骗等行为的识别。
那么，这些鉴别技术应用于反诈领域，前景如何？不得不承认，网络信号与算力仍是待解决的难题。“由于这些技术仍然需要大量的计算资源特别是GPU的支持，因此，通常在使用过程中，需要将相关的检测模型部署在服务器中。但如果想要将这些检测模型部署在手机、个人电脑中，或嵌入到社交、会议软件里，可能会对软硬件的使用体验造成较大的影响。近年来，很多技术企业已经开始尝试不断优化检测模型，探索将模型部署在端侧。”石霖说道。
津公网安备12011002023007号