随着AI换脸、换声的视频在网络社交平台上日渐流行，给人们带来新体验的同时，也被不法分子所利用。近日，山东省济南市商河县公安局刑警大队破获了一起利用AI换脸技术诈骗的典型案件。
“今年5月份，黄某某(化名)在家刷短视频时收到了一条私信，对方自称是黄某某的表哥，寒暄几句取得黄某某初步信任后，对方又让黄某某添加了其QQ号。”
侦办此案的商河县公安局刑警大队三中队中队长张振华介绍到，黄某某的表哥由于在体制内工作，因此对方以自己身份不便为由，希望黄某某帮自己给一个需要资金周转的朋友，转一笔大额资金。
为了表示诚意，“表哥”索要了黄某某的银行卡号，并称先让朋友给黄某某转款后，再让黄某某转出。很快，黄某某就收到了对方发来的“转账凭证”，虽然看到了“转账凭证”，但黄某某并没有收到这笔转款，因此没有立即帮“表哥”转账。
“因为经过我们的反诈宣传，对于冒充熟人诈骗的案例，黄某某比较了解，他有一定的警惕性。”张振华说，大约过了20分钟，“表哥”再次发消息给黄某某，并称大额转款到账会有延迟，目前急需这笔钱，黄某某能否先行垫付一下。
黄某某随后与“表哥”进行了视频通话，黄某某见到视频中的人和表哥一模一样，不过对方声音比较低，大约十几秒后，对方称有会议便挂断了视频通话。
黄某某确信了对方身份后，于是向对方提供的银行账户转了30余万元。收到这笔钱后，对方还继续催促黄某某转出剩余的欠款。就在黄某某继续筹集资金的过程中，黄某某发现起初添加自己的短视频账号已经显示被封禁，他急忙给表哥打去电话核实，才知道其表哥对此事毫不知情。意识到受骗的黄某某立即报警。
警方根据嫌疑人与黄某某网聊时的IP地址，判定该团伙在境外实施诈骗，由国内销赃洗钱，是一起采用AI技术换脸、冒充受害者熟人进行点对点网络诈骗的案件。商河警方通过技术手段侦查，两次前往广东东莞，抓获犯罪嫌疑人7人，目前此案已进入法院审判阶段。
张振华表示，在案件的侦破过程中，他们曾咨询过不少技术人员，这种实时通话的视频合成技术难度比较大，一般的小公司很难实现，但即便如此，这种诈骗手段仍然可以防范。
“因为此类AI合成技术的视频通话时间一般都相对较短，犯罪嫌疑人担心通话时间过长会露出破绽，人脸一旦变化位置或者外围环境发生变化，都可能会使犯罪嫌疑人恢复原貌。”张振华告诉记者，对于普通群众而言，一是要注意保护个人隐私信息，其次遇到熟人或亲戚借钱时，要及时与对方进行电话沟通，视频通话时可以让对方做出固定的手势或对面部进行遮挡，查看是否有变化，以此判断对方身份的真假。
AI诈骗形式
“AI换脸”进行视频合成、实施诈骗的行为，是利用新技术进行的诈骗，与传统的诈骗行为在本质上没有区别。“尽管未来鉴别Al换脸和真人之间的区别会变得越来越困难，但仍有可能通过分析和观察来发现一些两者间的差异。”
面对用“AI换脸”实施的冒充亲友诈骗，大家也不要太过恐慌，一定要牢记防范要点：在涉及到转账交易等行为时要格外留意，可以通过电话、视频等方式确认对方是不是本人。民警表示，“对于构成诈骗罪的，要依照我国刑法第二百六十六条的规定追究刑事责任：对于为利用“AI换脸”实施诈骗行为提供技术支持、帮助的，要根据反电信网络诈骗法的规定进行行政处罚，构成犯罪的，还要根据刑法第二百八十七条之二帮助信息网络犯罪活动罪等追究刑事责任。”
如何预防AI诈骗
如何预防此类诈骗案件的发生？2022年，网信办、工信部和公安部制定的《互联网信息服务深度合成管理规定》明确，深度合成服务者应采取技术或人工方式对使用者的输入数据和合成结果进行审核。今年8月，网信办发布的《人脸识别技术应用安全管理规定（试行）（征求意见稿）》明确，人脸识别技术使用者应每年对图像采集设备、个人身份识别设备的安全性和可能存在的风险进行检测评估，采取有效措施保护图像采集设备、个人身份识别设备免受攻击、侵入、干扰和破坏。北京航空航天大学法学院副教授赵精武表示，相关部门加强监管的同时，也需要公众自身树立起良好的防诈骗意识。“涉及到转账等财务信息的电话请求，采取其他方式跟好友进行确认。”
民警进一步强调，要想从源头上预防此类诈骗案件的发生，保护好个人信息是关键：
一是保护信息，杜绝泄露。从源头着手，不要轻易提供人脸、指纹等个人生物信息给他人，不过度公开或分享动图、视频等；不提供可供复制模拟的信息，骗子自然无法得逞。陌生链接不要点，陌生软件不要下载，陌生好友不要随便加。
二是多重核验，确认身份。陌生人的电话要时刻保持警惕，切莫向不认识的人转账。骗子的最终目的都是诱导目标对象进行转账，因此在涉及钱款交易时，要提高安全意识，仔细核实收款账户户名信息，切勿贸然转账，保护好资金安全。如果是熟人，在线上转账前，一定要多次核验对方身份。除了常规的电话和视频，还可以在通话的过程中，加入一些只有你们俩知道的人和事。
三是谨慎转账，延时到账。避免通过微信等社交软件转账，将转账时间设定为“24小时”到账，以预留处理时间。
四是拒绝诱惑，提高警惕。要学会拒绝诱惑、提高警惕，避免占便宜心理，警惕陌生人无端“献殷勤”。
五是加强防范，及时报警。公检法没有安全账户，警察不会网上办案，如果有陌生来电说你犯事了，需要线上办案、冻结账户等情况，请立刻拨打110报警。
津公网安备12011002023007号