近年来，随着人工默认技术的提高，一些不法分子开局应用技术融合他人脸孔和声响，制造十分真切的分解图像来实施新型网络坑骗，这类骗局经常会在短期间内给被害人形成较大损失。我们应该如何看清这类AI深度造假？别离AI换脸有没有什么好方法？我们先来看看近期出当初陕西西安的一同AI换脸坑骗案例。

陕西西安财务人员张女士与老板视频通话，老板要求她转账186万元到一个指定账号。

被害人张女士： 老板让把这个款赶忙转过去，这个款十分着急，由于他声响还有视频图像都跟他人长得一样的，所以就更确信这笔款是他说的了，而后我间接就把这笔款转了。

转账之后，张女士依照规则将电子凭证发到了公司财务外部群里，但是出人预料的是，群里的老板看到信息后，向她征询这笔资金的因由？

被害人张女士： 而后我们就打电话再跟老板去核实，老板说他没有给我发过视频，而后也没有说过这笔转账。

看法到被骗的张女士赶忙报警求助，警方立刻对接反诈中心、咨询关系银前启动紧急止付，最终保住了大局部被骗资金156万元。

AI多人换脸坑骗案骗走2亿港元

一百多万的现金，对大局部人来说都算是一笔巨款了，好在警方处置及时，拯救了大局部损失，上方我们再来看另一同案例，这起案例的换脸技术难度更高，涉案金额也更大。近期，香港警方也披露了一同AI"多人换脸"坑骗案，涉案金额高达2亿港元。

在该起案件中，一家跨国公司香港分部的职员，受邀参与总部首席财务官动员的多人的视频会议。并依照要求，前后转账屡次，将2亿港元转账到5个本地银行账户内，其后向总部查问方知受骗。警方考查得悉，这起案件中，所谓的视频会议中，只受益者一人为真人，其他所谓参会人员，所有是经过AI换脸后的坑骗人员。

看完这两起案例，您必定有些猎奇，AI换脸面前的技术原理究竟是什么？在技术层面，它是如何成功人脸的准确识别与交流，发明出真切成果？我们来听听专家的解说。

技术上如何成功人脸准确识别与交流

中国网络空间安保协会人工默认安保控制专委会专家薛智慧： AI换脸环节重要包含人脸识别追踪、面部特色提取、人脸变换融合、背景环境渲染、图像与音频分解等几个关键步骤。其面前最外围的包含为三个局部，首先，应用深度学习算法精准地识别视频中的人脸图像，并提取出如眼睛、鼻子、嘴巴等关键面部特色。其次，将这些特色与指标人脸图像启动婚配、交流、融合。最后，经过背景环境渲染并参与分解后的声响，生成真切度较高的虚伪换脸视频。

极速AI换脸仅经过一张照片就可成功

为了了解AI换脸究竟能有如许真切，记者经过与专业技术人员协作，深度体验了AI换脸技术。

技术人员首先用手机给记者拍了一张脸部照片，导入到AI人工默认软件后，让记者惊讶的是，只管电脑摄像头前的是技术人员，但是输入确实是记者的照片，简直可以说是一键换脸，不须要复杂的环境和解压操作。

更令人惊讶的是，随着技术人员面部表情变动，照片上记者的脸也跟着一同出现了相应变动。

记者：为什么技术人员这张脸动，我的照片会跟着动呢？

中国网络空间安保协会人工默认安保控制专委会专家薛智慧： 首先经过视频的采集，能够把图片里这团体脸的面部追踪定位到，定位到以后第二步他能够做一团体脸的面部特色点的采集和提取，重要就是包含嘴、鼻子跟眼睛关系的这些显著的面部特色。采集到以后，第三步就跟把这张原始的照片，做一个变换跟融合跟整形。

记者：经过这张照片还可以做到什么？

中国网络空间安保协会人工默认安保控制专委会专家薛智慧： 以后经过这张照片技术人员曾经让这张照片能够动起来，活起来了，而假设更进一步的将这张照片存上去，能够存储少量的照片的话。前期可以把这张照片分解一段冗长的视频颁布进去。

人工默认人脸检测技术重要经过深度学习算法成功，这种技术能够识别露面部特色并对其启动精准的剖析。可以将一团体的面部表情从一张照片或视频中提取进去，并将其与另一团体的面部特色启动婚配。专家通知记者，假构想要成功视频实时通话时驳回人工默认AI换脸技术，一张照片是远远不够的，那就须要不同角度的近千张照片的采集。

中国网络空间安保协会人工默认安保控制专委会专家薛智慧：假设要实时点对点交流的话，须要再采集更多的照片，完了启动深度学习算法模型的训练，训练进去这个模型以后灌到我们这个视频里去，就可以做实时的变动跟转换了。这种状况下，就可以做到实时的变脸。声响的交流也可以，须要预先采集一些我们指标人群当中的声响，而后启动模型的训练，能够把指标人群的声响恢复进去。

AI生成仿真度极高视频难度高投入大

专家引见，以坑骗为目的，实施点对点视频通话，须要AI人工默认生成仿真度极高的视频。想要到达以假乱真成果用于坑骗，难度不小。

中国计算机学会安保专业委员会数字经济与安保上班组成员方宇： 针对坑骗，其实重要是经过点对点的视频通话，这时刻假设驳回换脸技术和声响分解做实时的换脸坑骗的话，想要成功这些技术操作，就须要投入很强的技术允许。

中国网络空间安保协会人工默认安保控制专委会专家薛智慧： 面前须要有少量的资金的投入，包含图片的采集，包含专业算法的人员等等，须要很长的一个周期，包含一些算力算法。各方面的投入，须要长期间始终地迭代，启动操作，能力到达一个相当真切的成果，才有或许成功到坑骗的实践成果。

目前AI换脸更多运行于文娱视频录制

除了一些不法分子希图应用AI技术实施坑骗，理想上，近年来，AI技术更多地被运行于短视频的二次创作，属于文娱性质，越来越多的名人AI换脸视频出如今网络上，不少网友慨叹，这类视频嘴型、手势都对得上，太人造了，差点儿认为是真的。

比如这款软件，拍下记者面部照片后，就能录制生成出一段记者秒变赛车手的视频。

中国计算机学会安保专业委员会数字经济与安保上班组成员方宇：AI技术目前我们常看到的重要是短视频换脸，经过做一些特定的举措，跳舞啊等等。这些视频其实看起来是有一些不人造的，自身也是纯属于文娱性质的换脸。

记者发如今手机运行商城中，有数十款换脸软件，都可以做到换脸的目的。

中国网络空间安保协会人工默认安保控制专委会专家薛智慧： 假设从文娱群众的角度来说的话，如今市面上也有很多的这些软件和工具，能够到达AI换脸的成果，但是仿真度只要六七分的样子，群众间接就能看进去。但是假设要生成一个坑骗视频来谈话，就要生成我们仿真度极高的这种点对点视频。

AI技术换脸换声或许存在法律危险

不过，AI技术也是把双刃剑，即使是出于文娱经常使用AI换脸、AI换声，也是存在法律危险的。法律专家示意，用AI技术为他人换脸换声甚至翻译成其他言语并颁布视频，或许涉嫌侵权，重要有三个方面：

一是涉嫌侵犯著述权，例如相声、小品等都属于《中华人民共和国著述权法》包全的作品。例如网友用AI软件将相声、小品等翻译成其他言语，需经过著述权人授权，否则就存在侵权疑问。

二是涉嫌侵犯肖像权，依据《中华人民共和国民法典》，任何组织或许团体不得以抬高、污损，或许应用信息技术手腕伪造等模式损害他人的肖像权。未经肖像权人赞同，不得制造、经常使用、地下肖像权人的肖像，但是法律另有规则的除外。

三是涉嫌侵犯声响权，依据《中华人民共和国民法典》规则，对人造人声响的包全，参照实用肖像权包全的无关规则。也就是说，须要取得声响权人的赞同，能力够经常使用他人的声响。

学会几招随便识别AI换脸换声

AI换脸这一技术的出现，造成耳听为虚、眼见也不必定为实了。那我们该如何防范呢？专家示意，其实AI人工换脸无论做得如许真切，想要识别视频虚实还是有一些方法的。

中国计算机学会安保专业委员会数字经济与安保上班组成员方宇：实践上从我目前看到的深度伪造的实时视频过去看，其实还是可以经过一些模式，去启动一些验证。

那比如说我们可以要求对方在视频对话的时刻呢，在脸部的面前经过挥手的模式，去启动一个识别，实时伪造的视频，由于它要对这个视频启动实时的生成和处置和AI的换脸。

那么在挥手的环节中，就会形成这种面部的数据的搅扰，最终发生的成果就是我们看到的这样，挥手的环节中，他所伪造的这团体脸会发生必定的颤抖或许是一些闪现，或许是一些异常的状况。

第二个就是点对点的沟通中可以问一些只要对方知道的疑问，验证对方的实在性。

提高防范看法防止团体动物信息暴露

专家示意，除了一些别离AI换脸坑骗的小窍门，我们每一团体都应该提高防范看法，在日常生存中也要做好关系防范措施，养成良好的上网习气。首先应该是做好日常的信息安保的包全，增强对人脸、声纹、指纹等动物特色数据的安保防护：另外做好团体的手机、电脑等终端设施的软配件的安保控制。第二，不要登录去路不明的网站，免得被病毒侵入。第三，对或许启动声响、图像甚至视频和定位采集的运行，做好授权控制。不给他人搜集自己信息的时机，也能在必定水平上让AI换脸坑骗远离自己。

随同AI技术开展须要多层面监管规范

除了要提高自我防范看法，如何对AI技术增强监管，也成了越来越多人关注的疑问。AI技术自身不是疑问，关键是我们要怎样用它？如何构成有效监管？专家引见，AI技术开展，须要多层面监管规范。

一是在源头端，须要进一步增强公民团体信息包全，尤其是增强对动物特色等隐衷信息的技术、司法包全力度。二是在技术层面可以增强控制。例如可以让视频流传网站或许社交软件，经常使用专业的甄别软件来鉴定，对AI生成视频，打上无法消弭的AI生成水印字样。目前，这种数字水印鉴伪技术有待进一步遍及。三是在法律制度层面，要进一步完坏蛋工默认等畛域关系法律法规。2023年8月15日，我国正式实施《生成式人工默认服务控制暂行方法》。《方法》从多个方面划下红线，旨在促成生成式人工默认肥壮开展和规范运行。

如何防范AI换脸的诈骗？

随着人工智能技术的不断发展，诈骗分子也在不断变换手段，利用AI技术进行诈骗已经成为一种新型的犯罪方式。 其中，通过换脸和拟声技术实现虚拟人物或虚假身份的制作和推广，然后伪装成某些知名人士或企业高管等进行诈骗已经成为一种成熟的手段。 这种手段所产生的违法和危害是非常巨大的，因此需要采取有效的措施来预防和打击这种犯罪行为。 下面从多个角度进行分析，提出几种有效的防范措施。 一、加强技术防范目前，由于AI技术的普及，换脸和拟声技术也已成为了影响非常严重的技术。 针对这些技术，可以通过加强技术防范来预防诈骗的发生。 具体而言，可以加强人脸识别和语音识别技术的研究和应用，通过强化人脸识别和语音识别的准确性，确保远程识别的可靠性和准确性。 同时，还可以开发一些针对诈骗的应用程序，通过这些应用程序可以对用户进行个性化的提醒和提示。 例如，在进行实名认证和账号绑定之前，向用户提供关于虚拟人物和虚拟身份的知识普及，教育用户如何识别虚假身份，增强其安全意识和自我防范能力等。 二、提高公众安全意识除了加强技术防范外，提高公众安全意识也是非常重要的。 在这方面，政府和媒体可以发挥重要作用。 政府可以加大宣传和警示力度，出台相应的法规措施，提高对这种犯罪行为的打击力度。 同时，媒体也可以通过各种渠道，向公众提供关于诈骗的知识普及和预防方法，引导公众正确使用信息和技术。 此外，我们个人在日常生活中也应该提高警惕，不轻易相信陌生人或新建的社交账号。 在进行网上购物等操作时，一定要选择值得信赖的购物平台，并注意查看商品的详细信息。 如果遇到可疑的电话、短信和社交软件信息，一定要保持警觉并及时报警。 三、建立信用机制针对诈骗行为，可以建立一个有效的信用机制来防范和打击。 通过建立一个科学的社会信用体系，对犯罪分子进行公开曝光和惩罚，形成对犯罪行为的强有力的威慑作用，从而减少类似犯罪的发生。 同时，可以对诈骗案件进行全面的调查和探究，找到根本原因，并给予相应的处罚和惩治。 四、提供专业的应急救援最后，一旦发生诈骗案件，我们也需要提供专业的应急救援。 例如，在银行等金融机构中建立专门的诈骗案件处理中心，对受害者提供及时的帮助和支持；在公安机关中设立专门的反网络诈骗部门，协助公众上网时避免受到诈骗攻击。 总之，AI诈骗利用换脸和拟声技术骗钱是一种非常危险的犯罪行为。 为了避免诈骗的发生，我们可以采取一些有效的防范措施，包括加强技术防范、提高公众安全意识、建立信用机制和提供专业的应急救援。 只有通过多种手段的综合协调，才能更好地避免和减少这种犯罪行为的发生。

如何防范AI换脸和拟声带来的隐患？

如果你遇到了利用AI技术进行换脸和拟声诈骗的情况，你应该采取以下措施：1. 不要轻易相信陌生人的要求，无论他们声称自己是谁。 要谨慎对待任何要求你提供个人信息或转账的请求。 2. 如果你怀疑自己正在遭受诈骗，请不要轻易泄露任何个人信息，包括姓名、地址、电话号码、银行卡号码或其它敏感信息。 3. 如果你已经成为受害者，请立即报警并向当地警方报案。 同时，你也可以联系相应的银行或信用卡机构，将你的账户设为受限状态，以避免进一步的损失。 4. 如果你是企业或机构，应该加强对员工的安全意识教育，提高员工对这类诈骗的识别能力，以避免企业或机构受到损失。 5. 为了防止这种情况的发生，可以使用一些AI技术进行识别和防御。 例如，可以使用人脸识别技术来验证对方的身份，或者使用语音识别技术来确认对方的声音是否真实。 总之，如果你遇到了利用AI技术进行换脸和拟声诈骗的情况，一定要保持冷静，采取必要的措施来保护自己的个人信息和财产安全。