“假靳东”频现，AI换脸立法能否终结AI诈骗困局？
AI诈骗频发，“假靳东”成典型
在今年3月5日的政协小组讨论上，全国政协委员靳东针对AI换脸诈骗问题发声，称喜爱自己的观众被AI换脸视频骗得很惨，性质恶劣，希望建立更好规则，此话题迅速登上热搜第一，引发全民关注。其实，“假靳东”的新闻已不是第一次出现在大众视野中，早在2020年，就有媒体报道了江西一位50多岁的离异女性坚信自己与靳东恋爱的故事，当时“我要嫁给靳东”的话题火爆全网。
2024年，“假靳东”骗局再度升级，诈骗金额令人咋舌。江西一位老人在短视频平台结识“靳东”，不仅被对方表白，还看到了合成的两人合照短视频。深陷其中的老人，竟跑到银行要贷款200万元，只为帮“靳东”拍戏。幸好银行工作人员察觉异常报警，民警通过展示网络上的诈骗新闻、现场合成照片等方式，才让老人醒悟过来。
这并非个例，上海市静安区人民法院曾审理一起假冒靳东的诈骗案，8名被告人在2022年5月至2023年6月期间，在短视频平台发布假冒靳东等明星的视频、音频，吸引中老年妇女，骗取信任后开展网聊、网恋，最终骗得31万余元。网络上还有众多中老年女性被假靳东欺骗感情与钱财的案例，这些受害者少则被骗几千元，多则数十万元。
除了“假靳东”，AI诈骗的身影无处不在。“AI张文宏”被用于直播带货，“AI雷军”被恶搞配音，甚至普通民众也难以幸免。2023年5月，福州一位公司法人代表郭先生，接到“朋友”的微信视频电话，对方无论是容貌还是声音都与朋友一模一样，还展示了竞标现场，郭先生信以为真，10分钟内就转账430万元，最终损失惨重。2025年3月，内蒙古鄂尔多斯的李女士被“AI换脸”的老同学骗走40万元，对方通过16秒模煳的视频通话，就成功让李女士落入陷阱。从公众人物到普通百姓，AI诈骗正以惊人的速度蔓延，给个人和社会带来巨大损失。
AI换脸技术：原理与滥用现状
（一）技术原理剖析
AI换脸，简单来说，就是利用AI人工智能技术对图片或视频中的目标进行换脸。这项技术背后的原理可不简单，涉及多个复杂的步骤和先进的算法。在整个AI换脸的流程中，首先是人脸识别追踪。通过视频采集，系统能够精准地追踪定位图片里人的面部。就好比我们在人群中一眼就能认出熟悉的朋友，AI换脸技术也能迅速锁定目标面部，为后续的操作奠定基础。接着是面部特征提取，嘴、鼻子、眼睛等部位的特征都要被仔细采集，这些特征就像是每个人独特的“面部密码”，是实现换脸的关键信息。随后进入人脸变换融合环节，利用深度学习算法精准地识别视频中的人脸图像，并提取出关键面部特征，将这些特征与目标人脸图像进行匹配、替换、融合，就像把拼图的不同部分重新组合，只不过这里是对人脸特征进行组合。最后通过背景环境渲染并添加合成后的声音，生成逼真度较高的虚假“换脸”视频。
举个例子，之前在社交媒体上爆火的“蚂蚁呀嘿”特效，就是利用AI换脸技术。网友们把自己的照片导入换脸软件Avatarify中，软件通过上述一系列操作，将照片中的人脸表情和动作迁移到目标视频上，使得照片中的人物做出目标视频相同的表情动作，让许多原本静态的照片“活”了起来，呈现出搞笑又有趣的效果。这种技术的神奇之处在于，它能让普通人体验到“变身”的乐趣，将自己的脸替换到各种影视片段、明星形象中，满足大众的娱乐需求。但也正是这种强大的技术，一旦被不法分子利用，就会带来严重的危害。
（二）被滥用的表现
AI换脸技术的滥用现象日益严重，对个人权益和社会安全构成了极大威胁。在诈骗领域，犯罪分子利用AI换脸技术伪装成受害者的熟人、领导等，通过视频通话等方式骗取信任，进而实施诈骗。就像前面提到的福州郭先生和内蒙古李女士的案例，骗子仅通过短暂的视频通话，就能让受害者在毫无防备的情况下转账巨款。这种诈骗方式不仅让受害者遭受巨大的经济损失，还对他们的心理造成了严重创伤。
AI换脸技术还被用于制作淫秽视频，严重侵犯他人的名誉权和隐私权。一些不法分子将明星或普通人的脸合成到淫秽视频中，然后在网络上传播，给当事人带来极大的困扰和伤害。比如杭州的虞某利用“AI换脸”软件生成大量淫秽视频进行传播，被换脸的不仅有女明星等公众人物，还有很多不特定的普通人，虞某甚至还提供换脸定制服务。2025年3月，美女车模叶凯薇也遭遇了AI换脸制作淫秽视频并被恶意传播的事件。这些行为不仅违反道德伦理，也触犯了法律。
在商业领域，AI换脸技术也被未经授权地使用，损害了他人的商业利益。一些商家为了吸引眼球，利用AI换脸技术将名人的形象用于广告宣传，却没有获得相应的授权。2024年3月，古天乐、林峯所在的经纪公司发布声明，称有线上游戏平台利用AI技术，将他们的肖像、声音及过往视频片段，合成制作为带有性质的代言宣传片。这种行为不仅侵犯了名人的肖像权，也误导了消费者，扰乱了市场秩序。
AI诈骗常见形式及严重危害
（一）多样的诈骗手段
AI诈骗的手段层出不穷，让人防不胜防。除了前面提到的AI换脸诈骗，声音合成也是骗子常用的伎俩。犯罪分子通过拨打骚扰电话等方式，录音提取诈骗对象及其重要关系人的声音特征，对素材进行合成，进而用伪造的声音实施诈骗。就像深圳68岁的李阿姨接到“女儿”的求救电话，听着熟悉的哭腔和撞击声，慌忙转账50万后才发现，女儿的声纹竟被AI克隆，全程通话不到10分钟。
转发微信语音也是一种常见的诈骗方式。骗子在盗取微信号后，通过提取之前的语音文件或安装非官方版本（插件），实现语音转发，进而向其微信好友“借钱”实施诈骗。还有AI程序筛选受害人，犯罪分子利用AI来分析公众发布在网上的各类信息，根据所要实施的骗术对人群进行筛选，在短时间内便可生产出定制化的诈骗脚本，从而实施精准诈骗。比如实施情感诈骗时，筛选出经常发布感情类信息的人群；实施金融诈骗时，筛选出经常搜索投资理财信息的人群。
（二）危害的多维度体现
AI诈骗带来的危害是多维度的，给个人和社会都带来了巨大的冲击。对个人而言，最直接的就是财产损失，许多受害者辛苦积攒的积蓄在瞬间化为乌有，一些人甚至因此背负上沉重的债务。福州的郭先生被骗430万元，这对他的家庭和生活无疑是沉重的打击。除了财产损失，AI诈骗还会给受害者带来严重的精神伤害，尤其是在情感诈骗中，许多人陷入虚假的感情陷阱，身心遭受折磨，甚至出现抑郁、焦虑等心理问题。
AI诈骗对社会信任体系也造成了极大的破坏，它让人与人之间的信任变得更加脆弱。当人们连亲眼所见、亲耳所闻都不敢相信时，社会的信任基础将受到严重侵蚀。AI诈骗还阻碍了AI技术的健康发展，公众对AI技术的恐惧和误解，可能会导致对其应用和发展的抵制，从而影响到AI技术在各个领域的正常应用和创新。
AI换脸立法的必要性与可行性
（一）必要性探讨
AI诈骗的猖獗，凸显了AI换脸立法的紧迫性。目前，我国在AI换脸方面的法律存在诸多空白，现有的法律难以有效应对AI换脸带来的复杂问题。虽然《民法典》中对肖像权、名誉权等有相关规定，《反电信网络诈骗法》也将AI换脸诈骗纳入打击范围，但这些规定较为笼统，在实际操作中存在诸多模煳地带。
以“AI换脸”侵犯肖像权为例，在判定侵权时，对于AI换脸技术使用过程中，如何界定“未经同意使用”、如何确定侵权责任主体等问题，缺乏明确的细则。在AI换脸诈骗案件中，涉及到的技术提供方、平台方、诈骗实施者等各方的责任划分不清晰，导致在打击犯罪时，难以做到精准追责。AI换脸技术的快速发展，使得新的应用场景和问题不断涌现，法律的滞后性愈发明显，迫切需要专门的立法来明确AI换脸的法律边界，规范技术的应用。
（二）可行性分析
从技术层面来看，随着AI技术的发展，监管技术也在不断进步。一些先进的检测技术能够识别出AI换脸视频中的破绽，如微运动分析、光子脉冲检测等技术，可以通过分析视频中人脸的细微动作、皮肤的生理特征等，判断视频是否为AI换脸生成。区块链溯源技术也可以实现对AI生成内容的可追溯，记录AI换脸视频的生成、传播路径，为监管和执法提供有力支持。这些技术的发展，为AI换脸立法后的有效监管提供了技术基础。
公众对AI诈骗的关注度不断提高，对AI换脸立法的唿声也日益强烈。根据相关调查，72%的受访者担忧AI换脸诈骗，老年人和青少年的风险感知最强。公众对AI诈骗的警惕性提升，使得他们更愿意支持和配合相关立法工作。社会各界对AI技术的发展也有了更深刻的认识，在追求技术创新的也意识到规范技术应用的重要性，这为AI换脸立法营造了良好的社会氛围，使得立法具备了坚实的社会基础。
AI换脸立法面临的挑战
（一）技术层面的挑战
AI技术的发展日新月异，AI换脸技术更是不断迭代升级。新的算法和模型不断涌现，使得换脸的效果越来越逼真，难以被察觉。这给立法带来了巨大的挑战，因为法律一旦制定，就具有相对的稳定性，难以迅速跟上技术的更新速度。当新的AI换脸技术出现，原有的法律可能无法对其进行有效的规范和约束，导致监管出现漏洞。
AI换脸的鉴定技术还不够完善。目前，虽然有一些技术可以检测AI换脸视频，但这些技术的准确率和可靠性还有待提高。一些高逼真度的AI换脸视频，即使是专业的鉴定人员也难以辨别真伪。在司法实践中，鉴定结果的不确定性会影响法律的实施，因为无法准确判断视频是否为AI换脸生成，就难以确定是否存在侵权或诈骗行为，从而影响对违法犯罪行为的打击力度。
（二）法律层面的挑战
在法律层面，AI换脸的法律界定还比较模煳。对于AI换脸技术的合法使用范围、侵权行为的认定标准、责任主体的划分等问题，目前还没有明确的法律规定。在一些情况下，很难判断一种使用AI换脸技术的行为是否合法，是属于正常的娱乐创作还是侵权行为，这给执法和司法带来了很大的困难。在AI换脸用于影视创作中的角色替换时，如何平衡创作者的创新需求和演员的权益保护，就需要明确的法律界定。
AI换脸立法还需要与现有法律进行协调。AI换脸涉及到多个法律领域，如民法中的肖像权、名誉权，刑法中的诈骗罪、侵犯公民个人信息罪等。在制定AI换脸相关法律时，需要考虑与这些现有法律的衔接和协调，避免出现法律冲突和矛盾。如果新的AI换脸法律与现有法律规定不一致，会导致法律适用的混乱，影响法律的权威性和公正性。
（三）社会层面的挑战
公众对AI技术的认知还存在不足，这给AI换脸立法的宣传和普及带来了困难。很多人对AI换脸技术的原理、风险和法律后果缺乏了解，甚至一些人认为AI换脸只是一种有趣的娱乐方式，没有意识到其潜在的危害。在这种情况下，即使制定了相关法律，公众也可能因为不了解而无法遵守，也难以对AI换脸的违法行为进行监督和举报。
不同地区的文化差异也会对AI换脸立法的实施产生影响。在一些文化背景下，人们对隐私和个人权益的重视程度不同，对AI换脸技术的接受程度也存在差异。在某些地区，可能更注重保护个人隐私，对AI换脸的限制会更严格；而在另一些地区，可能更强调技术的创新和应用，对AI换脸的监管相对宽松。这种文化差异会导致法律在不同地区的实施难度不同，如何在全国范围内统一实施AI换脸相关法律，是需要解决的问题。
国际经验借鉴与应对策略
（一）国际上的相关立法与监管措施
在全球范围内，许多国家和地区已经认识到AI技术带来的风险，并积极开展立法与监管工作。欧盟在这方面走在了前列，2024年3月，欧洲议会正式通过了《人工智能法案》，这是全球首部全面规范AI的法规。该法案以风险分类管理为核心，根据AI系统对消费者安全和基本权利的影响，将其划分为不同风险等级，并引入不同的规则来应对。对于高风险的AI系统，如用于关键基础设施、教育、就业等领域的系统，法案要求进行严格的风险评估与降低，维护使用日志，确保透明度和准确性，并接受人工监督。法案还明确禁止了一系列威胁公民权利的AI应用，包括基于敏感特征的生物识别分类系统、无针对性地从互联网或闭路电视录像中抓取面部图像以构建面部识别数据库的行为等。
美国虽然在联邦层面尚未出台统一的AI监管法案，但各州和一些联邦机构已经采取了行动。2024年9月，加利福尼亚州州长Gavin Newsom签署了多项与AI监管相关的法案，其中有3项是关于管控AI生成的Deepfake（深度伪造）或其他欺骗性内容，另外2项则是关于保护演艺人员的数字肖像权。AB 2839法案禁止任何个体或实体恶意分发与选举有关的欺骗性Deepfake内容，AB 2655法案要求拥有超过百万当地用户的大型网络平台在选举前后的特定时期内对虚假内容进行识别、标记和删除。美国还通过总统行政令，结合行业自律，探索着适合自身环境的立法路径。
（二）对我国的启示
国际上的这些立法与监管措施，为我国提供了宝贵的经验。我国可以借鉴欧盟的做法，明确AI技术应用中的责任主体，建立健全的风险评估和分级管理制度，针对不同风险等级的AI应用，制定相应的监管措施。在AI换脸技术的应用中，对于用于娱乐、影视创作等低风险领域，可以采取相对宽松的监管政策，鼓励创新；而对于涉及金融、身份认证等高风险领域，则要加强监管，确保用户的权益和安全。
我国还应加强国际合作，积极参与国际AI治理规则的制定。AI技术的发展是全球性的，其带来的风险也跨越国界，需要各国共同努力应对。我国可以与其他国家分享AI换脸立法和监管的经验，共同推动AI技术的健康发展。建立多主体协同监管体系也是关键，政府、企业、科研机构、社会组织等各方应加强合作，形成监管合力。政府要发挥主导作用，制定相关政策和法规；企业要加强自律，遵守法律法规，承担社会责任；科研机构要提供技术支持，研发先进的检测和监管技术；社会组织要发挥监督作用，及时发现和反馈问题。
总结与展望
AI诈骗的危害已不容忽视，它给个人、社会带来了巨大的冲击，从财产损失到精神伤害，从信任体系的破坏到技术发展的阻碍，每一个方面都值得我们深思。靳东建议AI换脸立法，这一举措具有重要的现实意义，为打击AI诈骗提供了新的思路和方向。
AI换脸立法虽面临诸多挑战，但并非无法克服。国际上的相关经验为我们提供了宝贵的借鉴，我们可以结合我国国情，探索出适合自己的AI换脸监管模式。在这个过程中，技术的发展、法律的完善、公众意识的提升以及社会各方的合作，都至关重要。
我们期待AI换脸立法能够早日实现，让AI技术在法律的框架内健康发展。我们也希望公众能够提高警惕，增强防范意识，不轻易相信网络上的信息，避免成为AI诈骗的受害者。只有全社会共同努力，才能有效打击AI诈骗，让AI技术真正造福人类，为我们的生活带来更多的便利和美好。
