直播间里好多“明星脸” ?

近日，" 某科技公司老板遭遇 AI 换脸诈骗 " 一事引发网友热议。

据报道，当事人突然接到好友的微信视频，经过短暂聊天，好友开口借钱。基于视频聊天及信任对方的前提下，他毫无怀疑把钱转了过去，没想到却是不法分子通过 AI 换脸技术，佯装好友进行诈骗。

魔幻一幕令人吃惊，但这并非 AI 换脸第一次作恶了。

除了诈骗钱财，此前还有女子被人利用 AI" 一键脱衣 " 造黄谣，某男子利用视频合成技术，将电视剧中与某知名女星亲吻的男主角换成自己以蹭流量，效果都到了以假乱真的地步。如上案件细节不尽相同，但无不直观展示了一些人利用 AI 作恶的可怖之处。

10 分钟内被骗 430 万元

AI 换脸被用于诈骗

近日，" 平安包头 " 公众号发布一起利用人工智能（AI）实施电信诈骗的典型案例。

" 平安包头 " 的警情通报显示，4 月 20 日中午，郭先生的好友突然通过微信视频联系他，称自己的朋友在外地竞标，需要 430 万保证金，且需要公对公账户过账，想要借郭先生公司的账户走账。

基于对好友的信任，加上已经视频聊天 " 核实 " 了身份，郭先生没有核实钱款是否到账，就分两笔把 430 万转到了好友朋友的银行卡上。

事后，郭先生拨打好友电话才知道被骗，原来骗子通过智能 AI 换脸和拟声技术，佯装好友对他实施了诈骗。

AI 换脸冒充女星带货

网上还有相关教程

AI 换脸除了被用于诈骗，还经常出现在直播带货中。

近日，有网友点开直播间，发现正在卖货的竟是当红女星。然而再定睛一看，这些带货 " 明星 " 很快露出了马脚——身穿中式服装，正在卖力带货的 " 明星 " 们，其实只是使用了 AI 实时换脸技术的普通主播。

利用人工智能（AI）手段为视频中的人物 " 换脸 "，这项技术已经发展到可以实时动态修改直播画面。

记者在网上浏览相关 AI 换脸直播教程发现，这些教程通过视频、文章等形式传播，并提供换脸直播工具的下载渠道。有的需要付费，有的通过点赞、关注、评论就能获取。

教程发布者声称实时变脸软件可以帮助用户轻松变脸，打造特效直播间，极大地助力引流卖货。同时他们表示有很多模型可供选择，这些模型用中外明星艺人、影视角色或政商名人的名字命名。

在一个展示换脸直播效果的视频中，使用者把名为 " 成龙 " 的模型载入相关软件后，摄像头前的人在直播画面中就有了与成龙相似的五官，但脸型和发型还保持原样。记者发现，使用者歪头或变换表情时，五官动效切换得自然顺滑，只有手掌从脸前划过时，出现了比较明显的破绽。

△发布者展示 " 换脸 " 为 " 成龙 " 的实时效果和软件界面（视频截图）

北京岳成律师事务所高级合伙人岳屾山律师表示，换脸直播用于公开传播可能涉嫌侵犯相关明星艺人的肖像权。如果涉及直播带货等商业行为，会成为加重情节。

在知名艺人工作室从事宣传工作的袁女士表示，担心相关技术被用于推销假冒伪劣产品，损害消费者权益，也影响艺人的形象。

△发布者展示实时 " 换脸 " 效果（视频截图）

记者注意到，一些使用换脸技术的直播并不会直接提到相关明星艺人的名字，但也不会主动声明或者否认。

岳律师认为，这个行为涉嫌欺诈或是虚假宣传，让公众误以为就是明星在带货。如果货品本身质量不好，或者主播在带货过程中说的话或一些行为导致公众对被换脸的明星产生负面评价，明星可以主张名誉权的侵权责任。

近期，已经有平台和企业发布了 " 关于人工智能生成内容的平台规范暨行业倡议 "，明确禁止利用生成式人工智能技术创作、发布侵权内容，包括但不限于肖像权、知识产权等，一经发现，平台将严格处罚；同时还提出 " 发布者应对人工智能生成内容进行显著标识，帮助其他用户区分虚拟与现实 "" 发布者需对人工智能生成内容产生的相应后果负责 " 等要求。

岳律师建议，平台可以更加主动地识别相关内容，作标签化的处理，从而限制侵权行为。

技术滥用风险在加剧

为了规范人工智能发展，尤其是规避 AI 换脸带来的系列问题，去年 12 月，《互联网信息服务深度合成管理规定》正式发布，对数据和技术管理规范进行了明确。

比如，关于授权同意的原则提到，深度合成服务提供者和技术支持者提供人脸、人声等生物识别信息编辑功能的，" 应当提示深度合成服务使用者依法告知被编辑的个人，并取得其单独同意 "。

简单来说，这些技术服务公司，不能随便使用普通人的人脸来换脸，必须经过本人同意，换脸不是想换就能随便换，也不是骗子给钱就能随便换。如果就此案深挖下去，不排除能揪出一条非法利用人工智能技术的黑产业链。

当然，人工智能开发还是一个高速成长的领域，规则的健全完善还需要时间。但不管怎么说，此次案件都提醒我们，技术被滥用的风险，对普通人造成的安全隐患和威胁，绝对不容低估。

对大众来说，在人工智能时代，我们得更加警惕，不要随意泄露个人信息，需要转账时应更加谨慎地核实。而对行业而言，必须尽快立规，明确信息保护红线，加强对技术服务商行为的规范引导，等等。

只有 AI 换脸、AI 拟声等在每一个环节有据可依、严格授权，提升造假诈骗难度，才能更好地保护每个人的信息和财产安全。

监制 |唐小山

编辑 |单镜宇

审校 |寒冬

来源 |央视网综合中央广电总台中国之声、澎湃新闻