色情复仇 + 恐怖谣言?国内外女星惨遭换脸制作淫秽视频……
昨天,台湾省艺人汪东城发布一段视频,女装大佬的扮相引发热议。
评论区挤满了被 " 美 " 到的网友:
实际上这并不是艺人真的扮女装,而是通过变脸 app 上的换脸技术进行的拍摄。
这几年,换脸的娱乐视频和 app 挺多,有的换脸视频非常好笑,尤其是和名人相关的,经常上国内外的热搜。
比如饰演超人女友的艾米 · 亚当斯,脸被换成了奥斯卡影帝尼古拉斯 · 凯奇
大表姐詹尼佛 · 劳伦斯获奖后接受采访的画面,被换上了演员史蒂夫 · 布西密的脸。
脸书总裁马克 · 扎克伯格的脸直接被换到《社交网络》中饰演他的男主脸上
更离谱的还有网友恶搞的某知名香水广告,女主查理兹 · 塞隆(塞皇)的绝美脸庞,转眼间变成了憨豆先生。
前段时间,TikTok 上还出现了一个名叫 @deeptomcruise 的账号,up 主 Chris Ume 利用 AI 换脸技术发布了一系列汤姆 · 克鲁斯的脸为主的互动视频,一度让网友和媒体以为阿汤哥真的拍了短视频。
(左 up 主)
这个被统称为 "deepfake 深伪技术 " 的人工智能技术,是 deep learning 深度学习和 fake 伪造的混合词。
(左伊隆 · 马斯克,右尼古拉斯 · 凯奇)
专指基于人工智能技术的人体图像合成的技术,通过现有的图像或视频,叠加至目标图像或视频上。随着技术发展,现在还有直接结合声音和图像的技术。
《卫报》曾经在一篇报道里表示,这样的技术实际上可以算是 21 世纪的 PS 方法。以前只 p 图,现在可以 p 视频和声音,解决了许多技术难题。
最具代表性的 "P 视频 ",可以提到《速度与激情 7》。
当年保罗 · 沃克拍摄到一半不幸因车祸去世,他的弟弟代替哥哥出镜,通过技术手段完成了剩余部分的拍摄。
让离去的人重回屏幕的操作,也运用到了艺术领域。2019 年开放的达利博物馆,就运用这样的技术将达利 " 复活 ",并利用演员 + 脸部影像的拍摄和合成,让他和参观的人群进行互动。
然而,娱乐化和艺术化的目的之外,实际上,deepfake 深度伪造从 2017 年开始在互联网流行时,就与虚假信息、复仇式色情 revenge porn 密切相关。
2017 年,一位 reddit 男性网友开设了一个 r/deepfakes 的版块,专门和 " 志同道合 " 的网友一起,将女演员的脸庞深度伪造到色情影片上,受害者皆是知名女性艺人。
无论是好莱坞的明星演员
还是韩流女爱豆,深度伪造的色情片席卷全球,遍布受害者。
尽管 reddit 之后关闭了 deepfakes 讨论版块,但影片很快席卷网络、四处传播,也让 deepfake 深度伪造这个词被世人知晓。
2018 年,相关的娱乐 app 出现,使用时,人们可以用自己的脸扮演不同影视剧和 MV 里的演员和歌手,娱乐化效果十足。可是,娱乐的背后,因为缺乏相关法律和监管机制,不少被伪造的人深受其害。
随着 deepfake 深度伪造传遍全球,韩国网友联名请愿,抵制肆虐网络的女性艺人色情换脸视频。
(韩国网友请愿抵制相关视频)
国内的名人也未能幸免,遭遇的色情片换脸和国外女星的经历如出一辙。
名人维权都如此艰难,普通的受害老百姓,更是苦不堪言。
昨天,英国《每日邮报》报道了一起深度伪造 deepfake 的恶性案件。
1995 年出生的 Alex Woolf 亚历克斯 · 伍尔夫,早在 2012 年就得到了 BBC 评选出的年度编曲家称号,属于天才型的选手。
他本科毕业于剑桥大学圣约翰学院,拿到一等音乐学士学位,之后又去皇家音乐学院念了硕士,在圈内口碑非常好,无论是开演奏会还是发专辑,都得到许多赞美。
但这样一个在大学工作,名利口碑双手的音乐人士,两年来,暗地将身边 15 名女性友人的普通生活照片或自拍发到深度伪造 deepfake 的论坛里,希望网友帮他把照片 p 到色情片上娱乐。
他和他的网络同伙们自然是得逞了的。直到今年 1 月和 3 月,一位受害者收到匿名邮件,被告知她的照片出现在网络论坛和色情网站上。
这位受害者开始顺着链接联系到更多的受害者,最终 15 名女性集合在一起,共同报警,将始作俑者亚历克斯交给了警察。
15 名受害者对法官说,阿里克斯的行径,给她们带来了巨大的精神压力和创伤,非常痛苦。
本周一,亚历克斯在法庭上认罪。然而,因为没有亲手去制作色情图片,他仅仅被判 40 节性侵犯教育课程和 150 小时的劳动。
除此之外,他只需向 15 名受害者每人支付 100 英镑的赔偿,85 英镑的庭审费用,以及 128 英镑的补充款项。1713 英镑(约 15270 人民币),和几百小时的时间,就是他全部需要付出的伤害别人的代价。
新闻评论区,网友对如此轻松的判决非常愤怒:
有的女性网友也提到自己曾经被深度伪造,不堪其扰。
的确,自打 2017 年 deepfake 的女性艺人视频席卷网络,女性经常容易被攻击的目标。
2018 年,在澳洲生活的印度裔女性 Noelle Martin 就曾经上 TedTalk 上讲述自己从 18 岁起就照片就被身边不知名的男性色情报复,照片被做成色情视频发上网的可怕经历。
她去年为《ELLE》英国版撰稿时回忆:" 亲眼看着我的脸、眼睛、嘴巴在屏幕上动,太逼真了,连我自己都信了。但只有脸是我,身体却是别人的。"
从 2012 年发现这些影片和图像开始,Noelle 就已经在澳洲报警,可因为没有明确的法律,她感到极其绝望和屈辱,并在一年又一年的发声后,成了相关话题的封面人物。
女性名人被 p 上成人片,普通女性遭遇色情报复之外,随着深度伪造技术的发展,有的人也开始担 " 脸部安全 "。脸部解锁、脸部付款是否会有安全隐患?
英国《每日邮报》上周还报道,今年初出现了一种上传照片后,可以直接将正常着装的女性深度伪造为裸体女性的网站,也被称为 " 裸体过滤器 ",吸引了超过 3800 万人次的点击。
除了普通人在生活中会遇到的问题,争议权威人物也成了被伪造的对象。试想,当技术变得如此逼真令人信服时,伪造权威人物所说的话,势必会引发讨论甚至轰动。
(2019 年,英国保守党方面疑似在选举中伪造工党国会议员 Keir Starmer 接受电视采访时口齿不清的视频。)
如若不及时辟谣或鉴别真伪,当敏感话题和充满谣言的伪造视频通过社交媒体传遍社会时,会给世界带来怎样的可怕后果?
不过,伪造技术发展的同时,脸书、微软这样的大型公司,正积极研究甄别伪造技术的技术。法律层面,美国、英国、加拿大都发布了惩戒恶意传播伪造影像的法案。
在中国,去年发布的《民法典》第 1019 条规定:
任何组合或者个人不得以丑化、污损,或者利用信息技术手段伪造等方式侵害他人的肖像权。未经肖像权人同意,不得制作、使用、公开肖像权人的肖像,但是法律另有规定的除外。
未经肖像权人同意,肖像作品权利人不得以发表、复制、发行、出租、展览等方式使用或公开肖像权人的肖像。
希望黑镜般的现实,永不出现。
Source:
https://www.dailymail.co.uk/news/article-9902561/BBC-award-winner-avoids-jail-stealing-images-women-uploading-porn-sites.html
https://stainer.co.uk/composer/alex-woolf/
https://highschool.latimes.com/troy-high-school/opinion-deepfakes-pose-a-problem-deeper-than-just-copyright-controversies/
https://www.theguardian.com/technology/2020/jan/13/what-are-deepfakes-and-how-can-you-spot-them
https://www.elle.com/uk/life-and-culture/a30748079/deepfake-porn/