游戏传奇首页
游戏我的天下首页
最好看的新闻,最实用的信息
05月15日 14.8°C-18.2°C
澳元 : 人民币=4.8
悉尼
今日澳洲app下载
登录 注册

Facebook持续致力于开发Deepfake逆向工程检测与溯源方法

2021-06-17 来源: cnBeta 原文链接 评论0条

Facebook持续致力于开发Deepfake逆向工程检测与溯源方法 - 1

(图自:Facebook AI官网)

具体说来是,这套逆向工具能够分析 AI 生成的图像,以揭示创建它的机器学习模型的识别特征。

这项工作的实用性在于,它可以帮助 Facebook 追踪其在各种社交网络上传播 Deepfake 编造内容的不良行为者。

此类内容可能包含虚假信息,或者已经相当泛滥、未经当事人同意的编造色情内容 —— 后者也是 Deepfake 技术在现阶段的一大争议点。

Facebook持续致力于开发Deepfake逆向工程检测与溯源方法 - 2

目前这项工作仍处于研究的早期阶段,且逆向工程团队也尚未做好相关部署准备工作。不过该领域的此前研究,已经能够确定 Deepfake 内容是由哪套已知的 AI 模型来生成的。

作为对比,由 Vishal Asnani 带领的 MSU 研究团队,将致力于更进一步地识别未知模型架构。因为这些被称作“超参数”的特征,意味着每个机器学习模型都必须经历相应的调整过程(就像引擎中的零部件一样)。

简而言之,Deepfake 处理过的内容,会在图像上留下一个独特的指纹,而调查者们可借此来追溯其来源。

Facebook持续致力于开发Deepfake逆向工程检测与溯源方法 - 3

Facebook 研究负责人 Tal Hassner 在接受外媒采访时称:“识别未知模型的特征很重要,因为 Deepfake 软件非常容易定制。如果调查人员试图追踪相关活动,别有用心者也必须更加努力地掩盖其踪迹”。

Hassner 还将这项工作与法医技术相比较,即通在结果图像中寻找特定的模式,以辨识源内容是通过哪款型号的相机来拍摄的。生成的算法不仅可以识别生成模型的特征,还可知晓哪套已知模型与 Deepfake 内容有关。

在标准的基准测试中,Facebook AI 研究团队已经得到了相当先进的检测结果,尽管这距离投入实际应用还有很长一段距离。

比如在去年的 Deepfake 伪造检测竞赛上,最终获胜的算法,也仅能达到 65.18% 的检出率。而且这样的“猫鼠游戏”,显然也会在未来很长一段时间内持续。

转载声明:本文为转载发布,仅代表原作者或原平台态度,不代表我方观点。今日澳洲仅提供信息发布平台,文章或有适当删改。对转载有异议和删稿要求的原著方,可联络content@sydneytoday.com。
今日评论 网友评论仅供其表达个人看法,并不表明网站立场。
最新评论(0)
暂无评论


Copyright Media Today Group Pty Ltd.隐私条款联系我们商务合作加入我们

分享新闻电话: (02) 8999 8797

联系邮箱: info@sydneytoday.com 商业合作: business@sydneytoday.com网站地图

法律顾问:AHL法律 – 澳洲最大华人律师行新闻爆料:news@sydneytoday.com

友情链接: 华人找房 到家 今日支付Umall今日优选