Categories: 科技

台湾小玉卖“换脸谜片”风波!Deepfake变脸技术存隐忧,你我随时成“谜片”主角!

台湾网红小玉因为使用Deepfake技术“偷脸”售卖色情影片被逮捕,引起各界对此科技隐忧的关注。

Deepfake首次出现在2017年,中文名为“深假”或“深伪”,能够透过AI中的deep learning创造出惟妙惟肖的假影片来,在西方世界,这个软件已经成为国际间频繁讨论焦点,美国前总统奥巴马,脸书创办人马克祖克伯等名人经常被“偷脸”制作假影片,成为有心人用来操控假新闻的武器,而这种技术并非需要高深学问,一般人也能够办到。

(图片来源:phys.org)

技术门槛低

小玉在早前影片中曾经用Deepfake“伪装”成韩国瑜说出许多无厘头的话来,还表示:

“这是我花了150块人民币买来的AI换脸软件,只要30分钟时间和一个配音员,就可以让韩国瑜说出任何我想他说的话。”

Deepfake只需要模仿对象的任务影音素材,就能够制作出相关假影片来。目前开源的Deepfake技术门槛降低,让人轻松下载就能使用各种换脸App,因此延伸出了假信息之外的问题,尤其是色情片上的应用。

(图片来源:网络)

96% Deepfake色情影片未获授权

根据Deeptrace 2020年报告显示,网络上有高达96%的Deepfake影片是未经当事人允许的合成色情影片,上传相关影片的论坛累积超过1.34亿浏览量,包括国际巨星盖尔加朵(Gal Gadot)和史嘉蕾乔韩森(Scarlett Johansson)等都是受害者。

另外,在社会事件中,一般人的情侣分手后“报复性色情影片”要挟事件也经常发生,而如果遇上了Deepfake技术,恐怕更加引起人们心中的恐惧。

2018年,一名印度调查记者拉娜艾雅伯(Rana Ayyub)揭露了关于克什米尔女孩遭性侵后两天,社媒就疯传以她为主角的Deepfake假色情影片,她却无法向外界说明影片中人不是她。

(图片来源:Avanade)

换脸服务已经商业化

加拿大新媒体Vice到网络找人客制化Deepfake影片,只花了百多令吉就获得了成品,显示Deepfake已经出现了商业模式,这也是恐怖之处,任何人都可以通过门路简单制作针对性的假影片,将没做过或说过的加压在别人身上。

另一方面,以查破社群平台假账号起家的以色列新创Cyabra近来成功研发出侦破Deepfake的AI技术,在今年2月的美台科技挑战赛中获得亚军,能够以97%准确率揪出Deepfake影片。

他们是通过研究影片的解析度和压缩率等数据,分析人物脸部表情和肢体动作是否自然。比如戴眼镜的人脸焦距变化是否正确,嘴唇动作和下巴喉结肌肉的运动状况有没有异常,能够一帧一帧辨认真伪。

(图片来源:联合报)

揪出疫情假讯息

该公司本来2020年美国大选与美国国务院合作防堵假讯息,但疫情爆发后,审核疫情假资讯成为主要目标,他们在3月底就发现一个以国际药厂Roche为名影片声称他们制作出了疫苗。

随着Deepfake技术越来越先进,犯罪领域也不断扩大,下一波攻击可能会锁定在网络银行用户,许多用户通过视讯电话来开户口,而Deepfake能够伪造某人身份通过审核。

无论如何,技术是死的,就像是双刃刀一样,主要是看人类怎么运用,但人心的黑暗面总是能够让新技术成为犯罪的工具,其他人则需要更先进的技术来克制犯罪者。

文章资料来源:数位时代Business Next

TTN Writer

Recent Posts

大马18禁电影可以不删了?张念群:仍须过4大审核标准!从删剪场景转向年龄分级管制!

通讯部副部长张念群11月3日在下议院上表示,18岁级别的电影只要符合条件,即可在不删剪特定场景的情况下上映,但须遵守现有电影审查指南,并实行严格的年龄分级。

13 hours ago

iPhone日历竟藏「诈骗陷阱」!收到这邀请通知要注意!这些事不能做!

最近,有iPhone用户发现自己的手机日历出现了一项陌生的活动邀请,还指用户的账号已经遭到封锁,要求用户立即续费!乍看之下,很容易让人误以为是官方发出的通知,但其实是骗子的圈套!

13 hours ago

交往都是AA制却被男友说「很花钱」!他解释原因网民傻眼!

一名女子与男友交往4年,两人实行极致的AA制,不论开房间、饮料、停车费都会平分,男友平时也不会买东西给她。即便女子认为各付各的并没有什么不好,但男友仍觉得跟她交往很花钱!她跟男友谈起这件事后,才知道……

14 hours ago

爆新婚5天带女网友进酒店!大咖歌手无预警删光结婚照!婚姻状况曝光!

韩国饶舌歌手于本月18日与交往多年的女友补办婚礼,没想到新婚仅5天就爆出他与女网友去汽车旅馆开房的丑闻!事件爆出后,有网民发现他突然将社交平台上的结婚照全数删除,还分享暗示感情出现裂痕的歌词……

15 hours ago

人事部职员曝公司「不敢再聘请女性」!原来是连续3次遇到同样的事!

一名自称拥有12年经验的人力资源部员工日前通过社交媒体发文,表示自己的公司现在已经不会再招收女性员工!她透露,公司连续遇到了三次类似事件,所以对员工的行为感到心寒……

16 hours ago

导航路线错误被骂爆!TuJu调整导航功能,把工作一键交给谷歌地图!

当他们使用TuJu导航后,系统会直接启动其他导航应用程式“谷歌地图”(Google Map)!

16 hours ago