以假乱真！一文告诉你AI换脸如何操作！张念群揭涉案者罪成「将监禁不超过5年」！

有图未必是真相！

随着科技发展越来越成熟，AI技术更是已经发展到能以假乱真的程度！近几年，一种名为Deepfake的人工智能深度学习技术腾空出世，能将现有的图像或影片替换成另一个人。不法分子利用这项技术伪造影片、照片散播假消息，俨然成了网络安全的新威胁。

什么是Deepfake？

Deepfake（深度伪造，简称深伪）是英文“Deep Learning”（深度学习）和“Fake”（伪造）的混合词，专指基于人工智能的人体图像合成技术的应用。它利用深度学习技术训练大规模的数据，包括人脸图像、语音以及影片等，然后再利用AI技术创建虚假内容，从而实现AI换脸或语音复制功能。

如何操作？

AI换脸的技术是通过面部识别和面部捕捉来执行脸部替换，只需要一张人脸的正面照片，AI就能完成替换的过程。不仅如此，就算被换脸后头部转动，AI也能追踪脸部的位置和面向方向，让原影片的脸部自然融合。

Deepfake是网络安全的新威胁？

Deepfake最早出现在2017年，一开始它只是作为可分享的开源应用程式，不过当时Deepfake的技术专家Henry Ajder就对这个技术可能会被应用在造假影片而感到忧心。事实上，本地也有不少艺人、网红也饱受AI换脸危害。YouTuber彤彤早前因为遭不乏分子盗用肖像，以AI技术制作出赌博广告而报警，同时也喊话“绝对不接非法广告”。

另外，大马歌手菲道同样也被不法分子利用AI技术制造出一段有关在赌博网站赢钱后发言的影片，让部分不知情者信以为真，以为菲道尔代言赌网。对于这件事，菲道尔老板罗忆诗也第一时间报警，同时也在警局外拍摄澄清影片。

有人曾因AI换脸而坐牢？

台湾百万YouTuber小玉（朱玉宸）在2020年至2021年期间滥用Deepfake技术将女艺人、女性政治人物、女名人、女网红等女星的脸部恶意合成到成人片角色的脸上。他通过X和YouTube散播换脸宣传片来吸引会员付费加入Telegram群组，直到2021年10月，已经招募逾8000会员，不法获利新台币1100万元（约RM150万）。

这件事曝光后，小玉以台湾《中华民国刑法》妨害风化、妨害名誉等罪及《个人资料保护法》被起诉，台湾高等法院依违反《个人资料保护法》判决他应合并执行5年有期徒刑，不得易科罚金，另有1年8月刑期得易科罚金，后中华民国最高法院于2024年5月8日驳回上诉定谳，目前他正在服刑中。

AI换脸在大马算犯罪吗？

大马通讯部副部长兼古来国会议员张念群今天（9日）发文指出，通讯部去年在国会修改了《1998年通讯和多媒体法案》，明确加强了对滥用深伪技术生成甚至售卖未成年者的色情照片这类罪行的刑罚。倘若涉案者为未成年人士，他们则将会在《2001年儿童法令》下被惩罚。

• 滥用网络散播色情内容：一旦罪成，涉案者可被罚款不超过50万令吉，或监禁不超过两年，或两者兼施。
• 滥用网络散播未成年的色情内容：一旦罪成，涉案者可被罚款不超过50万令吉，或监禁不超过五年，或两者兼施。
• 滥用网络售卖色情内容：一旦罪成，涉案者可被罚款不超过100万令吉，或监禁不超过五年，或两者兼施。

倘若涉案者为未成年人士，则将在《2001年儿童法令》下被惩罚。

伪造技术越来越成熟，有图未必是真相，大家一定要辨别清楚！

资料来源：Wikipedia、香港网络安全事故协调中心

*部分照片取自网络，内容谈谈网归有，若想参考请附加此文的链接。谢谢！照片如有侵犯版权问题请告知，谈谈网必定删除。