26歲百萬YouTuber小玉,本名朱玉宸利用小玉以AI技術DeepFake軟體,將脫口秀演員龍龍、網紅白癡公主、奎丁、蕾菈以及正妹民代黃捷、高嘉瑜等名人的臉合成在謎片女優身上。(圖/李文正翻攝)

知名百萬YouTuber小玉(本名朱玉宸),於今年4月宣布引退後,經營粉專「台灣網紅挖面」,利用AI Deepfake(換臉)技術,將網紅或藝人的面部五官移植到成人片AV女優身上,並製作成色情片盈利販售。有網友好奇,他們這種做法已經一段時間了,怎會到最近才被抓,更討論起「小玉真正被抓的原因」。

網路論壇PTT有網友18日在八卦版發文提出疑問:「小玉是不是動到不該動的人?」,他更點出這類型換臉謎片早已興盛一段時間,怎麼直到最近才被逮,最後網友還附上總統蔡英文也被換臉的影片。

不過,該篇文章PO出後沒多久即撤下。據傳,該影片也有在LINE群組間流傳,內容並非像其它受害者的不雅片,而是有人將蔡英文的臉與年輕女性合成,影片中的「蔡英文」對著鏡頭擠眉弄眼,但隨著臉部角度變換,仍可看出些微破綻,這也不禁讓人驚嘆,現今AI技術之進步,連總統也難逃惡搞命運。而該案有多位受害者、包括政壇等各界名人,也都紛紛砲轟此惡劣行為。

蔡英文總統18日晚也強力譴責科技犯罪,強調「我們不能坐視這樣的事情發生」,將會重新盤點法規,研擬推動修法工作。也呼籲網路平台業者,阻止錯假影像傷害無辜的人。「請大家一起關注分享,一起遏止科技犯罪」。

警方調查,去年7月起,有數名網紅性愛影片在網路上流傳,影片都來自「台灣網紅挖面」推特粉絲團,經查是小玉等人透過DeepFake技術,將網紅、藝人等臉部圖像移植到色情AV女優身上,許多粉絲為了能收看網紅性愛影片,支付數百元不等的會費給小玉,加入他經營的私密聊天群組,線上瀏覽完整的色情片,且私密聊天室會不時舉辦「票選」、「集資」活動,選出某位網紅當被害人,再由小玉製作性愛影片上傳,粗估被移花接木受害的網紅人數超過百人,不法獲利上千萬。

文章來源:網路論壇文章