內容一覽：台灣知名 YouTube 網紅「小玉」因製作與發佈 AI 換臉視訊，涉及上百名名人，並在網路中招募付費會員，被台灣警方正式逮捕。
關鍵詞：AI換臉 DeepFake 技術倫理
上月,台灣知名 YouTube 網紅「小玉」被正式逮捕，罪名是涉嫌散佈猥褻物品與妨害名譽等罪移送新北地檢署偵辦。
犯罪嫌疑人朱玉宸（網名小玉）逮捕現場
警方公佈，小玉等犯罪嫌疑人利用 DeepFake 的AI換臉技術，招募會員逾 8000 人，不法獲利約 1100 萬元新臺幣（約合人民幣 250 萬元），換臉受害者超過上百人，均為網路、影視、政界名人。
小玉換臉，小英冷臉
小玉此次被逮捕，是被島內群眾舉報在 Telegram 群組內出售換臉視訊。在這些 DeepFake 換臉視訊中，台灣領導人蔡英文也在其中。
台灣領導人蔡英文被換臉跳宅舞
出生於 1995 年的小玉（本名朱玉宸），畢業於台灣宜蘭縣聖母醫護管理專科學校，曾是台灣偶像團體 TPI 的練習生，2016 年在 YouTube 上發佈了第一條視訊，初期內容正統，多為開箱測評。
後為了迎合青少年受眾，畫風逐漸無厘頭、言辭犀利大膽，拍攝的開箱視訊越來越清奇甚至無底線。
小玉的 YouTube 粉絲數高達 120 萬，累計播放量近 6 億次，已經成為台灣的一線網紅。但在去年四月的一條視訊引發嚴重社會爭議後，小玉的賬號已經停更數月。
除蔡英文外，數百位名人牽連其中
換臉風波中，蔡英文也在社交網站上發文：「科技的運用，是為了創造人類更好的生活，而非用來傷害他人。這些受害者，可能是你我關心的對象，也可能是你我的親友，我們不能坐視這樣的事情發生。」並敦促台灣法務部針對 AI 換臉技術更新法律政策。
全球 AI 換臉立法/判例
美國
除了美國參議院國土安全和政府事務委員會，近期正在推進一項針對 DeepFake 技術的法案，美國各州已經陸續出臺了相關州級別的法律。
得克薩斯州和加利福尼亞州在 2019 年，前後出臺了「禁止在選舉期間發佈欺騙性視訊，干擾選民投票」的法規。
日本
日本尚未出臺正式法規限制 DeepFake 類型的內容傳播，但在近期判決了日本首例 AI 換臉犯罪案件。
去年，熊本大學二年級的學生林田拓海因為製作與傳播 AI 換臉視訊被逮捕。林田拓海從 2019 年 12 月到 2020 年 7 月，在自己經營的付費網站上傳了數條自制的 2 名女藝人 AI 換臉不雅視訊，被涉及藝人的所在公司控告。
全球近年多提倡三年以下的拘役適用緩刑
在今年 9 月，東京地方法院認定被告林田拓海，因違反《著作權法》與名譽毀損罪， 拘役 2 年（緩刑 3年）與罰金 100 萬日元（約合人民幣 5萬餘元）。
全球對 AI 技術的應用需求不斷增長，隨之暴露的安全、隱私問題也日益增多，其中不乏一些情節惡劣、影響深遠的犯罪行為。
很多國家和地區在儘快立法遏制技術犯罪，但技術本身具備先發性和隱蔽性，很難對所有犯罪行為及時制止，只能通過事後的刑罰起到懲戒作用。
與此同時，技術犯罪的門檻，也會隨著技術更新而不斷降低。網紅小玉雖然文化程度不高，但能在短時間內組建團隊、製作視訊、快速傳播和獲利。
20 年前，P 圖還不普及，惡意的 P 圖被媒體稱為「移花接木」，視作混淆事實的行為。如今，每個人的智慧手機、電腦都可以通過軟體輕鬆地修改、美化圖片、視訊。曾短暫大火的換臉軟體 ZAO 也因為一鍵換臉的功能，而被緊急下架。
技術會推動技術到達民眾手中，每一個人都可能擁有潘多拉的盒子。法律制定的僅僅是社會容忍的底線，當道德無法約束行為時，普法和引導民眾合理使用技術應當成為當下最迫切的議題。
