AI技術不一定是問題，不知道才是大問題！

Deepfake(AI技術) 不一定是問題，不知道才是大問題！

                               
登錄/註冊後可看大圖

(The good, the bad, and the future of deepfakes)
關於 Deepfake，你需要知道的是⋯⋯？(原文來源:泛科學)
TingWei ・2022/01/24 ・3489字 ・閱讀時間約 7 分鐘

編按：你的理智知道「眼見不為憑」， 但你的眼睛還是會背叛你的理智，不自覺得被眼前的影像所吸引， 儘管你真的、真的知道他是假的。 Youtuber 小玉於2021年底涉嫌利用 Deepfake 技術， 偽造多位名人的色情影音內容並販售的事件，既不是第一起、也不是唯一、 更不會是最後一個利用「深偽技術」進行科技犯罪的事件。 當科技在走，社會和法律該如何跟上甚至超前部署呢？ 本次 Deepfake 專題，由泛科學和法律白話文合作， 從Deepfake 技術與辨偽技術、到法律如何因應，讓我們一起全方位解析Deepfake！ 第一篇，讓我們就 Deepfake 技術做一基礎的介紹，那我們就開始囉！

什麼是 Deepfake？深偽技術 Deepfake 於 2017 年陸續開始進入大眾的目光中。
原文 Deepfake 源自於英文「deep learning」（深度學習）和「fake」（偽造）組合，
主要意指應用人工智慧深度學習的技術，合成某個（不一定存在的）人的圖像或影片、甚至聲音。
最常見的應用，就是將影片中的人臉替換為另一張臉（常是名人），
讓指定的臉在影片中做出自己從未說過或做過的事情。

                               
登錄/註冊後可看大圖

利用深度學習技術合成或是置換人臉的技術，都是屬於Deepfake。
圖 / stephenwolfram

現今談到 Deepfake，大多數人想到的可能是偽造的成人影片，
就如前述 Youtuber 小玉的事件，Deepfake 一開始受到關注，
主要與名人或明星的臉部影像被合成到成人影片有關，
然而，Deepfake 的功能遠不僅於此，
相關的技術使用還包括了替換表情、合成一整張臉、合成語音等等。

                               
登錄/註冊後可看大圖

除了像是讓過去或現在的名人在影片中「栩栩如生」做出使用者想要的表情與動作，
之前在社群媒體上曾有好幾款 APP一度風靡，
包括上傳一張照片就可以看看「變老」「變性」自己的 FaceApp，
甚至於讓自己的臉在經典電影中講上一段台詞的「去演」APP，
這類的功能也是應用前述 Deepfake 的技術。
雖然有些線索顯示這類 APP 常有潛在的資安疑慮[註]，
但好歹技術的成果多屬搏君一燦自娛娛人，尚可視為無傷大雅。


「栩栩如生」的愛因斯坦(Albert Einstein | Animated using AI Deepfake)

而過往電影的影音產業要仿造人臉需要應用許多複雜、耗時、昂貴的電腦模擬，
有了 Deepfake 相關的技術，也使得許多只能抱憾放棄的事情出現了彌補的空間。
最有名的應用應是好萊塢電影《玩命關頭7》與《星際大戰》系列。
《玩命關頭7》拍攝期間主角保羅・沃克（Paul William Walker IV）意外身亡，
剩下的戲份後來由弟弟擔綱演出，劇組再以  Deepfake 的技術讓哥哥弟弟連戲，
整部電影才得以殺青上映。

(Furious 7 VFX | Breakdown - Brian O"Conner | Weta Digital)
Weta Digital 說明如何讓保羅・
沃克的弟弟 Brian O’Conner 能透過 Deefake 的技術，
繼續協助 保羅・沃克演完《玩命關頭7》

Deepfake 讓「變臉」變得太容易了？

想想過去的電影如《魔戒》中的咕嚕、或是 2008 年布萊德・彼特主演的《班傑明的奇幻旅程》，
將影片或照片中人物「換臉」「變老」的修圖或 CG 技術，
在 Deepfake 出世之前就已經存在了。

Deepfake 受到關注的核心關鍵在於，應用 AI 的深度學習的演算法，

加上越來越強大的電腦與手機運算能力，
讓「影片換臉」這件事情變得越來越隨手可得、並且天衣無縫。

                               
登錄/註冊後可看大圖

利用CG技術把布萊德・彼特「變老」。
圖 / © 2008 – Paramount Pictures

過往電影中採用的 CG 技術要花好幾個月由專業人士進行後製，
才能取得難辨真偽的影像效果，而應用了 AI 演算法，
只需要一台桌上型電腦甚或是手機，

上網就可以取得軟體、有機會獲得差強人意的結果了。
進一步，傳統軟體演算法主要依靠工程師的持續修改調整，
而如 Deepfake 這類技術，內部的演算法會經過訓練持續進化。
有許多技術被應用於提高 Deepfake 的偽造效果，
其中最常見的一個作法

被稱為「生成對抗網路（Generative Adversarial Network, GAN）」，
這裡面包含了兩組神經網路

「生成器（Generator）」和

「辨識器（Discriminator）」。

(Late Taiwanese singer Teresa Teng brought back to life as interactive ‘virtual human’)

在投入訓練資料之後，這兩組神經網路會相互學習訓練，
有點像是坐在主人頭上的小天使與小惡魔會互相吐槽、

口才越來越好、想出更好的點子；

(永遠的鄧麗君回來了？民視新聞)

在練習的過程中，「生成器」會持續生成偽造的影像，
而「辨識器」則負責評分，反覆訓練下來，

偽造生成的技術進步，
辨識偽造的技術也得以進步。

舉例來說，This Person Does Not Exist

這個網站就充滿了使用 GAN 架構建構的人臉，
這個網站中的人臉看上去非常真實，實際上都是 AI 製造出來的「假臉」。

                               
登錄/註冊後可看大圖

This Person Does Not Exist 裡的「假臉」。

(風の谷のナウシカのキャラをAIで実写化してみた)

(【ハウルの動く城】のキャラクターをAIで実写化してみた)

(我把海夢、雷姆與所有角色都還原成真人版！居然長這樣！AI擬真 ft. @志祺七七 X 圖文不符 【六指淵 Huber】)


Deepfake 影片不一定是問題，不知道是 Deepfake 才是問題
現今的 Deepfake 技術得以持續進步、騙過人眼是許多人努力的成果，也不見得都是壞事。
像是《星際大戰：俠盜一號》片尾，年輕的萊婭公主出面驚鴻一瞥，

就帶給許多老粉絲驚喜。

(Princess Leia Ending Scene - Rogue One: A Star Wars Story (2016) (HD)(CGI making of)(A Tribute To Carrie Fisher)

這項技術應用癥結在於，相關演算法輕易就能取得，

除了讓有心人可以藉以產製色情影片

（這類影片佔了Deepfake濫用的半數以上），
Deepfake 製造的影片在人們不知情的情況下，

很有可能成為虛假訊息的載體、心理戰的武器，
甚至於影響選戰與輿情。

因此，Deepfake 弄假似真不是問題，

閱聽者因此「不辨真假」才將是最大的問題所在。


(You Won’t Believe What Obama Says In This Video! )
歐巴馬的 Deepfake 影片(!!仿制技術影片)

相關的研究人員歸納了幾個這類「變臉」影片常見的特徵，
可以用來初步辨識眼前的影片是不是偽造的。
首先，由於 AI 尚無法非常細緻的處理一些動作細節，

因此其眨眼、視線變化或臉部抽蓄的動作會較不自然。
其次，通常在邊緣處，如髮絲、臉的邊緣線、耳環等區域會出現不連貫的狀況。
最後，在一些結構細節會出現不合理的陰影瑕疵，

像是嘴角的角度位置等。

                               
登錄/註冊後可看大圖

由於現階段的 Deepfake 通常需要大量的訓練資料（影像或影片）
才能達到理想的偽造成果，因此會遭到「換臉」的受害者，

主要集中在影像資源豐富的名人，
如電影明星、Youtuber、政治人物等。需要注意的是，
如果有人意圖使用 Deepfake 技術製造假消息，

其所製造的影片不見得需要非常完美，
有可能反而降低解析度、非常粗糙，

一般人如用手機瀏覽往往難辨真假。
人眼已經難辨真假，那麼以子之矛攻彼之盾，

以 AI 技術辨識找出 Deepfake 的成品，
有沒有機會呢？隨著 Deepfake 逐漸成為熱門的議題，

有許多團隊也開始試圖藉由深度學習技術，
辨識偽造影像。

2020 年臉書與微軟開始舉辦的

「換臉偵測大賽」（Deepfake Detection Challenge）

就提供高額獎金，徵求能夠辨識造假影片的技術。

然而成果只能說是差強人意，面對從未接觸過的影片，

第一名辨識的準確率僅為 65.18%。

                               
登錄/註冊後可看大圖

「換臉偵測大賽」（Deepfake Detection Challenge）的辨識素材。圖／MetaAi


(We Made Famous Cartoons into REAL HUMANS)

對於 Deepfake 可能遭到的濫用，

某部分我們可以寄望技術的發展未來終將「道高一尺」，

讓社群平台上的影像不致於毫無遮攔、照單全收；

然而技術持續「魔高一丈」讓防範的科技追著跑，也是顯而易見的。
社群網路 FB 在 2020 年宣布全面禁止 Deepfake 產生的影片，
一旦有確認者立即刪除，twitter 則強制註記影片為造假影片。

Deepfake 僅僅是未來面對 AI 浪潮，

科技社會所需要應對的其中一項議題，
法律、社會規範如何跟上？如何解決箇中的著作權與倫理問題？
這些都將是需要經過層層討論與驗證的重要課題。
至少大家應該心知肚明，過往的網路流行語：「有圖有真相」已經過去，
接下來即將面臨的，是一個「有影片也難有真相」的網路世界了。

(REDEMPTION a full CG movie Made in Blender 3.0 with BREAKDOWN)

• 註解：推出 FaceApp 與「去演」的兩家公司其軟體皆要求註冊，
• 且對於上傳資料之後續處理交代不清，被認為有侵犯使用者隱私權之疑慮。
  

參考資料

• Deepfakes and the New AI-Generated Fake Media Creation-Detection Arms Race – Scientific American
• What To Do About Deepfakes | March 2021 | Communications of the ACM
• Tolosana, R., Vera-Rodriguez, R., Fierrez, J., Morales, A., & Ortega-Garcia, J. (2020). Deepfakes and beyond: A survey of face manipulation and fake detection. Information Fusion, 64, 131-148.
• Deepfake 深偽技術的技術濫用與道德困境，大眾正要開始面對 | TechNews 科技新報
• 台灣團隊研究辨識Deep Fake影片　深偽技術的正邪之戰開打 | 台灣事實查核中心 (tfc-taiwan.org.tw)
  

!!聲線仿造(New AUDIO DEEPFAKES Give You any Celebrity Voice)

延伸閱讀:

濫用 Deepfake 製作換臉影片，有哪些法律責任？
Deepfake 辨偽技術如何在魔高一尺時，能道高一丈呢？——成大統計所許志仲專訪
遏止 Deepfake 被濫用，韓日歐各國如何規範 AI 使用？
Deepfake製作的虛假訊息氾濫，美國如何立法力挽狂瀾？
關於Deepfake色情影像：雖然內容是假的，但傷害是真的

(Top 100 3D Renders from the Internet"s Largest CG Challenge | Alternate Realities)

登錄/註冊後可看大圖 (10 Of The Most Beautiful Cats In The World)

◀拍照不小心拍到路人貓， 會侵害到「肖像權」嗎？ 被偷拍要怎麼辦？ A.繼續裝可愛 B.不理會.繼續Strike A Pose. C.看能換幾罐貓罐罐再作決定

延伸閱聽:OpenAI執行長首度赴美國國會聽證 示警AI恐影響2024大選(公視晚間新聞)

(以上技術討論資源為原作所有)