所謂Deepfake使用人工智慧和大量計算製作的影像和影片。此名詞是由deep learning(深度學習)技術所創造出的fake(偽造)訊息所組成,能在相當程度上產生看似真實的影像。此種利用人工智慧製作的假影片,正在網上氾濫。據報載,社群「台灣網紅挖面」利用換臉技術以牟取不法獲利,警方循線查獲主嫌為知名網紅小玉,全案依涉嫌散播猥褻物與妨害名譽等罪移送偵辦,即為一例。

靠著科技進步及廉價取得,這些造假變得越來越容易。任何人都可以使用適當的軟體來製作看似真實的影片,其中人們的臉、表情被互換,人們說著他們從未說過的話,或做他們從未做過的事情,令人不禁擔憂,今天的任何影像或照片都有可能是謊言。

當Deepfake盛行,我們看到的影像不再能被視為現實的明確證據或真相時,將有哪些重大的影響?

一、作為銷售、報復的利器:荷蘭公司Deeptrace 2019年檢視大約1萬5千個Deepfake影片,高達96%是色情片,許多好萊塢女星與流行歌手都出現其中;在德國亦然,著名歌手Lena Meyer-Landrut也是Deepfake色情片的受害者。除知名人物外,個人也可能受到影響。例如分手的男女、遭解雇的員工利用Deepfake製作不堪入目的色情合成影像散布在網上,藉以羞辱或詆毀某特定人,以達報復的目的。

二、可以煽動人群、操控輿論:在網路世界裡,假新聞傳播速度非常快,有濫用的高度危險。越是在媒體自由、網路開放的地方,敵人或有心者利用民主自由而反民主自由的伎倆,屢見不鮮。專家普遍認為,使用偽造影片來帶輿論風向或操控民意的風險很高。隨著技術越來越好,尤其是在台灣這種高度政黨惡鬥、操弄族群撕裂,社會普遍充滿不信任感的地方,深度造假可能會引發重大的社會動盪,包括政治、經濟、文化等各層面。德國政府也對此直言:「不能排除由於科技的快速進步,深度造假也可能威脅到未來的民主進程」「深度造假會削弱公眾對錄音錄影基本真實性的信心,從而降低公開資訊的可信度。」

三、連事實都可能被認為是虛假的:若Deepfake繼續普及下去,則每一段錄影、每一段錄音都可能被認為是造假,真正的行為人可以輕易地將真相推給偽造。例如,川普過去某段表達了他對女性歧視(你可以從她們的兩腿之間伸出來!)的舊錄音公開後,川普曾經表示後悔並道歉,但是後來卻質疑該錄音的真實性。