時事
【全文】防境外勢力利用AI亂大選 國安大動員追深偽影音
發佈時間2023.10.03 17:58 臺北時間
更新時間2023.10.03 17:59 臺北時間
已複製連結
應用程式ChatGPT橫空出世，2023年有「生成式AI元年」之稱，卻也因此讓犯罪集團廣泛運用深偽技術（Deepfake）進行詐騙等犯罪活動，如今還成為台灣年底大選的隱憂；本刊掌握，國安會今年初陸續與法務部、調查局、刑事局等就深偽技術製成在網路散布的假影音進行專案會議，會後除最高檢已責成專案檢察官全天待命偵辦相關案件外，調查局及刑事局也引進能夠辨識深偽技術的最新器材，要全力杜絕境外勢力以此進行認知作戰，進而影響大選結果的公正性。
2024總統暨立委選舉將在明年初登場，面對境外勢力為影響選舉結果逐漸加劇的文攻武嚇，以及生成式AI可能擾亂選情，國安會絲毫不敢大意。
購軟硬體 目標2天破案
國安會祕書長顧立雄特別在今年4月召集法務部、調查局、刑事局等單位，就AI技術爆發性成長，犯罪集團可能利用深度偽造（Deepfake）技術製作假影音操作明年初大選進行專案會議，會後各單位也積極擬妥各項因應方案。
本刊調查，法務部長蔡清祥已責成檢察總長邢泰釗成立「AI生成或深度偽造假訊息案件處理中心」，由專責檢察官全天候待命；調查局則已購入多套軟體辨識深偽影片，務求48小時內破案；刑事局也在年初添購能夠辨識深偽影音的設備，警政署長黃明昭更要求刑事局科偵單位，加強打擊深偽犯罪的能量。
為了防止AI擾大選，國安單位可說已全體總動員，特別是針對網路深偽影音部分，更是密切注意，要嚴加防範，但也不禁讓人好奇，究竟深偽技術的恐怖之處為何？又能如何牽動全球政經情勢？
一位不具名的國安官員表示，2018年網路就曾流傳前美國總統歐巴馬指當時的總統川普是「完完全全笨蛋」的深偽影片；今年在社群媒體上，也曾出現烏克蘭總統澤倫斯基要求烏軍向俄羅斯投降的影片，在在顯示有心人士想透過深偽技術散播假訊息影響全球政經情勢。
該名官員說，像今年8月就有多家媒體收到一封名為「錄音檔！柯P揭賴副總統訪美內幕」的電子郵件，內容疑似民眾黨主席柯文哲在內部會議批評賴清德訪美的言論，引起軒然大波，因懷疑是利用深偽技術假造，最後柯請黨部直接向調查局台北市調處報案，也因此讓相關單位更加提高警覺、小心防範。
AI生成 深偽真假難辨
這名國安官員解釋：「若有心人士利用深偽技術企圖影響選舉，例如剪接虛實交錯的畫面美化特定候選人，或刻意模仿手機偷拍畫面、製造候選人失言新聞等，甚至在投票當天或選前一天，利用捏造的爆料影片、發表造假的棄保宣言等，若無法在第一時間作出辨識或澄清，就可能影響大選的公正性，所以各單位才會如此繃緊神經積極應對！」
至於深度偽造（Deepfake）的來源為何？刑事局預防科長林書立向本刊表示，深度偽造一詞，取自深度學習（Deep learning）和偽造（Fake）2字，實務上是指利用AI人工智慧（Artificial Intelligence）結合電腦製作虛假影音，像之前台灣網紅小玉利用深偽技術販賣假名人不雅片就是實例。
他進一步指出，全世界第一個深偽技術，源於1961年IBM工程師製作的電腦語音合成系統，當時是先錄下人說話的聲音，再分類成語音片段，透過語音模式組合成完整的單字或句子，但仍容易聽出差異且成本偏高。
不過，自ChatGPT引爆生成式AI以來，不論是影片、文字、圖像、聲音類的AI技術都隨著加速進步，美國亞馬遜公司就曾在2022年發表一款智慧音箱，僅需錄製一段不到1分鐘的聲音，就能複製出說話者的聲紋語調，還在示範影片中代替一名已故的女性唸她生前未讀完的故事給孫子聽，只不過如此先進的深偽技術，卻也成為犯罪集團作案的工具。
美國《華爾街日報》就曾報導，英國一間公司職員接到假冒德國母公司執行長聲音的電話，匯出約新台幣757萬元的歐元，事後才懷疑是被AI所騙；加拿大一對七旬夫妻也因接到利用AI假冒兒子聲音的電話，跑了好幾家銀行將錢轉給詐騙集團。
林書立表示，深偽技術的進步已讓一般民眾無從辨識真偽，尤其是深偽音訊（Deepvoice）從過去AI需要一個半小時以上的聲紋學習，到現在視不同軟體的品質需求，僅需約1分半到3秒的聲紋就能做出不同的數位假聲音，或是合成足以令人混淆的目標人聲，費用僅需區區數十美元。
中國程式 慎防權限竊改
他說，許多知名網路公司都已經開始推出語音合成系統，程序是先合成一張照片再輸入文字，就可以主動播放數十國語言，甚至不同口音的新聞，這類服務目前也可透過月費或年費訂閱方式，提供文字轉成語音或是製作聲音模型的功能，值得注意的是，有的還主動提供用戶名人聲音作為噱頭，如特斯拉執行長馬斯克的聲音模型便名列其中，若再搭配深偽影片技術，根本就能以假亂真。
林書立提醒，深偽音訊目前在中國發展非常活躍，像是「騰訊智影」今年3月推出客製化服務項目，由於是全中文介面，極受中國用戶的歡迎，也應是當前詐欺集團主要運用的軟體，更透過提供「人、聲、影」3方面整合，使內容創作更簡單高效，花費150美元（約新台幣4,500元）就能做出客戶想要的影音檔，國內民眾對於相關應用程式，尤其是來自中國軟體的權限要求不可不防。
機器辨識 肉眼輔助觀察
本刊調查，為防堵深偽影音對大選可能的影響，最高檢察署已規劃選舉期間的全國性重大假訊息案件，由台北地檢署主任檢察官高一書、檢察官郭耿誠、江宇程3人專責偵辦，並協調相關機關或個人立即澄清，協助迅速下架並追查幕後主嫌，至於各地區性的個案假訊息則由各地檢察署負責，六都由轄區地檢署指派專責主任檢察官立即處理，並提出「AI生成或深度偽造影音、圖片、文字妨害選舉公正性案件研究」等報告，作為基層辦案的參考指引。
調查局長王俊力則表示，一旦該局接獲報案或發現類似不法，會儘速展開調查及檢測，調查官初步會先用幾種基本方式辨識深偽影片，包括購置商業平台偵測影片偽造機率，也可利用傳統影像分析方式檢測，肉眼識別也是重要的方法，除觀察生理特徵外，也可觀察臉部邊緣是否模糊或出現色差等。
王俊力強調，透過深偽技術製造假影片的手法，幕後可能涉及一群人的分工作業，調查局已做好準備，並早就採購多套軟體可辨識影片的真偽，準確度極高，絕對會傾全局之力依法究辦，積極達成「立即澄清」「迅速下架」及「追溯源頭」等3大目標。
刑事局方面則是在今年初花費1,200萬元，分別從荷蘭及美國購入深偽影片和深偽音訊（Deepvoice）辨識軟體，本刊掌握，以這2家廠商的辨識軟體搭配檢測一段片長5分鐘的深偽影片，約可在30分鐘內就得知結果。
聲紋分析 消弭人耳盲點
刑事局研發科長莊明雄告訴本刊，深偽影片技術因人類眼睛感官較靈敏，若仔細觀察，一般人仍可看出細微不同；深偽音訊技術雖未臻成熟，但因人類耳朵感官靈敏度較差，反而不易聽出變造痕跡，若2者結合，對一般人來說，根本就足以達到以假亂真的效果。
但深偽音訊發展日新月異，仍值得相關單位警惕，國際權威聲紋鑑定公司代表Geoffrey Han告訴本刊，深偽音訊再怎麼演化進步，透過基本聲紋頻譜分析、比對與鑑定，仍可協助釐清事實真相、還原事件真偽，基本檢測方式是將語音檔分成十多段，透過波形圖、平譜圖比對，播放時再利用開源軟體進行檢測，幾乎就沒有難以鑑定的狀況。
Geoffrey Han進一步指出，聲音工程專家還會注意編碼、解碼、串流、頻率等細節，一段深偽音檔至少有200個以上的工作參數可進行檢測比對；以台灣而言，如果台電願意提供各國電網頻率參數，聲音工程專家就可查出該音檔是由哪個國家的電網提供電力製作，甚至何時製作都可一清二楚。
有鑑於AI技術發展神速，間接加劇深偽技術的成長，歐盟執委會人工智慧高級專家小組已於2019年4月公布「具可信度之人工智慧倫理指引」，台灣「人工智慧基本法」草案也在2023年出爐，但面對明年初將屆的總統及立委大選恐仍緩不濟急，因此，國安會以降的各相關單位無不繃緊神經、整裝以待，嚴防境外勢力利用深偽技術影響國內政經情勢，也呼籲民眾明辨網路訊息，若有可疑除了謹記不看、不聽、不信、不傳等四原則，也可依法提出檢舉，一起杜絕不實訊息。