2019.07.07 06:56 臺北時間

AI最令人作嘔的應用之一 一鍵「脫衣」app遭下架!

AI最令人作嘔的應用之一   一鍵「脫衣」app遭下架!
技術本身沒有惡意,都是人在作惡。
根據科技網站 The Verge 的報導,推特使用者 @deepnudeapp 最近開發出一款名叫 DeepNude 的應用,官方稱為 「AI X光」。只要給 DeepNude 一張女性照片,借助 DeepFake 神經網路技術,圖片就可以自動「脫掉」女性身上的衣服,令身體暴露。該應用適配在 Windows 和 Linux 系統中,標準版免費,高級版售價為 99 美元。但由於應用產生的效果過於低俗,目前,官方已經宣佈關閉 DeepNude App 以及網站。
該應用開發者在聲明中承認這款應用並不是很完善,只適用於特定的照片。他們從沒想過它會像病毒一樣傳播開來,以至於無法控制,「大大低估了」用戶對這個應用的需求。
 
他表示,儘管採用了安全措施(加浮水印),但已經有 50 萬人在使用它,「人們濫用它的可能性太高了」。該應用開發者聲稱,不想讓假圖片的副本在網上被分享,也不想利用這些 「作品」 來賺錢。另外從現在開始,DeepNude 將不會發佈其他版本,也不會授權任何人使用,啟動高級版本許可也將停止。
據悉,這款應用在國外網站非常火爆,對於使用者來說,無需任何技術門檻,就可拿這款應用生成女性裸露圖片,加以編輯成色情影片,將其傳播開來。雖然圖片有浮水印,顯示為虛假合成,但很多用戶「信以為真」。

逼真效果的 DeepNude

據悉,此消息最初由 VICE 旗下的 Motherboard 網站曝出,他們使用了一張穿著衣服的人(動物)照片,打開 DeepNude,通過一些選項,幾秒鐘就會出現一張同一人的裸體圖像。之後,他們不斷測試了幾十張的圖片,並在 Sports Illustrated Swimsuit 雜誌中取得高解析度的配圖,雖然技術形成的是假像,但實際效果來看卻是十分逼真。
當用技術處理卡通角色潔西嘉兔子的圖像時,生成的圖像極為扭曲,甚至有點可怕(來源:Motherboard)
VICE 表示,他們在發表此消息時,收到了一封自稱為 DeepNude 開發者的郵件,其使用的名字為 Alberto。郵件中,Alberto 表示,該軟體基於 pix2pix,這是一種開源演算法,使用其可以創建生成式對抗網路(GAN),而這一演算法與之前人工智慧換臉技術 DeepFake 演算法相似,也和自動駕駛無人車用於「想像」道路場景的演算法極其相似。
而在應用下架之後,一篇名為 「研究 DeepNude 使用的圖像生成和圖像修復相關技術」 文章,得到了很多 Github 用戶的關注,這篇文章的作者是來自四川大學電腦學院的在讀碩士袁宵。他表示,DeepNude 軟體主要使用了三種深度電腦視覺技術,第一個是 NVIDIA Guilin Liu 團隊在 2018 年發表的論文「Image Inpainting for Irregular Holes Using Partial Convolutions」中提出的 Image-to-Image(圖像到圖像)技術,通過模糊的圖像畫面,不斷分析和訓練之後,仍然能夠恢復出原有的圖像。
 
另外,DeepNude 開發者所提到的基於 Pix2Pix 技術,這是由加州大學伯克利分校的研究人員于 2017 年所提出的,袁宵表示,該技術可以將黑白色的簡易圖轉換為彩色圖,並且能夠補全簡筆劃等等,比如上圖當中貓的簡易畫,通過深度學習與演算法訓練,自動生成貓色物體,帶有夢魘般的面孔,逼近貓體的圖像。
 
當圖像修復、補全邊緣部分之後,DeepNude 最後用上了 CycleGAN 技術,這是由前 MIT CSAIL 博士後研究員朱俊彥的博士論文所提出的,該技術能夠讓照片品質增強,圖像自動著色等。
雖然這是 DeepNude 軟體的演算法成果,但袁宵畢竟不是開發者,這只是他的推測與研究。而更多的網友表示,DeepNude 軟體使用的演算法與 DeepFake 太過於相似。
之前我們曾多次報導 DeepFake 演算法,這是一種基於深度學習的偽造技術,適用於修改圖片和影像,可以實現人臉的移花接木。這種技術讓美國從國會議員到普通程式師,受到了諸多影響。
6 月初,一份有關馬克·紮克伯格的假視頻在國外社交媒體 Instagram 和 Facebook 上廣為流傳。通過技術手段,視頻中的「紮克伯格」說出了現實中他從未說過的話,移花接木的效果可以亂真。
而 Alberto 在郵件中對 VICE 稱,他大約在兩年前開始開發 DeepNude 。當時他發現了人工智慧的潛力,並開始學習其基礎知識。而這款應用的靈感來源於雜誌上的 X 射線等廣告圖片。
他表示,DeepNude 是對這些廣告致敬,並沒有惡搞的想法。他說他是一名「技術愛好者」,而不是偷窺者,並且受到人工智慧的好奇心和熱情的激勵,想要從這個實驗中獲得「經濟回報」。Alberto 在郵件中表示,該演算法僅適用於女性,因為裸體女性的圖像更容易在網上找到,但他仍希望創建一個男性版本。
 
不管出於惡搞精神也好,獵奇心態也罷,他無疑是濫用了 AI 技術,對相關當事人造成了傷害。由於美國並未有嚴格的法律法規來完全約束其行為,導致受害者維權無門。
此前,飽受 DeepFake 之害的「黑寡婦」斯嘉麗就曾在公開場合表達過,對於 AI 技術濫用影響到其生活的憤怒和無奈。
雖然目前該應用已經被停止使用,但是 DeepNude 這樣的應用程式,仍然會持續被其他技術人員開發,並對外推出。在未來幾年內,隨著技術的不斷進步,效果應該會更逼真,處理時間也更快,這是不可阻擋的趨勢。如何利用好技術這把雙刃劍,成為了不得不考慮的一項重要因素。
DeepTech 深科技曾採訪 MIT 人工智慧實驗室主任 Daniela Rus,她認為人類需要謹慎、仔細地看待 AI 技術。技術是中立的,最終的結果取決於控制技術的人。若資料與算力存在很大的偏差,可能會造成難以想像的慘烈後果。
Daniela Rus 對 DeepTech 表示,雖然 AI 有諸多優勢,但是要警惕人類「抄近道」,該弄的東西沒有弄,欺騙技術與系統,造成很大的困擾。

技術是一把雙刃劍

實際上,能夠製造假圖片和假視頻的 AI 技術不僅僅只有 DeepFake,相關技術在過去五年裡層出不窮。這都要歸功於另一項大名鼎鼎的深度學習技術:生成式對抗網路(GAN)。
這是一種讓兩個神經網路「左右互搏」的技術,其中一個網路負責生成物體,一個網路負責判別物體,兩者通過不斷對抗來創造非常真實的虛構圖像、聲音或視頻。
自 2014 年 Ian Goodfellow 發明 GAN 以來,世界範圍內的很多深度學習團隊和企業都開始在上面添磚加瓦,各種 GAN 框架漫天飛舞。
在 DeepFake 出現之前,就已經有了基於 GAN 的 Face2Face 技術和 CycleGAN 模型。前者可以通過攝像頭捕捉人的臉部動作,然後即時轉移到現有視頻中的另一張人臉上,後者則可以改變圖片和視頻中物體或場景的樣貌,實現面部識別轉換。
圖 | Face2Face 模擬特朗普說話(來源:Face2Face)
類似的技術還有很多。比如英偉達的 StyleGAN,可以自動生成惟妙惟肖的圖片,適用於人臉、汽車、風景和動物等。對於人臉來說,StyleGAN 用來混合的特徵包括性別、膚色、臉型、姿勢、表情、鬍鬚、是否戴眼鏡、頭髮長度和顏色等等。它雖然不是一個完美的模型,生成的圖片經常出現瑕疵,但總體上效果出眾。
隨著技術的發展與進步,DeepNude 這款 App 比 DeepFake 簡單易用,更容易吸引用戶上手。但是,我們要深入思考,這項技術帶來的效果,卻是負面的,甚至可以說是畸形的。
資料與社會研究所的研究員 Mutale Nkonde 表示:「DeepNude 應用程式證明了我們對技術工具影響女性方式有著很大的擔憂。」
加州大學伯克利分校的電腦科學教授 Hany Farid 表示:「我們必須更好地檢查深度識別技術,如何更好地保護技術進步,以便他們不會通過有害的方式加以使用」。
另外,百度前首席科學家吳恩達也在推特上批評了這款應用,他認為這是人工智慧最令人作嘔的應用之一,「DeepNude 死了,我很高興」。
 
當大眾認為技術正在快速影響人們生活的時候,要深刻意識到,技術帶來的,不僅僅是正向的回饋,還有負面的效應,這把雙刃劍,如何利用,正在成為全人類最嚴峻的課題與挑戰。
本文係由DeepTech深科技授權刊登。原文連結:一键“脱衣”应用遭下架!吴恩达称,“DeepNude死了,我很高兴”
更新時間|2023.09.12 20:30 臺北時間

支持鏡週刊

小心意大意義
小額贊助鏡週刊!

每月 $49 元全站看到飽
暢享無廣告閱讀體驗

延伸閱讀

更多內容,歡迎 鏡週刊紙本雜誌鏡週刊數位訂閱了解內容授權資訊

月費、年費會員免費線上閱讀動態雜誌

線上閱讀

更多內容,歡迎 鏡週刊紙本雜誌鏡週刊數位訂閱了解內容授權資訊

月費、年費會員免費線上閱讀動態雜誌

線上閱讀