文化
2019.05.03 11:05 臺北時間

【監控發大財(上)】「我被AI抓了」 百萬維吾爾人成了數據庫的囚犯

2018年12月20日,深圳國際電子展,百度展示人臉辨識技術。(東方IC)
2018年12月20日,深圳國際電子展,百度展示人臉辨識技術。(東方IC)
近來外國媒體陸續揭露中國官方加強對新疆地區的思想管制,數以百萬計的維吾爾族和其他少數民族被送入再教育營接受思想改造。
長期在新疆進行民族學誌田野考察的美國人類學者Darren Byler,最近在《衛報》刊載的報導中指出,中國以人工智慧(AI)輔助的數位監控技術,不只是加強政治控管的有效工具,同時,以新疆做為機器學習的練兵場,也開拓了中國新創公司AI安保的新商機。
其代價是,維吾爾人都成了數據庫裡的囚犯。
美國人類學者Darren Byler最近提到了阿里木的故事
維吾爾青年阿里木,2017年結束國外學業回到中國。飛機一降落,他直接從飛機上被警方帶走。他被告知,出國的行為意味著他可能「不安全」。警方給他進行了所謂的健康檢查,項目包括收集他包括DNA、血型、指紋、聲紋、臉部掃描在內的生物識別數據。
「健康檢查」之後的阿里木,被送到新疆為數眾多的拘留中心之一。從2014年中國展開「反恐人民戰爭」,這些拘留中心就一直扮演反恐的要角。新疆在歷經恐怖攻擊、漢維衝突之後,維吾爾族對伊斯蘭信仰的諸多表達方式都被官方視為宗教極端主義和分裂主義的跡象。光是2017年,新疆維吾爾族、哈薩克族、吉爾吉斯族等少數族裔被送入拘留中心的人數就超過一百萬。

維穩的再教育

在拘留中心,阿里木不時要接受一連數小時的訊問和言詞辱罵,或食物和睡眠被剝奪。審訊之外的時間,他與另外20名維吾爾人擠在一間小小的牢房。
許多被拘留的人是因為他們在手機社交網站上參與了宗教或政治「不當」的活動。甚至,他們未必需要實際犯罪的證據,如果他們的數位足跡曾參與非官方授權的宗教活動,或是與某些違反這類規定的人連繫,就足以被捕。有家人住在海外,或是像阿里木這樣有出國的事實,也可能被拘留。
被拘留的人接下來可能面臨長期監禁,或者可能被轉入所謂「職業技能教育培訓中心」(外媒所稱的「再教育營」)。這些培訓中心有類似強制勞動的工廠,目的是要維吾爾人棄絕伊斯蘭的的身分認同,接受中國官方的世俗主義。

「我被AI抓了」

阿里木相較而言算是幸運。他只在裡頭待了兩個星期就被放出來(事後他得知原來有一位親戚為他幕後奔走)。不過幾個星期之後,他在商場與朋友相約吃飯時再度遇上麻煩。商場入口的檢查哨查驗了阿里木的身分證,並且用配備臉部辨識軟體的監視器進行掃描。偵查系統的警報這時響起。雖然警衛讓他通過,不過幾分鐘後出現的警察又把他帶走。
阿里木事後得知,原來自己已經被列入了官方「一體化聯合作戰平台」的黑名單。這個平台利用人工智慧(AI)來監視新疆各個城市周圍和城市裡面的眾多檢查哨。黑名單裡的人如果試圖進入醫院、銀行、公園、或購物中心等公共機構,或是行動跨出了當地警局的轄區,這各聯合作戰平台就會立即通知警方。原來,這個平台已經將他建檔,並且預測阿里木是潛在的恐怖分子。
新疆庫車舊城區的「巴扎天」,維吾爾民眾在檢查哨前排隊等候進入巴扎(市集)購物。(東方IC)
阿里木完全無能為力。警方告訴他,如果不想被拘留,就應該好好待在家裡。雖然他名義上是自由身,他的生物辨識數據和數位足跡,已經讓他成了不折不扣的囚犯。
中國的反恐戰爭,如今動用的不是大陣仗的特種部隊、無人機、或巡弋飛彈,而是仰賴面部辨識軟體和機器學習的演算法。它鎖定的目標不是外國敵人,而是境內威脅中央威權統治的少數民族。
各種監控軟體可以入侵維吾爾族的數位通訊來找尋可疑溝通模式,舉報可疑宗教言論,甚至是對中文學習缺乏熱忱的人。
實時的深度學習系統透過影片傳送捕捉數以百萬計的面孔,建立檔案辨識可疑行為已預測哪些人會是「不安全」的行為人。透過電腦視覺(computer vision)判斷,這些人如果穿著伊斯蘭服飾、或沒出席升旗典禮,就會發出警訊。這些技術都被引入「一體化聯合作戰平台」,不斷透過它所觀察的維吾爾人行為模式進行機器學習。
參考資料:Guardian, New York Times
更新時間|2023.09.12 20:29 臺北時間

支持鏡週刊

小心意大意義
小額贊助鏡週刊!

每月 $49 元全站看到飽
暢享無廣告閱讀體驗

延伸閱讀

更多內容,歡迎 鏡週刊紙本雜誌鏡週刊數位訂閱了解內容授權資訊

月費、年費會員免費線上閱讀動態雜誌

線上閱讀

更多內容,歡迎 鏡週刊紙本雜誌鏡週刊數位訂閱了解內容授權資訊

月費、年費會員免費線上閱讀動態雜誌

線上閱讀