半月談駐華盛頓記者 周舟

今年6月底，一款可以“一鍵脫衣”的應用DeepNude在網上受到追捧。這一應用借助神經網絡技術，只需要上傳一張照片，即可自動“脫掉”衣服，偽造出逼真的裸照。這款應用上線僅幾個小時下載量就突破50萬，吸引用戶的“一鍵脫衣”效果正是利用“深度偽造”技術實現的。

“深度偽造”是一種基于人工智能的人體圖像合成技術，它能“以假亂真”，不僅偽造裸照，還能實現換臉、模仿真人語言和動作，創(chuàng)造出不存在的人物及活動。這一技術，正在挑戰(zhàn)人們“眼見為實”的傳統(tǒng)認知。

何為“深度偽造” ?

“深度偽造”(Deepfake)是英文“deep learning”(深度學習)和“fake”(偽造)的混合詞，即利用深度學習算法，實現音視頻的模擬和偽造。

這一技術在我國雖沒有被濫用，但在美國曾多次出現針對官員的偽造惡搞視頻。2018年4月，一段主角為美國前總統(tǒng)奧巴馬的視頻，在推特上獲得200多萬次的播放和5萬多個點贊。奧巴馬在視頻中說“特朗普是個徹頭徹尾的笨蛋”。但實際上這段話并非出自奧巴馬，而是美國一位導演公開發(fā)表的言論。

2018年5月，美國總統(tǒng)特朗普宣布中止全球氣候變化協(xié)議，隨后被比利時某政黨利用“深度偽造”技術篡改，做出一個“特朗普宣告比利時政府也應退出”的假視頻，引起比利時民眾的公憤。

由圖靈獎得主姚期智院士創(chuàng)辦的西安交叉核心技術研究院孵化的深信科技，是專門從事“反深度偽造”技術研究的企業(yè)。

創(chuàng)始人楊子江博士介紹，美國出現的“深度偽造”大致有三類：一是換臉，在美國以色情網站、成人電影等為主要應用者;二是對嘴型，即表情遷移，多應用于惡搞官員、影視明星為主的視頻;三是動作遷移，將一個人的肢體動作移植到另一個人的身上，也可形象比喻為“主人與木偶”的關系。“比如將來抖音上的網紅可能是假的，他所說的話，做的事全是被‘深度偽造’技術所操控?！?/p>

真假難辨，引發(fā)廣泛憂慮

從文本到音頻，從視頻到虛擬現實，隨著媒體技術的進步，“深度偽造”應用技術門檻不斷降低，“白紙黑字”“有圖有真相”的傳統(tǒng)認知標準遭遇了前所未有的信任危機?！安痪玫膶?，任何人有可能做出任何視頻。”中國傳媒大學人工智能專家沈浩說。

目前，“深度偽造”技術正在平民化、大眾化，但“反深度偽造”技術仍未成熟，這一局面或將對個人隱私、行政執(zhí)法、司法取證等多方面帶來困擾和威脅，引發(fā)社會憂慮和信任危機。

首先給個人和企業(yè)帶來損害。制作虛假色情視頻是“深度偽造”技術最常見的運用方式之一?！啊疃葌卧臁夹g可能侵害肖像權、隱私權和知識產權等權利，也可能被用來實施詐騙、敲詐勒索等違法犯罪活動?！敝醒胴斀洿髮W人工智能與網絡法專家劉權說。

二是國家安全和公共安全受到威脅。美國專家西特倫舉例說，“深度偽造”可能會影響美國大選，制造出一些候選人沒做過的“錯事”，這些影響都是不可估量的。

三是引發(fā)社會憂慮和信任危機。專家認為，“深度偽造”會加深公眾對政府的不信任感。隨著公眾意識到“深度偽造”的危害，他們會對一般的真實視頻產生懷疑，更容易把真實視頻當作虛假視頻，迷失在真假信息之中，對官方澄清也會持有懷疑態(tài)度。

加強監(jiān)管，完善立法

“深度偽造”技術背后的深度學習技術是一把“雙刃劍”。它可以為電影實現完美配音，可以讓博物館的藝術品“復活”，還可以合成真實醫(yī)學影像，用于治療疑難雜癥。有專家認為，深度學習技術不宜管制，這樣會阻礙技術創(chuàng)新和應用研究。

但“深度偽造”不僅是技術問題，更關乎個人隱私、司法公正、國家和網絡安全。楊子江建議，可建立全網“數字水印或簽名”系統(tǒng)，所有播發(fā)的視頻、圖片等在播發(fā)前，須打上數字水印或簽名，如果被偽造篡改，這些印記會被破壞，從而立刻被標注為虛假信息。

美國國防部今年推出了“媒體法醫(yī)”項目，開發(fā)用于鑒別和定位偽造圖片和視頻的技術，但專家認為，僅僅事后鑒別是不夠的，有必要將識別能力部署在傳播渠道的前端，禁止其發(fā)布或者至少提出警告。

另有專家認為，在以技術制約技術的同時，及時完善立法，不斷加強執(zhí)法，對一些技術解決不了的問題應該立法重罰，追究刑事責任。