2020年8月，美國會研究服務處發布《深度偽造與國家安全》和《人工智能與國家安全》兩大報告，明確指出深度偽造已成為對手信息戰的一部分，對手可利用深度造假技術對抗美國及其盟國，生成虛假新聞報告，影響公開披露的信息，瓦解公眾信任等。尤其是2020年美國大選將至，美各界對深度偽造信息也是嚴陣以待，采取各種措施圍追堵截。深度偽造技術在近幾年迅速興起，為國家間的政治抹黑、網絡攻擊、軍事欺騙、經濟犯罪甚至恐怖主義行動等提供了新工具，為國家安全帶來很大沖擊，這一領域的發展和動向值得高度關注。

　　一、 什么是深度偽造技術

　　深度偽造（Deepfakes）是深度學習（Deep Learning）與偽造（Fake）二者的組合詞，顧名思義，出現于人工智能和機器學習技術時代。這一概念最早出現在2017年底，一開始專指用基于人工智能尤其是深度學習的人像合成技術。隨著技術的進步，深度偽造技術已經發展為包括視頻偽造、聲音偽造、文本偽造和微表情合成等多模態視頻欺騙技術。

　　深度偽造技術的興起是人工智能發展到一定階段的產物，主要依賴人工神經網絡，特別是生成對抗網絡（GAN）。GAN由兩個競爭性人工神經網絡組成，一個網絡（或稱為生成器）試圖造假，負責生成對抗樣本，例如復制照片、音頻錄音、視頻的原始數據集。另一個網絡，亦稱為判決器，負責鑒別偽造數據。基于每次判決迭代的結果，生成對抗網絡，不斷調整參數以創建越來越逼真的數據，直到不斷優化的生成器使判決器無法再區分真實數據和偽造數據。

　　深度偽造不同于以往相對簡單的PS圖像篡改或是其他的視頻、音頻篡改技術，而是基于訓練樣本進行人工智能的深度學習。樣本數據越多，計算機對目標對象的模擬越真實，最后達到以假亂真的地步。深度偽造還結合目標對象的臉型、語音、微表情、筆跡等生物特征進行綜合學習，這是以往任何偽造技術所不能比擬的。

　　二、深度偽造常用應用工具

　　在2020年5月澳大利亞戰略政策研究所發布的《深度偽造技術武器化》報告中詳細介紹了七個常見的深度造假工具：

　　（1）換臉。用戶將目標臉部嵌入另一個身體。該方法可以應用于靜止圖像和視頻，通過專用應用程序在線獲取此技術的簡單版本。

　　（2）重新投射。來自目標源的面部被映射到用戶上，從而允許造假者操縱目標的面部運動和表情。

　　（3）口型同步。用戶在目標視頻上復制口部動作，結合音頻生成，可使目標述說虛假內容，導致視頻描繪另一個事實。

　　（4）動作傳遞。源視頻中人的身體運動可以傳遞給真實視頻中的目標人。

　　（5）圖像生成。用戶可以創建全新的圖像，例如面孔、物體、風景或房間。

　　（6）音頻生成。用戶從真實語音的少量音頻樣本中創建合成語音。該技術可以與口型同步工具結合使用，從而使用戶將音頻“疊加”到預先存在的剪輯中。

　　（7）文字生成。用戶可以生成人工文本，包括社交媒體或網絡論壇上的簡短“評論”或長篇新聞或意見文章。人工生成的評論特別有效，因為此類在線內容有較大的可接受誤差范圍。

　　三、國外對深度偽造技術的重視和警惕

　　深度偽造技術初露雛形時，國外國家安全部門、著名智庫、研究機構就敏銳察覺到該技術存在著威脅國家安全的巨大隱患，因而自該概念出現以來就開始在政策層面、法律層面和技術層面加大了研究和限制力度，以防止該技術被惡意利用。

　　2018年9月，歐盟委員會官方發布《解決網絡虛假信息：歐洲的方式》通報，闡述了解決網絡虛假信息的關鍵總體原則和目標。9月，歐盟發布其歷史上首份《反虛假信息行為準則》，旨在從源頭打擊網絡虛假內容。

　　2018年12月，美參議院推出《2018年惡意偽造禁令法案》，對制作深度偽造內容引發犯罪和侵權行為的個人，以及明知內容為深度偽造還繼續分發的社交媒體平臺，進行罰款和長達兩年的監禁。如果偽造內容煽動暴力、擾亂政府或選舉，并造成嚴重后果，監禁將長達10年。

　　2019年6月，美眾議院提出《深度偽造責任法案》，要求任何創建深度偽造視頻媒體文件的人，必須用“不可刪除的數字水印以及文本描述”來說明該媒體文件是篡改或生成的，否則將屬于犯罪行為。6月，美眾參兩院同時提出《2019年深度偽造報告法案》，明確了“數字內容”的定義，規定國土安全部定期發布深度偽造技術相關報告。

　　2019年10月，美國際戰略研究中心發布《深度偽造技術政策簡報》報告，分析了深度偽造對個人生活和民主國家造成的影響，并正通過互聯網迅速傳播，破壞美國及其盟國的民主進程，建議政府應制定相關規則與法律，并提高辨別真偽的技術能力。

　　2019年12月，美布魯金斯學會發布《檢測失敗時打擊深度偽造》報告，報告指出深度偽造將來可能變得越來越嚴重，目前很多研究和應對措施集中于針對深度偽造的自動檢測。但是，由于產生偽造數字內容的技術有了很大的改進，在不久的將來，自動檢測深度偽造可能變得不可能。

　　2020年2月，美政府問責局（GAO）發布《深度造假的科技評估與分析報告》，簡述了深度造假的定義及其嚴重影響，總結了制作與檢測深度造假的相關技術，并分析了應對深度造假面臨的各方面挑戰。

　　2020年3月，美智庫蘭德公司發布《利用社交媒體發現惡意、顛覆性的信息活動：可擴展的預警分析》報告，提出了將網絡分析和文本分析結合起來檢測信息活動的新方法。

　　2020年5月，澳大利亞戰略政策研究所發布《深度偽造技術武器化》報告，介紹了深度偽造的定義、優勢、常見的偽造工具，以及武器化深度偽造在四個關鍵領域的影響，并提出了應對深度偽造挑戰的相應建議。

　　2020年8月，美國會研究服務處發布《深度偽造與國家安全》和《人工智能與國家安全》兩大報告，明確指出深度偽造已成為對手信息戰的一部分。

　　四、深度偽造技術造成的影響

　　（一）基于深度偽造技術的網絡信息作戰

　　深度偽造技術結合社交網絡的漣漪效應，可以帶來大規模的以訛傳訛式擴散，達到信息作戰目標。在澳大利亞戰略政策研究所《深度偽造技術武器化》報告中詳細闡述了輿論攻防網絡信息作戰方面，借助于深度偽造技術，特別是文本生成工具的改進，可讓人類“放手不管”，能以更快、更經濟的方式生成“足夠好”內容。此外，基于文本的深度偽造技術可實現自動評論，不但顯著降低操作所需的技巧、時間，還使在線宣傳成本降低，從而降低開展大規模網絡信息戰的成本，并擴大參與者的范圍。非國家組織可能在這一領域變得越來越活躍，擅長網絡信息戰的極端主義組織利用該技術的可能性也會增加。此外，深度造假還可使鼓吹活動更加有效，尤其是在治理薄弱、具有潛在種族緊張局勢的地區利用深度偽造技術進行宣傳、生成虛假信息已經被用作信息戰的有效工具。

　　（二）基于深度偽造技術的新型AI網絡攻擊

　　深度偽造音頻是最先進的新型人工智能（AI）網絡攻擊形式之一，黑客借助其音頻生成技術冒充高級管理人員，形成了一種強大的新工具來增強其企業電子郵件泄露（BEC）攻擊。例如，2019年3月，犯罪分子利用AI技術模仿高級管理者的聲音，騙取英國一家能源公司首席執行官轉賬22萬歐元。目前賽門鐵克和以色列國家網絡管理局（INCD）都對這種基于AI的網絡攻擊進行了研究和報道。其中賽門鐵克詳細闡述了創建令人信服的深度偽造音頻所需的計算能力和語音資源，并指出該算法需要足夠數量的語音樣本來捕獲說話者的自然語音節奏和語調。該公司目前正致力于可查看呼叫音頻，并向接收者提供其真實性概率評級的分析方法。防止這些攻擊的現有技術手段目前實施起來很昂貴，并且尚未定位用于解決深度偽造的音頻呼叫。一種可能性是使用認證系統進行組織間呼叫，另一個是使用區塊鏈技術和IP語音（VoIP）呼叫來驗證呼叫者。在此期間，需要加強員工教育以防范這些威脅性的新型AI網絡攻擊與處理所有形式的BEC等。

　　（三）基于深度偽造技術的戰場心理戰應用策略

　　深度偽造技術兼具真實性、便捷性和快速演化性等特點，具有應用于心理戰的巨大潛力。2019年6月，美國議員提請眾議院授權開展深度偽造鑒別技術競賽，要求DARPA實施有競爭力的獎勵計劃，刺激技術的研究、開發或商業化，實際上是激勵人才將該項技術軍事化，從而應用于心理戰和輿論攻防。

　　第一種應用策略是針對指揮系統，戰場環境中，可以提前籌備規劃利用深度偽造技術干擾敵軍指揮效果，如人工智能換臉和語音合成地方軍政領導人的外貌和語音對基層部隊傳達假指示，偽造敵高層簽名對部隊下達假文件、假命令等。第二種應用策略是針對敵戰地宣傳系統，如“換臉”敵新聞主播插播假新聞，干涉敵宣傳系統。第三種應用策略是針對敵一線部隊，如模仿敵方領導人語音進行現場指揮和戰場喊話。戰場情況瞬息萬變，信息溝通不暢會對指揮員決策造成巨大影響，利用深度偽造技術合成的假音頻、假視頻、假文件投送至敵軍內部，在信息封鎖的情況下會極大地考驗指揮員的判斷能力，并增加指揮員出錯概率，一定程度上能夠欺騙敵軍或在敵軍中造成混亂，有效干擾敵指揮系統以致決策錯誤或延誤最佳時機，從而削弱敵戰斗力和戰斗意志，實現策反、勸降等目的。

　　五、深度偽造技術的檢測及面臨的挑戰

　　隨著深度偽造技術的飛速發展及造成的影響越來越大，對其檢測變得越來越重要。為此，相關研究機構和互聯網公司在自動深度偽造檢測工具研發中投入大量資金，積極開發檢測技術。例如谷歌公司為幫助研究人員開發深度偽造自動檢測工具，于2019年9月公開發布深度偽造視頻識別數據集，其中包含3000多段視頻，由多位真人演員在28個不同場景下拍攝，全球研究人員都可使用該完全開源的數據集對深度偽造檢測工具進行訓練。

　　（1）軍事研究方面。以美國國防高級研究計劃局（DARPA）為例，重點研發媒體取證（MediFor）和語義取證（SemaFor）兩大項目，檢測并識別深度偽造技術制作的各型產品，以防御大規模的自動虛假信息攻擊，提高美軍在信息作戰中的防御能力。2020年8月，美國會研究服務處發布《深度造假與國家安全》報告，其中對這兩個項目的介紹如下：

　　1）“媒體取證”項目正在研發自動評估照片和視頻完整性的算法，并向分析師提供有關偽造內容是如何產生的信息。MediFor項目匯集了世界一流的研究人員，據報道，該項目致力于探索并識別深度偽造中存在的視聽不一致的技術，包括像素不一致（數字完整性）、與物理定律不一致（物理完整性），以及與其他信息源的不一致（語義完整性）等問題。“媒體取證”項目2019財年獲得1750萬美元的資助，2020財年獲得530萬美元。該項目在2021財年完成后，預計將過渡到作戰指揮和情報部門。

　　2）“語義取證”項目試圖開發自動檢測、歸因和表征各種類型深度偽造內容的算法。其中包括語義檢測算法，該算法將確定是否已生成或操縱了多模式媒體資產。歸因算法將推斷多模式媒體是否來自特定組織或個人。表征算法將說明是否出于惡意目的而生成或操縱了多模式媒體。這些技術將有助于識別、阻止和了解對手的虛假信息宣傳活動。“語義取證”項目2020財年獲得970萬美元的資助，預計2021財年獲得1760萬美元。

　　此外，報告還指出基于算法的檢測工具將引發一場“貓和老鼠的游戲”，深度偽造生成器將快速迭代更新以應對工具的檢測。因此，社交媒體平臺應當對內容進行標識和認證。此外，還應當部署相應的檢測工具，包括要求用戶標識視頻的時間和地點，以及哪些內容是原創的，哪些是經過編輯的內容。這可能包括要求用戶確定內容來源的時間和位置，或者要求對編輯過的內容進行標記。

　　（2）學術及企業研究方面。華盛頓大學和艾倫人工智能研究所 2019 年推出了一個名為Grover 的可控制文本生成模型和一個偽文本的檢測系統，該系統通過研究并表征其模型的風險，可揭露機器生成的“神經假新聞”。2019年6月，美國加州大學伯克利分校和南加州大學研究人員通過已有的非偽造視頻，收集視頻中個人的特征，構建高度個人化的“軟生物識別指標”體系。還開展了一項名為“保護世界領導者免受偽造”的研究，采用新方法建立了一個探測AI 系統，該系統被輸入數小時高級領導者的視頻并對其進行訓練，以尋找超精密的“面部動作單元”，包括何時抬起上唇以及皺眉時頭部如何旋轉。此外，美國一些頂尖智能研究人員設計了自動系統，可對視頻進行分析，評估光線、陰影、閃爍的圖案，并采用一種可能的突破性方法，評估候選人面部動作（如傾斜的角度）和微笑時頭之間的彼此相關關系。2020年1月，北京大學與微軟亞洲研究院聯合推出深度偽造識別工具“Face X-Ray”，該工具不依賴于與特定圖像修改技術相關的深度偽造知識，并且其算法可以在不生成假圖像的情況下進行訓練。研究結果表明，Face X-Ray能有效地識別出未被發現的假圖像，并能可靠地預測圖像混合區域。

　　美國Adobe公司也于2019年6月推出反向PS工具。依托于AI算法，可自動識別出人像圖片中經過圖像液化工具修改的部分，并將其還原成初始樣貌，準確率高達99%。此外，微軟2020年推出了兩項最新深度偽造檢測技術，其中一項技術是視頻認證器（Video Authenticator），可以在視頻播放的每個幀與原圖進行實時對比，并給出數據分析，它的工作原理是檢測人眼可能無法察覺到的深偽、細微褪色或灰度元素的混合邊界。視頻認證器已通過了DeepFake Detection Challenge數據集測試，該數據集是訓練和測試深度偽造檢測技術的領先模型。值得一提的是，在2020年的深度偽造挑戰賽上，參賽團隊基于該數據集在識別虛假的準確性方面最高達到了80%以上，黑盒測試準確率最高達到了65%。目前這項技術已與AI基金會達成合作。除了對已有信息的檢測，微軟推出的另一項技術支持從信息源頭杜絕偽造。該技術由兩部分組成：一是內置于Microsoft Azure中的一個工具，可使內容制作者能夠向內容片段添加數字哈希和證書。哈希和證書將內容作為元數據存在于任何在線傳播的地方；二是閱讀器，可作為瀏覽器擴展或其他形式存在，用于檢查證書并匹配哈希值，讓人們高度準確地知道內容是真實的，沒有被更改，并提供關于誰制作的詳細信息。該技術由微軟研究院、微軟Azure與捍衛民主計劃合作開發，并且已經與包括英國廣播公司（BBC），加拿大廣播電臺和《紐約時報》等多家媒體公司組成合作伙伴關系。

　　（3）應對深度偽造面臨的挑戰。美政府問責局（GAO）于2020年發布的《深度偽造的科技評估與分析報告》，指出了各界應對深度偽造面臨多方面挑戰：1）開發深度造假檢測工具需要大量數據。深度造假檢測工具必須使用大量不同的數據集進行訓練，并且需要不斷更新，才可能有效檢測深度造假，但是目前研究人員可使用的數據集還遠遠不夠；2）深度造假檢測還未實現自動化。目前，深度造假檢測工具還不能自動、完整地進行分析，難以高效檢測深度造假；3）深度造假技術可能適應檢測。用于檢測深度造假的技術往往會促進深度造假技術發展。這意味著深度造假檢測工具必須定期更新以應對更復雜的深度造假；4）單純檢測難以消除深度造假的影響。由于很多受眾不會甄別接收的信息是否真實，即使完美的檢測工具也難以消除深度造假的影響；5）社交媒體對深度造假的判定標準不一致。各大社交媒體公司對深度造假的監管標準各不相同，影響深度造假的統一應對；6）法律問題。為應對深度造假擬議的法律法規可能使人們質疑言論自由和隱私權保護。另外，打擊深度造假的相關立法可能面臨有效執法方面的挑戰。

　　六、深度偽造技術的發展趨勢

　　深度學習算法是深度偽造技術的核心驅動力，具有自動生成目標圖像的特性，隨著技術的擴散和程序化，制作深度偽造產品的門檻也在不斷降低。同時，深度偽造涵蓋假視頻、音頻、文本、微表情等，產品逼真而多元，識別難度大。此外，很容易與社交媒體結合，借助臉譜網、推特、微信、微博等社交媒體的效力，在全世界迅速傳播。

　　（1）檢測、識別難度越來越大。從2017年深度偽造技術剛誕生時用的卷積神經網絡到現在最新的對抗生成網絡，具有極強的自適應性，通過在對抗生成網絡中不斷自我優化，不斷升級換代，從而達到“真實的可怕”的水平。無論是實現智能“換臉”的計算能力還是逼真程度都有了很大提升，已經讓大眾越來越難辨真假，若非經過專門訓練以及專業鑒別手段的支持，普通人難以發現深度偽造視頻的破綻，曾有瑞士科學家嘗試用最前沿的人臉識別系統去識別“換臉視頻”，結果錯誤率高達95%。

　　（2）制作門檻不斷降低，極易實現零成本擴散。深度偽造技術使用深度學習的一個關鍵優勢是可以使創建過程自動化，這使得低技能用戶也可以快速創建逼真的內容。而且由于計算能力的提高，訓練深度造假算法所需的時間和人力的持續減少，深度造假軟件會變得更便宜、更易獲取。同時，深度偽造的“源數據”如目標對象視頻、語音、文風等在網絡中極易獲得，使得訓練數據非常豐富，有助于提高產品真實性。隨著越來越多的免費而便捷的應用程序出現，只要少數目標對象的高清視頻，就能很快制作出專業換臉視頻，再結合快速發展的社交媒體網絡，幾乎以零成本迅速擴散。

　　（3）深度偽造技術與鑒別技術在不斷的競爭對抗中快速發展。此前，深度偽造視頻尚可通過“目標對象是否眨眼”“微表情是否自然”以及“面部邊緣是否有鋸齒”等作為參照辨別真假，DARPA甚至研發出了一款“反變臉”的AI刑事偵查檢測程序，但隨著偽造技術的不斷升級換代，以上鑒別手段已部分失效，鑒別技術須不斷進步才能跟上深度偽造的更新換代。未來，生成假視頻和檢測假視頻將持續進行“道高一尺、魔高一丈”的反復博弈。

　　（4）降低了大規模開展信息戰的成本，并擴大了參與者的范圍。深度偽造技術的進步，尤其是文本生成工具的進步，可以實現自動評論，顯著降低了這種操作所需的技巧、時間和成本。使深度偽造技術可比目前信息戰模式更快、更節約成本地生成“足夠好”的內容。該模式強調虛假信息的數量和速度，而不是真實性和一致性，以此壓倒、迷惑和分裂目標。此外，由于深度偽造技術降低了在線宣傳的成本，非國家組織可能在這一領域變得越來越活躍，同時擅長信息戰的極端主義組織也會越來越多地利用該技術。

　　七、幾點認識

　　（一）網絡信息戰可取得“以小博大”的輿論攻防效果，達到顛覆網絡空間可信性的效果

　　網絡信息戰作為網絡戰的主要形態之一，是網絡威懾的延伸和拓展，通過網絡發動針對領導層和公眾的心理戰，配合國家政治、外交、軍事斗爭，實現戰略目的，其攻擊成本很低，但造成的影響及后果很嚴重，而且參與方十分寬泛，國家、組織乃至個人都可能成為發動者和打擊對象。深度偽造信息作為網絡信息戰的主要應用方式，具有圖文并茂、聲像逼真、傳輸快捷、范圍廣大、悄無聲息等特點，是傳統心理戰手段無法比擬的。例如，美情報界發布的《2019年全球威脅評估》研究報告認為，“深度偽造”技術已經對美國國家安全構成威脅，敵對勢力和戰略競爭對手很有可能企圖利用深度偽造技術或類似的機器學習技術，創造出高度可信但卻完全虛假的圖片、音頻和視頻資料，以加強針對美國及其盟友和合作伙伴的影響滲透運動。

　　深度偽造技術可以通過連鎖反應引發“蝴蝶效應”，一條信息可以借助覆蓋全球的互聯網驟然掀起軒然大波，其影響力在瞬間能被成千萬倍放大，并可讓虛假信息以高度可信的方式呈現給社會公眾，操縱民眾的情緒反應，引發社會廣泛的不信任，也很可能被外國競爭對手利用，作為詆毀國內政黨、煽動恐怖和暴力活動、挑撥西方內部矛盾的工具。

　　（二）應加強深度偽造技術的安全風險評估，制定相關規范標準予以嚴格限制

　　隨著深度偽造技術的快速進化，相應的檢測識別難度也將越來越大，與此同時，隨著檢測技術越來越先進，偽造技術也將越來越復雜，二者之間似乎將是一場永無休止的競賽。為此，美國高度重視深度偽造技術的應用問題，2019年6月，美國眾議院首次舉辦專門討論深度偽造及其他類型的AI合成技術的聽證會，公開談論深度偽造技術對國家、社會和個人的風險及防范和應對措施。6月，兩黨議員分別在眾、參兩院同時提出《2019年深度偽造報告法案》，要求評估深度偽造技術的安全風險。與此同時，美陸續出臺《2018年惡意偽造禁令法案》和《深度偽造責任法案》，主張對深度偽造技術進行嚴格限制。對我國而言，一方面應將深度偽造技術納入新技術新應用的安全風險評估中，充分評估該技術目前的發展狀況、適用領域和范圍，未來發展方向和應用趨勢，以及對國家安全和政治安全的影響、對公民個人權益的損害等。另一方面，相關部門應盡快制修訂相關技術標準，明確深度偽造技術的適用范圍，涉及國家安全、公共利益和公民合法權益的，要對其適用性進行明確限制，尤其是對深度偽造視頻的傳播應嚴格限制。

　　（三）應采取有效措施解決迫在眉睫的深度偽造治理問題

　　深度偽造已經挑戰并危及國家安全、信息安全、政治安全、新聞專業性和社會道德文化等各個方面，深度偽造的治理已經迫在眉睫。美國、德國等國均出臺相關法律法規，對深度偽造技術進行管控，相關的法律法規條款均對深度偽造內容的性質、責任主體、處罰標準等方面進行規范，意在對個人權利和國家安全的保護。此外，為規避深度偽造視頻可能帶來的不良影響，社交媒體平臺也紛紛出臺管控措施，例如Facebook公司將在2020年美國大選前刪除模仿、諷刺內容以外的深度偽造視頻，以限制錯誤信息的傳播。但是，由于視頻發布平臺可能存在的審核疏漏以及輿論的阻力會給深度偽造視頻的監管帶來不利影響，且由于互聯網使用成本低、網絡作案具備一定的隱蔽性，深度偽造技術治理將會是一個長期的斗爭過程。如何規范深度偽造技術的使用，除了法律規范的嚴格限定，也需要大力促進第三方檢測機構開展深度偽造監測鑒別業務，鼓勵企業加大對鑒別技術研發的投入，并利用區塊鏈、電子認證簽名等技術，開發相關鑒別工具，并結合有針對性的人工審查，形成完善可靠的治理體系。