久久精品免费全国观看国产_99精品视频在线_国内精品久久久久久久97牛牛_国内大量揄拍人妻精品視頻

人臉識(shí)別智能算法安全檢測(cè)技術(shù)初探

公安部檢測(cè)中心  白鑫  劉軍  張翔  劉冬妮

在人臉識(shí)別智能安全領(lǐng)域，對(duì)抗、深度偽造技術(shù)的快速發(fā)展已經(jīng)引起了社會(huì)的廣泛關(guān)注。通過這些技術(shù)可以輕松地生成虛假的數(shù)字內(nèi)容，從而對(duì)人臉識(shí)別系統(tǒng)進(jìn)行攻擊，這嚴(yán)重威脅了社會(huì)安全和公眾隱私。為了應(yīng)對(duì)這些威脅，對(duì)抗、深度偽造技術(shù)逐漸成為了計(jì)算機(jī)視覺領(lǐng)域中的難點(diǎn)與研究熱點(diǎn)。本文首先闡述了對(duì)抗、深度偽造技術(shù)的研究背景和技術(shù)原理，然后對(duì)現(xiàn)有的攻擊檢測(cè)方案進(jìn)行系統(tǒng)總結(jié)，最后分析探討了現(xiàn)有檢測(cè)技術(shù)面臨的挑戰(zhàn)和潛在研究方向，并對(duì)未來(lái)技術(shù)發(fā)展進(jìn)行展望。

1 背景

近年來(lái)，以深度學(xué)習(xí)算法為代表的人工智能技術(shù)飛速發(fā)展，并在以人臉識(shí)別為代表的多個(gè)領(lǐng)域取得了巨大突破，其技術(shù)不斷運(yùn)用于居民的日常生活中，包括電子身份認(rèn)證、門禁人臉認(rèn)證等，為大家的日常生活帶來(lái)了很多便利。但是人臉識(shí)別^[1]運(yùn)用也是一把雙刃劍，基于人工智能生成對(duì)抗網(wǎng)絡(luò)（GAN）和自編碼器（Auto-Encoder）等算法的對(duì)抗、深度偽造技術(shù)，通過生成虛假數(shù)字內(nèi)容來(lái)攻擊人工智能系統(tǒng)，給日常生活和社會(huì)穩(wěn)定帶來(lái)巨大隱患，引起了大家的廣泛關(guān)注。

人臉對(duì)抗樣本技術(shù)是指通過對(duì)真實(shí)的人臉數(shù)據(jù)添加一些人類難以感知到的或者不影響人類主觀感知判斷的擾動(dòng)^[2]，從而對(duì)人工智能人臉識(shí)別、檢測(cè)算法產(chǎn)生影響，導(dǎo)致以深度學(xué)習(xí)算法為核心的識(shí)別、檢測(cè)等系統(tǒng)判斷出錯(cuò)。

人臉深度偽造技術(shù)是一種基于深度學(xué)習(xí)的人工智能技術(shù)，通過自編碼器等深度生成模型，將人臉、聲音等原始數(shù)據(jù)進(jìn)行學(xué)習(xí)和模擬，從而生成逼真的虛假數(shù)據(jù)。其中，以DeepFake為代表的人臉深度偽造技術(shù)是最為常見的深度偽造技術(shù)之一，可以生成高質(zhì)量的虛假人臉圖像和視頻，并可以對(duì)這些圖像和視頻進(jìn)行多種編輯，如更改表情、口型、頭部姿態(tài)等，使得偽造的內(nèi)容更加逼真，引發(fā)了廣泛的社會(huì)關(guān)注和討論。

盡管對(duì)抗、深度偽造技術(shù)在一定程度上可以為人類帶來(lái)許多便利和娛樂，例如在影視制作、游戲開發(fā)等領(lǐng)域中的應(yīng)用，但它也給人類社會(huì)帶來(lái)了前所未有的安全威脅和挑戰(zhàn)。例如，利用深度偽造技術(shù)，不良分子可以制作虛假的視頻、聲音等，從而誤導(dǎo)公眾或?qū)嵤┰p騙、惡意攻擊等違法犯罪行為，對(duì)公眾隱私、生命財(cái)產(chǎn)安全和社會(huì)穩(wěn)定帶來(lái)威脅。

2 人臉對(duì)抗樣本生成與檢測(cè)

2.1 人臉對(duì)抗樣本生成技術(shù)

人臉對(duì)抗樣本生成技術(shù)是指通過特殊的算法和模型，以一種欺騙性的方式生成人臉圖片，使得這些圖片可以騙過計(jì)算機(jī)視覺系統(tǒng)。對(duì)抗樣本是通過對(duì)原始數(shù)據(jù)進(jìn)行微小修改或添加擾動(dòng)的方式，使得計(jì)算機(jī)視覺系統(tǒng)對(duì)這些數(shù)據(jù)的分類結(jié)果產(chǎn)生錯(cuò)誤。人臉對(duì)抗樣本生成技術(shù)可以生成一些看起來(lái)與真實(shí)人臉非常相似的圖片，但是這些圖片經(jīng)過一定的修改和擾動(dòng)后，可以被計(jì)算機(jī)視覺系統(tǒng)誤判為其他類別的圖片，例如將一個(gè)人的面部圖像誤判為其他人的面部圖像，或者將一個(gè)正常的面部圖像誤判為病態(tài)的面部圖像。

人臉對(duì)抗樣本生成技術(shù)的應(yīng)用場(chǎng)景包括對(duì)人臉識(shí)別系統(tǒng)的攻擊和測(cè)試，以及對(duì)計(jì)算機(jī)視覺系統(tǒng)的安全性進(jìn)行評(píng)估。此外，人臉對(duì)抗樣本生成技術(shù)也可以應(yīng)用于虛擬現(xiàn)實(shí)、人機(jī)交互和藝術(shù)創(chuàng)作等領(lǐng)域。

人臉對(duì)抗樣本生成技術(shù)的實(shí)現(xiàn)方式主要有以下幾種:

（1）基于生成對(duì)抗網(wǎng)絡(luò) (GAN)的方法：這個(gè)方法使用一對(duì)相互競(jìng)爭(zhēng)的神經(jīng)網(wǎng)絡(luò)，一個(gè)生成器和一個(gè)判別器，經(jīng)過多次迭代訓(xùn)練，得到具有欺騙性的對(duì)抗樣本。生成器生成假的人臉圖像，判別器則嘗試區(qū)分真實(shí)圖像和生成圖像，生成器通過學(xué)習(xí)判別器的反饋來(lái)不斷改進(jìn)生成圖像的質(zhì)量，以達(dá)到更好的欺騙效果。

（2）基于遷移學(xué)習(xí)的方法：這種方法使用訓(xùn)練好的深度神經(jīng)網(wǎng)絡(luò)，如VGG、Inception等在原有模型的基礎(chǔ)上添加對(duì)抗性損失函數(shù)，并對(duì)圖像進(jìn)行微小修改，逐步迭代優(yōu)化生成對(duì)抗樣本。

人臉對(duì)抗樣本生成技術(shù)也存在一些問題和挑戰(zhàn)，如生成的對(duì)抗樣本存在視覺差異，容易被人眼識(shí)別出來(lái)，同時(shí)也可能存在無(wú)法生成對(duì)抗樣本的情況。此外，對(duì)抗樣本攻擊可能會(huì)導(dǎo)致人臉識(shí)別系統(tǒng)的誤判率大幅提高，對(duì)系統(tǒng)的安全性帶來(lái)威脅。因此，如何應(yīng)對(duì)對(duì)抗樣本攻擊提高人臉識(shí)別系統(tǒng)的魯棒性，是未來(lái)研究的重點(diǎn)之一。

2.2 人臉對(duì)抗樣本檢測(cè)技術(shù)

由于人臉對(duì)抗樣本生成技術(shù)的存在，可能會(huì)對(duì)人臉識(shí)別系統(tǒng)的魯棒性和安全性造成威脅。因此。研究人員和安全專家們也在致力于開發(fā)相應(yīng)的對(duì)抗樣本檢測(cè)方法來(lái)應(yīng)對(duì)此類攻擊。

人臉對(duì)抗樣本的檢測(cè)方法主要可以分為以下幾類：

（1）基于特征的檢測(cè)方法：這種方法主要通過分析樣本的特征來(lái)檢測(cè)對(duì)抗樣本。例如，利用模型中的中間層特征進(jìn)行分析，探測(cè)出對(duì)抗樣本與真實(shí)樣本之間的差異。然后將這些特征用于訓(xùn)練一個(gè)分類器，通過分類器來(lái)判斷輸入的樣本是否是對(duì)抗樣本。

（2）基于可解釋性的檢測(cè)方法：這種方法利用對(duì)抗樣本的生成過程，通過對(duì)生成過程的解釋，來(lái)檢測(cè)對(duì)抗樣本。例如，可以通過分析生成器的梯度信息，或者探測(cè)生成器的噪音輸入來(lái)識(shí)別對(duì)抗樣本。

（3）基于統(tǒng)計(jì)的檢測(cè)方法：這種方法通過對(duì)樣本集合進(jìn)行統(tǒng)計(jì)分析，來(lái)判斷是否存在對(duì)抗樣本。例如，通過計(jì)算樣本集的均值、方差等統(tǒng)計(jì)量，檢測(cè)是否存在離群點(diǎn)，以此判斷是否存在對(duì)抗樣本。

（4）基于敵對(duì)訓(xùn)練的檢測(cè)方法：這種方法是在訓(xùn)練階段使用對(duì)抗樣本進(jìn)行訓(xùn)練，以提高模型的魯棒性。在測(cè)試階段，對(duì)使用敵對(duì)訓(xùn)練的模型進(jìn)行評(píng)估，以判斷是否存在對(duì)抗樣本。

3 人臉深度偽造生成與檢測(cè)

3.1 人臉深度偽造生成技術(shù)

人臉深度偽造技術(shù)^[3]可以實(shí)現(xiàn)包含人臉替換（Face Swap）和面部重演（Face Reenactment）等多種功能。人臉替換是當(dāng)前最流行的視覺深度偽造方法之一，可以通過將視頻中目標(biāo)人物的臉替換成另一個(gè)人的臉來(lái)生成假視頻，這種技術(shù)被廣泛應(yīng)用于深度偽造工具中。面部重演技術(shù)可以根據(jù)源人臉圖像的身份信息和驅(qū)動(dòng)信息（如嘴型、表情和姿態(tài)）來(lái)合成新的說話人圖像或視頻^[4]。深度偽造人臉表情的操作攻擊是指攻擊者使用面部重演技術(shù)，操縱受害者的表情或嘴型，來(lái)偽造受害者在真實(shí)場(chǎng)景下的虛假面部表情。例如，通過改變奧巴馬的表情和動(dòng)作，攻擊者可以制作虛假演講視頻。目前，F(xiàn)ace2Face等技術(shù)是比較流行的深度偽造人臉表情修改方法，可以實(shí)現(xiàn)不同情緒和表情的修改，面部重演模型整體流程如圖1所示^[5]。

3.2 人臉深度偽造檢測(cè)技術(shù)

深度偽造表情操作攻擊檢測(cè)技術(shù)主要包括數(shù)據(jù)預(yù)處理、算法模型設(shè)計(jì)、模型訓(xùn)練等步驟。首先需要將待檢測(cè)的圖像或視頻數(shù)據(jù)進(jìn)行預(yù)處理^[6]，并根據(jù)先驗(yàn)知識(shí)或圖像處理的手段進(jìn)行進(jìn)一步設(shè)計(jì)。然后設(shè)計(jì)相應(yīng)算法提取出鑒別真假的特征，并構(gòu)建與檢測(cè)目標(biāo)相匹配的深度神經(jīng)網(wǎng)絡(luò)模型^[7]。最后將待檢測(cè)的視頻或圖像輸入到訓(xùn)練好的算法模型中進(jìn)行性能測(cè)試，進(jìn)而驗(yàn)證所設(shè)計(jì)的深度偽造檢測(cè)模型的有效性。在此過程中，決定檢測(cè)性能的關(guān)鍵是如何選擇有效區(qū)分真假表情的相關(guān)特征^[8]，圖2展示了檢測(cè)算法的具體流程。

不同的表情操作攻擊檢測(cè)方法體現(xiàn)在檢測(cè)算法流程中的側(cè)重點(diǎn)不同，可以將目前的檢測(cè)方案分為三類。

3.2.1基于數(shù)據(jù)驅(qū)動(dòng)的深度偽造表情攻擊檢測(cè)技術(shù)

優(yōu)秀的網(wǎng)絡(luò)設(shè)計(jì)能更加有效地提取真?zhèn)伪砬橹g的細(xì)微特征和差異信息^[9]。部分技術(shù)手段沒有把重點(diǎn)聚焦于某一個(gè)特殊的偽造算法上，而是把神經(jīng)網(wǎng)絡(luò)訓(xùn)練成通用的分類器^[10]，如圖3所示，該技術(shù)讓神經(jīng)網(wǎng)絡(luò)來(lái)決定聚焦于輸入數(shù)據(jù)的哪些特性，從而判斷真?zhèn)巍?/span>

3.2.2基于信息不一致的深度偽造表情攻擊檢測(cè)技術(shù)

研究發(fā)現(xiàn)不同人在說話時(shí)，面部表情和頭部運(yùn)動(dòng)存在明顯的模式差異。而在目前現(xiàn)有的偽造方式中都對(duì)這種模式造成了破壞，即視頻中的人臉區(qū)域發(fā)生了篡改，導(dǎo)致人物說話時(shí)面部表情和頭部運(yùn)動(dòng)的模式與人物身份不相符。可以通過基于聽覺和視覺情感特征不一致的檢測(cè)方法，即同時(shí)從音頻和視頻中提取情感特征，以此來(lái)檢測(cè)輸入視頻真?zhèn)巍?nbsp;

3.2.3基于GAN圖像特征的深度偽造表情攻擊檢測(cè)技術(shù)

研究發(fā)現(xiàn)GAN生成技術(shù)改變了圖像的像素和色度空間統(tǒng)計(jì)特征，可以通過學(xué)習(xí)特征共生矩陣來(lái)區(qū)分生成圖像的差異。Wang (2019) 等人提出FakeSpotter^[11]，利用神經(jīng)元監(jiān)控的方法來(lái)進(jìn)行分類，基于神經(jīng)元監(jiān)控的圖像真?zhèn)畏诸惙椒ǎㄟ^覆蓋神經(jīng)元并觀察真?zhèn)螆D像經(jīng)過人臉識(shí)別器中的神經(jīng)元激活變化情況，利用SVM學(xué)習(xí)神經(jīng)元激活的差異，從而區(qū)分真?zhèn)螆D像。在假的人臉或表情中，神經(jīng)元覆蓋的行為表現(xiàn)出相似性。

4 結(jié)語(yǔ)

總的來(lái)說，人臉對(duì)抗、深度偽造樣本的檢測(cè)方法還處于不斷發(fā)展和完善中，未來(lái)需要結(jié)合多種方法，不斷提高對(duì)抗樣本檢測(cè)的準(zhǔn)確性和魯棒性，通過對(duì)大量數(shù)據(jù)集以及服務(wù)器資源進(jìn)行訓(xùn)練，來(lái)獲得更加高效的數(shù)據(jù)驅(qū)動(dòng)算法。

大多數(shù)已有的檢測(cè)算法通常是在單一的測(cè)試場(chǎng)景下進(jìn)行的，現(xiàn)實(shí)世界中常常面臨多種噪聲干擾，圖像失真等復(fù)雜情況。且部分檢測(cè)方法容易依賴特定的數(shù)據(jù)集和生成算法，泛化能力弱。需要我們探索盡可能多的偽造類型，尋找共性特征，探索不同數(shù)據(jù)預(yù)處理對(duì)檢測(cè)算法性能的影響，進(jìn)而進(jìn)一步增強(qiáng)模型的魯棒性和泛化性以應(yīng)對(duì)人臉識(shí)別系統(tǒng)面臨的各種安全挑戰(zhàn)。

參考文獻(xiàn)

[1]梁杰. 面向人臉識(shí)別的對(duì)抗樣本攻擊模型研究與應(yīng)用[D]. 貴州大學(xué),2022 .

[2]潘文雯，王新宇，宋明黎，陳純.對(duì)抗樣本生成技術(shù)綜述[J]. 軟件學(xué)報(bào), 2020. 31(1): 67-81.

[3]李旭嶸，紀(jì)守領(lǐng)等.深度偽造與檢測(cè)技術(shù)綜述[J]. 軟件學(xué)報(bào), 2021. 32(2): 496-518.

[4]藺琛皓，沈超，鄧靜怡等.虛假數(shù)字人臉內(nèi)容生成與檢測(cè)技術(shù)[J]. 計(jì)算機(jī)學(xué)報(bào), 2023. 46(3): 469-498.

[5]趙超.AI換臉技術(shù)的法律風(fēng)險(xiǎn)評(píng)估—從APP“ZAO”談起[J]. 江蘇工程職業(yè)技術(shù)學(xué)院學(xué)報(bào), 2020. 20(01): 103-108.

[6]黃懌豪.深度偽造圖像的精細(xì)化與檢測(cè)研究[D], 華東師范大學(xué),2022 .

[7]Simonyan K, Zisserman A. Very deep convolutional networks for large-scale image recognition[J]. ar Xiv preprint ar Xiv: 2014,1409.1556.

[8]Thies J, Zollhofer M, Stamminger M, Theobalt C, Niebner M. Face2face: Real-time face capture and reenactment of rgb videos[C]Proceedings of the IEEE conference on computer vision and pattern recognition. 2016,2387-2395.

[9]Schmidhuber J. Deep learning in neural networks:An overview[J].Neural Networks, 2015, 61:85-117.

[10]Nilsson NJ. Principles of artificial intelligence.Berlin, Germany:Springer Science&Business Media.1982.

[11]李嶸,紀(jì)守領(lǐng),吳春明等.深度偽造與檢測(cè)技術(shù)綜述[J].軟件學(xué)報(bào),2020,32(2):496-518.