提升AI魯棒性是識(shí)別深度偽造的有效途徑
深度偽造（Deepfake）是深度學(xué)習(xí)（deep learning）和偽造（fake）的合成詞，最初是指基于深度學(xué)習(xí)的人像合成技術(shù)，隨著技術(shù)進(jìn)化，深度偽造已經(jīng)發(fā)展到對(duì)視頻、聲音、文字和微表情等多模態(tài)視頻偽造的欺騙技術(shù)。
由于深度合成的圖像、視頻、音頻、文本等內(nèi)容制作成本低、操作簡(jiǎn)單、逼真程度高，被大量用在網(wǎng)絡(luò)黑產(chǎn)對(duì)銀行的身份欺詐攻擊；另一個(gè)方面，機(jī)器學(xué)習(xí)往往需要大量的高質(zhì)量訓(xùn)練數(shù)據(jù)來(lái)提升模型的準(zhǔn)確性，但是AI在數(shù)據(jù)量有限的情況下，其性能就會(huì)受到很大局限，對(duì)形式多樣的深度偽造內(nèi)容的甄別難度極大。
對(duì)抗訓(xùn)練可以顯著提升模型的魯棒性
對(duì)抗訓(xùn)練作為抵御對(duì)抗攻擊的有效方法，可以在模型訓(xùn)練中直接加入對(duì)抗樣本進(jìn)行學(xué)習(xí)，得到一個(gè)“增強(qiáng)模型”，從而防御對(duì)抗樣本和偽造樣本，提高AI對(duì)于新數(shù)據(jù)、新場(chǎng)景的泛化能力。目前國(guó)內(nèi)人工智能領(lǐng)域在魯棒性研究方面已經(jīng)取得了一些成果，并可應(yīng)用在金融領(lǐng)域客戶身份識(shí)別、證照鑒別、反欺詐、模型評(píng)估等場(chǎng)景中。
根據(jù)擾動(dòng)的類型來(lái)選擇相應(yīng)的技術(shù)路線
銀行的技術(shù)使用者在應(yīng)用AI進(jìn)行語(yǔ)音、文本或圖像的鑒別時(shí)，需要區(qū)分?jǐn)_動(dòng)的類型是善意還是惡意的，從而可以選擇相應(yīng)的技術(shù)路線來(lái)提升AI的可信度。
善意的擾動(dòng)是由于客觀環(huán)境原因造成原始數(shù)據(jù)質(zhì)量不佳造成的，導(dǎo)致AI的模型決策產(chǎn)生了偏離和錯(cuò)誤。在銀行實(shí)際應(yīng)用場(chǎng)景中，智能客服需要面對(duì)不同的客戶、不同光照環(huán)境的照片、不同的語(yǔ)言表達(dá)習(xí)慣等，當(dāng)這些待處理的數(shù)據(jù)發(fā)生了微小變化后，缺乏魯棒性的AI識(shí)別能力和精確度就會(huì)明顯下降。這種情況下，建議通過(guò)技術(shù)手段來(lái)改善圖像本身的質(zhì)量，將原始數(shù)據(jù)轉(zhuǎn)化為模型可以理解的格式后再進(jìn)行識(shí)別；另外，在模型訓(xùn)練中將知識(shí)驅(qū)動(dòng)和數(shù)據(jù)驅(qū)動(dòng)結(jié)合起來(lái)，通過(guò)抽取、表達(dá)后協(xié)同大量數(shù)據(jù)進(jìn)行計(jì)算，形成更為精準(zhǔn)的模型。
惡意的擾動(dòng)則是故意通過(guò)深度合成偽造圖像，或是在真實(shí)圖像中添加特定噪聲產(chǎn)生對(duì)抗樣本，對(duì)銀行進(jìn)行的欺詐攻擊。面對(duì)這種類型的擾動(dòng)，建議技術(shù)使用者選擇AI對(duì)抗攻防工具進(jìn)行偽造樣本的檢測(cè)，識(shí)別圖像是否被篡改，建立合適的風(fēng)控策略進(jìn)行實(shí)時(shí)預(yù)警或攔截；在選擇偽造檢測(cè)產(chǎn)品時(shí)，需要考量產(chǎn)品對(duì)不同類型對(duì)抗樣本的攻擊拒絕率和準(zhǔn)確率，以及數(shù)據(jù)類型的兼容性、運(yùn)算速度等性能方面的表現(xiàn)，結(jié)合不同業(yè)務(wù)場(chǎng)景的風(fēng)控要求來(lái)進(jìn)行綜合評(píng)估。