本報(bào)訊 （記者袁傳璽）近日，中央電視臺(tái)財(cái)經(jīng)頻道（CCTV-2）《經(jīng)濟(jì)半小時(shí)》欄目播出《AI換臉詐騙的攻與防》專題報(bào)道，聚焦AI換臉技術(shù)濫用引發(fā)的金融風(fēng)險(xiǎn)：不法分子通過合成他人人臉信息嘗試借貸，此類詐騙在網(wǎng)上信貸系統(tǒng)中頻繁發(fā)生。為了解如何防范此類風(fēng)險(xiǎn)，欄目將鏡頭對(duì)準(zhǔn)行業(yè)防深偽破局實(shí)踐，深入解讀了以度小滿為代表的科技金融公司如何憑借專項(xiàng)技術(shù)，構(gòu)建AI換臉詐騙防護(hù)體系，為全行業(yè)應(yīng)對(duì)此類風(fēng)險(xiǎn)提供關(guān)鍵參考。

    在《經(jīng)濟(jì)半小時(shí)》報(bào)道中，記者采訪了金融科技公司度小滿。據(jù)介紹，目前度小滿已經(jīng)研發(fā)了專門的風(fēng)險(xiǎn)識(shí)別算法。度小滿相關(guān)負(fù)責(zé)人介紹，此前有一條活體認(rèn)證視頻進(jìn)入系統(tǒng)，算法識(shí)別其風(fēng)險(xiǎn)分?jǐn)?shù)達(dá)90多分，命中風(fēng)險(xiǎn)預(yù)警，經(jīng)審核確認(rèn)是一起AI換臉攻擊案例。“國(guó)際認(rèn)證中，90多分代表高于90%真實(shí)度的AI換臉，我們的系統(tǒng)能精準(zhǔn)識(shí)別。”

    在AI換臉模擬場(chǎng)景，度小滿工作人員向央視記者展示了高仿真人臉生成審核樣例：4張看似相同的人臉中，僅1張為真人。記者用肉眼無法分辨真?zhèn)?，而團(tuán)隊(duì)的升維檢測(cè)模型給出了清晰結(jié)果——風(fēng)險(xiǎn)分?jǐn)?shù)50分以上即為高風(fēng)險(xiǎn)，前3張假臉均超過50分，真人則在50分以下。“魔高一尺，道高一丈，我們的升維檢測(cè)模型在持續(xù)升級(jí)。”度小滿首席技術(shù)官?gòu)埼谋蟊硎尽?/p>

央視《經(jīng)濟(jì)半小時(shí)》節(jié)目報(bào)道截圖

    為提升技術(shù)防護(hù)能力，度小滿還借鑒軍事訓(xùn)練中“紅藍(lán)對(duì)抗”模式開展模型訓(xùn)練：藍(lán)軍模擬犯罪分子用AI人臉攻擊服務(wù)器，紅軍負(fù)責(zé)識(shí)別攔截，確保在新型AI換臉技術(shù)出現(xiàn)前，提前做好應(yīng)對(duì)。目前，該技術(shù)模型參數(shù)量達(dá)百億級(jí)別，相較于兩三年前普遍幾千萬級(jí)別的活體防偽模型，實(shí)現(xiàn)了從普通模型到大模型的跨越，能力大幅提升。實(shí)戰(zhàn)成果顯著，據(jù)張文斌介紹，去年度小滿為14萬客戶發(fā)出詐騙提醒，成功阻止3000多起詐騙案件，預(yù)計(jì)挽回1.8億元經(jīng)濟(jì)損失。

防深偽技術(shù)工作后臺(tái)界面

    值得警惕的是，隨著AI技術(shù)變得越來越普遍，風(fēng)險(xiǎn)識(shí)別技術(shù)也需要與時(shí)俱進(jìn)。有多位金融業(yè)內(nèi)人士建議，面對(duì)AI換臉騙術(shù)，需推動(dòng)全行業(yè)信息共享與技術(shù)共享。當(dāng)一家金融機(jī)構(gòu)發(fā)現(xiàn)新型AI詐騙手段，應(yīng)及時(shí)同步至整個(gè)行業(yè)，不給騙子二次作案的機(jī)會(huì)，共同構(gòu)建互聯(lián)網(wǎng)金融安全屏障。

（編輯 張明富）