央視網消息：近日，南京市玄武區人民法院審理了一起“AI換臉”詐騙案。被告人符某利用非法獲取的195萬多條公民個人信息和AI換臉軟件，登錄了被害人的支付賬戶，盜刷銀行卡進行消費。
男子通過"AI換臉" 侵入他人金融賬戶
經查，符某為牟取非法利益，通過網購的方式，非法獲取了195萬多條公民個人信息，隨后利用這些公民個人信息，通過AI換臉軟件，以“人臉識別”的方式，登錄了23名被害人的金融平臺支付賬戶。其中，非法更改了5人的支付密碼和綁定手機號，冒用了1人的支付賬戶綁定的銀行卡，購買了兩部手機，共計人民幣15996元。
江蘇省南京市玄武區人民檢察院檢察官助理 張海月：通過技術融合，AI生成一個動態視頻，左搖頭、右搖頭、張嘴，這樣一些金融視頻可能會常對用戶登錄時做的一些指令，突破金融支付平臺的防線。
期間，符某曾試圖利用AI換臉，突破多個金融支付平臺的"人臉識別"認證系統，但是只在某金融支付平臺得逞。
江蘇省南京市玄武區人民檢察院檢察官 徐佳：他就不斷地去嘗試，也嘗試了很多平臺，但是別的平臺可能因為風控系統比較嚴格，這個平臺可能存在一些漏洞，最終得逞。
【江蘇南京】男子因多項罪名數罪并罰 獲刑4年6個月
檢察機關認為，符某的行為，不僅構成刑事犯罪，也嚴重損害了社會公共利益，遂提起刑事附帶民事公益訴訟。2024年10月，法院以侵犯公民個人信息罪、信用卡詐騙罪數罪并罰，判處符某有期徒刑4年6個月，并要求其承擔15996元公益損害賠償金、刪除存儲的所有公民個人信息，并在國家級新聞媒體上公開賠禮道歉。符某表示認罪認罰。另外，針對本案暴露的某金融支付平臺存在的技術風險問題，檢察機關及時發出法律風險提示函。目前，該金融支付平臺已完成整改。
徐佳：這個案子為什么會案發，就是因為只通過刷臉，簡單的一個刷臉就進入了它的平臺，可以修改密碼，如果說這里面多一層身份認證，他就沒有辦法實現更改。目前沒有再發現繼續通過AI換臉進行犯罪的情況。
"AI換臉"可以繞過人臉識別防線？
隨著AI換臉、偽造身份等技術的不斷升級，人臉識別認證身份的方式，是否還足夠安全呢？
對外經濟貿易大學數字經濟與法律創新研究中心主任 許可：我們做網絡安全的內行人都會說一句話，沒有任何一個網絡是永遠安全的，每次更新和迭代都可能會帶來新的漏洞，所以這個漏洞，我們覺得是很難避免的。
通過AI治理AI 提升人臉識別的可靠性
雖然說漏洞不可避免，但是大家也不用恐慌，由技術帶來的風險可以由技術本身的發展去解決，通過AI治理AI的方式，就能解決現在面臨的人臉識別攻擊的問題。
AI安全領域從業者 朱萌：實際上，業內最頂尖的技術的檢測率或者說檢出率是超過95%的，他已經能夠在實戰中應對這樣的AI風險了。比如說，我們在看一個方向的時候，你兩只眼都會看向左方或者看向右前方，但是AI生成，它可能兩只眼是往兩個角度去看的。
專家介紹，當前，一些應用人臉識別技術的單位已經采用了類似的防偽鑒別程序，提升人臉識別系統的可靠性。
中國電子技術標準化研究院網絡安全研究中心測評實驗室副主任 何延哲：比如說，某款這種最新出臺的智能手機，它在你視頻通話的時候，它就會有一個功能，比如說是否識別對面的人臉是偽造的，其實已經把這樣的一些技術應用上了。
使用人臉識別的單位應有更嚴的安全措施
專家認為，除了不斷提升技術手段和增強防偽鑒別能力外，個人信息保護依然是非常重要的環節。一方面，普通百姓應提高自我防范意識，避免隨意泄露個人信息；另一方面，使用人臉識別的單位也應采取更為嚴格的安全措施。
鄭重聲明：本文版權歸原作者所有，轉載文章僅為傳播更多信息之目的，如作者信息標記有誤，請第一時間聯系我們修改或刪除，多謝。
