隨著AI換臉、換聲的視頻在網絡社交平臺上日漸流行，給人們帶來新體驗的同時，也被不法分子所利用。近日，山東省濟南市商河縣公安局刑警大隊破獲了一起利用AI換臉技術詐騙的典型案件。

“今年5月份，黃某某(化名)在家刷短視頻時收到了一條私信，對方自稱是黃某某的表哥，寒暄幾句取得黃某某初步信任后，對方又讓黃某某添加了其QQ號。”偵辦此案的商河縣公安局刑警大隊三中隊中隊長張振華告訴奇聞事件(報料郵箱：[email protected])記者，黃某某的表哥由于在體制內工作，因此對方以自己身份不便為由，希望黃某某幫自己給一個需要資金周轉的朋友，轉一筆大額資金。

為了表示誠意，“表哥”索要了黃某某的銀行卡號，并稱先讓朋友給黃某某轉款后，再讓黃某某轉出。很快，黃某某就收到了對方發來的“轉賬憑證”，雖然看到了“轉賬憑證”，但黃某某并沒有收到這筆轉款，因此沒有立即幫“表哥”轉賬。

嫌疑人發送的轉賬憑證

“因為經過我們的反詐宣傳，對于冒充熟人詐騙的案例，黃某某比較了解，他有一定的警惕性。”張振華說，大約過了20分鐘，“表哥”再次發消息給黃某某，并稱大額轉款到賬會有延遲，目前急需這筆錢，黃某某能否先行墊付一下。

黃某某隨后與“表哥”進行了視頻通話，黃某某見到視頻中的人和表哥一模一樣，不過對方聲音比較低，大約十幾秒后，對方稱有會議便掛斷了視頻通話。

黃某某確信了對方身份后，于是向對方提供的銀行賬戶轉了30余萬元。收到這筆錢后，對方還繼續催促黃某某轉出剩余的欠款。就在黃某某繼續籌集資金的過程中，黃某某發現起初添加自己的短視頻賬號已經顯示被封禁，他急忙給表哥打去電話核實，才知道其表哥對此事毫不知情。意識到受騙的黃某某立即報警。

嫌疑人的詐騙話術

警方根據嫌疑人與黃某某網聊時的IP地址，判定該團伙在境外實施詐騙，由國內銷贓洗錢，是一起采用AI技術換臉、冒充受害者熟人進行點對點網絡詐騙的案件。商河警方通過技術手段偵查，兩次前往廣東東莞，抓獲犯罪嫌疑人7人，目前此案已進入法院審判階段。

張振華表示，在案件的偵破過程中，他們曾咨詢過不少技術人員，這種實時通話的視頻合成技術難度比較大，一般的小公司很難實現，但即便如此，這種詐騙手段仍然可以防范。

“因為此類AI合成技術的視頻通話時間一般都相對較短，犯罪嫌疑人擔心通話時間過長會露出破綻，人臉一旦變化位置或者外圍環境發生變化，都可能會使犯罪嫌疑人恢復原貌。”張振華告訴記者，對于普通群眾而言，一是要注意保護個人隱私信息，其次遇到熟人或親戚借錢時，要及時與對方進行電話溝通，視頻通話時可以讓對方做出固定的手勢或對面部進行遮擋，查看是否有變化，以此判斷對方身份的真假。

AI詐騙形式

另外據中國之聲報道，民警陳歆怡曾辦理過多起倒賣、非法利用用戶人臉照片的侵公案件，她表示AI換臉換聲的基本邏輯是通過深度學習特定算法，將目標人物的人臉、表情、聲音等嫁接進模仿的視頻中，成本低、合成速率高、檢測鑒別難度大，一般人很難發現偽裝痕跡。目前，AI詐騙主要有兩種形式：

第一種是通過技術手段合成換臉、換聲的視頻或語音，在視頻聊天、普通電話中直接播放。這種詐騙主要出現于比較緊急的情況，如遭遇事故求助等，播放結束后就會中斷連接，無法與被害人形成回合性對話。 另一種是在視頻通話中直接換臉并替換聲音，或直接換聲撥打電話。

民警提示，以上兩種詐騙方式都受限于樣本數量，所以可以通過延長通話時間、多次進行提問的方式讓對方多說話，露出破綻。

如何預防AI詐騙

如何預防此類詐騙案件的發生?2022年，網信辦、工信部和公安部制定的《互聯網信息服務深度合成管理規定》明確，深度合成服務者應采取技術或人工方式對使用者的輸入數據和合成結果進行審核。今年8月，網信辦發布的《人臉識別技術應用安全管理規定(試行)(征求意見稿)》明確，人臉識別技術使用者應每年對圖像采集設備、個人身份識別設備的安全性和可能存在的風險進行檢測評估，采取有效措施保護圖像采集設備、個人身份識別設備免受攻擊、侵入、干擾和破壞。北京航空航天大學法學院副教授趙精武表示，相關部門加強監管的同時，也需要公眾自身樹立起良好的防詐騙意識。“涉及到轉賬等財務信息的電話請求，采取其他方式跟好友進行確認。”

民警進一步強調，要想從源頭上預防此類詐騙案件的發生，保護好個人信息是關鍵：

不要隨意接聽陌生電話，防止詐騙人員以電銷推廣等借口采集發音、語句; 避免在個人互聯網社交賬戶上過多暴露個人照片、聲音、視頻等信息; 對外提供人臉照片時需謹慎對待; 使用小眾軟件進行身份認證、網絡貸款實名放貸時需提高警惕; 不要隨意點擊陌生鏈接，鏈接中的木馬程序會竊取用戶手機內的照片、監聽回傳通話內容; 開啟定位服務、輸入身份證號、錄入人臉識別信息、指紋識別信息等個人生物信息時，一定要慎之又慎。

此外，民警表示，各APP網絡服務提供者在收集、使用個人信息時應遵循合法、正當、必要、公開的原則，不得收集與其提供的服務無關的個人信息，應當采取技術措施和其他必要措施，確保其收集的個人信息安全，不得主動向外提供，也要防止信息泄露、毀損、丟失。

如何實現安全和便捷兼備的AI驗證模式?對此，趙精武認為，二者的平衡有探討的空間。“需要結合AI技術的發展動向進行同步調整，也需要服務提供者在相關深度合成產品和服務中增加‘AI生成’的標識機制，降低第三方識別AI生成內容的難度。”