AI技術，也就是人工智能，近年來發展迅速，有關專家介紹，AI的主要特征之一就是能自主深度學習，比如說，可以對現實生活中的人物表情和動作細節進行深度學習并且進行模仿。一些不法分子因此盯上了這項新技術，他們利用“AI換臉”冒充受害人的親戚和朋友實施詐騙。公安部數據顯示，近兩年來，全國共發生“AI換臉”類詐騙案近百起，累計給人民群眾造成經濟損失高達2億元。“AI換臉”詐騙緣何能屢屢得手?這其中的套路有哪些?我們又該如何防范呢?

記者近日來到了浙江大學區塊鏈與數據安全全國重點實驗室。在這里，任奎教授團隊的研究人員讓記者體驗了一回“AI換臉”。

畫面中，這位充當總臺記者替身的姑娘實際上是浙江大學網絡空間安全學院的學生小劉博士。在視頻中，通過AI技術，浙大的研究人員成功將記者的面部特征移植到了劉博士的臉上，并對劉博士的聲音也進行了改造，這樣就合成出了“AI換臉”版的所謂總臺記者。

浙江大學區塊鏈與數據安全全國重點實驗室任奎團隊廉偉辰：我們首先去鎖定高老師和劉博士面部信息的位置，然后在里面提取出兩個人的面部特征信息，之后我們用“AI換臉”模型去擬合兩個人五官分布。因為劉博士面部特征分布情況和高老師分布情況不一樣，所以需要讓高老師的面部特征移到劉博士的臉上。等到AI模型擬合完成后，再把背景信息融合進來，合成最后的效果。

據專家介紹，“AI換臉”技術是一項基于人工智能的圖像處理技術，這種技術能夠識別出目標人物的面部特征并對其進行精準分析。也就是說，只需要目標人物的幾張照片或視頻，AI就能從中提取出他的面部五官和聲音特征，通過和另一個人進行匹配，最終實現換臉，達到以假亂真的效果。

在“AI換臉”類詐騙案件中，那些讓人真假難辨的殺熟視頻就是利用這項技術合成出來的。

AI“造出”老同學

女子險被詐騙40萬

前不久，家住內蒙古鄂爾多斯的李女士忽然收到了一個微信添加好友申請。李女士打開一看，這個微信昵稱為“濁雨不語”的人，頭像是自己的老同學“賈某”，她便加了對方的微信，并在對方的要求下轉入了QQ聊天。進入QQ聊天之后，這名賈某主動發來了視頻通話邀請。

受害人李女士：跟我視頻，我沒等接起來就沒了，緊接著又跟我視頻一次，我還是接不起來。第三次給我打視頻，我接起來16秒鐘看到他的頭像，頭比較大，背景啥的都看不到，聲音聽不到，太吵了那里邊，他就說網絡信號卡，聽不到聲音，文字交代，他就給我打過來字。

視頻通話雖然只有短短的16秒，但李女士確實看到了所謂老同學的樣貌。這樣李女士確信和自己交流的就是老同學“賈某”無疑。

一番寒暄之后，這位所謂的老同學“賈某”說有個急事想請李女士幫忙，他有個朋友正在參加一個項目競標，急需資金周轉，但他不方便直接出面將錢轉給對方，希望借李女士的賬戶做個資金周轉的橋梁。

隨后這位老同學向李女士索要了銀行卡號，接著便聲稱已經向李女士的賬戶轉了196萬元，同時還發來了一張“銀行轉賬記錄”截圖。

在收款未到賬的情況下，這位所謂的老同學極力說服李女士先墊付資金。基于對老同學的信任，加上已經視頻通話核實了身份，李女士沒有進一步確認錢款是否到賬，就將自己手里的40萬元轉入了對方提供的一個銀行賬號。

然而在李女士轉出40萬后，對方仍不罷休，要求她繼續轉賬。此時李女士才感到事有蹊蹺，就在她嘗試再次聯系對方時發現自己已經被拉黑了。隨后李女士撥打了真正的老同學的電話，這才發現被騙了，隨即便報了警。

接到報警后，鄂爾多斯警方立即啟動了緊急止付機制，成功將被騙的40萬元攔截，返還給了李女士。

隨即警方對涉案的“濁雨不語”微信賬號展開了調查。警方調查發現，這個賬號的實名認證信息對應的是一個叫劉某的人，而這個人的行為明顯異常。

鄂爾多斯市公安局東勝分局刑事偵查大隊四中隊指導員楊雪剛：微信號的實際登記注冊人名下有12個微信賬號，我們就對這個人比較懷疑，因為作為一個普通人，不可能有十二三個微信賬號。

很快，辦案民警在呼和浩特找到了劉某。到案后，據劉某交代，此前在一個擁有上千名成員的所謂QQ兼職群中，他關注到了一條標題為“租用私人實名制認證手機號，注冊社交聊天賬號，可以賺錢”的兼職信息。抱著試試看的態度，劉某和他們取得了聯系。

據劉某交代，注冊好多個微信賬號后，他按照上線的要求，將這些微信的頭像、昵稱、地區等全都改成了上線提供的信息之后，便將自己名下的微信號交給境外詐騙團伙操作。

嘗到所謂輕松“賺錢”甜頭的劉某一發不可收拾，將自己的好友王某也一起拉來出租實名認證的微信號。在案發前的9個月時間里，劉某和王某兩人用各自名下的19個手機號，實名認證了三十多個微信賬號、十多個支付寶賬號，出租給詐騙團伙，非法獲利8000余元。

無獨有偶，前不久，家住安徽池州的陳先生也遭遇了“AI換臉”詐騙。這次騙子冒充的是陳先生熟識的一位領導。而這位假領導讓陳先生險些損失了六十萬元。

受害人陳先生：我當時是有所懷疑的，然后給我發視頻，跟我聊天的過程當中完全就是跟我很熟悉的，跟我平時跟他聊天的內容、口氣幾乎是一樣的。那感覺就是完全沒有再去懷疑他了。接到他那個轉賬匯款的截屏，但是沒收到款，這里又要我轉回去，我再三考慮朋友之間，有時候難為情，我就把錢給他轉過去了。

調查中記者注意到，安徽陳先生遭遇的詐騙套路與陳女士的如出一轍：詐騙人員第一步都是先冒充受害人的朋友要求加微信;接著第二步通過聊天取得受害人的初步信任;第三步發來利用“AI換臉”合成的視頻通話進一步打消受害人的顧慮;最后第四步偽造假轉賬記錄并以延時為由，誘騙受害人對外轉款。

獲取公民個人信息

是“AI換臉”類犯罪的最重要前提之一

在“AI換臉”類詐騙案中，騙子之所以能夠屢屢得逞，關鍵在于受害人在視頻通話中都看到了熟悉的親戚朋友的樣貌，才最終打消了顧慮，同意向對方轉款。這些足以以假亂真的視頻全都是通過“AI換臉”技術偽造出來的。隨著調查的深入，記者發現，在“AI換臉”類詐騙中遠不止視頻殺熟一種套路，事實上只要在涉及面容、聲音等特征的社交場景中，“AI換臉”技術如果應用不當就可能形成各種各樣的犯罪。

這家總部位于深圳的網絡安全企業，其主要業務之一是為全國500多個地市區縣的反詐中心提供反詐預警服務。截至目前，他們已協助各級公安部門破獲各類新型犯罪案件6000余起，其中就包括多起利用“AI換臉”偽造色情視頻進行敲詐勒索的案件。

前不久，河北的一位李先生在瀏覽交友App時，因沒禁住誘惑，同意了與所謂美女的裸聊要求，并下載了對方發來的一個非法聊天軟件。殊不知這位所謂的美女是詐騙人員假冒的。而就在聊天過程中，詐騙人員已將李先生的樣貌截取了下來，并利用“AI換臉”偽造了帶有李先生面容的色情視頻。與此同時，詐騙人員還利用非法聊天軟件獲取了李先生手機中所有聯系人的手機號，以此來對李先生進行敲詐勒索。為了讓詐騙人員刪除色情視頻，無奈之下李先生只得同意向對方轉賬12萬元。

深圳某網絡安全科技公司鐘子驥：詐騙人會誘導受騙人進行視頻聊天，然后通過這些軟件截取受害人的面部特征以及外貌，通過AI合成了一些黃色的視頻，投放到他自制的App里。在這個App里有數十萬的用戶，最終通過剛才我們說的這種方式實施詐騙、勒索，平均每個人的受騙金額都是有幾十萬。

調查中記者了解到，在這類案件中，詐騙人員首先會在一些交友類平臺搜尋詐騙對象;然后以裸聊等名義誘導受害人下載注冊非法的聊天軟件，并在注冊過程中非法獲取受害人的通訊錄、照片庫等隱私信息;接著通過視頻聊天截取受害人面部、聲音等特征;最后偽造出帶有受害人面部的色情視頻進行敲詐勒索。

記者注意到，在這類電詐案中，除了需要掌握“AI換臉”這項核心技術之外，成功詐騙的前提還需要獲取受害人的通訊錄、照片庫等個人隱私信息，甚至可以說獲取公民個人信息是“AI換臉”類犯罪的最重要前提之一。

網絡安全專家告訴記者，事實上，對于詐騙團伙來說，要想獲得這些信息并不難。

個人信息大規模泄露

是詐騙犯罪高發的重要因素

在這家企業技術攻破的一些詐騙團伙的數據庫中，記者看到了海量的公民個人隱私信息。這個電子表格中存儲的就是眾多銀行理財用戶的隱私信息，其中包括了姓名、手機號、身份證號、銀行卡號甚至還有用戶理財賬戶金額和風險評估類型。

網絡專家向記者介紹，這些公民個人隱私信息在一些暗網渠道被明碼標價，打包出售，根據新鮮程度的不同，標價從幾毛錢到幾元錢不等，最低起售條數一般以一萬條為計算單位。而這些公民個人隱私信息除了主要由行業內鬼竊取出售之外，另外一個主要渠道就是利用一些非法鏈接、二維碼和手機App的誘導套取。

深圳某網絡安全科技公司負責人肖堅煒：第二個渠道就是由詐騙分子直接自己安排技術人員跟他的業務人員去套取，比如說去發小卡片，這小卡片里有App，你只要裝了這個App，去看直播也好，看色情網站，免費的VPN，然后就會把你的通訊錄、照片給你傳到后臺去。

在浙江大學，研究人員為記者演示了通過掃描非法二維碼套取手機通訊錄和照片庫信息的過程。可以看到，研究人員首先模擬不法分子制作了一條誘導短信，短信中聲稱因存在異常交易，賬戶存在被凍結風險，需要掃描二維碼下載專屬銀行客服。而就在下載安裝成功后，只要點擊這個App，試驗手機中的通訊錄和照片庫就全部被竊取并上傳到了模擬的不法人員后臺數據庫中。

浙江大學區塊鏈與數據安全全國重點實驗室任奎團隊郭永軍：我們可以看到剛剛這個時間，犯罪分子將你手機上的信息進行竊取，可以查看你手機中的通訊錄信息，以及你手機中相冊的信息。在當前的網絡環境下面我們會遇到很多未知的鏈接，比如可能說掃二維碼送禮物去進行一個App下載，這些App沒有經過安全檢測，隨意下載之后手機上的隱私信息就有可能被竊取。

網絡電詐頻發背后

是規模化、協同化的黑灰產業鏈

調查中記者了解到，電信網絡詐騙已形成了分工明確的完整網絡犯罪產業鏈。產業鏈的上游為網絡犯罪團伙提供非法套取的公民個人隱私信息;中游定制個性化腳本實施網絡詐騙;下游洗錢變現。網絡安全專家告訴記者，這樣一個具備“規模化生產、協同運作”等特點的黑灰產業鏈，給網絡詐騙的打擊和治理帶來了挑戰。

據了解，截至目前，我國網絡安全法已實施近7年，個人信息保護法已實施兩年有余。有關法律專家表示，要想進一步遏制公民個人隱私信息泄露及網絡詐騙的發生，在制度上仍需細化和完善。

中國法學會消費者權益保護法研究會副秘書長陳音江：針對公民個人信息保護方面一些具體的法律法規，或者說一些具體的管理措施還要進一步明確，進一步細化，更便于基層執法人員進行監管。

網絡安全專家認為，維護網絡安全需要制度建設與技術創新并重，制度為技術的應用提供保障，技術則為制度的落地提供可行路徑。

浙江大學區塊鏈與數據安全全國重點實驗室任奎團隊研究員巴鐘杰：在防范手段方面我認為一是我們要加強對網絡犯罪的預防和打擊;二是需要從源頭上加強我們的技術安全性，尤其是商用產品的安全性，比方說可以結合隱私計算等技術來降低用戶隱私泄露的風險;三是積極發展新興技術，以AI反制AI。雖然AI合成的視頻現在已經做到了以假亂真的程度，但事實上我們用AI技術還是可以從中提取到一些我們人類肉眼無法察覺的偽造痕跡，以幫助我們的消費者去防范以及識別以“AI換臉”詐騙為主的安全風險。

“AI換臉”詐騙之所以會得逞，實際上就是因為在生活中看到臉就確認身份是再普通不過的習慣，“AI換臉”詐騙就是利用了我們這一習慣。但是“AI換臉”詐騙也并非不可防范，最可靠的一招，就是在線上發現任何疑點，都要線下核實，在線上也可以采取增加溝通時間等方法，時間越長騙子越容易露出馬腳。還可以多一些試探性舉措，比如視頻通話時讓對方轉轉頭或者做一些指定的動作。AI目前還不能完美地適配所有情況，如果是偽造的視頻就一定會存在一些破綻。當然最終引導AI正向應用，嚴厲打擊犯罪行為，才是治本之策。