隨著人工智能的迅猛發展

詐騙團伙的手段也越來越科技化

近期，話題#AI詐騙正在爆發#

沖上微博熱搜

都說“眼見為實”

但自從AI的應用范圍越來越廣后

有人利用AI換臉實施犯罪

偽造不雅視頻、換臉詐騙等

所以，眼見很可能不為實

耳聽更為虛！

多地出現AI詐騙案例

有人10分鐘被騙430萬元

佯裝“熟人臉”實施詐騙近日，內蒙古包頭警方發布一起利用AI實施電信詐騙的典型案例。

來自福建的郭先生是一家科技公司的法人代表。今年4月，他的好友突然通過微信視頻聯系他，稱自己的朋友在外地競標，需要430萬元保證金，想借用郭先生公司的賬戶走賬。

基于對好友的信任，加上已經視頻聊天“核實”了身份，郭先生在10分鐘內，先后分兩筆把430萬元轉到了對方的銀行賬戶上。

事后，郭先生才得知被騙，原來是騙子通過AI換臉和擬聲技術，佯裝好友對其實施詐騙。

幸運的是，接到報警后，福州、包頭兩地警銀迅速啟動止付機制，成功止付攔截336.84萬元，但仍有93.16萬元被轉移，目前正在全力追繳中。

冒充明星，帶貨直播AI換臉還可能出現在直播帶貨中。最近，網上出現了一些“換臉直播”教程，可以幫助用戶輕松“變臉”，幫助引流賣貨。

△發布者展示換臉為“成龍”的實時效果和軟件界面（視頻截圖）

在一個展示換臉直播效果的視頻中，使用者把“成龍”的模型載入相關軟件后，攝像頭前的人在直播畫面中就有了與成龍相似的五官，但臉型和發型還保持原樣。

使用者在歪頭或變換表情時，五官動效也可以自然切換，只有手掌從臉前劃過時，才出現比較明顯的破綻。

這樣的行為可能涉嫌侵犯相關明星藝人的肖像權，也涉嫌欺詐或虛假宣傳。

想要識破這些“AI騙子”，就要了解清楚AI詐騙方法有哪些。
AI詐騙有哪些常用手法？

第一種：聲音合成

騙子通過騷擾電話錄音等來提取某人聲音，獲取素材后進行聲音合成，從而可以用偽造的聲音騙過對方。

第二種：AI換臉

人臉效果更易取得對方信任，騙子用AI技術換臉，可以偽裝成任何人，再通過視頻方式進行信息確認。

騙子首先分析公眾發布在網上的各類信息，根據所要實施的騙術，通過AI技術篩選目標人群。在視頻通話中利用AI換臉，騙取信任。

第三種：轉發微信語音

騙子在盜取微信號后，便向其好友“借錢”，為取得對方的信任，他們會轉發之前的語音，進而騙取錢款。

盡管微信沒有語音轉發功能，但他們通過提取語音文件或安裝非官方版本（插件），實現語音轉發。

第四種：AI程序篩選受害人

騙子利用AI來分析公眾發布在網上的各類信息，根據所要實施的騙術對人群進行篩選，在短時間內便可生產出定****制化的詐騙腳本，從而實施精準詐騙。例如：實施情感詐騙時，可以篩選出經常發布感情類信息的人群；實施金融詐騙時，可以篩選出經常搜索投資理財信息的人群。

如何防范AI詐騙？

科普君認為，防騙最有效的方法，就是無論對方怎么“換”、怎么變，就是“不聽不信不轉賬”。

國內AI安全公司瑞萊智慧聯合創始人、算法科學家蕭子豪表示：

如果遇到這類疑似AI換臉詐騙的情況，可以在視頻時有意識地引導對方做一些動作，如大幅度的搖頭或張嘴；如果騙子技術手段較弱，那么有可能發現對方面部邊緣或者牙齒的瑕疵，從而識別出AI換臉；

如果疑似是聲音偽造，可以試一下與對方用方言交流；

此外還可以追問幾個只有你與好友之間才知道的私密信息，來核實對方身份。

警方提醒，對于新型詐騙方式有以下三種防范措施：

1.多重驗證，確認身份對突如其來的電話保持警惕，即使是來自你認識的人，因為來電顯示的號碼可能是偽造的。

網絡轉賬前要通過電話等多種溝通渠道核驗對方身份，一旦發現風險，及時報警求助。

如果有人自稱“熟人”“領導”通過社交軟件、短信以各種理由誘導你匯款，務必通過電話、見面等途徑核實確認，不要未經核實隨意轉賬匯款，不要輕易透露自己的身份證、銀行卡、驗證碼等信息。

2.保護信息，避免誘惑如果有人要求你分享個人身份信息，如你的地址、出生日期或名字，要小心。

不輕易提供人臉、指紋等個人生物信息給他人，不過度公開或分享動圖、視頻等。

陌生鏈接不要點，陌生軟件不要下載，陌生好友不要隨便加，防止手機、電腦中病毒，微信、QQ等被盜號。

3.提高安全防范意識****公檢法沒有安全賬戶，警察不會網上辦案，如果有網絡警察說你犯事了，讓他聯系你當地的派出所，你也可以主動打110咨詢。

如不慎被騙或遇可疑情形，請注意保護證據立即撥打96110報警。

三部門發布規定

實際上，AI 換臉技術并非是近期才興起。

2022年11月25日，國家互聯網信息辦公室、工業和信息化部、公安部聯合發布《互聯網信息服務深度合成管理規定》（以下簡稱《規定》），自2023年1月10日起施行。

其中明確提供合成人聲、人臉生成、沉浸式擬真場景等生成或顯著改變信息內容功能的服務的，應當進行顯著標識，避免公眾混淆或者誤認。任何組織和個人不得采用技術手段刪除、篡改、隱匿相關標識。

使用AI換臉軟件生成的視頻

視頻左上角應標識“視頻由AI技術合成”。

記住，和你視頻對話的，不一定是本人！快轉發給你家人，尤其是老年人，讓騙子無法得逞！

來源 | 廣東科普

來源: 廣東科普