今年以來，ChatGPT和GPT-4等技術(shù)的應(yīng)用成為信息科技領(lǐng)域的熱點，引起公眾對AI技術(shù)的廣泛關(guān)注和熱情。昨日，中國互聯(lián)網(wǎng)協(xié)會發(fā)文稱，伴隨著深度合成技術(shù)的開放開源，深度合成產(chǎn)品和服務(wù)逐漸增多，利用“AI換臉”“AI換聲”等虛假音視頻進行詐騙、誹謗的違法行為屢見不鮮。北京青年報記者查詢發(fā)現(xiàn)，國內(nèi)多地警方已經(jīng)發(fā)布了相關(guān)案例。

　　利用“AI換臉”虛假視頻詐騙已發(fā)生多起

　　據(jù)內(nèi)蒙古包頭警方消息，近日，福建省一知名企業(yè)家被境外詐騙團伙騙走430萬元。在得知涉案的一張銀行卡在包頭市一銀行后，包頭警方立即介入，僅用10分鐘便將錢款及時控制住，為受害人止損336萬余元。

　　據(jù)當事人郭先生介紹，4月20日當天，騙子冒充他的至交好友，通過微信聯(lián)系到他，視頻中謊稱一個朋友在外地招標，需要430萬元，且需要公對公賬戶過賬，想要借用郭先生公司的賬戶走一下賬。“從頭至尾都沒有和我提借錢的事情，就說會先把錢給我打過來，再讓我給他朋友賬戶轉(zhuǎn)過去。因為在視頻中也確認了面孔和聲音，所以我放松了戒備。當時已經(jīng)臨近中午，對方又說招標款12點前必須到賬，基于對好友的信任，還沒等錢到我的賬戶，我就先把這430萬元給對方打了過去。”郭先生說。

　　錢款打過去后，郭先生給好友發(fā)了一條微信，稱事情已經(jīng)辦妥。到對方回過來是一個問號，一問才知道自己竟遇上了AI換臉的騙局。

　　多地警方密集提醒 涉及轉(zhuǎn)賬交易要格外留意

　　北京青年報記者注意到，針對AI換臉詐騙的案件，近期國內(nèi)各地警方密集進行了提醒。

　　溫州警方表示，不法分子通常會先盜取QQ或微信號，從QQ相冊或微信朋友圈內(nèi)找到號主照片、視頻、聲音等，大面積找好友聊天，看到有回復(fù)的，使用“AI換臉”技術(shù)與之進行視頻聊天，再找各種理由騙錢，受害人往往看到視頻聊天界面后，以為是好友本人，便相信轉(zhuǎn)賬。

　　武漢警方提醒，在涉及轉(zhuǎn)賬交易等行為時，個人要格外留意。

　　對自稱“領(lǐng)導(dǎo)”“朋友”的轉(zhuǎn)賬要求務(wù)必提高警惕

　　中國互聯(lián)網(wǎng)協(xié)會則表示，如果有人自稱“家人”“朋友”“老師”“領(lǐng)導(dǎo)”，通過社交軟件、短信、電子郵件等，以各種方式和理由誘導(dǎo)你轉(zhuǎn)賬匯款，務(wù)必第一時間提高警惕。在AI時代，文字、聲音、圖像和視頻都有可能是深度合成的。在轉(zhuǎn)賬匯款、資金往來這樣的典型場景，要通過回撥對方手機號等額外通信方式核實確認，不要僅憑單一溝通渠道，未經(jīng)核實就直接轉(zhuǎn)賬匯款，無論對方是誰。

　　案例

　　AI除了換臉換聲扮好友還能合成不雅視頻敲詐

　　浙江溫州市公安局也通報過一起利用AI換臉技術(shù)進行詐騙的案件。在這起案件中，陳先生收到了身處國外的好友“阿誠”發(fā)來的私信，在添加了對方的新微信后，對方表示自己最近準備回國，但購買機票的過程中遇到了難題，回國的機票已付了8000元定金，受到國際漫游限制，聯(lián)系不上國內(nèi)航空公司的經(jīng)理，希望將剩余的錢轉(zhuǎn)給陳先生，請他幫忙聯(lián)系經(jīng)理進行付款。

　　對于此人的身份，陳先生有所懷疑，但對方隨后打來視頻電話，視頻中“阿誠”和陳先生揮著手打招呼很是親切，沒過一會兒，對方就掛斷了視頻電話，稱國外網(wǎng)絡(luò)很卡。陳先生漸漸打消了心中的顧慮，并在“阿誠”一步步的“指導(dǎo)”下添加了“航空公司經(jīng)理”的微信替“阿誠”支付了4.9萬元。經(jīng)過警方核實，騙子用AI換臉技術(shù)，利用阿誠社交平臺上先前發(fā)布的視頻，截取了面部視頻畫面并進行了“換臉”，從而對陳先生進行了詐騙。

　　此外，江蘇常州警方也通報了一起類似案例。小劉的初中同學“小韓”通過QQ聯(lián)系小劉，準備借6000元錢， “小韓”先發(fā)來一條語音，聲音很像本人，后來又給小劉打了一通視頻電話。小劉轉(zhuǎn)完錢后越想越不對勁，覺得“小韓”表情僵硬，于是撥打小韓的電話，沒想到小韓的QQ賬號被盜了

　　北青報記者注意到，除了通過AI換臉，然后視頻通話的手段直接詐騙錢財，還有詐騙分子通過AI不雅視頻的方式進行詐騙，詐騙分子用AI技術(shù)合成詐騙對象的個人不雅照，然后以舉報、散播等手段威脅當事人，要求詐騙對象匯款。

　　在溫州警方通報的一起案件中，溫州的陳先生遭遇“AI換臉”敲詐，他收到一封“私家偵探”的敲詐信，同時附帶了他與一名女子的所謂的不雅視頻，信件中對方要求陳先生收件后速與其聯(lián)系，不要心存僥幸，并威脅將視頻散播到互聯(lián)網(wǎng)。因為知道這是一段合成視頻，但不知如何處理，陳先生向警方求助。目前此案件正在調(diào)查中。

　　本組文/本報記者 李鐵柱 (來源：北京青年報)