隨著人工智能技術(shù)的進(jìn)步,一些不法分子開始利用AI技術(shù)融合他人面孔和聲音,制造非常逼真的合成圖像來實施新型網(wǎng)絡(luò)詐騙,這類騙局常常會在短時間內(nèi)給被害人造成較大損失。那么,我們應(yīng)該如何識別和防范新型詐騙?
有人偷了你的臉!當(dāng)AI詐騙遇上虛擬數(shù)字人“天妤”。視頻來源:最高人民檢察院公號
警惕“AI換臉”新型詐騙
記者調(diào)查發(fā)現(xiàn),最近多地出現(xiàn)的AI換臉詐騙案件,均具備定制性、迷惑性等特征。
其中,香港警方近期披露一起涉案金額高達(dá)2億港元的多人AI換臉詐騙案尤為典型。據(jù)媒體報道,某公司職員受邀參加公司“多人視頻會議”時,先后將2億港元分別轉(zhuǎn)賬到5個本地銀行賬戶內(nèi)。據(jù)警方調(diào)查,這場視頻會議中除了受害者外,其余均為AI換臉后的詐騙人員。
不少業(yè)內(nèi)專家表示,隨著文生視頻大模型Sora等多模態(tài)人工智能的探索和出現(xiàn),人們可能陷入“眼見也不一定為實”的困局?!耙恢币詠?,銀行等部門將實時視頻用做檢驗身份的手段之一,如今其可靠性將面臨巨大挑戰(zhàn)?!敝袊姓▽W(xué)研究會常務(wù)理事、華東政法大學(xué)教授沈??≌f,“隨著人工智能技術(shù)的迭代升級,這類違法行為還可能演變出更多形態(tài)?!?/p>
沈??√寡?,對此類AI換臉和AI擬聲的惡性詐騙案件,若只依靠傳統(tǒng)監(jiān)管手段已不能防堵,監(jiān)管部門在提升自我科技能力儲備的同時,有必要引入新興技術(shù),探索用AI技術(shù)監(jiān)管AI的可能。
Sora可根據(jù)文本內(nèi)容生成逼真視頻。圖片來源:Sora/OpenAI
“AI換臉”的技術(shù)原理是什么
中國網(wǎng)絡(luò)空間安全協(xié)會人工智能安全治理專委會專家薛智慧介紹,“AI換臉”過程主要包括人臉識別追蹤、面部特征提取、人臉變換融合、背景環(huán)境渲染、圖像與音頻合成等幾個關(guān)鍵步驟。
首先通過視頻的采集,追蹤定位圖片里人的面部;第二步,做一個面部特征點的采集和提取,主要包括嘴、鼻子跟眼睛的特征;第三步就是把這張原始的照片,做一個變換跟融合。
其背后最核心的包括為三個部分,首先,利用深度學(xué)習(xí)算法精準(zhǔn)地識別視頻中的人臉圖像,并提取出如眼睛、鼻子、嘴巴等關(guān)鍵面部特征。其次,將這些特征與目標(biāo)人臉圖像進(jìn)行匹配、替換、融合。最后,通過背景環(huán)境渲染并添加合成后的聲音,生成逼真度較高的虛假“換臉”視頻。
如何識別和防范新型詐騙
遇到這種類型的詐騙,普通人該怎么識別和防范呢?四川網(wǎng)警的網(wǎng)絡(luò)安全專家張警官在線支招:一提高反詐意識;二是涉及資金往來應(yīng)多途徑核對,在視頻過程中可以要求對方做掐臉、捏鼻子等特定的動作,觀察視頻有沒有穿?;虍惓W冃?,以此來識別是否為AI偽造的視頻;三是通過電話、微信等多渠道多方式確認(rèn);四是在轉(zhuǎn)賬時,可以將到賬時間設(shè)定為2小時到賬或者24小時到賬,以預(yù)留處理時間。
掐臉、捏鼻子這一招引起了大家的熱議。“超級頭腦”創(chuàng)始人張澤偉說:“隨著技術(shù)的發(fā)展,它的這些漏洞都會被修復(fù)掉。對AI的訓(xùn)練日趨成熟后,可能掐臉、捏鼻子AI也會做了,建議變成捏成“豬鼻子”等一些AI不易做到的動作。或者制定一些只有屬于家人才知道的暗號,這是最保險的?!?/p>
張警官尤其談到,要注意個人信息和隱私數(shù)據(jù)的保護(hù)。AI換臉或者聲音合成技術(shù),前提是要搜集受害人的聲音和圖片視頻資料。日常生活中要保護(hù)好個人隱私安全,使用正規(guī)軟件,防止自己的聊天信息、身份信息泄露,同時我們要盡可能減少社交媒體上自己的照片和聲音曝光。張警官還向大家再次推薦:一定要下載國家反詐中心app,那里面有非常多的案例供大家借鑒。
(來源:中國科技網(wǎng)綜合自央視新聞客戶端、新華每日電訊、閃電新聞、封面新聞、科技日報)