關(guān)于遭遇AI詐騙怎么破？四招搞定：揮手、看眼、戳鼻、問問題,這個很多人還不知道，今天瀾瀾給大家說一說，現(xiàn)在讓我們一起來看看哈~！

近期，香港警方披露了一起多人 “AI換臉”詐騙案，涉案金額高達(dá)2億港元。隨著近年AI技術(shù)的迅猛發(fā)展，AI詐騙風(fēng)險隨之增高，電信詐騙分子或通過“AI換臉”、模擬變聲等，假冒熟人進(jìn)行詐騙。對此，有專家表示，其實(shí)AI人工“換臉”無論做得多逼真，想要識別真假還是有一些方法的，比如在視頻通話中，如果對方是真人的鼻子，按下去是會變形的，但AI生成的人鼻子并不會 ，相關(guān)話題登上熱搜。上游新聞根據(jù)公開報(bào)道對這些方法進(jìn)行了梳理。

多人會議僅一人為“真人”

上游新聞梳理公開報(bào)道發(fā)現(xiàn)，近年來國內(nèi)已發(fā)生多起通過“AI換臉”實(shí)施詐騙犯罪的案例，其中香港警方披露的一起近期發(fā)生的案件致受害人損失2億港元。

相關(guān)案件示意圖。新聞截圖

在上述案件中，一家跨國公司香港分部的職員受邀參加總部首席財(cái)務(wù)官發(fā)起的“多人視頻會議”，并按照要求先后轉(zhuǎn)賬多次，將2億港元分別轉(zhuǎn)賬15次，轉(zhuǎn)到5個本地銀行賬戶內(nèi)。之后，其向總部查詢才知道受騙。警方調(diào)查得知，這起案件中所謂的視頻會議中只有受害人一個人是“真人”，其他“參會人員”都是經(jīng)過“AI換臉”后的詐騙人員。

近期在陜西西安也發(fā)生了一起“AI換臉”詐騙案例。陜西西安財(cái)務(wù)人員張女士與老板視頻通話，老板要求她轉(zhuǎn)賬186萬元到一個指定賬號。

被害人張女士稱，“老板”讓把這個款趕緊轉(zhuǎn)過去，這筆款要得非常著急，因?yàn)?ldquo;老板”聲音還有視頻圖像都跟他本人是一樣的，所以就更確信這筆款是他說要的了。轉(zhuǎn)賬之后，張女士按照規(guī)定將電子憑證發(fā)到了公司財(cái)務(wù)內(nèi)部群里，然而出乎意料的是，群里的老板看到信息后，向她詢問這筆資金的來由，“然后我們就打電話再跟老板去核實(shí)，老板說他沒有給我發(fā)過視頻，然后也沒有說過這筆‘轉(zhuǎn)賬’。”

意識到被騙的張女士連忙報(bào)警求助，警方立刻對接反詐中心、聯(lián)系相關(guān)銀行進(jìn)行緊急止付，最終保住了大部分被騙資金——156萬元。

陜西張女士遭遇“AI換臉”詐騙。新聞截圖

去年5月初，內(nèi)蒙古包頭市公安局電信網(wǎng)絡(luò)犯罪偵查局發(fā)布一起使用智能AI技術(shù)進(jìn)行電信詐騙的案件。福建省福州市某科技公司法人代表郭先生的“好友”突然通過微信視頻聯(lián)系他，聲稱自己的朋友在外地投標(biāo)，需要430萬元保證金，想借用郭先生公司的賬戶走賬?；谝曨l聊天信任的前提，郭先生并未核實(shí)錢是否到賬，就陸續(xù)轉(zhuǎn)給對方共計(jì)430萬元，之后郭先生才發(fā)現(xiàn)被騙 。

據(jù)媒體此前報(bào)道，2022年2月，有位陳先生到浙江溫州市公安局甌海分局仙巖派出所報(bào)案稱，自己被“好友”詐騙了近5萬元。經(jīng)警方核實(shí)，詐騙分子利用陳先生好友“阿誠”在社交平臺發(fā)布的視頻，截取其面部視頻畫面后再利用“AI換臉”技術(shù)合成，制造陳先生與“好友”視頻聊天的假象騙取其信任，從而實(shí)施詐騙。

在更早的2020年，上海某公司高管因?qū)Ψ绞褂?ldquo;AI換臉”與人工生成的語音技術(shù)制作公司領(lǐng)導(dǎo)的面孔，并要該高管轉(zhuǎn)賬，致使該高管被詐騙150萬元。

技術(shù)開源致“換臉”門檻降低

那“AI換臉”是怎么做到的呢？據(jù)閃電新聞報(bào)道，該技術(shù)是通過提前設(shè)置好程序，檢測人臉五官、輪廓的關(guān)鍵點(diǎn)及位置，只需要幾秒就可以換上一張新的“人皮” 。山東犀鹽數(shù)據(jù)科技有限公司總經(jīng)理彭建輝介紹：“像這樣換臉技術(shù)，還有換聲技術(shù)，它都已經(jīng)是開源的項(xiàng)目，大家都可以學(xué)習(xí)并且去實(shí)施。所以說‘AI換臉’這項(xiàng)技術(shù)，其實(shí)很多普通的工程師就可以完成。”

中國網(wǎng)絡(luò)空間安全協(xié)會人工智能安全治理專委會專家薛智慧介紹，“AI換臉”過程主要包括人臉識別追蹤、面部特征提取、人臉變換融合、背景環(huán)境渲染、圖像與音頻合成等幾個關(guān)鍵步驟。

AI生成的視頻以假亂真。網(wǎng)絡(luò)圖

首先通過視頻的采集，追蹤定位圖片里人的面部；第二步，做一個面部特征點(diǎn)的采集和提取，主要包括嘴、鼻子跟眼睛的特征；第三步就是把這張?jiān)嫉恼掌?，做一個變換跟融合。

其背后最核心的包括為三個部分，首先，利用深度學(xué)習(xí)算法精準(zhǔn)地識別視頻中的人臉圖像，并提取出如眼睛、鼻子、嘴巴等關(guān)鍵面部特征。其次，將這些特征與目標(biāo)人臉圖像進(jìn)行匹配、替換、融合。最后，通過背景環(huán)境渲染并添加合成后的聲音，生成逼真度較高的虛假“換臉”視頻。

“動手動腳”識別“AI換臉”

而作為沒有相關(guān)計(jì)算機(jī)、AI技術(shù)背景的普通人，該如何識別視頻或?qū)崟r通話中的對方是否“換臉”呢？

據(jù)閃電新聞報(bào)道，一些“動手腳”的網(wǎng)絡(luò)社交是很有必要的，“‘AI換臉’就是一種算法，當(dāng)然存在漏洞，所以在運(yùn)用‘AI換臉’這項(xiàng)技術(shù)的時候會有些變形，像是臉龐或者眼睛，如果反復(fù)快速移動的話，會產(chǎn)生扭曲變形。那么我們在平常的生活中，跟朋友開視頻時，如果不確定對方的身份，可以讓朋友遮一下自己的臉，移動下眼睛，看是否會發(fā)生變化。此外，在視頻通話時還可以觀察背景和光影與面部是否匹配。”山東犀鹽數(shù)據(jù)科技有限公司總經(jīng)理彭建輝接受采訪時介紹。

另外，雖然深度合成技術(shù)很強(qiáng)大，但生成的人臉在細(xì)節(jié)上存在很多不足。有研究人員提出利用真假臉的不一致性來區(qū)分，如新的人臉的生成，圖像的數(shù)據(jù)點(diǎn)插值是隨機(jī)的，會導(dǎo)致全局眼睛的左右顏色、鼻子的左右色彩等不一致；其次，篡改區(qū)域和正常區(qū)域?qū)庹盏姆瓷洳灰粯?，如眼睛區(qū)域，深度合成生成的視頻大多會丟失眼睛反射細(xì)節(jié)。

專家介紹識別“AI換臉”方法。新聞截圖

中國計(jì)算機(jī)學(xué)會安全專業(yè)委員會數(shù)字經(jīng)濟(jì)與安全工作組成員方宇建議，可以要求對方在視頻對話的時候，在臉部的前面通過揮手的方式，去進(jìn)行識別。因?yàn)閷?shí)時偽造的視頻，需要實(shí)時的生成和處理，在揮手的過程中，會造成面部數(shù)據(jù)的干擾。“揮手過程中，他所偽造的這個人臉，會產(chǎn)生一定的抖動或者是一些閃現(xiàn)，或者是一些異常的情況。”

中國科技大學(xué)網(wǎng)絡(luò)空間安全學(xué)院執(zhí)行院長俞能海提醒，視頻通話中，還可以讓對方摁鼻子、摁臉觀察其面部變化。他在一個采訪中表示，如果是真人的鼻子，按下去是會變形的，但AI生成的鼻子并不會。同樣臉部也一樣，真人臉部按下去是會變形的。

此外，在點(diǎn)對點(diǎn)的溝通中可以問一些只有對方知道的問題，驗(yàn)證對方的真實(shí)性。

用“魔法”打敗“魔法”

應(yīng)對AI造假，用“魔法”打敗“魔法”可行嗎？

對此，上海合合信息科技股份有限公司圖像算法研發(fā)總監(jiān)郭豐俊表示：“國內(nèi)做AI篡改鑒別的企業(yè)已有不少，既有如中國電信這樣的央企，又有如瑞萊智慧、中科睿鑒這類大學(xué)/科學(xué)院孵化的科技公司，還有網(wǎng)易、合合信息這樣深耕AI行業(yè)多年的企業(yè)。”他還進(jìn)一步指出，國內(nèi)科研團(tuán)隊(duì)在“深度偽造”鑒別方面已處于世界先進(jìn)水平。不同的國內(nèi)研究團(tuán)隊(duì)多次在國際知名篡改檢測大賽中獲得冠亞軍的好名次。

此外，在法律監(jiān)管方面，2022年，我國頒布的《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》就劃定了深度合成技術(shù)的使用規(guī)范，包括不得利用深度合成服務(wù)侵犯他人合法權(quán)益等法律規(guī)定。去年， 《生成式人工智能服務(wù)管理暫行辦法》已正式施行，要求生成式人工智能服務(wù)提供者應(yīng)當(dāng)按照《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》對圖片、視頻等生成內(nèi)容進(jìn)行標(biāo)識。

南京郵電大學(xué)高質(zhì)量發(fā)展評價研究院院長助理、副教授金巍表示，數(shù)字經(jīng)濟(jì)時代，加強(qiáng)對公民個人信息的保護(hù)，已成為與你我息息相關(guān)的新的法治需求之一。“一方面，企業(yè)和平臺不能隱藏在‘避風(fēng)港’中，要積極承擔(dān)社會責(zé)任。在搜集與利用個人信息時應(yīng)自覺遵守法律規(guī)范，并自覺肩負(fù)起保護(hù)隱私安全的重任。另一方面，相關(guān)管理部門還應(yīng)加快信息治理體系與信息治理能力建設(shè)，并發(fā)揮主導(dǎo)作用，實(shí)現(xiàn)市場的健康發(fā)展。”

以上就是關(guān)于【遭遇AI詐騙怎么破？四招搞定：揮手、看眼、戳鼻、問問題】的相關(guān)內(nèi)容，希望對大家有幫助！