在 AI 技術(shù)的高速發(fā)展浪潮下，有些人可能會(huì)利用 AI 來(lái)實(shí)現(xiàn)業(yè)務(wù)提效，但部分用心不良的人卻將 AI 技術(shù)用于詐騙， 比如近日，有關(guān)“AI 詐騙”的消息就登上了熱搜，引起了不少人的關(guān)注和防范。那么我們?nèi)绻创癆I 詐騙”？一起來(lái)看看作者的分析。

AI工具還有很多人沒(méi)用上呢， AI 詐騙它就來(lái)啦！

今天一個(gè)新聞上熱搜了，內(nèi)容是“AI 詐騙”。

這個(gè)熱搜的詞條，其實(shí)是有些夸大的，但里面實(shí)際發(fā)生的事兒，也的確離譜。

事情發(fā)生在福州，一位科技公司的老板，老郭，某天突然接到了個(gè)好友的微信視頻，說(shuō)是自己的朋友在外地競(jìng)標(biāo)，需要 430萬(wàn)的保證金，想走他的公司賬戶過(guò)個(gè)賬。

老郭想著也不是啥大事兒，于是在確認(rèn)視頻通話里的人和聲音都是他朋友之后，就同意了。

隨后，對(duì)方就給老郭發(fā)了一張銀行卡轉(zhuǎn)賬成功的截圖，說(shuō)是錢已經(jīng)轉(zhuǎn)到老郭的戶頭上了。

由于老郭之前已經(jīng)確認(rèn)了朋友的身份，在沒(méi)確認(rèn)錢到帳與否的情況下，也沒(méi)有多想，直接就把 430萬(wàn)轉(zhuǎn)到了好友給的銀行卡上。

整個(gè)過(guò)程不過(guò)短短十分鐘……

轉(zhuǎn)賬完成之后，當(dāng)老郭再次和好友打電話核實(shí)時(shí)，這才驚呼，剛才的一切，居然都是詐騙人員使用各種技術(shù)手段偽造的！

不僅好友視頻的人像是 AI 生成的，就連好友的音頻都是通過(guò) AI 技術(shù)模擬的，好在警方跟銀行通力合作，截停了錢在銀行的走向，幫老郭止損了大部分損失。

你還別不信，現(xiàn)在的 AI 擬人和擬聲都非常簡(jiǎn)單了，世超自己都能煉一個(gè)簡(jiǎn)單的出來(lái)。

還記得之前咱們使用 AI 擬聲工具和 AI 視頻工具模擬的數(shù)字人蛋蛋嗎？（我司同事，差評(píng)視頻內(nèi)容的聲音就是他錄的）

這個(gè)數(shù)字人視頻只使用了一張照片做素材，其中的動(dòng)作和聲音都是使用 AI 生成的。

整個(gè)視頻制作訓(xùn)練花了不過(guò)數(shù)小時(shí)，而音頻在訓(xùn)練完模型后推理的時(shí)間不超過(guò)五分鐘……

可以說(shuō)，在現(xiàn)在這個(gè)時(shí)代，不但是語(yǔ)音消息不保真了，這以后連視頻通話見(jiàn)到真人都不能信了。

隨后世超就把這個(gè)事發(fā)到群里和小伙伴們討論了一下，大家聊了一下認(rèn)為，這一整個(gè)案件里讓人驚嘆的，還不僅僅是AI偽造的視頻和人聲，細(xì)究下去，事件里的華點(diǎn)還真不少。

警方?jīng)]有公布太多的細(xì)節(jié)，估計(jì)是太細(xì)了容易被別的騙子當(dāng)教材學(xué)過(guò)去，但根據(jù)僅有的細(xì)節(jié)，我們能分析出幾點(diǎn)：

1. 詐騙團(tuán)伙在給郭先生打視頻電話時(shí)，使用的就是他好友的微信號(hào)，把他朋友的微信號(hào)盜了；
2. 騙子掌握了比較多的郭先生朋友的圖片、音視頻信息，用來(lái)訓(xùn)練模型；
3. 騙子擁有實(shí)時(shí)渲染數(shù)字人的技術(shù)，因?yàn)榫叫侣勚刑岬搅斯壬退笥汛虻氖俏⑿乓曨l；
4. 騙子應(yīng)該對(duì)郭先生及其朋友的過(guò)往對(duì)話風(fēng)格有比較深入的了解，知道怎么跟郭先生溝通（微信是僅能云同步很有限的聊天記錄的）。

以上所有的條件，無(wú)論哪一個(gè)，具體到實(shí)施上，都是很有難度的操作。

但，它卻就這么真實(shí)的發(fā)生了。

世超專門找了幾位信息安全從業(yè)者問(wèn)了問(wèn)，最后發(fā)現(xiàn)這個(gè)案子，還真的沒(méi)那么簡(jiǎn)單。

首先是世超百思不得其解的微信登錄問(wèn)題。對(duì)于這點(diǎn)，各位大佬們都覺(jué)得這個(gè)其實(shí)不難，主要有兩個(gè)方法能夠做到。

一種方式是微信二維碼釣魚，另一種則是獲取Session（可以簡(jiǎn)單理解成是cookie，能保持登錄狀態(tài)）。

微信二維碼釣魚這個(gè)不難理解，就是利用釣魚網(wǎng)站或者鏈接，讓受害者的朋友通過(guò)微信掃碼登錄電腦微信，這樣詐騙人就可以用自己的設(shè)備使用他朋友的微信了。（不過(guò)其中一位老哥指出，微信異地掃碼登錄會(huì)觸發(fā)風(fēng)控）

第二種獲取 Session ，只要受害者朋友的電腦上設(shè)置了微信自動(dòng)登錄，那只要獲取相應(yīng)的 Session ，理論上就能在詐騙人的電腦上登錄受害者朋友的微信了。

不過(guò)出于安全考慮，咋獲取這個(gè) Session ，這位業(yè)內(nèi)人士沒(méi)細(xì)說(shuō)。

對(duì)了，還有另外一種簡(jiǎn)單粗暴的方式，就是被盜號(hào)的人自己電腦是登錄微信的，電腦處于開(kāi)機(jī)狀態(tài)，但是被騙子用木馬遠(yuǎn)控了。

登錄微信之后，接下來(lái)的操作才是重頭戲。

詐騙人應(yīng)該“蹲點(diǎn)”了很久，知道被盜號(hào)者微信上誰(shuí)有錢誰(shuí)沒(méi)錢，跟誰(shuí)關(guān)系好，事先挑好了下手對(duì)象。同時(shí)，騙子還對(duì)他的生活習(xí)慣非常了解，這樣才能趁對(duì)方不注意登上他的微信，進(jìn)行視頻通話詐騙。

而想要在微信視頻的同時(shí) AI 換臉和變聲，詐騙人員還得將攝像頭和麥克風(fēng)的數(shù)據(jù)，替換成 AI 換過(guò)臉和變過(guò)聲的數(shù)據(jù)流。

至于訓(xùn)練素材，極有可能是通過(guò)被盜號(hào)者自己的朋友圈或者與別人的聊天記錄獲取。

最后，結(jié)合所有獲取的信息，訓(xùn)練好素材，編造一個(gè)劇本來(lái)對(duì)受害者實(shí)施詐騙。

也就是說(shuō)，這群詐騙人員，不僅有技術(shù)，耐心也不差。

在和這些信息安全的朋友一整個(gè)聊下來(lái)之后，世超是冒了一身冷汗。像這種詐騙，別說(shuō)是家里的老人分辨不出來(lái)了，就算是神仙來(lái)了，都能給你晃迷糊。

不過(guò)朋友們還是給了大家一個(gè)安慰：像這次的詐騙事件，理論上技術(shù)可行，但終究還是一個(gè)小概率事件。

畢竟在這次的案件里，個(gè)人微信被盜用是更主要的原因，而這也是詐騙過(guò)程中需要花費(fèi)最多功夫的步驟。假如沒(méi)有這一步，受騙人必然會(huì)更加警惕，整個(gè)詐騙環(huán)節(jié)的漏洞也會(huì)更多。

想要讓騙子花那么多精力來(lái)騙你，前提條件是你值得……

但是，高策劃詐騙難度高，并不代表著低策劃詐騙就騙不到人了。

使用 AI 詐騙的案件現(xiàn)在其實(shí)已經(jīng)屢見(jiàn)不鮮了。

看看之前那個(gè)數(shù)字蛋蛋的制作過(guò)程就知道， AI 對(duì)于那些實(shí)施語(yǔ)音電信詐騙的人員來(lái)說(shuō)，簡(jiǎn)直不要太高效。

而且類似的詐騙案件在國(guó)內(nèi)國(guó)外也已經(jīng)層出不窮了。

之前就有一個(gè)國(guó)外的詐騙公司，使用 AI 模擬了“卷?！钡囊纛l，打電話給一家新西班牙的小電影公司，稱想要和對(duì)方合作，并要求對(duì)方先打款 20萬(wàn)英鎊才能見(jiàn)面。

結(jié)果在電影公司付完錢之后，他們才發(fā)現(xiàn)這次事件，完完全全就是一場(chǎng) AI 騙局……

這件事情讓我們非常擔(dān)心那些跟不上高速發(fā)展的科技的長(zhǎng)輩們，他們可能很難相信正在跟自己視頻通話的兒女是假的，騙子找他們要錢可能會(huì)輕松得手。。。

在音視頻都不可信的情況下，以后或許要給父母一個(gè)密保問(wèn)題了。可以告訴父母，萬(wàn)一微信自己找他們要錢，讓他們問(wèn)一些只有你們自己才知道的細(xì)節(jié)，比如：

“兒子，你小時(shí)候我經(jīng)常用衣架打你還是拖鞋打你？”

這個(gè)問(wèn)題最好也有陷阱，正確回答應(yīng)該是“你用掃把打我”。

除了多提高防范意識(shí)、多給長(zhǎng)輩們科普最新騙術(shù)，世超還是要啰嗦一下各位差友，咱們?cè)趯?duì)個(gè)人信息的敏感度上，還是得多上一點(diǎn)心。

之前我們?cè)谖恼吕锾岬健皞€(gè)人信息泄露”相關(guān)的新聞時(shí)，常常會(huì)有差友發(fā)表“完全不在意，反正底褲早都漏光了”的言論。

而且讓我撓頭的是，還有不少人，是認(rèn)可這種躺平論的。

但你看，隨著技術(shù)，特別是 AI 技術(shù)的爆發(fā)，個(gè)人信息泄露的危害已經(jīng)開(kāi)始顯而易見(jiàn)地越來(lái)越大。大伙再這么躺，就純純是對(duì)騙子們的不尊重了。

到那時(shí)候，你泄露的個(gè)人的信息，指不定轉(zhuǎn)頭就把身邊的人騙了，這該上哪說(shuō)理去？

圖片、資料來(lái)源：

• 10分鐘被騙走 430萬(wàn)！小心這種新型詐騙手段！
• Google