曾經(jīng)有個(gè)說(shuō)法：新技術(shù)的發(fā)展和應(yīng)用，一般都是以色情和詐騙行業(yè)為先。這不，已經(jīng)有AI技術(shù)應(yīng)用到詐騙上，而且還不止一起。Sora的橫空出世讓我們感慨AI技術(shù)發(fā)展的快速，而被詐騙分子利用的時(shí)候，我們?cè)撊绾蚊鎸?duì)？

不久前，香港警方透露了一場(chǎng)涉及深度AI造假技術(shù)的復(fù)雜騙局，一家跨國(guó)公司的香港辦事處遭受了高達(dá)1.8億元的重大財(cái)務(wù)損失。這已經(jīng)不是第一起有關(guān)AI的詐騙了，此前就曾有騙子利用AI換臉和模仿聲音的技術(shù)進(jìn)行過(guò)多起詐騙。

近期OpenAI Sora的橫空出世再次令我們震驚AI技術(shù)發(fā)展的迅速與強(qiáng)大，在震撼其能力強(qiáng)大之余也不免讓我們擔(dān)心這些前沿技術(shù)被詐騙份子利用又將如何應(yīng)對(duì)。

一、AI換臉CFO詐騙1.8億

據(jù)香港警方透露，這場(chǎng)高達(dá)1.8億元的騙局以該公司首席財(cái)務(wù)官和其他員工的數(shù)字重建版本為特色，他們出現(xiàn)在視頻電話(huà)會(huì)議中，指示員工轉(zhuǎn)移資金。這家跨國(guó)公司的財(cái)務(wù)人員被冒充該公司駐英國(guó)首席財(cái)務(wù)官的人要求進(jìn)行所謂的秘密交易，而最初的懷疑被深度偽造技術(shù)所打消。

這名員工在收到一條據(jù)稱(chēng)來(lái)自該公司駐英國(guó)首席財(cái)務(wù)官的消息后開(kāi)始產(chǎn)生懷疑。最初，該工作人員懷疑這是一封網(wǎng)絡(luò)釣魚(yú)電子郵件，因?yàn)樗劦叫枰M(jìn)行秘密交易。然而，在視頻通話(huà)后，這名員工放下了最初的疑慮，因?yàn)槠渌鱿娜丝雌饋?lái)和聽(tīng)起來(lái)都像他認(rèn)識(shí)的同事。最終這名員工相信電話(huà)中的其他人都是真實(shí)的，因此同意匯出總計(jì) 2 億港元(約合 2560 萬(wàn)美元)，當(dāng)這名員工后來(lái)向公司總部核實(shí)時(shí)，才發(fā)現(xiàn)涉及假首席財(cái)務(wù)官的騙局。

香港警方表示，這已經(jīng)不是第一起嚴(yán)重使用該技術(shù)的案件了，騙子利用AI換臉與聲音模仿技術(shù)修改公開(kāi)視頻和其他鏡頭，以騙取人們的錢(qián)財(cái)。此前的多起案例已有六人被捕，但目前還沒(méi)有跡象表明最近這起詐騙案的幕后黑手已被逮捕。

同時(shí)，香港警方稱(chēng)去年7月至9月期間，有八張被盜的香港身份證(均已被失主報(bào)失)被用來(lái)提出90份貸款申請(qǐng)和54個(gè)銀行賬戶(hù)注冊(cè)。AI換臉技術(shù)至少有20次被用來(lái)模仿身份證上的人企圖欺騙面部識(shí)別程序。僅僅只是簡(jiǎn)單的AI換臉和模仿技術(shù)就已經(jīng)讓詐騙份子如此猖獗，如果是更加強(qiáng)大的AI視頻技術(shù)呢?

二、功能強(qiáng)大的Sora也可能淪為詐騙工具?

這兩天最令人津津樂(lè)道的就是OpenAI推出的全新AIGC模型Sora了，其功能讓無(wú)數(shù)人感到震驚。據(jù)介紹，Sora可以直接輸出長(zhǎng)達(dá)60秒的視頻，并且包含高度細(xì)致的背景、復(fù)雜的多角度鏡頭，以及富有情感的多個(gè)角色。

目前官網(wǎng)上已經(jīng)更新了48個(gè)視頻demo，在這些demo中，Sora不僅能準(zhǔn)確呈現(xiàn)細(xì)節(jié)，還能理解物體在物理世界中的存在，并生成具有豐富情感的角色。該模型還可以根據(jù)提示、靜止圖像甚至填補(bǔ)現(xiàn)有視頻中的缺失幀來(lái)生成視頻。

不少科技圈名人都發(fā)出了驚嘆，馬斯克直接在社交平臺(tái)上發(fā)布短評(píng)“GG humans”(GG是電子競(jìng)技中常用的術(shù)語(yǔ)，意為“Good Games”，通常用來(lái)表示對(duì)對(duì)手的認(rèn)可和自己認(rèn)輸?shù)膽B(tài)度。)。馬斯克的這一評(píng)價(jià)，似乎是在暗示人類(lèi)在視頻生成領(lǐng)域已經(jīng)被Sora所超越。

360公司董事長(zhǎng)周鴻祎則直接在朋友圈發(fā)文稱(chēng)，一旦AI能夠接上攝像頭，觀看并理解世界上所有的電影，它對(duì)世界的理解能力將遠(yuǎn)遠(yuǎn)超過(guò)僅僅通過(guò)文字學(xué)習(xí)所能達(dá)到的水平。

Sora除了可以將文本轉(zhuǎn)化為視頻，還能接受其他類(lèi)型的輸入提示，如已經(jīng)存在的圖像或視頻，也就是說(shuō)Sora具備很強(qiáng)的視頻拓展功能?？吹竭@里，相信大家已經(jīng)對(duì)Sora的強(qiáng)大有了一定的認(rèn)知，那么現(xiàn)在試想一下，如果詐騙份子利用這個(gè)工具再精心策劃一個(gè)騙局，將造成多么難以想象的結(jié)果。

舉個(gè)簡(jiǎn)單的例子，騙子利用Sora生成一個(gè)你的熟人出現(xiàn)“意外事故”的視頻和正在醫(yī)院被推入搶救室的視頻，同時(shí)再利用特殊方式惡意造成當(dāng)事人電話(huà)占線(xiàn)，社交賬號(hào)被盜，這時(shí)在打電話(huà)索要“手術(shù)費(fèi)”?；蛟S這一系列操作下來(lái)，被詐騙的人可能很容易就上當(dāng)受騙。

2023年4月20日發(fā)生在內(nèi)蒙古包頭市的一起金額高達(dá)430萬(wàn)元的詐騙案件，就是利用AI換臉技術(shù)得手的。當(dāng)天，郭先生接到來(lái)自好友的求助電話(huà)，對(duì)方稱(chēng)自己在外地競(jìng)標(biāo)，需要430萬(wàn)元保證金。巨大的金額也讓郭先生產(chǎn)生了懷疑，于是撥打視頻通話(huà)確認(rèn)對(duì)方身份，近乎一模一樣的面容與聲音讓郭先生消除了疑慮。短短十分鐘，430萬(wàn)元便已被轉(zhuǎn)入騙子賬戶(hù)。好在事后經(jīng)再次打電話(huà)確認(rèn)，郭先生識(shí)破騙局及時(shí)報(bào)警，300多萬(wàn)元受騙金額被凍結(jié)。

當(dāng)然，要做到這一切并不容易。首先Sora本身還并不完善，無(wú)法將現(xiàn)實(shí)世界中的所有信息都精確掌握，在展示視頻中也經(jīng)常出現(xiàn)違背物理規(guī)則的內(nèi)容，例如玻璃碎裂的因果過(guò)程、四條腿的螞蟻等等。

Sora這“人工智障”的表現(xiàn)，也讓大家著實(shí)松了一口氣。雖說(shuō)確實(shí)生成一些足夠驚艷的視頻，但Sora離「扔進(jìn)一部小說(shuō)，生成一部電影」，應(yīng)該還差得遠(yuǎn)呢?？萍疾](méi)有在普通大眾不知道的情況下飛躍太多，面對(duì)由此產(chǎn)生的詐騙手段也不會(huì)過(guò)于擔(dān)憂(yōu)。

其次是OpenAI自身有著嚴(yán)格的規(guī)則限制用戶(hù)用以“不合法”的使用，同時(shí)隨著AI技術(shù)的進(jìn)步，相關(guān)法律法規(guī)也正逐步完善;最重要的是，我們個(gè)人隨著接觸事物的豐富而逐漸增長(zhǎng)知識(shí)，或許對(duì)于一些粗劣的詐騙手段早已了然于胸，但科技迅速發(fā)展的當(dāng)下各式新鮮詐騙手段頻出，我們需要保持著較高的警惕性。

三、AI 詐騙并不新，但跟不上時(shí)代就要小心了

剛剛過(guò)去的2023 年被稱(chēng)為生成式 AI 的元年，不僅有大量文生圖的工具還有Pika、Sora這種視頻模型。在各種新鮮技術(shù)層出不窮的當(dāng)下，在普通人還認(rèn)為“好玩”的時(shí)候，或許一些老年人已經(jīng)處于被騙的風(fēng)險(xiǎn)中了。

技術(shù)是把雙刃劍的道理人人明白，Elevenlabs 可以讓有語(yǔ)言障礙的人發(fā)聲，HeyGen 讓霉霉對(duì)口型說(shuō)出不帶翻譯腔的中文，妙鴨相機(jī)讓人足不出戶(hù)收獲精修證件照，技術(shù)的光明面和陰暗面并無(wú)長(zhǎng)短，只是客觀存在罷了。

一月底，人工智能生成的美國(guó)流行歌星泰勒·斯威夫特的色情圖像在社交媒體上傳播，凸顯了人工智能技術(shù)帶來(lái)的潛在破壞性。這些照片展示了這位歌手的性暗示和露骨姿勢(shì)，在從社交平臺(tái)上刪除之前，這些照片已被觀看了數(shù)千萬(wàn)次。

即便身為名人，對(duì)此也毫無(wú)辦法，更何況是一些逐漸與時(shí)代脫節(jié)的老年人呢?對(duì)于很多中老年來(lái)說(shuō)，智能手機(jī)和互聯(lián)網(wǎng)本來(lái)就玩不明白，現(xiàn)在 AI 又來(lái)?yè)v亂了。AI 時(shí)代，文字、聲音、圖片和視頻都有可能是假的，甚至以組合形式上場(chǎng)，騙子偽造的身份更加具體，詐騙也更加對(duì)癥下藥和真情實(shí)感，讓中老年受騙的概率更高。

例如最近視頻號(hào)冒出了不少「俄羅斯美女」。她們個(gè)個(gè)膚白貌美，普通話(huà)流暢但斷句和咬字奇怪，聲調(diào)和前后鼻音讀不準(zhǔn)，乍一看上去就是非常符合大眾認(rèn)知的外國(guó)人。她們熱情，也熱愛(ài)中國(guó)文化，為視頻打上「俄羅斯女孩在中國(guó)」「中俄友誼」之類(lèi)的標(biāo)簽，為觀眾朋友帶來(lái)「家鄉(xiāng)特產(chǎn)」的牛筋腸、大列巴、羊奶粉、酸黃瓜、巧克力、手工皂。

但實(shí)際上這些俄羅斯美女都是 AI，平臺(tái)貼心地標(biāo)注了。通過(guò)她們虛化夸張的模糊背景、沒(méi)摳好的頭發(fā)絲、循環(huán)的幾套表情和動(dòng)作、過(guò)于接地氣的臺(tái)詞，我們也能分辨一二。

不過(guò)評(píng)論區(qū)的一些中老年并不能分辨出來(lái)，真心希望她們留下來(lái)，「俄羅斯美女」們回復(fù)時(shí)也只掛念著自己的任務(wù)，完成了一場(chǎng)不動(dòng)聲色的軟性詐騙。如果真的出于相信的理由而購(gòu)買(mǎi)到了不符合標(biāo)準(zhǔn)的商品，到時(shí)候又找不到人申訴，可就真是“有苦難言”了。

四、寫(xiě)在最后

不管技術(shù)如何發(fā)展，很多詐騙的套路萬(wàn)變不離其宗：竊取隱私，利用恐懼、貪欲、情緒價(jià)值編故事，冒充熟人或包裝自己獲取信任，圖窮匕見(jiàn)以錢(qián)為最終目的。

像Sora這樣功能強(qiáng)大的AI工具目前并不少見(jiàn)，隨著科技的飛速發(fā)展還會(huì)愈發(fā)多樣且完美，而在這個(gè)過(guò)程中相關(guān)法律法規(guī)也將會(huì)逐步健全。我們不必對(duì)技術(shù)的發(fā)展感到擔(dān)憂(yōu)，技術(shù)是服務(wù)于每一個(gè)人的，只要我們與時(shí)俱進(jìn)保持警惕心，就能共同走向一個(gè)技術(shù)不被恐懼而是被合理使用的未來(lái)。