公司老闆 10 分鐘被騙 430 萬!騙子用 AI 換臉 + 換聲,網友:這我怎麼防啊!

整理 | 鄭麗媛

在 ChatGPT 的「點火」下,這趟名為 AI 的列車已逐漸從幕後駛向臺前,吸引了不少人的關注和「搭乘」——而科技,向來是一把雙刃劍。

俗語有言,「耳聽為虛,眼見為實」,可如今在 AI 的影響下,「眼見」也不一定為「實」了:近日,一騙子通過智慧 AI 換臉和擬聲技術,使某科技公司老闆在 10 分鐘內被騙了 430 萬元。

有網友感慨:「當年看《黑鏡》,總覺得荒誕,萬萬沒想到裡面的許多都在一點一點實現。」

利用 AI 技術偽裝熟人,騙走 430 萬元

據包頭警方發佈,這起詐騙案發生在今年 4 月 20 日,受害者是福州市某科技公司法人代表郭先生。

當天中午 11 時 40 分,郭先生的「好友」突然通過微信視訊聯繫他,經過短暫聊天后,「好友」告訴郭先生:自己的朋友在外地投標,需要 430 萬元保證金,還要公對公賬戶過賬,想借用郭先生公司的賬戶走一下賬。

基於對好友的信任,以及視訊聊天的證明,郭先生將銀行卡號給了對方。很快對方就說已經把錢打到賬戶上了,還附上了銀行轉賬底單的截圖。郭先生看到之後,出於信任也沒有對此進行核實,便在 11 時 49 分分兩筆向對方給的銀行卡共打了 430 萬過去。

一切看似都很正常,直至轉賬成功後——郭先生向好友微信發訊息,稱事情已辦妥,結果好友竟回了一個「?」。

頓感事情蹊蹺的郭先生,迅速撥打了好友電話,才知道好友對此毫不知情,剛才與其視訊通話的原來是用了 AI 換臉和擬聲技術的騙子!

這場利用 AI 技術偽裝熟人的高端電信詐騙,令郭先生頗為感慨:「從頭到尾都沒有和我提借錢的事情,就說會先把錢給我打過來,再讓我給他朋友賬戶轉過去,而且當時是給我打了視訊的,我在視訊中也確認了面孔和聲音,所以才放鬆了戒備。」

除此之外,騙子提供的收款賬戶也確實是一個包頭市的對公賬戶,更讓當時的郭先生相信了此事的真實性。

值得慶幸的是,發現騙局後的郭先生立即報了警,相關警方也聯合銀行迅速展開行動,將詐騙賬戶內的 336.84 萬元成功攔截,不過仍有 93.16 萬元被轉移。

事實上,近些年利用 AI 進行詐騙的案例一直層出不窮,而在最近的 AI 熱潮下,一些「換臉」、「換聲」的 AI 軟體因其「娛樂性」更是被重新賦予了熱度。

AI 換臉、換聲的背後

有關 AI 換臉軟體,多數是 Deepfake 技術的化身,最初源於一個名為 「deepfakes」 的 Reddit 使用者。該技術的核心原理,是利用生成對抗網路或者卷積神經網路等演算法,將目標對象的臉轉移至到被取代對象上。

具體來說,就是把視訊分割成一張張連續圖片,將每一張圖片中的臉進行替換,最後將全部替換後的圖片再合成視訊,以此實現「換臉」——而這只是 Deepfake 最初的用法,侷限性還較大,只能對已有視訊進行後期「換臉」。

然而隨著 AI 技術的逐漸發展,最讓人擔心的事情還是發生了:用 AI 可以實時「換臉」了。

2020 年,一位俄羅斯程式設計師 Ali Aliev 在疫情期間開發了一款「視訊會議阿凡達」軟體 Avatarify,即使用者可以在視訊會議過程中「換臉」。不僅可以選擇馬斯克、愛因斯坦、蒙娜麗莎等名人,還可以自己去網上找名人大頭照放進 avatars 檔案夾裡。

至於 AI 換聲,目前其發展也較為成熟,相關軟體及開源項目不勝列舉,例如:

▶ Google DeepMind 基於深度學習的原始音訊生成模型 WaveNet,在語音合成的聲學模型建模中,可直接學習到取樣值序列的對映,能高度模仿人類聲音。

▶ AI 語音克隆演算法項目 MockingBird,號稱能「5 秒內克隆你的聲音並生成任意語音內容」,主要通過 Encoder 獲取說話聲音的音色,然後用 Synthesizer 和 Vocoder 根據輸入文字實現 TTS 合成語音。

▶ 前陣子網上爆火的「AI 孫燕姿」,其背後是基於 VITS、soft-vc 等項目開發的開源 AI 語音轉換軟體 So-vits-svc (也稱 Sovits),通過 SoftVC 內容編碼器提取源音訊語音特徵,與 F0 同時輸入 VITS 替換原本的文字輸入,以此達到聲音轉換的效果。

▶ ……

不能否認,這些成果在一定程度上反映了 AI 技術的進步,但與此同時,這些 AI 換臉、AI 換聲工具也帶來了相應的版權問題甚至是信任危機——正如上文郭先生所經歷的 AI 詐騙,一段來自家人朋友發來的視訊或語音,我們到底該不該相信?

有問題的不是 AI,而是使用 AI 的人

本月,知名安全機構邁克菲(McAfee)對來自七個國家的 7054 人,針對 AI 詐騙進行了調查,結果顯示:

近四分之一的人遇到過某種形式的 AI 語音詐騙;10% 的人稱自己就受到過詐騙;15% 的人稱熟悉的人受到過詐騙;更有 77% 的受害者聲稱因此被騙過錢。

「先進的 AI 工具正在改變網路犯罪分子的詐騙手法。現在他們幾乎不費吹灰之力,就可以克隆一個人的聲音,欺騙親密接觸者匯款。」McAfee 的研究團隊表示:隨著 AI 的發展,詐騙的門檻從未如此之低,實施網路犯罪也從未如此簡單。

對於越來越多的 AI 詐騙,許多人都發出感慨:「我們還沒用上 AI,騙子卻已經上手了」,「這科技發展的同時,詐騙技術也不斷升級,防不勝防」,「這用 AI 模仿聲音又模仿臉的,要怎麼防啊?」

面對這些擔憂,許多安全專家以及 McAfee 等安全機構都給出了相關建議:

▶ 要提高防範意識,不輕易提供人臉、指紋等個人生物資訊給他人,不過度公開或分享動圖、視訊等;

▶ 有關轉賬請求,始終保持質疑態度,轉賬前要通過電話等多種溝通渠道核驗對方身份,一旦發現風險,及時報警求助。

▶ 與家人或值得信賴的好友,私下設置一個只有彼此才知道的口頭「暗語」。

儘管 AI 詐騙正在逐漸蔓延,不過這並不是制止 AI 發展的理由。技術的發展往往都伴隨著利弊,這是時代的洪流,亦無法避免——有問題的不是 AI,而是使用 AI 的人。

參考連結:

https://gaj.baotou.gov.cn/jffb/article/detail?articleId=857963750869831680

https://www.mcafee.com/en-us/consumer-corporate/newsroom/press-releases/press-release.html?news_id=5aa0d525-c1ae-4b1e-a1b7-dc499410c5a1

相關文章

ChatGPT 設計了一款晶片

ChatGPT 設計了一款晶片

ChatGPT 可以幫助軟體工程師解決編碼的煩惱,那是否可以幫助硬體工程師設計出晶片呢?來自澳洲雪梨南威爾士大學的教授進行了一次嘗試。 原文...

SEO 已死,LLMO 萬歲

SEO 已死,LLMO 萬歲

「北風那個吹,雪花那個飄」,我手捧一杯咖啡,聽著白毛女。朋友坐在對面高談闊論:「有了 ChatGPT,我再也不缺內容了,SEO 的春天就要來...

人工智慧和程式設計的終章

人工智慧和程式設計的終章

【CSDN 編者按】隨著人工智慧以及大型語言模型的崛起,人工程式設計真的來到了終章了嗎?作者通過對 ChatGPT 的一些小測試,來檢驗人工...

最強 AI ChatGPT 真要取代程式設計師?

最強 AI ChatGPT 真要取代程式設計師?

【CSDN 編者按】ChatGPT 一出,「程式設計師要失業了」、「程式設計師要下崗了」之聲不絕於耳,引得程式設計師們不由得一陣驚慌,最強 ...