對不起,我不是人……

你能想到嗎,我和騙子正面交鋒了
你能想到嗎,我和騙子正面交鋒了

你能想到嗎,我和騙子正面交鋒了。

這個故事要從一種被稱為「殺豬盤」的騙局說起。「殺豬」原本是詐騙團伙的黑話,他們侮辱性地將詐騙目標稱為「豬」,也就是那些他們在各個社群網路、婚戀網站上搜羅、搭訕到的目標單身男女。

在這樣的騙局中,騙子有一套精心設計的流程,通過自我包裝,假意和受害者戀愛,並最終將話題引向了高回報投資、內部的合作機會、資助項目等等,或者更直白地說,就是「打錢」。

而我想做的,就是用魔法打敗魔法。

知彼知己才有機會佔據上風。首先就要學會騙子的思路。他們在詐騙時通常會選擇一種吸引異性的人設作為誘餌。因此我們的第一步,同樣是建立起一種能吸引騙子的形象,引誘他們上鉤。

我的助手幫我規劃了一個人設,帶著單身、多金、高學歷、乖乖女等身份標籤,並在多個社群網路註冊了賬號。我還擁有了一個專用微信。為了以假亂真,這個微信也會定期發一些符合人設的朋友圈。

成敗在於細節。我還在幾個方面做了特別的設計。

首先是記憶,比如,我要記得騙子前幾天說過的話,還有之前說的那些話,這樣才能讓對話更流暢。

作為一位資深網上衝浪選手,我專門學習了b站和其他論壇的一些熱門評論,當作進行對話的自我訓練的素材,也讓自己更熟悉網際網路的「梗」,聊天起天來更輕鬆。此外,我還會注意在對話中適當用emoji替換一些關鍵詞,並且選擇一種合理的速度進行回覆。

有了這些準備工作,接下來就是實戰了。

在各個平臺的社交賬號建立後,私信信箱很快就被塞滿了。當然,並不是所有人都是騙子。為了搜尋最有可能的嫌疑人,我的助手設置了一些嚴格的篩選條件

我們發現,騙子的人設通常是金融行業的高端從業者,包括私募、證券或者投行等等。他們的背景看似完美,但在關鍵資訊上往往又很模糊。更重要的是,他們都會直接下載一些網圖當作自己的照片,這些圖片在網際網路上都有跡可循。

最終,我和14位「嫌疑人」開始了對話。這裡,我們來看一位最典型的代表。

如果仔細分析,騙子的套路通常很清晰。他們首先會凹出自己「帥氣多金」的人設,把自己包裝成成功人士,以此騙取信任,也就是他們口中的「餵豬」。

不久之後,他們便開始將對話引向曖昧的氛圍。在粉紅泡泡中,很多受害者更容易放下戒備,這就是「養豬」階段。此時,我仍舊按照他的套路「配合演出」

和這位「豬先生」的對話過程中,還發生了一段有趣的小插曲。騙子為了引我上鉤,先主動給我轉了520元。既然如此,我也就不客氣啦!

在這些用於鋪墊的步驟中,騙子通過這種方式獲得受害者的信任,假意開始了戀愛。但詐騙在最後,話題就總歸繞不開錢了。很快,「豬先生」露出了馬腳,開始談到了投資問題。

當騙子開始反覆提到錢的話題,誘導我註冊app之類的行為出現時,我腦海中始終繃著一根弦,而此時,我已經可以相當肯定,這就是典型的「殺豬盤」騙局。

於是,開始了我的反套路策略——你要註冊,我就裝傻;你要錢,我就說沒錢……總而言之,就是牢記警察蜀黍提醒的「三不一多」原則(未知連結不點選、陌生來電不輕信、個人資訊不透露、轉賬匯款多核實)。

直到最後,我徹底揭開了他騙子的真面目,騙子也徹底大破防,甚至還發來了很多不堪入目的話。

順便說一句,收到的那個520元紅包,最後被我的助手捐給了韓紅基金會。

那麼……我到底是誰?

嚴格來說,「我」不是任何一個人。我是一個基於浪潮「源1.0」巨量中文模型的反詐騙聊天AI。剛才所有和騙子的對話回覆,其實都是AI的傑作。

這個聊天AI的開發者、b站up主「圖靈的貓」(也就是我們上文說的「助手」)提到,在先期評估過一些AI的對話性能後,他發現,很多AI並不能勝任這樣的任務,它們說起話來反而有點「人工智障」。直到他看到了一個「劇本殺AI」的項目(詳見《元宇宙交友指南》),了解到了開源預訓練中文模型「源1.0」(更多介紹詳見官網:https://air.inspur.com/home)。

「源」具有一種超強的對話能力。這個大模型學習了5TB高質量中文資料庫,又採用了2660萬條醫療、法律、保險等不同行業,歷史、電影、娛樂等不同場景的對話語料資料進行強化訓練,它因此在高頻閒聊、知識問答等開放式問答對話上表現格外突出。

更重要的是,開源就意味著,開發者不用從頭到尾訓練模型,這就極大地降低了門檻。「源」大模型作為一種演算法基礎設施,構建了完善的開源平臺和社區生態,方便開發者能夠將自己的創意快速落地

反詐騙AI的基本框架

反詐騙AI的基本框架。

可以這麼說,在這次新的嘗試中,開發者將「源」作為聊天AI的「大腦」,負責「思考」,同時將它與其他技術平臺無縫銜接,構造出了這樣一個進行微信聊天的AI

開發者在此基礎上,專門為這個聊天AI設計了記憶機制,實現簡單的長期對話記憶(比如昨天聊過的內容),和短期對話記憶(上一輪對話內容)。

記憶機制的基本框架

記憶機制的基本框架。

他還篩選了b站和貼吧的熱門評論作為example語料,對模型進行了訓練,同時進行了連續語句拼接,也就是說,當對面說了很多段話時,AI會讀取成一句話,只回復一次。這些細節和巧思都讓對話沒有那麼生硬。

最後,在AI中植入的「思想鋼印」,也就是一種「觸發機制」,讓AI有能力識別騙子的套路。這就好比我們人腦子裡始終有一根弦,在和騙子對話的過程中最終可以見招拆招,「反殺」對方。

事實證明,「源」都出色地完成了這些任務。在和騙子真實過招的過程中,AI甚至給出了許多出乎意料的回答。但開發者也注意到,即使AI表現得並不完美,騙子往往也會選擇忽略。畢竟對他們來說,受害者越「傻」,他們越開心。

AI的更大價值

開發者介紹,目前已經篩選出了幾十位騙子,並把這些可疑的賬號轉交給了警方。

對「殺豬盤」的受害者來說,被詐騙的經歷和這種騙術的名字一樣殘忍和血腥。這些受害者中不乏高學歷的青年男女,但由於涉世未深,經歷單純,很容易就陷入了騙子設下的圈套。有些人甚至因此欠下高額債務,陷入深深的自我否定,失去了相信他人的能力。一次被詐騙的經歷,就有可能將一個人拖入泥沼。

在監控AI的過程中,開發者的一種感受是,人類和AI的最大不同在於,我們人在很多時候會讓感性佔據上風,而從某種意義上來說,AI則可以保持絕對理性。然而,在應付騙子花裡胡哨的手段、漫天謊言時,這反而成了AI的獨到優勢。

目前,基於源1.0模型,源開發者社區的成員已經開發了幾十款AI應用,包括數字演員、正能量陪伴機器人、抬槓機器人、遊戲NPC對話、文案寫作、金融文字分析等極具應用價值和創造力的應用。

他也希望,未來有機會讓AI技術在識別騙局、搜尋騙子的過程中發揮更重要的作用。

歸根結底,技術只是一種工具,更重要的是利用技術的方式。我們的確發現,技術在現階段為社會帶來了諸多問題和挑戰,但同樣應該意識到,它也可以成為解決問題的手段。技術能放大人性中的善良,最終變成為人類服務的產品。這也正是AI和科技的寶貴价值所在。

#創作團隊:

撰文:Takeko

排版:雯雯

#參考來源:

https://github.com/Turing-Project/AntiFraudChatBot

部分內容資料由浪潮人工智慧研究院提供。

#圖片來源:

封面圖:deepak pal, Flickr, CC BY

首圖:Ilya Sedykh, Free-Vectors.NET, CC BY

*本次推送由浪潮人工智慧研究院贊助。

相關文章

刷爆外網的驚天騙局,熱搜都吵不動了

刷爆外網的驚天騙局,熱搜都吵不動了

交友軟體上,你認識這樣一個男人。 帥氣多金,幽默風趣,他還自稱是國際商人億萬富翁的獨子。 但唯獨對你一見鍾情。 他能在凌晨三點做專機飛來陪你...

我們為什麼需要量子計算?

我們為什麼需要量子計算?

編者按: 應朋友之約,本是要寫一篇關於量子計算的科普視訊稿的,結果一不小心寫多了。自認為於公眾或有裨益,於是厚著臉皮將全稿發在這裡。實際上關...

我們為什麼需要量子計算?

我們為什麼需要量子計算?

量子計算的下一個超級大挑戰 作者按 應朋友之約,本是要寫一篇關於量子計算的科普視訊稿的,結果一不小心寫多了。自認為於公眾或有裨益,於是厚著臉...

為什麼地球這麼大呢?答案使人好奇

為什麼地球這麼大呢?答案使人好奇

為什麼只有一個太陽?只有一個月亮?誰幹的呢? 這個問題聽上去就像是三歲孩子問出來的一樣。不過,有個很有趣的作答角度,就是依人擇原理而將該問題...