人工智慧佔領地球? 社交軟體上的美照背後可能都不是真人!

你有想過你領英(LinkedIn)上的聯繫人可能是AI合成的虛擬騙子嗎?日前,《泰晤士報》上的一篇文章引起了圈哥的興趣。

(圖:泰晤士報)

(圖:《泰晤士報》)

不知道小夥伴們是否察覺,當我們瀏覽社交媒體網站(例如 LinkedIn),收到一些推廣產品或服務的訊息時,認真觀察發件人的個人頭像,其中一些照片有沒有透露著一點奇怪?

丟了一隻耳環?牙齒偏離中軸線?他們的眼睛在圖像的正中間?

(圖:泰晤士報)

(圖:《泰晤士報》)

文章作者表示,我們看到的這些面孔可能並不是真人照片,而是一種「深度偽造」而成的圖像——是人工智慧在社交媒體上偽造生成的數千張人物圖片之一。這些照片被用來扮演機器人推銷員,取得真實客戶的信任。

1

照片是如何合成的

史丹佛網際網路觀察站的研究人員,在職業社交網站 LinkedIn 上發現了 1000 多個類似的帳戶。

這些面孔不屬於任何真實的人類,無論是活著的,還是已經死去的人類。

(圖:LinkedIn)

(圖:LinkedIn)

這種圖像也不是通過真實人物的外貌特徵,拼接編造的。它們完全是由人工智慧計算機程序創建的。

據介紹,這種程序通過查看數以千計的真實面孔,學會了如何在看起來像照片一樣清晰逼真的圖像環境中,創建使人信服的面部特徵、膚色、頭髮質地、服裝和珠寶。所以他們看起來幾乎像一個真人那樣生動。

(圖:Connie Hanzhang Jin/NPR)

天文臺技術研究經理 Renée DiResta 曾致力於研究虛假資訊計劃。當她在社交網站上,收到一個名為Keenan Ramsey的女銷售員的訊息時,她注意到Ramsey正在代表一家通訊公司推銷網路通話軟體。

通常情況下,DiResta 會將這類訊息視為垃圾郵件。但當DiResta注意到 Ramsey 的個人資料圖片後,發現她的商務照圖片中只戴了一隻耳環,且部分頭髮似乎消失了。更重要的是,她的眼睛完全定位在圖片的正中心。

(圖:Stanford Internet Observatory)

DiResta分析,生成對抗網路(GAN)是最可能用於創建 Ramsey 照片的技術。

該技術出現在2014年。在那個時候,該技術通過對真實人物照片的大資料集進行分析訓練,在迅速創建逼真人像面孔方面已經做的很好了。

而今天,該技術網站允許任何人免費下載計算機生成的面孔圖片。

(圖:Overview of generative adversarial network )

為了確認Ramsey非真實存在,美國國家公共廣播電視臺(NPR)方面深入了解了她在 LinkedIn 個人資料中描述的背景。

據查證,RingCentral公司沒有任何名為 Keenan Ramsey 員工的記錄。她列舉的有關以前僱主之一的Language I/O公司也沒有相關人士記錄。

紐約大學發言人約翰貝克曼也回應了有關Ramsey的學歷資訊。他表示,紐約大學沒有任何關於Keenan Ramsey本科學位的記錄。

2

虛擬人並非為詐騙公司服務

DiResta 最初認為 Ramsey 的資訊可能用於網路詐騙。尤其是當她收到,其他自稱是RingCentral公司員工的人發送訊息時,他們的個人資料照片看起來也都像是計算機生成的。

(圖:LifeWire)

(圖:LifeWire)

出於好奇,DiResta和史丹佛大學博士後研究員Josh Goldstein,開始在LinkedIn上搜尋有關Ramsey等人的個人資料進行研究。

在研究中他們發現,在 LinkedIn上已有超過1,000個AI生成面孔的虛擬帳戶。

而令人意外的時,這些賬戶並不是試圖欺騙人們的騙子或網路釣魚者。相反,它們絕大多數都是為合法公司招攬正規生意而製造的。

(圖:RingCentral)

文章表示,一些合法的銷售公司使用虛假圖片創建虛假賬戶,並使人們相信這些個人資料來自於他們公司的真實員工。他們通過個人資料頁面中,列出的虛假教育資訊和工作經歷,增加虛構角色的可信度。

而這一做法可以使銷售公司發送大量推銷訊息,既無需僱用額外的員工,也不會違反LinkedIn所規定的資訊數量限制。

如果有人回覆了他們其中的一條訊息,公司就會讓真正的員工與其建立聯繫。

DiResta還表示,一些公司其實很希望將這些基礎體力勞動自動化處理,從而節省成本與時間。

(圖:Google)

(圖:Google)

文章表示,目前來看,儘管這種做法違反了LinkedIn的相關政策,卻並不觸及法律。相關專家人員在研究取證中也並沒有發現詐騙證據。

甚至有人產生質疑,如果這些虛構賬戶是用於合法公司聯絡潛在客戶,那又有什麼害處呢?

博士後Goldstein表示,一些銷售公司將虛假圖片作為其服務的一部分進行宣傳。他們中的一些人甚至明確表示‘使用人工智慧生成的頭像。這對於誠信問題是一個危險的信號。

而與研究人員合作的美國國家公共廣播電臺 (National Public Radio) 報道稱,許多正在銷售產品的公司表示,他們不知道人工智慧生成的圖像正在被使用。

(圖:Google)

(圖:Google)

圈哥了解到,「deepfake」一詞通常指代經過修改以誹謗真人的視訊。

它們常被用在一些花邊緋聞爆料中,好事之人喜歡將部分名人的臉移植到色情鏡頭中製造新聞。此前就有人擔心這種技術會被用來製作政客們的虛假視訊,從而對他們進行故意抹黑。

AI生成圖像的社交媒體帳戶,被用於傳播虛假資訊和陰謀論的案例屢見不見。但目前,正規企業商業運作中也出現這樣的操作卻著實令人擔憂。

(圖:Google)

(圖:Google)

3

虛擬資訊已成產業鏈?

資料顯示,LinkedIn平臺有相關明確規定,任何不真實的個人資料,包括那些使用非真實使用者圖片的個人資料,都違反了平臺相關規則。

LinkedIn方面還表示,該平臺自己的人工智慧程序具備發現虛假個人資料的能力。並且,在平臺已經刪除的虛假賬戶中,有 97% 是被其自動防禦系統發現的。

(圖:Google)

(圖:Google)

對此事件,LinkedIn的發言人重申,他們的政策明確規定,每個LinkedIn個人資料都必須代表一個真實存在的人。他們正在不斷更新技術防禦系統,以便更好地識別虛假資料,並將其刪除。

另一方面,在史丹佛研究人員確定的虛假個人資料中,有 60 人聲稱是RingCentral的員工。但該公司表示,這些人都沒有在公司工作過。

RingCentral表示,他們確實聘請過其他代理公司來接觸潛在客戶,並與RingCentral的內部銷售人員進行會議。其中一家不方便透露名字的外部供應商創建了虛假配置檔案。

(圖:RingCentral)

(圖:RingCentral)

RingCentral 的首席資訊安全官Heather Hinton表示,她不知道有人代表 RingCentral 製作虛構LinkedIn個人資料,並且她非常不贊成這種做法。

Hinton在接受NPR記者採訪時表示,這不是他們做生意的方式,但這企業來說卻是一個很好的提醒。技術變化的速度使人應接不暇,但企業必須警惕什麼是不正確的。

RingCentral發言人Mariana Leventis在一份聲明中表示,雖然此舉在過去可能是行業潛在的一種做法,但今後將被視為不可接受的,此做法違背了企業對客戶的承諾。公司內部已採取具體措施,來更新潛在客戶的開發方法。

(圖:Google)

(圖:Google)

根據最新透明度報告,LinkedIn在2021年前上半年刪除了超過1500萬個虛假賬戶。報告顯示,絕大多數虛假賬戶是在註冊期間檢測到的,其餘大部分是在LinkedIn成員舉報之前由其自動防禦系統發現的。

NPR 試圖聯繫了十餘家,根據史丹佛研究人員確定的,提供LinkedIn營銷服務僱主的公司。

其中一家名為Renova Digital的公司,在其網站上宣傳了一種叫做「ProHunter」的套餐,套餐內容包括兩個機器人或「完全品牌化的頭像配置檔案」,以及為每月支付1300美元的客戶提供無限資訊。

但當NPR對其進行詢問後,該公司從網站上刪除了該項服務和定價和描述。

Renova Digital創始人Philip Foti在一封電子郵件中告訴 NPR,他過去曾嘗試過AI生成照片技術,但現在已經停止了該種操作。

調查中的其他企業並未對此做出明確回應。

(圖:Google)

(圖:Google)

使用人工智慧生成個人資料,來銷售商品雖然看似平淡無奇,但這項技術的傳播卻讓數字取證專家感到擔憂。

Farid和其他研究人員預估,隨著人工智慧技術的不斷進步,用肉眼檢測計算機創建的圖像將變得更加困難。而越來越多虛假的音訊和視訊可能帶來更加危險的信號。

比如俄烏戰爭中,社交媒體上廣泛流傳的不實視訊,造就了錯綜複雜的政治導向問題,追蹤虛假圖像背後的原因可能更加令人擔憂。

(圖:Google)

(圖:Google)

4

教你如何識別AI人臉圖像

說了這麼多,那麼我們如何在日常生活中識別人工智慧所編制的圖像照片呢?

Renée DiResta表示,當我們在社交軟體上,以小尺寸或「縮圖」尺寸查看照片時,它們看起來可能非常真實。但如果我們將其放大,就可能會發現一些明顯的缺陷。

• 他們的瞳孔可能不是圓形,看起來更像八字形。

• 他們的眼鏡框或鏡腿,看起來可能是模糊的,或有部分缺失。

• 他們的頭髮可能會與背景融為一體,或者在某些地方看似消失一般。

• 他們的襯衫領子可能與他們的脖子或背景融為一體。

• 他們的下牙與上牙,或面部的中心無法對齊。

圈哥在此提醒小夥伴們一定要注意網路資訊安全!

(英倫圈綜編,編輯:汪小迪,參考來源:金融時報、谷歌瀏覽器、Twitter、NPR等;圖片除標註外均來源於網路,轉載請註明。)

相關文章

突發!一護士毒殺患者被捕!

突發!一護士毒殺患者被捕!

驚現「奪命醫院」! 英國伯明翰兒童醫院一名護士因涉嫌投毒並致死患兒於日前被捕。「奪命醫院」醜聞將英國國民保健制度再次推上輿論風口浪尖。 4月...

她女扮男裝39年,原因令人唏噓!

她女扮男裝39年,原因令人唏噓!

在印度,女性經常受到性侵的困擾。對於一個年紀輕輕就喪偶的印度女性而言,她應該如何確保自己和孩子的安全呢? 據英國《泰晤士報》17日報道,為了...