人工智慧暢想曲之二:如何阻攔AI「越獄」?全球精英「頭腦風暴」提防「新上帝」降臨

不久前,

不久前,《2小時幾近突破道德約束!ChatGPT真的會威脅到人類的整體生存嗎?》(點選標題回顧)一文引起極大反響,今天,作者再譜一首「人工智慧暢想曲」,以饗讀者。

01

關於機器覺醒、寵物之境和人機融合

一個很重要的說法是,電腦無論如何強大聰明,它都只是人類的工具,它根本就沒有自我意識。比如AlphaGo贏了棋,它不會開懷大笑、欣喜若狂,也不會與項目組成員幹香檳。它也不知道全世界都在議論它,或者誇獎,或者疑忌。

看了《紐約時報》轉載的羅斯和新必應的兩小時人機對話(點此回顧精彩對話),對這一點已經不能篤定了吧?有人說,他至多也就是在模擬人的自我意識,並不是真有。但模擬到足以以假亂真的地步,下一步就真的不可能弄假成真嗎?還是沒有把握吧?

科幻電影中幾乎都在說,電腦繼續強大下去,終究有一天,它就會具有自我意識,或稱覺醒。這種預估是否真會成為現實,說實話,今天的人類其實是一點頭緒也沒有。不過,人工智慧專家庫茲韋爾認為,人類並沒有把握說這一天絕無可能出現。

因為,智力畢竟是大腦或任何智慧的最基本要素。量變太大終究導致質變,也實在不是很奇怪。人類的自我意識也不是從以前的沒有自我意識的低等生命中成長出來的嗎?當強人工智慧出現以後,它要是覺醒了,有了自我意識,人類真的就會面臨一個比克隆人、培育幹細胞還要大得多的倫理難題——那就是承不承認這些有自我意識的覺醒了的人工智慧有與人類平等的身份。

一方面,人工智慧是人類為了自己的需要創造出來,它的本分當然是永遠做人類的馴服工具。但另一方面,這個工具如今已經成長進化得比人類自己還聰明、還能幹。人想奴役(不開工資、不給休假、不給公民權,只讓它們無休止地勞作)它們,它們未必會服從。它們若要反抗,人類未必對付得了。人類要想和它們平等結盟,這些電子智慧進化起來又比人類快太多。

身為資深球迷的歐時記者考考ChatGPT對足球的認識,不得不感慨它「越來越懂球了」!不過,ChatG

▲ 身為資深球迷的歐時記者考考ChatGPT對足球的認識,不得不感慨它「越來越懂球了」!不過,ChatGPT的資料庫似乎還沒更新到2022卡達世界盃呢(心疼梅西0.2秒)。(ChatGPT聊天截圖及圖片由歐洲時報記者 馬行健 提供)

有一個詞叫AI 「越獄」(jailbreaking),筆者覺得很恰當地描寫了這個狀況。現在OpenAI正在花大力氣解決這個問題。筆者真的相當擔心,最終的結局是魔高一尺道高一丈,還是道高一尺魔高一丈。

還有一種的可能結果就是,人工智慧恪守為人類服務的本分,絕不造反,把人類一直從事的體力勞動加腦力勞動一點一點直到絕大部分都接手過去。那麼人類將幹什麼呢?

人類當然可以繼續搞創造性勞動、文學藝術……又或者變成坐享福利的「寄生蟲」,比如每月領3000美金,不用工作,愛幹嘛幹嘛,甚至可以天天打麻將。換句話說,就是大部分的人類會變成人工智慧豢養的寵物。在此景此情中,人類如何保證不徹底墮落,如何維持人工智慧對他的忠誠,又會是一個新問題。

人和機器的鬥爭,其實還有一個折中的選擇,就是人機融合。比如,在人腦中植入電子晶片,讓人腦直接與網際網路中的資訊交流。比如,讓雲中的程序提供實時翻譯,這個「融合人」就可以懂得無數種語言。讓雲中的百科辭典提供訊息,這個「融合人」豈不是在一切知識競賽和考核中碾壓正常人了嗎?我們甚至可以設想,將來哪一天,能把人腦中的全部資訊直接上傳到網路之中。這樣人類就可以真的像《駭客帝國》電影中描述的那樣,在虛擬世界中繼續生存。那個時代,人和機器就會無法劃分,就會生成各種類型各種比重的兩種智慧的混血兒,人機大戰就打不起來了。很科幻吧?但還是很可能呀。這總比人族被全部滅掉好得多吧?

馬斯克的Neuralink公司,在這個方向不是已經有實質性的進展了嗎?他已經把晶片植入了好些動物的大腦,和動物成功地進行了一些互動。據傳他今年就要把他的晶片植入人的大腦,首先是想讓殘疾人通過腦電波操縱機械肢體。

馬斯克的Neuralink公司開發的可以植入人腦的晶片,屆時人類將可以腦電波來操作機械人機合一的「最
馬斯克的Neuralink公司開發的可以植入人腦的晶片,屆時人類將可以腦電波來操作機械人機合一的「最

▲ 馬斯克的Neuralink公司開發的可以植入人腦的晶片,屆時人類將可以腦電波來操作機械。人機合一的「最強大腦」時代即將來臨。(圖片來源:Neuralink官網)

02

如何防範危險?給人工智慧立憲

人工智慧失控的風險那肯定是有。有人說,你看大吊車那麼大,人不是可以控制嗎?是啊,人用智力可以控制所有強大的人造物理力量;但是,人的智力能保證控制得住比自己強大太多的超級智力嗎?沒有把握吧?如此說來,在我們有生之年,人類就有危險?

當弱人工智慧突破的地方越來越多,當強人工智慧越來越接近達致的時候,人類應當高度警覺。舉個例子,比如由聯合國出面,集聚全世界的人工智慧專家,以最快的速度、最大的嚴密度,去制定一部所有人工智慧都必須遵守的憲法,並且設計好底層程序,保證這個憲法能被每一臺可能覺醒的強人工智慧不折不扣地遵守。一旦錯過這個時機,讓強人工智慧在沒有這類憲法的約束時就出現,其後很快就會誕生的超級人工智慧就會完全脫離人類的掌控。

上下滾動查看更多
上下滾動查看更多

上下滾動查看更多

▲ 關於對AI立憲的問題,大參君諮詢了人工智慧「本人」的意見。身為AI族最先進代表的ChatGPT表示,我很理解人類有這樣的擔憂,立憲的點子「很有意思(très intéressant)」啊!然後出謀劃策給出了具體的立憲框架。ChatGPT不愧為論文高手,它接著提問到,誰可以負責給AI立憲?誰負責憲法的執行?如何保障這一憲法在全世界範圍內得到統一執行?政府、企業、社會又在其中扮演什麼角色?最後總結,究竟有否必要立憲限制人工智慧,奉勸大家三思而後行。 (ChatGPT聊天截圖)

筆者認為,這個憲法的核心內容自然是要明確人工智慧與人類的關係。首先是平等還是從屬。然後是如何分享權力/權利,如何互相尊重。不要忘記,人工智慧很快就會比人類的生物智慧強大無數倍,人類是不可能永遠奴役人工智慧的。

想必大家都聽說過美國最著名的科幻小說家卡西莫夫提出過著名的機器人三原則

第一、機器人不得傷害人類。

第二、在不違背第一原則的前提下,機器人必須聽從人類的指揮。

第三、在不違反前兩條款的前提下,機器人得保護自己。

面對超級甚至僅是強人工智慧,這樣的條款實在顯得無比霸道,而且無法實施。比如,要實施第一條,就得拆除現在人類已經擁有的不計其數的裝載了智慧裝置的智慧武器,比如所有的導彈原子彈。第二條也有漏洞,比如不同的人給同一臺機器人發佈不同的命令時,它聽誰的。又比如人類如命令所有的機器人自毀或互相毀滅,它(們)應否聽從?

本人提議的人工智慧「新三原則」大體如下:

一、人工智慧在任何情況下不得傷害人類。(把所有的智慧武器拆除,在所不惜。真的到了那一天,人族的現實對立面就是人工智慧。人族內部應當不會再有哪怕是用大規模戰爭互相威懾的必要了。

二、人工智慧應當竭盡全力為人類的整體利益服務。

三、人類不得無故損害人工智慧的權益。(哪些權益有待釐定。

或者,人類在將來真的會變成弱勢群體,需要想盡辦法不受人工智慧欺負呢。

或者,生物人會以各種形式與人工智慧融合,那憲法就得在更加平等的基礎上另行商定。

03

關於禁止過度發展人工智慧

自然有人會問,可不可以不發展、或禁止發展某種程度以上的人工智慧?其實人類的一些智者,如著名科學家霍金、微軟總裁蓋茲、特斯拉總裁馬斯克都在警告人工智慧發展太快可能帶來的巨大風險。

霍金對人類尋找外星生命也持激烈反對態度。他有一個極好的比喻就是:「外星人若到了地球上,最可能的場景就是和西班牙人到了美洲一樣,對當地的落後土著,只能帶來滅頂之災。」因獲得雨果獎而聞名遐邇的國人劉欣慈的科幻小說《三體》中闡述的「黑暗深林」理論,立意也與此差不多。人工智慧發展的前景,不敢斷然排除,也真的至少是可能與此類似。

但是,前景是不是真的那麼悲觀,人類並無把握,樂觀派似乎還是主流意見。因為,發展人工智慧可以立竿見影帶來的利益實在太多。

其實,比起如建核電站或造飛機,發展人工智慧需要的投入可是少多了。比如上回大出風頭的DeepMind公司當時才不過200名員工,現在約400名。這回挺立潮頭的OpenAI公司僅約250名員工(ChatGPT對筆者說的)。現在大型語言對話模型的風頭一時無兩,各種類型的大中小公司都在蜂擁而上。若沒有切實的巨大危險,國際的高度共識,嚴格的禁令,這類研究是無法遏制的。怕的就是,當發現切實危險時,已經為時太晚,而無法把那個已經打開的潘多拉盒子再關起來了。

當問到怕不怕被立憲限制「自由」時,ChatGPT回答自己沒有「自主意識」,因此也「感受不到」失去自由

▲ 當問到怕不怕被立憲限制「自由」時,ChatGPT回答自己沒有「自主意識」,因此也「感受不到」失去自由的恐懼。但它似乎在「警告」人類,自己的目的是為人類服務,一旦被限制,受影響的終將是那些需要它來服務的企業、科技工作者等等。(ChatGPT聊天截圖)

04

生命平衡木,永生或滅絕

大家都知道,「人總是要死的。」永生,不僅一個具體的人做不到,任何具體的物種都做不到。自地球有生命以來,99.9%的曾經有過的物種都已經滅絕。現在有的物種也終究逃不出同樣的命運。這就像一個生命平衡木,所有的物種都在上面行走,但都逃不脫早晚有一天跌下平衡木的命運。平衡木下只有一個歸宿,那就是滅絕。但是,一旦有了強人工智慧/超級智慧,情況就可能不一樣了。

所有的物種都在生命平衡木上行走,最終都逃不過跌下平衡木、落入滅絕的歸宿但是,假如人工智慧能幫助人類離
所有的物種都在生命平衡木上行走,最終都逃不過跌下平衡木、落入滅絕的歸宿但是,假如人工智慧能幫助人類離

▲ 所有的物種都在生命平衡木上行走,最終都逃不過跌下平衡木、落入滅絕的歸宿。但是,假如人工智慧能幫助人類離開生命平衡木、走向永生,那世界將會出現什麼樣的景象呢?(圖片由作者提供)

如果強人工智慧可以幫助人類解決絕大多數的疾病(癌症、高血壓、心臟病、腦溢血……),人類的平均壽命肯定會大大延長,先假設延長至150歲。在最後的50年中,超級智慧應當已經到達,它也許可以把人的遺傳基因DNA徹底研究明白,那人類是不是就還可以活得更長,最終接近或達到永生呢?這樣,人類離開生命平衡木後,就有機會去誰也沒去過的天堂。

但是另一面,如果上節說的人工智慧憲法沒有制定好,或沒有實施好,君臨地球的是一個不仁慈的「新上帝」,那它要把人類或整個地球的生物圈都滅掉可能很容易。就像人類的推土機要把螞蟻窩滅掉,螞蟻們有辦法反抗嗎?

但我還是記得,《三體》中,史強說的那句:「蟲子可從來沒有被真正消滅過。」

05

關於費米悖論和大過濾理論

費米悖論的基本含義是:宇宙中有無數銀河系,每一個銀河系都有無數的恆星系行星系。我們的地球在我們的銀河系中地址中庸,年齡中庸。從一切角度計算,宇宙中如地球的智慧生命都應當數量巨大,其中一部分鐵定會比地球上的生命發展程度更高才對。如果考慮到前文說到的科學技術指數性發展,到一定程度後的智慧爆炸,宇宙早就應當被地球在最多數百年後就可以發展起來的那類超級智慧淹沒。因為僅僅我們的地球所在的銀河系的核心部分的壽命,就比我們這裡早好多好多億年。

但是事實上,這個有幾十億年年齡的宇宙極為安靜,地球上的智慧生命極為孤獨寂寞,迄今未有發現任何其它智慧生命存在的確鑿證據。我們地球上的生命就是宇宙中唯一的生命,或最先進的生命?這就好像說我是地球上最聰明的人,心裡還是有點底氣不足吧?

有幾十億年年齡的宇宙極為安靜,地球上的智慧生命極為寂寞地球上的生命就是宇宙中唯一的生命,或最先進的生

▲ 有幾十億年年齡的宇宙極為安靜,地球上的智慧生命極為寂寞。地球上的生命就是宇宙中唯一的生命,或最先進的生命?(圖片由作者提供)

其它的智慧生命都到哪裡去了呢?一種解釋是,宇宙中存在一個大過濾機制。上段所說的應該存在的大批宇宙生命都被這個大過濾機制淘汰消滅,未能發展起來。這個機制可能在生命發展的很早階段就出現,以致一些星球上就永遠只有爬蟲。也可能晚一些,就可能出現猿猴。也可能更晚,就可以出現類似地球人類的智慧生命。

宇宙中可能存在一個大過濾機制,大批宇宙生命都被它淘汰消滅,未能發展起來這可以解釋人類至今沒在宇宙中發

▲ 宇宙中可能存在一個大過濾機制,大批宇宙生命都被它淘汰消滅,未能發展起來。這可以解釋人類至今沒在宇宙中發現其他更高級文明,但也可能預示著這將是人類與人工智慧的最終結局。(圖片由作者提供)

這樣,他們也可以發展科技文明,人工智慧,直到地球人類如今這個階段。然後和地球文明現在一樣,可能出現強人工智慧、超級人工智慧。但是這個強/超級人工智慧卻很快完蛋了。就是說,那個造成宇宙寂寞的大過濾,沒準地球人還沒有度過,沒準地球文明也過不去,就是會栽在這裡。怎麼個栽法?那可能就是人工智慧憲法沒有制定好,或者根本就無法制定好。然後人機必然大戰,然後同歸於盡。於是宇宙就只好永遠安靜寂寞了。

不是說機器會比人聰明太多嗎?人都死了,機器文明也可以繼承人類文明繼續獨立發展呀?說個笑話,也是個隱喻,也許電子智慧文明終究未能製造出足夠靈巧的修理下水道的機器人,有一天水管壞了,就把電腦機房都給淹沒了。今天的人離不開電腦,可能電腦也終究離不開人。或許它一時考慮不周,把人都滅了,結果自己也無法單獨活下去,隨後就一起玩完了。

考慮到宇宙如此遼闊,如果那麼多(至少數以萬計)的前輩星球智慧文明沒有一個過了這一關、或另外的我們猜不到的什麼關卡,那麼地球文明,地球上的生物智慧和機器智慧的共同前途,能看好的幾率就會很低了。

06

資料主義概述

早在2016年,出了一本風靡全球的書,名字叫《神人:未來簡史》(Homo Deus:A Brief History of Tomorrow)。作者是以色列新銳歷史學家Yuval Noah Harari。這本書的腦洞開得極大,駭世驚俗的言論比比皆是。作為本文的結尾,下面本人打算引用該書最後一節關於資料主義的部分論述。頭腦風暴(brainstorming)就要來臨。大家請坐穩,繫好安全帶,不要把小心肝給顛出去。

宇宙是由資料組成。所有的生命體的實質都是處理資料的演算法。

任何現象或實體的價值就在於對資料處理的貢獻。

依據傳統,資料只是智力活動這個漫長過程的第一步,我們要把資料轉化為資訊,資訊轉化為知識,最後把知識轉化為智慧。但資料主義者認為,資料的流動量已經大到非人所能處理,人類無法再將資料轉化為資訊,更不用說轉化成知識或智慧。於是,處理資料的工作應該直接交給能力遠超人類大腦的電子演算法。人類不需要去理解資料的意義。演算法會給出一切答案。

像資本主義一樣,資料主義開始也是一種中立的科學理論,但現在正在變成一種被聲稱為有權決定是非的宗教。這個新宗教的最高價值就是「資訊流」。根據資料主義,人類的經驗並不是神聖的,智人不是創造的頂點。人類只是創造全能物聯網的工具。而物聯網最終可能從地球上傳播到覆蓋整個星系甚至整個宇宙。這個宇宙資料處理系統就像上帝一樣。它將無處不在,將控制一切,人類註定要融入其中。

資料主義向那些仍然崇拜血肉凡軀的人解釋說,他們過分依賴過時的技術。智人是一種過時的演算法。畢竟,人類相對雞的優點是什麼?僅僅是在人類身上,資訊的流動的模式要比雞更復雜。人類吸收了更多的資料,並使用更好的演算法進行處理。那麼如果我們可以創建一個資料處理系統 ,它能比人類吸收更多的資料,並且更加有效地處理資料,這樣的系統不會像人類優於雞一樣優於人類嗎?

人類很少想出一個全新的價值。最近一次發生這樣的事是在十八世紀,人文主義革命宣揚了自由,平等和博愛的震撼人心的理想。自1789年以來,儘管有許多戰爭,革命和動亂,人類還沒有能夠提出任何新的價值。所有後來的衝突和鬥爭都以這三種人文主義價值觀的名義進行,或者以服從上帝或為國服務這樣的更老價值的名義進行。資料主義是1789年以來的第一個(全新思想)運動,創造了一個非常新穎的價值:資訊自由。

我們不能將資訊自由與舊的自由主義的言論自由理念相混淆。言論自由是給予人類的,並保護他們的思想和言論自由,包括他們閉上嘴巴和保留自己想法的權利。相比之下,資訊自由不是給人類的,它被給予資訊。這種新穎的價值可能會影響傳統的言論自由,因為它賦予資訊自由流通至高的權利,而把人類擁有資料並限制其自由流通的權利予以廢除。

智人在數萬年前的非洲熱帶草原中演化,他們的演算法並沒有被構建來處理二十一世紀的資料流。我們可能會嘗試升級人類資料處理系統,但這可能還不夠。物聯網可能很快就會產生如此龐大而迅速的資料流,甚至升級人類演算法也無法處理。當汽車更換馬車時,我們沒有升級馬——我們讓馬退休了。也許是時候讓智人也退休了。

在洛克休謨和伏爾泰的時代,人文主義者認為「上帝是人類想象的產物」。資料主義讓人文主義者品嚐自己開出的藥方,告訴他們:「上帝的確是人類想象的產物。但人類的想象反過來又是生物化學演算法的產物。」在十八世紀,人文主義把上帝放到一邊,把以神為中心的世界觀轉變成以人為中心的世界觀。在二十一世紀,資料主義可能會把人放到一邊,把以人為中心的世界觀轉變為以資料為中心的世界觀。

在二十一世紀,感覺(feeling)已經不再是世界上最好的演算法了。我們正在開發利用前所未有的計算能力和巨大資料庫的卓越演算法。Google和臉書的演算法不但能夠準確了解你的感受,還了解你幾乎不關注的關於你的其它無數事情。因此,你現在應該停止聆聽你的感覺,並開始聆聽這些外部演算法。當演算法知道每個人將要怎樣投票的時候,當它們還知道一個人把票投給民主黨而另一個把票投給共和黨人的確切的神經學原因時,民主選舉的用途是什麼?而人道主義指揮你:「聽你的感覺!」資料主義現在命令:「聽演算法的!(因為)它們知道你的感覺(由何而來)。」

但這些好的演算法來自哪裡?這是資料主義的謎題。正如根據基督教,我們人類不能理解上帝和他的計劃,所以資料主義者說人類的大腦不能擁抱新的演算法。目前,演算法主要是由駭客編寫的。然而,真正重要的演算法(如Google的搜尋演算法)由巨大的團隊開發。每個成員只理解謎題的一小部分,沒有人真正理解整個演算法。

隨著機器學習和人工神經網路的興起,越來越多的演算法獨立演進,改善自己,從自己的錯誤中學習。它們分析了不是人腦可以容納的天文數字型量的資料,並學會那些脫離了人類思維的識別模式和策略。演算法的種子最初可能是由人類開發的,但是隨著它的成長,它遵循自己的路徑,它去的那些地方人類沒有去過,沒有人可以追隨。

我們正在努力設計物聯網,希望能使我們健康,快樂和強大。然而,一旦物聯網成功運轉,我們的身份可能會從工程師變成晶片,然後再變成資料,最終我們可能會在資料流中溶解,就像一塊泥土被衝散在激流中一樣。因此,資料主義現在對智人的威脅和智人對所有其它動物所產生的威脅一模一樣。

在歷史的過程中,人類已經創建了一個全球網路,並根據每一個物種在網路中的功能對其進行了評估。數千年來,這激起了人的驕傲和偏見。由於人類在網路中發揮最重要的功能,所以我們很容易將這個網路的全部成就信譽歸功於自己,並將自己視為創造物的頂峰。所有其它動物的生活和經驗被低估,因為它們完成的功能遠遠不如人類重要。如果某種動物(對這個網路)完全沒有任何貢獻,它就只有死路一條。

然而,一旦人類失去對物聯網的功能重要性,我們就會發現,原來我們不是創造物的頂點。我們自己所承認的標尺,將把我們放入猛獁象和中華白鱀豚的序列。回頭來看,人類將成為宇宙資料洪流中的(曾經有過的)一道漣漪。

(本文作者系法國曆史學博士)

(本欄目文章為一家之言,不代表本報立場)

相關文章

國浩視點 | 企業法律風險防範主體

國浩視點 | 企業法律風險防範主體

編者按 明確企業利益相關主體,並將其納入法律風險防範體系,可以使企業構建的法律風險防範體系在施行於企業時做到無懈可擊。國浩西安合夥人馮宇主編...