對話凱文·凱利:現在監管 AI 為時過早,應該允許「失控」

平均人類並不高尚,我們希望 AI 比人類更好。

對話 | 張鵬、李志飛策劃 | 衛詩婕、黎詩韻

30 年前,網際網路剛剛萌芽、就連個人電腦都很稀罕,一位科技作家開始了自己對當時社會各界的一次前沿漫遊。在與世界最有智識的人們交流之後,他窺探到了一些未來圖景,並最終寫成一本大部頭著作《失控》(1994 年)。直至十多年後,當移動網際網路、智慧手機時代到來,人們驚訝地發現,那些時下最新的概念「全球資訊互聯、分散式系統、數位貨幣、雲端運算等」早被這本書預言。

這名科技作家就是凱文·凱利,也被稱為 KK。他是《連線》雜誌的創辦人,科技觀察家和「預言者」。2010 年,《失控》中文版推出,KK 也開啟了在中國的一系列探訪,並逐漸被國人熟知。

站在今天的節點,通用人工智慧(AGI)正在萌芽、一場時代變革即將拉開,這又隱隱和《失控》一書中的預言相呼應。KK 當時就預測,人類最終會和機器走向統一,「機器正在生物化、而生物正在工程化」。用他自己的話說,《失控》只講了一個內容,那就是如何打造一個「複雜系統」——機器人、人工智慧(AI)等都可被視作複雜系統,他認為這一思想至今依然適用。

不久前,我們和大模型創業公司出門問問創始人& CEO 李志飛一起,跟 KK 展開了一場對談。

前者站在技術、商業的實務角度,後者站在人類、歷史、甚至宇宙的抽象角度,共同探討了人工智慧的崛起、影響和威脅。這是一次頗有「科幻意味」和「想象力」的討論,我們試圖再次「預言」人類和人工智慧的未來。

二者都認為,今天的人工智慧已經具備生命的形式,而這在人類歷史上還是頭一次。李志飛說,目前的 AI 已經相當於人類小孩的智商,已擁有知識、邏輯、推理、規劃等真正的通用智慧能力。而 KK 認為,作為「矽基生命」,AI 將和人類一樣有適應性,能夠自我學習、成長。

非常相似地,他們都信奉技術樂觀主義。KK 認為,AI 不會讓人類失業,只會讓人類更高效、並從「可惡」的工作中解放出來。AI 看似會拉大貧富差距,但更可能像人類歷史上的每一次技術變革一樣,通過做大蛋糕、更好地實現公平正義。而在對商業的影響上,它會同時讓個體、中小公司、大公司都獲得權力。

正如《失控》一書的名字所言——凱文·凱利覺得,為了更好地獲得 AI 的力量,人類應當允許 AI 的部分「失控」。畢竟,ChatGPT 正是在人類失控的「湧現」狀態下誕生的。他和李志飛都認為,目前 AI 的智慧依然稚嫩,人類應該繼續放手,而不是過早地、過度地控制(監管)。後者可能將創新扼殺在搖籃中。

將目光放到更長遠,如果有一天 AI 真的成為一個超級生命體,那人類到底該如何與之相處?

科幻小說和電影都描繪了一個灰暗的未來,其結局往往是 AI 自我覺醒之後殺死人類。但凱文·凱利認為,這是人類缺乏想象力的表現。失敗總比成功更容易想象、也具故事的誘惑性。關於未來,人工智慧的益處與價值其實不難想象。

他的建議是,不妨將 AI 視作「人工外星人」,人類將能借助 AI 的智慧解決自身問題、且實現一定程度的「控制」。而李志飛則認為,作為 AI 的「祖先」,人類最終會跟 AI 相互融合、而非控制。

至於這次的預言是否會成立,就要看 5000 天之後的世界了。

以下是對話全文:

01

即便 OpenAI

沒有做出 ChatGPT,很快也會有其他公司做出來

張鵬:無論中美,最近人們都在探討大模型。你對這一波大模型的技術變革有什麼感受?會覺得十分震撼嗎?

凱文·凱利:人工智慧(AI)已經存在了幾十年。當 AI 模型開始採用神經網路和深度學習時,出現了一個重大的飛躍,它們變得越來越龐大。大約 4、5 年前,它開始產生非常龐大的 transformer 模型(採用自注意力機制的深度學習模型)。而最近兩年,它開始與大型語言模型進行接口互動。

其實最近,AI 的重大變化不在於它的能力,這方面它的表現並沒有好多少。最近 AI 真正的變化是,它讓我們有了一個對話使用者界面,可以用(自然)語言與 AI 進行真正的交流。而在此之前,人們需要學習大量的程式設計知識、非常精通才能使用 AI。但現在,突然之間每個人都會用 AI 了。這才是真正令人興奮的部分。

李志飛:我同意 KK 說的,目前大語言模型最主要的變化是自然語言互動能力的提升。這確實是很多普通老百姓能感受到的,也正因如此,今天 ChatGPT 才會產生這麼大的社會影響力。

但我認為,今天的大模型在能力上也有很大的變化,而且正是這種變化才使得它的自然互動變得可能。因為實現自然互動背後,需要 AI 有很強的知識、理解能力、語言能力、推理規劃能力等等。AI 必須在這些基礎能力上有突破,才能實現自然語言的互動。

並且我認為未來大模型的能力,將不僅僅是自然語言互動。比如寫程序、企業自動化流程、機器人自動化等事情,都是不互動的,但它們未來也會成為可能。

張鵬:我非常認同 AI 跟人類更好的對話能力,將會帶來一波技術和商業的正規化革命。如果說 ChatGPT 是 AI 發展的第二曲線,那它的出現到底是必然還是偶然?

凱文·凱利:ChatGPT 的能力超出了所有人的預期。我不認為有人預料到這一點,包括人工智慧領域的人士。實際上,大多數研究人員都不知道 ChatGPT 的工作原理,他們想努力改進它,但很困難,因為並不知道它是如何工作的。因此,ChatGPT 的出現是一個意外。

儘管 ChatGPT 非常令人驚訝,但我們也看到了它的侷限性。它主要的限制在於,這個模型是根據人類創作內容的平均水平進行訓練的,因此它傾向於產生平均水平的結果。而我們常常想要的並不是平均水平、而是超過平均水平的東西。這很難做到。

其次,這些模型的最佳化目標是合理性,而不是準確性。因此,如何使它們更準確是當前所有人都在努力解決的重大挑戰。

李志飛

李志飛:我覺得 ChatGPT 的出現,從短期看是偶然的,但長期看是必然的。可以說,去年底 OpenAI 做出 ChatGPT 是偶然的,但就算它沒做出來,很快也會有其他公司做出來。

這在技術的歷史上無數次重演。以深度學習為例,2012 年 AlexNet 第一個做出 image annotation(圖像標註),但當時很多信念、工程能力都很強的團隊也在做,如果 AlexNet 沒做出來,其他人也會做出來。還有 2017 年 Google 做出 transformer,都是在解決之前 RNN、LSTM 這些序列模型低擴展性等問題,如果 Google 沒做出來,其他團隊也會做出來。

ChatGPT 誕生的背景是,transformer 已經很成熟了、而且我們有很強的算力去訓練網際網路的海量資料,所有 ChatGPT 必需的元素都已經具備,它的誕生是必然的。只不過,OpenAI 在那個時間點把它組合得最好。

張鵬:聊到必然性和偶然性的問題,讓我想到了最近非常熱的一個詞「湧現」。這個詞在 KK《失控》這本書出現過至少 88 次,今天我們應該如何理解湧現這個詞的意義?

凱文·凱利:從英語的角度來看,「emergence」是一個術語,指的是一個系統的行為、一整堆相互連接的事物,比如網際網路、機器人、身體、生態系統甚至整個世界,其行為不包含在任何單個部分的行為中。比如蜂巢可以記住超出單個蜜蜂壽命的事物,因此蜂巢本身具有一種行為、能力和力量,而單個部分沒有。我們稱之為「emergence」。

同樣,許多正在生成的人工智慧也是「湧現」的。因為在模型中沒有一個地方能夠解釋它的來源,它需要所有部分共同協作才能產生這種新的能力。就像我們的大腦沒有一個地方有「思想」,「思想」是從整個神經元中「湧現」出來的。思維、進化、學習等事物都可以從系統中「湧現」出來。

李志飛:我對「湧現」的了解來自《複雜》這本書,它講到「more is different」,「多即不同」。就像中國的一句古話,「量變導致質變」。大模型第一次講到「湧現」,是去年底史丹佛跟 Google 發的一篇文章。他們通過實驗發現,通過增加大模型的規模、當到達某個臨界點時,它會突然「湧現」某種能力。

我現在感覺,「湧現」這個詞其實被濫用了。因為我們解釋不清楚大模型的能力是怎麼來的,就稱之為「湧現」,這個詞不可解釋、也不可操控,對我們訓練和應用大模型沒有任何幫助。現在,大家不再研究「湧現」了,而是更多研究大模型參數量跟最終能力表現之間的量化關係,這可能對我們了解、把控大模型更有幫助。

張鵬:我們可以理解為,「湧現」會導致「失去控制」嗎?

凱文·凱利:這樣理解並不完全正確。當然,它會有「失去控制的部分」,如果你希望能夠對「湧現」行為的力量加以利用,你可能需要容忍一些事物不受你的控制。目前在人工智慧領域,我們對它的理解和控制可能還不夠好,但這實際上是為了獲得最佳結果所必需的。

但與此同時,我們又不能讓一切都「失控」,我們必須進行一定程度的「控制」,也就是引導、管理人工智慧。再次強調,我們不希望過度限制、但也必須實現一定程度上的控制。不過,我們很可能永遠無法完全控制它們,特別是對於更強大的人工智慧,我們很可能永遠無法完全理解其工作方式。這就是其中的權衡。

張鵬:你寫下《失控》這本書已經過去很多年了,在今天這個節點、結合著這一波的 AI 革命,你覺得《失控》有什麼值得重新校準的部分嗎?

凱文·凱利:我認為我在《失控》這本書中並沒有過多談論人工智慧和失控,它其實主要講了如何將簡單事物製造成複雜事物。有一種叫做羅德尼·布魯克斯的子系統架構,它提到你可以通過將智慧的各個部分嵌入其中,製造一個複雜的機器人。這個通向複雜的過程是,你要在已經正常工作的事物基礎上疊加其他東西。(布魯克斯的架構理論提出,更高層級的行為需要包容較低層次的行為)。

就像昆蟲,即使你割掉它的頭,它也可以走路,因為行走的功能更多由局部完成。就像我們大腦有一個負責呼吸和其他自主功能的核心,我們是在這個基礎上添加了更多的複雜層次。今天,當人們製造機器人和人工智慧、並試圖使它們更復雜時,這個思想仍然有效。這實際上是我在《失控》中談論的唯一內容,而我認為這個觀點仍然成立。

張鵬:我記得你之前有一個很有意思的視角,就是「假設科技是一種生命」,當它湧現出接近人類的智慧,那它接下來會想要什麼?這會對商業領域和人類社會帶來什麼影響?

凱文·凱利:技術是一種被我稱之為「第七生命王國」的東西。我們加速了生命的進化,使它進入一個「乾燥」的領域,不再需要「溼潤」的環境,而是可以存在於矽中。我們可以利用我們的思維,製造出其他類似生命的技術。它們具有適應性,可以學習、成長。

我的觀點是,基本上技術和生命一樣,會追求同樣的東西。例如,它們會在進化中增加多樣性,也會變得更加專業化、更具體。我們身體有 52 種不同的細胞,包括心臟細胞、骨細胞和骨骼細胞等。我們也會製造出專門的AI,執行語言翻譯、圖像生成和自動駕駛等特定的任務。另外,技術還會跟生命一樣變得更復雜,這是顯而易見的。

最後,技術還將像生命一樣「互利共生」。生命在演化過程中如此複雜,以至於它只與其他生命接觸,從不接觸非生物材料。比如你腸道內的細菌。它們只被其他活體細胞包圍。未來,也會有一些AI不是為人類設計的,而是專門為其他 AI 服務。例如,將會有專門用於維護其他 AI 的 AI、只與其他 AI 交流的 AI。

李志飛:我想從一個工程師的角度解釋一下 AI 跟生命的關係。幾年前,很多人老是問我,「Alphago(第一個打敗圍棋世界冠軍的計算機程序)到底是幾歲的智商?」當時我特別不喜歡這種問題,因為沒法回答。那時候,AI 雖然可以下圍棋、智商很高,但它並不能像 3 歲小孩一樣進行自然語言對話。當時它跟人的機理是本質上不一樣的。

但是最近這一陣子,我特別喜歡把 AI 比作一個小孩。我覺得核心是因為,今天的 AI 已經具備了小孩擁有的、真正的通用智慧能力,比如知識、邏輯、推理、規劃等等。所以我想說,今天的 AI 更像一個生命體了。它在智商上像一個 5 歲小孩,在知識上可能既像一個大學教授、也像一個剛出生的嬰兒,這取決於它有沒有見過那些資料。

基於這個理解,我覺得關於 AI 到底想要什麼,需要重新思考。對於一個 5 歲小孩來說,他接下來首先會自我淨化,其次是自我複製、進行協作。關於這個問題,我自己也沒有很好的答案。

02

未來 5000 天,我們將度過

一個狹小而緊迫的過渡期

張鵬:當AI 的能力快速成長時,很多普通人感到焦慮,害怕自己失去競爭力。KK 在這個問題上有什麼思考和建議嗎?

凱文·凱利:即使 AI 技術已經發展了 20 年,但人們卻覺得它是一夜成功,對它的成長速度和能力感到焦慮。我們總是容易想象最糟糕的情況,而不是最好的情況。我認為,應對變革焦慮的一個方法是回顧過去。實際上,過去人類也曾有過這種焦慮,但我們想象的糟糕情形從來沒有發生過。這次很可能是一樣的。

我發現自己應對焦慮的最好辦法是嘗試使用它們。我發現大多數焦慮來自於那些沒有使用過 AI 的人,他們對 AI 保持著一種距離感。其實他們一旦開始嘗試和使用,就會看到 AI 既有好處,也有侷限性和危害。這將減少他們的焦慮。

李志飛:AGI 今天不發生,明天也會發生。既然它不可阻擋,你就應該擁抱、理解它。目前對我來說,AGI 是一個思維的夥伴。我很多問題都會跟他聊,它的知識特別全面,能從很廣、很全的角度給我建議。我覺得這可能是人類擁抱 AI 的一種很好的形式。

與此同時,我們可以看到,今天的大模型離真正的 AGI,還差一些特別關鍵的能力。比如邏輯推理和複雜任務規劃的能力,如果你想要 AI 基於某一個目標,拆解步驟、實現目標,現在它還沒有那麼擅長。

張鵬:KK 自己也是一名內容創作者,你覺得在 AI 時代,創作者不可被 AI 替代的最終價值會是什麼?

凱文·凱利:我在寫作時已經使用過人工智慧和其他工具。我認為,沒有人會因為人工智慧而失去工作。因為我無法找到一個例子,證明有一個藝術家因為人工智慧而失去了工作。這是一種想象中的恐懼,一種不存在的問題。就業可能是與人工智慧相關的最不嚴重的問題。

我想說的是,消失的可能是你的工作描述,也就是你實際從事的工作內容可能會變化。一些人觀察到,他們 50% 的工作都可以由人工智慧來完成,而另外 50% 工作會被人工智慧增強和放大。所以未來,可能有一半的工作不再需要人們去做,而人們又能把剩下的 50% 工作將做得更好。這通常是我們會看到的模式。

當然,確實有一些特定類型的工作會消失,比如作為收銀員去點餐和數錢。我們不希望人類去做這些工作,所以它們肯定會消失、它們也應該消失。

張鵬:你如何評價在 AI 時代,年輕人和老年人的競爭力?

凱文·凱利:老年人有很多優勢,他們見多識廣,經驗豐富。年輕人也有很多優勢,因為他們不知道什麼是不可能的。我不認為誰的競爭力強於誰。

我想說的是,今天的年輕人常常談論自己是數字原住民,對技術更有優勢。但由於人工智慧和其他事物發展迅速,年輕人昨天可能是原住民,明天就像「老年人」了。不管是年輕人還是老年人,大家都是新時代的「新手」,都必須一輩子不斷地快速學習新事物。

張鵬:隨著對AI技術的掌握不同,這是否會帶來貧富差距的變化?也就是說,未來會使用 AI 的人是不是會獲得更高的生產力、更好地贏得競爭?

凱文·凱利:是的,財富差距會擴大。我認為隨著時間的推移,你與人工智慧合作的能力,可能比你是否上大學還要重要。也許大學的目的將是教會你如何與人工智慧合作。對於那些非常有野心的人來說,如果他們學習瞭如何使用人工智慧,他們的薪水將會有很大的差別。

但是,隨著人工智慧在世界各地普及,未來我們會實現全球對人工智慧的平等獲取,就像對教育的平等獲取一樣。我認識一些在美國經營大公司的朋友,他們僱用遠端工作的員工,只要他們有能力,而背景並不重要。因此,很多在南美洲、非洲工作的人,會按照美國的薪酬標準得到報酬。他們會賺比原本更多的錢。

張鵬:技術的快速發展,可能會帶來社會領域的不公平、不正義,我們該怎麼在發展和公平正義之間取得平衡?

凱文·凱利:我認為我們可以在進步與公平之間取得平衡。實際上,我認為進步的很大一部分就是傳播公平。

與幾百年前相比,那時的世界非常不公平。你根據出生被視為奴隸、農奴或者農民,沒有任何機會超越這個身份。但由於進步,我們現在擁有來一個更加平等、公平的世界。我認為,科技的發展可以增加公平性,雖然不一定會實現,但是它是可能的。

李志飛:從一個工程師的角度來說,如果說你從終點去看公平,希望大家財富一樣、能力水平一樣,那這肯定會導致越來越不公平。但如果你是從起點去看公平,比如說讓 AI 工具被所有人可用,這可能才會更好地實現公平。

張鵬:現在我們看到有些公司,比如文生圖公司 Midjourney,十幾個人就創造了上億美金的年收入。我們可否理解為,AI 從根本上變革了生產力?未來的公司會不會因此越來越小和精簡?

凱文·凱利

凱文·凱利:現在網際網路和人工智慧擁有的令人驚訝的力量,可以同時賦予個人、中等公司以及大公司權力。它使個人更容易擁有一家公司,因此我們會看到很多新公司只有 AI 加上幾個人。但同時,我們也看到一些公司因為人工智慧的存在而變得更大,甚至增加了百萬人的規模。

因此,我們不會突然進入一個只有一兩個人的公司的世界,那是不會發生的。同時,我們也不會只會讓大公司受益。這就是AI的美妙之處,它可以讓所有人都受益和獲得權力。

李志飛:我覺得長尾效應跟馬太效應都會越來越明顯。

一方面,尾巴會越來越長,越來越多很小的公司會出現,它們會自己成為一個完整的體系。另一方面,當大公司有了很強的 AI 能力,它的組織力會變得更強。以前它只能組織 1000 人,但現在可以組織 1 萬人、 10 萬人、 100 萬人。比如中國的外送行業,正是依靠一整套的自動化系統,才把龐大的騎手群體組織起來。

張鵬:目前 AI 也是矽谷最熱的話題,很多創業者都以大模型為核心去思考商業創新。KK 對此有什麼觀察嗎?

凱文·凱利:這讓我想起了網際網路早期的情景。網際網路最開始出現時,突然之間每個企業都意識到必須將自己放在網際網路上。而現在,每個企業都在利用 AI 的對話界面,通過引入大語言模型和人工智慧來開展業務。一個例子是 Wendy’s(美國連鎖餐飲企業),這家時髦的快餐漢堡店現在正在使用對話界面,讓客人在車上點餐、和機器對話。

除此之外,還有一些全新的服務和想法尚未出現。我不知道具體數字,但我可以肯定的是,現在正有數千億美元的資金流入這個領域。通常情況下,其中大部分可能不會成功,但有足夠多的項目會成功。我們將在接下來的三年內看到一些非常驚人的事情,以及一些可能會變得非常大的全新公司。

張鵬:在過去的 5000 天裡,KK 做了非常多正確的預言,對很多大方向有了前瞻性的把握。最近,你又預言接下來 5000 天是人類歷史上一個最關鍵的時間段。這個節點關鍵在哪?人類會通向十字路口的什麼方向?

凱文·凱利:除了人工智慧之外,世界上還發生了許多其他事情。我們面臨氣候變化的挑戰,基因工程即將出現,很容易把人工智慧想象成貶低人類的東西,很容易看到監控變得無處不在、而我們失去了掌控權。我們面對很多全球範圍內的挑戰和機遇。

這是一個狹小而緊迫的過渡期,我們必須度過這個難關。我認為,我們可以通過電氣化、電動汽車、替代能源、以及在新冠疫苗研發方面取得的成功等,獲得通過這個狹小門戶的機會。目前,地球上還存在許多政治緊張局勢和分歧,但我們需要集體行動,需要在技術、環境等領域達成共識,共同合作解決問題。

這是地球上首次出現全球文化、全球經濟以及全球的環境影響。這也是在接下來的 5000 天裡,我們成為更加全球化文明的機會。

李志飛:KK 說,未來 5000 天,世界除了 AI 之外還有很多其他挑戰。我覺得,僅從 AI 角度來說,未來 365 天也非常重要。AI 經歷過很多輪,每次都是人們對它期待值很高、但它不行了,接著人們又期待值很高、它又不行了。我覺得今天這一波 AGI,到底會是圈內人認為很牛的東西、還是會成為社會上很重要的事情,這很大程度取決於未來 365 天。

包括大模型到底要怎麼發展,是越大越好、還是要加入多模態、還是要加入解決方案等等?包括看滲透率,目前全世界可能不到 5% 的人用過 ChatGPT,我們怎麼把滲透率從 5% 提到 20%?包括監管,人類應該怎麼應對 AI 給社會帶來的影響?還包括 AI 除了應用於網際網路等行業,它該如何在醫療、汽車、金融等傳統行業去落地?等等。

我覺得這可能需要至少一年的時間,通過人們做出各種各樣的嘗試,才能有一個更清晰的判斷。

03

平均人類並不高尚,我們希望 AI 比平均人類更好

張鵬:很多時候人類傾向於信任技術,比如有人會在自動駕駛的車上睡覺而出事故。這種對先進科技的潛移默化的信任,是否是人類的習慣?這會帶來什麼後果?

凱文·凱利:自動駕駛汽車不是完美的,但它們在駕駛方面仍然比人類更好。我們能信任人工智慧嗎?在和聊天機器人的對話中,我們發現它們的答案不是準確無誤的,所以我們無法完全信任。但我認為,我們將很快開始解決這個問題。

現在,大多數人都信任他們的計算器。你給它數字,它給你答案,你完全信任它。所以我們知道機器是可信的,這是可以努力改進的。而關於人工智慧的偏見,因為它們根據平均人類來訓練的,而平均人類是種族主義者、性別歧視者、惡意人士,並不高尚。我們實際上希望我們的人工智慧比人類更好。

就像計算器比平均人類更好一樣,你更應該依賴計算器給你的答案,而不是平均人類。信任是我們應該關注和努力解決的問題,雖然面臨許多挑戰,但最終我認為我們會高度依賴和信任人工智慧和機器。

張鵬:美國最近有很多人認為,AI 的發展速度太快,應該慢一點、甚至停下來想一想。你贊同這樣的想法嗎?

凱文·凱利:不,我不支持。我認為這是誤導、誤解和不必要的。我不認為這是真正可能的,也不認為這是可取的。

張鵬:在人類的大部分科幻電影或者科幻小說裡,AI 都是一個比較灰暗的角色,這是因為人類缺乏想象力、還是我們有太多不正確的想象?

凱文·凱利:好萊塢總是把人工智慧描繪成反烏托邦、恐怖和不受歡迎的形象,我認為這是缺乏想象力的表現。因為想象一個事物如何失敗,比想象它如何成功要容易得多,這是宇宙的法則。老實說,人們很難想象 100 年後人工智慧無處不在、廉價且對人類有益的美好世界,儘管那是我們想要生活的世界。

此外,那些電影製片廠非常擅長講故事,而一個偉大的故事的要素是衝突、災難以及一些強烈的元素。無論是戰爭、颶風還是試圖毀滅世界的人工智慧。因此,在好萊塢電影中我們不太可能看到人工智慧的美好願景,因為這並不為故事做貢獻,雖然這種可能性存在,但非常小。

因此,我們不能通過對好萊塢(電影)的印象來看待人工智慧。不幸的是,許多人就是這麼做的。一提到人工智慧,他們就會想到「終結者」、「2001 太空漫遊」、「HER」。

李志飛:我覺得所有的不信任都是因為不理解。當我們面對 AGI 這個新物種,我不理解它的能力是怎麼出現的、它到底想要什麼、它能幹什麼,這才是最核心的問題。

我覺得人類能做的,一方面是自己要多去理解 AGI,另一方面是學會讓 AGI 自己解釋清楚自己。比如當它給你一個答案的時候,你讓它把內部運作過程、內心的獨白講出來。這樣可能會產生更加強烈的信任。

張鵬:對 KK 來說,似乎老子的《道德經》對你啟發很大。你提到「最高級的控制是失控、最低級的控制是什麼都控制」。你怎麼看最近政府和科技界正在加大對AI的監管?

凱文·凱利:我認為目前的監管並不好。當然,監管是重要且必要的,它是確保事物順利進行、保持公平競爭環境、確保安全的必要手段。但過早進行監管是可怕的。目前的問題是,我們試圖對我們不太了解的東西進行監管,這通常會導致災難。

李志飛:為什麼要監管?從根本上說,是人們擔心 AGI 帶來的負面影響會大於正面影響,擔心它能力太強了、社會無法接受。但在當下這個階段,這個判斷是錯誤的。因為今天,AGI 帶來的正面影響,肯定要應該要大於它的負面影響。

其次,今天 AGI 的真正問題其實是,它的能力還不夠強。包括規劃能力、跟物理世界結合的能力、自我能進化的能力等等。我們雖然看到了希望,但其實離真正實現仍然非常遙遠。我們或許永遠都不能到達。

所以我的觀點是,我們不能剛看到 AGI 趨勢,就大幅地加強監管。這可能使得我們根本還沒實現 AGI,就把它抹殺了。監管肯定需要有,但不應該過度監管。

張鵬:人工智慧已經被談論很多年了,現在看來它正在進入一個全新的時代。如果 AI 未來真的有機會成為一個智慧高於人類的生命體,我們到底應該在人類的文明裡融入它們、還是把它們納入人類管控之中?哪種方式更能真正升級人類的文明?

凱文·凱利:我認為可以用一個非常有用的框架來理解未來的人工智慧(AI)——不是指今天的 AI,因為它們與未來 30 年、50 年或 100 年的 AI 相比,還不夠複雜——那就是將其視為來自另一個星球的人工外星人。

大量的 AI 將是我們從未見過的一種物種,它們以不同於人類的方式思考。它們會像 Yoda(《星際大戰》中的虛擬角色)或 Spock(《星際迷航》中的虛擬角色)那樣聰明,甚至在某些方面超過人類。我們會製造許多不同類型的人工外星人,尊重它們,並利用它們不同的智慧來幫助我們解決棘手的問題,比如弄清楚量子引力到底是什麼。

但我們不會將控制權交給它們。如果我們不喜歡它們的行為,我們會送回、關閉它們。如果我們認為它們獲得了太多的權力,就可以剝奪它們的權力。我們不希望讓 AI 決定我們的命運。

李志飛:現在的 AGI 就像蝴蝶,從幼蟲裡獲取了很多營養成分後,自己完成了昇華。它相當於利用了人類過去所有的網際網路知識,來完成自己的蛻變。未來,AI 肯定在很多方面都是超越人類的。我覺得人類能作為 AI 的祖先,也挺值得開心的。

KK 說,我們要把 AI 當做一個外星人,這聽起來更多還是要控制。我覺得人類可能太高估了自己的能力或智商。你可以想象一下,比如再過 50 年,全世界最牛的、最有影響力的 100 個智慧體裡面,也許只有 20 個會是人類,剩下 80 個都是 AI。所以我覺得,最後人類和AI 一定是融合,而不是控制。

*頭圖來源:視覺中國

*頭圖來源:視覺中國

相關文章

擔憂 AI 向人類扔核彈,OpenAI 是認真的

擔憂 AI 向人類扔核彈,OpenAI 是認真的

這次,科幻電影快要趕不上現實了 作者 | 連冉編輯| 鄭玄 即將上映的好萊塢科幻電影《AI 創始者》中,一個原本為人類服務的人工智慧在洛杉磯...

建設 Web3,現在最需要 Web2 的移民?

建設 Web3,現在最需要 Web2 的移民?

Web3 處在「大規模應用」爆發的前夜 從國際局勢,到新冠疫情,過去三年「新常態」的衝擊,讓外部環境充斥著不確定性,也令這個時代的人們處於前...

當創業者開始用 ChatGPT 裁員

當創業者開始用 ChatGPT 裁員

他說,從沒想到科幻片的場景有一天會發生在自己身上。 作者 | 黎詩韻編輯| 衛詩婕 幾個月來,對話機器人 ChatGPT 展現出的能力令世界...