為什麼:領會因果關係才是理解世界的關鍵

The Book of Why: The New Science of Cause and Effect

《為什麼:關於因果關係的新科學》

The Book of Why: The New Science of Cause and Effect

Judea Pearl 認為,「領會因果關係」是一個可實現的目標,我們並不需要擔心「強」人工智慧 (Strong AI) 會損害人類利益,「因為因果推理模型將使 AI 能夠反思它們自身的錯誤,找出軟體的弱點,充當道德實體,幫助我們作出決策」,通過在 AI 上模擬人類的思維方式,可以讓我們更加了解自己。

2016年,在巨量資料 (big data) 的幫助下,人工智慧(AI)圍棋軟體 AlphaGo 在系列賽中以 4:1 戰勝了世界圍棋頂尖高手李世石,震驚了全人類。

當時網路上有人戲謔道:「人工智慧贏了不可怕,至少說明它還不懂得韜光養晦,如果它假裝輸給人類,那才更加可怕。」這句看似戲言的話,卻暗藏了人工智慧當前最大的發展瓶頸:只會學習和處理資料,卻不懂得像人類一樣去思考和模擬存在於資料之外的其他可能性。

正因如此,人工智慧領域先驅、2011年圖靈獎得主朱迪亞·珀爾在本書中直言不諱地寫道:「資料非常愚蠢。」珀爾認為,當前的人工智慧學習系統幾乎完全以統計模式運行,這在理論上嚴重限制了AI的發展。

作為本書的核心內容之一,作者把認知能力分為三個等級,而統計行為僅處於最底層的「觀察」級別。所謂「觀察」即是根據資料(經驗)積累來尋找不同變量之間的相關性,同時觀察者無需對變量施加任何影響。例如,AI只需分析銷售資料即可得出超市中餅乾與巧克力之間的銷量存在一定相關性,這就是最基礎的認知能力。

但如果將餅乾的售價提高一倍(假設之前從未發生過),巧克力的銷量會發生什麼變化呢?基於巨量資料分析的AI並不能準確地回答這個問題,因為從過往的銷售資料中無法得出客戶見到餅乾漲價後的行為。這時候想要了解漲價後的銷售情況,AI就必須主動對變量進行「干預」,進行分組測試,根據測試結果來預判餅乾漲價對巧克力銷量的影響。「干預」能力是AI擺脫被動接受資料,轉而主動創造資料的關鍵一步。

最高級別的認知能力則是「想象」,即設想一個與現實不同的情景,比如假如昨天把巧克力的售價降低一半,餅乾的銷量會發生什麼變化,然後預測它的結果。「想象」能力是如此重要,在人類簡史作家尤瓦爾·赫拉利眼裡,數萬年前正是這種想象不存在事物的能力,引發了人類的認知革命,從而創造了今天的人類文明。

在珀爾眼裡,人類的認知能力之所以能超越「觀察」,達到「干預」和「想象」的級別,是因為我們天生擁有一顆善於發現並理解「因果關係」的大腦,這也是我們目前仍領先AI的地方。不過嚴格來說,如同對「時間」或「意識」的理解一樣,在哲學、科學界對於什麼是「因果關係」至今仍未有一致的定論。

幸運的是,作為一名計算機科學家,珀爾並不需要挑戰「因果關係是什麼」這一世紀難題,他只需用計算機能理解的語言描述在哪種情況下,不同變量之間可以被認為存在「因果關係」而不僅僅是相關性即大功告成。簡而言之,作者的雄心在於破解因果關係背後的數學邏輯,然後建立一個可算法化的因果推理模型,並讓計算機學會這個模型,由此即能創造出懂得如何思考和推理的「人工智慧科學家」。這個AI科學家將如同超級加強版的愛因斯坦一樣,瞭解如何設計新的實驗,發現未知現象,找到懸而未決的科學困境解釋,並不斷地從學習中提煉出更多嶄新的知識。

書中提到的「結構因果模型(SCM)」正是珀爾想要與我們分享的最新研究成果,該模型由概率圖模型、結構方程模型(SEM)和反事實算法組成。概率圖模型是SCM主要的數學基礎,由作者於1985年提出的貝葉斯網路構成。貝葉斯網路又被稱為信念網路,用以計算多個變量間的聯動概率,有助於理解資料之間的內在聯繫。比如,當你想分析氣溫和餅乾、巧克力銷量三者有何關聯時,貝葉斯網路就能派上用場。

想要進一步確認因果關係,僅靠貝葉斯網路是不夠的,需要用反事實算法進行干預,控制其中一個或多個變量,再去觀察結果,這也是科學研究的開端。除了直接干預之外,反事實算法還可以預測干預及模擬未乾預時的結果,而結構方程模型則以清晰的語義將概率圖模型與反事實算法相關聯。

在現實世界裡,一個變量周邊可能存在著無數混淆因素,想要抵消這類因素的影響必須做隨機對照試驗(RCT)。作者為此設立了判斷規則,規定哪些變量應該被控制,哪些可以被無視。

珀爾的研究成果在於,只要你將兩個變量置入他的結構因果模型,並列出模型要求的所有相關因素,而又根據規則排除了其他混淆因素,此時如果兩個變量之間依然存在協同變化,那你就有充分的權利得出結論,兩者之間存在因果關係。

作者此書的目的是描述如何構建「強」人工智慧,一個可以理解因果關係、懂得思考並能和我們直接無障礙交流的,甚至可以說是擁有自由意志的智能機器人。珀爾認為,這是一個可實現的目標,而且並不需要擔心「強」人工智慧會損害人類利益,「因為因果推理模型將使AI能夠反思它們自身的錯誤,找出軟體的弱點,充當道德實體,幫助我們作出決策」,通過在AI上模擬人類的思維方式,可以讓我們更加了解自己。

對於一艘沒有目標的船而言,所有風向都是逆風,在這本書裡,珀爾凝聚了畢生的研究成果,用相對通俗的語言,在層層迷霧中為人工智慧的未來發展指明瞭方向。

任何對人工智慧發展、巨量資料分析、深度學習等話題感興趣的閱讀愛好者,都不應該錯過這本人工智慧大師珀爾的集大成之佳作。

(作者系第一財經編輯,本文是《The Book of Why: The New Science of Cause and Effect》一書概要,該書獲評2018「第一財經·摩根大通年度金融書籍」年度英文書籍獎)

編輯 ∑Gemini
來源:第一財經

相關文章

扎心了,機器都比我會學

扎心了,機器都比我會學

能自動避開障礙物的無人駕駛的汽車,在無聊時供我們「調戲」的智慧手機語音助手,能比親朋好友還懂我們所愛的推薦演算法…不知道你是否已經注意到,人...

這篇 Linux 總結得很棒啊!

這篇 Linux 總結得很棒啊!

1. Linux安裝 因為圖太多了,轉載一篇從虛擬機器 vmware 配置到 centos7 詳細安裝教程 https://www.cnbl...

可燃冰,未來能源之星還是滅世惡魔?

可燃冰,未來能源之星還是滅世惡魔?

在遙遠的南海,一團火焰在燃燒了兩個月以後,被人們緩緩熄滅。它是藍鯨2號海洋鑽井平臺的排氣火炬,來自海底深處的天然氣在水幕中化作火光,用這種方...