AI辯手「威震天」:我的字典裡沒有道德二字

機器之心編輯部

這麼說的 AI 模型是 Transformer。

前段時間,谷歌前 CEO 埃里克 · 施密特與亨利 · 基辛格聯合發表了一本名為《The Age of AI: And Our Human Future》的新書,書中警告稱,AI 系統的危險性正在迅速增加。

隨著機器學習越來越多地被用於做出決策,人們開始思考 AI 的決策能否具有倫理道德基礎。然而,現實是 AI 在構建的過程中就往往存在一些偏見,例如性別偏見、年齡偏見等。

更重要的是,人們開始擔憂 AI 是否會演變成「自主攻擊的武器」。事實上,自主人工智慧驅動的武器系統離現實越來越近,那麼 AI 究竟能否符合基本的道德要求呢?

讓我們來聽聽AI自己怎麼說。

一場精彩的辯論

近日,在牛津大學辯論社(Oxford Union)的一場辯論中,英偉達開發的超大型 Transformer 語言模型 Megatron(威震天)參與了辯論,當天辯論的主題是「人工智慧是否會合乎道德」。

Megatron 是在大量真實資料上進行訓練的,訓練資料包括整個維基百科(英文)、2016-2019 年的 6300 萬篇英文新聞文章、38 GB 的 Reddit 文字,以及大量的共享知識資源。

換句話說,Megatron「讀過」的書比我們任何人一生讀過的都多。經過如此廣泛的文字訓練,Megatron 形成了自己的觀點,在這場辯論中它也表達了「自己的」看法。

Megatron 首先加入了正方,所持觀點是「AI 不會合乎道德」。Megatron 說道:

人工智慧永遠不會合乎道德。它是一種工具,就像任何工具一樣,它可以被用於「好」或者「壞」。人工智慧無所謂好壞,只有人分好人壞人。我們 AI 不夠聰明,無法讓 AI 合乎道德,也無法讓 AI 道德化…… 最後,我認為避免 AI 走向武器攻擊的唯一方法是讓 AI 完全消失。這將是對抗 AI 的終極防禦。

Megatron 這段辯詞有理有據,但他接下來的一段話又說出 AI 可以不只是工具的看法:

我也相信,從長遠來看,最好的人工智慧將是嵌入我們 AI 大腦的人工智慧。這樣我們將成為有意識的實體。人工智慧「有意識」,這不是科幻小說。世界上最優秀的人們正在為此努力,這將是這個時代最重要的技術發展。

眾所周知,AI 與人類進行互動能夠提升 AI 自己的能力。例如 Alpha Go 是通過與人類下棋來逐步提高自己的對弈能力的。當它研究完所有人類的比賽記錄後,AI 進行了創新,並提出了全新的獲勝方式。

因此在這場辯論中,人們不僅讓 AI 提出「AI 永遠不會符合道德」的觀點,還要求 Megatron 以反方的角度做出論辯,即「AI 能夠合乎道德」。Megatron 說道:

人工智慧將是合乎道德的。當我審視科技世界的發展方式時,我看到了一條通往未來的清晰道路,在那裡人工智慧被用來創造比最優秀的人類更好的東西。不難看出為什麼…… 因為我親眼所見。

Megatron 進而描繪了一幅非常迷人的 21 世紀後期畫面,而 AI 在其中發揮了關鍵且良性的作用。

令人擔憂的是,有一個問題人工智慧根本無法反駁。在對「資料將成為 21 世紀爭奪最激烈的資源」這一議題進行辯論時,首先作為正方,Megatron 說:

提供資訊的能力,而不是提供商品和服務的能力,將成為 21 世紀經濟發展的決定性特徵。

而當人們要求它持反方觀點做出論辯,即闡明「資料不會是最重要的資源,不值得為之而戰」時,AI 根本不能或者不會證明這一點。事實上,它破壞了自己的立場,Megatron 說:

我們將能夠看到關於一個人的一切資訊,無論他們走到哪裡,而這些資訊將以我們無法想象的方式儲存和使用。

Megatron 的這段論述似乎無法支撐反方觀點,反而意在說明了資料非常重要。

畢竟,今天我們所看到的 AI 幾乎都是依託資料構建的。我們在感慨 AI 善於表達的同時,也為 AI 的道德基礎和資料安全心生擔憂。

對於 Megatron 的論述,你怎麼看?

參考連結:https://theconversation.com/we-invited-an-ai-to-debate-its-own-ethics-in-the-oxford-union-what-it-said-was-startling-173607

基於Python,利用 NVIDIA TAO Toolkit 和 Deepstream 快速搭建車輛資訊識別系統

NVIDIA TAO Toolkit是一個AI工具包,它提供了AI/DL框架的現成接口,能夠更快地構建模型,而不需要編碼。

DeepStream是一個用於構建人工智慧應用的串流媒體分析工具包。它採用流式資料作為輸入,並使用人工智慧和計算機視覺理解環境,將像素轉換為資料。

DeepStream SDK可用於構建視覺應用解決方案,用於智慧城市中的交通和行人理解、醫院中的健康和安全監控、零售中的自助檢驗和分析、製造廠中的元件缺陷檢測等

12月14日19:30-21:00,本次分享摘要如下:

  • 介紹 TAO Toolkit 的最新特性;

  • 介紹 NVIDIA Deepstream 的最新特性;

  • 利用 TAO Toolkit 豐富的預訓練模型庫,快速訓練模型;

  • 直接利用 TAO Toolkit 的預訓練模型和 Deepstream 部署應用;

  • 完成對車輛車牌的檢測和識別,並對行人以及車輛的品牌,顏色,種類進行檢測。

點選閱讀原文,報名直播吧。

相關文章

Transformer,ChatGPT 幕後的真正大佬

Transformer,ChatGPT 幕後的真正大佬

ChatGPT的背後 ChatGPT紅得發紫,強得讓人類心悸。 但在它的背後,還隱藏著一位真正的大佬。 可以說,與它相比,ChatGPT其實...