Bengio 和 LeCun 都認為深度學習系統未來能夠進行推理，但 Bengio 的信心來源更加具體——「從生物學和人類智慧中獲得更多的靈感」。
85 歲的圖靈獎得主 Raj Reddy 參加了最近舉行的第九屆海德堡獲獎者論壇。他發出由衷感嘆：「我在人工智慧領域工作了近 60 年，沒想到這種技術會在有生之年實用化。」
10 年前，也就是 2012 年，深度學習取得了突破。當時，一種基於多層神經網路的圖像分類創新演算法突然被證明比之前的所有演算法都要好得多。這一突破使得深度學習在語音和圖像識別、自動翻譯和轉錄以及機器人等領域得到應用。
隨著深度學習被嵌入到越來越多的日常應用中，越來越多可能出錯的樣本也浮出水面：人工智慧系統會進行歧視，制定刻板印象，做出難以捉摸的決定，並需要大量的資料，有時還需要大量的能源。
在此背景下，第九屆海德堡獲獎者論壇為來自 50 多個國家的約 200 名青年研究人員組織了一場關於深度學習的應用和影響的小組討論。包括圖靈獎獲得者 Yoshua Bengio、Yann LeCun 和 Raj Reddy，2011 年 ACM 計算機獎獲得者 Sanjeev Arora，以及研究人員 Shannon Vallor、Been Kim、Dina Machuve 和 Shakir Mohamed 都參與了討論。
Meta 首席 AI 科學家 Yann LeCun 是小組成員中最樂觀的：「有很多人聲稱深度學習不能做這個或那個，而這些說法在經過幾年的工作後大多被證明是錯誤的。過去五年，深度學習已經能夠做到我們所有人都想象不到的事情，而且進展正在加速。」
LeCun 舉例說，Meta 公司旗下的 Facebook 現在能自動檢測出 96% 的仇恨言論，而大約四年前，這個比例只有 40%。他把這種改進歸功於深度學習。「我們每天都受到大量資訊的轟炸，而且這種情況只會越來越嚴重。我們將需要更多的自動化系統，使我們能夠篩選這些資訊。」
英國愛丁堡大學教授 Shannon Vallor 則反對 LeCun 的觀點，即技術只是向前發展，它似乎有自己的意志，而社會只需適應。「這正是我們陷入某些問題的原因。技術可以走很多分叉的道路，人們決定哪條分叉路是最佳的。深度學習系統是人類根據自己的價值觀、激勵措施和權力結構建造和部署的徹頭徹尾的人工製品，因此我們要對它們負全責。」
對深度學習的批評之一是，雖然它擅長模式識別，但目前不適合進行邏輯推理，而老式的符號 AI 卻適合。然而，Bengio 和 LeCun 都認為沒有理由不能讓深度學習系統進行推理。正如 Bengio 所觀察到的，「人類也在他們的大腦中使用某種神經網路，我相信有辦法通過深度學習架構達到類似人類的推理。」
然而，Bengio 補充說，他不認為僅僅擴大現今的神經網路就足夠了。「我相信，我們可以從生物學和人類智慧中獲得更多的靈感，以彌補當前人工智慧和人類智慧之間的差距。」
普林斯頓大學的理論電腦科學家 Sanjeev Arora 補充說，不僅僅是深度學習還不能推理，其實我們也不能推理深度神經網路。Arora 說：「我們需要更多地了解深度學習系統的黑匣子裡面發生了什麼，而這正是我正在努力做的事情。」
Raj Reddy 是迄今為止參與人工智慧社區時間最長的小組成員，他從 20 世紀 60 年代起就參與了人工智慧先驅約翰 · 麥卡錫的博士研究工作。Reddy 認為杯子是半滿的，而不是半空的。「深度學習的一個重要應用是幫助了社會金字塔底部的人。世界上大約有 20 億人不能閱讀或書寫。各種語言技術現在已經足夠好用了，比如語音識別和翻譯。我在這個領域工作了近 60 年，沒想到這種技術會在有生之年實用化。十年後，即使是文盲也能閱讀任何書籍，觀看任何電影，並與世界上任何地方的任何人用他們的母語進行對話。」
然而，對於深度學習技術來說，處理較小眾的語言仍然是一個未解決的問題，因為可用的資料要少得多。資料科學顧問 Dina Machuve 說，僅在非洲，就有 2000 種語言，但沒有人工智慧技術可用。重要的是要進入一個社區，看看什麼對該社區有用，所以在為非洲尋找深度學習應用時，Machuve 集中於圖像應用方面——「我們已經開發了基於圖像識別的家禽疾病和農作物疾病的早期檢測系統。」
不幸的是，在許多方面，非洲仍然是深度學習研究和部署中「缺失的大陸」，DeepMind 的研究員 Shakir Mohamed 補充說。「我們統計了 2006 年至 2016 年期間，在著名的神經資訊處理會議 NeurIPS 上，有多少來自非洲人的論文被提交，答案是：0。拉丁美洲也是如此，或許是 1 篇。我希望你們所有人，無論你們在哪裡，都能認真對待代表性的問題，誰在做這項工作，在哪裡做，以及如何與他人分享你們的經驗。」
Google大腦的研究科學家 Been Kim 說，她希望大家認識到，深度學習並不是一個可以解決所有社會問題的神奇工具。事實上，她觀察到，「可能有比機器學習更適合你所遇到問題的非 AI 解決方案。你要停下來質疑：這是正確的工具嗎？」
當被問及普通大眾應該知道什麼是人工智慧及其前景時，Mohamed 說：「未來還沒有被決定。我們仍然可以創造和塑造未來，這就是我們應該永遠記住的。」
原文連結：https://cacm.acm.org/news/265733-deep-learning-is-human-through-and-through/fulltext
