機器之心編輯部
如果 AI 有自主攻擊的能力，這將是一件非常可怕的事情。
自波士頓動力推出第一款商用機器狗 Spot 以來，機器狗已經開始解鎖越來越多的人類場景，比如偵查、遠端視訊、繪圖、拆彈以及檢測化學、生物、放射性物質和核物質等。
一直以來，波士頓動力都禁止將自己機器狗武器化，但的確不是每一家制造商都會這麼做。
上週，在華盛頓召開的美國陸軍協會大會（AUSA）上，參展商 Ghost Robotics 帶來了一位「殺手機器狗」，引發了一場不小的爭議。
這是一款靈活的四足機器狗。但和普通機器狗不同的是，它的背上背了一把步槍。Ghost Robotics 執行長 Jiren Parikh 將這款機器人稱為「一個會走路的三腳架」。
這把槍由槍械製造商 SWORD 打造，全稱是 SWORD 防禦系統特殊用途無人步槍（Defense Systems Special Purpose Unmanned Rifle，SPUR)。據 SWORD International 官網介紹，SPUR 專門設計用於「從無人平臺提供精確射擊」，配備 10 發彈匣，用專為遠距離射擊的 6.5 毫米口徑克里德莫爾彈（6.5mm Creedmoor），同時也兼容普及度更高的 7.62x51mm NATO 子彈，能夠精準鎖定 1.2km 範圍內的目標。
此外，SPUR 還裝有一個具有 30 倍光學變焦的 Teledyne FLIR Boson 熱像儀，能夠在白天或夜間挑選目標。
製造戰爭機器人是人們一直以來最不願看到的景象，因此通常不會帶來正面評價。
大家擔心的是：這些機器人在未來將如何部署，以及如何受到監督？如果造成問題，責任該歸於哪一方？機器人公司？生產步槍的公司？終端使用者軍方？還是大家一起承擔
近日，Jiren Parikh 接受了 IEEE Spectrum、TechCrunch 等媒體的採訪，並向外界進一步介紹了「武裝自主機器人」。
Q：您能描述一下這款機器狗的自主程度和其步槍系統的自主程度嗎？
A：首先，這兩者必須要分開談。SWORD 的防禦系統專用步槍沒有自主權，也不存在人工智慧。它是從遠處觸發的，必須由人控制完成，整個系統迴路中一定有一個操作員。SWORD 的客戶包括世界各地的特種作戰團隊，其中一些前特種作戰團隊成員提出的需求是想讓原本必須扣動扳機的人與武器保持一定距離，以最大程度地減少他們所處的危險。我們認為這是一個好主意。
我們的機器狗本身也不是自主的，而是由系統迴路中的操作員遠端控制的。它確實有躲避環境中物體的相關感知，因為我們需要它能夠在現實環境中行走並在非結構化地形上保持穩定，並且操作員能夠設置 GPS 航點，以便它走到特定位置。並且這款機器狗也沒有與武器攻擊相關的人工智慧，我們無意這樣做。SWORD 防禦系統和其他支持軍事安全、公共安全或企業安全的產品一樣，無意製造攻擊性。
Q：目前這款機器狗的使用者都是什麼人？
A：我們有20 多個來自美國和盟國各個機構的政府客戶，他們都遵守非常嚴格的規定。他們也並不支持自主化的武器。我們的絕大多數客戶正在使用機器狗或開發一些特定領域的應用程序，包括化學、生物、放射性、核與其他爆炸物檢測、偵察、目標獲取、地下等密閉空間探察、測繪、EOD 安全、無線網路、環境安全等。在這些應用中，他們需要比敏捷性和靈活性較差的履帶式和輪式機器人更好的選擇。
也有一些機構將機器狗用於我們不了解其細節的工作。我們向他們出售我們的機器狗，這些客戶可以將機器狗與任何軟體、無線電和步槍等武器一起使用。使用這些系統的人，他們可能是特殊小組或與大規模殺傷性武器（WMD）有關的機構以及其他從事機密行動的特殊機構。我們只能假設我們有很多客戶在做非常困難、危險的工作。但是這些工作的保密性極強，這也給這些工作者的家人帶來了很大的安全威脅。所以我們要做的就是允許在軍事和其他政府機構應用中使用我們的機器狗，以防止這些工作人員受到傷害。這就是我們所提倡的。如果他們需要安裝在機器狗上完成任務的武器，那麼我們很高興他們可以這樣做。這與任何其他向國防等政府機構銷售的兩用技術產品並沒有什麼不同。
Q：Ghost Robotics 在 AUSA 展出的產品，與其他已經存在十多年的武裝機器人平臺相比，在功能上有何不同？
A：幾十年前，我們有導彈，它們幾乎是帶有武器的機器人。人們不認為它是一個機器人，但其實它是的。最近，出現了帶有武器的無人機和地面機器人，但是它們沒有腿。現在再加上科幻電影和社交媒體的影響，我們無法控制（人們的看法）。現在面臨的挑戰是有腿機器人很迷人，而科幻讓它們變得可怕。所以我認為，我們將不得不在未來五到十年內逐步將這些有腿系統社會化，希望人們習慣它們並理解益處。這可能令人恐懼，我們也會考慮到這些方面。
Q：是否擔心展示攜帶武器的四足機器人會進一步放大這種感知問題，並讓人們不太可能接受它們？
A：在短期內，比如數週或數月，會的；如果你說的是一兩年，不會。我們會習慣這些機器人，就像習慣了武裝無人機一樣，它們只需要適應這個社會。如果我們的機器人是有軌道的而不是有腿，沒有人會注意，而現在人們只是需要習慣有腿的機器人。
Q：在 Ghost Robotics 看來，武裝機器人應該做什麼？不應該做什麼？
A：我認為這些機器人在軍隊中有一個關鍵的位置。我們的軍隊在保護我們的安全，他們每天冒著生命危險保護美國及其盟國。如果他們需要用機器人來履行這些職責，保證我們的安全，我不想看到他們缺乏這些東西，包括武器系統。如果有人因此免於死亡，我認為這是一件值得驕傲的事情。
在加入 Ghost Robotics 之前，我沒有意識到我們的軍人為了保護我們而經歷的壓力、混亂和痛苦。我們採訪過一些特種部隊人員，在談及失去的戰友時，你可以感受到他們的痛苦。這些人為保護我們所投入的精力是驚人的，但我們一直認為這是理所當然的。
Q：如果是警察而不是軍隊呢？
A：我認為不會發生這種情況。我們剛開始和執法部門溝通，但還沒有諮詢任何有關武器的事情。我們討論的事情包括危險品處理、CBRNE（化學、生物、放射、核或爆炸）、對封閉空間和犯罪現場的偵查，或者派機器人去與被封鎖或被劫持的人交談等。我認為你不會看到警察使用武器化機器人。在其他國家，這有可能發生，但我相信在這裡不會。我們國家的軍隊有一套嚴格的規章制度，在如何使用新技術方面，我們有這種政治和民間支持。
Q：你對推動針對致命自主武器的監管有何看法？
A：我們全面擁抱監管。這是當下每個人都應該做的事情。我認為，具體的監管內容，你能做什麼、不能做什麼，如何部署 AI 應該由政治家和軍隊來決定。但問題是，世界上的其他國家是否會遵守這些監管條例？基於這一考量，我們必須現實一點，必須為保衛自己做好準備，以對抗那些行為異常的國家或恐怖組織。像鴕鳥一樣把頭埋進沙子不是解決問題的辦法。
Q：基於你在過去幾天的經歷，你們會改變自己的一些做法嗎？
A：我們對於自己在做的事情非常專注，我們的團隊也理解我們的使命。我們不會被動做出反應，而是將信守對美國及其盟國政府客戶的承諾。我們將幫助他們做任何他們需要做的事情，提供他們所需的任何能力，幫助他們做好自己的工作，而且要保證安全。我們非常幸運能夠生活在這樣一個國家，在這裡，軍事力量是不得已才會使用的手段，新技術和武器的使用需要數年時間，並需要武裝部隊在文職人員監督下進行大量審議。
Q：完全自主是公司不想跨越的底線嗎？
A：我們不製造武器。我們是否要推銷和宣傳這些武器系統？可能不會。這個問題很難回答。因為我們要賣給軍方，我們不知道他們會怎麼做。我們不會命令政府客戶如何使用機器人。
但我們對產品的銷售地點劃定了範圍，我們只賣給美國和盟國政府。
Q：公司是否保留權利，確保機器人不被用於公司不支持的應用？
A：從某種意義上說，是的。我們有完全的控制權。每個客戶都必須簽署許可協議。我們不會把機器人賣給任何我們不想賣的買家。我們必須認識到，軍方客戶不會公開他們所做的一切。如果他們為了國家安全的特殊目的需要使用機器人，或者為了讓戰士免受傷害，我們都支持。
參考連結：https://spectrum.ieee.org/ghost-robotics-armed-military-robots
https://techcrunch.com/2021/10/21/guns-on-robots/
2021 NeurIPS MeetUp China
受疫情影響，NeurIPS 2021依然選擇了線上的形式舉辦。雖然這可以為大家節省一筆註冊、機票、住宿開支，但不能線下參與這場一年一度的學術會議、與學術大咖近距離交流討論還是有些遺憾。
今年，我們將在NeurIPS官方支持下，再次於 12 月份在北京舉辦線下NeurIPS MeetUp China，促進國內人工智慧學術交流。
2021 NeurIPS MeetUp China將設置 Keynote、圓桌論壇、論文分享和 Poster 等環節，邀請頂級專家、論文作者與現場參會觀眾共同交流。
歡迎 AI 社區從業者們積極報名參與，同時我們也歡迎 NeurIPS 2021 論文作者們作為嘉賓參與論文分享與 Poster 展示。感興趣的小夥伴點選「閱讀原文」即可報名。
