將“殺戮機器人”掛在嘴邊的我們，是否在無意識的散佈恐慌？
可攜帶爆炸物的殺人微型無人機
雷鋒網按：本文出自 Spectrum.ieee 撰稿人 Evan Ackerman，
本周，日內瓦聯合國總部舉辦了一場史無前例的會議，常規武器公約組織成員國的專家針對致命性自動化武器系統進行了討論。一些組織（如“停止殺戮機器人運動”）敦促聯合國在自動化武器的監管上持續推進。
週末無意間看到的一個視頻也讓我開始關心起與自動化武器相關的討論，這個視頻的名字就叫“殺戮機器人”。值得注意的是，這個視頻得到了矽谷鋼鐵俠馬斯克旗下未來生活研究所（Future of Life Institute）的支持，而馬斯克一直堅定的站在“邪惡”AI 的對立面。除了有這層背景，這個視頻的基調也非常陰暗，它將時間設定在了不久的將來，
這裡就不附上視頻了，因為畫面相當暴力血腥，甚至包含了在課堂上的恐怖襲擊。不過，如果你非要一探究竟，可以在未來生活研究所的網站上找到它。
說實話，這個視頻讓我非常失望，那些頗有聲望的機器人和 AI 研究者居然會支援這種嘩眾取寵的作品，它們要的只是吸引眼球，
視頻中甚至虛構了一個專門造殺人微型無人機的公司
從個人角度來說，我對殺戮機器人持否定態度，更準確的來說，我反對那些“超越了人類實際控制的自動化武器”。不過，對於那些叫囂著要徹底封殺此類機器人的人，我也不願給予支持。因為在我看來，這是一個相當複雜，
眼下，關於 AI 的話題還在討論中，到底哪些技術應該被禁，如何禁止還有待確定。在視頻最後發言的加大伯克利分校教授 Stuart Russell（也是製片人之一）稱“我們有機會阻止視頻中的事情發生”，但事實上他有點“too young，too simple”了。在我看來，直接封殺自動化武器並不會阻擋無人機微型化的腳步，也無法阻擋面部識別技術的進步，更無法阻礙兩項先進技術合二為一，而相互融合的這兩項技術就是視頻中的“幕後黑手”。
有人指責這段視頻是在散佈恐慌，但 Russell 的一位同行並不同意。這位新南威爾士大學的 AI 教授表示：“這才不是散佈恐懼。俄羅斯大使在對這次會議發表評論時指出，我們根本不需要擔心自動化武器，因為我們離開發成功還遠著呢。此外，這段視頻另闢蹊徑，它指出技術的結合會讓殺人機器更早到來，一旦誤用，後果不堪設想。”
其實兩年前我就對一封要求禁止攻擊型自動化武器的公開信做過反駁，當時我舉了許多正面例子，列舉了自動化武器的好處，而 Russell 和 Walsh 則聯合 MIT 教授 Max Tegmark 對我的觀點做了回應。
文章開篇他們非常客氣，稱歡迎我參與這場討論。同時，他們還表示這是個複雜的問題，雙方都有自己的觀點，到底孰對孰錯需要仔細衡量。
這樣的觀點我非常贊同，想要一個更安全的未來，這樣的討論必不可少，但通過恐怖視頻搞惡意中傷就不可取了，這會讓許多人加深自己對機器人的負面印象。
Via. Spectrum.ieee雷鋒網編譯，更多機器人方面資訊可關注雷鋒網垂直欄目「新智造」。
而相互融合的這兩項技術就是視頻中的“幕後黑手”。有人指責這段視頻是在散佈恐慌，但 Russell 的一位同行並不同意。這位新南威爾士大學的 AI 教授表示：“這才不是散佈恐懼。俄羅斯大使在對這次會議發表評論時指出，我們根本不需要擔心自動化武器，因為我們離開發成功還遠著呢。此外，這段視頻另闢蹊徑，它指出技術的結合會讓殺人機器更早到來，一旦誤用，後果不堪設想。”
其實兩年前我就對一封要求禁止攻擊型自動化武器的公開信做過反駁，當時我舉了許多正面例子，列舉了自動化武器的好處，而 Russell 和 Walsh 則聯合 MIT 教授 Max Tegmark 對我的觀點做了回應。
文章開篇他們非常客氣，稱歡迎我參與這場討論。同時，他們還表示這是個複雜的問題，雙方都有自己的觀點，到底孰對孰錯需要仔細衡量。
這樣的觀點我非常贊同，想要一個更安全的未來，這樣的討論必不可少，但通過恐怖視頻搞惡意中傷就不可取了，這會讓許多人加深自己對機器人的負面印象。
Via. Spectrum.ieee雷鋒網編譯，更多機器人方面資訊可關注雷鋒網垂直欄目「新智造」。