這兩周， 全球50位人工智慧學者的集體簽名公開信在網路中流傳， 簽名者包括中國人工智慧學會機器學習專業委員會主任周志華。 驚動了大半個人工智慧學界的是韓國科學技術院（KAIST）， 科學家宣佈將抵制所有與它的合作， 停止學者交流訪問和相關科研專案， 除非獲得保證“該中心將不會研發完全自主、不需要人類控制的‘機器人殺手’”。
據報導， KAIST與韓國韓華集團旗下的軍工企業韓華系統合作， 於今年2月成立了一家“國防和人工智慧融合研究中心”， 開發應用於軍事武器的人工智慧技術。 兩周前， KAIST負責人在重壓下回應: 無意製造“自主智慧型武器系統或‘機器人殺手’”，
“機器人殺手”這個詞挺科幻， 我這個普通老百姓第一反應是電影裡那些渾身閃亮的金屬傢伙。 《終結者》裡施瓦辛格扮演的T-800狡猾、冷酷、一身腱子肉， 隨身攜帶一座火藥庫， 穿越時空追殺你。 《星球大戰》系列裡的機械尖兵能飛會跑上山下河， 在缺氧高輻射的惡劣環境中， 人類剛站穩喘口氣的時間裡， 他們已經可以精准打趴對手三百遍了。
有趣的是， 上世紀70年代， 科幻小說中的常見反派還是月球上的吃人外星人和橫行地球的宇宙八爪魚。 進入21世紀， 人工智慧技術飛速發展， 群體性的恐懼轉向了。 阿莫西夫作於1940年代的《我， 機器人》描述了一幅機器幫助人探索宇宙的繁盛圖景。
我們製造了更優化的自己， 還指望他們服從， “完全自主”的設計可能會打開潘朵拉的魔盒。 我們肉體凡胎， 有太多欲望和悔恨。 他們鋼筋鐵骨， 擁有遵循邏輯最優選項的超強大腦。
機械公敵已經是我們時代的噩夢：人類在遠古時代撿起火種， 創立文明。 隨著火勢擴大， 技術發展， 最終為其所傷。
我們的技術其實還遠沒到創造T-800的程度。 KAIST披露的研究方向， 集中於導航、追蹤、飛行模擬和決策的精准控制層面。 科學家在公開信中表示， 他們擔憂的主要是KAIST的行為會“加速製造該類武器的軍備競賽”。
科學家承認， 大國競爭的“第三次技術革命”要來了。 去年9月， 俄羅斯總統普京在面對學生的演講中表示， “誰當上這個領域（人工智慧）的主導， 誰就能成為世界的主人”。 美國國防部也在人工智慧領域動作頻頻。 科學家的公開信一出， 世界各地的論壇討論帖中都有這樣的言論：KAIST不過是出頭鳥， 在技術大潮面前， 哪個國家想落後呢？
沒有人喜歡戰爭。 但人性亙古不變的一套思維是：我們必須要擁有對手擁有的東西， 否則就只能滅亡。
這也成了曾推動大國發展的重要力量。 美蘇冷戰時期雙方軍備競賽中誕生的多項技術， 在冷戰結束後應用於民用航太領域。 在二戰尾巴上投下死亡陰影的核能，
仿佛只有在面對敵人的時候， 人類才能不惜成本投入暫時看不到實用價值的前沿科技。 在被逼到牆角時， 人類才更會迸發跨越時代的力量。
比起朋友， 人類似乎更需要敵人。 我們甚至不惜與機械之敵為友， 警惕地打量人類自己。
這個時代， 區分敵友的不止國籍和族群， 他們可以是人群中的任何人。 公開信的發起人、南威爾士大學教授托比·沃爾什表示：“過去想要做惡， 需要聽從你調遣的軍隊和人群， 現在， 你只要一個程式師就夠了。 ”
科學在這個進程中相當無能為力。 它是工具， 不講善惡。
針對KAIST的公開信是科學界蔓延已久的憂慮最新的爆發點。 2017年11月， 聯合國日內瓦總部舉行了政府專家有關致命自主武器的會議。
同樣在這個4月， 穀歌公司4000名員工參加了抗議， 呼籲公司停止與五角大樓合作的“馬文計畫”。 這群矽谷極客在公開信中把這個計畫稱作“戰爭生意”， 並認為穀歌和其所有合作方都不應該摻合進去。 這封信提及這家創業公司深入百萬用戶的生活， 應堅守“不作惡”原則——“別破壞那份信任。 ”
責編：賈志強