概要：神經網路， 這種機器學習系統， 無需程式設計就能解決問題。
原作者：Marina Krakovsky
譯者：獨孤芳
神經網路， 這種機器學習系統， 無需程式設計就能解決問題，
A new way to verify the accuracy of computerized neural networks treats their structures like the branches of a tree.
驗證電腦神經網路準確性的新方法是把它們的結構當作樹枝一樣。
計算機智能許多驚人的功績， 從自動語言翻譯到自動駕駛汽車， 都基於神經網路， 這種機器學習系統能以最少的人力指導想出該如何解決問題。
斯坦福大學電腦科學博士後研究員Guy Katz解釋說：“如果你研究研究神經網路， 就會發現， 其中沒有人類能理解的邏輯流程， 這與傳統軟體截然不同。
當在高安全性要求的應用中使用神經網路（如防止飛機碰撞）時， 這種不透明度可能令人擔憂。 成千上萬次成功運行的模擬， 依然不能讓我們信心滿滿， 因為機率僅有百萬分之一的系統故障可能就會造成災難。
斯坦福大學電腦科學副教授克拉克·巴雷特（Clark Barrett）說：“我們知道有輸入就會有輸出， 神經網路在這點上似乎表現優異，
為了回答這個問題， 研究人員設計了一種新的工具， 用數學方法來測試神經網路的有效性。 這個工具利用了一個事實：簡單說來， 神經網路的可能配置的集合類似於樹的分支。 樹作為一個整體代表了網路可以解決問題的所有可能的方式。 但是， 正如一棵樹上不是每個分支都能結出果實， 這棵樹上代表每個可能性的分支， 也不會都在實踐被用到。
正如Katz所說， 神經網路依靠一種名為啟動函數的開關來解決問題。 根據神經網路的輸入， 開關被正啟動或者負啟動。 正啟動網路將神經網路向下引至可能性樹的一個特定分支， 而負啟動將神經網路引至不同的分支。
問題在於這棵樹的分支數量。 例如， 每層具有50個節點的6層神經網路， 具有300個節點， 就產生了2300種可能性——這個數目甚至超過了宇宙中的原子數目。 然而當前的錯誤檢查工具依賴於在20世紀40年代發明的一種稱為線性程式設計（LP）的技術。 LP技術必須延伸到可能性樹中的每個分支——儘管大部分實際上可能是死枝， 實際上從來都沒有使用過。
電腦科學家與斯坦福大學航空航太助理教授Mykel Kochenderfer合作。 他的團隊一直在開發神經網路， 用作下一代空中交通管制系統的一部分。
斯坦福研究人員一起創建了一個新的錯誤檢查工具。 本質上， 該工具探索出所有可能的網路配置，
這個新工具的用戶可以詢問應用了這個神經網路的系統， 有關其屬性的具體問題。 例如， 對於飛機碰撞系統， 有這樣一個疑問：如果有一個入侵者的飛機來從右邊襲來， 系統是否可能不提醒你？ 如果該工具返回一個“否”字（只有這種情況）， 系統可以保證對該屬性是安全的。 研究人員能夠證明這些屬性中的幾個， 表明神經網路在各種情況下都按預期方式運行。 他們將在今年晚些時候在電腦輔助驗證（CAV）國際會議上展示這項成品。
研究人員說，他們的工具叫做Reluplex，它的工作範圍比現有的替代方案要大得多，但是它仍然無法測試有數百萬個節點的網路。 而Reluplex本身仍然需要獨立驗證。 儘管如此，研究人員預期會有許多可能的用途。 例如，他們的工具可以説明簡化神經網路，並使網路對“對抗案例”或對神經網路的惡意愚弄的魯棒性增強。 “你可以使用這個工具來證明一個網路的屬性——但其實這個工具非常普遍，”Barrett說。
原作者：Marina Krakovsky
譯者：獨孤芳
原文連結：https://engineering.stanford.edu/news/finally-peek-inside-black-box-machine-learning-systems?
utm_content=buffere7e19&utm_medium=social&utm_source=twitter.com&utm_campaign=buffer&nsukey=RZRVpG8oSvSVJNatuv9Uscreilr7PHssvoUEf%2ByU4qjq%2FE%2BzlssIYiN1dP7QgADKgxuBJ8s4ECVZy4xAtZdUdZVA0k2Lh9wCYS7v6f09NagzkcmbNX0lYohfDKO4F8pBwPMWfJiYsx6uO7bq%2BhaMeA%2B4KoTC5StEA9vfmpighSOTNyXh002Aheb1r5jiw492
他們將在今年晚些時候在電腦輔助驗證（CAV）國際會議上展示這項成品。研究人員說，他們的工具叫做Reluplex，它的工作範圍比現有的替代方案要大得多，但是它仍然無法測試有數百萬個節點的網路。 而Reluplex本身仍然需要獨立驗證。 儘管如此，研究人員預期會有許多可能的用途。 例如，他們的工具可以説明簡化神經網路，並使網路對“對抗案例”或對神經網路的惡意愚弄的魯棒性增強。 “你可以使用這個工具來證明一個網路的屬性——但其實這個工具非常普遍，”Barrett說。
原作者：Marina Krakovsky
譯者：獨孤芳
原文連結：https://engineering.stanford.edu/news/finally-peek-inside-black-box-machine-learning-systems?
utm_content=buffere7e19&utm_medium=social&utm_source=twitter.com&utm_campaign=buffer&nsukey=RZRVpG8oSvSVJNatuv9Uscreilr7PHssvoUEf%2ByU4qjq%2FE%2BzlssIYiN1dP7QgADKgxuBJ8s4ECVZy4xAtZdUdZVA0k2Lh9wCYS7v6f09NagzkcmbNX0lYohfDKO4F8pBwPMWfJiYsx6uO7bq%2BhaMeA%2B4KoTC5StEA9vfmpighSOTNyXh002Aheb1r5jiw492