E安全3月17日訊 2017年， 機器學習是網路安全最熱門的領域之一。 機器學習的潛力巨大， 但其演算法如果被聰明絕頂的對手加以利用， 同樣也會降低決策的品質。
美國NSA/CSS研究部門責人黛博拉·弗林克對機器學習的部分見解
美國國家安全局/中央安全局（NSA/CSS）的研究部門負責人黛博拉·弗林克表示， 或許是考慮到有人發現對手能在大資料環境控制足夠多的資料進行誤導性干擾。 弗林克將這種做法稱之為“對抗性機器學習”。 她擔心儘管目前剛開始出現這樣的苗頭， 但合理推測之後認為這樣的趨勢還將繼續。
例如， 組織機構可以利用機器學習形成網路的“自我意識”， 並構建自我修復能力。 然而， 如果攻擊者進入網路， 或甚至在機器學習進程開始之前就已潛入網路， 又當如何？組織機構的行為就是規範的一部分， 這種情況下從某種意義上講存在一個問題，
數位科學之所以有趣還在於：如果你正使用資料驅動的演算法， 而該演算法恰好就是你宣傳機器學習演算法技術的根據。 除非保留原始資料， 否則你不會知道你在機器學習方法中構建了怎樣的偏置。
她認為“不可能在大海裡撈到針， 因為你拋棄了整片大海， 剩下的就是權重和神經網路等等。 ”
機器學習還有其他局限
例如， 2016年澳大利亞莫納什大學的教授湯姆·德拉蒙德指出， 神經網路是機器學習的基本方法之一， 如果不被告知出錯的原因， 神經網路會被引入歧途。
追溯到20世紀80年代。 尼爾·弗雷澤在他的文章“神經網路弊端”（Neural Network Follies）講述了這樣的故事。 美國國防部試圖培訓神經網路來發現潛在威脅，
欺騙技術或隱瞞手段可用來打破網路安全的權力平衡
黛博拉·弗林克當地時間週三在坎培拉舉辦的澳大利亞網路安全中心（ACSC）大會上發言。 雖然她並未指出機器學習的局限在哪裡， 但她概括了NSA真實有效的一些防禦策略。
例如， 組織機構可以學習欺騙技術或隱瞞對手， 以此打破網路安全的權力平衡。 網路防禦在本質上就是不對稱的。 這種不平衡通常表現為：防禦者必須隔離每個安全性漏洞， 而攻擊者只需正確部署一次就夠了。
弗林克表示:
“從表面判斷你會認為自己佔有優先主導權，
但採取防禦性欺騙方法意味著構建過剩能力， 之後再想盡辦法利用這種過剩能力通過欺騙或多變的方法進行設計。 這樣一來， 攻擊者就無法真正瞭解資料的具體位置。 如果在雲端處理資料， 簡單的做法就是：在更多節點（超出正常使用）上複製資料， 並交換資料。
弗林克稱，
“如果你試圖執行完整性攻擊， 更改我使用的資料， 但不知道我在使用哪一個節點， 因為我正在使用上百個節點。或者，我可能正在查看這些節點的子集，你不知道我正在使用哪三個節點。或許你可以嘗試一次更改所有資料，但是難度不言而喻。”
RD的研究證明這種方法增強了攻擊者的認知負荷，並影響他們的認知偏差。
弗林克表示，“我們可以試圖引導攻擊者得出錯誤的結論。換句話講，我們要試圖增加攻擊者的工作難度，誤導他們做無用功，以此來挫敗他們。這樣一來，我們就能更容易找到攻擊者。”這與蜜罐技術（Honeypot）有些類似，但不是作為附加功能添加到系統上，得將奏效的方法設計到系統中去。
防禦欺騙的弊端在於：很難管理。
弗林克還指出，防禦欺騙需要系統管理員執行更多工作。此外，作為設計者，尤其為對手部署某種誤導性變化時，必須十分確定應該使用哪幾個節點，否則可能會搬起石頭砸自己的腳。
E安全注：本文系E安全獨家編譯報導，轉載請聯繫授權，並保留出處與連結，不得刪減內容。 因為我正在使用上百個節點。或者，我可能正在查看這些節點的子集，你不知道我正在使用哪三個節點。或許你可以嘗試一次更改所有資料，但是難度不言而喻。”
RD的研究證明這種方法增強了攻擊者的認知負荷，並影響他們的認知偏差。
弗林克表示，“我們可以試圖引導攻擊者得出錯誤的結論。換句話講，我們要試圖增加攻擊者的工作難度，誤導他們做無用功，以此來挫敗他們。這樣一來，我們就能更容易找到攻擊者。”這與蜜罐技術（Honeypot）有些類似，但不是作為附加功能添加到系統上，得將奏效的方法設計到系統中去。
防禦欺騙的弊端在於：很難管理。
弗林克還指出，防禦欺騙需要系統管理員執行更多工作。此外，作為設計者，尤其為對手部署某種誤導性變化時，必須十分確定應該使用哪幾個節點，否則可能會搬起石頭砸自己的腳。
E安全注：本文系E安全獨家編譯報導，轉載請聯繫授權，並保留出處與連結，不得刪減內容。