您的位置:首頁>科技>正文

機器學習自主解決安全威脅離我們還有多遠?

授權轉載自bigsec豈安科技

作者 | marvin

---------------

手把手輔導, 教會為止

距離課程開始僅 2 天

用雲實驗環境

完成第1個資料科學專案

美國大選資料分析與視覺化

電商銷量預測

海量文本分析

3月18日開課 小班輔導

名額有限 欲報從速

詳情見文末

---------------

曾經聽見不止一次這樣的問題:

機器學習會替代基於人工經驗規則的安全解決方案麼?

把這個問題放在去年來看, 我們已經得到了非常多的討論甚至是一些已經實際應用的解決方案, 對於人工智慧在安全以及其它各種對資料進行價值挖掘的場景下, 大家都表現出了極高的興趣與激情。

1.你希望機器學習幫助你解決什麼問題?

這個問題實際上代表了我們對機器學習的期待, 而絕大多數人包括筆者在內的回答可能都比較類似:

我希望機器學習演算法能夠説明我更有效的挖掘資料內在價值, 發現潛在未知問題,

並且極大的節省人工成本;實際上有更偏激的想法是想把資料丟給模型演算法, 然後期待它可以告訴我所有我想知道的事情。

2.機器學習應用在安全場景下的擔憂

筆者最初發現機器學習演算法的應用並不是在安全領域, 而是在電商精准行銷的場景下, 通過用戶的一系列搜索、收藏、購買行為積累, 預測一個新的用戶可能更傾向於買什麼商品從而進行推薦。

這與安全場景是有一定類似性的, 同樣也是通過用戶的訪問、登陸、購買行為對威脅進行預測, 評估一個用戶是否是壞人。 但這兩個場景又具有一個本質的不同:

在精准行銷場景下, 你預測錯誤推薦了一個使用者他不喜歡的商品, 用戶並不會為此大發雷霆;但是如果你的演算法錯誤的預測了一個壞人的身份,

用戶又因此而被鎖定帳號、封禁或被限制, 影響的就不僅僅是用戶的感受, 同時也降低了信任甚至對其他用戶產生負面影響, 我們所承擔的代價是不同的。

3.機器學習在當下更多的是一個驅動者

在有限條件的應用場景下, 機器學習無論從效率還是效果上都有著驚人的表現, 從下圍棋到設計電路板, 我們無法理解也無法解釋為什麼電腦能夠做的又好又快。

安全場景下為什麼去封禁一個IP或者取消一個訂單是需要給業務部門合理的解釋的, 一個黑盒的邏輯最大的弊端就在於對於給出的結果合理性無法從常識角度來給出解釋, 你只能默認接受。

所以,

我們看到應用了各類機器學習演算法的安全解決方案往往會回避最終決策的步驟, 而是交給人工進行再次確認或只做參考。 由此筆者認為, 現階段機器學習更多的是一個驅動安全運營的角色。

4.資料品質決定了機器學習演算法應用于安全場景的價值天花板, 而安全運營則是決定了轉化率

資料來源就是機器學習演算法的黃油和麵包, 沒有高品質的資料喂進去很難指望有高價值的產出, 而目前接入資料的思路主要有兩種:

一種是從企業現有資料中去做清洗和適配, 這種方式對於集成雙方都是一個非常痛苦的過程;

另外一種是摒棄企業現有存量資料, 通過JS、SDK等方式從底層通用環節重新搭建業務資料模型,

這種方式會導致歷史資料無法有效的應用。

從賣方來講, 希望後一種模式, 因為降低了方案實施難度, 複製性較強, 產品形態簡單。 而從買方來講, 條件允許的情況下都希望前一種模式, 因為可預期的產出價值最高。

兩種想法衝撞的結果下, 最終會尋求到一個平衡點, 但這裡存在一個特例, 也是最近兩年比較熱的威脅情報+機器學習概念, 區別於內部資料採擷場景, 威脅情報的資料大多都來自外部, 服務提供方一次性接入資料便可以快速複製給多個客戶, 這無疑規避了一個客戶一個處理方式的弊端。

但筆者認為, 威脅情報如今可以快速聚集起大量資料的原因在於資料持有者變現意願增強同時監管存在空白, 之後還是存在很大的政策風險的。

而我們進一步來看機器學習應用所驅動的安全運營,“一人安全部”甚至沒有安全運營是目前的普遍現狀,在機器學習引入過之後發現依然需要大量的調優、協調、結果落地評估工作需要人工來完成,這種尷尬局面我認為在熱度過後,今年會有更多的冷靜思考,認識到:既然現在沒有可以絕對替代人工完成風險決策的方案出現,那麼安全運營這個角色就是不可或缺的,至少是在目前的過渡階段。

5.機器學習的安全前景

經濟增長往往都來自於生產效率的大幅提升,所以無論是在安全或是其他,機器學習的應用都已經表現出了可承諾的前景。

在這個過程中,低層次資料分析的人工角色會逐漸的被淘汰,而可有效連結資料與價值的高端人才將持續保持其競爭力,至少我們需要知道現階段的機器學習演算法並不能讓我們放心的坐到一邊喝咖啡,它自動解決所有問題,依然需要我們不斷的給予正確的關注和培養,不是嗎?

作者marvin 豈安科技聯合創始人,首席產品技術官

超過6年的風控和產品相關經驗,曾就職網易,負責《魔獸世界》中國區帳戶體系安全。現帶領豈安互聯網業務風控團隊為客戶提供包括了明星產品Warden和RED.Q的風控服務。

雲實驗環境隨時練習

14次直播教學 + 17次小班手把手實戰輔導

9周課程+ 視頻可回看一年

簡歷和麵試輔導

大型互聯網公司資深講師x3 + 名校班主任x3 + 國內外助教x10

第1期課程收到五星好評

3月18日開課,報名馬上截止——

之後還是存在很大的政策風險的。

而我們進一步來看機器學習應用所驅動的安全運營,“一人安全部”甚至沒有安全運營是目前的普遍現狀,在機器學習引入過之後發現依然需要大量的調優、協調、結果落地評估工作需要人工來完成,這種尷尬局面我認為在熱度過後,今年會有更多的冷靜思考,認識到:既然現在沒有可以絕對替代人工完成風險決策的方案出現,那麼安全運營這個角色就是不可或缺的,至少是在目前的過渡階段。

5.機器學習的安全前景

經濟增長往往都來自於生產效率的大幅提升,所以無論是在安全或是其他,機器學習的應用都已經表現出了可承諾的前景。

在這個過程中,低層次資料分析的人工角色會逐漸的被淘汰,而可有效連結資料與價值的高端人才將持續保持其競爭力,至少我們需要知道現階段的機器學習演算法並不能讓我們放心的坐到一邊喝咖啡,它自動解決所有問題,依然需要我們不斷的給予正確的關注和培養,不是嗎?

作者marvin 豈安科技聯合創始人,首席產品技術官

超過6年的風控和產品相關經驗,曾就職網易,負責《魔獸世界》中國區帳戶體系安全。現帶領豈安互聯網業務風控團隊為客戶提供包括了明星產品Warden和RED.Q的風控服務。

雲實驗環境隨時練習

14次直播教學 + 17次小班手把手實戰輔導

9周課程+ 視頻可回看一年

簡歷和麵試輔導

大型互聯網公司資深講師x3 + 名校班主任x3 + 國內外助教x10

第1期課程收到五星好評

3月18日開課,報名馬上截止——

Next Article
喜欢就按个赞吧!!!
点击关闭提示