CNET科技行者 8月18日 北京消息：Instagram正面臨著所有社交媒體網站中都會遇到的問題——網路霸淩的問題。 但是， Instagram並沒有像Facebook和Twitter那樣， 讓用戶承擔責任， 而是通過使用機器學習來消除平臺上言語的攻擊行為。
反霸淩慈善機構Ditch the Label最近進行的一項調查發現， 在12至25歲的英國青少年中， 有42％的人認為Instagram是讓他們感到最受欺負的平臺， 而這在Facebook和Twitter上分別僅為37％和9％， 遠遠低於Instagram。 此外， 71％的被調查者認為所有社交媒體在阻止網路霸淩方面做得還很不夠。
尋找解決方案
為了解決網路霸淩問題， Instagram最近宣佈了一項新戰略：集成機器學習演算法來檢測和阻止其平臺上的潛在霸淩行為。 該公司的首席執行官兼聯合創始人Kevin Systrom在一篇博文中表示， 這項研究的目的是為了在Instagram上建立一個友善、包容的社區。
Instagram正在使用DeepText機器學習演算法來嘗試解決網路霸淩問題。 在2016年6月， Facebook的工程師們推出了DeepText， 它作為基於深度學習的文本理解引擎，
通過深度學習， DeepText使用了人腦神經網路建模的演算法， 像人類大腦一樣工作， 通過演繹推理來確定某個單詞在特定語境下的意思。
例如， 如果有人使用“mole”這個詞， DeepText則會識別用戶指的是小型哺乳動物、皮膚瑕疵還是叛徒。 Facebook使用該系統篩選數千個帖子， 更好地理解用戶， 旨在創造一個更好、個性化的用戶體驗， 來滿足個人興趣。
後來， 2016年10月， Instagram又通過DeepText來消除垃圾郵件。 該演算法針對尋找企圖出售產品的組織， 分析暗示資料是否為垃圾郵件。
DeepText的成功讓Instagram也在考慮該系統的其他用途。 在2017年6月的博客文章中， Systrom宣佈該公司將使用DeepText作為“阻止某些令人反感評論的篩檢程式”。
其他社交網站
網路霸淩並不是Instagram獨有的問題——其他主流的社交媒體網路也在為其使用者做出安全方面的改變。
康奈爾大學的研究生John Davidson也是很多關於社交媒體中網路霸淩論文的合著者， 他在談到Twitter時表示， “機器學習演算法已被證明是檢測不良言論和網路霸淩的有效方法。 ”Davidson表示， 諸如“邏輯回歸模型、N Bayes、隨機森林、支持向量機”等各種不同的演算法都被證實是有效的。 但是， 他表示所有這些方法的關鍵都是依賴監督學習， 這是一種使用標籤訓練資料進行推理的機器學習策略。 Davidson表示，
Twitter在2016年11月發佈博客文章， 發佈了通知靜音功能以及仇恨行為策略， 為用戶提供更直接的方法來阻止濫用媒體的行為。 雖然這些努力正在試圖阻止網路霸淩， 但是遮罩攻擊性的通知並不會使推文不存在。
Facebook試圖通過建立Bullying Prevention Hub（霸淩預防中心）來減少網路霸淩事件。 當青少年、家長和教育工作者自身或者他們認識的某個人遭到霸淩時， 這個中心就是他們可以使用的資源。 雖然為開啟網路霸淩對話提供了寶貴的建議，
DeepText的優缺點
儘管如此， 這些努力還遠不能夠完全阻止網路霸淩。
謝菲爾德大學的博士生Zeerak Waseem專注于辱駡語言檢測和Twitter上的仇恨言論， 他表示， “這些嘗試沒有效果”。
為什麼？雖然Twitter和Facebook在抑制網路霸淩方面都取得了長足進展， 但Instagram是第一個使攻擊性評論自動消失的社交網站。 Systrom的博文和Wired都解釋了人工智慧目前在Instagram帳戶上的運行情況。 如果使用者發佈令人反感或騷擾的語言， DeepText會捕獲並立即刪除它。 Wired報導說， 為了防止霸淩者試圖戲弄該系統， 攻擊性的言論仍然可以被犯罪者看到。 用戶還可以手動輸入要阻止的單詞或短語， 通過阻止每個用戶設定的獨特的觸發詞，使DeepText更加有效。
然而，DeepText並不完美。
Instagram的機器學習演算法自動集成在平臺上，但一些不良言論仍然可以繞過該工具。 Waseem說，隱含的侮辱，如昵稱或誹謗的代號會讓DeepText難以發現。而且，該功能可以輕鬆關閉。只要用手指點擊“隱藏攻擊評論”就可以切換關閉狀態，如果它的任務是消除網路霸淩，這似乎是違反直覺的。言論自由與創造一個擺脫仇恨言論的環境之間的界線是不容易找到的。Davidson補充表示，“機器學習不是一個能夠阻止網路霸淩或網路不良言論的萬能藥。”機器學習可以幫助被欺負的用戶體驗更好，但沒有技術會阻止個人說壞話。
Ditch the Label的首席執行官Liam Hackett認為，Instagram平臺上年輕使用者眾多，網路霸淩的問題也最為嚴重。侮辱形形色色，從對照片的負面評論到霸淩者創造假帳戶來攻擊目標人群都有。
Hackett讚揚了Instagram的努力，並且認為機器學習策略是多麼明智，社交網路應該更多地投資于這項技術。他提到Instagram如何使用人工智慧在反網路霸淩的運動中取得了很大的進步，人工智慧真的在改變遊戲。
並且，除了防止霸淩，DeepText還有其他功能可以説明企業深入瞭解客戶的興趣。
問題的根源
機器學習在情感層面上邁出了正確的一步。然而，解決不良線民為什麼會在這些平臺上持續不斷進行言論攻擊是一個更大的問題。
Hackett表示，“互聯網使人類變得不那麼人性化”，舒舒服服地躲在螢幕後面侮辱其他使用者比在面對面的時候說出這些侮辱性的言辭要容易得多。線下的人際關係具有隱含的行為準則——這是一種不言而喻的社會規範。在互聯網上卻並不總是遵循同樣的準則。
作為今年最受歡迎的社交媒體網路之一，Instagram擁有7億的活躍用戶，並且用戶數還在快速增長，在四個月的時間內即可獲得1億新用戶。然而，用戶數量的增加也同時帶來了傷害性內容和冒犯性語言的增加。
Hackett指出，程式本身可能不是教導人們在網上相互尊重的完全解決方案。
通過阻止每個用戶設定的獨特的觸發詞，使DeepText更加有效。然而，DeepText並不完美。
Instagram的機器學習演算法自動集成在平臺上，但一些不良言論仍然可以繞過該工具。 Waseem說，隱含的侮辱，如昵稱或誹謗的代號會讓DeepText難以發現。而且，該功能可以輕鬆關閉。只要用手指點擊“隱藏攻擊評論”就可以切換關閉狀態，如果它的任務是消除網路霸淩，這似乎是違反直覺的。言論自由與創造一個擺脫仇恨言論的環境之間的界線是不容易找到的。Davidson補充表示，“機器學習不是一個能夠阻止網路霸淩或網路不良言論的萬能藥。”機器學習可以幫助被欺負的用戶體驗更好，但沒有技術會阻止個人說壞話。
Ditch the Label的首席執行官Liam Hackett認為，Instagram平臺上年輕使用者眾多，網路霸淩的問題也最為嚴重。侮辱形形色色，從對照片的負面評論到霸淩者創造假帳戶來攻擊目標人群都有。
Hackett讚揚了Instagram的努力，並且認為機器學習策略是多麼明智，社交網路應該更多地投資于這項技術。他提到Instagram如何使用人工智慧在反網路霸淩的運動中取得了很大的進步，人工智慧真的在改變遊戲。
並且，除了防止霸淩，DeepText還有其他功能可以説明企業深入瞭解客戶的興趣。
問題的根源
機器學習在情感層面上邁出了正確的一步。然而，解決不良線民為什麼會在這些平臺上持續不斷進行言論攻擊是一個更大的問題。
Hackett表示，“互聯網使人類變得不那麼人性化”，舒舒服服地躲在螢幕後面侮辱其他使用者比在面對面的時候說出這些侮辱性的言辭要容易得多。線下的人際關係具有隱含的行為準則——這是一種不言而喻的社會規範。在互聯網上卻並不總是遵循同樣的準則。
作為今年最受歡迎的社交媒體網路之一，Instagram擁有7億的活躍用戶，並且用戶數還在快速增長，在四個月的時間內即可獲得1億新用戶。然而，用戶數量的增加也同時帶來了傷害性內容和冒犯性語言的增加。
Hackett指出，程式本身可能不是教導人們在網上相互尊重的完全解決方案。