門診問題
“兒童邪典動畫視頻”責任清單
門診專家
中國政法大學傳播法研究中心副主任 朱巍
北京大瀚律師事務所律師 楊健
專家觀點
▲視頻網路平臺應該對其平臺上的內容進行嚴格的事前審核， 需要對負責審核的人員建立一套完整的培訓體系， 進行培訓考核， 持證上崗， 嚴格規範審核制度。
▲建立技術之上的人工智慧識別是一方面， 在制度建設方面， 可以考慮建立行業黑名單共用制度。
▲目前在法律上對動畫中的淫穢色情、暴力的認定比較困難， 因此， 對於未成年人保護， 還要做好網路分級。
近日， 網友發文稱， 有人利用米老鼠、小豬佩奇、艾爾莎公主……這些大眾熟知的動畫形象， 經過二次加工後， 做成另類動畫視頻， 其內容充斥著血腥、暴力、虐待、色情等因素。 事件曝光後， 相關部門迅速行動， 對相關內容進行清查整頓。 據悉， 廣東省“掃黃打非”辦公室開展了對涉案單位的調查， 要求其將所有相關視頻下線， 並依法查封兩處生產經營場所。 與此同時， 涉事企業也發佈道歉聲明。
事實上， 早在2017年7月， 在美國就發生了類似的事件。 當時， 在社會各界的抗議下,視頻網站“Youtube”大規模下線“兒童邪典動畫視頻”、封禁帳號。
製造方、上傳者和傳播平臺均有責
“兒童邪典動畫視頻”不同於一般的色情、血腥、暴力視頻， 通常假託經典動畫中的人物形象， 借著“認圖識字”“傳播知識”等幌子進行傳播。 有網友評論稱， “視頻內容相當不堪入目， 對成年人尚且如此， 如果讓未成年兒童看到， 傷害更是難以估量。 ”
“如果是故意製造傳播這類產品， 一則道歉聲明無法為其免除法律責任。 ”在北京大瀚律師事務所律師楊健看來， 具體的責任需要根據實際內容進行區分， 如果只是製造、傳播低俗產品， 依據現有法律規定， 很難追責。 如果是製造、傳播色情、淫穢產品， 則要根據點擊的次數、製作的數量以及對社會的危害程度進行追責。
我國網路安全法規定， 任何個人和組織不得利用網路傳播暴力、淫穢色情資訊， 同時， 要依法懲治利用網路從事危害未成年人身心健康的活動， 為未成年人提供安全、健康的網路環境。
“如果點擊的數量很大， 對社會造成了嚴重的危害後果， 可能在追究製作、傳播者的行政責任之外， 還要追究刑事責任。 ”楊健說。
那麼， 在視頻的製作、上傳者之外， 相關視頻平臺是否也要承擔責任？筆者注意到， 對於視頻平臺， 輿論中一直不乏批評聲音， 為何在視頻檔的上載、傳播過程中， 沒有有效監管？難道只有在造成嚴重不良影響之後， 平臺才會有所行動？
對此， 中國政法大學傳播法研究中心副主任朱巍表示，
“很多時候， 視頻網路平臺不是內容的提供者， 而是網路服務的提供者。 ”朱巍指出， 如果違法視頻是使用者上傳的， 平臺一般是按照通知刪除原則進行監管。 也就是說， 按照相關規定， 如果沒有相應通知， 平臺即便沒有刪除這類視頻， 也可能不承擔法律責任。 但是， 如果內容屬於國家法律明確禁止傳播的， 平臺即負有安全監管法定義務。
網路運營商應對傳播內容加強事前審核
儘管在專家看來， 網路視頻平臺經營者不用在事前審核上承擔嚴格監管職責， 但在多數人看來，在激烈的市場競爭中，網路視頻平臺應該承擔更多的監管職責，否則，缺乏事前監管，很容易導致諸如“兒童邪典動畫視頻”此類視頻的氾濫，不利於網路環境的淨化。
“最可怕的不是孩子偶然看了幾部凶邪動畫，而是大資料會抓住孩子這一動作，冷冰冰地推送一大堆過來。”公眾號“凱叔講故事”在文章中寫下了自己對大資料時代運營網站不加審核即推送這類視頻的擔憂。
筆者瞭解到，目前視頻網站平臺對上傳內容的審核有兩種審核模式：一種是對上傳視頻採取人工智慧的審核方式，即將上傳的視頻一幀一幀地提取出來，利用人工智慧進行內容審核；另一種則是形同虛設的人工審核，有些視頻平臺網站因盲目地追求利益，或者為了依靠這類視頻獲取大量的點擊量，基本上沒有落實審核程式。
在朱巍看來，人工智慧並非萬全之策，由於其對一幀一幀的內容的審核，難以像觀看普通視頻一樣，在審核時輕易地分辨出其中的寓意或是暗示。基於此，他建議建立全民舉報管道，用人工智慧加人工舉報的方式進行二十四小時線上監控。
與朱巍的觀點有別，在楊健看來，視頻網站運營商應對平臺內容的合法性負責。他認為，視頻網路平臺應該對其平臺上的內容進行嚴格的事前審核，需要對負責審核的人員建立一套完整的培訓體系，進行培訓考核，持證上崗，嚴格規範審核制度。
“對於依靠這類視頻獲得點擊量和知名度，故意不設審核門檻的網路視頻平臺，可以考慮在立法上建立強制性責任制度，對視頻網站的法定代表人和直接負責人進行雙重追責，即如果視頻中出現了違反國家相關法律規定的內容，那麼就要對法人代表人、直接責任人進行處罰，並且對公司進行罰款。”楊健說。
利用“黑名單”“網路分級”應對網路暴力色情
據瞭解，在事件發生後，北京市文化市場執法總隊、市網信辦、市公安局聯合啟動北京市網路遊戲專項整治工作，並發佈關於查禁“兒童邪典動畫視頻”的緊急通知。目前，優酷、騰訊視頻、愛奇藝等視頻平臺發佈公告稱，對相關違規視頻和帳號進行刪除下架和封號處理。
然而，未等“兒童邪典動畫視頻”風波過去，“邪典小遊戲”又進入公眾的視野。有網友反映，這些惡俗的小遊戲，要不斷地毆打或者用各種工具傷害遊戲裡的人物，直到把他打死，才能通關。針對這類威脅青少年兒童健康成長的網路內容，如何建立長效應對機制？
朱巍提出，建立技術之上的人工智慧識別是一方面，在制度建設方面，可以考慮建立行業黑名單共用制度。
“我們在互聯網公司調研的時候發現，很多問題都是人工智慧最先察覺，然後將其回饋；有些問題，人工智慧就可以直接解決，依靠技術長久地解決這類問題是大勢所趨。”在朱巍看來，利用行業黑名單制度加大對相關單位的監管和處罰力度，為技術審核提供了法律後盾。
“涉及不良視頻、遊戲的始作俑者，在一個地方把他們的視頻、遊戲下線了，還有可能在別的網站再次上線。”朱巍建議，一旦出現問題視頻，要全網進行搜索，不能就事論事，而是要把問題視頻從整體網路上下架。
此外，朱巍還表示，目前在法律上對動畫中的淫穢色情、暴力的認定比較困難，因此，對於未成年人保護，還要做好網路分級。
“利用網路實名制讓青少年進行實名註冊，然後由網路服務提供者和經營者按照青少年的年齡和相關法律規定，對提供的產品層層審核。一旦發現違反相關法律規定的網路產品出現，可以將其列入黑名單。”朱巍說。
楊健則認為，單純依靠法律機制還遠遠不夠，同時還需要文化機制和經濟機制配套管理。比如在文化上鼓勵、宣導積極向上的內容，在經濟上對以傳播低俗內容為主的經營行為進行必要的市場干預。
但在多數人看來，在激烈的市場競爭中，網路視頻平臺應該承擔更多的監管職責，否則，缺乏事前監管，很容易導致諸如“兒童邪典動畫視頻”此類視頻的氾濫，不利於網路環境的淨化。“最可怕的不是孩子偶然看了幾部凶邪動畫，而是大資料會抓住孩子這一動作，冷冰冰地推送一大堆過來。”公眾號“凱叔講故事”在文章中寫下了自己對大資料時代運營網站不加審核即推送這類視頻的擔憂。
筆者瞭解到，目前視頻網站平臺對上傳內容的審核有兩種審核模式：一種是對上傳視頻採取人工智慧的審核方式，即將上傳的視頻一幀一幀地提取出來，利用人工智慧進行內容審核；另一種則是形同虛設的人工審核，有些視頻平臺網站因盲目地追求利益，或者為了依靠這類視頻獲取大量的點擊量，基本上沒有落實審核程式。
在朱巍看來，人工智慧並非萬全之策，由於其對一幀一幀的內容的審核，難以像觀看普通視頻一樣，在審核時輕易地分辨出其中的寓意或是暗示。基於此，他建議建立全民舉報管道，用人工智慧加人工舉報的方式進行二十四小時線上監控。
與朱巍的觀點有別，在楊健看來，視頻網站運營商應對平臺內容的合法性負責。他認為，視頻網路平臺應該對其平臺上的內容進行嚴格的事前審核，需要對負責審核的人員建立一套完整的培訓體系，進行培訓考核，持證上崗，嚴格規範審核制度。
“對於依靠這類視頻獲得點擊量和知名度，故意不設審核門檻的網路視頻平臺，可以考慮在立法上建立強制性責任制度，對視頻網站的法定代表人和直接負責人進行雙重追責，即如果視頻中出現了違反國家相關法律規定的內容，那麼就要對法人代表人、直接責任人進行處罰，並且對公司進行罰款。”楊健說。
利用“黑名單”“網路分級”應對網路暴力色情
據瞭解，在事件發生後，北京市文化市場執法總隊、市網信辦、市公安局聯合啟動北京市網路遊戲專項整治工作，並發佈關於查禁“兒童邪典動畫視頻”的緊急通知。目前，優酷、騰訊視頻、愛奇藝等視頻平臺發佈公告稱，對相關違規視頻和帳號進行刪除下架和封號處理。
然而，未等“兒童邪典動畫視頻”風波過去，“邪典小遊戲”又進入公眾的視野。有網友反映，這些惡俗的小遊戲，要不斷地毆打或者用各種工具傷害遊戲裡的人物，直到把他打死，才能通關。針對這類威脅青少年兒童健康成長的網路內容，如何建立長效應對機制？
朱巍提出，建立技術之上的人工智慧識別是一方面，在制度建設方面，可以考慮建立行業黑名單共用制度。
“我們在互聯網公司調研的時候發現，很多問題都是人工智慧最先察覺，然後將其回饋；有些問題，人工智慧就可以直接解決，依靠技術長久地解決這類問題是大勢所趨。”在朱巍看來，利用行業黑名單制度加大對相關單位的監管和處罰力度，為技術審核提供了法律後盾。
“涉及不良視頻、遊戲的始作俑者，在一個地方把他們的視頻、遊戲下線了，還有可能在別的網站再次上線。”朱巍建議，一旦出現問題視頻，要全網進行搜索，不能就事論事，而是要把問題視頻從整體網路上下架。
此外，朱巍還表示，目前在法律上對動畫中的淫穢色情、暴力的認定比較困難，因此，對於未成年人保護，還要做好網路分級。
“利用網路實名制讓青少年進行實名註冊，然後由網路服務提供者和經營者按照青少年的年齡和相關法律規定，對提供的產品層層審核。一旦發現違反相關法律規定的網路產品出現，可以將其列入黑名單。”朱巍說。
楊健則認為，單純依靠法律機制還遠遠不夠，同時還需要文化機制和經濟機制配套管理。比如在文化上鼓勵、宣導積極向上的內容，在經濟上對以傳播低俗內容為主的經營行為進行必要的市場干預。