涉黃涉暴視頻流入 優(yōu)酷愛奇藝等中招

　　大量披著兒童喜愛的動畫角色而制作的充斥著暴力、色情、低級笑料的視頻內(nèi)容去年出現(xiàn)在國外的視頻網(wǎng)站You Tube上。由于《冰雪奇緣》里的艾莎公主是這類視頻最常利用的角色，因此這個事件被稱為“愛莎門”。近日，有家長在微博上反映，這些在被境外封殺的視頻悄悄流入國內(nèi)市場，優(yōu)酷、愛奇藝、騰訊、搜狐等視頻網(wǎng)站全部中招。南都記者調(diào)查獲悉，雖然目前國內(nèi)各大主流視頻網(wǎng)站均進行了緊急處理。但這絕不是一次突擊清理這么簡單。視頻網(wǎng)站對UGC是如何進行審核和監(jiān)管的？這類視頻如何堂而皇之通過審核？艾媒咨詢集團CEO張毅接受南都記者采訪時表示，UGC內(nèi)容是目前的大趨勢，對這種模式的監(jiān)管和審核應(yīng)該越來越受到重視。

　　審核主要依靠人工？

　　上周，微博網(wǎng)友“肉呆大魔王”在微博上呼吁網(wǎng)友關(guān)注并舉報問題視頻。事件引起關(guān)注之后，1月20日，騰訊、愛奇藝、優(yōu)酷等發(fā)布了緊急聲明，紛紛表示采取措施。主要通過封停賬號、屏蔽搜索關(guān)鍵詞、下架視頻等方式進行處理。昨日上午，南都記者在幾個主流視頻網(wǎng)站搜索發(fā)現(xiàn)，絕大部分關(guān)鍵詞搜索已經(jīng)被屏蔽。

　　但南都記者注意到，微博網(wǎng)友“sihan涵晗”在優(yōu)酷的聲明微博下評論稱：有人曝光就查一下，沒人曝光就隨便發(fā)視頻……該網(wǎng)友的評論實則指出了這次事件背后的根本問題--視頻網(wǎng)站對UGC內(nèi)容審查機制是否存在漏洞？大規(guī)模的問題視頻是如何通過了審核的？

　　南都記者了解到，目前視頻網(wǎng)站審核UGC內(nèi)容主要依靠關(guān)鍵字排查、視頻抽幀、人工審核等手段。有知情人士向南都記者表示，視頻審核一部分依靠機器篩查，主要借助視頻中的關(guān)鍵字+圖像識別。機器審核視頻是基于深度學(xué)習(xí)圖像識別云，實際也是將視頻截圖，由機器審核每一張截圖的安全性。不過具體是3秒截一張還是5秒截一張，松緊度由視頻網(wǎng)站自己控制。機器審核視頻原理是先建模，然后導(dǎo)入海量的數(shù)據(jù)建庫，讓多個機器同時進行深度樣本學(xué)習(xí)，再標注無法通過的圖像種類，進而把這些樣本揉碎、旋轉(zhuǎn)、添加“噪音”，提高機器識別能力。對于不能通過的視頻，機器審核會給出兩類結(jié)果：確定不能通過的，這類準確率幾乎99。5%以上：僅作參考的，準確率在95%到97%，這就意味著，該視頻需要再次進行人工審核。機器基本能篩過99%的視頻，只有1%需要再次動用人工。

　　“在實際操作中，上面所提到的流程是理想狀態(tài)，更多的上傳視頻其實還是主要依靠人工審核，機器只是輔助?！币患乙曨l網(wǎng)站的相關(guān)負責(zé)人向南都透露，比如機器檢測到流量的異動，點擊、評論等數(shù)據(jù)短期內(nèi)暴漲，借助這個輔助手段，審核人員會對視頻二次審核，如果涉黃涉暴就會處理；如果視頻即便涉黃涉暴，但數(shù)據(jù)沒有飆升，也很難發(fā)現(xiàn)。“視頻總量太大，人工只能抽檢，沒辦法普查，發(fā)現(xiàn)問題其實都是概率事件。”

涉黃涉暴視頻流入