尤記得五年前，掃黃行動肅清了全國多地線下各大小“會所”。五年時間過去了，被清掃的“小姐姐”們都去哪里了？據(jù)坊間傳言，某些“小姐姐”已經(jīng)將陣地由線下轉(zhuǎn)為線上，借著直播、短視頻的火熱，大力拓展“業(yè)務(wù)”。

五年前，各大小“會所”因違法違規(guī)一夜之間消失殆盡。如今全國“掃黃打非”辦公室大力開展的“凈網(wǎng)2019”“護(hù)苗2019”“秋風(fēng)2019”專項(xiàng)行動劍起直指未及時自查的直播、短視頻等平臺，而這些平臺，可能也有無法言表的“痛”。

為什么會痛？

大部分直播平臺其實(shí)是遵紀(jì)守法的，但在直播的時候總有一些想要博眼球、抖機(jī)靈的用戶，讓平臺深陷泥沼。除直播平臺以外，一些超高流量的 APP 也成了不法分子的娛樂場，前不久騰訊云天御就幫某旅游 APP 第一時間避開了一場危機(jī)。

一場說走就走的旅行是當(dāng)下潮流之一，該 APP 可謂是游客必備，其中旅游指導(dǎo)、游記分享、互動直播區(qū)與視頻區(qū)更是深受游客喜愛，大家也會像翻看買家秀那樣去評論區(qū)看建議，然而，這些本是分享攻略的地方，卻成為一小撮不法分子發(fā)布招嫖、販毒的“廣告牌”。了解到這一情況后，騰訊云天御快速識別該 APP 內(nèi)海量文本信息，迅速判斷有害、色情等內(nèi)容反饋給到審核管理員，由審核管理員及時進(jìn)行刪除/禁言/封號處理，以保證平臺為用戶提供安全健康的內(nèi)容。

除了這類的內(nèi)容社區(qū)容易中招之外，以下三大場景更容易成為不法分子散播色情、暴力、血腥等違法內(nèi)容的重災(zāi)區(qū)。

直播平臺

還記得早年的互聯(lián)網(wǎng)聊天室，大家賣力的唱著歌，花錢買最好的攝像頭與麥克風(fēng)，只為情感得到釋放，單純享受陌生人之間的交流。而現(xiàn)在，直播平臺的一些主播們?yōu)榱丝焖偕?cái)，花重金置辦最誘惑的直播場景，只為襯托自己“不可描述”的撩人動作表演。

除了色情直播，少量不法分子還會利用直播平臺煽風(fēng)點(diǎn)火傳播敏感言論、惡搞政治人物等，蒙蔽不明（吃）真相（瓜）的群眾。不僅如此，還有不少越過法律邊緣的人利用直播平臺來販賣槍支彈藥，推廣賭博網(wǎng)站，甚至販賣違禁藥物。

部分平臺由于審核人力和技術(shù)資源有限，短時間內(nèi)容易漏過對某些主播視頻內(nèi)容分享的檢測，造成平臺口碑下降，對觀眾造成不良影響，甚至觸犯法律。騰訊云天御內(nèi)容安全解決方案不僅對涉黃、敏感畫面有著99%的識別準(zhǔn)確率，若遇上主播們通過“聲情并茂”的表演獲利，發(fā)出那羞羞的聲音，天御最新的音頻識別技術(shù)能結(jié)合聲紋、違禁詞匯，來判斷出色情嬌喘聲以及敏感言論。

此處不適合放客戶案例現(xiàn)場圖

省略一萬字……

02游戲平臺

開著語音打著游戲，當(dāng)遇上神（zhu）一樣的隊(duì)友時，總是忍不爆幾句粗口，文字罵完語音罵，從“家屬式問候”到敏感言論，大量低俗內(nèi)容滋生。除了充斥謾罵，被騙則讓更多玩家們苦不堪言。詐騙分子常常聲嘶力竭的喊著麥“游戲裝備只要XX元”，價格如此優(yōu)惠，讓眾多玩家“心動不已”，而騙子們正是利用玩家貪圖便宜的心里誘騙玩家充錢，實(shí)際上，用戶很難拿到心儀的道具，甚至有可能導(dǎo)致游戲賬號被封。

平臺被不法分子利用，不僅影響玩家體驗(yàn)，對平臺也造成極大困擾。不久前，天御就為游戲「香腸派對」解決了這個棘手的問題。

（圖片來自網(wǎng)絡(luò)）

「香腸派對」是一款兒童游戲，可是有些不法分子連小孩子都不放過！接入騰訊云天御的服務(wù)后，天御為「香腸派對」識別出實(shí)時語音里的涉黃內(nèi)容，以及謾罵等。騰訊云實(shí)時語音引擎能夠?qū)⑵脚_指定的違規(guī)音頻過濾，審核人員則會收到識別引擎的反饋，根據(jù)平臺守則對違規(guī)人員進(jìn)行禁言/封號處理，從而維護(hù)游戲平臺生態(tài)，讓孩子享受一個健康的游戲平臺。

小程序平臺

除了常見的直播平臺、游戲平臺，新興的小程序平臺也被違法的內(nèi)容制造者盯上，依賴于平臺的高互動性，他們開始瞄準(zhǔn)這里生產(chǎn)高危內(nèi)容吸引眼球，其中不乏涉黃、暴力、血腥等各種違法內(nèi)容。

運(yùn)營者受限于審核人力原因，很無助甚至被執(zhí)法部門約談。對于這些違規(guī)內(nèi)容，騰訊云天御都能快速識別，幫助企業(yè)或者開發(fā)者提高內(nèi)容平臺的安全屬性，從而助力業(yè)務(wù)健康的成長。

（圖片來自網(wǎng)絡(luò)）

除以上高流量淫穢場景之外，還有不少普通應(yīng)用場景也涉及內(nèi)容安全，比如社交、電商O2O圖片識別場景等。社交場景下用戶填寫資料，不少賣愛情動作片的商家直接將內(nèi)容制作為圖像文本，最常見的是把聯(lián)系方式與樣片作為頭像，這個時候 ocr 識別技術(shù)便會識別，不讓你縱欲；電商O2O平臺的商家在布置店鋪以及商品上架發(fā)布過程，可能存在違法圖片上傳風(fēng)險，有可能涉黃、涉敏等，畢竟好賺的錢大都違法。

不想被色情、血腥、暴力等違法內(nèi)容毀掉的企業(yè)如遇到以上這些問題，請及時接入騰訊云天御內(nèi)容安全解決方案：色情圖片識別準(zhǔn)確率99%，文本識別率高達(dá)99%，每0.02秒能夠識別1秒的音頻……