很多用戶會上傳一些色情、反國、欺詐之類的非法視頻，產(chǎn)品體量較少時，通過運營人員的審核是不費力的，可是當(dāng)產(chǎn)品規(guī)模用戶龐大，生產(chǎn)的短視頻足夠多時，僅僅依靠人力很難解決這個問題，那么應(yīng)該運營什么技術(shù)手段去處理這類問題呢？

1、數(shù)據(jù)庫匹配

任何文件都有且只有一個獨一無二的特定數(shù)值，類似于身份證號碼，這些應(yīng)用的后臺可以建立違規(guī)文件的特定數(shù)值數(shù)據(jù)庫，數(shù)據(jù)來自監(jiān)管部門不斷的更新中。用戶上傳視頻后，由該視頻數(shù)值去數(shù)據(jù)庫匹配，匹配上就認為是危險視頻，然后予以刪除，匹配不上，就進入步驟二

2、視頻轉(zhuǎn)圖片

將初審過的視頻轉(zhuǎn)化成截圖，例如每0.5秒一張，具體多少取決于產(chǎn)品階段和運營策略等等，然后通過圖像智能識別系統(tǒng)來進行甄別。該系統(tǒng)說起來簡單，但背后涉及到的東西卻不簡單，有興趣的可以搜一下進一步了解。

3、聲音識別

目前可以做到語音轉(zhuǎn)文字，也支持部分方言，比如廣東話。轉(zhuǎn)化成文字后，進行審核。審核的關(guān)鍵就是屏蔽字庫。

4、其他機制

通過以上方式可以解決絕大部分視頻內(nèi)容的審核問題，拿不準(zhǔn)的可以由運營人員介入人工來進行審核，除此之外還有舉報機制，在此就不展開了。另外，可以想到的策略有：新用戶、高危IP、虛擬號段等用戶發(fā)的內(nèi)容審核級別提高，或者先審再發(fā)，顯示僅自己可見；大V用戶或者優(yōu)質(zhì)用戶降低審核級別，或者是先發(fā)再審，顯示為所有人可見。網(wǎng)絡(luò)監(jiān)管越來越嚴(yán)格，很多APP均需要手機號、實名注冊，這也就增加了用戶的違法成本。