上海2018年1月15日電 /美通社/ -- 近日，國家互聯(lián)網(wǎng)信息辦公室指導(dǎo)北京市互聯(lián)網(wǎng)信息辦公室，針對部分知名手機(jī)客戶端持續(xù)傳播色情低俗信息、違規(guī)提供互聯(lián)網(wǎng)新聞信息服務(wù)等問題，分別約談相關(guān)企業(yè)負(fù)責(zé)人，并責(zé)令企業(yè)立即停止違法違規(guī)行為，同時關(guān)停了部分 App 新聞版塊24小時。
此次事件將客戶端的內(nèi)容審查問題再度曝光在整個社會。追求用戶留存、頁面停留時長對于平臺來說本無可厚非，然而中性的機(jī)器算法面對的卻是內(nèi)容偏好差別巨大的海量用戶群體。機(jī)器算法大幅提高了內(nèi)容生產(chǎn)、分發(fā)、消費(fèi)的效率，而“唯數(shù)據(jù)為準(zhǔn)”的算法在規(guī)則上忽視了這種用戶喜好的差別。此次重點(diǎn)曝光的低俗內(nèi)容就是由此產(chǎn)生的問題之一。
凈化網(wǎng)絡(luò)環(huán)境，七牛應(yīng)有擔(dān)當(dāng)
針對此次突發(fā)事件，七牛云火線推出“內(nèi)容審核資源包”，集鑒黃、鑒暴恐、政治人物識別于一體的綜合內(nèi)容審核安全系列產(chǎn)品，嚴(yán)格按照網(wǎng)信、網(wǎng)安等監(jiān)管機(jī)構(gòu)要求，同時保障相關(guān)網(wǎng)站或內(nèi)容服務(wù)商的穩(wěn)定安全運(yùn)營，致力為廣大網(wǎng)民創(chuàng)造一片清新寧靜的環(huán)境。
低俗化尚有整改機(jī)會，涉黃涉暴后果難以挽回
內(nèi)容的低俗化還有整改空間，事件涉及的新聞類 App 僅被處以停封1天、內(nèi)部整改的懲罰?？梢坏﹥?nèi)容被鑒定為涉黃、涉暴恐以及涉政治敏感，那么公司就會直接被永久關(guān)停并追究刑事責(zé)任。這是任何一家企業(yè)無法承受的。因此，從事件嚴(yán)重性來說，這三類違規(guī)帶來造成的風(fēng)險系數(shù)會指數(shù)級增大。
七牛內(nèi)容審核資源包，保障運(yùn)營安全
七牛云人工智能實(shí)驗室在人工智能領(lǐng)域深耕多年，在內(nèi)容審核領(lǐng)域深入研發(fā)，對政府類的審核需求有高度的敏感和理解。早在2015年七牛就推出了圖片鑒黃服務(wù)，并且準(zhǔn)確度超過99.5%，可以替代90%以上的人工審核。七牛云人工智能實(shí)驗室的鑒黃、鑒暴恐、政治人物識別是用心打造的高性能、高識別率，緊跟時政要求的安全檢測系列 API。詳情點(diǎn)擊鏈接：https://www.qiniu.com/resources/plup 即可1元體驗“內(nèi)容審核資源包”，內(nèi)含15萬次 API 調(diào)用。
從性能方面，七牛云人工智能實(shí)驗室提供的內(nèi)容審核安全服務(wù)能夠?qū)崿F(xiàn)單張圖片響應(yīng)時間小于0.1 s、準(zhǔn)確率超過99.5%、7x24h 全天候?qū)徍恕，F(xiàn)累積識別圖片數(shù)量已超過4000億張、審核視頻數(shù)量超過80億個。合作客戶包括熊貓直播、faceU、淡藍(lán)、平安銀行、新華社、中央人民廣播電臺、北京網(wǎng)信辦等數(shù)千家互聯(lián)網(wǎng)企業(yè)和政企機(jī)構(gòu)。
人工審核難以達(dá)到的高效 ，機(jī)器識別輕松做到
當(dāng)內(nèi)容形式的創(chuàng)新乏力，體驗差別不大已經(jīng)成為行業(yè)普遍狀態(tài)，不少平臺會時不時地通過打一些“擦邊球”來換取脫穎而出的機(jī)會。這次事件無疑是對所有內(nèi)容平臺的一記警鐘。每一家具有社會責(zé)任感的企業(yè)都應(yīng)將內(nèi)容審核放在更高的位置。
依靠傳統(tǒng)的內(nèi)容審核方式存在著極大漏洞，人工審核不僅誤判率高且效率低下。相較之下，機(jī)器識別依賴于人工智能領(lǐng)域最新的深度學(xué)習(xí)算法，能夠?qū)Ω邚?fù)雜度數(shù)據(jù)形成良好的解讀，并通過持續(xù)地訓(xùn)練，不斷提高識別精度。所以，面對當(dāng)下的困境，借助機(jī)器識別無疑才是更好的選擇。
