鄭鵬，8年大型互聯(lián)網(wǎng)公司運(yùn)營工作經(jīng)驗(yàn)，先后服務(wù)于網(wǎng)易、恒生電子、搜房網(wǎng)等公司，在產(chǎn)品運(yùn)營、用戶運(yùn)營、內(nèi)容運(yùn)營等領(lǐng)域有豐富的實(shí)戰(zhàn)經(jīng)驗(yàn)。以下為演講實(shí)錄：

我來給大家分享《視聽時(shí)代內(nèi)容安全產(chǎn)品實(shí)踐》，網(wǎng)易的C端業(yè)務(wù)的爆發(fā)式增長，從游戲、郵箱業(yè)務(wù)一直發(fā)展到考拉新聞、網(wǎng)易云音樂，到網(wǎng)易的課堂、網(wǎng)易云課堂。分享一下網(wǎng)易的場景，在網(wǎng)易云音樂擁有2億家的用戶，網(wǎng)易云課堂有1億用戶，網(wǎng)易易信有1億客戶。它們背后如何產(chǎn)生這些用戶群體呢？我們有很多的場景信息。大家比較好奇在場景演進(jìn)過程中，是如何完成彎道超車的？我們在整個(gè)過程中，也做的比較棒。接下來分享一下網(wǎng)易產(chǎn)品的運(yùn)營經(jīng)驗(yàn)，揭開網(wǎng)易一級場景運(yùn)營的一角。網(wǎng)易場景的運(yùn)營分為三個(gè)階段，灰黑白。白是讓優(yōu)質(zhì)內(nèi)容自涌現(xiàn)，灰，讓劣質(zhì)內(nèi)容納入規(guī)則，黑，借助機(jī)器智能過濾信息。

產(chǎn)品如何讓優(yōu)質(zhì)的內(nèi)容自涌現(xiàn)，內(nèi)容層級里面講到黑灰白。健康理性的內(nèi)容我們視為白色內(nèi)容，灰色內(nèi)容是廣告、謾罵、灌水信息，黑色信息是政策命令禁止的，比如色情、違禁、暴恐信息，這些信息會影響用戶的體驗(yàn)。看到這個(gè)大家并不陌生，這是網(wǎng)易云音樂，突破了2億用戶，歌單超過了8000萬。在地鐵中我們放了這些評論，“最怕一生碌碌無為，還說平凡難能可貴。”

這是用戶體驗(yàn)非常好的場景功能，可以看到這兩組的場景形態(tài)。網(wǎng)易的界面是黑膠唱片，這不僅僅是一個(gè)視覺讓的感覺，我們看到黑膠唱片轉(zhuǎn)的速度，有的場景也有做這樣的黑膠功能點(diǎn)，但是它們轉(zhuǎn)的效果非?？欤層脩舾杏X到他的心跳“撲通撲通”，很不爽。但是我們的轉(zhuǎn)速看起來很舒服，是因?yàn)槲覀兊漠a(chǎn)品經(jīng)理開發(fā)這款產(chǎn)品的時(shí)候，用了很多大數(shù)據(jù)?；蛘咚厹y邊聽，經(jīng)過上萬次的測試，達(dá)到了這樣的效果。右側(cè)是我們的跑步場景，它通過人工智能和大數(shù)據(jù)的分析，它會自動(dòng)切換到最適合用戶節(jié)奏的音樂，可以說將用戶的情景和場景結(jié)合到極致。

網(wǎng)易云音樂運(yùn)營的四部曲，第一個(gè)我們會把內(nèi)容做內(nèi)容，比如說一周熱評，和一些指明熱門歌單。實(shí)現(xiàn)優(yōu)質(zhì)內(nèi)容的整合和轉(zhuǎn)化，還會推送點(diǎn)擊比較高的或者當(dāng)季的歌單，優(yōu)先推送給目標(biāo)客戶群體。我們會在這個(gè)過程過慮掉很多的不良信息各內(nèi)容。這是網(wǎng)頁跟帖運(yùn)營的四部曲，是生態(tài)建設(shè)、內(nèi)容輸出、文化養(yǎng)成和品牌再生。網(wǎng)易跟帖在2003年還是萌芽期，還是一個(gè)新聞發(fā)布和簡單的評論回復(fù)，2004年我們做了蓋樓的文化，2005年我們怎么了踩、頂貼，2008年做到了無跟帖不新聞的品牌文化。后面又增加了對用戶的體驗(yàn)，比如說一些積分規(guī)則，激勵(lì)機(jī)制等等方式，來搭建整個(gè)生態(tài)建設(shè)。

這個(gè)案例是從產(chǎn)品演進(jìn)過程中的小案例，蓋樓一開始做的時(shí)候，并不是故意設(shè)計(jì)出來的。它只是為了解決當(dāng)時(shí)網(wǎng)易連續(xù)討論無法看到上下文，從而連續(xù)引發(fā)回復(fù)，沒想到出現(xiàn)了蓋樓的情況。剛開始的蓋樓有一個(gè)嵌套，嵌套多了以后越來越少，就會成為一個(gè)這樣的形狀。后面我們慢慢優(yōu)化成BIY格式，重復(fù)的信息在蓋樓上氣勢非常磅礴。如果出現(xiàn)一款不良信息，有些廣告信息、謾罵信息，還有一些仿政府的信息，都會出現(xiàn)在平臺上面。對此我們需要做一些內(nèi)容安全的過濾工作，把優(yōu)質(zhì)的信息推薦給客戶。

灰，如何讓劣質(zhì)的內(nèi)容納入規(guī)則？第一個(gè)我們要建立產(chǎn)品的運(yùn)營規(guī)則，就是不良的或者不優(yōu)質(zhì)的內(nèi)容，我們要優(yōu)先篩選清理，另外是規(guī)范用戶的行為，引導(dǎo)用戶產(chǎn)生優(yōu)質(zhì)的內(nèi)容。像用戶側(cè)所看到的評論區(qū)的灌水，我們是禁止發(fā)重復(fù)信息的。包括熱門評論，我們在產(chǎn)品建模的時(shí)候，就會規(guī)避掉原創(chuàng)歌曲與歌曲無關(guān)的段子。然后A的信息在B的信息，或者網(wǎng)易云上面發(fā)的吵架、謾罵或者攻擊對方的行為或者言語，尤其是粉絲大戰(zhàn)是非常厲害的，非常影響歌星下面粉絲的存在感。另外就是重復(fù)信息的清理，復(fù)制一些信息、雞湯。有些平臺為了增加用戶的閱讀量，允許這些內(nèi)容存在，但是在我們這邊是不可以的。就是寧可要一些用戶真正自發(fā)的內(nèi)容，也不要一些雞湯復(fù)制的東西存在。第三灌水的信息都會清理掉。

這是我們在清理之前，如果我們沒有做后臺的安全機(jī)制或者場景規(guī)則，今天大家看到的就是這樣子。“前幾天加了一個(gè)很牛的老師，免費(fèi)領(lǐng)100元的花費(fèi)，大家趕緊來吧?！闭麄€(gè)平臺就會充斥著這樣的信息。但是好的平臺和規(guī)則就會產(chǎn)生這樣的信息，這個(gè)比較有文藝范圍，比較有干貨。這也是一個(gè)有意思的案例，這是黑灰產(chǎn)業(yè)里面，半夜里面給工作人員發(fā)了一條信息。大家白天晚上沒日沒夜的看黃圖，審核廣告，審核黑灰產(chǎn)業(yè)他們覺得白天這么忙，晚上肯定可以發(fā)。但是我們通過人工智能的、大數(shù)據(jù)的方式，他們發(fā)多少我們刪多少，那他們已經(jīng)沒有活路了。講到這里大家很好奇，我們是如何通過人工智能過濾有害信息，幫助場景提升用戶體驗(yàn)的。

你們不知道的有害信息非常多，2016年網(wǎng)易域內(nèi)就清除了323億的垃圾信息。這個(gè)數(shù)據(jù)非常廣大，包括垃圾推廣、淫穢色情、詐騙、違禁品的。整個(gè)安全情況非常嚴(yán)峻，所以最近國家也在2017年6月1日實(shí)施了國家的互聯(lián)網(wǎng)安全法。這是有害信息的分類，國家級的安全涉及到謠言、暴龍、色情類。社會安全涉及到違禁類、詐騙類。民生安全涉及到信息泄露，比如個(gè)人賬號信息。還有侵權(quán)類和誹謗類?，F(xiàn)在輿論上明星的娛樂信息，也屬于不正當(dāng)或者不明確信息的誹謗。

這是互聯(lián)網(wǎng)違法和不良信息舉報(bào)中心的數(shù)據(jù)，2016年有效的舉報(bào)達(dá)到了3022.7萬條，2016年實(shí)施以后，對互聯(lián)網(wǎng)影響非常重大。大家在整個(gè)圈子里面形成了內(nèi)容風(fēng)暴，給互聯(lián)網(wǎng)企業(yè)造成了很大的壓力，同時(shí)也關(guān)閉了很多賬號信息。

給大家科普一下，安全的黑灰產(chǎn)業(yè)鏈的工作方式。比有賣假藥的、賭博的、賣違禁品的。他們發(fā)布以后，業(yè)務(wù)端會有黑客發(fā)布自動(dòng)發(fā)帖機(jī)或者自動(dòng)破解驗(yàn)證碼功能的。然后我們的一些規(guī)則，或者關(guān)鍵詞過濾，完全不能過濾到他們的內(nèi)容，然后發(fā)布到我們的APP、彈幕、直播間。這些是目前垃圾廠商遇到的工具，比如打碼平臺。還有手機(jī)模擬器、搜碼器。這塊是內(nèi)容的變種，大家可以看到常規(guī)的找小姐或者QQ怎么樣，基本都會過濾掉。但是慢慢的黑灰產(chǎn)業(yè)把小姐加個(gè)@，QQ不用QQ用“扣扣”字，后面是加特殊字符，讓大家無法通過人工的功能去辨別垃圾信息。

這是我們的安全防護(hù)結(jié)構(gòu)圖。第一層是針對應(yīng)用場景，有應(yīng)用下載、注冊、登錄、營銷活動(dòng)、直播、昵稱、評論。第二層是解決方案，在應(yīng)用下載方面，提供應(yīng)用加護(hù)。比如二次打碼，大家看到有些休息一模一樣，就是換個(gè)游戲，是同樣的功能。就是這個(gè)游戲被人家開發(fā)掉了，被人家二次在用。后面是注冊登錄，還有營銷活動(dòng)，我們提供了安全機(jī)制。然后內(nèi)容安全方面，提供廣告過濾、智能鑒黃，底層就是人工智能技術(shù)和語義分析基礎(chǔ)，通過機(jī)器化進(jìn)行智能過濾。這是提供給大家的視頻解決方案，因?yàn)橐曨l在風(fēng)口浪尖上面監(jiān)管非常嚴(yán)格。比如說目前安全方面的東西復(fù)雜，有些人的房間名稱會打廣告，身份證是假的信息。一般圖像如果是漏點(diǎn)是我們就會屏蔽掉，但是它圖片放個(gè)棗，名字做個(gè)小姐，常規(guī)的就會識別不出來。所以我們聯(lián)動(dòng)式的進(jìn)行過濾，彈幕進(jìn)行過濾，視頻過濾，都會形成一個(gè)體系化的解決方案。

我們針對直播產(chǎn)品，除了內(nèi)容風(fēng)控以外，還提供業(yè)務(wù)風(fēng)控。包括掛機(jī)檢測、黑屏檢測。還有反作弊和驗(yàn)證碼，我們在產(chǎn)品的運(yùn)營過程中會發(fā)現(xiàn)，我們會做一些登錄注冊或者搶優(yōu)惠券的活動(dòng)。當(dāng)然我們發(fā)現(xiàn)這些優(yōu)惠券很容易被一些第三方或者不法分子直接搶完一批優(yōu)惠券信息，導(dǎo)致活動(dòng)全部癱瘓掉。我們投入反作弊和驗(yàn)證碼的功能，很好的規(guī)避一款產(chǎn)品在這個(gè)環(huán)節(jié)里面，規(guī)避掉這些風(fēng)險(xiǎn)。

易盾網(wǎng)易云安全擁有專業(yè)的團(tuán)隊(duì)，我們擁有新聞出版社，我們擁有20年的經(jīng)驗(yàn)，有內(nèi)容考核機(jī)制、應(yīng)急響應(yīng)流程，就是為整個(gè)互聯(lián)網(wǎng)產(chǎn)品保駕護(hù)航。網(wǎng)易的幾百款產(chǎn)品，背后的安全支持都是通過網(wǎng)易云易盾去支持它的正常運(yùn)作。這些是我們目前服務(wù)的客戶，包括優(yōu)庫、土豆、唯品會，137.COM 都在使用我們的功能，謝謝大家的觀賞。