【51CTO.com原創稿件】2017年1月8日，天公作美吹散了漫天霧霾，網易大廈在周末的下午迎來了一百多位互聯網運營小伙伴，共聚“億級互聯網產品背后的故事”線下沙龍，一起討論互聯網內容安全運營的話題。

　　談及舉辦這場活動的初衷，網易易盾總經理周森表示，隨著國內互聯網的蓬勃發展，網民數量的激增，互聯網的運營工作越來越難：例如對用戶上傳內容尺度難以把握、海量垃圾信息騷擾難清理、垃圾樣本變化多端難過濾、人力審核成本不堪重負……

　　那么這些問題該如何解決?不同階段的運營會遇到哪些典型問題?互聯網安全的真實現狀又是怎樣一番場景?未來該往什么方向發展?為了解答這一連串的疑問，周森領導的網易易盾團隊邀請了美拍、暢游游戲，以及網易自身的資深運營專家予以解答，通過他們的講述，我們不僅可以聽到運營者們背后的故事，對于互聯網內容安全的未來發展更是有了更清晰的判斷。

[[181289]]

　　網易跟貼：讓用戶遇見另一個自己

　　孫媛媛是沙龍第一位發言嘉賓，身為網易跟帖運營主管的她，從自己工作的角度，向大家介紹了網易跟帖背后的運營故事。

[[181290]]

　　孫媛媛先介紹到，網易跟貼是網易門戶新聞下的網友評論，內容以犀利有才著稱，是網易新聞的特色，也是中國網民智慧和社會生態的集中反映。目前網易跟貼累計注冊用戶數達到3億+，日均參與頂、踩的用戶數近9000萬，日均發貼條數120萬+，日均發貼用戶數30萬+，已經成為國內最活躍、最有深度的新聞評論社區。

　　“我們的工作就是要保證優質的跟貼內容能夠凸顯出現，同時保持觀點的多樣性，吸引大家評論。”孫媛媛透露，跟帖越踴躍，運營工作者的工作就繁重，網易的運營人員平均每天要審核6000-8000條跟貼，內容包括政治敏感、廣告、低俗、色情、刷屏五花八門。

　　正如孫媛媛所強調的，建立的人與人之間的關系是以內容為前提，在優化用戶的閱讀體驗、探索互動運營的過程中，內容的健康非常重要，也是互聯網社交類產品的立足根本。

　　美拍：談談社區產品反作弊與內容監控

[[181291]]

　　美拍安全產品經理田孟月的發言非常接地氣兒，她不僅列舉了大量實際社區運營案例，更是從運營者的角度出發，對社區產品運營給出非常多有效的建議。

　　她率先談到了大家經常遇到的作弊行為，其中既有針對電商的刷單行為，也有針對廣告文章刷閱讀數刷贊行為，還有針對社交的刷粉絲行為。這些作弊行為以營利為目的，既傷害了用戶體驗，也影響了社區/產品氛圍。

　　她以美拍為例，介紹社區產品常見的作弊形態，如SEO營銷、廣告騷擾、色情、上熱門等。那么該如何發現作弊行為呢?她給出了五個建議：一是通過產品統計數據監控，二是通過業務數據例行評估、三是通過舉報數據分析、四是進行產品前端巡查，最后是依靠群眾的力量，從用戶反饋中發現端倪。

　　當談到如何進行高效的內容監控時，田孟月認為，內容審核不僅僅局限于文字，還包括圖片、視頻、音頻，人工審核已經漸漸無法完成海量的審核任務，應該充分發揮技術優勢，提高審核效率，減少人工審核成為。除此之外，敏感詞的詞庫需要及時更新，違規的內容要上報，與上級主管單位保持聯系，確保內容審核工作與時俱進。

　　暢游游戲：一夫當關 豎游戲安全之盾

　　邢哲源是暢游游戲安全工程師，他表示在游戲安全領域內，每天都會面臨著不同的威脅，其中以盜號、作弊和垃圾信息最為常見。目前隨著個人電腦和安全軟件的普及、硬件密保和手機密保的推廣，賬號安全問題已經得到的極大的改善，反作弊與反垃圾信息就成為了工作的重點。

　　這些作弊行為和發送垃圾信息的行為，對內影響游戲內商城收益，擾亂游戲內經濟系統，更關鍵的是，外掛賬號發送大量無用的數據包，影響服務器性能并占用帶寬資源;對外而言，對于游戲玩家來說，大量明顯的“非人”賬號堆積在一起容易影響玩家情緒和感官，可以說是百害無一利，人人欲誅之。

　　邢哲源表示，在最初，他們采取的措施是技術對抗，通過技術手段“發現”游戲客戶端可能存在的外掛程序;隨后發展成數據分析，他們根據用戶的集群性和行為相似性，帶入合理的模型進行分析，從而發現目標。“現在我們已經可以兩者結合在一起，根據不同項目不同時期需求進行調整。”

　　在邢哲源看來，處罰規則是整個反作弊&反垃圾體系中最重要的環節，他認為，以維護游戲環境和諧為職責的他們，不僅需要打擊罪惡，同時也需要“引人向善”，于作弊者，每一次的處罰都是一次試錯過程，簡單的處罰規則更容易破解。“中間的度一定要把握好。”

　　網易易盾：內容優化運營實戰策略及企業級產品經驗交流

[[181292]]

　　網易易盾高級產品經理饒曉艷一上臺，底下聽眾的議論就不絕于耳，在大家看來，畢竟前面幾位發言嘉賓珠玉在前，看上去這么年輕的一個女士，能聊出什么新料呢?可饒曉艷發言結束后，臺下報以熱烈持久的掌聲，這是對她發言的肯定，也是對網易易盾做了大量幕后工作的敬意與認同。

　　饒曉艷首先表示，這是一個內容為王的時代，從流量到場景，從產品到人，都在圍繞著內容做文章。那究竟為什么在內容運營中要專門做反垃圾呢?饒曉艷以音樂評論舉了一個例子，目前我國云音樂的用戶數突破2個億，在UGC方面，用戶自主創建歌單超過8000萬，大約有50%的用戶會邊聽歌邊看評論，音樂評論總量已經超過2億條。“在這些評論中，摻雜著大量廣告、低俗信息，極大地影響了評論者的使用感受和評論積極性。” 饒曉艷談到，對運營者而言，大量違規的垃圾信息的存在，也違反了國家規定，給運營工作帶來了極大的風險。

　　她將發垃圾的不法分子稱之為“垃圾蟲”，并將這類人群的特點歸納成六類，那就是占領熱門、不分晝夜、持續對抗、分工協作、利益明確、法律邊緣。

　　那么究竟該如何對癥下藥呢?饒曉艷表示，網易易盾的做法是首先明確產品主要的垃圾分類，是屬于網友普通的情緒謾罵，還是專業團隊打擦邊球打廣告，還是明知法律令行禁止發布反動內容?

　　做好分類之后，就要根據內容的形式進行過濾，看用戶是通過文字內容、圖片內容、視頻內容還是音頻內容進行傳播?文字內容的過濾大家往往都比較了解，但是像圖片過濾就需要用到機器學習、魯棒圖片特征檢測、人臉識別這些技術了。而視頻過濾則用到視頻轉碼壓縮、視頻流分析、截圖分析、視頻特征識別等技術。

　　“以圖片識別為例，網易易盾的服務目前可以支持人臉識別、色情圖片檢測、動漫識別、相似匹配、水印識別等多種識別方式。” 饒曉艷還表示，在語音過濾領域，網易積累多年經驗，語音MD5庫實時過濾有害語音，可以同時將語音轉成文字進一步過濾。

　　正所謂“眼見為實”，饒曉艷在現場打開網易易盾的官網，在產品界面，向大家演示了圖片、文字的過濾識別，如此簡便易操作的方式贏得了大家的認可。

　　在線下會議結束時，還有聽眾針對她所介紹的網易易盾產品不斷提問，追問細節，可見眾人對網易易盾產品的興趣濃厚。

　　也有的聽眾問，為什么網易如此關注互聯網內容安全話題?其實這位聽眾有所不知，網易可能是國內最有發言權的互聯網權威之一了，從關鍵詞、黑白名單到過濾器這些反垃圾技術應用之日起，網易的反垃圾團隊經過了19年的技術積累，并且早已將大數據分析、人機識別、人工智能這些新興技術應用到反垃圾實踐中。2017年，記者希望中國互聯網內容安全可以吸引越來越多的人參與，網易易盾也能充分發揮技術優勢，幫助更多的互聯網客戶實現全面的內容安全。

【51CTO原創稿件，合作站點轉載請注明原文作者和出處為51CTO.com】