視聽平臺如何保障內容安全?網易云安全分享智能化實踐
11月29日到12月1日,數千名視聽產業嘉賓齊聚成都,參加有著“年度風向標”之稱的第五屆中國網絡視聽大會。今年,智能給視聽行業帶來的重構機遇和挑戰成為大會關注點之一。網易云安全(易盾)CTO朱浩齊受邀參加大會視聽技術創新高峰論壇,分享人工智能時代的內容安全實踐。
(網易云安全(易盾)CTO朱浩齊分享人工智能時代的內容安全實踐)
視聽媒體行業誕生百年,一直朝向更富媒體和社交互動的方向發展,不斷為用戶拓展新的體驗。2017年,產業中凸顯出三個趨勢:***是垂直滲透,視聽互動正在作為標配功能嵌入到旅游、金融、電商等行業應用。另外,不同媒體形式的交叉融合正在加快,媒體不斷增加新的視聽內容,音樂應用上線短視頻等,泛媒體泛娛樂成為共識。***,更多媒體形式、更多互動和海量內容也給視聽平臺帶來更大更復雜的內容安全監管壓力,內容安全必須走向智能化。
智能時代視聽平臺如何構建高效的內容安全系統?朱浩齊在會上集中介紹了網易的經驗。在技術上,盡快采用基于自然語言、深度學習技術的智能識別技術改造傳統以關鍵字和特征庫為代表的內容識別技術,保證對文字、圖片、語音,特別是直播視頻的覆蓋。在產品上,應該注意內容發布特別是UGC互動接口的覆蓋度,除了評論、博客、相冊、彈幕等,不能疏漏昵稱、頭像等簽名等角落。在策略上,應該建立對有害信息精細明確的審核體系和應對流程,做好應急響應。
會議上,網易云安全(易盾)還分享了和知名直播產品一直播、廣州電視臺旗下觸電新聞的合作經驗,以及網易云安全(易盾)發起的內容安全聯盟,和客戶共建內容安全實驗室,定期溝通灰黑產情報,為數百家互聯網企業有效控制內容風險。
(現場網易云的展臺)
中國網絡視聽大會由國家新聞出版廣電總局、國家互聯網信息辦公室以及四川省人民政府指導,中國網絡視聽節目服務協會、成都市人民政府主辦,是國內網絡視音頻領域規格***、規模***、“干貨”最多的行業盛會。網易云旗下云安全產品“網易易盾”和網易有料智能信息流服務、網易人工智能見外翻譯平臺代表網易視聽產品背后的黑科技,參與了本次大會新技術和節目展交會。