[[261230]]

愚人節，對我們而言只是開心一樂。對父母而言，網絡謠言可能讓他們每天深受其害。

 

4 月 1 日這個特殊日子，阿里正式推出達摩院研發的“AI 謠言粉碎機”技術，最快能在 1 秒內識別假新聞，希望幫助社交平臺和新聞網站從源頭鎖住謠言，讓父母不再每天都過愚人節。

對于此舉，網友都堪稱良心之作，并紛紛發表了看法：

 

那么，這個 AI 謠言粉碎機究竟有哪些黑科技?下面跟著小編一起來深入了解。

阿里開發 AI 謠言粉碎機，謠言識別準確率達 81%

阿里巴巴達摩院的科學家，造了一個謠言粉碎機，這是一個算法模型，可以識別真假新聞，未來也能應用在各大領域。

這是怎樣一種算法?準確率高嗎?真的可以終結謠言?“謠言粉碎機”的創造者李泉志做了解釋。

①“粉碎機”的前生功能是為記者提供可靠線索

《速轉!科學家發現：一味中藥 48 小時可殺死 60% 癌細胞!》《晚上喝白開水的朋友，再不看就晚了!》《專家說了，這樣東西千萬別吃!》……

你有沒有收到過父母發來的這些“關懷”?又有多少次是抱著“算了算了，你開心就好”的心態結束話題?“不能保證***準確，但基本可以判斷是否為謠言。”

李泉志，達摩院 NLP 團隊的核心成員之一，畢業于清華大學，后在美國獲得自然語言理解方向的博士學位，目前在達摩院的西雅圖辦公室工作。

在加入達摩院前，他曾是路透社重要的“情報官”：通過機器篩選成千上萬的網絡信息，為數千位一線記者提供可靠線索。

“AI 謠言粉碎機”就是借助自然語言實現的。在剛剛結束的 SemEval(自然語言處理領域的國際權威比賽，由國際計算語言學學會舉辦)全球語義測試中，“AI 謠言粉碎機”創造了假新聞識別準確率的新紀錄，達到了***的 81%。

[[261231]]

 

②判斷一個新聞真假要分三個步驟

“AI 謠言粉碎機”要怎么去判斷是否為謠言呢?李泉志說，分三步：

首先，該模型會找到最初的信息源，分析用戶畫像，包括：專業領域，此前傳播或轉發過什么，是個人還是機構，注冊時間，活躍規律等，來判斷發布者是否“可靠”。

然后根據不同態度的人群比例、各自的信譽度等信息，計算出此新聞的可信度。

第二步，尋找網上所有的信息源，看看鏈接的域名，是否來自可信網站，比如新華社、政府醫藥管理局等。

第三步，將正文里關鍵的論證提煉為知識點，與知識圖譜里的權威知識庫做匹配驗證。

如果毫無聯系、自相矛盾，減分。李泉志解釋，“AI 謠言粉碎機”會考慮一部分人類的想法，更多的則是 AI 的運用。

人工智能有很多人類比不了的地方，比如當一個流言在社交網站上傳播很快的時候，我們很難去判斷真假，不知道誰接收到了，是出于什么原因轉發，不同的人對此的評價是什么，而這些 AI 可以做到。

“假如來一個流言，人可以通過網站去查證，但是 AI 可以快速把科學研究、新聞拉出來，加上后臺知識庫的對比，做一個驗證。人腦中有基本判斷，但是沒有大型的知識庫。”李泉志說。

就拿“AI 謠言粉碎機”的訓練樣本來說，就要分至少兩個層面：

• 首先拿底層的 2 億條信息，幾百萬條新聞，訓練語言樣本。
• 再將模型進行謠言的真實性訓練。

“是一個復雜且費時的過程。”李泉志表示。

[[261232]]

 

③誰制造謠言?論文是否抄襲?未來粉碎機還有更多功能

其實，要建這樣一個數據模型，并不容易。李泉志坦言，他在前一家公司就開始研究，到如今，也還需繼續完善。

他們有一個小團隊專門在研究這一技術，因為，總體來說這不是一個單獨能列出來的技術，是自然語言所有技術的綜合。

目前，該模型也并未應用于阿里巴巴的任何業務中，李泉志坦言，數據模型需要不斷被“訓練”，也需要得到社會的認同，而這些，都不是短時間內能解決的。

可以想象的是，“AI 謠言粉碎機”未來將被應用的多個場合。比如，可以識別論文是否為抄襲，用技術從個人的寫作風格、方法論、主題等多維度去判斷是否為抄襲。

過去有人說某年輕作家后期的作品由人代筆，以后用 AI 就能分析得出結論。

另一方面，可以協助警方找到真正謠言的制造者。通過 AI 去追蹤傳播路徑，從傳播路徑中，將傳播分解，可以發現規律。

比如傳播了哪些用戶，用戶是什么反應，是簡單的轉發，還是贊成、反對，還是進行了二次加工。

“當然，該模型也還是需要更多的語言訓練。比如有些用戶轉發時，說的是反話、諷刺，有些是隱喻，不知是否是真實的情緒表達，這些作為機器很難對此做出判斷，但是通過大量的訓練，是可以實現的。”李泉志表示，他和團隊會繼續研究該模型。

您如何看待阿里推摩院推出的“AI 謠言粉碎機”技術?歡迎底部留言分享。