成人免费xxxxx在线视频软件_久久精品久久久_亚洲国产精品久久久_天天色天天色_亚洲人成一区_欧美一级欧美三级在线观看

自然語言處理庫—Snownlp

人工智能 自然語言處理
SnowNLP是一個python寫的類庫,可以方便的處理中文文本內容,是受到了TextBlob的啟發而寫的。

[[399217]]

本文轉載自微信公眾號「志斌的python筆記」,作者志斌。轉載本文請聯系志斌的python筆記公眾號。

大家好,我是志斌~

上次在跟大家分享用Python在本地進行文本情感分析的時候,給大家介紹了一個Snownlp庫,當時只跟大家介紹了一下它的情感分析功能,這次來跟大家詳細的介紹一下它其它的強大的功能。

01定義和安裝

我們先來看看官方對它的介紹:

SnowNLP是一個python寫的類庫,可以方便的處理中文文本內容,是受到了TextBlob的啟發而寫的,由于現在大部分的自然語言處理庫基本都是針對英文的,于是寫了一個方便處理中文的類庫,并且和TextBlob不同的是,這里沒有用NLTK,所有的算法都是自己實現的,并且自帶了一些訓練好的字典。注意本程序都是處理的unicode編碼,所以使用時請自行decode成unicode。

它的安裝命令如下:

  1. pip install snownlp 

02功能介紹

它主要有九個功能,我們分別來給大家介紹一下這九個功能都是干什么的。

01分詞功能

SnowNLP的分詞功能,可以將文本內容對照著字典劃分一個個詞語字符串,如果不是詞語的就單獨成為一個字符串。代碼如下:

  1. a = SnowNLP('我非常的熱愛學習!'
  2. print(a.words) 

02詞性標注

SnowNLP的詞性標注功能,可以對各個詞語進行標注,讓我們能夠知道這個詞語屬于名詞還是動詞,或者其它詞性。代碼如下:

  1. a = SnowNLP('我非常的熱愛學習!'
  2. for i in a.tags: 
  3.    print(i) 

03情感分析

在之前的文章我們已經詳細的介紹過了SnowNLP的情感分析功能,這里就不在過多介紹,用興趣的小伙伴,可以看看這篇文章兩種文本情感分析方式,你更pick哪一種?。

04拼音標注

SnowNLP的拼音標準功能,可以給文本中所有文字進行拼音標注,這樣以后再也不擔心遇到生僻字不會讀啦~~ 代碼如下:

  1. a = SnowNLP('我非常的熱愛學習!'
  2. print(a.pinyin) 

05提取關鍵字和摘要

SnowNLP可以將文本中出現的關鍵字和文本摘要給提取出來,從而讓我們可以更快速的了解文本講述的內容。代碼如下:

  1. text = '''計算機網絡系統就是利用通信設備和線路將地理位置不同、功能獨立的多個計算機系統互聯起來,以功能完善的網絡軟件實現網絡中資源共享和信息傳遞的系統。 
  2. 通過計算機的互聯,實現計算機之間的通信,從而實現計算機系統之間的信息、軟件和設備資源的共享以及協同工作等功能, 
  3. 其本質特征在于提供計算機之間的各類資源的高度共享,實現便捷地交流信息和交換思想。''
  4. b=SnowNLP(text) 
  5. key_word = b.keywords(5)   #()中的數字,代表提取關鍵字數量 
  6. abs_word = b.summary(1)    #()中的數字,代表提取摘要數量 
  7. print(key_word) 
  8. print(abs_word) 

06計算詞頻和逆文檔頻率

關鍵字的先后順序是由TF-IDF值的大小來決定的,其中TF就是詞頻、IDF就是逆文檔頻率、詞頻很好理解就是一個詞在文本中出現的頻率,逆文檔頻率是在詞頻的基礎上,給每個詞分配一個“重要性”的權重,越常見的詞分配的權重越低,越稀少的詞,權重越高,這個權重就成為逆文檔頻率,它的大小和詞語的常見性成反比。代碼如下:

  1. c = SnowNLP([['計算機'], ['資源'], ['系統'], ['信息'], ['功能']]) 
  2. print(c.tf) 
  3. print(c.idf) 

07繁體轉簡體

個人感覺這個技能較為冷門,現在基本上都是簡體字了。(僅為個人意見,不喜勿噴。)代碼如下:

  1. d = SnowNLP('山不在高,有仙則靈.水不在深,有龍則靈'
  2. print(d.han) 

08斷句功能

SnowNLP可以按照","和“。”對文本進行斷句處理。代碼如下:

  1. b=SnowNLP(text) 
  2. print(b.sentences) 

09文本相似度

  1. e = SnowNLP([['計算機','資源'], 
  2.             ['系統'], 
  3.             ['信息','功能'
  4.             ]) 
  5. print(e.sim(['系統'])) 
  6. print(e.sim(['計算機'])) 
  7. print(e.sim(['功能'])) 

 

責任編輯:武曉燕 來源: 志斌的python筆記
相關推薦

2020-04-24 10:53:08

自然語言處理NLP是人工智能

2024-02-05 14:18:07

自然語言處理

2021-05-17 09:00:00

自然語言人工智能技術

2017-10-19 17:05:58

深度學習自然語言

2021-05-18 07:15:37

Python

2024-04-24 11:38:46

語言模型NLP人工智能

2021-06-28 10:10:42

人工智能AI自然語言

2017-04-17 15:03:16

Python自然語言處理

2021-09-03 12:01:07

模型自然語言

2017-05-05 15:34:49

自然語言處理

2023-05-30 14:39:34

ChatGPT-4NLP

2020-02-25 23:28:50

工具代碼開發

2020-02-25 12:00:53

自然語言開源工具

2021-11-12 15:43:10

Python自然語言數據

2023-08-04 10:18:15

2018-02-27 09:32:13

神經網絡自然語言初探

2017-04-10 16:15:55

人工智能深度學習應用

2020-11-12 18:57:14

摘要PythonNLP

2021-03-03 09:00:00

自然語言數據科學人工智能

2020-09-23 10:45:45

人工智能自然語言NLP
點贊
收藏

51CTO技術棧公眾號

主站蜘蛛池模板: 亚洲高清av在线 | 最新av在线播放 | 成人精品一区二区 | 成人黄色在线视频 | 亚洲一区二区三区视频 | 99精品一区二区三区 | 日本一本视频 | 99热精品国产 | 久久爱黑人激情av摘花 | 日韩高清成人 | 午夜精品视频在线观看 | 精品9999 | 黄色大片毛片 | 日韩福利片 | 日韩精品 电影一区 亚洲 | 日韩在线小视频 | 中文字幕av在线 | 成人精品视频99在线观看免费 | 亚洲国产一区二区三区 | 成人免费淫片aa视频免费 | 91热在线| 精品久久久久久亚洲精品 | 欧美亚洲激情 | 日韩亚洲一区二区 | 九九综合| 免费av一区二区三区 | 久久性 | 国产亚洲精品久久久久久豆腐 | 久久久成人免费视频 | 久久久久国产一区二区 | 久久久久久亚洲精品 | 国产一区二区三区免费 | 欧美高清性xxxxhd | 欧美一级在线观看 | 五月激情六月婷婷 | 国产精品视频一区二区三 | 亚洲性爰| 欧美精品日韩精品国产精品 | 国产精品久久精品 | 精品免费国产一区二区三区四区 | 丝袜 亚洲 另类 欧美 综合 |