成人免费xxxxx在线视频软件_久久精品久久久_亚洲国产精品久久久_天天色天天色_亚洲人成一区_欧美一级欧美三级在线观看

nutch+hadoop配置使用方法簡明介紹

開發 架構 Hadoop
Hadoop相信大家都比較熟悉了,這里向大家介紹一下nutch+hadoop配置使用問題,希望通過本文的介紹大家對有關hadoop配置方面的知識有新的認識。

本節繼續向大家介紹一下nutch+hadoop配置方面的內容,上節介紹了配置的步驟,本節介紹一下nutch+hadoop配置完成后如何使用,歡迎大家一起來學習。

nutch+hadoop配置使用

中文分詞:
1.對建立索引所用分詞工具的修改
將下載的中文分詞包放到lib目錄下,改名為analysis-zh.jar(當然,你也可以不用改)。找到下面文件
src\java\org\apache\nutch\analysis\NutchDocumentAnalyzer.java
修改tokenStream方法如下
publicTokenStreamtokenStream(StringfieldName,Readerreader){
Analyzeranalyzer;
analyzer=newMMAnalyzer();
returnanalyzer.tokenStream(fieldName,reader);
}
注意:由于加入信息的分析類,你需要將該類導入。使用如下語句。
importjeasy.analysis.*;

2.對查詢所用分析部分的修改
nutch+hadoop配置使用總需要對查詢所用分析部分的修改。src\java\org\apache\nutch\analysis\中的NutchAnalysis.jj文件
將<SIGRAM:<CJK>>
改為:|<SIGRAM:(<CJK>)+>
使用javacc工具將NutchAnalysis.jj生成java文件,共會生成7個java文件,將他們拷貝到下面的文件夾中替換原有文件。
src\java\org\apache\nutch\analysis

如何安裝與使用javacc?
下載javacc并解壓,然后將javacc的主目錄添加到環境變量下。進入命令行,輸入javacc,如果不出現不能識別該命令之類的說法,證明安裝成功。
進入NutchAnalysis.jj文件所在的目錄,輸入javaccNutchAnalysis.jj命令就會生成7個java文件了。

3.重新編譯工程文件
這里你需要用到ant工具了,那么ant工具怎么安裝呢?
ant的安裝與配置與javacc類似,下載后解壓,然后在path環境變量中加如指向ant下的bin文件夾的路徑。
使用:從命令行進入nutch目錄中,輸入ant命令,它會自動根據當前目錄下的build.xml進行重建。重建完畢后會在改目錄下產生一個build文件夾。

4.重建后的文件替換
一、將nutch-0.x.x.job文件拷貝出來替換nutch目錄下的同名文件。
二、將\build\classes\org\apache\nutch\analysis目錄下的所有文件拷貝替換nutch-0.x.x.jar中org\apache\nutch\analysis目錄下的文件。
三、將nutch-0.x.x.jar文件和你的分詞包(我的是analysis-zh.jar)拷貝到tomcat中WEB-INF\lib下面。

5.重新爬行與建立索引,重新啟動tomcat即可。

nutch搜索url過濾規則:
對于每一次(由depth決定)對url進行filter,所以要搜子頁面,首頁一定要通過filter,否則搜索不到。本節關于nutch+hadoop配置使用介紹到這里。

【編輯推薦】

  1. nutch+hadoop配置步驟及問題解決方法深入剖析
  2. Hadoop配置注意事項及命令使用經驗總結
  3. Hadoop配置和啟動Hadoop方法詳解
  4. Hadoop集群搭建過程中相關環境配置詳解
  5. Hadoop完全分布模式安裝實現詳解
責任編輯:佚名 來源: javaeye.com
相關推薦

2010-06-07 14:55:32

nutch+hadoo

2010-06-03 17:38:03

Hadoop命令

2009-12-29 10:40:36

ADO組件

2009-12-25 17:10:51

WPF動態資源

2010-01-25 14:10:21

C++堆棧

2010-01-27 14:18:41

Android智能指針

2010-02-02 09:49:02

C++模板

2010-05-25 16:39:56

SVN中使用Git

2011-03-30 14:36:58

MRTG配置SNMP

2009-08-28 17:01:43

C#構造函數

2010-03-05 15:20:25

Linux man命令

2011-07-12 17:18:23

PHPstrtotime

2010-01-20 17:47:54

VB.NET注釋

2010-05-31 11:08:01

Mysclipse6.

2009-12-01 18:02:41

PHP表單數組

2011-07-13 11:34:58

CC++時間函數

2009-12-30 17:47:54

Ubuntu常用命令

2010-02-23 11:06:16

WCF可信賴會話

2009-12-01 19:02:20

PHP取整函數

2009-12-24 17:38:18

WPF事件觸發器
點贊
收藏

51CTO技術棧公眾號

主站蜘蛛池模板: 国产一级视频免费播放 | 日韩欧美高清 | 99精品欧美一区二区三区 | 欧美一级片在线观看 | 亚洲欧洲日本国产 | 伊人网国产 | 国产精品成人av | 在线观看视频亚洲 | 亚洲精品国产综合区久久久久久久 | 欧美激情一区二区三区 | 精品伊人久久 | 欧美日韩国产在线 | 日日夜夜精品 | 99精品在线 | 亚洲第一网站 | 九九色综合 | 亚洲美女视频 | 亚洲精品久久国产高清情趣图文 | 五月花丁香婷婷 | 久久亚洲一区 | 黄色操视频 | 黄a网| 91直接看| 一区二区三区视频在线 | 国产成人免费 | 一区二区精品在线 | 成人福利网站 | 日韩和的一区二区 | 在线观看日本高清二区 | 综合网伊人 | 天天草视频 | 国产区在线免费观看 | 精产国产伦理一二三区 | 欧美日韩一 | 精品国产乱码久久久久久闺蜜 | 成人精品一区二区三区中文字幕 | 天天操精品视频 | 精品国产一区二区三区av片 | 国产成人高清视频 | 国产伦精品一区二区三区照片91 | 天天躁日日躁狠狠躁白人 |