posts - 28, comments - 37, trackbacks - 0, articles - 0

          Hadoop 0.23編譯

          Posted on 2011-11-10 21:26 俞靈 閱讀(3436) 評論(6)  編輯  收藏

          編譯(環境linux, 需要聯網)

          1.       首先下載hadoop 0.23版本

          svn checkout http://svn.apache.org/repos/asf/hadoop/common/tags/release-0.23.0-rc0/

          2.       進入release-0.23.0-rc0目錄下能看到INSTALL.TXT文件, 這里有編譯hadoop 0.23的教程.

          編譯前的準備:.

          a)         * Unix System

          b)         * JDK 1.6

          c)         * Maven 3.0

          d)         * Forrest 0.8 (if generating docs)

          e)         * Findbugs 1.3.9 (if running findbugs)

          f)          * ProtocolBuffer 2.4.1+ (for MapReduce)

          g)         * Autotools (if compiling native code)

          h)         * Internet connection for first build (to fetch all Maven and Hadoop dependencies)

          可以根據需要安裝全部或部分的工具,然后把它們加入到$PATH. 這里介紹一下ProtocolBuffer的安裝方法:下載2.4.1版本后解壓,進入目錄,運行如下命令即可.

          $ ./configure --prefile=/usr/local

          $ make

          $ sudo make install

          3.       經過第二步準備之后,由于從hadoop0.23開始使用Maven編譯,因此必需聯網,命令如下:

          mvn package [-Pdist][-Pdocs][-Psrc][-Pnative][-Dtar]

          建議先運行命令: mvn package -Pdist -DskipTests –Dtar (前提Maven 3.0ProtocolBuffer2.4.1以上), 此命令成功之后會在release-0.23.0-rc0/下生成 hadoop-dist/target/hadoop-0.23.0-SNAPSHOT.tar.gz. 可以使用這個包搭建集群.

          使用-Pdocs選項可以生成文檔,當然前提是安裝了Forrest 0.8Findbugs 1.3.9. 可以參考如下命令手動指定:FORREST_HOMEFINDBUGS_HOME.

          mvn package -Pdocs -DskipTests -Dtar -Dmaven.test.skip -Denv.FORREST_HOME=/usr/local/apache-forrest-0.9  -Denv.FINDBUGS_HOME=/usr/local/findbugs-1.3.9

          生成的文檔在各自的target/site目錄下.

          經過以上步驟,我們已經編譯好了hadoop-0.23,現在可以使用hadoop-0.23.0-SNAPSHOT.tar.gz來搭建集群了.

           

          下一篇博客將講述如何使用hadoop-0.23 搭建hdfs集群

          Feedback

          # re: Hadoop 0.23編譯  回復  更多評論   

          2011-11-11 13:36 by tbw淘寶
          嗯,不錯

          # re: Hadoop 0.23編譯[未登錄]  回復  更多評論   

          2011-11-20 12:35 by rock
          這個版本還必須自己來編譯嗎?

          # re: Hadoop 0.23編譯  回復  更多評論   

          2011-11-20 15:47 by 俞靈
          當前是需要自己編譯的

          # re: Hadoop 0.23編譯[未登錄]  回復  更多評論   

          2011-11-20 19:15 by rock
          我今天剛下載了,和之前的版本差不太多,就是配置文件有些變化還沒有搞太明白,你說的需要自己編譯,你是svn下載的嗎?

          # re: Hadoop 0.23編譯  回復  更多評論   

          2011-11-21 09:16 by 俞靈
          是 svn checkout http://svn.apache.org/repos/asf/hadoop/common/tags/release-0.23.0-rc0/

          # re: Hadoop 0.23編譯  回復  更多評論   

          2011-11-30 11:19 by Klose
          關注Hadoop0.23,請關注http://blog.sina.com.cn/s/blog_4a1f59bf01010i9r.html

          只有注冊用戶登錄后才能發表評論。


          網站導航:
           
          主站蜘蛛池模板: 绍兴市| 松原市| 夏邑县| 景东| 乃东县| 阜阳市| 团风县| 察哈| 长汀县| 田阳县| 东丽区| 姜堰市| 扎兰屯市| 浪卡子县| 浮梁县| 布尔津县| 井研县| 阿拉善右旗| 漳州市| 宿松县| 巴彦淖尔市| 都安| 新宾| 临湘市| 清流县| 东乌| 措美县| 增城市| 卢氏县| 崇左市| 牡丹江市| 四平市| 阆中市| 万全县| 马关县| 肥东县| 怀宁县| 新乡县| 林甸县| 会同县| 石渠县|