posts - 28, comments - 37, trackbacks - 0, articles - 0

          Hadoop 0.23編譯

          Posted on 2011-11-10 21:26 俞靈 閱讀(3435) 評論(6)  編輯  收藏

          編譯(環境linux, 需要聯網)

          1.       首先下載hadoop 0.23版本

          svn checkout http://svn.apache.org/repos/asf/hadoop/common/tags/release-0.23.0-rc0/

          2.       進入release-0.23.0-rc0目錄下能看到INSTALL.TXT文件, 這里有編譯hadoop 0.23的教程.

          編譯前的準備:.

          a)         * Unix System

          b)         * JDK 1.6

          c)         * Maven 3.0

          d)         * Forrest 0.8 (if generating docs)

          e)         * Findbugs 1.3.9 (if running findbugs)

          f)          * ProtocolBuffer 2.4.1+ (for MapReduce)

          g)         * Autotools (if compiling native code)

          h)         * Internet connection for first build (to fetch all Maven and Hadoop dependencies)

          可以根據需要安裝全部或部分的工具,然后把它們加入到$PATH. 這里介紹一下ProtocolBuffer的安裝方法:下載2.4.1版本后解壓,進入目錄,運行如下命令即可.

          $ ./configure --prefile=/usr/local

          $ make

          $ sudo make install

          3.       經過第二步準備之后,由于從hadoop0.23開始使用Maven編譯,因此必需聯網,命令如下:

          mvn package [-Pdist][-Pdocs][-Psrc][-Pnative][-Dtar]

          建議先運行命令: mvn package -Pdist -DskipTests –Dtar (前提Maven 3.0ProtocolBuffer2.4.1以上), 此命令成功之后會在release-0.23.0-rc0/下生成 hadoop-dist/target/hadoop-0.23.0-SNAPSHOT.tar.gz. 可以使用這個包搭建集群.

          使用-Pdocs選項可以生成文檔,當然前提是安裝了Forrest 0.8Findbugs 1.3.9. 可以參考如下命令手動指定:FORREST_HOMEFINDBUGS_HOME.

          mvn package -Pdocs -DskipTests -Dtar -Dmaven.test.skip -Denv.FORREST_HOME=/usr/local/apache-forrest-0.9  -Denv.FINDBUGS_HOME=/usr/local/findbugs-1.3.9

          生成的文檔在各自的target/site目錄下.

          經過以上步驟,我們已經編譯好了hadoop-0.23,現在可以使用hadoop-0.23.0-SNAPSHOT.tar.gz來搭建集群了.

           

          下一篇博客將講述如何使用hadoop-0.23 搭建hdfs集群

          Feedback

          # re: Hadoop 0.23編譯  回復  更多評論   

          2011-11-11 13:36 by tbw淘寶
          嗯,不錯

          # re: Hadoop 0.23編譯[未登錄]  回復  更多評論   

          2011-11-20 12:35 by rock
          這個版本還必須自己來編譯嗎?

          # re: Hadoop 0.23編譯  回復  更多評論   

          2011-11-20 15:47 by 俞靈
          當前是需要自己編譯的

          # re: Hadoop 0.23編譯[未登錄]  回復  更多評論   

          2011-11-20 19:15 by rock
          我今天剛下載了,和之前的版本差不太多,就是配置文件有些變化還沒有搞太明白,你說的需要自己編譯,你是svn下載的嗎?

          # re: Hadoop 0.23編譯  回復  更多評論   

          2011-11-21 09:16 by 俞靈
          是 svn checkout http://svn.apache.org/repos/asf/hadoop/common/tags/release-0.23.0-rc0/

          # re: Hadoop 0.23編譯  回復  更多評論   

          2011-11-30 11:19 by Klose
          關注Hadoop0.23,請關注http://blog.sina.com.cn/s/blog_4a1f59bf01010i9r.html

          只有注冊用戶登錄后才能發表評論。


          網站導航:
           
          主站蜘蛛池模板: 十堰市| 扎赉特旗| 安多县| 印江| 和林格尔县| 红桥区| 商水县| 苏州市| 沙雅县| 恭城| 兰西县| 蒙城县| 旌德县| 松阳县| 汕尾市| 于都县| 永新县| 安乡县| 德安县| 大连市| 灯塔市| 木里| 永寿县| 龙川县| 漠河县| 宜宾县| 远安县| 石林| 乐陵市| 昌宁县| 抚远县| 陆河县| 盐山县| 开封县| 关岭| 酉阳| 财经| 开鲁县| 石首市| 沙坪坝区| 玉溪市|