posts - 28, comments - 37, trackbacks - 0, articles - 0

          Hadoop 0.23編譯

          Posted on 2011-11-10 21:26 俞靈 閱讀(3436) 評論(6)  編輯  收藏

          編譯(環境linux, 需要聯網)

          1.       首先下載hadoop 0.23版本

          svn checkout http://svn.apache.org/repos/asf/hadoop/common/tags/release-0.23.0-rc0/

          2.       進入release-0.23.0-rc0目錄下能看到INSTALL.TXT文件, 這里有編譯hadoop 0.23的教程.

          編譯前的準備:.

          a)         * Unix System

          b)         * JDK 1.6

          c)         * Maven 3.0

          d)         * Forrest 0.8 (if generating docs)

          e)         * Findbugs 1.3.9 (if running findbugs)

          f)          * ProtocolBuffer 2.4.1+ (for MapReduce)

          g)         * Autotools (if compiling native code)

          h)         * Internet connection for first build (to fetch all Maven and Hadoop dependencies)

          可以根據需要安裝全部或部分的工具,然后把它們加入到$PATH. 這里介紹一下ProtocolBuffer的安裝方法:下載2.4.1版本后解壓,進入目錄,運行如下命令即可.

          $ ./configure --prefile=/usr/local

          $ make

          $ sudo make install

          3.       經過第二步準備之后,由于從hadoop0.23開始使用Maven編譯,因此必需聯網,命令如下:

          mvn package [-Pdist][-Pdocs][-Psrc][-Pnative][-Dtar]

          建議先運行命令: mvn package -Pdist -DskipTests –Dtar (前提Maven 3.0ProtocolBuffer2.4.1以上), 此命令成功之后會在release-0.23.0-rc0/下生成 hadoop-dist/target/hadoop-0.23.0-SNAPSHOT.tar.gz. 可以使用這個包搭建集群.

          使用-Pdocs選項可以生成文檔,當然前提是安裝了Forrest 0.8Findbugs 1.3.9. 可以參考如下命令手動指定:FORREST_HOMEFINDBUGS_HOME.

          mvn package -Pdocs -DskipTests -Dtar -Dmaven.test.skip -Denv.FORREST_HOME=/usr/local/apache-forrest-0.9  -Denv.FINDBUGS_HOME=/usr/local/findbugs-1.3.9

          生成的文檔在各自的target/site目錄下.

          經過以上步驟,我們已經編譯好了hadoop-0.23,現在可以使用hadoop-0.23.0-SNAPSHOT.tar.gz來搭建集群了.

           

          下一篇博客將講述如何使用hadoop-0.23 搭建hdfs集群

          Feedback

          # re: Hadoop 0.23編譯  回復  更多評論   

          2011-11-11 13:36 by tbw淘寶
          嗯,不錯

          # re: Hadoop 0.23編譯[未登錄]  回復  更多評論   

          2011-11-20 12:35 by rock
          這個版本還必須自己來編譯嗎?

          # re: Hadoop 0.23編譯  回復  更多評論   

          2011-11-20 15:47 by 俞靈
          當前是需要自己編譯的

          # re: Hadoop 0.23編譯[未登錄]  回復  更多評論   

          2011-11-20 19:15 by rock
          我今天剛下載了,和之前的版本差不太多,就是配置文件有些變化還沒有搞太明白,你說的需要自己編譯,你是svn下載的嗎?

          # re: Hadoop 0.23編譯  回復  更多評論   

          2011-11-21 09:16 by 俞靈
          是 svn checkout http://svn.apache.org/repos/asf/hadoop/common/tags/release-0.23.0-rc0/

          # re: Hadoop 0.23編譯  回復  更多評論   

          2011-11-30 11:19 by Klose
          關注Hadoop0.23,請關注http://blog.sina.com.cn/s/blog_4a1f59bf01010i9r.html

          只有注冊用戶登錄后才能發表評論。


          網站導航:
           
          主站蜘蛛池模板: 深州市| 大同市| 阿巴嘎旗| 高邑县| 左云县| 定日县| 盈江县| 休宁县| 三穗县| 象山县| 武夷山市| 贡觉县| 苏尼特左旗| 临夏县| 尚义县| 开原市| 彭阳县| 留坝县| 永胜县| 中山市| 甘泉县| 临沭县| 都昌县| 绍兴市| 武安市| 巴东县| 竹山县| 临汾市| 中卫市| 清远市| 乳源| 从江县| 长乐市| 策勒县| 江源县| 鹤山市| 邮箱| 青岛市| 雷波县| 泽普县| 奈曼旗|