posts - 28, comments - 37, trackbacks - 0, articles - 0

          Hadoop 0.23編譯

          Posted on 2011-11-10 21:26 俞靈 閱讀(3440) 評(píng)論(6)  編輯  收藏

          編譯(環(huán)境linux, 需要聯(lián)網(wǎng))

          1.       首先下載hadoop 0.23版本

          svn checkout http://svn.apache.org/repos/asf/hadoop/common/tags/release-0.23.0-rc0/

          2.       進(jìn)入release-0.23.0-rc0目錄下能看到INSTALL.TXT文件, 這里有編譯hadoop 0.23的教程.

          編譯前的準(zhǔn)備:.

          a)         * Unix System

          b)         * JDK 1.6

          c)         * Maven 3.0

          d)         * Forrest 0.8 (if generating docs)

          e)         * Findbugs 1.3.9 (if running findbugs)

          f)          * ProtocolBuffer 2.4.1+ (for MapReduce)

          g)         * Autotools (if compiling native code)

          h)         * Internet connection for first build (to fetch all Maven and Hadoop dependencies)

          可以根據(jù)需要安裝全部或部分的工具,然后把它們加入到$PATH. 這里介紹一下ProtocolBuffer的安裝方法:下載2.4.1版本后解壓,進(jìn)入目錄,運(yùn)行如下命令即可.

          $ ./configure --prefile=/usr/local

          $ make

          $ sudo make install

          3.       經(jīng)過(guò)第二步準(zhǔn)備之后,由于從hadoop0.23開(kāi)始使用Maven編譯,因此必需聯(lián)網(wǎng),命令如下:

          mvn package [-Pdist][-Pdocs][-Psrc][-Pnative][-Dtar]

          建議先運(yùn)行命令: mvn package -Pdist -DskipTests –Dtar (前提Maven 3.0ProtocolBuffer2.4.1以上), 此命令成功之后會(huì)在release-0.23.0-rc0/下生成 hadoop-dist/target/hadoop-0.23.0-SNAPSHOT.tar.gz. 可以使用這個(gè)包搭建集群.

          使用-Pdocs選項(xiàng)可以生成文檔,當(dāng)然前提是安裝了Forrest 0.8Findbugs 1.3.9. 可以參考如下命令手動(dòng)指定:FORREST_HOMEFINDBUGS_HOME.

          mvn package -Pdocs -DskipTests -Dtar -Dmaven.test.skip -Denv.FORREST_HOME=/usr/local/apache-forrest-0.9  -Denv.FINDBUGS_HOME=/usr/local/findbugs-1.3.9

          生成的文檔在各自的target/site目錄下.

          經(jīng)過(guò)以上步驟,我們已經(jīng)編譯好了hadoop-0.23,現(xiàn)在可以使用hadoop-0.23.0-SNAPSHOT.tar.gz來(lái)搭建集群了.

           

          下一篇博客將講述如何使用hadoop-0.23 搭建hdfs集群

          Feedback

          # re: Hadoop 0.23編譯  回復(fù)  更多評(píng)論   

          2011-11-11 13:36 by tbw淘寶
          嗯,不錯(cuò)

          # re: Hadoop 0.23編譯[未登錄](méi)  回復(fù)  更多評(píng)論   

          2011-11-20 12:35 by rock
          這個(gè)版本還必須自己來(lái)編譯嗎?

          # re: Hadoop 0.23編譯  回復(fù)  更多評(píng)論   

          2011-11-20 15:47 by 俞靈
          當(dāng)前是需要自己編譯的

          # re: Hadoop 0.23編譯[未登錄](méi)  回復(fù)  更多評(píng)論   

          2011-11-20 19:15 by rock
          我今天剛下載了,和之前的版本差不太多,就是配置文件有些變化還沒(méi)有搞太明白,你說(shuō)的需要自己編譯,你是svn下載的嗎?

          # re: Hadoop 0.23編譯  回復(fù)  更多評(píng)論   

          2011-11-21 09:16 by 俞靈
          是 svn checkout http://svn.apache.org/repos/asf/hadoop/common/tags/release-0.23.0-rc0/

          # re: Hadoop 0.23編譯  回復(fù)  更多評(píng)論   

          2011-11-30 11:19 by Klose
          關(guān)注Hadoop0.23,請(qǐng)關(guān)注http://blog.sina.com.cn/s/blog_4a1f59bf01010i9r.html

          只有注冊(cè)用戶(hù)登錄后才能發(fā)表評(píng)論。


          網(wǎng)站導(dǎo)航:
           
          主站蜘蛛池模板: 三穗县| 温泉县| 山丹县| 车致| 湄潭县| 渑池县| 廊坊市| 渝北区| 浦县| 车致| 福海县| 荃湾区| 长阳| 嘉黎县| 三台县| 远安县| 寿宁县| 福清市| 沧州市| 灵武市| 得荣县| 无锡市| 霍城县| 吉首市| 嘉荫县| 贵德县| 枣阳市| 博客| 湘潭县| 黄骅市| 紫金县| 社会| 太仓市| 城口县| 唐山市| 宜黄县| 黔江区| 蒲江县| 上林县| 双桥区| 洪湖市|