光從字面上來理解，很容易讓一些初學者先入為主的認為：SecondaryNameNode（snn）就是NameNode（nn）的熱備進程。其 實不是。snn是HDFS架構中的一個組成部分，但是經常由于名字而被人誤解它真正的用途，其實它真正的用途，是用來保存namenode中對HDFS metadata的信息的備份，并減少namenode重啟的時間。對于hadoop進程中 ，要配置好并正確的使用 snn，還是需要做一些工作的。hadoop的默認配置中讓 snn進程默認運行在了 namenode 的那臺機器上，但是這樣的話，如果這臺機器出錯，宕機，對恢復HDFS文件系統是很大的災難，更好的方式是：將snn的進程配置在另外一臺機器 上運行。
在hadoop中，namenode負責對HDFS的metadata的持久化存儲，并且處理來自客戶端的對HDFS的各種操作的交互反饋。為了保 證交互速度，HDFS文件系統的metadata是被load到namenode機器的內存中的，并且會將內存中的這些數據保存到磁盤進行持久化存儲。為 了保證這個持久化過程不會成為HDFS操作的瓶頸，hadoop采取的方式是：沒有對任何一次的當前文件系統的snapshot進行持久化，對HDFS最 近一段時間的操作list會被保存到namenode中的一個叫Editlog的文件中去。當重啟namenode時，除了 load fsImage意外，還會對這個EditLog文件中 記錄的HDFS操作進行replay，以恢復HDFS重啟之前的最終狀態。
而SecondaryNameNode，會周期性的將EditLog中記錄的對HDFS的操作合并到一個checkpoint中，然后清空 EditLog。所以namenode的重啟就會Load最新的一個checkpoint，并replay EditLog中 記錄的hdfs操作，由于EditLog中記錄的是從 上一次checkpoint以后到現在的操作列表，所以就會比較小。如果沒有snn的這個周期性的合并過程，那么當每次重啟namenode的時候，就會 花費很長的時間。而這樣周期性的合并就能減少重啟的時間。同時也能保證HDFS系統的完整性。
這就是SecondaryNameNode所做的事情。所以snn并不能分擔namenode上對HDFS交互性操作的壓力。盡管如此，當 namenode機器宕機或者namenode進程出問題時，namenode的daemon進程可以通過人工的方式從snn上拷貝一份metadata 來恢復HDFS文件系統。
至于為什么要將SNN進程運行在一臺非NameNode的 機器上，這主要出于兩點考慮：
-
可擴展性： 創建一個新的HDFS的snapshot需要將namenode中load到內存的metadata信息全部拷貝一遍，這樣的操作需要的內存就需要 和namenode占用的內存一樣，由于分配給namenode進程的內存其實是對HDFS文件系統的限制，如果分布式文件系統非常的大，那么 namenode那臺機器的內存就可能會被namenode進程全部占據。
-
容錯性： 當snn創建一個checkpoint的時候，它會將checkpoint拷貝成metadata的幾個拷貝。將這個操作運行到另外一臺機器，還可以提供分布式文件系統的容錯性。
配置將SecondaryNameNode運行在另外一臺機器上
HDFS的一次運行實例是通過在namenode機器上的$HADOOP_HOME/bin/start-dfs.sh（ 或者start-all.sh ） 腳本來啟動的。這個腳本會在運行該腳本的機器上啟動 namenode進程，而slaves機器上都會啟動DataNode進程，slave機器的列表保存在 conf/slaves文件中，一行一臺機器。并且會在另外一臺機器上啟動一個snn進程，這臺機器由 conf/masters文件指定。所以，這里需要嚴格注意，conf/masters 文件中指定的機器，并不是說jobtracker或者namenode進程要 運行在這臺機器上，因為這些進程是運行在 launch bin/start-dfs.sh或者 bin/start-mapred.sh(start-all.sh)的機器上的。所以，masters這個文件名是非常的令人混淆的，應該叫做 secondaries會比較合適。然后，通過以下步驟：
1.修改conf/core-site.xml
增加
<property>
<name>fs.checkpoint.period</name>
<value>3600</value>
<description>The number of seconds between two periodic checkpoints. </description>
</property>
<property>
<name>fs.checkpoint.size</name>
<value>67108864</value>
<description>The size of the current edit log (in bytes) that triggers a periodic checkpoint even if the fs.checkpoint.period hasn't expired. </description>
</property>
<property>
<name>fs.checkpoint.dir</name>
<value>/data/work/hdfs/namesecondary</value>
<description>Determines where on the local filesystem the DFS secondary name node should store the temporary images to merge. If this is a comma-delimited list of directories then the image is replicated in all of the directories for redundancy. </description>
</property>
fs.checkpoint.period表示多長時間記錄一次hdfs的鏡像。默認是1小時。
fs.checkpoint.size表示一次記錄多大的size，默認64M
2.修改conf/hdfs-site.xml
增加
<property>
<name>dfs.http.address</name>
<value>master:50070</value>
<description> The address and the base port where the dfs namenode web ui will listen on. If the port is 0 then the server will start on a free port. </description>
</property>
0.0.0.0改為namenode的IP地址
3.重啟hadoop，然后檢查是否啟動是否成功
登錄secondarynamenode所在的機器，輸入jps查看secondarynamenode進程
進入secondarynamenode的目錄/data/work/hdfs/namesecondary
正確的結果：
如果沒有，請耐心等待，只有到了設置的checkpoint的時間或者大小，才會生成。
4.恢復
制造namenode宕機的情況
1) kill 掉namenode的進程
[root@master name]# jps
11749 NameNode
12339 Jps
11905 JobTracker
[root@master name]# kill 11749
2)刪除dfs.name.dir所指向的文件夾，這里是/data/work/hdfs/name
[root@master name]# rm -rf *
刪除name目錄下的所有內容，但是必須保證name這個目錄是存在的
3）從secondarynamenode遠程拷貝namesecondary文件到namenode的namesecondary
[root@master hdfs]# scp -r slave-001:/data/work/hdfs/namesecondary/ ./
4）啟動namenode
[root@master /data]# hadoop namenode –importCheckpoint
正常啟動以后，屏幕上會顯示很多log，這個時候namenode就可以正常訪問了
5)檢查
使用hadoop fsck /user命令檢查文件Block的完整性
6）停止namenode，使用crrl+C或者會話結束
7）刪除namesecondary目錄下的文件（保存干凈）
[root@master namesecondary]# rm -rf *
8）正式啟動namenode
[root@master bin]# ./hadoop-daemon.sh start namenode
恢復工作完成，檢查hdfs的數據
9)balancer
在使用start-balancer.sh時，
默認使用1M/S(1048576)的速度移動數據(so slowly...)
修改hdfs-site.xml配置，這里我們使用的是20m/S
<property>
<name>dfs.balance.bandwidthPerSec</name>
<value>20971520</value>
<description> Specifies the maximum bandwidth that each datanode can utilize for the balancing purpose in term of the number of bytes per second. </description>
</property>
然后結果是導致job運行變得不穩定，出現一些意外的長map單元，某些reduce時間處理變長(整個集群負載滿滿的情況下，外加20m/s的balance)，據說淘寶的為10m/s，需要調整后實驗，看看情況如何。
hadoop balancer -threshold 5