HTTP 請求頭中的 X-Forwarded-For
背景
通過名字就知道,X-Forwarded-For 是一個 HTTP 擴(kuò)展頭部。HTTP/1.1(RFC 2616)協(xié)議并沒有對它的定義,它最開始是由 Squid 這個緩存代理軟件引入,用來表示 HTTP 請求端真實(shí) IP。如今它已經(jīng)成為事實(shí)上的標(biāo)準(zhǔn),被各大 HTTP 代理、負(fù)載均衡等轉(zhuǎn)發(fā)服務(wù)廣泛使用,并被寫入 RFC 7239(Forwarded HTTP Extension)標(biāo)準(zhǔn)之中。
X-Forwarded-For 請求頭格式非常簡單,就這樣:
可以看到,XFF 的內(nèi)容由「英文逗號 + 空格」隔開的多個部分組成,最開始的是離服務(wù)端最遠(yuǎn)的設(shè)備 IP,然后是每一級代理設(shè)備的 IP。
如果一個 HTTP 請求到達(dá)服務(wù)器之前,經(jīng)過了三個代理 Proxy1、Proxy2、Proxy3,IP 分別為 IP1、IP2、IP3,用戶真實(shí) IP 為 IP0,那么按照 XFF 標(biāo)準(zhǔn),服務(wù)端最終會收到以下信息:
Proxy3 直連服務(wù)器,它會給 XFF 追加 IP2,表示它是在幫 Proxy2 轉(zhuǎn)發(fā)請求。列表中并沒有 IP3,IP3 可以在服務(wù)端通過 Remote Address 字段獲得。我們知道 HTTP 連接基于 TCP 連接,HTTP 協(xié)議中沒有 IP 的概念,Remote Address 來自 TCP 連接,表示與服務(wù)端建立 TCP 連接的設(shè)備 IP,在這個例子里就是 IP3。
Remote Address 無法偽造,因為建立 TCP 連接需要三次握手,如果偽造了源 IP,無法建立 TCP 連接,更不會有后面的 HTTP 請求。不同語言獲取 Remote Address 的方式不一樣,例如 php 是 $_SERVER["REMOTE_ADDR"]
,Node.js 是 req.connection.remoteAddress
,但原理都一樣。
問題
有了上面的背景知識,開始說問題。我用 Node.js 寫了一個最簡單的 Web Server 用于測試。HTTP 協(xié)議跟語言無關(guān),這里用 Node.js 只是為了方便演示,換成任何其他語言都可以得到相同結(jié)論。另外本文用 Nginx 也是一樣的道理,如果有興趣,換成 Apache 或其他 Web Server 也一樣。
下面這段代碼會監(jiān)聽 9009
端口,并在收到 HTTP 請求后,輸出一些信息:
這段代碼除了前面介紹過的 Remote Address 和 X-Forwarded-For
,還有一個 X-Real-IP
,這又是一個自定義頭部字段。X-Real-IP
通常被 HTTP 代理用來表示與它產(chǎn)生 TCP 連接的設(shè)備 IP,這個設(shè)備可能是其他代理,也可能是真正的請求端。需要注意的是,X-Real-IP
目前并不屬于任何標(biāo)準(zhǔn),代理和 Web 應(yīng)用之間可以約定用任何自定義頭來傳遞這個信息。
現(xiàn)在可以用域名 + 端口號直接訪問這個 Node.js 服務(wù),再配一個 Nginx 反向代理:
我的 Nginx 監(jiān)聽 80
端口,所以不帶端口就可以訪問 Nginx 轉(zhuǎn)發(fā)過的服務(wù)。
測試直接訪問 Node 服務(wù):
由于我的電腦直接連接了 Node.js 服務(wù),Remote Address 就是我的 IP。同時我并未指定額外的自定義頭,所以后兩個字段都是 undefined。
再來訪問 Nginx 轉(zhuǎn)發(fā)過的服務(wù):
這一次,我的電腦是通過 Nginx 訪問 Node.js 服務(wù),得到的 Remote Address 實(shí)際上是 Nginx 的本地 IP。而前面 Nginx 配置中的這兩行起作用了,為請求額外增加了兩個自定義頭:
實(shí)際上,在生產(chǎn)環(huán)境中部署 Web 應(yīng)用,一般都采用上面第二種方式,有很多好處。但這就引入一個隱患:很多 Web 應(yīng)用為了獲取用戶真正的 IP,從 HTTP 請求頭中獲取 IP。
HTTP 請求頭可以隨意構(gòu)造,我們通過 curl 的 -H
參數(shù)構(gòu)造 X-Forwarded-For
和 X-Real-IP
,再來測試一把。
直接訪問 Node.js 服務(wù):
對于 Web 應(yīng)用來說,X-Forwarded-For
和 X-Real-IP
就是兩個普通的請求頭,自然就不做任何處理原樣輸出了。這說明,對于直連部署方式,除了從 TCP 連接中得到的 Remote Address 之外,請求頭中攜帶的 IP 信息都不能信。
訪問 Nginx 轉(zhuǎn)發(fā)過的服務(wù):
這一次,Nginx 會在 X-Forwarded-For
后追加我的 IP;并用我的 IP 覆蓋 X-Real-IP
請求頭。這說明,有了 Nginx 的加工,X-Forwarded-For
最后一節(jié)以及 X-Real-IP
整個內(nèi)容無法構(gòu)造,可以用于獲取用戶 IP。
用戶 IP 往往會被使用與跟 Web 安全有關(guān)的場景上,例如檢查用戶登錄地區(qū),基于 IP 做訪問頻率控制等等。這種場景下,確保 IP 無法構(gòu)造更重要。經(jīng)過前面的測試和分析,對于直接面向用戶部署的 Web 應(yīng)用,必須使用從 TCP 連接中得到的 Remote Address;對于部署了 Nginx 這樣反向代理的 Web 應(yīng)用,在正確配置了 Set Header 行為后,可以使用 Nginx 傳過來的 X-Real-IP
或 X-Forwarded-For
最后一節(jié)(實(shí)際上它們一定等價)。
那么,Web 應(yīng)用自身如何判斷請求是直接過來,還是由可控的代理轉(zhuǎn)發(fā)來的呢?在代理轉(zhuǎn)發(fā)時增加額外的請求頭是一個辦法,但是不怎么保險,因為請求頭太容易構(gòu)造了。如果一定要這么用,這個自定義頭要夠長夠罕見,還要保管好不能泄露出去。
判斷 Remote Address 是不是本地 IP 也是一種辦法,不過也不完善,因為在 Nginx 所處服務(wù)器上訪問,無論直連還是走 Nginx 代理,Remote Address 都是 127.0.0.1。這個問題還好通??梢院雎裕闊┑氖牵聪虼矸?wù)器和實(shí)際的 Web 應(yīng)用不一定部署在同一臺服務(wù)器上。所以更合理的做法是收集所有代理服務(wù)器 IP 列表,Web 應(yīng)用拿到 Remote Address 后逐一比對來判斷是以何種方式訪問。
通常,為了簡化邏輯,生產(chǎn)環(huán)境會封掉通過帶端口直接訪問 Web 應(yīng)用的形式,只允許通過 Nginx 來訪問。那是不是這樣就沒問題了呢?也不見得。
首先,如果用戶真的是通過代理訪問 Nginx,X-Forwarded-For
最后一節(jié)以及 X-Real-IP
得到的是代理的 IP,安全相關(guān)的場景只能用這個,但有些場景如根據(jù) IP 顯示所在地天氣,就需要盡可能獲得用戶真實(shí) IP,這時候 X-Forwarded-For
中第一個 IP 就可以排上用場了。這時候需要注意一個問題,還是拿之前的例子做測試:
X-Forwarded-For
最后一節(jié)是 Nginx 追加上去的,但之前部分都來自于 Nginx 收到的請求頭,這部分用戶輸入內(nèi)容完全不可信。使用時需要格外小心,符合 IP 格式才能使用,不然容易引發(fā) SQL 注入或 XSS 等安全漏洞。
結(jié)論
- 直接對外提供服務(wù)的 Web 應(yīng)用,在進(jìn)行與安全有關(guān)的操作時,只能通過 Remote Address 獲取 IP,不能相信任何請求頭;
- 使用 Nginx 等 Web Server 進(jìn)行反向代理的 Web 應(yīng)用,在配置正確的前提下,要用
X-Forwarded-For
最后一節(jié) 或X-Real-IP
來獲取 IP(因為 Remote Address 得到的是 Nginx 所在服務(wù)器的內(nèi)網(wǎng) IP);同時還應(yīng)該禁止 Web 應(yīng)用直接對外提供服務(wù); - 在與安全無關(guān)的場景,例如通過 IP 顯示所在地天氣,可以從
X-Forwarded-For
靠前的位置獲取 IP,但是需要校驗 IP 格式合法性;
PS:網(wǎng)上有些文章建議這樣配置 Nginx,其實(shí)并不合理:
這樣配置之后,安全性確實(shí)提高了,但是也導(dǎo)致請求到達(dá) Nginx 之前的所有代理信息都被抹掉,無法為真正使用代理的用戶提供更好的服務(wù)。還是應(yīng)該弄明白這中間的原理,具體場景具體分析。