當初我要是這么學習Nginx就好了!(多圖詳解)
原創【51CTO.com原創稿件】本文主要幫助大家熟悉 Nginx 有哪些應用場景、Nginx 特點和架構模型以及相關流程、Nginx 定制化開發的幾種模塊分類。讀完本文你將對 Nginx 有一定的認識。
圖片來自 Pexels
本文將圍繞如下幾個部分進行講解:
- Nginx 簡介及特點
- Nginx 應用場景
- Nginx 框架模型介紹
- Nginx 內部流程介紹
- Nginx 自定義模塊開發介紹
- Nginx 核心時間點模塊介紹
- Nginx 分流模塊介紹
- Nginx 動態 upstream 模塊介紹
- Nginx query_upstrem 模塊介紹
- Nginx query_conf 模塊介紹
- Nginx 共享內存支持 Redis 協議模塊介紹
- Nginx 日志回放壓測工具介紹
Nginx 簡介以及特點
Nginx (engine x) 是一個高性能的 Web 服務器和反向代理服務器,也是一個 IMAP/POP3/SMTP 服務器:
- 它由俄羅斯程序員 Igor Sysoev 于 2002 年開始開發。
- Nginx 是增長最快的 Web 服務器,市場份額已達 33.3%。
- 全球使用量排名第二,2011 年成立商業公司。
Nginx 社區分支:
- Openresty:作者 @agentzh(章宜春)開發的,最大特點是引入了 ngx_lua 模塊,支持使用 Lua 開發插件,并且集合了很多豐富的模塊,以及 Lua 庫。
- Tengine:主要是淘寶團隊開發。特點是融入了因淘寶自身的一些業務帶來的新功能。
- Nginx 官方版本,更新迭代比較快,并且提供免費版本和商業版本。
Nginx 源碼結構(代碼量大約 11 萬行 C 代碼):
- 源代碼目錄結構 Core(主干和基礎設置)
- Event(事件驅動模型和不同的 IO 復用模塊)
- HTTP(HTTP 服務器和模塊)
- Mail(郵件代理服務器和模塊)
- OS(操作系統相關的實現)
- Misc(雜項)
Nginx 特點如下:
- 反向代理,負載均衡器
- 高可靠性、單 Master 多 Worker 模式
- 高可擴展性、高度模塊化
- 非阻塞
- 事件驅動
- 低內存消耗
- 熱部署
Nginx 應用場景
Nginx 的應用場景如下:
- 靜態文件服務器
- 反向代理,負載均衡
- 安全防御
- 智能路由(企業級灰度測試、地圖 POI 一鍵切流)
- 灰度發布
- 靜態化
- 消息推送
- 圖片實時壓縮
- 防盜鏈
Nginx 框架模型介紹
進程組件角色:
- Master 進程:監視工作進程的狀態;當工作進程死掉后重啟一個新的;處理信號和通知工作進程。
- Worker 進程:處理客戶端請求,從主進程處獲得信號做相應的事情。
- Cache Loader 進程:加載緩存索引文件信息,然后退出。
- Cache Manager進程:管理磁盤的緩存大小,超過預定值大小后最少使用數據將被刪除。
Nginx 的框架模型如下圖:
框架模型流程如下圖:
Nginx 內部流程介紹
Nginx 框架模型流程如下圖:
Master 初始化流程,如下圖:
Worker 初始化:
Worker 初始化流程圖如下:
靜態文件請求 IO 流程如下圖:
HTTP 請求流程如下圖:
HTTP 請求 11 個階段,如下圖所示:
upstream模塊:
- 訪問第三方 Server 服務器
- 底層 HTTP 通信非常完善
- 異步非阻塞
- 上下游內存零拷貝,節省內存
- 支持自定義模塊開發
upstream 框架流程,如下圖:
upstream 內部流程,如下圖:
反向代理流程,如下圖:
Nginx 定制化模塊開發
Nginx 的模塊化設計特點如下:
- 高度抽象的模塊接口
- 模塊接口非常簡單,具有很高的靈活性
- 配置模塊的設計
- 核心模塊接口的簡單化
- 多層次、多類別的模塊設計
內部核心模塊:
Handler 模塊:接受來自客戶端的請求并構建響應頭和響應體。
Filter 模塊:過濾(filter)模塊是過濾響應頭和內容的模塊,可以對回復的頭和內容進行處理。它的處理時間在獲取回復內容之后,向用戶發送響應之前。
Upstream 模塊:使 Nginx 跨越單機的限制,完成網絡數據的接收、處理和轉發,純異步的訪問后端服務。
Load_Balance:負載均衡模塊,實現特定的算法,在眾多的后端服務器中,選擇一個服務器出來作為某個請求的轉發服務器。
ngx_lua 模塊:
- 腳本語言
- 內存開銷小
- 運行速度快
- 強大的 Lua 協程
- 非阻塞
- 業務邏輯以自然邏輯書寫
定制化開發 Demo
Handler 模塊:
- 編寫 config 文件
- 編寫模塊產生內容響應信息
- #配置文件:
- server {
- ...
- location test {
- test_counter on;
- }
- }
- #config
- ngx_addon_name=ngx_http_test_module
- HTTP_MODULES="$HTTP_MODULES ngx_http_test_module"
- NGX_ADDON_SRCS="$NGX_ADDON_SRCS $ngx_addon_dir/ngx_http_test_module.c"
- #ngx_http_test_module.c
- static ngx_int_t
- ngx_http_test_handler(ngx_http_request_t *r)
- {
- ngx_int_t rc;
- ngx_buf_t *b;
- ngx_chain_t out;
- ngx_http_test_conf_t *lrcf;
- ngx_str_t ngx_test_string = ngx_string("hello test");
- lrcf = ngx_http_get_module_loc_conf(r, ngx_http_test_module);
- if ( lrcf->test_counter == 0 ) {
- return NGX_DECLINED;
- }
- /* we response to 'GET' and 'HEAD' requests only */
- if ( !(r->method & (NGX_HTTP_GET|NGX_HTTP_HEAD)) ) {
- return NGX_HTTP_NOT_ALLOWED;
- }
- /* discard request body, since we don't need it here */
- rc = ngx_http_discard_request_body(r);
- if ( rc != NGX_OK ) {
- return rc;
- }
- /* set the 'Content-type' header */
- /*
- *r->headers_out.content_type.len = sizeof("text/html") - 1;
- *r->headers_out.content_type.data = (u_char *)"text/html";
- */
- ngx_str_set(&r->headers_out.content_type, "text/html");
- /* send the header only, if the request type is http 'HEAD' */
- if ( r->method == NGX_HTTP_HEAD ) {
- r->headers_out.status = NGX_HTTP_OK;
- r->headers_out.content_length_n = ngx_test_string.len;
- return ngx_http_send_header(r);
- }
- /* set the status line */
- r->headers_out.status = NGX_HTTP_OK;
- r->headers_out.content_length_n = ngx_test_string.len;
- /* send the headers of your response */
- rc = ngx_http_send_header(r);
- if ( rc == NGX_ERROR || rc > NGX_OK || r->header_only ) {
- return rc;
- }
- /* allocate a buffer for your response body */
- b = ngx_pcalloc(r->pool, sizeof(ngx_buf_t));
- if ( b == NULL ) {
- return NGX_HTTP_INTERNAL_SERVER_ERROR;
- }
- /* attach this buffer to the buffer chain */
- out.buf = b;
- out.next = NULL;
- /* adjust the pointers of the buffer */
- b->pos = ngx_test_string.data;
- b->last = ngx_test_string.data + ngx_test_string.len;
- b->memory = 1; /* this buffer is in memory */
- b->last_buf = 1; /* this is the last buffer in the buffer chain */
- /* send the buffer chain of your response */
- return ngx_http_output_filter(r, &out);
- }
Nginx 核心時間點模塊介紹
解決接入層故障定位慢的問題,幫助 OP 快速判定問題根因,優先自證清白,提高接入層高效的生產力。
Nginx 分流模塊介紹
Nginx 分流模塊特點如下:
- 實現非常靈活的動態的修改策略從而進行切流量。
- 實現平滑無損的方式進行流量的切換。
- 通過秒級切換流量可以縮小影響范圍,從而減少損失。
- 按照某一城市或者某個特征,秒級進行切換流量或者禁用流量。
- 容忍單機房級別容量故障,縮短了單機房故障的止損時間。
- 快速的將流量隔離或者流量抽樣。
- 高效的灰度測試,提高生產力。
Nginx 動態 upstream 模塊介紹
讓接入層可以適配動態調度的云環境,實現服務的平滑上下線、彈性擴/縮容。
從而提高接入層高效的生產力以及穩定性,保證業務流量的平滑無損。
Nginx query_upstream 模塊介紹
鏈路追蹤,梳理接口到后端鏈路的情況。查詢 location 接口對應 upstream server 信息。
Nginx query_conf 模塊介紹
獲取 Nginx 配置文件格式化為 json 格式信息:
Nginx 共享內存支持 Redis 協議模塊介紹
根據配置文件來動態的添加共享內存:
- https://github.com/lidaohang/ngx_shm_dict
ngx_shm_dict:共享內存核心模塊(紅黑樹,隊列)
ngx_shm_dict_manager:添加定時器事件,定時的清除共享內存中過期的 Key,添加讀事件,支持 Redis 協議,通過 redis-cli get,set,del,ttl
ngx_shm_dict_view:共享內存查看
Nginx 日志回放壓測工具
解析日志進行回放壓測,模擬后端服務器慢等各種異常情況 :
- https://github.com/lidaohang/playback-testing
方案說明:
- 客戶端解析 access.log 構建請求的 host,port,url,body。
- 把后端響應時間,后端響應狀態碼,后端響應大小放入 header 頭中。
- 后端服務器獲取相應的 header,進行模擬響應 body 大小,響應狀態碼,響應時間。
使用方式:
- 拷貝需要測試的 access.log 的日志到 logs 文件夾里面。
- 搭建需要測試的 Nginx 服務器,并且配置 upstream 指向后端服務器斷端口
- 啟動后端服務器實例
- server/backserver/main.go
- 進行壓測
- bin/wrk -c30 -t1 -s conf/nginx_log.lua http://localhost:8095
【51CTO原創稿件,合作站點轉載請注明原文作者和出處為51CTO.com】