日韩精品一区二区三区在线视频放-无码中文字幕V?一区二区-成年片免费观看视频-国内少妇人妻丰满av-国产精品中文字幕免费观看-亚洲成人久久一区二区三区-国内少妇偷人精品视频无缓冲-一区二区国产精品日本一区二区三区在线网

ARTICLE DETAIL

資訊詳情

深耕商務建站與企業(yè)官網(wǎng)運營的一線實戰(zhàn)洞察。

Zabbix監(jiān)控Nginx:stub_status+UserParameter配置實戰(zhàn)指南

Zabbix監(jiān)控Nginx:stub_status+UserParameter配置實戰(zhàn)指南 Nginx 監(jiān)控這件事很多人一開始想復雜了。Zabbix 要拿到 Nginx 的運行狀態(tài)并不需要裝額外探針也不一定非要解析訪問日志最穩(wěn)定的入口其實是 Nginx 自帶的 stub_status 狀態(tài)頁。只要把它打開再用 Zabbix Agent 把里面的幾個數(shù)字讀回來就能完成請求量、并發(fā)連接、讀寫狀態(tài)的監(jiān)控再配上觸發(fā)器和圖形連接數(shù)異常、請求速率突變這些情況都能直接看到。這篇內(nèi)容按實際落地順序來拆先講 Nginx 狀態(tài)頁每個字段是什么意思再講怎么讓 Zabbix Agent 把數(shù)據(jù)采回來然后是 Zabbix 前端里的監(jiān)控項、觸發(fā)器和圖形怎么配最后做一輪實測把請求打起來再去看統(tǒng)計結(jié)果怎么解讀。適合剛接觸 Zabbix 監(jiān)控 Nginx 的人也適合已經(jīng)在用 shell 腳本采集、但想轉(zhuǎn)成 Zabbix 規(guī)范化監(jiān)控的人。1. 先搞清楚 nginx 狀態(tài)頁Zabbix 監(jiān)控 Nginx 的數(shù)據(jù)從哪來1.1 stub_status 輸出字段對照Zabbix 監(jiān)控 Nginx底層數(shù)據(jù)源不是日志而是 Nginx 自己維護的計數(shù)器。只要在 Nginx 配置里啟用 stub_status訪問狀態(tài)頁就能看到一小段純文本Active connections: 291 server accepts handled requests 16630948 16630948 31070465 Reading: 6 Writing: 179 Waiting: 106這段文本雖然短但每個字段都有明確含義。字段含義類型Active connections當前活動連接數(shù)瞬時值acceptsNginx 啟動以來累計接受的客戶端連接總數(shù)累計值handled成功處理的連接總數(shù)累計值requests累計處理的客戶端請求總數(shù)累計值Reading正在讀取請求頭的連接數(shù)瞬時值Writing正在讀取請求體、處理請求或?qū)戫憫倪B接數(shù)瞬時值Waiting空閑的 keep-alive 連接數(shù)瞬時值第一行Active connections是當前活動連接數(shù)。注意它包含后面 Reading、Writing、Waiting 三類的總和所以只要 Nginx 活著這個數(shù)值通常不會是 0。第二行是固定表頭server accepts handled requests。第三行的三個數(shù)字分別對應表頭都是只增不減的累計計數(shù)器只有 Nginx 重啟才會歸零。第四行的 Reading、Writing、Waiting 是三個瞬時值。一個請求從進入到結(jié)束通常會依次經(jīng)過 Reading、Writing 兩個階段最后進入 Waiting或者直接關閉連接。這幾個字段之間的換算關系是Active connections Reading Writing Waiting。理解這個關系后面看圖形和觸發(fā)器才不會被數(shù)字騙到。1.2 哪些指標值得接進 Zabbix不是每個字段都必須接進來但下面這幾個我建議至少都要有。請求速率是最核心的指標對應 requests 計數(shù)器看的是單位時間內(nèi)處理了多少請求也就是平時說的 QPS。只看累計值沒有意義必須換算成速率。新建連接速率對應 accepts 計數(shù)器看的是單位時間內(nèi)來了多少新連接。這個值和 QPS 的區(qū)別在于keep-alive 生效的情況下一個連接上可以連續(xù)發(fā)多個請求所以請求速率通常遠大于連接速率。當前并發(fā)連接數(shù)對應 Active connections是最直觀的負載指標。但它不能單獨說明問題必須結(jié)合 Reading、Writing、Waiting 一起看。Reading 如果持續(xù)偏高說明有一些客戶端請求頭發(fā)得很慢或者請求頭一直沒發(fā)完。Writing 持續(xù)偏高說明 Nginx 正在大量往客戶端寫響應這時候要關注帶寬和上游服務能不能跟上。Waiting 高反而是正?,F(xiàn)象說明大量連接是空閑 keep-alive對靜態(tài)資源或高并發(fā) Web 服務很常見。把這些字段全部接進 Zabbix才算真正把 Nginx 的運行狀態(tài)看完整。2. 環(huán)境準備與最小配置讓 Nginx 先吐出狀態(tài)數(shù)據(jù)2.1 確認 Nginx 是否支持 stub_statusstub_status 不是所有 Nginx 都默認包含。編譯 Nginx 時如果沒有加--with-http_stub_status_module這個功能就不存在配置寫了也會報錯。先檢查當前 Nginx 有沒有這個模塊nginx -V 21 | grep -o http_stub_status_module如果輸出里有http_stub_status_module說明支持。如果沒有有兩個方向重新編譯 Nginx 時加上這個模塊或者換成已經(jīng)默認包含該模塊的發(fā)行版軟件包。很多發(fā)行版和官方倉庫自帶的 Nginx 都已經(jīng)開啟了這個模塊但自編譯版本一定要單獨確認。這里提醒一下執(zhí)行nginx -V時編譯參數(shù)是在標準錯誤輸出里所以我加了21把錯誤輸出重定向到同一路。很多人第一次只看第一行 version以為不支持其實是沒看全。2.2 Nginx 狀態(tài)頁配置示例與安全限制確認模塊存在后在 Nginx 的 server 配置里加一個 location。以下是一份最小配置server { listen 80; server_name _; location /nginx_status { stub_status on; access_log off; allow 127.0.0.1; deny all; } }這里最關鍵的是allow和deny。stub_status 本身沒有任何認證機制任何人能訪問就能看到你的連接數(shù)、請求量和連接狀態(tài)。如果把狀態(tài)頁暴露到公網(wǎng)內(nèi)部運行信息等于公開了。所以默認只允許本機訪問是最穩(wěn)妥的做法。如果你的 Zabbix Agent 和 Nginx 不在同一臺機器上不要直接把deny all刪掉應該改成只允許采集機 IP 訪問location /nginx_status { stub_status on; access_log off; allow 192.168.1.100; deny all; }改完配置先檢查再重載nginx -t nginx -s reloadnginx -t這一步不能省。stub_status 的 location 如果配置在錯誤的上下文里或者和已有配置沖突reload 會直接失敗。2.3 用 curl 驗證狀態(tài)頁是否生效配置完成之后先在 Nginx 所在機器上驗證curl -s http://127.0.0.1/nginx_status如果能看到開頭那段文本說明狀態(tài)頁已經(jīng)可以訪問了。如果返回 404說明 location 沒生效或者配置在了錯誤的 server 塊里。如果返回 403大概率是deny all生效了而你的請求來源 IP 不在allow列表里。這里有個容易忽略的點如果你的 Nginx 不是監(jiān)聽 80 端口或者同時有 HTTPSURL 里要帶上實際協(xié)議和端口例如http://127.0.0.1:8080/nginx_status。先花一分鐘把 curl 這步跑通后面會省很多時間。3. Zabbix Agent 接入一條 UserParameter 和一個監(jiān)控項的關系3.1 安裝與基礎配置 Zabbix AgentZabbix Agent 是部署在 Nginx 所在機器上的采集程序。它的作用和 Nginx 狀態(tài)頁互補狀態(tài)頁負責提供數(shù)據(jù)Agent 負責把數(shù)據(jù)讀出來再交給 Zabbix Server。安裝方式要看你的系統(tǒng)和 Zabbix 版本直接使用官方倉庫安裝 zabbix-agent 即可。裝完需要修改配置文件常見要確認三個參數(shù)Server192.168.1.10 ServerActive192.168.1.10 Hostnameweb01Server是允許給這臺 Agent 下發(fā)被動采集請求的 Zabbix Server 地址。ServerActive是主動上報要連接的 Server 地址。Hostname是 Agent 上報時使用的名字在 Zabbix 前端添加主機時要保持一致特別是主動檢查時Hostname 對不上會直接導致數(shù)據(jù)丟失。這里解釋一下被動檢查和主動檢查的區(qū)別。被動檢查是 Zabbix Server 主動連接 Agent 的 10050 端口要數(shù)據(jù)主動檢查是 Agent 主動連接 Server 的 10051 端口上報數(shù)據(jù)。自定義 UserParameter 兩種方式都支持但排查問題時的思路不一樣后面會詳細說。改完配置啟動服務systemctl restart zabbix-agent systemctl status zabbix-agent3.2 通過 UserParameter 把 nginx_status 轉(zhuǎn)成監(jiān)控項Zabbix Agent 默認不認識 nginx 的 key需要通過 UserParameter 來定義。UserParameter 的格式很簡單一個 key一個命令Agent 執(zhí)行命令把標準輸出作為監(jiān)控值返回。在/etc/zabbix/zabbix_agentd.d/目錄下創(chuàng)建一個 nginx.conf寫入以下內(nèi)容UserParameternginx.active,/usr/bin/curl -s --max-time 3 http://127.0.0.1/nginx_status | awk /Active connections/{print $3} UserParameternginx.accepts,/usr/bin/curl -s --max-time 3 http://127.0.0.1/nginx_status | awk NR3{print $1} UserParameternginx.handled,/usr/bin/curl -s --max-time 3 http://127.0.0.1/nginx_status | awk NR3{print $2} UserParameternginx.requests,/usr/bin/curl -s --max-time 3 http://127.0.0.1/nginx_status | awk NR3{print $3} UserParameternginx.reading,/usr/bin/curl -s --max-time 3 http://127.0.0.1/nginx_status | awk /Reading/{print $2} UserParameternginx.writing,/usr/bin/curl -s --max-time 3 http://127.0.0.1/nginx_status | awk /Writing/{print $4} UserParameternginx.waiting,/usr/bin/curl -s --max-time 3 http://127.0.0.1/nginx_status | awk /Waiting/{print $6}逐個拆一下。每行都是一個 key例如nginx.active。后面的命令先用 curl 抓取狀態(tài)頁再用 awk 提取對應字段。awk 的寫法要特別注意。第三行的 accepts、handled、requests 是三個連續(xù)數(shù)字所以分別用NR3定位到第三行再打印第 1、2、3 列。Reading、Writing、Waiting 在同一行里所以要先用正則匹配到這一行再打印對應列。Writing 是第 4 列Waiting 是第 6 列這個順序很多人會弄錯。命令里的--max-time 3不是隨便加的。如果狀態(tài)頁異常導致 curl 一直掛住Agent 執(zhí)行這個 UserParameter 就會卡住嚴重時會占滿 Agent 的檢查線程影響這臺機器上的其他監(jiān)控項。加上超時時間最壞 3 秒也會退出。改完配置后重啟 Agentsystemctl restart zabbix-agent3.3 先用 zabbix_get 還是前端測試功能配置完 UserParameter不要急著去 Zabbix 前端創(chuàng)建主機先在命令行驗證一遍 key 能不能查到值。在有 zabbix-get 工具的機器上執(zhí)行它通常在 Zabbix Server 或 Proxy 上zabbix_get -s 192.168.1.20 -k nginx.requests返回一個數(shù)字說明這條鏈路通了。如果提示 Not supported 或者沒有輸出先不要懷疑 Zabbix 配置回到 Nginx 機器上直接執(zhí)行那條 UserParameter 命令看有沒有結(jié)果。這里有個容易踩的坑你手動執(zhí)行命令時用的是 root 用戶而 Zabbix Agent 運行時的用戶通常是 zabbix兩個用戶的環(huán)境變量、權(quán)限、可執(zhí)行路徑可能都不一樣。比如 zabbix 用戶沒有權(quán)限訪問某個目錄或者 SELinux 攔截了 zabbix 用戶執(zhí)行 curl都會導致手動執(zhí)行正常、Agent 執(zhí)行失敗。新版 Zabbix 前端在監(jiān)控項配置里也有一個 Test 按鈕可以直接測試當前主機上的 key返回結(jié)果和報錯更直觀。實際排查時我一般按三個地方順序看Agent 所在機器手動執(zhí)行命令、zabbix_get 從 Server 端測試、前端 Test 按鈕看報錯。4. 創(chuàng)建主機、監(jiān)控項、觸發(fā)器數(shù)據(jù)到告警的完整鏈路4.1 在 Zabbix 前端添加主機與監(jiān)控項命令行驗證通過后進入 Zabbix Web 界面按照 配置 → 主機 → 創(chuàng)建主機 的路徑添加一臺主機。填寫主機名時要注意Agent 配置文件里的 Hostname 和這里的主機名必須一致否則主動檢查會失敗。接口配置里選擇 Agent填寫 Nginx 所在機器的 IP 和默認端口 10050。添加監(jiān)控項有兩條路線。一條是直接鏈接模板Zabbix 模板庫里有 Nginx by HTTP、Nginx by Zabbix agent 2 這類現(xiàn)成模板不同版本的模板數(shù)量和名稱會有差異底層采集方式也是去讀狀態(tài)頁適合不想自己維護 key 的人。另一條是手動創(chuàng)建監(jiān)控項用剛才定義的 UserParameter 鍵值自由度更高也更容易理解每個數(shù)字怎么來的。如果你是第一次做我更建議先手動創(chuàng)建。原因很簡單自動模板會隱藏很多細節(jié)一旦出了問題你很難判斷是狀態(tài)頁的問題、Agent 的問題還是模板映射的問題。手動創(chuàng)建一遍等于把鏈路里的每個環(huán)節(jié)都摸清楚了。手動創(chuàng)建監(jiān)控項時以nginx.requests為例名稱Nginx Requests類型Zabbix Agent鍵值nginx.requests信息類型數(shù)字無正負更新間隔1m 或 30s 都可以歷史數(shù)據(jù)保留7d趨勢數(shù)據(jù)保留365d其他幾個 key 按同樣方法創(chuàng)建。4.2 請求速率、連接數(shù)怎么存儲和計算單位這里要解決一個關鍵問題accepts、handled、requests 這三個字段是累計值直接存進 Zabbix 只能看到一根一直向上的線很難判斷當前請求量到底是多少。所以必須讓 Zabbix 把累計值換算成速率。在 Zabbix 監(jiān)控項配置里有一個字段叫“存儲值”可以選“原樣存儲”“增量簡單變化”和“增量每秒速率”。存儲方式適用場景示例原樣存儲瞬時值當前是多少就存多少active、reading、writing、waiting增量簡單變化累計值的兩次差值accepts 每次變化量增量每秒速率累計值換算成每秒速率requests、accepts、handled對 requests、accepts、handled 這三個累計計數(shù)器應該選擇“增量每秒速率”單位寫成 req/s 或 conn/s。這樣 Zabbix 會在后臺自動計算兩次采集之間的差值再除以時間間隔得到每秒速率。如果你不想在監(jiān)控項里改存儲方式也可以用預處理步驟里的“每秒更改量”來實現(xiàn)同樣效果。兩者本質(zhì)上是一樣的看你習慣哪種。唯一要注意的是如果 Nginx 在兩次采集之間重啟過計數(shù)器歸零速率可能會出現(xiàn)一次很大的負值或異常值統(tǒng)計圖形上會出現(xiàn)明顯的斷點這是正?,F(xiàn)象不是系統(tǒng)崩潰。active、reading、writing、waiting 這四個瞬時值就保持“原樣存儲”它們的數(shù)值本身就是當前狀態(tài)不需要做速率換算。4.3 觸發(fā)器和告警閾值怎么定監(jiān)控項建好后數(shù)據(jù)會不斷進入 Zabbix但沒人盯著圖形的話異常還是發(fā)現(xiàn)不了。觸發(fā)器的意義就是自動判斷數(shù)值是否超過預期。觸發(fā)器配置路徑是 配置 → 主機 → 觸發(fā)器 → 創(chuàng)建觸發(fā)器。以活躍連接數(shù)為例一個簡單表達式last(/web01/nginx.active)10000含義是當前活躍連接數(shù)大于 10000 時觸發(fā)警告。再比如請求速率min(/web01/nginx.requests,5m)5000含義是最近 5 分鐘請求速率平均值超過 5000 req/s 時觸發(fā)。閾值定多少沒有標準答案取決于你的業(yè)務。我建議先讓 Zabbix 跑兩三天積累一段基線數(shù)據(jù)再根據(jù)圖形里的峰值來定警告和嚴重閾值不要憑感覺拍腦袋。第一次設置可以把閾值放寬一點確認告警鏈路能正常觸發(fā)后再往回收。觸發(fā)器還可以設置恢復表達式也就是數(shù)值降到多少以下時自動恢復為正常。這個最好一起配好否則每次數(shù)值震蕩都會反復觸發(fā)、恢復告警會很吵。要測試告警鏈路的完整效果除了觸發(fā)器還需要配置好動作和通知方式。如果暫時沒配郵件或其他通知也可以先只做觸發(fā)器通過 Zabbix 首頁的告警記錄來確認觸發(fā)是否成功。5. 實測一輪用請求壓一壓再去看統(tǒng)計結(jié)果和圖形5.1 制造流量curl 循環(huán)或 ab 簡單壓測配置完成之后最關鍵的一步就是實測。沒有流量監(jiān)控圖形是一條平線你很難判斷數(shù)據(jù)到底有沒有采集成功。最簡單的測試方法是用 curl 發(fā)一批請求。在 Nginx 機器上執(zhí)行for i in $(seq 1 1000); do curl -s -o /dev/null http://127.0.0.1/; done這個循環(huán)會向本機 Nginx 發(fā)送 1000 次請求每次丟棄響應內(nèi)容。優(yōu)點是環(huán)境干凈不需要額外工具。缺點是速度不夠快產(chǎn)生的請求速率不會特別高。如果你機器上有 ab也就是 ApacheBench可以壓得更明顯一些ab -n 5000 -c 100 -k http://127.0.0.1/這條命令的含義是總共發(fā)送 5000 個請求同時保持 100 個并發(fā)連接-k表示啟用 keep-alive。ab 在測試時會持續(xù)請求能把 Nginx 的請求速率和活躍連接數(shù)明顯拉起來。執(zhí)行的時候建議一次只跑一種跑完等一分鐘讓 Zabbix 完成幾個采集周期再去前端看數(shù)據(jù)。如果立刻去看采集周期還沒到可能什么都看不到。5.2 分析 Latest data 和 Graphs進入 Zabbix 前端的“監(jiān)測 → 最新數(shù)據(jù)”選擇剛才創(chuàng)建的主機就能看到每條監(jiān)控項的當前值。這時候你看到的應該是有具體數(shù)字的綠色狀態(tài)而不是“不支持”或“無數(shù)據(jù)”。以剛才 ab 壓測為例壓測過程中可以看到 requests 數(shù)值沖上去壓測結(jié)束后又會回落。如果配上圖形把請求速率、活躍連接、Reading、Writing、Waiting 放在同一張圖里觀察能很直觀地看到整個請求生命周期的變化。如果你沒有在監(jiān)控項里單獨創(chuàng)建圖形也可以在儀表盤中添加一個圖表組件數(shù)據(jù)源選擇對應主機的監(jiān)控項。Zabbix 的圖表組件支持把多個監(jiān)控項疊加到同一張圖上非常適合對比 Active connections、Reading、Writing、Waiting 這幾個相關指標。5.3 從數(shù)據(jù)反向判斷 Nginx 狀態(tài)是否健康數(shù)據(jù)有了接下來的重點是怎么讀這些數(shù)字。先看 active connections 和 waiting 的關系。如果活躍連接數(shù)很高但 waiting 也很高說明大量連接是空閑 keep-aliveNginx 實際壓力不大只是在維持長連接。如果活躍連接數(shù)高waiting 卻很低說明連接都在真正干活這時候負載才是真的高。再看 accepts 和 handled 的對比。正常情況下這兩個數(shù)值應該非常接近。如果 handled 長期明顯小于 accepts說明有一部分連接沒有被 Nginx 成功處理可能原因是 worker_connections 配置過低連接數(shù)被系統(tǒng)層面拒絕了。通過 Zabbix 監(jiān)控這兩個值的曲線差值能比看錯誤日志更早發(fā)現(xiàn)問題。再看請求速率和連接速率的關系。用 requests 速率除以 accepts 速率可以得到平均每個連接上的請求數(shù)。如果這個值接近 1說明 keep-alive 基本沒起作用客戶端每次請求都新建連接連接效率很低。如果明顯大于 1說明 keep-alive 生效良好一個連接上處理了多個請求。Reading 和 Writing 是更細的觀察點。靜態(tài)資源站點在壓測時Writing 會明顯升高因為 Nginx 正在往客戶端輸出響應。如果 Writing 持續(xù)高位但 requests 并不高可能是網(wǎng)絡帶寬打滿了響應寫不出去。Reading 持續(xù)高位則要小心可能是客戶端請求頭發(fā)送緩慢也可能是存在慢連接這種情況即使活躍連接數(shù)不高worker 也可能被拖住。這些判斷不能只看一兩個采樣點最好結(jié)合 5 分鐘、1 小時的時間窗口來看趨勢。這也是為什么前面建議把趨勢數(shù)據(jù)保留時間設長一些。6. 常見問題排查與生產(chǎn)環(huán)境落地的邊界6.1 Agent 顯示 Not supported 時按什么順序查Zabbix Agent 返回 Not supported 是監(jiān)控 Nginx 時最常遇到的問題。很多人第一反應是去改 Zabbix 配置其實大多數(shù)時候問題出在 Agent 側(cè)。我的排查順序是固定的。第一步直接手動執(zhí)行那條 UserParameter 命令看有沒有輸出。如果命令本身就沒輸出說明狀態(tài)頁、curl、awk 里有一環(huán)斷了。第二步確認執(zhí)行用戶。Zabbix Agent 通常以 zabbix 用戶運行手動用 root 執(zhí)行成功不代表 zabbix 用戶能執(zhí)行。可以用su - zabbix -s /bin/bash -c 命令來模擬 Agent 的執(zhí)行環(huán)境。第三步看 Agent 日志默認在 /var/log/zabbix/zabbix_agentd.log。日志里會記錄 key 對應的錯誤信息比如命令找不到、執(zhí)行超時、權(quán)限不足等。第四步改完 UserParameter 后確認重啟了 Agent。UserParameter 是在 Agent 啟動時讀取的不重啟不會生效。第五步從 Server 端用 zabbix_get 測試連通性。這一步能區(qū)分問題是出在 Agent 執(zhí)行命令還是 Server 與 Agent 之間的網(wǎng)絡、端口、密鑰配置上。還有一個常見問題Linux 有 SELinux 或 AppArmor 環(huán)境時zabbix 用戶執(zhí)行 curl 連接本機端口可能會被攔截。手動執(zhí)行正常Agent 執(zhí)行就是失敗排查到這一步時要看安全審計日志確認是不是被策略攔截了。6.2 狀態(tài)頁不能直接暴露在公網(wǎng)前面配置 Nginx 狀態(tài)頁時寫了 allow 和 deny這個限制在正式環(huán)境同樣重要。stub_status 只有數(shù)據(jù)輸出沒有認證、沒有訪問控制任何人拿到狀態(tài)頁地址就能看到你所有虛擬主機的連接數(shù)、請求量等信息。這些數(shù)據(jù)單獨看不算機密但結(jié)合業(yè)務時序可能暴露促銷活動、低谷期等運營信息。所以生產(chǎn)環(huán)境要遵守幾個原則狀態(tài)頁只監(jiān)聽內(nèi)網(wǎng)地址或只允許內(nèi)網(wǎng)訪問。Zabbix Agent 與 Nginx 部署在一起時直接限制為 127.0.0.1。如果需要遠程采集優(yōu)先讓 Agent 本機讀取不要讓其他機器直接 HTTP 訪問狀態(tài)頁。Nginx 服務本身就開啟了公網(wǎng)監(jiān)聽時更要檢查 allow 列表不要把公網(wǎng)網(wǎng)段放進去。另外狀態(tài)頁建議使用獨立 location不要放在一個會匹配大量路徑的通用規(guī)則里避免被掃描工具順帶發(fā)現(xiàn)。access_log off也要保留否則每個狀態(tài)頁請求都會寫一條訪問日志白白增加磁盤 IO。6.3 多實例和規(guī)范化模板、宏、命名規(guī)則如果只有一臺機器手動創(chuàng)建監(jiān)控項沒什么問題。一旦機器多起來比如七八臺 Nginx 都要監(jiān)控逐臺手動創(chuàng)建就很痛苦而且容易漏配。這時候應該把監(jiān)控項、觸發(fā)器、圖形整理成模板。在模板里創(chuàng)建好 nginx.active、nginx.requests 這些監(jiān)控項和對應的觸發(fā)器再把模板鏈接到主機上所有主機自動繼承配置。后續(xù)要加閾值、加圖形只需要改模板一處所有主機同步生效。模板里的閾值可以做成宏比如{$NGINX_ACTIVE_WARN}、{$NGINX_REQ_HIGH}。這樣在不同業(yè)務機器上可以差異化覆蓋不用復制整個模板。比如 A 機器請求量本來就大警告閾值定 8000B 機器是小業(yè)務閾值定 1000。用宏就能在同一套模板下按主機單獨調(diào)整。key 的命名也要規(guī)范。前面用的 nginx.active、nginx.requests 就是比較清晰的命名方式。如果一臺機器上有多個 Nginx 實例建議在 key 里帶實例編號比如 nginx1.active、nginx2.active避免數(shù)據(jù)串臺。6.4 歷史數(shù)據(jù)保留和監(jiān)控頻率最后聊一下采集頻率和數(shù)據(jù)保留。對 Nginx 監(jiān)控來說30 秒到 1 分鐘的采集間隔已經(jīng)足夠。不要看到別人用 1 秒間隔就覺得越快越好越短的間隔意味著越多的 Agent 執(zhí)行、越多的 Server 輪詢和越大的存儲開銷。尤其是自定義 UserParameter 每次都執(zhí)行 curl 命令如果一臺機器上有 7 個 nginx key每個采集周期就有 7 次 curl。機器數(shù)量一多這個開銷會被明顯放大。如果想降低開銷有兩個方向。一個方向是把采集間隔統(tǒng)一調(diào)大成 1 分鐘。Nginx 的指標本來就是慢變量1 分鐘內(nèi)的尖峰對告警影響不大。另一個方向是寫一個單獨的采集腳本一次抓取狀態(tài)頁把結(jié)果寫到臨時文件再由多個 UserParameter 去讀文件避免每次都重新 curl。后一種方案適合機器多、又不愿意放寬采集間隔的場景但腳本邏輯和錯誤處理要寫得更嚴謹否則一個腳本崩了所有 nginx key 都會失效。歷史數(shù)據(jù)保留方面原始監(jiān)控值保留 7 到 14 天足夠趨勢數(shù)據(jù)保留 365 天用于回顧容量。如果你發(fā)現(xiàn)自己經(jīng)常要回溯更久之前的 Nginx 指標建議單獨導出到外部存儲不要無限拉長 Zabbix 的保留周期否則數(shù)據(jù)庫膨脹之后整個監(jiān)控系統(tǒng)的查詢速度都會受影響。我個人更建議按這個順序落地先把狀態(tài)頁和 curl 驗證跑通再用 zabbix_get 確認 key 有數(shù)據(jù)然后創(chuàng)建主機和監(jiān)控項最后才是觸發(fā)器和圖形??雌饋砹鞒谈L但每一步都有明確的成功標準出了問題也知道在哪一段排查。真正跑過一輪測試之后你會發(fā)現(xiàn) Zabbix 監(jiān)控 Nginx 并不復雜難點反而不是工具而是你愿不愿意把一個累計計數(shù)器、一個狀態(tài)頁字段吃透。
返回列表
PREV
查看更多資訊
NEXT
返回資訊列表
懂色AV一区二区三区| 五月激情视频| 亚洲激情AV| 热久久这里只有精品| 69综合网| 欧美性夜| 人人操人人狠狠操| 操淫穴亚洲五月丁香| 尤物视频视频官网| 久久欧美1卡2卡3| 一卡二卡三卡| 操逼逼福利视频| 欧美日韩国产电影| 亚欧性爱无码| 亚洲色图国产另类| 亚洲色欲天天天堂色欲网女| 青青草视频在线观看一区二区| 久久系列| www四虎| 久久精品无码熟妇一区二区三区视频导航 | 亚洲一区中文字幕| 日日干日日| 91色s| 91小视频| 偷拍盗拍亚洲色图图片| 色五月婷婷网| 一级@啪啪视频| 欧美综合第一| 亚洲四虎熟女精品| 欧美丝袜亚洲| 午夜噜噜噜| aaaa少妇高潮大片| 欧美综合色图片| 久久草在线综合视频| 色女综合| 国产在线视频二区| 色狠人在线99| 午夜超爽| 久久精品免视看国产成人﹣蜜臀av一区. 久久精品免视看国产成人,蜜臀av一区 | 四虎免费在线观看| 五月丁香| 少妇久久久| 青青草在线视频人人想人人上| 男人的天堂va| 亚洲熟妇丝袜在线观看| 九九精品无码专区免费| 日日碰视频网| 99热综合| 性爱乱伦视频免费| 夜夜骑日日| 玖玖婷婷五月天| 男人的天堂VA| 韩日男人的天堂| 久久午夜鲁丝片| 欧美成人精品一区二区三区| 另类小说综合网| 精品一二三区女同 | 久久永久无码人妻视频| 青青草啪啪网| 黄色高清无码无码破解免费暗网| 色臀AV| 99999精品成人| 老熟妇一区二区三区啪啪| 亚瑟国产精品久久无码| 美女天天干| 2011国产精品| 久久精品国产亚洲AV嘿嘿| 亚洲脚交| 五十路二区在线| 全球成人中文在线| 少妇一级无码精品| 亚洲影视高清第一页| 五月婷婷综合网| 百度百度日本操逼| 中文字幕在线2| 正在播放:深夜激情大战,自带黑丝袜全力输出骚穴 | 人妻内射一区二区在线视频| 日韩av乱伦| 国产白丝精品在线观看| 久久久久久久久久久久久久久久9| 成人性爱高清视频免费看| 超碰美国| 天天综合网视频91| 亚洲天天影视综合网| 欧美日韩性爱无码| 天天谢天天干| 免费试看60秒| 久久久18禁| 超碰97久久国| 蜜桃臀 后入 一区 二区 三区 在线| 色黄色美女大长腿午夜视频| 亚洲欧美国产va在线播放频| 大香蕉草草| 中文欧丝袜诱惑| 天天综合网1| 97硬碰| 操九九九九九九| 天天综合色| 丁香六月婷婷久久综合| 久久精视频美日韩在线视频| 97资源视频| 97网色| 97天天在线| 日韩伦理视频| 人妻丝袜无 码视频专区| 国产亚洲精品第一最新| 很很操在线| 精品高潮| 丰满熟女一区二区三区在线播放| 欧美色91| 无人区高清电影免费观看一区二区三 www.qmcai2.com | 艳尻美人妻| 婷婷情色综合网| 久久婷婷五月天| 福利视频一区二区微拍| 国产精品自产拍在线观看社区| 青春草莓视频在线观看网址| 91人妻少妇| 亚洲一区二区AV| 91精品国产综合久久久蜜臀酒店| 久久久天美| 夜夜騷av、一區二區| 97爱爱影院| 久久超碰、| 久久久久久波多野吉衣高潮| 欧美色爱综合| 无码高清操逼| 日韩另类| 久啪| 熟女高潮精品一区二区| 欧美亚洲中文| 色色福利| 蜜臀av在线播放一区二区三区| 亚洲色图久久成人| 日韩ab网| 亚洲第一男人天堂| 日本不卡二区| 俺去俺来也在线www| 爱我干综合| 少妇蜜汁| 一本色道久久综合熟妇| 欧美综合另类| 天操老女人| 97视频新免费| 99久久99久久免费精品蜜臀| 日韩字幕一区| 美国日韩黄色片| 精品 码产区一区二-1080P高清在线www-B029AV| 91超碰人人| 久草精品一区| 99婷婷一区二区| 岛国视频免费在线观看| 精品免费1| 热久久99999| av橘色网站| 99亚洲精品| 强奸乱伦大香蕉网| 久草男人天堂| 秋霞色色影院| a级理论午夜日本| 成人影 天天操 亚洲| 嗯嗯啊啊的视频| 国产剧情在线| 国产AV高清AV无码| 久久久性爱视频| 狠狠躁伊人中文字幕| 人人摸.人人色| 色狠狠综合| 久久爽爽精品| 国产精品亚洲色婷婷久久久| 91N欧美| 欧美熟女丝袜| 久操在97| 蜜臀无码视频在线观看| 黄色二级片网站| 亚洲性天堂| 天天综合网日韩7799| 久久极品伊人| 9I1性色影院| 啪啪视频亚洲第一| 精品无码人妻一区二区免费蜜桃| 色欲久久久久综合网| 久久九色| 欧美人妻熟女在线| 欧美日韩 强奸乱伦| 91性高| 亚洲伊人成综合成人网| 欧美亚洲综合色| 国产精品久久久久9999小说| 小情侣高清国产在线视频| 欧美日韩婷婷中文| 亚洲成人av电影在线| 96AV久久久| 久久一区二区三区四区五区| 可以免费观看的AV| 精品日日人妻| 青青草在线成人视频| 色臀AV| 亚州国产精品乱| 性生活性生大爱77AV国产| 国产亚洲精品美女久久久m| 欧美A√综合网 | 人妻天天爽天天爽三区| 蜜臀精品1区2区| 久久久久亚洲Av无码专区老牛影视 | 69久久| 亚洲日本韩国在线| 久久精品久久久久久久| 亚洲,欧美,春色,另类 | 人妻大香蕉| 99精品久久久久久久婷婷| 97视频在线观看高清资源| 狠狠色伊人亚洲综合网站色| 91 丝袜在线| 亚洲一区二区三区AV无码| 日日AAvv| 加勒比大香蕉视频在线| 久久久97| 精品中文日韩字幕视频| 久久思思热| 无遮挡男女激烈动态图| 色综合20p| 深田咏美亚洲精品福利社| 麻豆天美AV传媒第一页| 精品久一区免费| 日韩中文字幕精品一区在线| 久热精品在线| 黑人中出21连凳花野真衣| 亚洲性爱免费电影| 午夜噜噜噜| 99精品丰满人妻无| 日韩精品一区二区日韩| 97免费视频在线| 久久久96| 97久久精品不卡| 日本大片日本一区二区免费高清| 精品国产三级av韩国在线| 欧美玖玖爱免费玖玖| 爱我干综合| 日本熟妇浓毛hdsex| 欧美色图人妻| 欧美色图片91| 欧美性爱系列| 岛国爱情动作片在国产AV无码专区亚洲AV漫画| 五毛骚逼极品美女怕怕| 屌逼传媒| 懂色AV蜜臀无码精品APP| 思思热国产高清| 999综合色| 综合色图区| 视频国产成人精品日本亚洲18| 亚熟hd视频在线| 九九精品热| 2017人人操,人人摸| 亚洲自拍97| 激情四射五月天| 99色视频| 91成人精品在线播放| 伊人天天久久动态图| 久九9精品| 青青操少妇| 久99热| 亚洲性爱乱操x| 国产精品网址| 大香蕉手机在线| 丝袜无码a片| 男人天堂2019亚洲| 香蕉婷婷| 思思热在线| 亚洲 欧美 手机在线观看| 白丝1区2区3区| wwwcaobibi| 国产一区在线观看无码AV| 超碰2017| 97色香蕉| 中文字幕成人乱码熟女精品国50 | 一区,二区,三区网站| 久热九九| A 天堂在线观看视频| 黄色av网站在线播放| 草草草视频在线免费看| 成人怡红院| 东北女人高潮视频| 中文字幕欧美精品亚洲日韩蜜臀| 精品久操| 国产精品夜夜夜| 九9热伊人| 插入粉嫩少妇视频| 中日韩久久久免费看| 中文字幕女同在线| 欧美成人精品一区二区男人蜜臀| 超碰久草| 欧美日韩97| 久久69| 超碰97亚洲| 日本大香蕉综合网红本杳社区| 少妇人妻在线| 色噜噜人妻av中文字幕| 国产麻豆91欧美一区二区久久婷婷国产精品| 校园春色综合香蕉| 日韩欧美蜜桃精品久久中文字幕久久| 中文字幕欧美日本乱码一线二线| julia国产在线| 亚洲一区二区中文字幕| 久操大香蕉| 久久综合五月天| 女优免费一区二区永久| 久操九九九九九九九九九九九九九九九九九九九九九九九九九九九九 | 国产Av超碰| 超碰日韩人妻| 成人无码在线超碰网| 91午夜无码| 另类小色呦| 久操热线| 97网址www| 亚洲少妇激情视频| 大香蕉日亚洲日本亚大 | 青青草大香蕉在线视频| 激情久久日韩精品中文字幕麻豆| 精品国产乱码久久久久久久| 啊啊啊啊啊啊在线观看| 黄片qw| 日本不卡高清视频| 久久婷婷国产一区二区色| 亚洲官网在线| 蜜桃臀一区二区aV| 亚洲情欲| 中文字幕中文字幕一区二区| 久久99综合| 中文字幕亚洲欧美在线不卡| 97欧美色综合| 超碰97欧美| 国产成人自拍视频视频| 99热这里只有精品8| 国产91影院| 久久无码成人| 亚洲精品一区中文字幕乱码| 综合网97| 嗯嗯啊啊好爽| 免費黃色視頻觀看一| 中文字幕日韩国产传媒欧美精品| 久久日本熟女精品一区| 性色AV网站| 户外裸露刺激视频第一区| 日韩久久三区| 人人操人人精品影片| 一起草三级AV电影在线观看| 国产激情在线观看| 精品一久久久| 91亚洲欧美| 亚洲欧美日韩精品久| 天天干天天日天天射黄色大片| 夜精品久无码| 精品国模无码| 久久久精品国产亚洲伊人| 一区二区三区成人| 在线日韩精品一区二区三区| 丁香五月激情综合国产| 亚欧美综合网。| 九九精品无码专区免费| 国产 丝袜 欧美中文 另类| 国产www色在线观看| 综合亚洲欧美精品日韩?v| 夜夜嗨一区| 日本中文字幕一区| 久久一二三四不卡 | 久久伦理视频久久大香蕉视频| 国模一区二区三区| 青青草中日韩在线| 97在线观看免费视频l| 大香蕉综合| 天天日天天插| 99精品免费| 91久久久久久久久18| 国产女人高潮嗷嗷嗷叫小说 | 日本一级一级一级一级| 女人高潮抽搐喷水视频网站| 欧美性巨大╳╳╳╳╳高跟鞋| 操B视频日韩无码| 超碰欧美| 一起草欧美| 韩三级a视频在线观看| 操逼操2| 久久精品黄色| 视频一区二区免费在线| 日韩免费中文字幕视频| 伊人一级免费黄片| 国产乱伦性爱区| 热久久国产| 国产成人无码a| 日本性爱欧美性爱| 欧美久久伊人| 久久久无码国精品无码三区三区| 嗯啊啊啊轻点视频| 亚洲涩涩| 综合熟妇一区二区三区| 91天天综合日韩欧美| 综合夜夜| 国模私拍一区二区三区神乳| 日日操丁香五月天| 国产18精品亚洲精品| 亚洲欧美国产日本一区二区三区| 五月天婷婷影院| 日韩pv中文| 久久精品免视看国产成人﹣蜜臀av一区. 久久精品免视看国产成人,蜜臀av一区 | 无码操逼网| 亚洲欧美精品福利在线| 国产欧美伊人| 欧美日韩青操| 91欧美网| 超清福利精品视频在线| 丁香六月东京热| 大香蕉伊人色偷偷在线| 1234区中文字幕在线观看_青青草国产在线_日韩一区二区 | 欧美日本一区二区a人| · —级AA伦aa坐爱午夜极速ⅴA一区天天噪天天噪天天噪 | 97碰碰色| 日本操嫩b网| 囯产精品一区二区三区线|亚洲人成无码网WWW动漫|国产精品免费一级... | 超碰在线人妻中文字幕| 亚洲精品第一| 夜夜高潮夜夜爽高清视频一 | 日本操逼aaaaa| 丁香六月东京热| 天天日B狠狠操| 极品AV网站在线观看| 97欧美综合网| 丰满人妻无码一区二区三区| 欧美一级三级| 综合大香蕉美。| 国产精品精品系列在线观看| 韩国黄色片精品久久久| www.高清无码诱惑一区.com | 好湿好紧视频| 久久综合国产精品国产| 人人摸人人干| 91成人亚洲色图| 国产精品午夜福利亚洲综合网| 熟女被操视频网址| 九九九九日本| 国产精品成久久久久午夜午夜| 日本三级R| 97精品视频免费| 欧美 亚洲 在线| 91足交| 久久111| 亚洲少妇在线观看| 狠狠狠狠狠狠| yazhououmeizongya| 为用户提供免费看黄网址在线观看| 狠狠干狠狠色| julia ann久久| 国产精品亚洲天堂网址| 欧美一二三区四五区| 天堂成人网| 日韩精品中文字幕二区| 久久伦理视频久久大香蕉视频| 超碰97久久| 久热99| 欧洲亚洲人妻无码高清久久三区四区| 国产自产自拍| A男人的天堂| 中文字幕高清精品一区| 丝袜性亚洲| 日韩精品资源专区二区| 欧美午夜色妇色鬼| 日日干天天干夜夜爽| 夜夜操天| 亚洲啪啪视频免费| 99久久综合| 乱伦一区二区三区‘| 欧美国产视频| 大香蕉www.超碰| baiduhicn.com。| 久操操AV电影| 97一区二区三区视频| 人人操人人插人人摸人人干| 亚州高清色综合| 精品中文字幕一区二区| 操91| 99九九久久| 嗯嗯啊啊啊好爽| 少妇二级| 久久久久久69国产一区二区| 少妇内射www在线观看视频| 伊人精品久久网站| 日本 情色 1区2区3区| 人、人、摸,人、人、草| 国产一区二区在线看| 狼人久草| 91精品人| 九一性生活免费视频| 欧美疯狂做爰xxxx| 亚洲综合另类| 啊啊啊啊啊啊啊网址在线观看| 欧美黄片欧美黄片xxx| 欧美日韩不卡传媒| 日韩一999精品| 精品少妇人妻av久久免费| AV男人天堂网| 看看小穴| 日本欧美亚洲高清在线看| 97鸡把在线视频| 亚洲、日韩、综合、另类| 欧美性爱日韩性爱| 欧美日韩精品久久久久久久久东北老熟妇| 中文字幕视频一区视频二区| 国产精品久久久久中文字幕| 欧美大片91| 欧美 熟女 日韩| 综合色久| www.99中文字幕| 96超碰网| 青木玲在线不卡| 伊人网av| 2021久久国产综合精品青草| 中文字幕99999| jiujiujiujingpin| 亚洲熟妇丝袜在线观看| 全球成人中文在线| 国产一区免费午夜视频| 色图综合| 精品少妇高潮久久| 色九九九综合| 啊啊啊com| 精品一区二区亚洲国产| 国产精品永久免费10000| 蜜臀久久99精品久久久久久酒店| 亚av顶级裸体一区二区三区四区五区| 青青草密桃在线播放| 人妻中文字幕日韩电影| 中文AV制服乱伦| 三级色影综合网| 亚洲午夜蜜臀| 97爱b| 国产人伦精品一区二区三区| 男人的天堂亚洲| 国产粉嫩出水在线播放| 国产亚洲日韩在线三区黑人| 国产精品露脸在线观看| 精品久久久av无码免费| 不卡二三区人妻少妇| 欧美亚洲清纯| 91男人天堂网| 超碰午夜| 亚洲综合图片在线| 亚州高清色综合| 欧美大香蕉97| 日韩精品人妻系列无码天堂| 99热97| 久久久九97| 在线日韩视频| 日本色婷婷| 九九激情网| 亚洲国产激情国产av| 欧美专区日本专区| 免费在线观看国内色片网站网址| 精品高清一区二区三区三州| 综合在线导航一区| 伦伦成年午夜免费视频| 日本成人电影资源网| 国产性爱乱伦AV| 日韩A优精品在线观看| 曰韩操B| 日本一区二区三区四区免费观看| 国产综合网站在线播放 | 亚洲天堂,男人| 色情综合网| 午夜精品久久久久久久男人的天堂 | 日韩天天本| 亚洲drav色图| 干b网| 久久精品区| 男人的天堂2018| 久久的免费性爱视频| 黑人精品一区二区在线播放| 999亚洲国产视频| 中日韩欧美精品无码AⅤ一区二区| 日本在线不卡v二区| 国产吞精a级片激情电影| 五月天激情小说| 95精品在线| 人妻在线大香蕉| 亚洲清纯唯美| juliaann丝袜| 又粗又长又爽在线观看| 亚洲精品三| 久久国色天香香蕉| 色眯眯av| 久久免费少妇| 欧美大香蕉同搞| 婷婷五月天AV| 大香蕉99热| 久久后入制服| 欧美人与动性人交a| 青娱乐国产精品| 黑丝少妇在线观看| 东北女人操比视频| 欧成人精品一区二区三区| 欧州一区二区三区四区| 日韩精品一区二区三区色欲| 亚洲AV免费在线观看| 新精精品久久精品| 亚洲丝袜诱惑| 牛牛aV| 91 丝袜在线| 四虎精品永久在线观看| 亚洲图片色图欧美另类| 日本一本一区二区三区四区五区欧美日韩中文字幕 | 精品四五区| 国产99999久久精品| 91亚洲高清| a级理论午夜日本| 青青草国产亚洲精品久久| 欧美色交| 成年男人的天堂| 久久大香蕉97| 久久东京伊人一本到鬼色| 91在线欧色| 色约约一区=区三区| 性爱免费视频成人| 一区二区三区四区姦女| 久久久久99999| 探花一区在线| 日韩精品人妻中文字有码在线 | 久九干| 欧美丝袜中文字幕07在线| 波多野结衣先锋影音| 九九九九九九亚洲| 四虎免费在线观看| 99综合| 偷拍新久久| 国产女人极品高潮毛片| 亚洲AV高潮| 亚洲性网| 淫色网综合| 超碰欧美97| 九九热精品视频在线观看| 久操av在线| 福利伊人玖玖国产| 亚洲综合贴图91 | 日韩内射视频| 人人搞人人插人人操| 91久久精品国产| 天天射日日干| 花野真衣| 神马精品视频| 91麻豆天美| 日本免费人成视频播放120秒| 91久久久久| 国产主播福利| 亚洲国成人情色好看电影| 校园春色亚洲| 大香蕉十区| 国产精品午夜福利亚洲综合网| 九九精品美女高溯喷水| 夜草网站| 好屌色综合| 国产97视频免费观看| 九九人妻| 天天弄天天操| 欧美色图色综合| 丝袜性亚洲| 99国产在线 精品 视频| 嫩草黄页| 天天日天天色| 秋霞Av理论一级在线| 欧美色997| 性色av蜜臀av色欲aV| 五月天加勒比啪| 丁香五月久久| 久久AV无码AV| 日韩不卡网操逼中文字幕日韩| 啪一啪免费视频| 91中出视频| 青青欧美在线| 26uuu国产成人综合| 5252色欧美在线男人的天堂| 欧亚洲精品有视频| 国产一区自拍欧美日韩| 色哟哟av| 中文字幕精品人妻丝袜| 免费看A片毛毛片在线播| 97资源站日韩| 热久久九九热| 亚洲欧美日韩综合在线尤物| w w w.久久精品| 熟女网站最新| 国产欧美日韩女同性恋ww喷水精品| 欧美黄色手机在线观看| nuu12国产麻豆精品| 亚洲综合春色| 91动漫操逼视频| 亚洲欧洲激情卡通另类文学四射小说网站 | 色999亚洲人成色| 亚洲日韩视频二区| 欧美啪啪啪91| 欧美少妇性乱| 91蜜臀在线久久久久| 欧美顶级黄色大片免费| 亚洲无码精品AV久久久| 欧美特黄视频网站| 2019AV天堂| 爽爽淫人网| 国产一级不卡在线观看| 欧差乱伦二三| 欧美少妇高潮| 91少妇香蕉久久精品| 中文字幕啊啊啊在线观看视频| 伦伦成年午夜免费视频| 亚洲精品国语在线播放| rion磁力链接| 91色伦| 天天看高清麻豆| 亚洲色堂免费视频| 大香网伊人久久综合| 国产人妖视频一区在线观看| 性无码专区2020| 96久久久久久久| 国产热av| 激情文学 亚洲图片| 精品国产91久久久久久一区黄无| 91黑丝露脚| 91色久| 久久男女激情视频网站| 日韩无码黄色片| 亚洲一区二区三区中文字幕| 国产成人拍国产亚洲精品| 97欧美综合| 清纯唯美亚洲综合| 999热这里只有精品| 欧美最婬乱婬爆婬牲视频| 91激情综合| 麻豆 亚洲 97| 超碰人妻中文在线| 蜜臀AV成人精品蜜臀| 一区久久久二区| 欧洲无码一区二区| 久久久影院| 国产性感骚丝袜在线| 花野真衣| 青青草原综合久久大伊人精品| 天天影视网综合少妇| 国产在线76页| 久九九九九九九热| 中文字幕少妇色| 中文字幕乱码人妻一区二区三区,99精品 | 久久99深爱久久99精品| 骚女高跟AV在线| 超碰一区二区| 五月天精品| 欧美色图欧美| 91色图| av毛片aaaaa免费看| 情趣丝袜无码操逼视频| 亚洲97久久精品亚洲| 97摸视频| 少妇一线天久久久久久| 青青草在线视频人人想人人上 | 成人线上超碰| 91色人妻| 国产1769在线| 青青草视频久久| 丝袜狠狠草尤物人妻av91| 久久超碰免费的| 加勒比少妇AV婷婷六月天超碰超碰| 涩亚洲欧洲| 夜夜躁狠狠躁日日躁av| 影音先锋每日最新资源在线观看 | 午夜欧美神马久久久久| 女上位精品在线| 午夜在线播放| 人人操人人操人人人操| 国产三级日产三级韩国三级| 男人的天堂不卡一区二区 | 无码动漫av中文字幕| 亚洲欧美综合区自拍另类| 国产99 中文字幕日韩小视频| 色爽爽文学| 污污污8888| 夜夜高潮夜夜爽夜夜爱爱一区| 电家庭影院午夜69久久夜色精品国产69乱 | 色色操| 日韩精品99久久久久久中文字幕| 97精品视频在线播放| 欧美色图片| 18禁超污无遮挡无码免费网| 欧美不卡在线美女| 亚洲欧美综合网站| AAAA欧美日韩| 婷婷操逼| 校园春色中文字幕AV| 怡红院成人视频| 亚洲AV无码翔田千里网站| 激情四射五月天| 蜜桃久久久久久久久久久久| 99av| 日本日皮视频逼| 激情文学 国产一二三aV| 99热线麻豆 | 欧美另类色图片| 操死我了啊啊啊| a片自拍直播视频| 久9视频| 美女黄码视频午夜| 欧美性爽xyxOOOO| 丁香九月激情| 麻豆区久久久久亚| www.亚洲黄色| 国产熟女少妇一区| 男女啊啊啊啊啊| 岛国艾薇凹凸视频天堂| 国产高清不卡视频| 免费精品无码一级毛片牛牛影视| 久久久久9| 国产91丝袜在线播放蜜月| 精品国产乱码| 有码人妻系列| 亚洲91色| 五月综合色| 色香网| 人妻人人做人人澡人人爽欧美一区| 嗯嗯嗯,草死我| 91情色| 丝袜熟女2P| 国产精品96| 伊人成人中文字幕久久网| 亚洲成人在线资源| 亚洲综合精品国产一区| 亚洲资源网| 三级三级三级a级全黄三| 国产美女口爆吞精| 亚洲一区二区三区中文字幕| 午夜精品久久久久| 国产亚洲精品无码三区| 91夜夜蜜桃臀1区2区3区| 日韩三四五区| 97亚洲在线| 色嘟嘟人妻天堂网| 又大又大又大又粗爽高潮观看| 91oumei| 亚洲学生妹高清av| 玖玖爱综合| 久久草草亚洲蜜桃臀| 情色av电影| 自怕偷自怕亚洲精品| 色综和网| 亚洲制服欧美另类内射| 天美传媒婬乱在| 翘臀vidoes| 日韩强奸av| 久久超碰98| 免费强奸av| 黑人性暴力毛片| 日韩一级二级| 爱妃国产亚洲视频中文字幕| 97自拍一区| 一级A片女人高潮叫床| 97在线播放 | 日韩av电影成人在线| 久久 亚洲 日韩 人妻| 欧美亚洲另类在线蜜桃| 超碰97极品9| 久草久热| 中文字幕91页| JuliaAnnXXX888| 任我爽视频在线观看| 欧美国产精品| www.91视频网| 97超碰色屌| 久久免费精品视频免一| 亚洲色天| 五十路人妻在线| 日本 欧美 亚中文字幕| 亚欧毛片基地国产毛片基地| 超碰在线综合97| 色色综合97| 蜜乳av首页| 中文字幕人乱码中文字的预防方法 | 日韩电影免费网站麻豆视频| 视频黄站| 超碰在线91| 日韩偷拍一区二区三区| 欧美精品人妻视频| 澳门成人网站久国产日韩| 日本999精品视频| 福利大香蕉| 人人妻人人澡人人爽久久av| 精品免费视频国产一区| 亚洲国产成人精品无码专区| 色婷婷综合网| 亚洲 欧美 另类 日韩 人妻一区| 老熟妇一区二区三区| av亚欧| 亚洲精品成人| 国产风韵犹存熟妇三区| 18禁在线视频| 少妇免费视频| 大香蕉狠狠爱| 夜嗨影院| 操逼999| 欧美性夜| 任你草| 人妻喷水| 丁香五月综合| 日韩欧美水蜜桃人妻| 2024年最新色情网站在线观看| 看一级黄色视频| 精品国产乱码久久久兰草影视| 美女啊啊啊啊啊| 欧美大香蕉专区网| 插老姨肥穴| 日本性爱视频一级| 美女高潮视频91| 国产亚洲色停停久久99精品91| 发朗少妇买婬全视频中文| 欧美亚洲手机在线| 人妻嗯啊啊在线播放| 婷婷久月| 日韩影片中文字幕一区二区三区| 国产久久久久久| 久久99久久99久久99人受| 国产成人bd在线观看| 青操影院| 天天干天天爽| 久久久久9999| 九九热超碰97亚洲最新香蕉 | 成人日韩中文字幕| 天天干干天天干干| Julia Annxxxxx| 婷婷97| 国产91 丝袜在线播放00-百度| 99热超碰| 国语对白在线播放视频| 久久人妻熟女一区二区| 精久久久91| 大香蕉丝袜一级片| 国产操逼网站亚洲一级黄色| 91成人国产综合久久精品蜜月| 亚洲女毛多水多21P| 色婷婷国产精品一区在线观看| 久久99精品九九久久久婷婷| 色色五月丁香| 麻花豆传媒剧国产MV出差| 超碰欧美97资源| 视频在线观看一二三区| 美女午夜福利免费视频| 国产91 丝袜在线播放00-百度| 日韩精品人妻系列无码天堂| 亚欧国产无码精品在线| 成人免费性爱视视| 四虎影视精品| 91精品国| 青青草色AV| 日韩丨制服丨中文|在线| 99www.bibizy香蕉资源国产一区二区三区高清| 另类 日韩 熟女| 日韩激情电影中文字幕| 92一区二区| 亚洲不雅视频1区二区| 99999久久精| 久久老熟女| 国产精品伦理| 久久久熟女一区| 欧美性第1页| 久久日韩肥臀| 日本韩国五十路六十路七十路老熟女作爱视频网站 | 亚州熟妇精品| 国产黄色动态精品| 国产久久一区二区三区野外在线| 亚洲日韩av一区二区三区百合| 国产伦精品免编号公布| 国产又黄又猛又粗又爽的网站| 按摩中文字幕| 亚洲91色在线| 99re这里| 97亚洲综合在线| 日韩欧无码一区二区三区免费不卡| 亚洲高清91| 人人弄人人摸| 午夜福利精品| 天天色香欲综合网| 老女人日韩美91| 九九九九一级| 91精片| 成人美女av| 91亚洲黑人| 无码人妻系列少妇| 久久久久九九九| av网站在线观看了| 开心五月深爱五月| 亚洲第91页| 97超碰超| 国产粉嫩出水在线播放| 观看免费区二区三区二| 舔舔啊| 欧美日韩国产另类综合| 欧美亚州手机在线| 久久久久921| yaouchengrenav| 久久久夜夜嗨免费视频| 91天美传媒在线观看| 欧美97在线欧| 日韩精品 资源| 精品国产综合久久福利,热99这里有精品综合久久,99热这里只有免费国产精品,精 | 少妇同性| 欧美日韩大香蕉| www.zbzhongsen.com| 人妻五十路在线| 亚洲人妻在线一区| 婷婷三区| 人妻色偷色噜| 肥臀熟女福利视频一区二区| 超碰人人干天天射| 丁香六月东京热| 97人人色| 爱媛媛久久国产福利| 在线色资源| 女人喷水视频在线观看| 国产人妻精品一区二区三区秋霞| 欧美性爱中文字幕无线码| 日本中文字幕一区| 日韩av一级黄片| 天天性射网| 丝袜美腿欧美| 色屁屁影院www国产| 伦理弟一页| 国产亚洲精品美女久久久久久2021| 亚洲第一二区另类图| 久久直播国产| 91免费看中出视频| 麻豆天美电影一区二区| 国产综合在线视频网站| 欧美在线|亚洲| 色性荡荡荡荡视频| 欧美日韩操逼动图| 无码粉嫩白虎一线天b区| 日韩成人午夜精品久久高潮| xxx0国产在线播放| 日韩一级二级三级| 一区二区 电影 亚洲| 91丨熟女丨丰满熟女| 清纯唯美亚洲综合| 亚洲在线观看| 日日AV加勒比| 精品精品精品| 日韩AV一起草| 狠狠操官网| 亚洲男人电影天堂| 亚洲情色 自拍| 学生妹天天看| 午夜性| 91偷拍欧美亚洲| 另类图片五月| 日日碰狠狠添天天爽超| 99老司机精品视频在线观看| 欧美激情精品| 91久热| 97精品视频在线播放| 日本性一区| 激情文学 亚洲图片| 性性久久| 中文字幕一区二区三四五区日日骚| 蜜臀在线免费观看在线免费观看| 五月天色图影视| 色色五月婷婷| 熟妇熟女视频一区二区三区| 激情丁香五月婷婷| 日韩成人精品中文字幕| 大香蕉伊利av| 天堂资源欧美| 日本99一区二区| 成人一区二区三区四区| 大香蕉啪啪啪啪在线| 日日夜夜模| 中文字幕青青草| 国产精品免费久久久久久久久久| 久久男人天堂| 约操熟妇| 成人av免费观看| 成人网欧美风情| 成人资源中文字幕在线观看| 亚洲高清综合网| 欧美精品久久久久久久丰满| 逼逼逼逼操操操操操操操操操午夜剧场| 黑人精品成人一区二区三区 | 亚洲美女黄色| 美女被啪到深处抽搐视频| 香蕉久久AⅤ...| 久久亚洲婷婷| 91国产在线精品| 麻豆天美在线| 国产精品久久久久亚洲av| 人人乐大香蕉| 人妻无码视频一区二区三区久久| 亚洲动态色图| 精品性爱一区二区| 亚洲欧洲无码97久久精品| 校园春色美腿丝袜| 日韩av不卡在线看| 欧洲中文字幕| 欧美自拍网| 国人欧美精品一区二区| 亚洲欧洲色情高清| 国产60页| 久草综合京东| 色噜噜国产精品视频一区二区| 操比国产| 91久久久久| 亚洲AV无码国产精品久久久久| 99久久综合| 97超碰磁| 97玖玖超碰| 岛国片在线视频网站| 伊人国产av| 精品国产一区二区三区四区在线看 | 男人成人黄色视频在线观看免费下载| 伦激情人妻另类人妻| 丝袜综合| 乱伦av.com| 新怡红院| 69精品人人人人| 亚洲人天堂| 欧美夜色| 日韩乱伦影音先锋| 亚州色图欧美色图| 欧美超碰9798| 免费观看网黄| 一本久久精品中文字| 一区二区三区黄片免费观看| 久久久99999久网站| 九九亚洲视频| 无人区高清电影免费观看一区二区三 www.qmcai2.com | 拍拍拍拍大尺度黄色三级片拍拍拍拍拍照| 九九九精品色乱九九九| 日韩欧美亚洲一区二区三区影院| 欧美成97爱| 新97国产超碰| 最新啪啪视频| 欧美不卡在线一区二区| 日本黄页视频在线观看| 五月婷在线| 嫩草影院在线观看精品 | 亚洲欧美色图| 久久精品国产亚洲粉嫩| 大香蕉宅男伊人| 高清无码网址| 欧美性爱五月天| 婷婷五月天激情网| 国产亚洲精品无码三区| 成人羞羞视频国产| 日韩无码服务区| 久久久精品一区二区| 97在线欧洲| 99re3这里只有精品| 色色色色色色色色色色色色色色综合| 日本性爱少妇| www.99中文字幕| 欧美性爱免费短视频| 97精品|