日韩精品一区二区三区在线视频放-无码中文字幕V?一区二区-成年片免费观看视频-国内少妇人妻丰满av-国产精品中文字幕免费观看-亚洲成人久久一区二区三区-国内少妇偷人精品视频无缓冲-一区二区国产精品日本一区二区三区在线网

ARTICLE DETAIL

資訊詳情

深耕商務(wù)建站與企業(yè)官網(wǎng)運(yùn)營的一線實(shí)戰(zhàn)洞察。

Zabbix監(jiān)控Nginx實(shí)戰(zhàn):Agent端配置與狀態(tài)頁采集全解析

Zabbix監(jiān)控Nginx實(shí)戰(zhàn):Agent端配置與狀態(tài)頁采集全解析 先說結(jié)論Zabbix 監(jiān)控 Nginx最關(guān)鍵的環(huán)節(jié)不在 Server 端怎么寫監(jiān)控項(xiàng)而在 Agent 端怎么把 Nginx 的實(shí)時(shí)狀態(tài)穩(wěn)定采集上來。很多人裝了一堆組件最后發(fā)現(xiàn)數(shù)據(jù)過不來問題大多出在 Nginx 狀態(tài)頁沒開、Agent 配置文件沒改對(duì)、自定義監(jiān)控項(xiàng)寫錯(cuò)這三個(gè)地方。這篇文章適合兩類人。一類是剛開始接觸 Zabbix想用 Agent 方式給 Nginx 加監(jiān)控的新手另一類是已經(jīng)把 Zabbix Server 跑起來但搞不清客戶端、狀態(tài)頁、自定義 key 之間關(guān)系的人??赐曛竽隳馨错樞虼畛鲆粭l完整鏈路Nginx 暴露狀態(tài)頁Agent 執(zhí)行采集命令Zabbix Server 通過 key 拿到數(shù)據(jù)最終在 Web 界面看到指標(biāo)曲線和告警。下面按實(shí)際落地順序拆一遍。1. 先把Zabbix監(jiān)控Nginx的數(shù)據(jù)鏈路拆清楚1.1 Agent在監(jiān)控鏈路里到底干什么Zabbix 監(jiān)控 Nginx 可以有多種方式比如直接用 SNMP、用 Zabbix Agent、或者讓 Zabbix Server 主動(dòng)去請(qǐng)求 HTTP 接口。最常見、也最適合多數(shù)企業(yè)內(nèi)部場(chǎng)景的就是Zabbix Agent方式。Agent 本質(zhì)上是一個(gè)安裝在被監(jiān)控機(jī)器上的小服務(wù)。它負(fù)責(zé)做三件事接收 Zabbix Server 或 Zabbix Proxy 發(fā)來的數(shù)據(jù)請(qǐng)求執(zhí)行本地的采集命令、腳本或從狀態(tài)頁讀取數(shù)據(jù)把結(jié)果返回給 Server 端。所以Agent 不是直接“連”上 Nginx而是起到了一個(gè)翻譯和采集的作用。Nginx 本身不會(huì)主動(dòng)告訴 Zabbix “我的并發(fā)連接是多少”Agent 需要自己去讀 Nginx 暴露出來的狀態(tài)信息然后轉(zhuǎn)換成 Zabbix 能識(shí)別的數(shù)值。理解這條鏈路非常重要。很多人直接照著網(wǎng)上配置往配置文件里寫了幾行UserParameter發(fā)現(xiàn)沒數(shù)據(jù)就以為是 Zabbix 的問題。實(shí)際上往往是 Nginx 狀態(tài)頁本身打不開或者 Agent 所在用戶沒有權(quán)限執(zhí)行 curl又或者 key 名稱寫錯(cuò)了導(dǎo)致 Server 端拿不到結(jié)果。1.2 基礎(chǔ)監(jiān)控項(xiàng)可以直接用高級(jí)指標(biāo)要靠狀態(tài)頁或腳本如果你只是監(jiān)控“進(jìn)程在不在”那 Zabbix 自帶的模板和內(nèi)置 key 就夠了。比如用proc.num[nginx]或proc.num[nginx.exe]判斷 Nginx 進(jìn)程數(shù)量用system.cpu.load看 CPU 負(fù)載用net.if.in、net.if.out看網(wǎng)卡流量。這些不需要改動(dòng) Nginx 配置Agent 裝上之后就能用。但如果你想監(jiān)控 Nginx 的業(yè)務(wù)指標(biāo)比如當(dāng)前活躍連接數(shù)總連接數(shù)總請(qǐng)求數(shù)每秒請(qǐng)求數(shù)Reading、Writing、Waiting 的數(shù)量那一定要開啟 Nginx 的stub_status模塊并配置一個(gè)狀態(tài)頁。然后通過 Agent 的UserParameter去讀取解析。這里有一個(gè)常見誤解以為 Zabbix 官方模板會(huì)自動(dòng)采集這些數(shù)據(jù)。實(shí)際上官方模板里包含這些監(jiān)控項(xiàng)但前提是 Agent 端已經(jīng)裝好了 Nginx 狀態(tài)頁采集腳本或自定義 key。模板只是“裝了 CPU 插座”還得你自己把“電源線”接上。1.3 環(huán)境準(zhǔn)備和判斷標(biāo)準(zhǔn)準(zhǔn)備環(huán)境時(shí)先確認(rèn)以下條件Zabbix Server 已經(jīng)安裝并運(yùn)行Web 界面可以打開被監(jiān)控的 Nginx 服務(wù)器能訪問 Zabbix Server/Serve 端也能訪問 Agent 的監(jiān)聽端口Agent 版本盡量和 Server 主版本接近避免低版本 agent 不支持某些 keyNginx 編譯時(shí)帶上了--with-http_stub_status_module或者本身就是發(fā)行版默認(rèn)編譯好的版本如果是 Docker 部署的 Nginx也要確認(rèn)容器內(nèi)是否有 curl、grep、awk 這些基礎(chǔ)命令后面腳本采集時(shí)會(huì)用到。其中“Agent 版本和 Server 版本盡量一致”這條很多人會(huì)忽略。雖然 Zabbix Agent 大體上向后兼容但高版本 Server 搭配特別老的 Agent可能出現(xiàn)監(jiān)控項(xiàng)顯示“不支持”的情況。建議落地前先統(tǒng)一版本。如果只是學(xué)習(xí)測(cè)試單機(jī)部署一臺(tái) VM 就夠如果要進(jìn)生產(chǎn)建議把 Zabbix Server 和 Agent 分別部署在不同機(jī)器上避免性能干擾。2. Agent端安裝和基礎(chǔ)配置決定后面少踩一半坑2.1 安裝方式選擇Zabbix Agent 的安裝方式取決于操作系統(tǒng)。常見的有使用發(fā)行版官方倉庫或 Zabbix 官方倉庫安裝下載源碼編譯安裝使用 Docker 容器運(yùn)行 agent如果是 Windows Nginx還需要安裝 Windows 版本的 agent。安裝時(shí)最好不要用“從網(wǎng)上隨手找個(gè)包”的方式因?yàn)?Zabbix 官方倉庫會(huì)根據(jù)你使用的系統(tǒng)版本提供對(duì)應(yīng)的 agent 包依賴也能自動(dòng)處理。具體安裝命令這里不給死版本因?yàn)椴煌到y(tǒng)和 Zabbix 版本的倉庫地址差異很大。建議參考官方安裝文檔或者直接看倉庫安裝提示按照“添加官方倉庫 - 刷新包列表 - 安裝 zabbix-agent”的順序走。安裝完成后先不著急改配置確認(rèn) agent 二進(jìn)制文件已經(jīng)存在。which zabbix_agentd或者zabbix_agentd --version如果命令能打印出版本信息說明安裝成功。這一步能提前發(fā)現(xiàn)“安裝到一半缺依賴”“架構(gòu)不對(duì)”等問題。2.2 修改Agent配置文件Agent 的主配置文件一般叫zabbix_agentd.conf在 Linux 上常見路徑有/etc/zabbix/zabbix_agentd.conf、/usr/local/etc/zabbix_agentd.conf。Windows 上通常安裝在 agent 安裝目錄下。需要重點(diǎn)關(guān)注這幾個(gè)參數(shù)參數(shù)作用填寫建議Server允許向本 Agent 請(qǐng)求數(shù)據(jù)的 Zabbix Server 或 Proxy IP寫 Server 的實(shí)際 IP不要寫 0.0.0.0ServerActiveAgent 主動(dòng)連接 Server 的地址用于主動(dòng)模式同樣寫 Server IP 和端口HostnameAgent 在 Server 端注冊(cè)或顯示的主機(jī)名必須和 Web 界面創(chuàng)建的主機(jī)名一致UnsafeUserParameters是否允許自定義 key 包含特殊字符或帶參數(shù)如果自定義命令很簡(jiǎn)單可以設(shè)為 0如果帶參數(shù)、管道最好設(shè)為 1UserParameter自定義監(jiān)控項(xiàng) key 和采集命令可以寫在單獨(dú)文件里引用一個(gè)常見的問題是同時(shí)配置了Server和ServerActive但 Hostname 寫錯(cuò)了。結(jié)果就是 Zabbix Server 能看到主機(jī)但數(shù)據(jù)全斷斷續(xù)續(xù)。原因是被動(dòng)模式下 Server 根據(jù) IP 來找 Agent主動(dòng)模式下 Agent 要上報(bào)自己的 Hostname兩套機(jī)制的校驗(yàn)方式不一樣。我給你一個(gè)比較穩(wěn)妥的配置習(xí)慣先只配置被動(dòng)模式也就是Server和Hostname確認(rèn) zabbix_get 能取到數(shù)據(jù)后再按需開啟主動(dòng)模式不要一上來就同時(shí)開兩個(gè)模式排查起來不方便。2.3 啟動(dòng)與連通性驗(yàn)證配置文件改完后重啟 Agent 服務(wù)。systemctl restart zabbix-agent確認(rèn)進(jìn)程狀態(tài)systemctl status zabbix-agent然后看 Agent 日志確認(rèn)沒有報(bào)錯(cuò)。日志位置通常在/var/log/zabbix/zabbix_agentd.log。如果 Agent 和服務(wù)在同一臺(tái)機(jī)器可以用zabbix_get命令模擬 Server 拉取數(shù)據(jù)。zabbix_get -s 127.0.0.1 -k agent.ping返回1代表 Agent 活著。返回超時(shí)或cannot connect就要檢查端口監(jiān)聽和防火墻。接下來用同樣方式測(cè)試 Nginx 相關(guān)的內(nèi)置 key比如zabbix_get -s 127.0.0.1 -k proc.num[nginx]如果返回?cái)?shù)字說明 Agent 部署正常已經(jīng)能獲取系統(tǒng)數(shù)據(jù)。到這里基礎(chǔ)的 Agent 鏈路算通了。3. Nginx狀態(tài)頁開啟核心指標(biāo)都從這里來3.1 檢查Nginx是否帶stub_status模塊Nginx 的stub_status是官方自帶的一個(gè)模塊但很多源碼編譯的 Nginx 默認(rèn)并沒有把它帶上。所以第一步是先確認(rèn)??匆寻惭b Nginx 是否包含該模塊nginx -V 21 | grep stub_status如果有輸出說明模塊已經(jīng)編譯進(jìn)去了。如果沒有輸出有兩種處理方式重新編譯 Nginx在 configure 參數(shù)中加上--with-http_stub_status_module如果用的是發(fā)行版默認(rèn) Nginx可以檢查是否已經(jīng)默認(rèn)帶了這個(gè)模塊。比如某些 Linux 發(fā)行版的 nginx 包會(huì)默認(rèn)包含。重新編譯相對(duì)麻煩尤其會(huì)影響現(xiàn)有 Nginx 的平滑升級(jí)。建議先在測(cè)試環(huán)境驗(yàn)證不要直接在線上操作。如果線上 Nginx 是別人裝的你也不清楚編譯參數(shù)那就先跑nginx -V看看結(jié)果。3.2 配置location /nginx_status在 Nginx 配置中增加一個(gè)狀態(tài)頁 location。常見做法是新增一個(gè)獨(dú)立配置文件或者在server塊中新增 location。location /nginx_status { stub_status on; access_log off; allow 127.0.0.1; deny all; }這里最重要的不是stub_status on;而是allow和deny的訪問控制。默認(rèn)情況下這個(gè)頁面會(huì)暴露 Nginx 當(dāng)前所有連接和請(qǐng)求狀態(tài)。如果不做限制外網(wǎng)可以隨便訪問等于泄露了服務(wù)運(yùn)行基礎(chǔ)信息。所以一般只允許本機(jī)或內(nèi)網(wǎng)監(jiān)控網(wǎng)段訪問。如果 Agent 和 Nginx 在同一臺(tái)機(jī)器allow 127.0.0.1就夠了。如果 Agent 要從另一臺(tái)機(jī)器抓取就把a(bǔ)llow換成監(jiān)控網(wǎng)段但這樣會(huì)對(duì) Nginx 暴露一個(gè) HTTP 端點(diǎn)必須在防火墻層面做好限制。有些朋友會(huì)問不是 Agent 本機(jī)采集嗎為什么還要允許局域網(wǎng)因?yàn)槿绻愕牟杉_本是跑在 Agent 本機(jī)通過http://127.0.0.1/nginx_status訪問那確實(shí)只需要允許本機(jī)。但如果你嘗試從 Zabbix Server 直接用 HTTP agent 監(jiān)控 Nginx那就必須允許 Server IP。本文統(tǒng)一采用 Agent 本機(jī)采集的方式所以只允許 127.0.0.1 最穩(wěn)。配置完成后重載 Nginx。nginx -t nginx -s reload3.3 本地curl驗(yàn)證輸出格式在 Agent 本機(jī)執(zhí)行curl http://127.0.0.1/nginx_status正常情況下會(huì)看到類似這樣的輸出Active connections: 12 server accepts handled requests 100 100 200 Reading: 0 Writing: 1 Waiting: 11四行數(shù)據(jù)的含義第一行當(dāng)前活躍連接數(shù)第二行三個(gè)計(jì)數(shù)器的標(biāo)題第三行總接受連接數(shù)、總握手連接數(shù)、總請(qǐng)求數(shù)第四行正在讀取請(qǐng)求頭的連接數(shù)、正在寫入響應(yīng)的連接數(shù)、空閑等待請(qǐng)求的連接數(shù)。如果 curl 返回空或者 403、404先查 Nginx 配置是否真正生效再查防火墻。403 通常是 allow/deny 規(guī)則問題404 通常是 location 路徑或配置文件沒加載。4. 自定義監(jiān)控項(xiàng)把status頁轉(zhuǎn)換成Zabbix能識(shí)別的數(shù)據(jù)4.1 用UserParameter定義KeyAgent 拿到 Nginx 狀態(tài)頁內(nèi)容之后還需要把它解析成獨(dú)立指標(biāo)。Zabbix 是通過自定義 key 來實(shí)現(xiàn)的。在/etc/zabbix/zabbix_agentd.d/目錄下新建一個(gè)配置文件比如userparameter_nginx.conf寫入U(xiǎn)serParameternginx.active,curl -s http://127.0.0.1/nginx_status | grep Active | awk {print $NF} UserParameternginx.requests,curl -s http://127.0.0.1/nginx_status | sed -n 3p | awk {print $3} UserParameternginx.reading,curl -s http://127.0.0.1/nginx_status | grep Reading | awk {print $2} UserParameternginx.writing,curl -s http://127.0.0.1/nginx_status | grep Writing | awk {print $4} UserParameternginx.waiting,curl -s http://127.0.0.1/nginx_status | grep Waiting | awk {print $6}注意這里的命令里用到了管道和grep所以UnsafeUserParameters需要設(shè)為1否則 Agent 可能拒絕執(zhí)行這類帶特殊字符的命令。配置完重啟 Agentsystemctl restart zabbix-agent用zabbix_get測(cè)試zabbix_get -s 127.0.0.1 -k nginx.active如果返回?cái)?shù)字說明自定義 key 已經(jīng)生效。4.2 用腳本代替多條命令上面的寫法雖然簡(jiǎn)單但每條 key 都執(zhí)行一次 curl而且解析邏輯各不相同。如果有 5 個(gè)指標(biāo)每次采集都要重復(fù)請(qǐng)求 5 次狀態(tài)頁。雖然對(duì)單機(jī)來說影響不大但會(huì)讓監(jiān)控?cái)?shù)據(jù)點(diǎn)的時(shí)間不完全一致尤其是 active、connections、requests 三個(gè)值是不同時(shí)間快照畫圖時(shí)可能看到輕微波動(dòng)。更好的方式是寫一個(gè)采集腳本一次請(qǐng)求拿到所有值再按需輸出。#!/bin/bash STATUS$(curl -s http://127.0.0.1/nginx_status) case $1 in active) echo $STATUS | grep Active | awk {print $NF} ;; requests) echo $STATUS | sed -n 3p | awk {print $3} ;; reading) echo $STATUS | grep Reading | awk {print $2} ;; writing) echo $STATUS | grep Writing | awk {print $4} ;; waiting) echo $STATUS | grep Waiting | awk {print $6} ;; *) echo UNKNOWN ;; esac把這個(gè)腳本放到/usr/local/bin/nginx_status.sh并加執(zhí)行權(quán)限chmod x /usr/local/bin/nginx_status.sh然后配置 userparameterUserParameternginx.status[*],/usr/local/bin/nginx_status.sh $1這樣在 Zabbix Server 端可以用nginx.status[active]、nginx.status[waiting]讀取不同指標(biāo)每次采集只請(qǐng)求一次 Nginx 狀態(tài)頁。這類腳本方案適合指標(biāo)多、采集頻率高的場(chǎng)景。缺點(diǎn)是腳本出了問題排查難度更大所以腳本里盡量減少對(duì)系統(tǒng)命令路徑的依賴。4.3 主動(dòng)模式和被動(dòng)模式對(duì)自定義key的影響自定義 key 本身不區(qū)分主動(dòng)還是被動(dòng)兩種模式都支持。區(qū)別在于被動(dòng)模式Zabbix Server 發(fā)起 TCP 連接向 Agent 請(qǐng)求 keyAgent 執(zhí)行命令返回結(jié)果。適合監(jiān)控項(xiàng)不多、Server 并發(fā)壓力不大的場(chǎng)景。主動(dòng)模式Agent 每隔一段時(shí)間主動(dòng)去向 Server 獲取監(jiān)控項(xiàng)列表然后執(zhí)行并上報(bào)結(jié)果。適合監(jiān)控項(xiàng)很多、網(wǎng)絡(luò)分區(qū)復(fù)雜的場(chǎng)景。如果你使用主動(dòng)模式ServerActive必須配置正確并且 Agent 能訪問 Server 的 10051 端口。同時(shí) Hostname 必須和 Web 界面創(chuàng)建的主機(jī)名完全一致否則 Agent 上報(bào)的數(shù)據(jù)找不到歸屬主機(jī)。在測(cè)試階段建議先使用被動(dòng)模式因?yàn)閦abbix_get就是模擬被動(dòng)模式的請(qǐng)求排錯(cuò)更直觀。5. Server端把主機(jī)和監(jiān)控項(xiàng)綁定起來5.1 在Web界面添加主機(jī)Zabbix Server 裝好并配置好 Agent 后登錄 Web 界面在“數(shù)據(jù)采集 - 主機(jī)”里創(chuàng)建新主機(jī)。需要填寫的內(nèi)容主機(jī)名稱必須與 Agent 配置里的Hostname一致可見名稱可以自定義顯示在頁面上模板可以先選擇自帶模板測(cè)試連接性群組選一個(gè)已有主機(jī)組或者新建一個(gè) Nginx 組Interface選擇 Agent填寫被監(jiān)控機(jī)器 IP 地址端口默認(rèn) 10050。創(chuàng)建時(shí)如果勾選了“添加后啟用”保存后主機(jī)應(yīng)該會(huì)出現(xiàn)在可用主機(jī)列表里。很多人第一次配置時(shí)會(huì)把“主機(jī)名稱”和“可見名稱”混在一起。實(shí)際上主機(jī)名稱是 Zabbix 內(nèi)部用于匹配 Agent 上報(bào)的標(biāo)識(shí)必須嚴(yán)格對(duì)應(yīng)可見名稱可以隨便寫。如果主機(jī)名稱填錯(cuò)主動(dòng)模式下數(shù)據(jù)絕對(duì)不來被動(dòng)模式下有時(shí)還能通過 IP 匹配所以這個(gè)坑要記住。5.2 關(guān)聯(lián)模板或手動(dòng)添加監(jiān)控項(xiàng)Zabbix 官方提供了 Nginx by Zabbix agent 模板里面已經(jīng)定義好了監(jiān)控項(xiàng)和觸發(fā)器。如果你的 Agent 端已經(jīng)配好了對(duì)應(yīng)的自定義 key直接關(guān)聯(lián)模板就能看到數(shù)據(jù)。關(guān)聯(lián)模板之后建議先看“最新數(shù)據(jù)”。如果監(jiān)控項(xiàng)顯示“不支持”說明模板里引用的 key 在 Agent 端并沒有定義要么是自定義配置文件沒生效要么是 key 名稱不匹配。不使用模板的情況下也可以手動(dòng)創(chuàng)建監(jiān)控項(xiàng)字段示例名稱Nginx 活躍連接數(shù)類型Zabbix agent鍵值nginx.status[active]信息類型數(shù)字無正負(fù)更新時(shí)間30s手動(dòng)創(chuàng)建的好處是靈活壞處是每臺(tái)主機(jī)都要配一遍效率低。建議至少從模板開始再按需修改。5.3 最新數(shù)據(jù)驗(yàn)證添加監(jiān)控項(xiàng)后等一兩個(gè)更新周期再到“監(jiān)測(cè) - 最新數(shù)據(jù)”里查看。判斷標(biāo)準(zhǔn)有數(shù)值且持續(xù)更新鏈路完全通顯示不支持Agent 執(zhí)行命令失敗或 key 名稱不對(duì)顯示“不支持”但 zabbix_get 正常檢查 Server 端 Agent 配置的 IP 和端口有數(shù)據(jù)但一直不變檢查腳本是否用了緩存或者 Nginx 狀態(tài)頁是否更新異常。有時(shí)候 Agent 端剛改了自定義配置需要等 Agent 重啟后才會(huì)重新加載。如果發(fā)現(xiàn)改了配置但沒生效先確認(rèn)是否重啟了 zabbix-agent。我用 zabbix_get 排查時(shí)會(huì)習(xí)慣在前面加一個(gè)timeouttimeout 5 zabbix_get -s 192.168.1.10 -k nginx.status[active]加上 timeout 可以避免命令長(zhǎng)時(shí)間卡住尤其當(dāng)腳本內(nèi)部頻繁請(qǐng)求外部地址時(shí)。生產(chǎn)上不建議讓監(jiān)控采集命令永久阻塞Zabbix Agent 本身有 timeout 限制但腳本內(nèi)部如果卡在某個(gè)命令上也會(huì)拖慢采集。6. 數(shù)據(jù)沒到、不支持、為0時(shí)按這個(gè)順序排查6.1 Agent狀態(tài)不可達(dá)現(xiàn)象Zabbix Server 頁面顯示主機(jī)離線zabbix_get -s 目標(biāo)IP -k agent.ping超時(shí)或 cannot connect。排查順序先確認(rèn)目標(biāo) IP 是否通ping 目標(biāo)IP確認(rèn) Agent 端口監(jiān)聽是否正常ss -lntp | grep 10050確認(rèn)防火墻是否放行端口Linux 檢查firewalld或iptables確認(rèn) Zabbix Server 能否連接到該端口用telnet 目標(biāo)IP 10050或nc -vz 目標(biāo)IP 10050如果前面都正???Agent 日志可能有配置錯(cuò)誤或啟動(dòng)失敗。大多數(shù)“不可達(dá)”不是 Zabbix Server 的問題而是防火墻或者 Agent 沒啟動(dòng)。6.2 監(jiān)控項(xiàng)顯示不支持現(xiàn)象agent.ping正常但 Nginx 相關(guān)監(jiān)控項(xiàng)顯示“不支持”。在 Agent 本機(jī)執(zhí)行zabbix_get -s 127.0.0.1 -k nginx.status[active]如果返回非數(shù)字或報(bào)錯(cuò)繼續(xù)看key 名稱是否和 Server 端完全一致自定義配置文件是否生效腳本是否有執(zhí)行權(quán)限腳本里的 curl 是否能訪問 Nginx 狀態(tài)頁Agent 日志里是否有cannot run command之類的記錄。這一層最常見的問題有兩個(gè)一個(gè)是UnsafeUserParameters0導(dǎo)致帶管道或參數(shù)字符的命令被攔截另一個(gè)是腳本權(quán)限不對(duì)Agent 執(zhí)行腳本時(shí)沒有執(zhí)行權(quán)限返回空值。6.3 數(shù)據(jù)為0或長(zhǎng)時(shí)間不變?nèi)绻?zabbix_get 能返回?cái)?shù)字但 Web 界面數(shù)據(jù)為 0 或不變可能的原因監(jiān)控項(xiàng)類型設(shè)置錯(cuò)誤比如把整數(shù)項(xiàng)配置成字符型更新周期太長(zhǎng)短時(shí)間內(nèi)看不到變化Agent 端腳本使用了緩存文件但緩存文件沒有及時(shí)更新Nginx 狀態(tài)頁的數(shù)值確實(shí)沒變化尤其是 Reading/Writing/Waiting請(qǐng)求量低的時(shí)候波動(dòng)很小。遇到這種問題先把監(jiān)控項(xiàng)改成 10s 更新間隔觀察同時(shí)把采集腳本手動(dòng)執(zhí)行幾次對(duì)比結(jié)果。如果手動(dòng)執(zhí)行有變化而 Zabbix 一直取舊值多半是 Agent 端緩存或 Server 端歷史數(shù)據(jù)存儲(chǔ)延遲。6.4 檢查權(quán)限和SELinux這個(gè)坑在 Linux 生產(chǎn)環(huán)境中非常普遍。如果 Agent 和 Nginx 都在同一臺(tái)機(jī)器Agent 執(zhí)行 curl 訪問http://127.0.0.1/nginx_status一般沒問題。但如果 SELinux 開啟可能會(huì)有連接被拒的情況。排查時(shí)先看/var/log/audit/audit.log有沒有 denied 記錄。有的話可以采用兩種方式放通相關(guān)端口或者把 SELinux 臨時(shí)轉(zhuǎn)為 permissive 測(cè)試。不要一上來就永久關(guān)閉 SELinux先確認(rèn)是不是它的原因。Zabbix Agent 默認(rèn)以zabbix用戶運(yùn)行這個(gè)用戶對(duì) Nginx 狀態(tài)頁的訪問是走 HTTP 協(xié)議的不涉及文件系統(tǒng)權(quán)限但要在操作系統(tǒng)層面允許它建立本地網(wǎng)絡(luò)連接。如果連本機(jī)回環(huán)都被限制curl 會(huì)返回空。7. 從單臺(tái)試跑到批量部署還要補(bǔ)三件事7.1 批量部署Agent單機(jī)跑通后批量監(jiān)控也別急著手工逐臺(tái)配置。建議提前準(zhǔn)備好 Agent 配置文件模板和安裝腳本利用自動(dòng)化運(yùn)維工具分發(fā)安裝。批量部署時(shí)每臺(tái)機(jī)器需要變化的內(nèi)容主要有兩個(gè)Hostname和Server。Server通常都指向同一個(gè) Zabbix ServerHostname則建議用機(jī)器名或業(yè)務(wù)名方便識(shí)別。如果沒有自動(dòng)化工具可以寫一個(gè)簡(jiǎn)單的 Shell 腳本在一批機(jī)器上執(zhí)行安裝、寫入配置、啟動(dòng)服務(wù)。關(guān)鍵點(diǎn)在于腳本要冪等重復(fù)執(zhí)行不會(huì)產(chǎn)生重復(fù)監(jiān)控項(xiàng)或配置沖突。7.2 模板復(fù)用和指標(biāo)命名規(guī)范批量部署前先定義一套統(tǒng)一的監(jiān)控項(xiàng)命名規(guī)范。比如nginx.active nginx.requests nginx.reading nginx.writing nginx.waiting不要每臺(tái)機(jī)器都用不同的 key 名。否則后面加圖形、加聚合、加告警時(shí)工作量會(huì)翻好幾倍。在 Zabbix 里一套完整的 Nginx 監(jiān)控模板應(yīng)該包含監(jiān)控項(xiàng)連接數(shù)、請(qǐng)求數(shù)、Reading、Writing、Waiting觸發(fā)器活躍連接數(shù)過高、請(qǐng)求數(shù)異常下降、Nginx 進(jìn)程數(shù)小于 1圖形連接數(shù)和請(qǐng)求數(shù)趨勢(shì)圖聚合原型如果需要按集群視圖查看可以配置聚合監(jiān)控項(xiàng)。模板設(shè)計(jì)好之后所有新主機(jī)直接關(guān)聯(lián)模板避免人工逐條添加監(jiān)控項(xiàng)。7.3 監(jiān)控頻率與告警閾值的取舍Nginx 的指標(biāo)采集頻率不建議太高。默認(rèn) 30 秒到 1 分鐘已經(jīng)足夠尤其是請(qǐng)求數(shù)、活躍連接數(shù)這類指標(biāo)本身就是瞬時(shí)快照采集頻率高并不能提高準(zhǔn)確性反而會(huì)增加 Agent 和 Server 的負(fù)擔(dān)。告警閾值要根據(jù)實(shí)際業(yè)務(wù)來定。比如活躍連接數(shù)超過某個(gè)值就告警但不同服務(wù)器的性能差異很大最好先采集一周數(shù)據(jù)再看基線請(qǐng)求數(shù)突然掉到接近 0可能是 Nginx 掛了也可能是業(yè)務(wù)本身陷入了低谷Reading、Writing 長(zhǎng)期偏高說明可能有大文件傳輸或慢客戶端不一定是故障。我在實(shí)際項(xiàng)目中用過的最不后悔的一個(gè)習(xí)慣是剛開始只采集不告警。先積累一兩周數(shù)據(jù)再根據(jù)真實(shí)基線設(shè)定閾值否則很容易被誤報(bào)刷屏。7.4 日志和備份最后補(bǔ)一個(gè)容易被忽略的點(diǎn)Agent 端自定義配置和腳本要納入版本管理不能只留在機(jī)器上。否則重裝機(jī)器后監(jiān)控配置就很難原樣恢復(fù)了。Zabbix 本身的模板、主機(jī)、監(jiān)控項(xiàng)配置也要定期導(dǎo)出備份。監(jiān)控系統(tǒng)一旦配置多了重新手搭非常痛苦。備份不只是保護(hù)數(shù)據(jù)也是在保護(hù)自己的運(yùn)維效率。如果只是學(xué)習(xí)按默認(rèn)配置跑通就可以了如果要長(zhǎng)期維護(hù)那就把日志、輸出目錄、模板備份和權(quán)限控制都提前整理好后面真的會(huì)省很多事。踩過幾次之后我發(fā)現(xiàn)Zabbix 監(jiān)控 Nginx 的坑很少在“功能不夠”上多半是前置環(huán)境不一致、狀態(tài)頁訪問受限、自定義 key 書寫習(xí)慣不統(tǒng)一。把這幾條理順整個(gè)監(jiān)控鏈路就穩(wěn)了。
返回列表
PREV
查看更多資訊
NEXT
返回資訊列表
91视频伊人| 精品午夜福利| 国产激情在线观看| 亚洲综合在线第一页| 国产中文字幕曰本毛片| 91在线免费精品视频| 91 综合 色| 欧洲色| 福利视频合集| 欧美性少妇| 97精彩视频网站| 国产极品馒头逼| 91欧美性| 国产少妇肉丝在线观看| 欧美日韩亚洲天堂网| 香港久久久| 久操操AV电影| AV女优男人的天堂| 久久国产精品91| 成人性交免费视屏| 久艹伊人精品综合在线| 人人摸人人叼| www.久久| 婷婷爽人人婷婷爽视频| 自拍大香蕉乱插| WWW美腿丝袜香蕉中文| 国产精品极品美女视频| 99色在线| 欧美制服另类丝袜| 国产精品永久免费10000| 北京美女一区二区| 99热最新网址| 一本色道久久天天射天天干| 久久久一区二区三区三州| 亚洲情色五月天 | 亚洲中文日韩欧美大香蕉视频| 丝袜色综合| 亚洲三级网址久久最新| 亚洲色图激情小说| 4399成人黄A片| 综合激情二| 四虎精品永久在线观看| 日逼五月天| 婷婷五月成人| 91超级碰碰| 国产日韩欧美中文在线播放| 风月影院十八禁| 国产女同视频在线播放| 一本色道久久综合熟妇| 日日夜夜草草草| 精品久久久久av影院| 无码99| 日韩大香蕉精品在线视频| 亚洲第一成人影院色播| 亚洲人妻中文高清| 成人无码在线超碰网| 97在线免费视频| 日韩日韩日韩-国产乱码精品一区二区| 麻豆尤物视频网| 91美女色视频亚洲| 久久婷婷亚洲欧| 色好看av| 国产馆极品诱惑| 精品黑人一区二区| 婷婷五月天激情网| 婷婷AV一区二区三区| 无码伊人久久大杳蕉中文无码| 亚洲伊人a线观看视频| 边做饭边操逼逼| 操逼逼中文字幕| 被窝影院午夜看片无码| 婷婷丁香五月天综合东京热| 3571色综合一区二区二区| 久久久久久久人妻| 一区=区三区视频| 东北操逼| 亚洲欧洲日韩国产自在线| 亚洲欧美在线丝袜| 国产精品另类| 大干人妻| 玖玖综合网| 免费一级a毛片久久久久久鸭绿欲| 伊人991| 蜜臀久久99精品久久久久久酒店| 国产视频一区二区免费| 久久熟女嫩草成人片免费| 一本久道在线综合视频| 一本久久精品中文字| 欧美福利视频啊啊啊啊| 99热在线不卡| 午夜无码精品免费看性色| 日韩ab网| 五月婷在线| 欧美乱欲| 99精品久久久久久| 婷婷综合在线| 三级日本一区二区三区| 任我爽在线视频免费观看| 精品在线观看视频在线| 粉嫩AV一区二区夜夜| 亚洲91av| 每日更新AV| 九月激情婷婷| 伊人在线大香蕉视频久久| 久久av成人无码免费| 97伪v| 在线观看一卡二卡| 青娱乐蜜桃臀AV色婷| 精品国产一区二区三区香蕉欧美| 中文幕97| 猛交交| 麻豆国产视频精品观看| 中日韩久久久免费看| 欧美久久九九| 欧美一级做a爰片免费视频| 在线一道啪| 国产美女激情| 日韩乱码av| 亚洲黄网在哪免费看| 天天草天天日| 五月天婷婷社区| 日本超碰97日韩精品人妻| 天天插天天操| 亚洲四虎熟女精品| 多毛小伙内射老太婆| 男人的天堂网页| 蜜桃臀一区二区三区久久| 色哟哟国产精品免费网址| 自拍偷拍 日韩无码| 色婷亚洲五月在线观看| 超碰视97中文| 2019久久久久久久久福利| 国产一区二区免费福利片| 久久AV无码AV| 欧美青青草视频| 少妇一级无码精品| 九九久久国产精品怡红院| 天堂精品小草| 日韩精品人妻中文字有码在线| 亚洲午夜免费狠狠干| 久久 国产精品 一区| 干婷婷综合网| 五月丁香啪| 五月天激情小说| 国产欧美精品日韩区二区麻豆天美| 强奸乱伦动态污图免费| 久久久成人免费av电影| 抽插无码高清一区| 一本久道在线综合视频| 91人妻精华帖| 国模91| 午夜精品视频777| 麻豆天美一区二区| 67194无码不卡| 丰满搜索结果 -第18页- 久久高清无码 | 神马麻豆福利院| 激情小说五月天| 襙一襙| 风月影院男女十八禁| 久99热| 亚洲中文字幕熟女| 青青草好吊| 人人干人人操人人爱| 一道本久久棕合爱| 美女91网| 亚码人妻| 三上悠亚在线毛片91| 天天插夜夜操| 台湾一区国产高清在线| 亚洲色色色| a片 xxxx受爽视频| 青青久久手机线视频| 岛国人妻少妇av在线观看| 丝袜天堂| 九九九九精品视频| 欧美第一页| 欧美久久久15P| av天堂加勒比| 五月丁香社区婷婷日韩欧美精品影院 | 全球成人中文在线| 动漫区日韩区欧美区| 欧美成人性活片| 久久草在线综合视频| 一级黄碟在线观看| 亚洲自拍偷拍视频在线| 伊人AAA| 色九久| 91新在线欧美| 国产区日韩区在线观看| 日本99一区二区| 国产精品一区二区亚洲人成毛片 | 久操在97| 天天射天天操天天干天天吃2018| 欧美视频在线第3页| 97精品一区二区三区免费| 91视频国品一二三区| 亚州男人天堂| 天天干人人乐| 夜夜高潮夜夜爽| 亚州黄站| 天天操天天日青青草超碰av| 亚洲欧美在线综合| 91l欧美在线| 欧美一二三区四五区| 日韩性爱高清免费视频| 欧美色棕合| 99热日| 欧美亚洲91| 色婷婷淫色网| 亚洲av噜噜噜噜噜噜| 亚洲熟女少妇免费视频| 国产2.3.4区| 91撸色网 玖玖网 欧美| 亚洲视频二区 | 好吊色综合| 国产不卡的视频| 国产精品动态一区二区三区四四| 老熟妇一区二区三区啪啪| 欧美 日韩 另类 亚洲| 久久精9| 亚洲天堂另类小说男人| 99re9这里只有精品| 九九热免费国产视频婷婷伊人| 五月天精品| 五月天婷婷综合网| 亚洲另类色综合网站| 精品一区99999| 国产精品大屁股999| 四虎免费视频| 电家庭影院午夜69久久夜色精品国产69乱| 国产91精品在线免费| 国产中出内射一区二区| 亚洲第一精品在线视频| 很很热性爱视频| 国产亚州日韩欧美看片| 久久久噜噜噜久久久| 日日AV加勒比| av草草在线电影| 亚洲春色欧美| 无码精品一区二区三区潘金莲| 殴美大黄片| 国产精品色| 精品国产一区二区三区久久久蜜臀| 久久97资源 网| 久久精品国产精品| 国产久久久久久| 国产精品久久久久久久AV大片 | 欧美色图下一页| 精人妻无码一区二区三区伊人直播 | 亚洲日韩精品一区二区| 午夜理论片在线观看免费| 激情综合久久| 色偷综合| 激情抓乳插进去啪啪啪日韩 | 国产 大胆 对白| 91天天综合在线观看| 久久久999| 中文字幕av亚洲在线| 日韩免费人妻色情网站| 日本五区不卡| 国产精品无码av| 亚洲欧洲偷拍一区| 日韩人妻精品| 91强热人妻| 欧洲无码一区二区| 91国产丝袜白虎| 成人一道本免费视频| 日本岛国黄色网址| 国产99999久久精品| 天天看夜夜看日日干| 91干熟女| 密臀国产在线| 久久人人舔人人爽舔人人av片| 日韩性色b| 人妻第一页| 国产精品一级片在线看| 超碰地址97| 国产精品96| 91婷婷| ...日韩成人一区二区三区字幕| 亚洲欧美日韩中文播放| 国产日韩精品一区二区三区| 高清无码人妻久久久一区二区三区aⅴ| 日韩欧美成人午夜福利| 粉嫩AV一区夜夜嗨| 蜜乳成人AV| 猛交交| 久久女人| 极品色社| 欧美岛国精品在线观看| 九色 人妻 大香蕉| 日骚逼视频| 免费黄色视频网址| 97伦综合| 久久香蕉网| 亚洲第一页色网| 十八禁啪啦拍视频无遮挡| 日日日大屁股骚女人精品| 日韩成人精品| 1000午夜黄色| 亚洲古典另类欧美在线| 久久9999 | 欧美国产操逼| 色久综合| 97色伦97色伦国产欧美| 国厂麻豆77q4| 欧美成人午夜免费福利785| 人妻少妇无码| 嗯嗯啊啊视频在线看| 夜夜爽夜夜高潮夜夜爽| 四虎免费看黄| 色色综合网站| 日韩成人在线性爱视频| 久久亚洲欧美一区二区三区-亚洲国产精品第一区二区 | 日韩专区数据列表-第3230页-精品国产一区二区三区香蕉 久久99熟女人妻中文字 | 天综合网欧美| 色婷婷综合网站| 精品少妇高潮久久| 男人下部插入女人下部| 91人妻中文| 久久9免费视频| 欧美日韩99| 成人性交午夜免费片| 天天日老熟妇| 18禁免费视频| 99999亚洲| 99re9这里只有精品| 韩日性爱av| 亚洲女人91| 欧美中文字幕男人天堂久久精品| 亚洲图片欧洲图片aⅴ| 成人日本片久久久蜜桃| 淫色网综合| 亚洲免费人妻在| 国产乱伦搜索结果91P| 日日噜噜夜夜久久亚洲一区二区| 九九色综合| 日本一区二区三区午夜观看| 国产又粗又长的视频| 久久理论字幕视频| 日日碰狠狠添天天爽超| 欧美欧美啪啪视频| 天天摸天天操视频| 97免费视频在线观看视频| 日韩AV片| 美女被艹尤物视频| 久久亚洲欧美中文字幕国语| 九九九九国产| 中文精品少妇天堂| 啊啊啊啊二区好大| 天天操狠狠日夜夜干超碰撸com视频在线观看 | 91在线限制级| 丁香五月偷拍| 爱做久久久久久| 一个国产在线综合网站| V A在线| 插B在线观看| 91亚州欧美| 天美传媒国产原创中文字幕亚洲欧美另类 | 男人天堂网站| 天美av在线| 国产第12页| WWW黄片COM| 色婷婷视频| 久久久久9999妇女| 999日韩中文精品观看视频。| 亚洲第一免费视频| 男女啪啪啪18禁网站| 亚洲 日本 不卡| 精品少妇人妻| 精人妻无码一区二区三区伊人直播| 欧美极品少妇交| 9色在线| 欧美性爱中文字幕无线码| 日本一区二区三区免费观看| 亚洲国产美女久久久久| 亚洲黑人在线| 女人久久久| 春色91| 大逼色网站| 精品无码久久| 亚洲天堂资源网| 妇女一区二区三区| 激情丁香婷婷| 99碰碰| 99色热| 99操碰| 69人妻精品一区二区绯色| 婷婷五月成人| 亚洲天堂中文字幕无码男同| 日日狠狠久久偷偷色综合免费| 国产在线视视频有精品| 99久久久久| 欧美男人一区| 美女啊啊啊啊pc| 九九热超碰97亚洲最新香蕉| 婷婷美人网| 肉丝无码中文高清| 天天色综合影视网| 久久狠狠色噜噜狠狠狠狠97| 无码直播久久久| 国产成年免费大片黄在线观看| 色黄色美女大长腿午夜视频| 午夜理论片在线观看免费| 91狼人| 日本韩国一本产品小视频日本韩国一本产品久久久产品小视频日本韩国一本产品久 | 欧美日韩日产免费网站看| 亚洲无码成人精品| 亚欧高清在线| 淫淫总合网| 久草新免费| 亚洲色图欧美色图在线播放| 久久久无码视频| 国产传媒午夜理伦精品| 婷婷深爱五月| 有码人妻系列| 99操逼| 欧美福利视频啊啊啊啊| 黄色av一区二区在线| 中文字幕五区| 精品久久艹| 91精片| 操操吧亚洲乱伦视频| 一级免费啪啪片| www.操| 大白逼三四级| 黑人天8A∨高清网站| 欲色啪| 欧美综合第一页| laoshunv91| 欧美色吧综合| 久久精品视频28| 天天色黄色影院天天操| 中文字幕第9页萱萱影音先锋| 色欲无码人妻日韩欧美精品| 按摩中文字幕| 久久久久久中文| CCYY草草影院地址入口| 四色永久成人网站| 亚洲资源网| 成人蜜乳小视频网站| 26uuu国产免费观看| 青青草久久一区网| 中文字幕三四区| 人人色人人操在线| 超碰97亚洲区| 国产不良强奸视频免费看| 另类小说五月天| AV男人天堂网| 嫩草影院在线观看精品 | 夜草欧美| 天天视频网站黄| 天天干天天爽| 啪啪啪综合| 日本熟妇人妻中出视频| 嗯嗯啊好大| 人妻丝袜美腿中文字幕| 久热久| 蜜臀va69| www.五月天| 97国产|免费| JULIA一区二区三区在线播放| 美美91成人国产精品欧美精品久久久久久久| 久久精品国产72国产精品福利 | 夜夜黄| 亚洲天堂无码| 久久久三区二区一区| 欧美日本国产日韩激情视频| 亚洲宗合网| 国产精品一区二区校花| 啊啊啊不要好爽日韩无码一区| 搡老熟女免费视频| 欧美人妻色| 国产精品亚洲无码| 欧亚揄拍偷拍精品视频 | 日日干夜夜骑| 国产这里只有精品| 亚洲人人操| 亚洲黄色AV电影| 久久久婷婷| 人妻天堂网| 国产欧美日韩在线观看麻豆传媒公司| 一区二区视频在看| 亚洲欧洲美腿丝袜| 亚洲欧美综合区自拍另类 | 日本成a人v网站在线观看| 9/A片 | 91人人看| 久草国产在线视频| 玖玖爱视频网站| 婷婷香蕉欧美在线一区二区三区| 凹凸视频在线一区二区| 无码视频一区二区| 福利色色| 久久精品国产亚洲AV先锋| 欧美五区| 狠狠色噜噜狠狠狠狠狠色综合久久| 在线小说视频一区| 超碰超碰95| 日本东京热加勒比久久| 国产热RE99久久6国产精品首| 欧美色图欧美| 97超碰热线| 在线观看日韩av不卡| 超清中文乱码字幕| 精品久久大胆人体| 亚洲av夫妻操穴网| 秋霞蝌科网日本一区| 亚洲男人在线观看天堂| 伊人久久大香线蕉亚洲五月天,青草青草欧美日本一区二区,欧美日产欧美日产国产 | 午夜国产乱伦视频| 丰满人妻-区二区三区| 久久只有精品一区二区三区| 亚洲熟女中文字幕在线| 小视频国产| 婷婷人妻激情| 99爱爱| 久久久不能久久久久| 国产91精品福利在线| 天啪| 97超碰精品图片| A啊啊在线观看| 屌逼传媒| 天堂种子在线www网资源| 亚洲影院365| 久操免费电影| SUV一区二区在线看| 电影69乱码96| 91蜜桃婷婷狠狠久久综合9色| 精品人妻中文字幕4399| 亚洲欧美综合| 亚洲美女精品九九视频| 超碰社区97| 亚洲国产一级黄色视频| 九九热三级片| aV中文麻| 欧美成人贴图| 92大香蕉| 国产精品69久久久久久久 | 亚洲 无码 偷拍| 性91| 欧在线一二区| 天天干18禁| 大香蕉懂9| 天天操熟妇| 亚洲欲| 日本精品久久久久久久| 蜜桃一区二区三区| 乱欲性色| 91色色综合| 天美传媒av在线| 精品久久九| 日韩精品9999| 亚洲日韩熟女人妻高清在线| 国产精品久久久久久久久久久久久久久| 快点操死我| 91中文精品日韩欧美在线| 欧美色图片91| 亚洲欧洲色情高清| 97精品在线| 成人一级二级| 欧美人妖内射| 欧美日韩传媒| 韩国免费播放一级毛片| 男女做爰猛烈动高潮A片免费应用 少妇厨房愉情理伦片bd在线观看 不卡中文字幕aⅴ在线 | 亚洲成av人片色午夜乱码| 欧美日韩操逼嗦吊| 国产精品色| 欧美熟妇视频| 国产美女精品| 久久久精| 97免费在线观看| 日韩欧美亚洲国产日韩| 日韩午夜国产| 超碰97资源网亚洲| 欧美97在线欧| 日韩操p| 亚洲精品啪视频| 99热婷婷| 97综合国产精品高潮久久| 丝袜亚洲91| 人人妻人人爽人人精品| 日韩欧美亚洲自拍偷拍| 377p欧洲日本亚洲大胆| 亚洲乱熟女一区二区三区大香蕉| 高清无码网址| 9精品在线| 91狠狠狠| 黑人精品XXX一区一二区| 丰满高潮18xxxx| 欧美亚洲丝袜人妻制服99| 青草一区二区| 97久久精品亚洲| 97色色色| 欧美激情综合| 97亚洲综合在线| 国产在线精品偷| 美欧色综合| 蜜臀久久99精品久久久久免费观| 青娱乐国产剧情av一区| 五月婷婷hd| 国产精品成人无码av无码免费| 日本最新1区2区3区| 国产日本久久免费精品| 久久久久久综合久久伊人蜜月| 亚洲春色激情小说| 亚洲无无码αⅴ每日更新| av天天在线| 色婷婷99| 操www| 亚洲午夜精品久久久中文影院| 99热这里只有精品99| 91香蕉视频在线观看免费| 日韩欧美蜜桃精品久久中文字幕久久| 天天爱天天韩国日本牛牛牛牛| 国产精品com| 午夜福利在线合集| 久久精品熟女亚洲AV麻豆软件| 国产精品一二三在线看| 久久激情视频| 日本性爱网址| 丝袜AV一二三区| 亚洲九月丁香| 有码专区最新中文字幕有码| 91蜜桃传媒精品久久久一区二区| 99热日| 四虎在线播放| 97天天摸天天爽| 亚洲欧美一区二区三区一猛片| 久久久性| 精品国产乱码| 欧美在线视频播放| 婷婷久草| 欧美大香蕉同搞| 在线观看一卡二卡| 亚洲无码?第一页| A级毛片在线看免费| 午夜精品久久久久久久久久久久久 | www亚洲免费| 伊人影院日本| 国产强奸乱伦无码视频| 超碰免费97| 久操电影| 色欲久久久久综合网| 国产精品内射婷婷一级二| 97超碰超碰| 日韩综合成人免费视频| av亚欧| 九九精品无码专区免费| 小日子操bb在线看| 91人妻最真实刺激绿帽| 午夜视频好爽啊| 国产精品一级毛片不卡视| 激情小说成人日本无码一| 国产美女mm131爽爽爽爽| 五月天婷婷久久| 亚洲有码 欧美精品| 高树玛利亚无码流出| 欧美熟女妇同| 性高潮久久久久久久久久久| 高颜值美女口爆高潮浪叫| 天天干人人看综合| 人人操人人操人人人操| 亚洲图片欧美偷拍| 欧美日韩精品国产91| 久久老子无码午夜伦不卡| 久久五月天婷婷丁香中文字幕| 台湾佬中文娱乐网久久久久久久久久com| 亚洲天堂一二| 丁香九月 婷婷| 99re3这里只有精品| 激情婷婷丁香网| 国产乱色国产精品免费视| 成人亚欧免费视频| 妺妺跟我一起洗澡没忍住| 大香蕉婷婷| 亚洲丨在线| 精品一区二区三区四区外站| 日本不卡中文| 国精精品无码一二三区水多多| 激情AV| 白丝少妇一区二区| 国产9区| 欧美黄色片AAAAA| 亚洲熟女一区| 亚洲欧美精品国产一区二区| 91狠狠色丁香婷婷综合久久精品| 亚洲国产丝袜在线观看| 欧亚性爱在线视频| 欧美专利1区2区3区4区5区免费| 99操逼| 天天干天天爽| 超碰久超碰久| 五月天婷婷色| 啊啊啊想要| 亚洲色图久久成人| 九九九精品| 国内黄色精品| 色天使亚洲综合在线观看| 亚洲丝袜色图| A 在线网址| 国产1727欧美| 十八禁啪啦拍视频无遮挡| 欧美在线|亚洲| 五月激情影院| 视频国产成人精品日本亚洲18| 亚洲综合色男人网| 中文字幕人成乱码熟女香港| 精品一区二区三区四区女| 激情综合网五月婷婷| 欧美一二三级精品在线| 岛园激情| 蜜桃久久久久久| nuu12国产麻豆精品| 人妻9117c| 60秒不遮不挡| 欧美自拍网| 制服中出中文人人精品| 67914亚洲精品| 日本午夜精品理论片A级APP发布| 亚洲欧美97| 花野真衣| 午夜激情成人在线观看| 亚洲棕合电彰| 久久系列| 丁香九月婷婷| 成人欧美日超碰| 婷婷月色| 欧美特大黄一级片片免费| 色哟哟精品1精品2| 一类av片在线看| 亚洲国产综合久久久性感熟妇| 亚洲蜜臀视频精品久久| 99热99在线播放激情| 欧美韩国你懂得在线 | 亚州成人A√| 精品久久久久av影院| 91欧美网| 激情四射五月天| 亚洲 91 在线| 日韩欧美成人性爱在线| 一区二区高清视频| 91国精产品| 成人精品视频一区二区| 放黄片放3级黄片没穿衣服| 久久这里| 青娱乐91| 天天爽入口| 久久久不卡区一区二区三区久久久| 5278欧美一区二区三区| 中文字幕久久婷婷丁香五月天| 少妇色综合| 国产精品网站免费| 五月天婷婷小说| 99久久久er直播网址| 久艾草在线精品视频在线观看| 九草九九九| 亚洲综合射| 亚洲男人的天堂网| 成人久久久精品| 91丝袜在线视频| 热热色综合网| av天堂加勒比| 亚洲欧美另类图片| 亚洲中文字幕精品一区| 少妇久久久| 欧美精品精品一区二区| 欧美一区二区三区互相| 国产精品久久久久亚洲av| 亚洲激情综合另类男同| 亚洲午夜未满十八勿入网站日本又色又爽又黄 | 97精品久久| 偷拍盗拍亚洲色图图片| 老司机福利社视频在线观看| 婷婷丁香人妻 | 亚洲性爱成人| AV麻豆免费一区| 97在线视频免费看| 欧美性第一页| 丰满少妇乱子伦精品无| 调教熟妇 久久久久久| 日本不卡三级网在线播放| 久久成年精品| 天天干人人乐| 日韩欧美成人综合在线| 丁香五月偷拍| 久久久久人| 热久久国产精品视频大陆精品| 高清无码国产亚洲| 99青草| 国产乱码精品久久久久久| 青青青草伊人精品| 国产精品探花色| 婷婷成人五月天| 亚洲性猛| 婷婷丁香九月| 色狠人在线99| 国产精品片| 99亚洲精品| 天天热精品| 再深点灬舒服灬太大了添视频 | 日韩国产精品人妻无码久久久| 97在线视频观看网站| 青青草在线视频人人想人人上| 熟女久久久| 蜜乳AV一区| 日本免费一区二| 日韩无码一区二区三区| 日本三级中国三级99人妇网站| 久久久久久久久久久久久女过产乱-少妇高潮一区二区三区喷水-成人AV | 激情第四色| 色97国产69香蕉| 人人透人人操| 国产乱码久久久| 国产自偷自拍一区| 夜夜性| 特级大荫道BBwBBwBBW| 曰韩中文人妻视频| 性爱动态120秒| 啊啊啊好想要| 五月开心久久AV官网| 国产精品无码av嫩草| 国偷自 一区| 亚洲天堂男人在线| 欧洲亚洲人妻无码久久三区四区| 婷婷色一区| 色综合V| 欧美后入式| 欧美日韩夜夜| 国产一级内射无挡观看| 91九九九吃| 欧美日韩人人精品| 亚洲第一狼人丝袜美女另类| 伊人欧美大香蕉视频| 欧美不卡在线美女| 欧美aaaaaaa| 蜜臀一区二区三区亚洲最新章节在线观看 - 高清蜜臀一区二区三区亚洲全集播放 | 亚洲天堂区| 国内一区二区免费| 中文熟女五十乱码在线| 五月天婷婷小说| 91在线视频国产网站| 亚洲色图第一页| 美女淫穴| 日韩草久视频| 国产一区二区视频在线播放| 亚洲中字幕日本一区二区三区| 青青草中出视频| 91嫩草欧美| 极品色社| 人妻熟女午夜精品在线| 亚洲无码精品AV久久久| 97在线免费| 岛国黄片网站| 九九视频黄色片| 八人操人人摸人人看| 亚洲色图日韩精品| 激情无码日韩| 国产精品嫩草影院免费| 色哟哟 日韩精品| 久久黄人人爽视频| 人妻偷拍一区二区三区| 九九无码| 操操操五月天婷婷丁香影院| 日韩精品啪啪啪| 久久久一区二区| 99精品九九九九九九| 9久9久| 国产精品日日摸天天碰| 久久少妇人妻| 国产91丝袜在线播放蜜月| 国产精品另类一区大香蕉| 久久九操在线观看| 亚洲精品蜜桃久久久| 精品十八在线观看| 亚洲图片91| 精品免费1| 国产精品自拍欧美在线| 欧美中文字幕日韩在线| 操逼啊啊啊91| 五月婷婷综合在线| 狠狠躁AV| 精品妇操一区二区三区| 国产乱不卡| 老熟女乱伦片| 欧美一级做a爰片免费视频| 日本欧美一区二区三区视频麻豆| 大色综合网| 人人澡人人爽人人精品| 色噜噜人妻丝袜AV资源| 亚洲91射| 午夜国产综合视频在线观看| 国产一级特黄大片处女| 亚洲 日韩 欧美 国产综合体| 国内精品不卡无毒99999| 亚洲日本男人天堂网| 久久精品国产99久久,亚洲日韩久久日本一区一区三区 | 亚洲 图片 欧美 色图| 狠狠做深爱婷婷久久二区| 91bbb| 麻花豆传媒剧国产MV出差| 97五月天| 另类专区加勒比| 久久这里只精品免费福利| 久久香蕉影院| 青青草五月份天| 伊人激情五月天一区二区| 亚洲国产精品乱码在线观看| 精品少妇一区二区| 国产精品自拍欧美在线| 男人 天堂 日 亚洲| 91精品国产91久久青草| 老女人爆菊| 久久久久久久九九九九| av凤凰久久久| 亚洲色欧| 户外裸露刺激视频第一区| 天天香香欲综合| 天天谢天天干| AV有码在线| 中文字幕一二三区| 久久激情亚洲精品无码?V| 亚欧美综合网| 国产久久男人天堂| 91麻豆一二三区| 五月激情天| 国产91 丝袜在线播放00-百度| 日韩高潮一区| 亚洲精品一区二区精品| 亚州 综合 色图| 久久综合国产精品国产| 久久亚码| 91狠狠综合久久久| 操东北女人| 天天干天天日天天射黄色片| 欲香欲色| 91老妇女| 日韩国产十八禁| 亚一综合久久久久久久久久| 色欲天香天天综合网-成年人三级片网站-欧美乱妇狂野-日韩国产专区-久久久久久 | 激情网色| 日韩大香蕉AV影片| 国产无遮挡| 国产av美女被艹的乱叫| 国产精品久久久久久久毛片1| 又摸又舔在线观看网站| 亚洲精品天堂久久A∨51成人漫| 呻吟 欧美 日本 中出| 日本韩国一本产品小视频日本韩国一本产品久久久产品小视频日本韩国一本产品久 | 干B| 国产久久久久久久久一区二区| 日韩日本欧美在线观看| 2020中文字幕在线| 久久色激情一区二区三区| 黄网色一区二区三区四区精品| 久久久久久久9| 97色操| 亚洲精品97p| 欧美日韩国产人人| 99re3这里只有精品| 一起草AV| 国产精品久久久久无码AV会牛| TS人妖另类精品视频系列| julia ann久久| 欧美在线 亚洲| 九九热这里只有在线精品视 伊人草 成人菠萝蜜视频在线观看 | 国产成年女黄特黄| 欧美精品成人一区二区在线观看| 亚洲人久久久久日| 亚洲男人在线观看天堂| 97精品全部| 中文字幕午夜精品久久久| 91成人在线| 9997se| 91久热| 亚洲激情视频| 国产性刺激| 日本网色| 女同亚洲欧美一二三区久久电影| 色五月激情综合网| 欧美老熟另类| 大香蕉伊然在亚洲91| 好爽视频在线观看| 国产日韩欧美中文在线播放| 国产精品熟女丝袜一区二区| 99re视频在线观看这里只有精品| 国产丝袜美女诱惑| 久艹99| 超碰97护士| 人妻精品一区二区在线| 欧美疯狂做爰xxxx| 欧美999999| 九九九九热| 操逼日韩无码 | 亚洲熟女诱惑| www国产天美久久久| 国产乱婷婷精品二区三区| 2020中文字幕在线| 亚洲一区二区久久久久| 麻豆天美国美国产AV| 欧美日本久久精品一区| 亚洲熟妇白浆无码AV| 丁香色五月 97干| 国模吧 一区二区三区| 久久99精品九九久久久婷婷| 99国产女人| 超碰成人免费| 欧美狠狠弄| 99这里只有精品国产| 国产精品午夜成人福利| 永久免费观看的毛片的网站| 日本韩欧美在线播放a| 日日骚精品视频| 97在线精品观看视频| 久久一本大香蕉 | 99黄页网站| 岛国黄| 人妻天天爽夜夜爽2| 美国一区二区免费视频| 国产热av| 亚洲av夫妻操穴网| 亚洲色图欧美一区二区不卡| 欧美天堂日韩三级国产传媒| 熟女这里只有精品6| 激情黄色五月天| 亚洲免费人妻在| 亚洲高清欧美总合| 一直超碰| 人妻22p| 日本成人免费一区二区三区| 亚洲超碰综合网| 欧插网站| 国产91精品福利在线| 久久婷婷成人综合色怡春院| 宅男91视频在线播放| 91精品丝袜在线观看| 日本精品999| 久久久久幕乱码| 国产天美传媒精品| 人妻熟女一区在| 韩国一级婬片A片无码天美| 亚洲男人天堂视频| 亚洲熟女乱色一区二区三区久久久| 亚洲av综合伊人久久| 亚洲人精品午夜不卡| 亚洲综合影片| 狠狠色丁香| 熟女色综合久久| 性开放中文AV高清无码免费看| 97国产精品一区| 欧亚韩国999| 亚洲Av噜噜一区二区三区妖精| AV色天香在线| 大香蕉手机视频| 亚洲超碰在线| 日本精品不卡一二三区| 人人操,操人人| 天天操女人| 日韩欧美亚洲国产日韩| 97 九色| 热G综合热G中文| 无码直播久久久| 色哟哟511老熟女| 精品免费一区二区三区在线亚洲人成| 97超碰总站| 2019午夜福利视频| 日韩免费a级毛片无码a∨| 蜜臀久久99精品久久久久久-DVD| www被窝色com| 巨乳特殊服务按摩| 999色欧美中文字幕| 噜噜瑟| 天堂av最新电影网| 亚州男人天堂| 久久久久久加勒比| 97超碰人人操人人操| 久九九九九九九九热| 欧美性,色九九| 国产av热热色| 男人天堂最新手机版在线青青草| 日韩精品-原创伙伴| 大香蕉一线视频| 五十路熟女工口 | 色玖玖| 丁香五月激情综合国产| 亚洲国产日韩欧美熟妇在线| 天天看天天日天天操| 欧美日韩传媒| 为用户提供免费看黄网址在线观看| 静品嫩模一区二区| 狠插 制服 自拍| 色综合99999| 午夜精品久久一区二区| 五月天久久综合网| 影音先锋乱伦资源| 成人免费福利在线观看| 大香蕉久久| GVH-003 母子姦 青木玲-麻豆视频,麻豆视传媒短视频网站入口,麻豆视传媒官网直 | 国产又猛又粗又爽又黄| 超碰在线观看av不卡| 播播亚洲小说亚洲| 日本一久是| 亚洲小说视频| 亚洲欧美国产va在线播放频| 国产主播福利| 欧美色www亚洲国产阿娇要播| 亚洲人妻五月丁香婷婷| 免费a v| 亚洲图片色图欧美另类 | 性爱综合一区二区| 黄人人操人人操| 成全在线观看免费观看| 伊人久操| 欧美精品成人亚洲| 国产精品一区二区麻豆| 久久久久久久久9| 国产日韩久久| 国产黄色剧情影片麻豆免费播放| 国产传媒日韩| 少妇厨房愉情理伦片bd在线观看| 人人爱人人乐人人操| 久久久久久69国产一区二区 | 中文97国产| 中文子幕一二三| 欧美劲爆视频一区二区| 一级性爱网| 三级特黄60分钟播放| 久久中出在线| 夜嗨影院| 欧美翘臀视频网站一区二区三区| 黑人黄片在线免费观看| 青青久久艹| 国产精品小视频一区二区三区| 青青草中文字幕| 亚洲爱爱视频一区二区| 操日韩第| 精品1区2区3区| 久久免费看高潮毛片韩国| 久久黄色性爱视频| 很很很很操| 久7色| 男女做爰猛烈动高潮A片免费应用| 高清肉丝中文无码| 97视频免费在线观看| 干b在线性社区| 日本精品无码三级网站| 91日韩网站| 九九九九免费高| 日韩亚洲美女一区久久| 欧美日综合| av草草在线电影| 99热综合在线| 欧美亚洲| 成人午夜高潮av猛片| 亚洲色图 综合| 99综合网| av强奸乱轮| 久久精品国产欧美日韩亚洲欧美日韩中文久久国产一区 | 天天舔天天日天天射| 久久久国产三级黄色片|