日韩精品一区二区三区在线视频放-无码中文字幕V?一区二区-成年片免费观看视频-国内少妇人妻丰满av-国产精品中文字幕免费观看-亚洲成人久久一区二区三区-国内少妇偷人精品视频无缓冲-一区二区国产精品日本一区二区三区在线网

ARTICLE DETAIL

資訊詳情

深耕商務(wù)建站與企業(yè)官網(wǎng)運(yùn)營的一線實(shí)戰(zhàn)洞察。

Nacos首次調(diào)用慢排查與配置調(diào)優(yōu)實(shí)戰(zhàn)指南

Nacos首次調(diào)用慢排查與配置調(diào)優(yōu)實(shí)戰(zhàn)指南 1. 項(xiàng)目概述與問題背景1.1 核心需求解析我不知道你有沒有踩過這樣一個坑服務(wù)用 Spring Cloud Alibaba Nacos 做了服務(wù)注冊與發(fā)現(xiàn)平時用起來一切正常但每次服務(wù)剛啟動完第一次去調(diào)用別的服務(wù)接口總感覺像卡住了一樣慢得離譜。等這第一次調(diào)用過去了后面的請求又一馬平川快得很。這個首次調(diào)用慢的問題在微服務(wù)架構(gòu)里屬于那種不痛不癢、但真遇到又很折磨人的隱性 Bug。說它不痛不癢是因?yàn)樗挥绊懽罱K結(jié)果——請求最終還是成功了只是慢了那么幾百毫秒甚至幾秒說它折磨人是因?yàn)樗h(huán)境、版本、部署方式強(qiáng)行掛鉤同一個版本在這里沒事?lián)Q個環(huán)境就現(xiàn)原形排查起來非常折騰。這篇文章不是講解 Nacos 基礎(chǔ)概念的入門文而是要落地解決首次調(diào)用慢這一具體問題的排障實(shí)錄。我會從 Nacos 的配置操作講起覆蓋原生部署和 Docker 部署兩種情況然后帶你一步步定位首次調(diào)用慢的根源并給出可以直接抄作業(yè)的配置方案。先說結(jié)論Nacos 首次調(diào)用慢這個問題絕大多數(shù)情況下不是 Nacos 服務(wù)端的問題而是客戶端在啟動初期與配置中心、注冊中心交互過程中一堆細(xì)節(jié)配置沒有調(diào)優(yōu)導(dǎo)致的。Nacos 本身只是一個分布式基礎(chǔ)設(shè)施它把服務(wù)注冊、發(fā)現(xiàn)、配置管理的活干完了但客戶端怎么配合它干活這個配合的細(xì)節(jié)直接決定了首次調(diào)用的體驗(yàn)。1.2 影響范圍與排查思路這個問題的典型出現(xiàn)場景包括服務(wù)剛啟動第一筆外部請求進(jìn)來到真正發(fā)出下游調(diào)用之間延遲明顯。多實(shí)例部署環(huán)境中部分實(shí)例首次調(diào)用慢部分實(shí)例正常。測試環(huán)境一切正常生產(chǎn)環(huán)境首次調(diào)用偶發(fā)超時。服務(wù)重啟后短時間內(nèi)大量請求涌入出現(xiàn)集中的慢調(diào)用或超時。如果你遇到了上述任意一種又不想每次重啟服務(wù)都提心吊膽這篇文章一定要往下看。排查思路的核心在于先確認(rèn)慢在哪一段再確認(rèn)導(dǎo)致慢的機(jī)制。Nacos 場景下慢的環(huán)節(jié)通常集中在服務(wù)發(fā)現(xiàn)、配置拉取、客戶端線程初始化三個環(huán)節(jié)。定位到具體環(huán)節(jié)之后配置調(diào)整才有針對性。下面我按自己的實(shí)戰(zhàn)經(jīng)過把整個配置過程和采坑點(diǎn)完整過一遍。2. Nacos 配置操作全流程2.1 配置之前先搞懂 Nacos 的兩個核心角色在動手配置之前必須先分清你用的是 Nacos 的哪個能力。Nacos 本質(zhì)上是一個注冊中心 配置中心的二合一組件而這兩個角色對客戶端的影響路徑完全不同。注冊中心負(fù)責(zé)服務(wù)實(shí)例的管理。服務(wù)啟動時客戶端把自身 IP、端口、健康狀態(tài)注冊到 Nacos 服務(wù)端服務(wù)調(diào)用方Consumer通過 Nacos 獲取目標(biāo)服務(wù)的實(shí)例列表再根據(jù)負(fù)載均衡策略選擇實(shí)例發(fā)起調(diào)用。這一條鏈路如果出了問題直接表現(xiàn)就是找不到服務(wù)或者拿到的是過期的實(shí)例列表。配置中心負(fù)責(zé)配置項(xiàng)的動態(tài)管理。服務(wù)啟動時客戶端向 Nacos 拉取配置運(yùn)行期間客戶端通過長輪詢監(jiān)聽配置變化。這一條鏈路如果出了問題直接表現(xiàn)是配置沒生效或者啟動時卡在拉配置環(huán)節(jié)。首次調(diào)用慢恰恰就集中在這兩條鏈路交匯的地方。服務(wù)啟動后本地 Spring 容器的初始化工作可能早就完成了但 Nacos 客戶端的某些異步動作還在進(jìn)行中這時候第一筆請求打進(jìn)來就會撞上客戶端暫時還沒準(zhǔn)備好的尷尬期。2.2 原生部署 Nacos 的基本配置操作先講原生部署。很多團(tuán)隊(duì)在測試環(huán)境會直接用解壓包方式啟動 Nacos Server雖然 Docker 已經(jīng)很普及了但原生部署依然有它不可替代的場景便于直接查看日志、便于調(diào)試、不依賴鏡像倉庫。啟動 Nacos Server 前最基礎(chǔ)也最關(guān)鍵的配置在conf/application.properties### 是否開啟認(rèn)證 nacos.core.auth.enabledfalse ### 控制臺登錄用戶名密碼開啟認(rèn)證時生效 nacos.core.auth.plugin.nacos.token.secret.keySecretKey012345678901234567890123456789012345678901234567890123456789 ### 服務(wù)端口 server.port8848 ### 數(shù)據(jù)源配置默認(rèn)使用內(nèi)嵌 Derby生產(chǎn)建議切換 MySQL spring.datasource.platformmysql db.num1 db.url.0jdbc:mysql://127.0.0.1:3306/nacos_config?characterEncodingutf8connectTimeout1000socketTimeout3000autoReconnecttrueuseUnicodetrueuseSSLfalseserverTimezoneAsia/Shanghai db.user.0nacos db.password.0nacos這里有一個非常反直覺的坑很多人以為 Nacos Server 是內(nèi)存組件配置里沒有數(shù)據(jù)庫字段也沒關(guān)系。但 Nacos Server 的配置數(shù)據(jù)、注冊的持久化實(shí)例信息臨時實(shí)例除外都依賴數(shù)據(jù)庫存儲。默認(rèn)的內(nèi)嵌 Derby 只適合單機(jī)跑著玩一旦服務(wù)重啟Derby 數(shù)據(jù)文件可能損壞導(dǎo)致配置丟失。我自己就遇到過明明配置在頁面上能看到重啟之后全部蒸發(fā)的情況就是因?yàn)橛昧?Derby 且沒有做數(shù)據(jù)備份。所以生產(chǎn)環(huán)境務(wù)必配 MySQL別嫌麻煩。啟動時單機(jī)模式用-m standalone參數(shù)sh startup.sh -m standalone如果是在 Linux 服務(wù)器上啟動默認(rèn)是集群模式不指定standalone的話會嘗試去連其他節(jié)點(diǎn)然后一直報(bào)連接失敗。這個坑很常見尤其是在測試環(huán)境隨便拉起來一個服務(wù)用的時候。2.3 Docker 部署 Nacos 的操作細(xì)節(jié)Docker 部署 Nacos 其實(shí)是更主流的方式尤其是 Kubernetes 環(huán)境里Nacos Server 往往以 StatefulSet 方式部署。對于單體 Docker 部署最簡潔的啟動命令如下docker run -d \ --name nacos-server \ -p 8848:8848 \ -p 9848:9848 \ -p 9849:9849 \ -e MODEstandalone \ -e SPRING_DATASOURCE_PLATFORMmysql \ -e MYSQL_SERVICE_HOST127.0.0.1 \ -e MYSQL_SERVICE_PORT3306 \ -e MYSQL_SERVICE_DB_NAMEnacos_config \ -e MYSQL_SERVICE_USERnacos \ -e MYSQL_SERVICE_PASSWORDnacos \ nacos/nacos-server:latest注意這里我把 9848 和 9849 端口也映射出來了。Nacos 從 2.x 版本開始客戶端與服務(wù)端之間的 gRPC 通信走 9848 端口9849 是服務(wù)端之間的 gRPC 通信端口。很多人只映射了 8848 端口結(jié)果注冊中心頁面能打開服務(wù)也能注冊上但客戶端拉取服務(wù)列表時需要通過 gRPC 建立長連接端口不通就一直在重試表現(xiàn)出來就是服務(wù)剛啟動時各種超時、首次調(diào)用極慢。這是首次調(diào)用慢的一個非常隱蔽的誘因Docker 容器沒把 9848 端口暴露出來。我建議你先自查這一條如果端口映射有缺失后續(xù)的配置優(yōu)化做得再好都白搭。注意Nacos 2.x 版本引入 gRPC 通信機(jī)制之后除了 8848 主端口還必須保證 9848客戶端 gRPC和 9849服務(wù)端 gRPC的端口可達(dá)。端口不通會導(dǎo)致客戶端連接狀態(tài)不穩(wěn)定間接引發(fā)首次調(diào)用慢。2.4 客戶端依賴與基礎(chǔ)配置服務(wù)端配置完之后客戶端側(cè)的 Maven 依賴也需要對齊版本。Spring Cloud Alibaba、Spring Cloud、Spring Boot、Nacos Client 四者之間的版本關(guān)系堪稱微服務(wù)領(lǐng)域最大的版本深水區(qū)之一。我見過太多人把 Spring Cloud Alibaba 版本隨便升一升Nacos Client 的版本也跟著變了然后該通的調(diào)不通不該有的 Bug 全冒出來了。以當(dāng)前比較穩(wěn)定的組合為例組件版本Spring Boot2.6.xSpring Cloud2021.0.xSpring Cloud Alibaba2021.0.5.0Nacos Client由 Spring Cloud Alibaba 管理2.2.xMaven 依賴坐標(biāo)如下dependency groupIdcom.alibaba.cloud/groupId artifactIdspring-cloud-starter-alibaba-nacos-discovery/artifactId /dependency dependency groupIdcom.alibaba.cloud/groupId artifactIdspring-cloud-starter-alibaba-nacos-config/artifactId /dependency配置文件application.yml中核心配置項(xiàng)如下spring: application: name: order-service cloud: nacos: discovery: server-addr: 127.0.0.1:8848 namespace: public group: DEFAULT_GROUP register-enabled: true config: server-addr: 127.0.0.1:8848 file-extension: yaml namespace: public group: DEFAULT_GROUP refresh-enabled: true到這里為止基礎(chǔ)配置是能跑通的但離首次調(diào)用不慢還有距離。接下來進(jìn)入重點(diǎn)也就是首次調(diào)用慢的具體定位和解決。3. 首次調(diào)用慢問題的定位3.1 確認(rèn)慢在哪一個環(huán)節(jié)如果你遇到首次調(diào)用慢第一步不是改配置而是要確認(rèn)慢在哪個環(huán)節(jié)。我用一個比較笨但很有效的方法來分段計(jì)時。在服務(wù)調(diào)用入口和出口分別打點(diǎn)記錄下時間戳然后看差值。偽代碼如下public Result doBiz(Req req) { long start System.currentTimeMillis(); log.info([TIMELINE] 入口收到請求{}, start); // 發(fā)起 Feign/RestTemplate 調(diào)用前 Result result remoteService.call(req); long end System.currentTimeMillis(); log.info([TIMELINE] 得到響應(yīng){}耗時{}ms, end, end - start); return result; }同時在 Nacos Client 的日志里觀察關(guān)鍵節(jié)點(diǎn)。Nacos 客戶端默認(rèn)日志路徑是logs/nacos/核心日志文件是nacos-client.log。啟動服務(wù)后觀察日志中以下幾個關(guān)鍵記錄的出現(xiàn)時間客戶端啟動開始連接 Nacos ServergRPC 連接建立成功訂閱服務(wù)列表成功第一次獲取到服務(wù)實(shí)例列表如果這幾個節(jié)點(diǎn)之間的間隔異常比如連接建立后到訂閱成功花了 3 秒那問題就出在客戶端與 Nacos Server 的交互上。3.2 常見的三種慢路徑根據(jù)我的實(shí)際排查經(jīng)驗(yàn)Nacos 場景下首次調(diào)用慢可以歸類為三種路徑第一種服務(wù)發(fā)現(xiàn)路徑慢。Consumer 發(fā)起調(diào)用時需要從本地緩存的服務(wù)列表中獲取 Provider 實(shí)例信息。如果服務(wù)列表還沒有成功拉取或者列表中的實(shí)例狀態(tài)還沒刷新就會等待或者重試。第二種配置拉取路徑慢。如果用了 Nacos 配置中心服務(wù)啟動時會先拉取配置再啟動 Spring 容器。配置拉取的超時時間如果設(shè)置得過短在弱網(wǎng)或高延遲環(huán)境下就容易超時失敗。有些配置中心客戶端框架會在拉不到配置時直接啟動失敗而 Spring Cloud Alibaba 的實(shí)現(xiàn)里對某些配置是允許先用舊配置啟動的這個取舍就會影響首次調(diào)用的時機(jī)。第三種客戶端線程池初始化慢。Nacos Client 內(nèi)部有獨(dú)立的線程池用于負(fù)載均衡、健康檢查、服務(wù)列表更新。服務(wù)剛啟動時這些線程池才剛創(chuàng)建如果 JVM 的類加載還沒有完成預(yù)熱第一次調(diào)用就會觸發(fā)一堆類的加載和初始化導(dǎo)致首次調(diào)用慢。3.3 用一個實(shí)例場景還原全過程為了把這個問題講透徹我模擬一個真實(shí)的場景一個訂單服務(wù)order-service調(diào)用用戶服務(wù)user-service的 Feign 接口首次調(diào)用耗時 2.3 秒之后每次調(diào)用耗時穩(wěn)定在 50ms 以下。我在 order-service 的啟動日志里發(fā)現(xiàn)了這樣幾條記錄2025-06-01 10:00:01.001 [main] INFO c.a.c.n.registry.NacosServiceRegistry - nacos registry, SERVICE_NAME: order-service 2025-06-01 10:00:01.105 [main] INFO c.a.c.n.registry.NacosServiceRegistry - nacos registry, register finished 2025-06-01 10:00:02.300 [main] INFO c.a.c.n.config.NacosPropertySourceLocator - get data from Nacos success, dataId: order-service.yaml注意時間線注冊中心注冊 1 秒內(nèi)完成但是配置拉取花了 1.2 秒才完成。也就是說Spring 容器在配置還沒拉取完之前就已經(jīng)對外提供服務(wù)了實(shí)際上 Spring Cloud Alibaba 的啟動流程中配置拉取發(fā)生在 Spring 容器刷新之前配置沒拉取完正常來說服務(wù)不應(yīng)該對外暴露。那為什么首次調(diào)用會慢實(shí)際情況是服務(wù)注冊完成并不代表服務(wù)已經(jīng)可以被穩(wěn)定調(diào)用。在 Spring Cloud Alibaba 的實(shí)現(xiàn)中服務(wù)注冊動作發(fā)生在 Spring 容器的WebServerInitializedEvent事件之后也就是 Tomcat 已經(jīng)監(jiān)聽了端口、但某些后置處理器還沒跑完的階段。這個窗口期非常短但恰好第一筆請求打進(jìn)來時可能撞上 Feign 客戶端的第一次初始化這個初始化過程涉及生成動態(tài)代理類、加載負(fù)載均衡策略、初始化連接池一整套下來幾百毫秒是常事。所以首次調(diào)用慢的本質(zhì)往往是調(diào)用方Consumer側(cè)在第一次調(diào)用時才懶加載地去初始化 Feign/RestTemplate 的底層組件疊加 Nacos 客戶端剛拿到服務(wù)列表、還沒完成負(fù)載均衡器的預(yù)熱兩個慢啟動堆疊在同一個請求上從外部感知就是首次調(diào)用特別慢。3.4 定位工具與日志分析技巧定位這種問題你不能只靠猜要用工具把調(diào)用鏈拉出來看。我常用的方式是開啟 Feign 的日志輸出logging.level.項(xiàng)目包名DEBUG觀察首次調(diào)用的日志時間點(diǎn)。用 Arthas 在線診斷執(zhí)行trace com.example.feign.UserClient getInfo命令能看到方法內(nèi)部各子步驟的耗時分布。開啟 Nacos Client 的調(diào)試日志觀察注冊中心拉取列表的時間點(diǎn)。檢查 JVM 的類加載日志-verbose:class確認(rèn)延遲是否來自懶加載。有一次我用 Arthas 追蹤一個調(diào)用鏈發(fā)現(xiàn)耗時的大頭不在 Feign 發(fā)請求而是在負(fù)載均衡選擇服務(wù)實(shí)例的時候。chooseServer方法耗時 800ms而實(shí)際 HTTP 調(diào)用只耗時 30ms。這就是典型的服務(wù)列表未就緒、負(fù)載均衡器在等待或重試的場景。提示Arthas 的 trace 命令定位微服務(wù)調(diào)用鏈路延遲非常有效建議每個排查這類問題的同學(xué)都掌握基本用法。它不需要改代碼生產(chǎn)環(huán)境也能應(yīng)急使用。4. 解決首次調(diào)用慢的配置實(shí)操4.1 服務(wù)端的關(guān)鍵配置解決這個問題服務(wù)端能做的配置其實(shí)不多但有兩項(xiàng)值得重視。第一項(xiàng)是 Nacos Server 的 JVM 參數(shù)。如果 Nacos Server 自身 GC 頻繁、堆內(nèi)存不夠客戶端請求就會排隊(duì)間接導(dǎo)致首次調(diào)用慢。Nacos 默認(rèn)的 JVM 參數(shù)偏保守在bin/startup.sh中可以調(diào)整堆內(nèi)存JAVA_OPT${JAVA_OPT} -Xms1g -Xmx1g -Xmn512m如果服務(wù)規(guī)模不大幾臺到幾十臺實(shí)例1G 堆內(nèi)存足夠。第二項(xiàng)是開啟 Nacos Server 的 prometheus 指標(biāo)暴露默認(rèn)已開啟配合監(jiān)控大盤觀察服務(wù)端是否存在連接數(shù)飆高、請求超時的情況。如果服務(wù)端 CPU 打滿或者頻繁 Full GC那就是另一套調(diào)優(yōu)方案了。但說實(shí)話服務(wù)端配置對首次調(diào)用慢的影響遠(yuǎn)不如客戶端配置直接。大多數(shù)情況下問題出在客戶端下面重點(diǎn)講客戶端配置。4.2 客戶端配置項(xiàng)逐一調(diào)優(yōu)客戶端配置是解決首次調(diào)用慢的主戰(zhàn)場。Spring Cloud Alibaba 的 Nacos 客戶端適配中有幾個配置項(xiàng)直接影響首次調(diào)用的體驗(yàn)。4.2.1 關(guān)閉服務(wù)端的懶加載Nacos Discovery 客戶端默認(rèn)有一個開關(guān)控制是否需要等待服務(wù)列表就緒后才對外提供服務(wù)。這個開關(guān)在 Spring Cloud Alibaba 中通過spring.cloud.discovery.client.health-indicator間接控制。如果你沒有配置任何健康檢查、也沒有設(shè)置服務(wù)列表就緒等待那在極端情況下服務(wù)已經(jīng)暴露端口了但服務(wù)列表還是空的。更具體的配置是 Nacos Client 自身提供了幾個參數(shù)spring: cloud: nacos: discovery: # 注冊完成之前不進(jìn)行服務(wù)發(fā)現(xiàn) fail-fast: true # 客戶端開啟服務(wù)列表緩存 cache-enabled: truefail-fast這個參數(shù)的作用是如果客戶端啟動時無法連接 Nacos Server直接快速失敗而不是無限重試。這個參數(shù)對首次調(diào)用慢的影響是間接的——如果 Nacos Server 短時不可達(dá)不設(shè)置 fail-fast 的話客戶端會卡在注冊或拉取配置步驟很久表面上看起來就是服務(wù)啟動后首次調(diào)用非常慢。4.2.2 關(guān)鍵設(shè)置合理的負(fù)載均衡預(yù)熱這是最重要的一項(xiàng)配置。Spring Cloud LoadBalancer 默認(rèn)在首次調(diào)用時才去查詢服務(wù)實(shí)例列表并建立負(fù)載均衡策略??梢酝ㄟ^開啟饑餓加載eager-load來提前初始化spring: cloud: loadbalancer: eager-load: enabled: true clients: user-service, order-service, stock-service開啟后應(yīng)用啟動時就會提前初始化指定服務(wù)的負(fù)載均衡器避免第一次調(diào)用時才去加載。Spring Cloud LoadBalancer 的實(shí)現(xiàn)邏輯是BlockingLoadBalancerClient或ReactiveLoadBalancerClient在調(diào)用choose方法時會調(diào)用ServiceInstanceListSupplier獲取實(shí)例列表。默認(rèn)情況下這個 supplier 是懶加載的也就是調(diào)用時才去 Nacos 拉取列表。而開啟 eager-load 后會在應(yīng)用啟動時主動調(diào)用一次把列表緩存到本地后續(xù)調(diào)用直接從緩存取。我實(shí)測下來開啟 eager-load 后首次調(diào)用的耗時可以從 1.3 秒降到 150ms 左右基本接近正常水平。注意clients要配置為需要預(yù)熱的服務(wù)名多個服務(wù)用逗號分隔。這里不能偷懶地寫*或者all沒有這樣的通配符必須顯式列出。4.2.3 調(diào)整 Nacos 客戶端的服務(wù)列表獲取行為Nacos Client 在服務(wù)發(fā)現(xiàn)時默認(rèn)是先從本地緩存讀取服務(wù)列表再異步去服務(wù)端更新列表還是每次實(shí)時調(diào)服務(wù)端接口這個行為由 Nacos Client 的內(nèi)部機(jī)制決定在客戶端配置文件nacos.properties中有一個namingLoadCacheAtStart配置namingLoadCacheAtStarttrue默認(rèn)情況下這個值可能是 false意味著客戶端啟動時不會主動加載本地緩存文件中的服務(wù)列表而是等服務(wù)端推送。如果服務(wù)端推送有一點(diǎn)點(diǎn)延遲就會產(chǎn)生空窗期。把這個參數(shù)設(shè)為 true可以讓客戶端在啟動時先加載本地磁盤緩存的服務(wù)列表再等待服務(wù)端更新。這個配置在實(shí)際配置中往往被忽略因?yàn)楹苌儆形恼绿岬剿5谔幚矸?wù)重啟后快速恢復(fù)調(diào)用的場景里非常有效。4.2.4 配置超時與重試參數(shù)如果你是使用 OpenFeign 作為服務(wù)調(diào)用框架Feign 自身的超時和重試配置也需要一并調(diào)整避免首次調(diào)用超時時間太短導(dǎo)致失敗feign: client: config: default: connectTimeout: 5000 readTimeout: 10000 compression: request: enabled: true mime-types: text/xml,application/json,application/xml min-request-size: 2048 response: enabled: true連接超時設(shè)為 5 秒讀超時設(shè)為 10 秒這是一個比較穩(wěn)妥的起點(diǎn)。如果你把連接超時設(shè)成 200ms而首次調(diào)用恰好撞上初始化慢那就直接超時失敗了表現(xiàn)比慢更糟。4.2.5 線程池預(yù)熱如果你用的是 RestTemplate 或者 OkHttp 這種帶連接池的客戶端線程池的預(yù)熱其實(shí)就是提前發(fā)一個探測請求。這種手段比較 hack但確實(shí)有效。在應(yīng)用啟動完成后主動調(diào)用一個內(nèi)部接口讓 Feign/RestTemplate 完成類加載和連接建立Component public class FeignPreheatRunner implements ApplicationRunner { private final UserClient userClient; public FeignPreheatRunner(UserClient userClient) { this.userClient userClient; } Override public void run(ApplicationArguments args) { // 提前觸發(fā)一次調(diào)用用于初始化代理類和連接池 try { userClient.getInfo(preheat); } catch (Exception ignore) { // 預(yù)熱失敗不影響正常啟動 } } }這種方式的原理很好理解操作系統(tǒng)和 JVM 層面類加載、動態(tài)代理生成、TCP 連接建立都是需要時間的。第一次調(diào)用這些資源都沒準(zhǔn)備好所以要慢預(yù)熱之后這些資源都在了后續(xù)調(diào)用自然快。4.3 Docker 環(huán)境下的特別注意事項(xiàng)如果你用的是 Docker 部署的 Nacos Server還需要額外注意容器網(wǎng)絡(luò)對首次調(diào)用的影響。一個常見的場景Nacos Server 跑在 Docker 里客戶端跑在宿主機(jī)上。客戶端配置的server-addr127.0.0.1:8848初次連接時如果 Nacos Server 返回給客戶端的服務(wù)實(shí)例 IP 是容器網(wǎng)段地址而客戶端無法訪問這個網(wǎng)段就會導(dǎo)致連接失敗。首次調(diào)用時客戶端需要重新建立連接而連接失敗的重試時間往往比較長。另一個場景客戶端跑在 Docker 容器里Nacos Server 在宿主機(jī)上??蛻舳死锏?27.0.0.1指向的是容器自身而不是宿主機(jī)的 Nacos Server。這個可以說是新手最容易踩的坑。解決方法是配置為宿主機(jī)的局域網(wǎng) IP或者使用 Docker 的host_network模式。Docker 環(huán)境下還經(jīng)常遇到 DNS 解析慢的問題。如果 Nacos 用了域名而不是 IP容器內(nèi) DNS 解析延遲會直接疊加到首次調(diào)用耗時上。解決方法是讓 Nacos 服務(wù)端注冊為 IP 地址而不是主機(jī)名客戶端也盡量用 IP。4.4 完整配置參考可直接復(fù)制把上面所有客戶端配置匯總成一個相對完整的版本spring: application: name: order-service cloud: nacos: discovery: server-addr: nacos.example.com:8848 namespace: public group: DEFAULT_GROUP register-enabled: true fail-fast: true cache-enabled: true config: server-addr: nacos.example.com:8848 file-extension: yaml namespace: public group: DEFAULT_GROUP refresh-enabled: true loadbalancer: eager-load: enabled: true clients: user-service, stock-service啟動應(yīng)用時額外加上 JVM 參數(shù)java -jar order-service.jar \ -Dnacos.naming.cache.dir/opt/nacos/cache \ -Dnacos.logging.default.config.enabledfalse-Dnacos.naming.cache.dir指定服務(wù)列表本地緩存目錄方便排查時直接查看緩存內(nèi)容。5. Nacos 健康檢查機(jī)制與配置補(bǔ)充5.1 健康檢查的基礎(chǔ)概念Nacos 的健康檢查分為兩個層面服務(wù)端視角的健康檢查和客戶端視角的健康檢查。服務(wù)端視角Nacos 會定期檢查臨時實(shí)例的存活狀態(tài)。臨時實(shí)例ephemeraltrue通過客戶端心跳續(xù)約默認(rèn)心跳間隔 5 秒超時時間 15 秒持久化實(shí)例ephemeralfalse由服務(wù)端主動探測探測路徑為/actuator/health??蛻舳艘暯荢pring Cloud Alibaba 的健康檢查器會定期檢查服務(wù)列表是否就緒如果服務(wù)列表為空會把該服務(wù)標(biāo)記為不健康。這就是spring.cloud.discovery.client.health-indicator.enabledtrue配置的作用。完整的健康檢查配置如下management: endpoints: web: exposure: include: health,info,metrics health: nacos: enabled: true5.2 健康檢查與首次調(diào)用的關(guān)聯(lián)健康檢查和首次調(diào)用慢有什么關(guān)系關(guān)系大得很。如果上游服務(wù)有一個定期健康檢查器它每 30 秒檢查一次下游服務(wù)列表那么服務(wù)剛啟動時如果健康檢查失敗因?yàn)榉?wù)列表還沒就緒這個失敗狀態(tài)會被標(biāo)記在注冊中心。此時如果其他服務(wù)嘗試調(diào)用這個剛啟動的服務(wù)會發(fā)現(xiàn)它是不健康的于是拒絕調(diào)用或者走重試邏輯導(dǎo)致首次調(diào)用慢。這種問題的解法是調(diào)整健康檢查器的狀態(tài)讓服務(wù)在啟動初期不被標(biāo)記為不健康或者把健康檢查器的啟動延遲調(diào)大spring: cloud: discovery: client: health-indicator: enabled: trueNacos Client 內(nèi)部有一個NacosWatch組件它每隔一段時間拉取服務(wù)列表并檢查所有健康狀態(tài)。如果你發(fā)現(xiàn)服務(wù)啟動后需要等 30 秒左右才能被正常調(diào)用八九不離十跟這個NacosWatch的默認(rèn)重試間隔有關(guān)系。5.3 配置適度原則避免過度優(yōu)化這里必須潑一盆冷水Nacos 的配置不是越多越好也不是所有優(yōu)化手段都該一起上。我見過有人把健康檢查的間隔從 30 秒調(diào)到 1 秒把心跳間隔從 5 秒調(diào)到 1 秒把所有超時時間都調(diào)成 10 秒以上結(jié)果 Nacos Server 負(fù)載暴增服務(wù)端 GC 頻繁整體性能反而更差。你要清楚每個配置項(xiàng)背后的代價(jià)心跳間隔越短N(yùn)acos Server 收到的請求越多服務(wù)端壓力越大。健康檢查越頻繁客戶端和服務(wù)端的網(wǎng)絡(luò)開銷越高。負(fù)載均衡預(yù)熱服務(wù)越多應(yīng)用啟動時間越長。所以我的建議是如果服務(wù)規(guī)模不大優(yōu)先做負(fù)載均衡預(yù)熱 Nacos 客戶端參數(shù)微調(diào)這兩個動作其他配置按需追加。先解決主要矛盾再處理次要矛盾。6. 常見問題與排查技巧6.1 問題速查表問題現(xiàn)象可能原因解決方案首次調(diào)用慢后續(xù)正常負(fù)載均衡懶加載開啟 eager-load預(yù)熱指定服務(wù)服務(wù)啟動后一段時間內(nèi)無法被調(diào)用NacosWatch 未就緒檢查spring.cloud.discovery.client.health-indicator.enabled結(jié)合健康檢查線程池調(diào)優(yōu)注冊成功但調(diào)用超時gRPC 端口 9848 不通檢查防火墻和 Docker 端口映射配置中心拉取慢網(wǎng)絡(luò)延遲或超時設(shè)置不合理調(diào)整spring.cloud.nacos.config.timeout首次調(diào)用時連接被拒絕客戶端初始化連接池過慢通過 Feign/RestTemplate 預(yù)熱或調(diào)整連接池參數(shù)服務(wù)重啟后第一次調(diào)用極慢本地緩存未加載設(shè)置namingLoadCacheAtStarttrue6.2 排查技巧與工具清單實(shí)際排障過程中我總結(jié)了一套固定動作分享出來供參考第一步看 Nacos 客戶端日志。Nacos 日志記錄了注冊、訂閱、心跳全過程的詳細(xì)時間線是定位問題最直接的信息源。用grep過濾關(guān)鍵字即可grep -E register|subscribe|heartbeat|service list|get service logs/nacos/nacos-client.log | head -50第二步抓線程狀態(tài)。如果首次調(diào)用卡住用jstack看看卡在哪個線程。如果線程停留在SocketRead或者WAITING狀態(tài)十有八九是在等 Nacos 的響應(yīng)。第三步用 Arthas 做方法級追蹤。剛才提到的trace命令可以直接看到NacosServiceManager或LoadBalancer的內(nèi)部調(diào)用耗時分布不用改代碼就能定位熱點(diǎn)。第四步檢查網(wǎng)絡(luò)鏈路。用telnet或nc驗(yàn)證 8848 和 9848 端口是否連通。這一步最簡單但能排除一半以上的問題。6.3 采坑經(jīng)驗(yàn)匯總我在處理 Nacos 問題的過程中攢下了一些很有意思的踩坑經(jīng)驗(yàn)挑幾個典型的分享第一版本混用的問題。某個項(xiàng)目里注冊中心用的是 Nacos Server 1.4.2但客戶端依賴被 Spring Cloud Alibaba 自動升級到了 2.x。2.x 的客戶端會嘗試通過 gRPC 連接服務(wù)端而 1.4.2 的 Server 不支持 gRPC于是客戶端在兼容模式下退回到 1.x 的 HTTP 連接。這個回退過程在日志里幾乎看不到不對日志里會有一條明顯的連接異常記錄但很多人沒細(xì)看就導(dǎo)致每次首次調(diào)用都慢。排查這個問題時第一件事就是確認(rèn)服務(wù)端和客戶端的大版本是否一致。第二多網(wǎng)卡問題。服務(wù)器上有多塊網(wǎng)卡Nacos 客戶端注冊時選錯了網(wǎng)卡 IP注冊的地址不可達(dá)。服務(wù)調(diào)用方拿到這個不可達(dá)的地址第一次連接就會超時。解決方法是顯式指定客戶端的 IPspring: cloud: nacos: discovery: ip: 192.168.1.100第三Spring Cloud 上下文刷新導(dǎo)致配置丟失。項(xiàng)目里用了RefreshScope在配置變更后觸發(fā)刷新但刷新過程中 Feign 客戶端被重建了重建后的客戶端是冷啟動的就會出現(xiàn)非首次調(diào)用也慢的假象。這個坑很容易誤判為 Nacos 的問題其實(shí)只是上下文刷新導(dǎo)致的懶加載重來。6.4 快速驗(yàn)證優(yōu)化效果的方法每次調(diào)整完配置都建議做一個標(biāo)準(zhǔn)化的驗(yàn)證不然你無法判斷這次優(yōu)化到底有沒有效果。我的驗(yàn)證流程是重啟服務(wù)清理所有本地緩存文件。記錄服務(wù)啟動完成的時間點(diǎn)。立即發(fā)起第一次調(diào)用記錄耗時。連續(xù)調(diào)用 10 次記錄平均耗時。對比優(yōu)化前后的數(shù)據(jù)。如果首次調(diào)用耗時下降超過 50%說明優(yōu)化生效了如果變化不明顯那就需要回到日志分析環(huán)節(jié)看看耗時到底消耗在哪一步。7. 實(shí)際操作中的一點(diǎn)體會最后聊點(diǎn)實(shí)際的。Nacos 首次調(diào)用慢這個問題網(wǎng)上能搜到大量資料但每個團(tuán)隊(duì)的環(huán)境都不一樣直接抄別人的配置不一定好用。我個人在實(shí)戰(zhàn)中最大的體會是不要一上來就改配置先花十分鐘看日志把慢的環(huán)節(jié)確認(rèn)清楚。大多數(shù)情況下問題定位準(zhǔn)確之后真正需要改的配置往往只有一兩個。我自己的習(xí)慣是加入 Nacos 的項(xiàng)目會提前把nacos-client.log的日志級別調(diào)到 DEBUG 并歸檔保留這樣出問題的時候有據(jù)可查。同時會在項(xiàng)目里放一個啟動自檢的接口專門用來觸發(fā) Feign 客戶端的預(yù)熱和一個無業(yè)務(wù)邏輯的服務(wù)發(fā)現(xiàn)查詢這樣既能順帶做健康檢查又能把首次調(diào)用慢的風(fēng)險(xiǎn)轉(zhuǎn)移到啟動流程內(nèi)部而不是暴露給真實(shí)的業(yè)務(wù)請求。還有一個小技巧如果你在壓測或者聯(lián)調(diào)環(huán)境下需要頻繁重啟服務(wù)可以考慮在啟動參數(shù)中加-Dnacos.naming.cache.dir指定一個持久化的緩存目錄這樣服務(wù)重啟后還能復(fù)用上一次的本地緩存減少服務(wù)列表拉取的等待時間。這個方向還可以延伸一步Nacos 集群模式下多個節(jié)點(diǎn)之間的數(shù)據(jù)一致性、Client 端從哪個節(jié)點(diǎn)拉取最新列表的調(diào)度策略都會影響服務(wù)的發(fā)現(xiàn)延遲。如果你們團(tuán)隊(duì)的 Nacos 規(guī)模比較大建議后面在做容量規(guī)劃時把客戶端的注冊、心跳、訂閱請求量納入評估而不是只盯著服務(wù)端 CPU 和內(nèi)存用。先把客戶端這側(cè)的基礎(chǔ)打牢服務(wù)端才能真的省心。
返回列表
PREV
查看更多資訊
NEXT
返回資訊列表
超碰亚洲欧美日韩无| 欧美性爱第一区| 嗯啊免费视频| 色婷五月| 懂色AV蜜臀无码精品APP | 91xingse| 亚洲欧美日韩综合在线尤物| 日本在线播放不卡一区| 久草视频在线视频在线视频在线观看| 97精品一区二区三区免费| 乱伦熟女论坛| 亚洲av综合色区图片亚洲| 国产日韩中文字幕欧美| 精久久久91| 欧美顶级黄片AAAAA在线免费看| 五月天婷婷在线看 | 日本免费人成视频播放120秒| 国产熟女无套内射| 国产精品不卡少妇白| 啊啊啊啊二区好大| 黄网站黄视频网站进入口| 日本99热| 啊啊啊好湿久久| 日韩有码一区三区| 殴美,日韩国产伦精品| 成人综合久久精品色婷婷| 51久久夜色精品国产麻豆| 亚洲成人贴图| 九九热三级片| 欧在线一二区| 亚洲毛片基地专区| 无码人妻一区二区三区四区老鸭窝| 久草久日| 国内外毛片在线观看| 精品九九九九九九九| 香一区二区三区| 丁香六月激情| 久久日韩毛| 亚洲色图久久成人| 天天舔天天日天天射| 久久日本熟女精品一区| 玖日综合网| 最新中文字幕av| 欧美三级免费伊人| 天天摸天天碰天天添青青| 又摸又舔在线观看网站| 日韩情色AV| 磁力99AV| 国产97色在线 | 亚洲| 韩国成人精品久久久免费看| aaaa少妇高潮大片| 伊人久久婷婷| yirendaxiangjiashipin| 91在线欧色| 中文字幕 人妻不满 在线视频| 99这里有精品视频| 亚洲男人的天堂V| 英伦大奶子熟妇吊带| 欧洲精品在线播放| 色九九久九九| 青娱乐老司机视频| 性色av网站| 色色色色网站| 懂色AV蜜臀无码精品APP | 婷婷性网| 亚洲国产97| 1000部熟女视频在线观看| 国产午夜福利专区综合| 伊人久操| 欧美色图片91| 亚洲精品99999| 欧美18 在线观看| 懂色AV蜜臀无码精品APP | 欧美日韩操操操| 超碰人妻在线| 熟女欧美日韩综合婷婷| 亚洲熟妇AV日韩熟妇在线| 花花AV导航| 丰满人妻无码一区二区三区| 99精品在线播放| 久久鲁夜| 99中文字幕| 天天谢天天干| 久操九九九九| 精精品人妻一区二区三区| 超碰在线香蕉| 国产SV一线| 久久成人东京热人妻| 一区二区三区国产在线播放| 亚洲九月丁香| 10000部十八禁看电影| 白嫩妹子国产骚| 国产兽交视频在线播放| 激情综合五月天| 嫩草黄页| 日韩美女操b| 精品久久久久久亚洲| 国产青一二三| yy少妇精品久久| 欧美黑人极品高潮喷吹熟女黑人性暴力日韩在线欧美极品一区二区 | 免费A V在线播放| 亚洲乱码尤物193YW| 国产又大又粗又色生活片亚洲国产精品成人久久久综合免费 | 先锋影音av先锋一区| 乱伦av麻豆| 97香焦色区| 91精品操美女| 国产一区二区三区白丝| 黄色片大香蕉| 蜜臀无码一区二区| 免费av在线播放二区| 六月色婷婷| 欧美综合777| 操逼天美3区| 91 亚洲 欧洲| 丁香九月婷婷| 亚洲国产欧美日韩人妻日中文| 中文熟女五十乱码在线| 国产操逼逼网| 欧美第五页| 无码丰满熟妇一区二区浪潮AV| 激情丁香五月| 亚洲综合嫩| 欧美人人AAA| 精品9区| 国产精品久久久 | 日日操免费视频| 大香蕉碰| 尤物视频视频官网| 毛片视频白嫩| 国产又粗又大硬免费色网视频| 91中文在线| 欧美日韩人妻精品一区二区三区| 99视频自拍| 大茄子熟女AV导航| 欧美久久九九| ,成人免费啪啪视频| 久久日本熟妇熟色高清| 人人澡综合涩| 日本一区二区成人在线| 一区二区不卡免费| 亚洲中文一区二区三区视频| 国产高清成人免费视频| 色眯眯射| 亚洲精品中文字幕一区在线视频| 中文字幕免费在线观看| 校园春色 男人天堂| 久久六六| 中文字幕一区二区三四五区日日骚| AAAA欧美日韩| 色综合20p| 色5月婷婷| 99在线精品视频| 国产成人AV麻豆| 人人操人人操人人人操| 日本一区不卡| 另类图片亚洲加勒比另类图片亚洲加勒比另类图片亚洲加勒比 | 草草影院最新网址| 久久爱超碰网| 一本久道在线综合视频| 久久影视二区三区行押| 色狠狠综合| 男人的天堂va| 精品97久久综合| 在线中文字幕极品av| 超碰超碰超碰超碰的大鸡吧操黑丝袜 | 国产玖玖| av无线看| 欧美一级A一级a爱片久久| 加勒比综合九九99视频在线播放| 黑人操一区二区| 精品人妻15区| 欧美激情亚洲情色| 超91综合网| 亚洲一区二区三区中文字幕| 久久久久久97| 东方亚洲在线操逼天堂| 久久精品亚洲婷婷| 在线观看综合精品亚洲| 亚洲春色一区二区三区| 日韩欧美久久婷婷网站| 97超碰天天爱天天爱| 五月丁香啪啪网| 美女露胸露屁股| 一二三四视频中文字幕在线看| 国产日韩中文字幕欧美| 五月天婷婷影院| 一级毛片久久久久久久女人18| 91老妇女| 国产天天噜一噜久久久| 视频二区熟女人妻| 91麻豆天美国产| av大香蕉| 啊视频在线| 91丨豆花丨熟女| 思思热一热婷婷热一热| 亚洲欲色9532548967一区| 啪啪AV导航| 天美传媒AV在线| 色五月第四色| 久久久一区二区三区四区五区| 中文字幕一区av| 97超碰超| 久九九九九九九热| 亚洲天堂电影网99999| 日亚韩精品视频二区三| 午夜福利无毒不卡| 人人模人人看| 天天看夜夜看日日干| 亚洲一区中文字幕| 床戏久久久av一区二区麻豆| 精彩久久中文| 中文在线视频| 久久久久久久久国产| 亚洲第一二区另类图| 亚洲91极品| 欧美日韩日产免费网站看| 久久久久9999| 国产精品第一区第一页| 欧美精品69性爱| dy888午夜老子影视达达兔| AV女资源| 免费A片三p视频| 精品久久久久综合无码| 一级毛片电影免费看| 成人性爱免费播放| 国产特级毛片AAAAAA高潮流水 | 色五月AV| 国产精品久久aV| 一本色道综合久久欧美日韩精品| 午夜性生活av免费在线看| 久久久不卡| 骚妻少妇精品性色无码四色A V| 中文字幕AV片| 国产又粗又长又大的视频| 男插女青青影院| 久久久久久久久久va| 亚洲成人ab| 性色综合网| 清纯唯美激情| 亚欧无码线免费观看视频| 亚洲丝袜诱惑| 欧美性爱第一区| 一本一道波多野毛片中文在线| 极品美女福利在线观看| www.yw尤物| 欧美亚洲综合色| 亚熟在线| 精品一区二区麻豆| 操一对老熟妇爽上天视频| 欧美色图综合网| 亚洲自拍偷拍视频在线 | 欧美熟妇视频| 日本久久综合| 超碰色97| 综合操逼| 在线黄色污污网站| 2019午夜福利视频| 久久97超碰| 99色热国产视频精品| 亚洲精品97| 国产福利在线视频网站| 综合情欲网| 青青草AV色| 欧差乱伦二三| 國產尤物AV尤物在線觀看| 香蕉久久国产AV一区二区| 欧美日韩情色一区二区| 中国黑人三级片网站上区| 天天操天天日青青草超碰av| 夜夜嗨视频| 欧美Ⅴ性爱| 亚洲无码太久| 亚洲人成色9999精品久久 | 超碰97网址| 亚洲高清少妇| 秋霞操逼片| 激情五月天色播| 欧美色图下一页| 欧美亚州综合网图片| 成人无遮挡毛片免费看| 成人情色一区二区| 草B在线| 欧美中文字幕日韩在线| 亚洲人精| 久湿久久| 亚洲色狠| 成年女人一区| 91爱| 久久伊人大香蕉| 国产性爱欧美性爱在线| 中文字幕,人妻,日韩| 色性综合| 人妻91少妇| 日韩成人大片在线观看| 久久久穴999| 欧美精品三区| 黄色大片一区二区密桃丝袜| 在线视频日韩欧美国产| 精品久久久九九九孕妇| 丝袜美腿91| 大香蕉黄色一区| 中文字幕AV片| 日韩Va亚洲va欧美Ⅴa久久| 麻豆国产96在线| 97国产伦理| 国产精品视频麻豆入口| 久久伊人青青草| 一区二区三区免费视频入口| 中文字幕视频在线观看一区二区| 亚洲无码国产探花在线观看| 另类天堂| 一区二区乱码福利| 国产夫妻一区二区| 亚洲欧美日韩制服另类| 夜夜騷av、一區二區| 牛牛AV人人夜夜澡人人爽| 18一区二区三区| 少妇久久久| 在线啊啊啊啊| 欧美爱三级日韩久久| 伊人久久大香线蕉亚洲五月天,青草青草欧美日本一区二区,欧美日产欧美日产国产 | 啊啊啊好多水| 91中文精品日韩欧美在线 | 中国AAAAAA黄色片| 欧美色66| 思思热影视| 蜜桃狠狠色伊人亚洲综合 | 夜夜做夜夜爽精品视频| 91日韩在线| 亚洲人久久久久日| 东北夫妻性偷拍| 强奸乱伦AV一天堂网| 91网18| 国产AV色黄看到爽| 成人区人妻精品一| 强奸少妇AV导航网| 青娱乐欧美激情一区二区| 91AV天美在线视频| 亚洲高潮少妇| 成人无码在线视频网站| 夜色97| 欧苏综合色综合| 亚洲精品一区二区精华| 亚洲综合伊人| 9/A片| 丁香六月激情| 欧美 亚洲精品首页| 裸体女人草逼视频播放一区,二区,三区,四区,五区| 超碰97资源中文字幕| 亚洲精品白浆高清久久久久久| 国产一区二区三区久久精品太古里| 欧美人人AAA| 黄片免费日韩| 亚洲91射| 久久思思热| 日韩精品字幕| 91欧美www| 大香蕉免| 久热无码| 国产精品久久久久亚洲av| 性欧美| 国产白嫩精品久久| 激情综合色| 成年人三级黄色片视频| 老鸭窝成人免费毛片视频| yazhousetuoumei| 婷婷99| 色噜噜精品一区二区三| 日本阿v天堂在线观看| 成人热久久精品| 亚洲aw毛茸茸在线| 九九九九九九九九九九九免费国产| 国产人妻天天干精品| 肏逼视频日本| 精品国模无码| 久久 精品| 国产精品一区在线播放| 欧美玖玖爱免费玖玖| 日韩三级视频一区二区三区| 国产成人bd在线观看| 欧洲精品二区| 熟女少妇一区二区三区| 久热色情精品| 国产一区二区三区不卡手机在线| 97网址www| 蜜臀少妇一区二区| 91美女丝袜诱惑视频| 老熟女乱伦一区| 97资源久久| 熟妇人妻一二三区免费| 春色综合免费| 日产精品久久久一区二区| 四虎在线免费视频| 狠狠爱夜夜干| 福利天天都操| 欧美97se| yazhououmeizongya| 久久9精品网站| 草草影院最新网址| 97免费在线观看视频| 97ai亚洲| 久久内射| 色综合V| 日本熟女不卡视频| 翔田千里无码一区| 一区不卡在线观看av| 中文字幕国产| 日韩欧美俄罗斯A片| 国产精品成人蜜臀AV在线| 日韩激情啪啪| 9久久精品| 国产成人精品亚洲日本| 在线看免费无码AV天堂的| 日韩人成网站在线播放| 成人av免费观看| 九九热AV| 男人的天堂色偷偷青青草视频婷婷网| 久久九精品| 亚洲人精品久久久| 国产一国产一级毛片古装| 亚洲色人阁| 亚洲中文制服诱惑| 久久人| 男人的天堂无码| 91精品免费| 日韩小电影| 熟妇熟女视频一区二区三区| 狠狠久久四虎| 综合91网| 91色拍| 国产人妖的免费的视频| 日韩黄色一区二区三区| 啊视频在线| 亚洲国产综合久久久性感熟妇| 久久av色| 9久9久| 日本中文熟女视频| 久久9视频| 久草婷婷| 国产精品国产精品国产| 亚洲欧洲日韩天堂av| 偷看洗澡一二三区美女| 97综合在线观看| 欧美午夜视频| 成人免费性爱视视| 2024人人操人人摸| 一区| 精品无码欧美三级| 亚洲无吗在线视频| 色五月亚洲| 草伊人高潮喷水超碰| 99这里只有精品| 在线无码视频| 嗯嗯,啊啊,国产精品| 国产精品另类一区大香蕉| 东北少妇高潮zzzz| 九九人人操| 久草精品一区 | 欧美日韩精品久久久久久久久东北老熟妇 | 国产对白刺激视频| 大香蕉操久久| 96国产精品| 亚洲最新a在线观看| 东京太热久久久| 少妇99| 日本色色视频网站| 老鸭窝成人免费毛片视频| 欧美日韩激情无码专区| 国产精品久久久久久久久久久久久久久久久久 | 久久亚洲一区女同性恋中文字幕| 影音先锋每日最新资源在线观看| 爆乳免费黄网站| 女人香蕉久久毛毛片精品| 国产熟女完整版中字| 激情综合婷婷| 中文字幕av片| 久久AV无码网址| 亚洲97p| 久久久久久久久久va| 一区二区三区黄片免费观看| 亚洲激情 欧美色图| 久操电影| 神马午夜久久久| 啪啪啪精品| 国产av热热色| 强奸乱伦中文字幕AV| 97亚洲欧美日韩| 精品日韩中文在线| 亚洲精品97中文字幕| 国产精品爽爽va在线观看98| 老鸭窝日丰县女人| 国产免费永久精品无码| 91女色| 婷婷导航| 亚洲精品国语在线播放| 国产精品久久发布| 激情小说日韩无码| 国产精品亚洲日韩骚欢乐谷最新地址发布页huanieguty性屋娱乐妖精视频 | 午夜亚洲国产理论秋霞| 91欧美性| 大香樵伊人网| www.亚洲成人一区| 麻豆精品三区视频| 日韩综合成人免费视频| 欧美一级专区免费大片| 日欧操屄视频| 亚洲天堂在线怕怕视频| 欧美日韩人妻婷婷一区| 精品毛片久久久精品毛片| 超碰中文字幕人妻草一区| 伊人久操| 人妻少妇精品久久久久久久| 亚洲天堂第一页| 亚洲黄网在哪免费看| 色噜噜国产精品视频一区二区| 综合日本女人伊人| 色婷婷激一区二区三区| 97国产精品一区| 男人天堂久久精品| 老司机天天操| 加勒比99999| 成人精品视频一区二区| 国产精品一区av在线| 在线视频资源| 99只有精品| 志村玲子视频一区二区| 久久中文字幕一区不卡| 亚洲欧洲第二视频在线观看色图| 激情五月婷| 九九综合久久中文字幕| 天天综合色图| 久久久久久性爱视频| 国产亚州日韩欧美看片| 韩国三级色呦呦| 欧美在线中M| 校园春色之综合网| 秋霞蝌科网日本一区| 91色拍| 精品制服美女中文一区二区三区| 日本日日色视频| 青青伊人这里只有精品| 欧美精品 - 91爱爱| 色色色色电影网| 国产不良强奸视频免费看| 欧美午夜熟妇黑人精品91| 嗯嗯啊好大| AV天天综合| 国产自偷自拍一区| 伊人久久大香线蕉无码| 97色碰| 天天肏夜夜肏| 曰本特级特黄特色黄色A级网站高清在线免费看| 欧美v日韩欧亚洲电影天堂色诱,国产传媒| 欧美日韩岛国大片在线观看| 欧亚乱色熟女一区二区| 免费成人在线观看91| 欧洲精品一级二级精品综合视频综合| 日韩欧美中文字亚洲慕| 国产欧美黑人丰满在线| 青青草在线视频欧美| 曰韩欧美国产传媒麻豆第一区| 亚洲第一在线视频| 家庭乱伦网站国产| 日本三级A片网站com| 大学生美女口爆| 超碰97 线线 在现| 欧美色图20P| 日韩三级av片| 超碰色大香蕉| 粉嫩AV一区二区夜夜| 91天天爱| 精品人妻一区春色| 久久久99999久网站| 亚州色国| 嗯嗯啊啊用力视频免费| 国内黄色精品| 色欧美天天| 六九九九| 国产精品情侣啪啪| 大香蕉十区| 欧美日韩黄色片一区二区三区四区人与兽做爱| 91在线精品| 国产精品成人蜜臀AV在线| 91精品啪在线观看国产城中村| 人妻 中文 日韩| 26uuu性| 夜嗨影院| 超碰精品日韩欧美国产| 国产精品国产自产高清AV| 色就色综合| 欧美日韩香蕉| 99无码| 超碰激情808| 上床不卡网站| 久久9999| 国语少妇精| 99无码狠狠久久| 国产97视频| 日本性爱视频一级| 欧美亚洲尤物久久| 五月色综合| 青青草在线成人视频| 欧美成人色| 5252色欧美在线男人的天堂| 亚洲图片欧美色| 国产亚洲欧美每日在线| 黄色视频特级毛片| 91九久| 蜜臀av网址| 精品黄色电影| 操逼操逼逼操操逼91| 人人操人人uiiiiiiiiiiiiiiiiiiiiiiiiiiiiiiiiiiiiiiiiiiiiiiiiiiiiiiiiiiiiii | 国产极品美女高潮无套在线观看| 五月丁香婷婷综合网| 五月综合久久| 双插性欧美一二三区| 日韩国产乱子伦App| 伊人成人中文字幕久久网| 神马午夜久久久| 国产精品久久久999| 男人天堂免费| 日韩免费三级黄片电影| 超碰99在线观看| 亚洲自拍一区夜夜操| 欧美性夜| 亚洲高清无码在线桃色| 亚洲熟妇乱女区二区三区| 啊嗯嗯啊好大好爽| 天天视频网站黄| 久热免费视频| 综合情欲网| av在线播放国产一区| 久久久久国产一区二| 麻豆黄四叶草网站| JuliaAnn丝袜熟女系列| 蜜乳AV一区二区三区四| 日韩美女高潮喷水视频| 熟妇综合一区二区三区| 五月激情综合网| 超碰视97中文| 国产一区二区欧美日本| 爱做久久久久久| 级品肉射| 欧美亚洲国产91在线| 日本大片日本一区二区免费高清| 人妻天天爽夜夜爽2| 免费日韩黄片| 久久偷拍人| 亚洲欧美另类激情小说| 精品少妇后入一区二区三区四区人妻巨乳| 91热色| 女人喷水视频在线观看| yy少妇精品久久| 一区二区精品日韩欧美在线观看| 艾草av| av影片在线观看不卡| 中文字幕人妻丝袜| 九九英色视频| 亚洲av无码成电影在线播放| 欧美图片偷拍| 懂色aV一区二区天美传媒| 天天操天天插| 色欧美亚洲| 七久久久| 久久国产成人精品国产成人亚洲 | 色悠久久久av| 日韩人妻 中文字幕| 宗合情欲网| 国产99热| 久草成人福利导航| 久久精品国产99久久,亚洲日韩久久日本一区一区三区 | 国模私拍一区二区三区神乳| 99国产在线绯色一区| 久久中文字幕不卡人妻| 国产农村妇女精品1区二区| 欧美激情总合网| 欧美日韩传媒| 精品人妻二区三区| 久久精品国产亚洲AV高清演员表| 欧美视频激情久久久久久| 八人操人人摸人人看| 91精品久久久久久77777| 无色无码| 天天肏夜夜肏| 久久久久久久久久久久久久久乱码| 超碰欧美| 亚洲色图自拍| 2017人人操,人人摸| 91日日夜夜| 操91| 91亚洲欧美激情| 日本超碰在线国产一区| 欧美组图日韩亚洲中文字幕| 久久精品视频在线观看| 亚洲免费人妻在| 色色97爱| 国产美女激情| 无码高清专| 久久久久久裸体| 98一区二区精品| 欧美系列在线一区二区| 亚洲人天堂| 欲香欲色天天天综合和网| 中文字幕 国产 精品| 岛国爱情动作片在国产AV无码专区亚洲AV漫画| 欧美国产视频| 欧美日韩99| 欧美一区二区三区四区综合| 2019男人的天堂| 亚洲天堂另类小说男人| 黄色av片三级三级三级免费看| 中出欧美| 日韩淫色网| 久久av色| 久久99综合| 91色狼| 噜噜噜久久亚洲精品色情| 四虎影院成年人片| 国产精品一区av在线| 又黄又硬又粗又长国产视频| 日韩电影天堂视频一区二区| 亚洲色图超碰在线| 天堂中文日本在线观看| 蜜乳中文字幕a在线| 深夜视频| 西西美女视频网| www.狠狠干.coom| 福利色色| 九九干| 日欧操屄| 久久精品国产亚洲AV先锋| 亚州五月| 熟女久久久| 天天摸夜夜操视频| 有码人妻系列| 亚洲图片欧美91N| 国产激情片在线观看| 91精品微拍福利| 欧美色图片| 97日亚洲欧美| 天堂av最新电影网| 夜夜夜夜爽| 天堂在线一区二区| 操操操操操操| 影音综合网| 少妇被玩视频二三区| 国产精品一二三免费网站| 国产成人无码啪| 亚洲精品97久久| 亚洲激情视频| 后入综合久久| 欧美成人精品一区二区男人蜜臀| 欧美暴力猛交| AV在线资源| 欧美视频第二页| 久草色悠悠在线视频| 色综合潮| 色婷婷五月天| 久久男人的天堂国产| 女人的久久久| 色牛牛AV| 久久婷婷五月综合| 天天操天天插| 欧美在线伊人色| 日日骚 av| 亚洲欧洲色情高清| 丰满丝袜少妇AV| 在线a v| 国产精品999zyz| 国产精品一区二区三区,亚洲综合 性开放中文AV高清无码免费看 | 欧美亚洲第一页| 八戒无码国产午夜福利| 国产亚洲日韩在线三区黑人| 日韩av在线免费网站| 久久久国产三级黄色片| 欧美毛片在线网| 一道本东京热加勒比一区二区三区| 夜夜操夜夜爽夜夜高潮| 1000午夜黄色| 欧美综合色图片| 啊啊啊好想要| 天天色黄色影院天天操| 99自拍视频在线| 亚洲综合色网| 天天综合欧美综合| 久伊人网78| 蜜臀久久99精品久久久电影| 亚欧毛片基地国产毛片基地| 五月婷婷AV| 青娱乐 成人娱乐在线| 亚洲诱惑| 国产精品久久久 | 天天色综合图片| 久久久18禁| 精品无码一区二区| 加勒比人妻综合| 葡萄牙性视频一二区| 久久天堂| 婷婷色网| 欧美 熟女 日韩| 精品人妻一区二区三区不卡断| avav青青草久久夜| 97超碰人人模人人拍人人| 国产精品女aA片爽爽视频| 口爆吞精在线观看| 蜜臀久久99精品久久久老,,| ai欧美亚洲小说| 91爱| 狠狠色噜噜狠狠狠狠狠色综合久久| 玖玖色综合| 999 久久久| 97精| 插穴性爱视频在线观看| 欧美日韩情色一区二区| 粉嫩av一区二区三区四季| 91 亚洲情侣偷拍 久久| 99久久99久久免费精品蜜臀| 亚洲av淫乱| 亚洲色综合| 国产精品国产| 日本高清免费一本视频在线观看| AV无码久久久精品| 自拍视频大全亚洲专媒视频/一区二区三区 | 亚洲**2021在线观看| 婷婷九月色| 加勒比少妇AV婷婷六月天超碰超碰| 伊人9| 亚洲古典另类欧美在线| 日本97久久久精品| 欧美日韩国产色五月综合在线| 三级特黄60分钟播放| 欧美中文字幕男人天堂久久精品| 色香伊人| www亚洲免费| 精彩国产视频播放1区2区| 久久久久久99999国产精品| 岛国色情视频在线观看| 久久亚州高清| 久久久久久久九九九九| 九九热超碰| 国产精品粉嫩福利在线| 操操逼操操逼操操逼逼| 亚洲综合影视| AV乱伦专区| 久久亚洲天天做| 夜夜高潮夜夜爽高清视频一 | 97福利视频| 999久久芭蕾| 五月天丁香网| 亚洲综合嫩| 九九碰九九爱97| 欧美 亚洲| 九九热精品在线| 精品人妻久久久久一区二区三区| 超碰人人在线| 欧美九九九九九| 精品国产嫩穴视频| 日本三级精品| 丁香五月综合| 在线日韩精品一区二区三区| 夜夜夜久久| 国产精品成久久久久午夜午夜| 天天操天天射青青草| 国产精品午夜AV完会免费| 97久久久| 久久精品一区二区| 厕所偷拍在线| 性久久久| 2019男人的天堂| 婷婷综合视频| 人妻天天爽天天爽三区| 久久超碰97中文字幕| 天天谢天天干| 欧美日韩97在线| 亚洲伊人a线观看视频| 狠狠2050在线观看| 中文字幕高清精品一区| 校园春色中文字幕AV| a级免费在线观看| 女生自91网站| 日韩中文字幕在线视频观看| 91综合色噜噜| 日产123区精品免费观看| 日韩在线性爱免费视频| 欧美性色欧美| 美女久久久久久久| 破苞ⅩXXX性无码动漫无码| 美女9118禁| 成人A片男人的天堂| 顶级丝袜熟女一区二区三区| 日韩99999| 亚欧美天堂在线| 自拍偷拍 高清无码| 午夜福利 成人 91| 哈哈操电影AV| 麻豆啪啪啪视频| 综合亚洲欧美精品日韩?v| 99国内熟女露脸视频| 一本久道久久综合狠狠爱| 蜜乳Av成人片网站| 最新AV在线| 欧美精品 - 91爱爱| 丁香婷婷久久 | www.国产高潮精品| 人人操,人人插| 91美女视频。| 日本免费不卡二区| 韩国一级做A片免费的| 深夜福利黄片| 欧美在线|亚洲| 亚洲不卡av在线| 黑人嘿嘿嘿超爽免费视频| 欧洲性爱无码区| 欧美日日人人天天| 国产成人AV麻豆| 亚洲 日韩 欧美 国产综合体| 国产精品日韩在线一区| 丝袜美腿操av| 啊灬啊灬啊灬啊灬高潮奶出了免费视 | 亚洲 欧美 手机在线观看| 亚洲欧美日韩免费观看| 精品高清牛人盗摄一区二区三区中文字幕A片免费在线观看 | 欧美亚洲激情| 热的中文 热的有码 热的国产| 亚洲射综合网| 亚州伊人色综台| 亚洲精品性爱片| a级免费在线观看| 91欧美网| 91亚洲最新在线| 亚州色图片在线色| 亚洲码和欧洲精品激情系列| 中文字幕av色| julia高潮后不停追击中出| 老熟女乱伦一区| 精品一区二区三区丰满熟女-亚洲欧美一区 | 国产路线专区| 色噜噜人妻av中文字幕| 美女主播色欲91抠b在线播放| 素人美腿视频网站| 日本福利社| 新版天堂中文资源8在线| 少妇xx精品| 天天插夜夜操| 在线岛| 亚洲欧洲av影音| 熟女人妻精品一区二区视频 | 伊人久久大香大香线蕉中文| 久久精品中文字幕无码l| 久久人妻| 亚洲一区二区三区在线激情| 亚洲国产精品成人久久蜜臀| 国产熟女无套内射| 欧美+日产+中文| 国产免费内射视频| 九九综合九九综合| 久久狠狠色噜噜狠狠狠狠97| 思思热一热婷婷热一热| 亚洲一曲日韩精品| 色激情综合网站| a级免费在线观看| 国产精品不卡一区二区电影| a片偷拍视频| 91精品微拍福利| 国产精品久久久久久无码红治院| 人妻少妇被猛烈进入中| 亚洲精品亚洲人成在线麻豆| 精品一区二区亚洲国产| 中文字幕日韩人妻视频| 国产女人极品高潮毛片| 久久高清欧美国产| 清柠毛片| 欧美图片色综合| 五月天丁香| 夜夜高潮夜夜爽高清视频一| 伊人国产视频| 色香网| 亚洲牲交| 亚洲精品三区在线观看| 91人妻素女| 精品色色| 九九成人精品| 精品白丝一区| 2017天天拍大香蕉| 老司机深夜18禁污污网站| 精品久久久久久中文| 欧美人妻一区| 一区二区激情国产熟女| 97超碰无码网| 亚洲熟女少妇免费视频| 天天伊人| 夜草网站| 91精品国产乱码| 后入日本1234| 亚欧性爱ab| 美熟女逼导航AV操逼| 1.igao73.com 加入收藏 免费专区 国产精品 中文字幕 日韩精品 欧美精品 精彩 | 五月综合久久| 久久曰曰| 蜜臀一区二区三区亚洲最新章节在线观看 - 高清蜜臀一区二区三区亚洲全集播放 | 婷婷五月天久久精品视频一区二区三区| 久久久久久久78| 欧美色图亚洲色,麻豆| 中文操逼字幕| 亚洲欧洲综合成人av一区| 毛片电影一区二区三区| 综合亚洲情色| 青草精品视频一日本久久久久网站| 精品一级毛片在线观看| 国产AV高清AV无码| 蜜桃久久久久久久| 骚日日av| 九九精品99| 久久久一热在线播放| 日日爽熟女| 欧美探花网| 日韩一区二区熟女| 欧洲亚洲人妻无码高清久久三区四区| 男人天堂毛片| 蜜乳AV一区| 国产性感骚丝袜在线| 91性网| 精品v日韩欧美国产| 麻豆一区在线| 蜜桃av色偷偷av老熟女| 免费一级欧美片片线观看| 国产午夜视频| 亚洲,欧美,综合网| 亚洲国产成人精品无码专区| 超碰97玖玖爱| 精品视频一二三中文| 成人性爱电影一区二区| 男人天堂综合| 亚洲一区中文精品| 激情文学网伊人| 粉嫩久久久极品| 草草影院日本第一页| 国产性刺激| 91亚洲人| 水野优香在线观看| 涩涩久久精品| 激情网色| 97一区二压| 久久成人国产| 96国产污污污丝袜| 天天看天天在线精品| 丝袜天堂| 日韩操逼性鲍| 国产精品色哟哟| 97手机日韩| 嗯嗯,啊啊,国产精品| 亚洲色图亚洲| 欧美中文字幕一区 | 91激情网| 大学生美女口爆| 精品久久99| 中文字幕激情小说| 丁香五月激情五月| 唯美清纯 妖精视频| av大香蕉| 91少妇人妻| 天天欧美色| 日韩精品一区二区人人人| 一本久道久久综合狠狠爱| 欧美性性性| 青青草在线视频人人想人人上| 狠狠久久手机视频精品| 人人爱夜夜爱| 熟妇的味道HD中文字幕| 成人乱码一区二区三少妇| 久久亚洲欧美一区二区三区-亚洲国产精品第一区二区 | 另类图片五月天| 夜夜嗨老熟女AV一区二区三区| 日韩乱伦AⅤ| 欧美人妻另类在线| 天天爽人人综合免费7799| 亚洲欧美97√| 色婷婷综合久久中文字幕雪峰| 亚洲欧洲综合av在线| 亚洲熟女乱综合一区二区在线-...亚洲国产日韩欧美一区二区三区,久久久久久精 | 亚洲黄日韩无码专区| 亚洲人妻中文在线视频| 久久精品视-一级做a爰片性色毛片16美国-中国女与老外在线精品 | 欧美在线 亚洲| 国产成人精品亚洲日本| 一级AAA片一区二区三区| 无码9区| 中文字幕一区二区三区字幕| 欧美永久激情一区二区| 在线观看AV片| 欧美天堂在线| 精品美女少妇一区二区三区| 人人干人人操人人..com| 日本精品五区| 综合欧美日韩在线| 伊人久久88国产女| 青青免费在线视频一区| 色综九九九一区| 97玖玖人妻| 91丝袜美女视频| 色婷婷淫色网| 黄片www.| 熟妇综合一区二区三区| 九九九九九九九九九五码| 国产精品秘 福利姬在线观看| 骚货| 久久九色| 欧美91色| 欧洲熟妇xxXx欧美老妇裸体| 黄色片A级一区二区三区| 国产精品粉嫩福利在线| 国产嫩草精品A88AV在线| 免费在线观看AV无码网站| 人人看人人爰人人操| 久久久偷拍| 99这里都是精品| 亚射在线| 综合色图,成人综合网| 亚欧Av| 欧美日韩国产中文精品字幕自在自线| 欧在线一二区| 久久超碰亚洲人| 91精品久久久久久77777| 八戒无码国产午夜福利| 亚洲资源站| 激情久久日韩精品中文字幕麻豆| 一区=区三区视频| 五月激情小说| 国产操逼逼网| 国产午夜精品理论片一二三区区 | 操逼天美3区| 91bbb| 加勒比99999| 美女诱惑在线一区| 妺妺跟我一起洗澡没忍住| 岛国片在线播放| 校园春色亚洲| 黑人性欧美| 熟妇一区,二区,三区。| 99只有精品| 国产精品午夜成人福利| 久久女人一区二区三区| 亚洲图片偷拍视频区| 午夜精品五区| 国产中文大片资源中文字幕| 国产搭汕a级片| 俺也射| 91丝袜熟女| 欧洲亚洲人妻无码中字久久三区四区| 极品尤物在线观看| 日逼国产| 精品国产无码中文| 91在线精品一区二区三区| 中文字幕在线免费观看| 亚洲色图日韩丝袜制服一区二区五月在线| 天堂精品小草| 久久中出在线| 97超碰天天爱天天爱| 天天弄欧美|