日韩精品一区二区三区在线视频放-无码中文字幕V?一区二区-成年片免费观看视频-国内少妇人妻丰满av-国产精品中文字幕免费观看-亚洲成人久久一区二区三区-国内少妇偷人精品视频无缓冲-一区二区国产精品日本一区二区三区在线网

ARTICLE DETAIL

資訊詳情

深耕商務(wù)建站與企業(yè)官網(wǎng)運(yùn)營的一線實(shí)戰(zhàn)洞察。

微服務(wù)日志體系設(shè)計(jì):從規(guī)范到排障的完整實(shí)踐

微服務(wù)日志體系設(shè)計(jì):從規(guī)范到排障的完整實(shí)踐 微服務(wù)架構(gòu)解決了單體應(yīng)用擴(kuò)展難的問題卻把排障難度轉(zhuǎn)移到了日志和鏈路追蹤上。一次用戶請(qǐng)求跨越多個(gè)服務(wù)、多個(gè)數(shù)據(jù)庫、多個(gè)中間件任何一個(gè)環(huán)節(jié)超時(shí)或報(bào)錯(cuò)都需要從分散日志中還原現(xiàn)場。如果日志體系沒有設(shè)計(jì)好排障就變成低效的人工 grep。微服務(wù)日志體系不是簡單地接一個(gè)采集工具而是一套覆蓋日志產(chǎn)生、規(guī)范、采集、傳輸、存儲(chǔ)、檢索、告警和治理的完整鏈路。這里會(huì)先講清楚排障難點(diǎn)再逐步展開一套可落地的生產(chǎn)級(jí)日志體系設(shè)計(jì)。1. 為什么微服務(wù)排障難日志體系要解決什么問題1.1 微服務(wù)排障的三類典型困境第一類困境是日志分散。單體應(yīng)用時(shí)代一個(gè)請(qǐng)求的完整執(zhí)行過程基本都在同一個(gè)進(jìn)程里日志文件也相對(duì)集中。微服務(wù)化之后一個(gè)請(qǐng)求可能要經(jīng)過網(wǎng)關(guān)、用戶服務(wù)、訂單服務(wù)、支付服務(wù)、消息消費(fèi)者每個(gè)服務(wù)可能還有多個(gè)實(shí)例。日志散落在不同機(jī)器、不同容器、不同目錄里沒有統(tǒng)一線索時(shí)很難把一次請(qǐng)求串起來。第二類困境是格式不統(tǒng)一。不同團(tuán)隊(duì)寫的服務(wù)可能有的用 logback有的用 log4j2有的直接System.out.println。日志時(shí)間有的用本地時(shí)間有的用 UTC有的沒有毫秒。字段命名也各不相同userId和user_id同時(shí)存在。排障時(shí)每次都要先理解日志格式再去過濾效率很低。第三類困境是日志量大。微服務(wù)實(shí)例一多日志量會(huì)快速膨脹。如果直接全文檢索查詢會(huì)越來越慢如果不做索引生命周期管理磁盤遲早被寫滿。到了大促或故障高峰期日志系統(tǒng)本身也可能成為瓶頸反而拖慢業(yè)務(wù)恢復(fù)。1.2 生產(chǎn)級(jí)日志體系的目標(biāo)所謂生產(chǎn)級(jí)不是日志采集工具能跑起來就行而是必須滿足幾個(gè)基本要求。請(qǐng)求有鏈路標(biāo)識(shí)。入口生成 traceId下游服務(wù)通過調(diào)用鏈透傳日志中能根據(jù) traceId 查到一個(gè)請(qǐng)求的完整路徑。日志格式可解析。日志輸出為結(jié)構(gòu)化字段而不是只有一段模糊的文本。至少包含時(shí)間、級(jí)別、服務(wù)名、實(shí)例、traceId、業(yè)務(wù)消息和異常信息。日志延遲可控。從業(yè)務(wù)寫日志到 Elasticsearch 可檢索延遲需要在一定范圍比如分鐘級(jí)以內(nèi)。不能經(jīng)常出現(xiàn)日志丟失或幾個(gè)小時(shí)后才看到日志。日志有生命周期。熱數(shù)據(jù)保留幾天冷數(shù)據(jù)保留更長時(shí)間超過保留周期的數(shù)據(jù)要自動(dòng)刪除或歸檔而不是等磁盤告警后手工清理。日志系統(tǒng)本身不能影響業(yè)務(wù)。應(yīng)用寫日志是異步的采集鏈路故障時(shí)不能阻塞業(yè)務(wù)線程。生產(chǎn)級(jí)體系還要關(guān)注采集組件狀態(tài)、Kafka 消費(fèi)堆積和 ES 磁盤水位。2. 設(shè)計(jì)日志體系前先把日志規(guī)范定下來日志規(guī)范是整套體系的地基。如果每個(gè)服務(wù)輸出的字段都不一樣后面接 Filebeat、Kafka、Logstash、Elasticsearch 都會(huì)很被動(dòng)。排障效率提升的第一步不是工具而是標(biāo)準(zhǔn)。2.1 統(tǒng)一日志字段讓檢索有依據(jù)建議服務(wù)端日志統(tǒng)一輸出為 JSON 格式。每條日志的頂層字段盡量固定下面是一組常見字段。字段類型含義示例timestampstring日志產(chǎn)生時(shí)間2026-06-01T10:00:00.123Zlevelstring日志級(jí)別ERRORservicestring服務(wù)名order-serviceinstancestring實(shí)例標(biāo)識(shí)10.0.0.1:8080traceIdstring鏈路ID8f3a1b2c...methodstring請(qǐng)求方法POSTuristring請(qǐng)求路徑/api/orderstatusintHTTP 狀態(tài)碼500costMsint接口耗時(shí)毫秒128userIdstring用戶標(biāo)識(shí)u_10001messagestring業(yè)務(wù)消息訂單創(chuàng)建失敗exceptionstring異常棧原文java.lang.NullPointerException...字段不是越多越好但上面這些基礎(chǔ)字段能覆蓋大部分排障場景。service用于區(qū)分系統(tǒng)instance用于還原具體實(shí)例traceId用于串聯(lián)調(diào)用鏈costMs用于定位性能問題exception用于快速搜索異常棧。實(shí)際項(xiàng)目里團(tuán)隊(duì)可以先定一個(gè)最小字段集發(fā)布到協(xié)作文檔或代碼倉庫的模板中。新服務(wù)開發(fā)時(shí)必須按這套字段輸出老服務(wù)逐步遷移。不要指望所有服務(wù)一天改完但至少要有一個(gè)明確的規(guī)范版本。2.2 日志級(jí)別怎么定避免日志噪音日志級(jí)別是排障時(shí)最重要的過濾維度之一。級(jí)別定得不好會(huì)帶來兩種典型問題把 ERROR 當(dāng)普通日志打告警全是噪音或者把 DEBUG 打到生產(chǎn)日志量爆炸真正有用的 ERROR 被淹沒。級(jí)別使用場景生產(chǎn)預(yù)期ERROR業(yè)務(wù)失敗、異常導(dǎo)致流程中斷需要人工介入保留并告警WARN可以恢復(fù)但不正常比如緩存穿透、重試成功保留不直接告警INFO關(guān)鍵流程節(jié)點(diǎn)比如訂單創(chuàng)建、支付回調(diào)保留但要控制頻率DEBUG排查細(xì)節(jié)數(shù)據(jù)默認(rèn)關(guān)閉按需開啟TRACE內(nèi)部調(diào)用鏈細(xì)節(jié)很少開啟一個(gè)簡單判斷標(biāo)準(zhǔn)如果某條日志打出來之后值班同學(xué)不用看那它就不該是 ERROR。ERROR 應(yīng)該對(duì)應(yīng)一個(gè)需要關(guān)注的失敗事實(shí)而不是每次 catch 異常都打 ERROR。2.3 TraceID 貫穿始終從一次請(qǐng)求還原完整路徑TraceID 是微服務(wù)日志體系里最重要的字段。它的作用很簡單一次外部請(qǐng)求進(jìn)入系統(tǒng)時(shí)生成一個(gè)唯一 ID之后所有服務(wù)在處理這個(gè)請(qǐng)求時(shí)都攜帶這個(gè) ID并寫入各自日志。排障時(shí)只要搜索這個(gè) ID就能得到完整請(qǐng)求鏈路。常見做法是在網(wǎng)關(guān)或入口 Filter 中生成 TraceID并通過 HTTP Header 向下游傳遞。比如統(tǒng)一使用X-Trace-Id作為透傳 Header。以 Servlet 場景為例可以用一個(gè) Filter 在入口生成并寫入 MDC。public class TraceIdFilter implements Filter { Override public void doFilter(ServletRequest request, ServletResponse response, FilterChain chain) throws IOException, ServletException { String traceId ((HttpServletRequest) request).getHeader(X-Trace-Id); if (traceId null || traceId.isEmpty()) { traceId UUID.randomUUID().toString().replace(-, ); } MDC.put(traceId, traceId); try { ((HttpServletResponse) response).setHeader(X-Trace-Id, traceId); chain.doFilter(request, response); } finally { MDC.remove(traceId); } } }MDC.remove很重要。線程池中的線程會(huì)被復(fù)用如果不清理下一條請(qǐng)求可能拿到上一個(gè)請(qǐng)求的 traceId導(dǎo)致日志串鏈路。下游服務(wù)在發(fā)起遠(yuǎn)程調(diào)用時(shí)要把 traceId 繼續(xù)傳遞下去。HttpHeaders headers new HttpHeaders(); if (MDC.get(traceId) ! null) { headers.set(X-Trace-Id, MDC.get(traceId)); }使用異步線程池時(shí)MDC 不會(huì)自動(dòng)傳遞。如果是 SpringThreadPoolTaskExecutor可以通過TaskDecorator在提交任務(wù)時(shí)拷貝 MDC執(zhí)行完后恢復(fù)如果只是在代碼里手動(dòng)new Thread則需要手工 put 和 remove。日志框架側(cè)也要把 traceId 輸出到結(jié)構(gòu)化字段中。使用logstash-logback-encoder時(shí)encoder 會(huì)自動(dòng)包含 MDC 中的字段。以 logback 為例一個(gè)最小 JSON 輸出配置如下。configuration appender nameJSON_FILE classch.qos.logback.core.rolling.RollingFileAppender file/data/logs/order-service/app.log/file rollingPolicy classch.qos.logback.core.rolling.TimeBasedRollingPolicy fileNamePattern/data/logs/order-service/app.%d{yyyy-MM-dd}.log/fileNamePattern maxHistory7/maxHistory /rollingPolicy encoder classnet.logstash.logback.encoder.LogstashEncoder includeMdctrue/includeMdc customFields{service:order-service,env:prod}/customFields /encoder /appender root levelINFO appender-ref refJSON_FILE/ /root /configuration這里把service和env固定寫進(jìn)了應(yīng)用日志配置避免了每個(gè)服務(wù)在業(yè)務(wù)代碼里重復(fù)拼接。不同版本 encoder 的配置略有差異落地前先確認(rèn)依賴版本。3. 日志采集層從服務(wù)本地日志到統(tǒng)一通道日志規(guī)范定好后下一個(gè)問題是日志怎么從應(yīng)用進(jìn)程到達(dá)統(tǒng)一的日志中心。生產(chǎn)環(huán)境常見的方案是應(yīng)用寫本地文件Filebeat 采集文件輸出到 Kafka。3.1 本地文件采集和直接上報(bào)怎么選有些新項(xiàng)目會(huì)直接在應(yīng)用里用 HTTP 或 SDK 把日志發(fā)送到 Logstash 或 Kafka。這種方式接入快但客戶端邏輯重還要處理發(fā)送失敗、緩沖區(qū)溢出、網(wǎng)絡(luò)抖動(dòng)等問題。應(yīng)用本身已經(jīng)有業(yè)務(wù)邏輯再承擔(dān)完整的日志傳輸職責(zé)容易引入不穩(wěn)定因素。更穩(wěn)妥的組合是應(yīng)用只負(fù)責(zé)把結(jié)構(gòu)化日志寫到本地磁盤采集器負(fù)責(zé)讀文件和傳輸。Filebeat 是常用選擇它輕量、內(nèi)存開銷小、支持?jǐn)帱c(diǎn)續(xù)采適合部署在應(yīng)用實(shí)例旁邊。采集端故障時(shí)應(yīng)用日志仍然寫在本地文件不會(huì)立刻丟失。這相當(dāng)于給日志多了一層本地緩沖。學(xué)習(xí)環(huán)境可以直接看控制臺(tái)或tail -f日志文件生產(chǎn)環(huán)境建議走文件采集。直接上報(bào)適合日志量不大、團(tuán)隊(duì)能接受客戶端 SDK 維護(hù)成本的場景但不是默認(rèn)首選。3.2 Filebeat 采集配置示例Filebeat 配置由 input 和 output 兩部分組成。下面是一個(gè)把訂單服務(wù)日志采集到 Kafka 的示例。filebeat.inputs: - type: filestream id: order-service-app enabled: true paths: - /data/logs/order-service/*.log fields: service: order-service env: prod fields_under_root: true processors: - add_host_metadata: ~ output.kafka: hosts: [kafka01:9092, kafka02:9092, kafka03:9092] topic: app-log partition: round_robin: reachable_only: true required_acks: 1 compression: gzip max_message_bytes: 1048576paths指定日志文件位置推薦一個(gè) input 只匹配一個(gè)服務(wù)的日志。fields用于給日志打上服務(wù)名和環(huán)境標(biāo)簽fields_under_root: true讓這些字段出現(xiàn)在日志頂層。add_host_metadata會(huì)把主機(jī)名和 IP 加進(jìn)來方便按實(shí)例過濾。output.kafka中的required_acks: 1表示 Kafka leader 寫入成功即可返回性能和可靠性比較均衡。compression: gzip可以降低網(wǎng)絡(luò)帶寬但會(huì)增加一點(diǎn) CPU 開銷。日志量很大時(shí)這個(gè)權(quán)衡通常值得。如果 Filebeat 版本較舊可能沒有filestream需要使用loginput。接入前先確認(rèn)版本不同版本的配置語法有差異。3.3 采集層最容易踩的坑第一個(gè)坑是多個(gè)服務(wù)共享同一個(gè)日志目錄。比如把所有服務(wù)的日志都寫到/data/logs/app.logFilebeat 采集后只能打同一個(gè)service標(biāo)簽無法區(qū)分來源。推薦按服務(wù)隔離目錄比如/data/logs/{service}/app.log。第二個(gè)坑是 Filebeat 重復(fù)采集滾動(dòng)日志。應(yīng)用日志按天滾動(dòng)后舊文件可能被改名成app.2026-06-01.log。如果 Filebeat 的 path 使用*.log可能把滾動(dòng)文件和新文件同時(shí)采集產(chǎn)生重復(fù)。建議嚴(yán)格約定文件名規(guī)則并在采集配置里避免把歸檔目錄包含進(jìn)來。第三個(gè)坑是采集延遲的假象。業(yè)務(wù)日志已經(jīng)寫到文件但 Filebeat 的ignore_older或close_inactive配置過大導(dǎo)致新日志不能及時(shí)讀取。排查時(shí)不要只看應(yīng)用日志有沒有寫還要看 Filebeat 是否處于運(yùn)行狀態(tài)、是否報(bào)權(quán)限錯(cuò)誤。4. 日志傳輸管道如何保證日志不丟不堵日志量是有峰值的。大促、秒殺、定時(shí)任務(wù)集中執(zhí)行時(shí)日志寫入速率可能瞬間翻幾倍。如果所有采集器直接把日志寫到 ElasticsearchES 寫入壓力會(huì)很大。引入 Kafka 作為緩沖是生產(chǎn)級(jí)日志體系里常見的解耦手段。4.1 Kafka 緩沖的作用和關(guān)鍵參數(shù)Kafka 在日志鏈路中負(fù)責(zé)削峰填谷。Filebeat 寫入 Kafka 后下游 Logstash 或消費(fèi)程序可以按照自己的節(jié)奏消費(fèi)不會(huì)因?yàn)闃I(yè)務(wù)流量突增而丟日志。Topic 設(shè)計(jì)時(shí)可以只建一個(gè)app-log主題通過日志中的service字段區(qū)分服務(wù)。也可以按環(huán)境分主題比如app-log-prod和app-log-test。分區(qū)數(shù)要結(jié)合下游消費(fèi)并發(fā)決定。單個(gè)分區(qū)只能被同一個(gè)消費(fèi)組里的一個(gè)線程消費(fèi)分區(qū)太少消費(fèi)并發(fā)上不去分區(qū)太多Kafka 元數(shù)據(jù)開銷也會(huì)變大。副本數(shù)建議生產(chǎn)環(huán)境至少 3并配置min.insync.replicas防止部分節(jié)點(diǎn)故障時(shí)寫入丟失。retention.ms可以設(shè)置日志在 Kafka 中的保留時(shí)間給下游鏈路故障留出恢復(fù)窗口。常見設(shè)置是保留 24 到 72 小時(shí)具體要看磁盤成本和團(tuán)隊(duì)對(duì)日志完整性的要求。分區(qū) key 的選擇也要考慮。如果希望同一實(shí)例的日志順序保持有序可以使用instance作為 key如果只關(guān)心吞吐可以使用輪詢策略。跨服務(wù)按 traceId 聚合到同一分區(qū)意義不大因?yàn)椴樵冸A段已經(jīng)在 ES 中完成聚合不需要在消息隊(duì)列里強(qiáng)制同分區(qū)。4.2 Logstash 消費(fèi)和寫入 ElasticsearchLogstash 在整個(gè)鏈路里負(fù)責(zé)消費(fèi) Kafka 消息、解析字段、補(bǔ)充信息再批量寫入 Elasticsearch。由于應(yīng)用側(cè)已經(jīng)輸出 JSON 日志Logstash 的 filter 可以保持很輕不需要用復(fù)雜的 grok 正則去切文本。一個(gè)最小 pipeline 配置如下。input { kafka { bootstrap_servers kafka01:9092,kafka02:9092 topics [app-log] group_id logstash-app-log codec json consumer_threads 6 } } filter { date { match [timestamp, ISO8601] target timestamp } if [exception] { mutate { add_field { error_flag true } } } } output { elasticsearch { hosts [http://es-data01:9200, http://es-data02:9200] index app-log-%{YYYY.MM.dd} } }codec json表示消息體本身就是 JSON。datefilter 把日志里的timestamp解析成 ES 使用的timestamp字段。error_flag是為了后續(xù)檢索時(shí)快速過濾異常日志。如果應(yīng)用日志里混入非 JSON 行比如System.out.println或啟動(dòng) Bannercodec json會(huì)導(dǎo)致解析失敗。這個(gè)問題最好在應(yīng)用層解決統(tǒng)一使用 logger 輸出不要混用標(biāo)準(zhǔn)輸出。如果無法避免可以改用純文本采集或獨(dú)立 topic再用 grok 解析。4.3 消費(fèi)堆積和背壓處理Kafka 消費(fèi)堆積是日志鏈路最常見的故障。現(xiàn)象是 Kibana 里最新日志遲遲不出現(xiàn)kafka-consumer-groups顯示的LAG持續(xù)增長。處理順序不要亂。先確認(rèn)是上游寫入變快還是下游消費(fèi)變慢。如果只是瞬時(shí)峰值可以等待消費(fèi)追平如果持續(xù)堆積優(yōu)先擴(kuò)容 Logstash 消費(fèi)吞吐也就是增加分區(qū)數(shù)和consumer_threads。但不要無限增加線程因?yàn)樽罱K瓶頸可能在 ES 寫入。ES 寫入壓力大時(shí)會(huì)表現(xiàn)為拒絕寫入或?qū)懭牒臅r(shí)上升。這時(shí)要檢查 ES 集群的寫入隊(duì)列、磁盤水位和 bulk 大小。生產(chǎn)環(huán)境建議將 ES 節(jié)點(diǎn)角色拆分?jǐn)?shù)據(jù)節(jié)點(diǎn)和協(xié)調(diào)節(jié)點(diǎn)分離避免高負(fù)載互相影響。還要給 ES 設(shè)置合理的索引分片數(shù)分片過少無法充分利用多節(jié)點(diǎn)過多會(huì)帶來資源浪費(fèi)。注意Kafka 消費(fèi)堆積本身不一定是故障如果業(yè)務(wù)日志量確實(shí)超過正常水位優(yōu)先擴(kuò)容而不是清空堆積。清空堆積會(huì)丟掉排障現(xiàn)場這是最不建議的做法。5. 日志存儲(chǔ)與檢索ES 索引設(shè)計(jì)決定查詢速度日志進(jìn)入 Elasticsearch 之后能不能快速查出來取決于索引設(shè)計(jì)和字段映射。生產(chǎn)環(huán)境見過太多“索引大了查不動(dòng)”的問題根源往往是最初沒有做索引規(guī)劃。5.1 按時(shí)間分索引避免單索引無限增長日志天然是和時(shí)間強(qiáng)相關(guān)的數(shù)據(jù)。按天建立索引比如app-log-2026.06.01是最常見的做法。好處很明顯查詢最近一天的數(shù)據(jù)只需要掃描當(dāng)天索引刪除過期數(shù)據(jù)只需刪除舊索引不用在單個(gè)大索引里做復(fù)雜清理。索引別名也可以配合使用。比如查詢最近 7 天日志時(shí)可以搜索app-log-*寫入側(cè)使用app-log-write別名由 ILM 管理實(shí)際索引。這樣可以保持查詢和寫入的穩(wěn)定。索引分片數(shù)要根據(jù)數(shù)據(jù)量和節(jié)點(diǎn)數(shù)預(yù)估。一個(gè)分片通常建議控制在 30GB 到 50GB 以內(nèi)。按天索引時(shí)如果每天日志量很大可以按天索引并配置多分片如果每天只有幾百 MB一個(gè)分片或少量分片就夠了。5.2 字段映射決定你是過濾還是全文搜索ES 中的字段類型直接影響查詢方式。精確匹配和聚合統(tǒng)計(jì)要使用keyword類型模糊匹配和關(guān)鍵詞搜索要使用text類型。排障中常用的service、level、traceId、instance、status都應(yīng)該設(shè)計(jì)為keyword或數(shù)值類型。一個(gè)參考 mapping 如下。{ mappings: { properties: { timestamp: { type: date }, level: { type: keyword }, service: { type: keyword }, instance: { type: keyword }, traceId: { type: keyword }, method: { type: keyword }, uri: { type: keyword }, status: { type: integer }, costMs: { type: long }, message: { type: text, fields: { keyword: { type: keyword, ignore_above: 256 } } }, exception: { type: text } } } }message使用text是為了支持關(guān)鍵詞搜索同時(shí)加了一個(gè)keyword子字段方便對(duì)短消息做精確過濾。exception使用text但要注意異常棧內(nèi)容很長不建議在 ES 中對(duì)全文做復(fù)雜聚合。如果日志字段不固定建議關(guān)閉動(dòng)態(tài) mapping 或使用 dynamic template 白名單。大量動(dòng)態(tài)字段會(huì)導(dǎo)致索引 mapping 膨脹嚴(yán)重時(shí)甚至讓集群停止寫入。統(tǒng)一日志字段規(guī)范也是保護(hù) ES 的一個(gè)手段。5.3 索引生命周期管理避免磁盤被打滿索引生命周期管理ILM是生產(chǎn)級(jí)日志存儲(chǔ)的必需環(huán)節(jié)。通過 ILM可以讓索引從熱階段滾動(dòng)到暖階段再按策略刪除。下面是一個(gè)簡單的 ILM 策略索引達(dá)到 50GB 或 7 天時(shí)滾動(dòng)超過 30 天的索引自動(dòng)刪除。PUT _ilm/policy/app-log-policy { policy: { phases: { hot: { min_age: 0ms, actions: { rollover: { max_size: 50gb, max_age: 7d } } }, delete: { min_age: 30d, actions: { delete: {} } } } } }ILM 需要配合索引模板使用把策略綁定到對(duì)應(yīng)索引模式上。PUT _index_template/app-log-template { index_patterns: [app-log-*], template: { settings: { number_of_shards: 3, number_of_replicas: 1, index.lifecycle.name: app-log-policy, index.lifecycle.rollover_alias: app-log-write } } }如果使用 ILM 的 Rollover寫入側(cè)應(yīng)使用別名app-log-write查詢則使用app-log-*。日志保留周期的選擇要結(jié)合業(yè)務(wù)需求ERROR 日志可以保留更久普通 INFO 日志保留 7 到 15 天通常就夠。注意不要只設(shè)置 ILM 而忽略磁盤容量評(píng)估。保留 30 天日志至少要把每天日志量乘以 30 乘以副本數(shù)再算上 ES 索引膨脹和 overhead才能確認(rèn)集群容量是否夠用。6. 排障實(shí)戰(zhàn)從一條報(bào)警到根因定位的完整鏈路日志體系設(shè)計(jì)得再好最終還是要回歸到排障場景。用一個(gè)常見例子說明凌晨收到告警訂單服務(wù) ERROR 增多接口 P99 升高。這時(shí)候應(yīng)該怎么查。6.1 先用時(shí)間和級(jí)別縮小范圍不要盲目搜全文排障第一步不是搜具體異常棧而是確定影響范圍。在 Kibana 中使用時(shí)間范圍過濾最近 15 分鐘再疊加服務(wù)名和級(jí)別。service:order-service AND level:ERROR AND timestamp now-15m如果日志量仍然很大可以加上uri或status進(jìn)一步縮小范圍。比如只查看POST /api/order的錯(cuò)誤日志。service:order-service AND level:ERROR AND uri:/api/order AND timestamp now-15m排序按timestamp升序先看最早的異常因?yàn)榈谝粋€(gè)異常往往是后續(xù)大量錯(cuò)誤的源頭。如果看到Connection timed out或Read timed out要意識(shí)到這可能是下游依賴導(dǎo)致的連鎖反應(yīng)先找出被調(diào)用方是否也有異常。6.2 用 TraceID 串聯(lián)完整調(diào)用鏈確定一條典型錯(cuò)誤日志后復(fù)制其中的traceId在 Kibana 中搜索。traceId:8f3a1b2c3d4e5f6a7b8c搜索時(shí)不限制服務(wù)名。只要 TraceID 在所有服務(wù)間透傳正確就能查到這個(gè)請(qǐng)求經(jīng)過的所有服務(wù)、所有實(shí)例的日志。按時(shí)間順序排列后可以看到請(qǐng)求從網(wǎng)關(guān)進(jìn)入訂單服務(wù)然后調(diào)用支付服務(wù)最后在哪里耗時(shí)最長。日志中會(huì)看到類似這樣的關(guān)鍵點(diǎn)訂單服務(wù)日志顯示調(diào)用支付服務(wù)開始和結(jié)束。支付服務(wù)日志顯示處理耗時(shí)超過 3 秒。支付服務(wù)之后出現(xiàn)數(shù)據(jù)庫超時(shí)或連接池等待。這一步的核心是確認(rèn)異常發(fā)生位置而不是只看最外層報(bào)錯(cuò)。外層的RestClientException可能只是下游超時(shí)的表象根因在支付服務(wù)的數(shù)據(jù)庫連接或 SQL 執(zhí)行上。6.3 從異常日志特征定位根因類型不同錯(cuò)誤特征對(duì)應(yīng)不同排查方向整理成速查表會(huì)很有用。日志特征可能根因下一步檢查status500 大量異常棧服務(wù)內(nèi)部異??串惓?、線程池、連接池Connection timed out網(wǎng)絡(luò)不通或連接池耗盡檢查目標(biāo)服務(wù)、端口、連接池配置Read timed out下游處理慢查看下游服務(wù)耗時(shí)、GC、慢 SQLlock wait timeout exceeded數(shù)據(jù)庫鎖競爭查數(shù)據(jù)庫事務(wù)、慢 SQL、死鎖日志OutOfMemoryError內(nèi)存不足或泄漏查看對(duì)堆配置、GC 日志和
返回列表
PREV
查看更多資訊
NEXT
返回資訊列表
欧亚综合一卡二卡中文字幕| 国产亚热在线久久| 女同女同恋久久级三级| 91中文精品日韩欧美在线| 国产品精品自在在线午夜免费| 日韩欧美视频青青| 日本在线伊人啪啪| 99热亚洲天堂| 芊芊操逼视频无码| 天天在线91| 91在线视频免费中出| 国产综合色精品在线观看| 国产2.3.4区| 婷婷色导航| 久久久久亚洲av综合波多野制衣| 亚州熟女乱伦| 国产白丝在线| AV高清一区| 欧美黄片欧美黄片xxx| 中文字幕久久婷婷丁香五月天 | 天天日天天干少妇日| 九九成人| 男人的天堂一区三区| 五月婷亚洲精品天堂| 欧美专区第一页| ji熟女.com| 欧美午夜色妇色鬼| 欧美中出1| 亚洲97成人在线观看| 免费久久一级毛片大黄| 久久首页| 天天摸夜夜添无码小视频| 久久久亚洲Av| 国产成人无码啪| 黄在线| 99热这里只有精品地址| 亚洲成A∨人影院在线欢看| 999亚洲国产视频| 国产性爱欧美性爱在线| 女上位精品在线| 91n处女在线观看| 91色欧美| 五十路六十路七十路熟婆| 精品少妇一区二区三区| 99蜜桃臀亚洲成人在线观看| 97免费在线视频在线观看| 四虎AV在线观看| 久久综合女优| 蜜臀99999| 欲香欲色天天天综合和网| 国产精品白丝www| 日韩有码专区| 一起草三级AV电影在线观看| 午夜一区| 四虎AV影视国产精品亚洲精品| 99精品久久久久久| 深夜福利黄片| 五月天综合| 射丝袜高跟鞋99| 亚洲91射| 免费精品中文字幕| 中文字幕视频2区| 综合自拍| 午夜精品探花| 久久久禁| 美女极品一区二区三区| 日韩一999精品| 男人的天堂日韩| 久久久性| 久久久久久久久九九久孕交| 欧亚无码视频| 久99热| 日夜久久久九九九久| 大象AV在线| 国产人妻精品久久久一区二区三区| 97硬碰| 日韩性爱啪啪视频| 亚洲婷婷综合网| 啊啊啊好湿国产一二| 精品人妻一区二区三区四区| 色5月婷婷| 操熟女91| 9/A片| 2019男人的天堂| 久久精品国产欧美日韩亚洲欧美日韩中文久久国产一区 | 亚洲成人帖图| 在线另类| 国产激情视频一区区三区| 综合网欧美在线| 97色97干| 日本五十路在线| 人人操人人操人人操人人操人人操人人人11.CM| 精品人妻一区二区三区-国产精品| 97在线亚洲| 长长久久免费视频| 日韩啪啪视频| 九九视品黄色| 插日本熟女视频| 欧亚 另类 久| 白丝AV网站| 国产精品交换一区二区| 亚洲国产综合视频| 精久久久| 啊啊啊啊啊啊好湿好爽视频| 久久ww| 国产精品一区二区亚洲人成毛片 | 春色综合免费| 校园春色之综合网| 十八禁视频网站| 高清无码久操视频| 色婷婷一区二区三区久久| 欧美久久婷婷| 97 国产一区| 午夜免费视频1000| 天天草天天日| 亚洲啪啪综合?v一区综合精品区| 久久人人妻| 激情五月天婷婷| 亚欧成人中文字幕一区| 午夜福利免费福利视频| 丝袜剧情| 9九九九九视频在线观看| 九九热免费视频| 久久国产视频性吧 | 中文字幕88av在线| 丝袜美腿校园春色| 69丨亚洲丨精品丨入口免费播放| 九九九只有精品| 偷拍亚洲情色| 成人国产视频在线观看| 肏逼视频日本| 国产精品亚洲免费| 国产女生在线| 亚洲精品黑丝| 欧美天天综合| 五月婷婷性爱| 77777亚洲蜜臀精品久久综合蜜臀| 国产欧美一区二区| 麻豆婷婷成人一二三| 久久日本熟女精品一区| 欧洲亚洲人妻无码久久三区四区| 久久久九九九| 唐山老熟妇露脸啪啪叫| 天天摸,夜夜摸| 国产精品。| AV久日| 97啪啪| 亚洲成av人片色午夜乱码| 综合色图亚洲欧美| 男生女生啊啊啊啊| 青青色在线观看| 色婷婷一区二区三区久久| 一区二区三区黄色片a| 久久婷婷一区二| 夜草欧美| 超碰人妻久久| 日韩一二三区| 成人26uuu| 亚欧性爱ab| 性老妇一区二区三区| 免费看黄视频亚洲网站| 欧美性巨大╳╳╳╳╳高跟鞋| Blackedraw视频一区二区| 久久露脸国产老熟女| 伊人久久婷婷| 成人性交午夜免费片| 少妇高潮九九九九| 97免费在线观看| 久久久新亚洲AV| 久操网视频| 99视频精品| 中文字幕视频2区| 超碰综合色| 婷婷性网| 欧美日本一区二区a人| 最新AVzaixian| 四虎精品一区| 精品无码久久久久久久杏吧| 无码区蜜乳| 乱伦图一区| 91碰碰碰| 亚洲 欧美 日本 国内 首页| 人妻美腿丝袜日韩| 欧美78P| 懂色影视久久| 超碰97欧美日韩| 嗯嗯啊啊操死我| 久久超碰av在线| 亚洲 欧美 综合 91| 91 综合 色| 欧美一级久久久久久久大片动画 | 国产精品成人无码av无码免费| 天美精品av| 久久精品一区一起草| 影音先锋视频在线| 操碰97| 久久9精品网站| 日本中文字幕不卡视频| 欧美日韩操逼嗦吊| 亚洲自拍一区夜夜操 | 尤物视频偷拍免费| 亚洲成aⅴ人片不卡无码| 黑人狂躁日本妞一区二区三区| 日韩AV片| 亚洲熟女综合网| 亚洲无线码一区国产欧美国| 久久九操在线观看| 做爱A级亚欧| 蜜臀AV一区二区三区激情综合| 人妻少妇精品久久久久久| 亚州免费啪啪视频| 日产成人久久| 日本孕妇一区二区视频操逼免费看 | 伊人网在线点播| 久久高清欧美国产| 青青久操| 一级二级三级黑人无码| 性老妇一区二区三区| 神马久久久久| 激情亚洲天堂| 国产精品美女在线一区| 欧美日韩情色一区二区| 国产精品国产精品国产| 91婷婷伊人狠人| 91熟女丨91老女人| 97爱免费插| 色综合1991| 一,爱啪啪,在线免费视频| 97在线观视频免费观看| 操逼视频色| 日本岛国黄色网址| 人妻熟女一区二区三区视频| 夜夜爽33333| AV中亚| 亚洲国产欧美日韩精品一区二区三区,国产一区二区三区在线看片,欧美性猛交 XXX | 强奸乱伦大香蕉网| 91在线限制级| 色色色色色色色色综合| 亚洲日韩久久精品一区| 风月影院男女十八禁| 1000午夜黄色| 人人扣人人操| 久久m| 欧美日本不卡在线| 亚洲日韩黑丝| 国产一区二区三区免费视频在性观看 | 91亚洲欧美综合高清在线| 久久精品无码熟妇一区二区三区视频导航 | 色婷婷99| 欧美久久毛片基地| 五月丁香综合| 国产呦精品一区二区三区下载| 91少妇通奸网站| 农村妇女一级二级三级视频| 色婷婷网| 六月丁香五月婷婷| 人妻中文在线| 亚洲欧洲综合视频在线| 欧美人人操人人插| 欧美组图日韩亚洲中文字幕| 亚洲一区二区三区春色| 91精品国| 国产自制av蜜乳| 国产美女高潮视频| 老鸭窝成人免费毛片视频| 91性网| 久久精品99久久久久久| 91模特在线观看| 久久精品国产AV一区二区三区| 精品国产丝袜一区二区三区乱码| 国产精品不卡一区二区三区| 青青青艹在线视频| 加勒比综合九九99视频在线播放| 青青草色插素人| 国产91丝袜在线播放蜜月| 大香交伊人网| 亚州欧美总和| 九九热re99re6在线精品| 97色碰| 少妇啪啪自拍| 午夜精品久久久久久久第一页按摩| 高潮9999外国| 亚洲综合有码| 一区AV| 久久九九国产精品| 夜夜高潮夜夜爽| 老鸭窝成人| 日韩偷拍一区二区三区| 国产人伦精品一区二区三区 | 黄片不用下载在线观看| 日本天堂网| 国产精品欧美激在线| av日韩中文字幕| 天天综合网~91综合网| 中文?日韩?免费?精品| www久久国产精品| 国产一级αv免费看片| 久久九九视频九九视频| 国产精品一区人妻精品阁在线| 色超碰综合| 久久久久幕乱码| 超碰78| 成人福利视频网| 国产精品91ai| 中文字幕人成乱码熟女香港| 男人亚洲91首页在线| 日韩精品三级| 日韩人妻无码专区| 伊蕉97蜜桃97狠狠综合干| 欧美中文综合| 亚洲精品日日夜夜52| 超碰久久草| 色噜噜狠狠色综无码久久合欧美| 少妇人妻好深太紧了vr91| 热天堂一区二区| 97欧美色| 天天操人人操骚逼网站| 国产无吗在线播放| 91撸色网 玖玖网 欧美| 盗摄女人妻在线| 99热日| 精品性爱一区二区| 99国产女人| 亚洲日韩青青草色月| 亚洲欧美色图片| 亚洲国产一级中文综合久久天堂在线免费观看 | 啊好爽快点-国产一区二区三区撒尿在线-成人AV | 亚洲五月丁香花狠狠干一区二区三区 | 国产乱人伦AVA麻豆软件.| 久久99手机免费视频| 无码一区免费在线不卡| 亚洲古典另类欧美在线| 人妻酒店出差被中出免费在线播放| 大香蕉宅男伊人| 桃花色综合影院| 超碰超碰95| 60秒免费视频| 99999精品成人| 9999久久久| 超碰97爽| 人人看人人爰人人操| 囯产精品强| 天天色综合图片| 亚洲欧洲综合av在线| 综合亚洲网| 东北女人| 免费av大片| 3PAV乱伦视频| 天堂亚洲欧美| 夜夜操av亚洲一区二区| 国产精品99精品视频网站| 国产夫妻性生活视频| 久久久久久久久久久免费精品| 3p国产色噜噜一区| 秋霞一级A片黄色视频| 伊人91| 色天堂在线观看| 久久久激情| 不卡av免费在线网址| 中出欧美| 亚洲AV不卡在线观看| 国产成人+综合亚洲+天堂| 91痴汉| 天天躁狠狠躁av| 我爱搞逼综合网| 亚洲天堂电影网| 99国产精品自在自在| 日韩伦理视频| 精品无码人妻一区二区免费蜜桃| 欧美性爱一区二区三区四区| 丝袜美腿诱惑亚洲欧美视频在线观看 | 日本欧美成人片AAAA| 色婷婷丁香| 在线播放成人网站| 亚洲综合色网| 夜夜操2028| 操迟操逼在巾线Fre看| 亚洲男人天堂Av| 成人日本片久久久蜜桃| 成人综合视频久久| 欧亚揄拍偷拍精品视频| 色性荡荡荡荡视频| 男人天堂黄片| 国产亚洲国产超碰| 国产又粗又长又爽又色| 亚州精品一区二区三区香中文字幕在线| 一区二区视频在线播放| 婷婷五月天福利| 亚洲欧美精品福利在线| 五月丁香六月婷综合成人综合| 六月婷婷色综合| 啊啊啊啊啊操我视频| 9长久久精品| 超碰综合色| 欧日韩一二三f区| 韩美日操逼| 黄色片一区二区三区四区五区| 四方色播| 黄片色区软件| 最新亚洲黄色免费电影| 中文字幕精品一区欧美| 人人操人人摸人人骑| 99热免费精品| 97人人爱人人乐| 91欧美网| 家庭乱伦国产精品| 久久黄色视频一区二区三区 | 小说区 图片区色 综合区| 97在线视频观看免费| 亚洲自拍青操视频| 天操老女人| 婷婷五月在线视频| 青青草字幕AV| 91欧美经典| 97干97色| 国产欧美岛国精品一区| 久久久不能久久久久| 校园春色宗合网| 久久精品国产亚洲5555| 九九碰九九爱97超碰| 伦伦成年午夜免费视频| 26uuu欧美| 天美传媒一二三区永久网站| 玖色av| 日本免费一级AAA大片器| 免费看毛片操穴| 亚洲丨在线| 91色香| 欧美一级黄色18片免费看| 久久久久9久久久久| WWW美腿丝袜香蕉中文| 天堂性色| 色色热| 麻豆熟妇乱妇熟色A片在线看| 岛国片在线播放| 国产有码一区| 999久久久| 欧美日韩久久精品爱爱| 欧美网站免费| 校园春色 亚洲| www超碰| 91N综合网在线| 岛国成人av在线播放网址| 亚洲天堂资源| 熟女突然公开看18禁影片| 一本色道久久综合亚洲二区三区| 亚洲最大网站av| 伊人九九九| 蜜臀久久99精品久久久老,,| 综合少妇网| 欧美精品久久久久久久久88| 久9久9久9久9久9久9| 永久免费观看的毛片的网站| 亚洲不卡av在线| 午夜一区| 超碰免费人人| 久久97精品久久久久久久不卡| 色播综合| 电家庭影院午夜69久久夜色精品国产69乱| 精品无码人妻一区二区免费蜜桃| 五月情色天| 97免费视频网| 91chinese在线| 久久久久久裸体| 啪啪一区| 啪啪免费| 日韩无码服务区| 久热9| 亚洲Av诱惑| 精品人妻一区二区免费蜜桃| aV中文麻| 久久精品91| 亚洲av在线免费观看| 大学生美女口爆| 亚洲性猛| 国产视频一区二区三区久久亚洲天堂 | 日本不卡一二区| 国产传媒日本欧美专区| 蜜臀少妇一区二区| 国产成年女人免费视频播放a| 日韩精品怡红院| 欧洲色色| 秋霞操逼片| 国产精品农村妇女精品| 色欧洲97| 亚洲色图8| 校园春色 男人天堂| 女人高潮抽搐喷水视频网站| 日韩欧美性爱电影在线观看| 综合亚洲欧美| 日韩国产九九精品一区二区三区毛片| 亚州色图欧美| 久久久久久久 九九九九九九九| 欧美国产日韩高清在线| 日本三级A片网站com| 久久亚洲一区二区色婷婷| 啊啊啊啊啊舒服| 久久久不能久久久久| 欧美精品日韩一区二区| 久久毛卡| 亚洲色图日韩精品| 成人性爱高清视频免费看| 黑人操一区二区| 十八禁视频一区二区| 亚洲av影音先锋| 国产第25页在线观看| 欧美日韩第一页| 蜜臀久久99精品久久久老,,| 中文字幕在线24| 久久久久9999妇女| 精品人妻一区二区三区视频| 九七人妻在线| 中文操逼字幕| 91天天| 日韩性爱长视频免费| av影片在线观看不卡| 欧美色97| 九九久久一区二区伦理| 天天操夜夜操| 九九九九97| 日韩欧美日韩| 日韩成人性爱AV| 7777欧美成是人在线观看| 亚洲精品中文字幕一区在线视频| 国产又大又粗又色生活片亚洲国产精品成人久久久综合免费 | 伊人精品国产| 牛牛AV人人夜夜澡人人爽| 久久亚洲AV成人精品无码| 精品国产乱码| 久久午夜鲁丝片| 国内91熟女人妻丝袜天天精品视频在线 | 精品九九九九九九九| 素人伊尹大香蕉免费下载视频| 天美传媒精品一区二区| 国产精品一区午夜福利| 98色网| 欧美性色网| 成人av免费观看| 亚洲av热热色| 日韩情色一区二区| 被男人添B超爽视频| 久久久久国产精品喷潮免费观看臀 | 蜜臀久久99精品久久久久久久久| 亚洲天在线| 九九九九热| 国产 日韩 另类 视频一区爱| 精品一区二区三区四区外站| 国产精品午夜福利亚洲综合网| 噜噜噜噜天天狠狠| 四虎AV影视国产精品亚洲精品| 中文自拍欧美影视| 学生妹天天看| 国产一区二区三区白丝| av九九| 91大神精品长腿在线观看网站| 国产精品一级片在线看| 嗯嗯嗯啊啊啊操的我好爽| 日产操逼| 中文熟女五十乱码在线| 99激情视频| 曰韩中文人妻视频| 欧美色图片91| 少妇一区二区三区精选| 亚洲熟女人妻中文字幕一区二区| 性饥渴少妇av无码毛片| 午夜无遮挡男女啪啪视频| 青青草吊丝| 射久久| 青青国产精品在线| 精品视频在线观看精品| 国产亚洲 中文欧美久久| 黄色大片视频在线免费看| 午夜福利在线合集| 国产福利av精彩对白| 啪啪91| 天天色天天干天天爱| 久久高清无码夜夜操| 在线精品福利免费播放| 欧美一级二级三级| 精品国产91久久久久久一区黄无| 日本性爱不卡视频| 96国产精品| 97天天操天天干| 狼天天狼天天大香蕉| 超碰免费人妻人人| 97久久久久久久久久| 67914亚洲精品| 操我无码| 亚洲另类欧美精品| 91爰爱欧美| 五月丁香婷婷综合| 亚洲乱码国产乱码精网站| 啊啊啊啊,啊啊好多水| 欧美久久九九| 密臀国产在线| 天天影视网综合少妇| 日本熟妇人妻中出视频| 精品日韩人妻视频| av草草在线电影| 高树玛利亚无码流出| 欧美综合骚| 国产久久一区二区午夜| 我要看免费韩日黄片| 国产精品探花视频| 啪啪啪东京| 国产成人 综合亚洲 天堂| 亚洲 欧美 日韩 国产一区二区| 亚州性色| 操逼A∨| 亚洲欧美97| 夫妻AV网站| 91 国产丝袜在线播放-百度| 天天α片| 96精品一区| 91久久久久久久| 亚州色国| 99蜜月精品久久| 蜜臀久久99精品久久久久久| 九九久久久| 欧美组图日韩亚洲中文字幕| www亚洲免费| 免费?级毛片无码?∨蜜芽试看| 精品久久久久久久久久久久| 最新日本中文字幕| 日本久久女同性恋视频| 国产精品内射婷婷一级二| 麻豆AV一区二区天美传媒| 国产精品乱码久久| 岛国A V在线免费看| 日韩免费看在线黄色片| 亚洲成熟国产精品美女| 国产激情综合五月久久| 99国产天美| www久久精品| 免费1级a做爰片观看| 色噜噜综合在线| 白丝少妇一区二区| 亚洲一二三四区在线免费看视频| 九九九九九精品视频| 美女写真| 欧美最婬乱婬爆婬性视频 | 人妻少妇被猛烈进入中| 91婷婷| 北野未奈加勒比av| 亚洲国产精品9999在线观看| 亚洲AV无码黄色强奸| oumeisetu综合| 1234区中文字幕在线观看_青青草国产在线_日韩一区二区 | 天天射天天| 亚州国产精品乱| 色女99一级片在线观看| 国产福利合集| a男人的天堂| 99在线精品观看视频中文| 国产精品 久久久精品一牛| 爱干爱射网啊啊啊| 我想要 啊 啊 啊| 97操碰| 欧美爱爱97| 黑人无码一区二区| 超碰综合97在线| 强奸乱伦大香蕉网| 色综和网| 手机看片1024你懂的国产| 另类专区加勒比| 操逼日韩无码 | 女优视频第10页| 97综合网| 亚州欧美综合| 欧美乱色| 日韩无码黄色片| 欧美一级专区免费大片| 99久久精品无码一区二区| 福利五区| 麻豆天美电影一区二区| 国产极品精品美女视频| 91总综合网| 欧美性爱中文字幕无线码| 欧美日韩人妻精品一区二区三区| 每日更新AV| 欧美的精品的视频| 久插不卡| 99综合视频一体| 懂色中文一区二区三区| 日韩人妻精品| 蜜桃色色网站视频三区| 一级特级aaaa毛片免费观看| 97在线视频网站| 亚洲美女30b| 韩国三级理论在线| 超碰97中文| 欧美在线视频观看一二三四区高清| 亚洲 日本 一 二 三| 久久国99999| 97超碰欧美手机| 亚洲国成人情色好看电影| 国产AV激情无码久久无码| 神马久久久久久| 亚洲伊人久久精品影院| 超碰日本97美女人妻人人玩人人爱 | 性爱综合一区二区| 久久久九九| 久悠悠av| 亚洲欧美国产日本一区二区三区| 色y情视频免费看| 欧成人在线| 色999人与兽| 干婷婷综合网| 精品少妇人妻av久久免费| 中国一级αV| 91在线一起| 99蜜桃臀亚洲成人在线观看| 欧美日韩情色一区二区| 欧洲精品久久| 欧美另类色图片| 激情五月天色色| 日本熟女中文字幕一区| 视频一区二区免费在线| 久草这里只有精品| 亚洲色性| 欧美色图综合网| AV男人天堂网| 中文字幕一区 二 区 三 四 五 区日 日 骚| 黄色av片三级三级三级免费看| a久久| 午夜啪| 色欲Av人妻精品一区二| 国产视频97| 日本大香蕉综合网| 成·人免费午夜在线观看| 超碰97综合网| 亚洲中文字幕av| 久久久啊啊啊| dy888午夜老子影视达达兔| 黄色大片视频在线免费看| 夜草网站| 无码高清专| 成人性爱电影网| 亚洲高潮少妇| 日韩精品高清资源在线| 丁香五月天久久精品视频一区二区三区| 亚洲91极品| 亚洲色9| 亚洲色图8| 日日爱99| 一类无码操逼视频| 五月婷婷色| 色婷婷综合久久中文字幕雪峰| 欧美亚洲第1页| 欧美91久久久久| 久久人妻| 可以免费观看的AV| 国产女人9999| 国产色图乱伦| 丁香啪啪| 美女黄码视频午夜| 性videos欧美熟妇hdx| www.婷婷| 99最新日韩偷拍视频| 综合久久久久久久久91| 日韩女模中文造逼| 国产精品色哟哟| 久久天堂网| 亚洲一曲日韩精品| 亚洲AV资源| 97精品全部| 久久九九国产精品| 狠狠中文字幕| 久久久久久久久久久久97| 乱伦熟妇一区二区| 婷婷五月天av| 久久久久深夜无码| 影音先锋每日最新资源在线观看 | 九九亚洲色在线观看| 免费av在线播放二区| 六月婷激情福利天堂69| 97超碰欧美精品| 先锋精品av色鲁| 超碰在线成人电影| 密乳AV免费观看| 九九九久久久久| 熟妇人妻精品一区二区| 秋霞影音一区二区三区| 嫩草影院永久在线制服丝袜| 日本人妻伦在线中文字幕| 淫色网综合| 九九九999久久久网站| 美女自卫慰黄网站免费| 日本黄色天堂| 95人妻爽爽人人做人人澡| 97超碰日韩| www鬼畜国产男人的天堂| 超碰97人妻| 天天看片天天爽| 日本人妻中文字幕 | 午夜无码熟妇丰满人妻| 亚洲一区二区三区播放在线| 亚洲一区亚洲天堂| 大香蕉久操| 欧美九九九九九| 亚洲狼狼干综合1| 久久久久久日韩| 欧美一二三区四五区| 操操逼视频| 97av,com| 五月婷丁香| 久久久性| 亚洲图片偷拍欧美| 欧美制服另类丝袜| 午夜精品探花| 免费精品无码一级毛片牛牛影视 | 天天视频网站黄| 超碰在线综合97| 国产视频三区四区| 国产精品黄色三级av| 亚洲情色 无码专区| 牛牛aV| 欧亚无码视频| 国产精品色| 久草资源在线视频官方总站日韩丝袜美腿 | 在线观看不卡一区二区三区| 九草九九九| 操人妻逼91| 色性荡荡荡荡视频| 日韩无码黄色片| 中文字幕一区二区三区四区在线视频| 成人草草视频| 欧美成人精品一区二区男人蜜臀| 狠狠操一区二区| 久久久久日本视| 国产精点久久久成人| 蜜乳AV一区| 亚洲一区中文精品| 神马麻豆福利院| 91M一社| 视频在线观看青青99国产| 日韩ab网| 久久动漫精品视频这里只有精品| 夜夜操夜夜爽夜夜高潮| 中日无幕一二三四区| 天堂蜜桃无码视频一区二区| 日韩有码免费视频| 嗯嗯嗯嗯啊啊啊好紧好大| 久久精品视频久久久| 99re这里只有精品3| 色色五月婷| 色官网在线| 乱伦AVxx| 丁香婷婷大香蕉| 五月激情小说| 日本熟人妻中文字幕在线|...久久国产精品-国产精品_日本一区二区三区中文字幕 | 一区二区三区免费视频入口| 不卡日本一区二区| 欧美天天射| 久久久精品中文字幕爱豆| 啪啪啪东京| 国产精品无码在线| 六六久久日韩不卡| 91精品成人| 欧美日韩97在线| 中国韩国明星一极片一区乱码毛片人妻熟女一区二区三区 | 懂色AV蜜臀无码精品APP| 伊人黄色视频免费观看| 一区二区影院| 97干在线视频| 人人色97| 一区二区三区蜜桃成人撸久久东京热| 欧洲射精91| 午夜无码熟妇丰满人妻| 蜜臀网址在线| 91美女视频| 亚洲精品国产精品乱码不99| 丁香六月综合激情| 日日干夜夜操视频h| 丰满人妻一区二区中文| 亚洲久草AV色图| 久久精品午夜国产亚洲AV无码| 18禁的网站在线| 欧美毛片在线网| 日韩欧美水蜜桃人妻| av日韩中文字幕| 秋霞免费无码视频日韩A片| 色五月丁香五月| 夜夜 中文视频rt| 蜜桃狠狠色伊人亚洲综合 | 国产精品免费久久久久久久久久| 嫩草一区二区在线观看| 亚洲中文字幕有码视频一区二区三区| 国产怡红院在线| 久久久久亚洲三级电影| 91久久国产综合久久| 欧美中字不卡| 久久东京伊人一本到鬼色| 九九热在线视频| 99re6在线视频播放免费精品| 91精品久久久久五月天精品| 一区二区三区国产精产| 夜夜性| 性爱乱伦一区| 任我爽在线视频免费观看| 99亚洲国产精品色一区二区三区| 六月丁香啪啪啪| 丝袜美腿91| 91精品久久久久久77777| 夜夜爽夜夜摸夜夜操免费视频| 国产91精品福利在线| 传媒免费一区二区三区| 国产精品一区av在线| 中文字日本乱码| 久久性生大片免费观看性| 亚洲av夫妻操穴网| 欧美中文字幕精品人妻| 99热最新网址| 三级色影综合网| 五月丁香激情啪啪| 少妇的嫩逼图片| 久久97| 中日韓欧美高清| 曰韩精品九九无码| 中文字幕后石码四区五区| 色五月婷婷五月天| 97色碰| 久久大线蕉一区| 日韩欧美中文日韩欧美色| 蜜桃AV天堂| 91亚洲青青草原精品1区| 国产成人无码啪| 极品色综合| 日韩人妻网站| 大香蕉啪啪啪| 无码人妻一区二区三区色欲aⅴ| 一区二区不卡| 高清国产av无码| 欧美岛国精品在线观看| 亚洲黄日韩无码专区| 青娱乐日韩无码| 久久精品久| 丁香婷婷激情五月天无毒不卡| 黑人狂躁日本妞一区二区三区| 四季AV综合网址| 波多野结衣先锋影音| 9丨久久九九九| caopeng97| 国产一级作爱毛片| 国产一区二区在线看| 大奶啊啊好爽 | 亚欧洲一区二区视频| 婷婷丁香六月| 岛国艾薇凹凸视频天堂| 香蕉精品二区二区| 97网址97| 狠狠亚洲| 99视频只有精品| 国产一区二区av综合| 欧美巨大性舒爽顶到了| 97资源站国产精品| 日韩精品怡红院| 日本一二区免费| 亚洲中文字幕三级在线| 26uuu成人影片| 日本熟妇人妻一区二区三区| 啊啊啊啊啊好舒服视频| 自拍二页| 清清草影| 骚货| 久都青青视频| 欧美另类色图片| 伊人AAA| 丁香五月成人| 激情五月天色色| 色五月丁香五月| 久久精精区一区二区一蜜桃一区二区| 99国产精品视频尤物| 91人妻少妇| 999久久久国产精品| 国产97av| 日韩大香蕉AV影片| 性欧美91| 欧美天天射| 久久久久九九九| 91亚洲高清| 操操吧亚洲乱伦视频| 国产精品欧美日韩久久| 婷婷丁香五月天亚洲天堂网| 在线国产探花| 激情综合五月| 超硑97精品| 超碰98综合网| 九九九久| 少妇久久久久久| 无码久久国产| 午夜福利无毒不卡| 国产真实野战在线视频| 亚洲图片 91| 亚洲91网。| 深喉吞精| 国产精品高清2021在线| 日韩美女操b| www.狠狠| 老熟妇综合| 久操国产在线| 激情网色| 日韩中文字幕熟妇人妻| 941超碰| 97精品国产| 亚洲欧美在线观看2021| 1024亚洲中文字幕久在线看片你懂的 | 中文字幕制服诱惑| 天天干干天天干干| 搡老女人老妇女老妇老熟女怎么读| 高清不卡 中文 人妻| 中文字幕第9页萱萱影音先锋| 99热这里只有精品地址 | 日本不卡一二区| 8x福利精品第一福利视频导航| 人人摸人人干| 97伦乱| 久久久久久国产精品免费网站| 天天爽夜夜欢视| 亚洲区限制级| 欧美18老人禁| 精品国产片亚洲一区| 久久久久久久9最新免费视频观看| 国产女同在线观看视频| 91色综| 夜夜躁狠狠躁日日躁av| 操逼操网| 亚洲91射| 日韩熟女乱伦中出| 人妻无码后入| 亚洲黄片免费在线播放| 啊啊啊啊嗯嗯嗯用力好爽 | 啪啪AV导航| 欧美 亚洲 另类 综合| 久草尤物| 91无人区卡一卡二卡三乱码入口最新版:能让用户有更多选择的选择-经典说说-爱 | 逼逼逼逼操操操操操操操操操午夜剧场| 欧美天堂日韩三级国产传媒| 欧美成人精品一区| 久久免费精彩视频| 91情色在线| 老女人爆菊| 国产精品嫩草久久久久| 国产丰满少妇久久久精品影院| 最新亚洲人成网站在线影院| 屌妞视频久久久久久久久久久久| 成人26uuu| 综合av影片| 91精品国产高清久久久久久,亚洲成人| 久久久久久中文| 色婷婷av在线观看| 亚洲婷婷综合网| 丝袜视频一区二区在线播放国产中文 | 岛国片在线观看视频亚洲| 伊色久人大在线| 精品国产一区二区三区久久久蜜臀| 日韩黄片视频试看| 97操b| 中文字幕精品人妻丝袜| 日本激情免费大片| 91欧美网| 国产在线精品电影观看| 国产精品久久久久久久久AV大片| 欧美姓爱综合网| 亚洲一区制服诱惑| 亚洲、日韩、综合、另类| 日韩一级特黄av毛片| 97精品免费视频网站| 99只有精品| 丰满少妇一区二区三区四区观看| 成人麻豆av电影网站| www国产精品| 国产精品动态一区二区三区四四| 91 国产丝袜在线放观看 | 国产精品久久久三级无码| 天天爽夜夜爽夜夜爽精| 野狼福利社区| 欧美熟妇亚洲版| 亚洲AV资源| 亚洲熟妇图片| 91粉嫩萝控精品福利网站_精品影音先锋国| 俄罗斯一区二区视频在线观看| 骚女天天综合网| 久久久三区二区一区| 91欧美性| 青青草玖玖爱| 国产女主播视频在线观看| 淫乱图区| 亚洲 欧美 另类 综合 偷拍| 黄色网址久久精品欧美喷水| 五月天婷婷成人网| 欧美性爱十八禁| 国产小u女在线观看| 精品视频专区| 日本国产亚洲一区在线观看| 热99这里有精品综合久久 | 久久大香蕉97| 天天爱综合网| 操逼无毒无码免费视频| 精品人妻一区二区三区视频| 77777亚洲蜜臀精品久久综合蜜臀| 婷婷久久综合久| 久久精彩视频| 色婷婷综合久久久久中文国产精品一区中文字幕,国产福利电影一区二区三区 | 思思在线免费视频| 国产偷拍自拍在线视频| 久久草草亚洲蜜桃臀| 丝袜AV一区二区三区| 亚洲美女精品九九视频| 女生久久网| 97在线看| 免费av高清无码| 人人看人人插| 性色av婷婷久久一区二区点复制| 99热婷婷| 97色视频在线| 综合色久欲| 久久九九久精品国产尤物|国产精品爽黄69天堂A片潘金莲,国产亚洲精品第一综合 | 日韩三级天堂在线观看| 欧美十八禁在线看| 日本不卡高清免v欧美日韩在线观看| 九九英色视频| 九九超碰综合网| 久久精品国产亚洲AV先锋| 国产女人与拘做受视频免费| 99久久网站| 熟妇人妻一区二区| 国产麻豆91欧美一区二区久久婷婷国产精品 | 百度百度日本操逼| 日韩一区二区高清在线观看的| 色婷久久| 国产欧美后入| 天堂无码| 婷婷综合激情| 国产偷人妻精品一区二区在线| 中国91AV| 国内精品伊人久久久久影院会| 久久9亚洲| 久久久久久久久久久久97 | 免费看黄视频亚洲网站| 亚洲免费精品一区| 欧美色97| 在线观看日韩av不卡| 色老牛| 国产精品 视频| 亚洲欧美精品一区天堂久久 | 极品尤物在线观看| 亚洲乱色视频一区、二区在线| 欧美天天综合网版| 色色五月婷| 懂色av中文字幕| 福利伊人玖玖国产| 亚洲人码13| 中国zzijzzijzzwww精品| 久久天天躁日日躁狠狠躁| 国产女s强制榨精视频| 国语人妻精彩刺激| 欧美性夜| 国产成人亚洲精品自产在线| 东北老熟女|