日韩精品一区二区三区在线视频放-无码中文字幕V?一区二区-成年片免费观看视频-国内少妇人妻丰满av-国产精品中文字幕免费观看-亚洲成人久久一区二区三区-国内少妇偷人精品视频无缓冲-一区二区国产精品日本一区二区三区在线网

ARTICLE DETAIL

資訊詳情

深耕商務(wù)建站與企業(yè)官網(wǎng)運(yùn)營(yíng)的一線實(shí)戰(zhàn)洞察。

Caveman調(diào)試法:一行print解決線上疑難問(wèn)題的基礎(chǔ)功底

Caveman調(diào)試法:一行print解決線上疑難問(wèn)題的基礎(chǔ)功底 1. Caveman調(diào)試到底在說(shuō)什么被低估了三十年的基本功1.1 從一次線上事故說(shuō)起上個(gè)月我們有個(gè)服務(wù)線上偶發(fā)卡頓P99延遲每隔半小時(shí)就飆一下持續(xù)時(shí)間不長(zhǎng)也就兩三秒但下游投訴不斷。我們一群人圍著監(jiān)控面板看了兩個(gè)小時(shí)懷疑了GC、懷疑了連接池、懷疑了網(wǎng)絡(luò)抖動(dòng)甚至準(zhǔn)備讓運(yùn)維重啟節(jié)點(diǎn)。最后是我一個(gè)同事擠過(guò)來(lái)說(shuō)了句讓一讓在那個(gè)方法里加了三條print重新部署了一臺(tái)測(cè)試機(jī)壓了二十分鐘問(wèn)題直接定位到了——一個(gè)被吞掉的異常引發(fā)了一連串重試堆積。那一刻我突然意識(shí)到一件事不管我們平時(shí)用多少高級(jí)工具遇到真正難搞的問(wèn)題時(shí)最原始、最笨的辦法往往是最后那個(gè)管用的。這個(gè)最笨的辦法在程序員圈子里有個(gè)很直白的名字——caveman debugging原始人調(diào)試法。所謂caveman字面意思就是穴居人你可以理解成一個(gè)什么都不講究、拿最基礎(chǔ)的家伙事兒解決問(wèn)題的原始人。在編程領(lǐng)域它特指那種最樸素的排查手段往代碼里加print、echo、console.log把關(guān)鍵狀態(tài)打到標(biāo)準(zhǔn)輸出或者文件里然后靠肉眼觀察行為、推斷原因。聽(tīng)起來(lái)特別沒(méi)技術(shù)含量對(duì)吧但相信我這個(gè)沒(méi)技術(shù)含量的東西是每個(gè)工程師都該重新?lián)炱饋?lái)的基本功。這篇文章我想認(rèn)真聊聊caveman調(diào)試法。它到底是什么、為什么在2020年代依然好用、以及怎么用它同時(shí)避免踩坑。文章里會(huì)有一次真實(shí)的排查復(fù)盤、一套我用了很多年的輸出方法論以及一張什么時(shí)候該當(dāng)原始人、什么時(shí)候該上現(xiàn)代工具的決策清單。不管你是剛?cè)腴T的新人還是被各種可觀測(cè)性平臺(tái)繞暈的老兵應(yīng)該都能在里面找到點(diǎn)用得上的東西。1.2 caveman調(diào)試法的本質(zhì)是最小可觀測(cè)閉環(huán)很多年輕同事一聽(tīng)到用print調(diào)試就皺眉覺(jué)得這是沒(méi)有IDE、沒(méi)有調(diào)試器時(shí)代的老古董做法。但我得說(shuō)他們誤解了caveman的本質(zhì)。caveman調(diào)試的核心不叫打印信息而叫親手制造一個(gè)觀測(cè)點(diǎn)。普通的工作方式是這樣的代碼跑出問(wèn)題你在腦海里推演一遍覺(jué)得可能某個(gè)環(huán)節(jié)出了岔子于是去看那個(gè)環(huán)節(jié)的代碼用邏輯去證明它沒(méi)壞。這種模式靠的是靜態(tài)推理推理鏈條一旦長(zhǎng)了就容易斷在某個(gè)假設(shè)上。caveman的方式完全反過(guò)來(lái)代碼跑到某個(gè)位置時(shí)我親手塞進(jìn)去一個(gè)觀測(cè)點(diǎn)讓它把當(dāng)時(shí)的真實(shí)狀態(tài)吐出來(lái)。這個(gè)觀測(cè)點(diǎn)不是別人幫我埋的也不是框架自動(dòng)生成的而是我此刻根據(jù)當(dāng)前懷疑點(diǎn)現(xiàn)做的。它只回答一個(gè)問(wèn)題在當(dāng)前這個(gè)時(shí)間點(diǎn)、這條路徑上程序到底經(jīng)歷了什么。有輸出說(shuō)明這個(gè)分支確實(shí)執(zhí)行了沒(méi)有輸出說(shuō)明執(zhí)行路徑和你想的根本不一樣——不管結(jié)果是哪一種你都拿到了一份新的證據(jù)。這就是為什么它可靠。它依賴的東西少得可憐只需要一個(gè)能從代碼里輸出文字的機(jī)制。在Python里是print在Go里是fmt.Println在JavaScript里是console.log在C里是printf。這些函數(shù)幾乎是語(yǔ)言誕生第一天就在的東西不會(huì)因?yàn)榘姹旧?jí)而改變不會(huì)因?yàn)槟硞€(gè)SDK出bug而失效。你寫下的每個(gè)探針都直接連接著當(dāng)前進(jìn)程最真實(shí)的狀態(tài)。1.3 它和寫日志完全是兩碼事這里必須澄清一個(gè)容易混淆的地方caveman調(diào)試不等于寫日志。很多人說(shuō)我系統(tǒng)里日志打得挺全的為什么還要用print——好問(wèn)題。日志是面向長(zhǎng)期運(yùn)行的它需要分級(jí)、需要結(jié)構(gòu)化、需要考慮性能開銷、需要設(shè)計(jì)字段結(jié)果往往是把大量信息扔進(jìn)一個(gè)中心化平臺(tái)里等出問(wèn)題時(shí)再去搜。但caveman調(diào)試是面向當(dāng)下戰(zhàn)斗的它只做三件事臨時(shí)加、快速看、完事刪。日志是廣譜的、被動(dòng)記錄的像是給整個(gè)系統(tǒng)裝了一圈監(jiān)控?cái)z像頭caveman是焦點(diǎn)式的、主動(dòng)刺探的像是你蹲在某個(gè)關(guān)鍵路口專門等那個(gè)嫌疑對(duì)象經(jīng)過(guò)。你排查問(wèn)題時(shí)系統(tǒng)里現(xiàn)有的日志往往不能回答你最想知道的那個(gè)問(wèn)題——這個(gè)函數(shù)執(zhí)行到這行之前那個(gè)變量到底變成了什么——因?yàn)闆](méi)人知道你會(huì)關(guān)心這個(gè)變量。而一條臨時(shí)加的輸出恰好就能回答它。明白了這個(gè)前提之后我想接著聊聊為什么很多時(shí)候高級(jí)工具反而不如這原始一招。這不是情懷而是工程上的現(xiàn)實(shí)。2. 為什么調(diào)試器和日志框架有時(shí)真的不如一行print2.1 斷點(diǎn)調(diào)試的失效場(chǎng)景說(shuō)實(shí)話我平時(shí)用得最多的還是調(diào)試器。單步、斷點(diǎn)、watch表達(dá)式這些在寫單元測(cè)試、追本地邏輯問(wèn)題時(shí)效率很高。但一旦問(wèn)題跑到特定的環(huán)境里調(diào)試器會(huì)成建制成地失效。第一類是多線程和并發(fā)問(wèn)題。你在一處斷點(diǎn)停下來(lái)你看到的是這個(gè)線程此刻的局部狀態(tài)但問(wèn)題往往出在另一個(gè)線程的時(shí)序上。你一停在斷點(diǎn)上整個(gè)程序的執(zhí)行節(jié)奏就被改變了本來(lái)能復(fù)現(xiàn)的競(jìng)態(tài)條件可能就此消失了。這跟海森堡測(cè)不準(zhǔn)原理有點(diǎn)像——觀測(cè)動(dòng)作本身干擾了被觀測(cè)對(duì)象。第二類是分布式環(huán)境。服務(wù)有幾十個(gè)實(shí)例負(fù)載均衡隨機(jī)轉(zhuǎn)發(fā)你用調(diào)試器attach到其中一個(gè)實(shí)例可下一次請(qǐng)求可能根本不經(jīng)過(guò)它。你得在多臺(tái)機(jī)器上反復(fù)跳出跳入效率低到讓人想砸鍵盤。第三類是偶現(xiàn)問(wèn)題。問(wèn)題跑幾個(gè)小時(shí)才出現(xiàn)一次你總不能盯著調(diào)試器等它跳斷點(diǎn)而且斷點(diǎn)一命中程序就暫停了后續(xù)的時(shí)間窗口早過(guò)去了。在這些場(chǎng)景里print式的觀測(cè)反而有它獨(dú)特的價(jià)值它不影響執(zhí)行節(jié)奏不需要交互式環(huán)境只要代碼跑到那里輸出就自然產(chǎn)生。你可以讓它在全量實(shí)例上跑跑幾個(gè)小時(shí)最后把日志拉回來(lái)對(duì)比——這是調(diào)試器做不到的。2.2 日志框架的過(guò)度設(shè)計(jì)帶來(lái)的坑再來(lái)說(shuō)說(shuō)日志框架。現(xiàn)代的日志框架確實(shí)強(qiáng)大異步寫入、級(jí)別過(guò)濾、鏈路追蹤、自動(dòng)采集。但強(qiáng)大是有代價(jià)的代價(jià)就是你能看到的永遠(yuǎn)只是框架愿意讓你看到的那部分。我印象很深的一次有個(gè)服務(wù)用了一個(gè)挺流行的日志庫(kù)開了異步刷盤平時(shí)日志秒出但壓測(cè)時(shí)發(fā)現(xiàn)最新的一條日志丟了。原因是異步緩沖區(qū)滿了舊的日志沒(méi)來(lái)得及落盤新的日志直接被丟棄。我當(dāng)時(shí)追了很久最后發(fā)現(xiàn)那一行關(guān)鍵的錯(cuò)誤信息恰恰就是被丟的那條。如果當(dāng)時(shí)用的是print直接同步寫到文件或者終端絕不至于這樣。還有日志級(jí)別的問(wèn)題。線上環(huán)境為了控制磁盤占用info級(jí)別的日志通常是關(guān)掉的。但你排查問(wèn)題時(shí)真正需要的就是那幾條info——它們記錄了關(guān)鍵節(jié)點(diǎn)的進(jìn)去和出來(lái)。你急著想看卻發(fā)現(xiàn)日志級(jí)別配置在環(huán)境變量里、在配置中心里、在一層層封裝后面改起來(lái)還要走變更流程。caveman式的輸出呢它不跟你講級(jí)別不跟你講異步不跟你講采樣率。它就是一個(gè)同步寫入你寫了就有沒(méi)寫就是沒(méi)有。有時(shí)候這種直白粗暴反而是最大的優(yōu)點(diǎn)。2.3 讀代碼和看行為之間的鴻溝還有一個(gè)深層原因解釋了為什么這原始的一招一直有效靜態(tài)讀代碼和動(dòng)態(tài)看行為之間永遠(yuǎn)存在一條認(rèn)知鴻溝。一個(gè)系統(tǒng)跑起來(lái)之后真正執(zhí)行的路徑、時(shí)序、數(shù)據(jù)分布可能和你在代碼里腦補(bǔ)出來(lái)的完全不同。你以為某個(gè)分支永遠(yuǎn)不會(huì)進(jìn)但實(shí)際生產(chǎn)數(shù)據(jù)里它就是會(huì)進(jìn)你以為兩個(gè)操作是原子的但實(shí)際上線程調(diào)度把它們打得七零八落你以為一個(gè)第三方庫(kù)會(huì)拋異常但它好像在某些情況下會(huì)靜默吞掉。代碼是靜態(tài)的行為是動(dòng)態(tài)的兩者之間的鴻溝靠讀代碼填不平只能靠觀測(cè)填。caveman調(diào)試法就是最直接、最符合直覺(jué)的觀測(cè)方式。它不依賴你對(duì)框架的理解不依賴你對(duì)工具的熟練度只依賴一行輸出和你的眼睛。這個(gè)門檻低到幾乎每個(gè)人都會(huì)用但也正因?yàn)樘头炊缓芏嗳撕雎浴?. 一次真實(shí)事件復(fù)盤三行輸出定位線上周期性卡頓3.1 問(wèn)題表現(xiàn)與最初的手忙腳亂回到開頭那個(gè)線上事故。我們平臺(tái)有個(gè)任務(wù)調(diào)度服務(wù)用的技術(shù)棧是Python gunicorn 多線程下游依賴MySQL和Redis?,F(xiàn)象很規(guī)律每隔大概30分鐘P99延遲從平時(shí)的80ms飆到3秒持續(xù)兩三秒后恢復(fù)。業(yè)務(wù)方天天來(lái)催說(shuō)任務(wù)堆積下游超時(shí)。剛開始我們的排查思路完全是散彈槍式的。第一輪懷疑是GC停頓把gc日志拉出來(lái)看了看并沒(méi)有明顯的長(zhǎng)停頓第二輪懷疑是Redis連接池耗盡慢查詢指標(biāo)翻了一圈也沒(méi)有異常第三輪懷疑是網(wǎng)絡(luò)抖動(dòng)翻了一大圈基礎(chǔ)設(shè)施監(jiān)控還是沒(méi)找到證據(jù)。那是一段特別磨人的時(shí)間——指標(biāo)都是正常的但服務(wù)就是卡。你也遇到過(guò)這種情況吧所有常規(guī)指標(biāo)都正常但用戶感知就是很差。這種時(shí)候常規(guī)手段已經(jīng)不夠用了必須把觀測(cè)粒度從系統(tǒng)級(jí)下沉到代碼級(jí)。3.2 決定做減法只留最小化輸出探針當(dāng)時(shí)是我那個(gè)同事拉住了準(zhǔn)備重啟節(jié)點(diǎn)的我們。他說(shuō)了句讓我一直記到現(xiàn)在的話我們還沒(méi)證明哪段代碼慢為什么要重啟然后他打開代碼那個(gè)請(qǐng)求處理入口長(zhǎng)這樣先取任務(wù)再調(diào)下游最后寫結(jié)果。他直接在三個(gè)步驟前后加了三行輸出import time def process_task(task_id): t0 time.time() print(f[TRACE-A] task{task_id} start at {t0}, flushTrue) task get_task(task_id) # 第一步從DB拉任務(wù)數(shù)據(jù) print(f[TRACE-B] got task, spent {time.time() - t0:.3f}s, flushTrue) result call_downstream(task) # 第二步調(diào)用下游接口 print(f[TRACE-C] downstream done, spent {time.time() - t0:.3f}s, flushTrue) save_result(task_id, result) # 第三步寫結(jié)果 print(f[TRACE-D] saved, total {time.time() - t0:.3f}s, flushTrue)注意他走了兩個(gè)關(guān)鍵的細(xì)節(jié)。第一個(gè)是flushTrue保證print不是只往緩沖區(qū)里一放而是立刻刷到日志文件否則突然崩潰時(shí)最后幾行就丟了。第二個(gè)是給每行輸出加了一個(gè)固定前綴TRACE-A、TRACE-B這樣的標(biāo)識(shí)方便后面用grep一把過(guò)濾出來(lái)。這三行輸出不需要改動(dòng)任何業(yè)務(wù)邏輯也幾乎沒(méi)有性能開銷。我們把改了代碼的版本發(fā)到那臺(tái)有問(wèn)題的實(shí)例上——注意只發(fā)一臺(tái)不全部發(fā)——然后等著那個(gè)30分鐘的周期出現(xiàn)。3.3 關(guān)鍵發(fā)現(xiàn)與根因一場(chǎng)被吞掉的異常等了一個(gè)周期日志出來(lái)了。我們拉了那段時(shí)間的三行輸出結(jié)果很有意思[TRACE-A] task10221 start at 14:30:01.201 [TRACE-B] got task, spent 0.012s [TRACE-C] downstream done, spent 0.013s [TRACE-D] saved, total 0.021s一切正??偣膊?1毫秒。那卡頓到底在哪我們又把日志多拉了一段仔細(xì)看了下時(shí)間線突然發(fā)現(xiàn)了一個(gè)被忽略的細(xì)節(jié)那三秒的空白不在任何TRACE標(biāo)記之間而是在整個(gè)請(qǐng)求入口的最前面。也就是說(shuō)進(jìn)程從收到任務(wù)到執(zhí)行process_task的第一行print中間隔了整整2.7秒。順著這個(gè)線索往前查問(wèn)題很快水落石出。gunicorn在接受連接之后、調(diào)用worker處理之前有一段任務(wù)是優(yōu)先處理積壓的重試任務(wù)而那個(gè)重試邏輯有一個(gè)異常處理塊用了一個(gè)特別寬泛的except Exception把錯(cuò)誤全吞了。某些定時(shí)任務(wù)失敗后會(huì)自動(dòng)進(jìn)入重試隊(duì)列重試又失敗又被塞回隊(duì)列形成惡性循環(huán)。每隔30分鐘重試隊(duì)列里剛好堆積了一批任務(wù)這個(gè)循環(huán)要一次性把它們處理完于是那幾秒的停頓就出現(xiàn)了。而因?yàn)樗旬惓M塘顺R?guī)的錯(cuò)誤日志里什么都看不到。如果沒(méi)有那三行print我們恐怕還在盯著GC和Redis猜來(lái)猜去。排查鏈路從系統(tǒng)指標(biāo)一路收窄到入口之前的某段代碼靠的正是最小化的、帶明確標(biāo)記的輸出探針。3.4 修復(fù)與驗(yàn)證確認(rèn)病灶之后才能下刀根因明確了修復(fù)反而簡(jiǎn)單把那個(gè)寬泛的except Exception改成精確捕獲具體的異常類型并給重試邏輯加上最大重試次數(shù)和退避時(shí)間杜絕無(wú)限循環(huán)堆積。改完之后我們把三行TRACE輸出保留在那一臺(tái)上跑了兩小時(shí)周期性的卡頓消失了區(qū)間拉長(zhǎng)再也沒(méi)有出現(xiàn)那個(gè)2.7秒的空白。這個(gè)項(xiàng)目給我留下的收獲比一次故障本身大得多。我后來(lái)把這次排查的套路拆成了可重復(fù)使用的方法論下面具體說(shuō)。4. 讓原始輸出變得好用我的printf排查方法論4.1 一切從給輸出編號(hào)開始如果你去網(wǎng)上搜到處都會(huì)有人教育你不要亂加print。但我要說(shuō)的是另一面亂加print確實(shí)沒(méi)價(jià)值但有方法地加print是效率極高的排查手段。問(wèn)題的關(guān)鍵不在要不要用print而在怎么用print。我的第一條經(jīng)驗(yàn)是每個(gè)探針都要有唯一標(biāo)識(shí)。在多人協(xié)作的代碼庫(kù)里大家的輸出很可能混在一起你打了一百行print結(jié)果別人的排查和業(yè)務(wù)日志也混在里面根本沒(méi)法看。所以我習(xí)慣用一個(gè)統(tǒng)一的前綴比如TRACE-A、TRACE-B或者帶上當(dāng)前所在函數(shù)的名稱比如[process_task]。這樣做有兩個(gè)好處一是用grep一搜就能把所有探針輸出拉出來(lái)二是輸出順序本身就是執(zhí)行路徑的一種可視化。一個(gè)典型的標(biāo)記格式長(zhǎng)這樣# 推薦格式[模塊/函數(shù)名] [步驟標(biāo)識(shí)] 關(guān)鍵變量?jī)?nèi)容 print(f[worker.process_task][A] task{task_id} received, flushTrue)有了統(tǒng)一前綴刪除探針這件事也變得安全可控。排查結(jié)束后搜一下TRACE或者你的前綴所有該刪的地方一目了然不用擔(dān)心漏掉哪個(gè)。4.2 帶上不可變上下文別怕信息冗余第二條經(jīng)驗(yàn)輸出里一定要帶上定位上下文最好包括時(shí)間戳和請(qǐng)求ID。很多人只打印一個(gè)start或者end然后看著輸出發(fā)呆——這行日志到底是誰(shuí)打的是哪個(gè)請(qǐng)求觸發(fā)的發(fā)生在什么時(shí)候全都對(duì)不上號(hào)。時(shí)間戳的精度也有講究。排查性能問(wèn)題時(shí)毫秒級(jí)都嫌粗糙我習(xí)慣用到微秒特別是在Python里import time print(f[process_task][A] task{task_id} ts{time.time():.6f}, flushTrue)(time.time())返回的是帶小數(shù)部分的秒.6f就是微秒級(jí)精度。在對(duì)比兩個(gè)探針之間的耗時(shí)差時(shí)這個(gè)精度能讓你看到毫秒以下的波動(dòng)把那些十幾毫秒的小延遲也找出來(lái)。請(qǐng)求ID就更好用了。在Web服務(wù)里入口處通常能拿到一個(gè)trace_id或者request_id把它放進(jìn)每一行輸出里你就能精確地把某個(gè)請(qǐng)求的完整路徑從一堆并發(fā)日志中切出來(lái)。哪怕沒(méi)有框架幫你傳遞trace_id你也可以在函數(shù)入?yún)⑸舷曼c(diǎn)功夫手動(dòng)把它傳進(jìn)去——這在本地排查時(shí)成本很低但帶來(lái)的信息增量極高。4.3 條件輸出只在狀態(tài)變化時(shí)說(shuō)話第三個(gè)原則是控制噪音。如果一段代碼會(huì)被調(diào)用十萬(wàn)次你在里面無(wú)腦加print輸出文件瞬間就被打爆了你要找的線索也會(huì)淹沒(méi)在無(wú)數(shù)相同的行里。我的做法是加條件。只有滿足特定條件時(shí)才打輸出比如if task.priority high or elapsed_ms 500: print(f[scheduler][skip] task{task.id} waited{elapsed_ms}ms, flushTrue)這樣不光是邏輯分支被覆蓋到性能異常路徑也被覆蓋到了。排查偶發(fā)卡頓時(shí)這種只在超預(yù)期情況下才說(shuō)話的探針效果比每行都打強(qiáng)得多——它把注意力直接拉到了異常點(diǎn)上。還有一種很實(shí)用的形式是計(jì)數(shù)器配合循環(huán)。在循環(huán)里加一個(gè)累加變量每1000次才打一行既能看到進(jìn)度又不會(huì)刷屏for i, item in enumerate(item_list): process(item) if i % 1000 0: print(f[batch_worker] progress{i}/{len(item_list)} last_batch_cost{time.time() - batch_start:.3f}s, flushTrue) batch_start time.time()4.4 一套現(xiàn)成的排查手段清單把上面的經(jīng)驗(yàn)整理成一張表你在實(shí)戰(zhàn)中可以直接照著用場(chǎng)景探針寫法要點(diǎn)關(guān)注什么確認(rèn)某段代碼是否執(zhí)行打印唯一標(biāo)記 關(guān)鍵參數(shù)值有沒(méi)有這行輸出定位性能瓶頸在每相鄰步驟間打時(shí)間戳精確到微秒相鄰時(shí)間差哪段最大捕捉偶發(fā)異常在異常except塊里打印完整堆棧異常被吞后仍有記錄判斷分支走向在每個(gè)if分支末尾打標(biāo)記走了哪條分支排查并發(fā)超時(shí)輸出請(qǐng)求ID 時(shí)間戳多線程各打各的同一請(qǐng)求ID各階段時(shí)間線反向確認(rèn)循環(huán)是否卡住每N輪打一次進(jìn)度循環(huán)是否在推進(jìn)這個(gè)清單是我自己在重溯、排障時(shí)會(huì)對(duì)照著選型的。選對(duì)了探針形態(tài)一次排查很可能就能少掉一半彎路。不過(guò)caveman調(diào)試法也不是萬(wàn)能的。長(zhǎng)期用過(guò)之后我慢慢摸清了它的邊界——什么時(shí)候上它什么時(shí)候應(yīng)該果斷換工具。5. 什么時(shí)候該當(dāng)原始人什么時(shí)候該上現(xiàn)代工具5.1 caveman調(diào)試適合的五個(gè)場(chǎng)景根據(jù)我的實(shí)際經(jīng)驗(yàn)下面這幾類場(chǎng)景里caveman式的輸出探針幾乎是最優(yōu)解。第一種是低概率復(fù)現(xiàn)的bug。問(wèn)題跑幾小時(shí)才出現(xiàn)一次你不能開著調(diào)試器干等但你可以加好探針讓它運(yùn)行著等它自然撞上。這像是布了個(gè)捕獸夾而不是派人站崗。第二種是多線程/異步亂序問(wèn)題。時(shí)序錯(cuò)了、某個(gè)共享狀態(tài)被改亂了套你很難用斷點(diǎn)抓住那個(gè)作案的瞬間。但你就需要裸的fmt.Println把每個(gè)線程進(jìn)入退出關(guān)鍵區(qū)的時(shí)間打出來(lái)人眼一看亂序就出來(lái)了。第三種是沒(méi)有日志也沒(méi)有監(jiān)控的老系統(tǒng)。這種系統(tǒng)你不可能要求它接上APM但加幾行輸出還是可以做到的——不過(guò)在線上老系統(tǒng)加輸出前要先確認(rèn)改動(dòng)是納秒級(jí)開銷而且能隨時(shí)刪。第四種是分布式環(huán)境初篩。整個(gè)請(qǐng)求鏈路跨了好幾個(gè)服務(wù)問(wèn)題到底出在哪個(gè)環(huán)節(jié)都不知道。與其先鋪一堆全鏈路追蹤不如在懷疑的幾個(gè)邊界點(diǎn)各打一行輸出先把范圍縮小到一個(gè)服務(wù)再用專業(yè)工具深入。這種方式成本最低見(jiàn)效最快。第五種是你完全陌生的代碼庫(kù)。接手一個(gè)項(xiàng)目不知道該從哪看起加一行print確認(rèn)程序走到了哪一步比在那兒瞎猜這個(gè)入口到底通不通要靠譜得多。這也算是我這些年快速上手新項(xiàng)目的一個(gè)心法。5.2 不該用caveman的三個(gè)場(chǎng)景反過(guò)來(lái)也有幾個(gè)場(chǎng)景是我明確不建議用原始辦法硬扛的。第一是內(nèi)存泄漏的定位。泄漏往往發(fā)生在你沒(méi)在關(guān)注的角落你需要的是用profiler對(duì)堆快照做對(duì)比分清哪些對(duì)象在持續(xù)增長(zhǎng)。print加在這類場(chǎng)景里只能在宏觀上告訴你內(nèi)存漲了但漲的那些對(duì)象是誰(shuí)、從哪里來(lái)探針根本無(wú)從得知。第二是復(fù)雜的調(diào)用鏈追蹤??绶?wù)、跨消息隊(duì)列、跨定時(shí)任務(wù)的調(diào)用鏈靠文本輸出是拼不出來(lái)的這時(shí)候該用帶traceId的鏈路追蹤系統(tǒng)讓系統(tǒng)自動(dòng)把各環(huán)節(jié)串起來(lái)。第三是生產(chǎn)環(huán)境的長(zhǎng)期可觀測(cè)性建設(shè)。caveman是臨時(shí)工不是正式員工。生產(chǎn)上要建的是結(jié)構(gòu)化日志、聚合告警、監(jiān)控大盤。拿print當(dāng)長(zhǎng)期日志寫的話過(guò)兩周你就得面對(duì)一堆沒(méi)人看得懂的臨時(shí)輸出。團(tuán)隊(duì)協(xié)作時(shí)尤其忌諱這個(gè)——你加的臨時(shí)輸出過(guò)了三個(gè)月別人還在看到會(huì)怎么想這個(gè)邊界在實(shí)戰(zhàn)中是動(dòng)態(tài)的。我的習(xí)慣是懷疑不明確、范圍未收窄時(shí)先用caveman快速放探針一旦鎖定方向再切換到對(duì)應(yīng)的專業(yè)工具做深入分析。兩種手段不是對(duì)立關(guān)系而是接力關(guān)系。6. 除了排查問(wèn)題caveman精神還能在哪些地方發(fā)力6.1 極簡(jiǎn)腳本勝過(guò)重型框架Caveman精神其實(shí)不只在調(diào)試時(shí)好用。它背后那種用最原始、最可控的手段解決眼前的問(wèn)題的思路在很多地方都能遷移。我自己感觸最深的是寫自動(dòng)化腳本。很多人一上來(lái)就搭框架、引依賴、設(shè)計(jì)抽象層一套小工具的代碼量比真正的業(yè)務(wù)邏輯還多。但很多時(shí)候一個(gè)需求只是每周把某個(gè)目錄下的臨時(shí)文件清一下或者從接口拉個(gè)數(shù)據(jù)存下來(lái)。這種場(chǎng)景我用純Python標(biāo)準(zhǔn)庫(kù)或者一組shell命令就能寫完不加任何額外依賴。減少依賴就是減少未來(lái)的坑。腳本這樣寫之后維護(hù)它的人也會(huì)感謝你——所有邏輯都明明白白地?cái)傇谀抢餂](méi)有藏在框架層后面。6.2 shell命令組合拳比想象中的更強(qiáng)大這里的caveman式自動(dòng)化我指的是多用系統(tǒng)的原生命令做組合和管道。就拿排查問(wèn)題時(shí)的常用操作來(lái)說(shuō)吧# 看最近一分鐘內(nèi)進(jìn)程的CPU情況 top -b -n 1 | head -n 20 # 從一堆日志里按關(guān)鍵字找出帶有時(shí)間戳的行并排序 grep ERROR app.log | sed s/^\[\(.*\)\].*/\1 / | sort | head -n 30 # 統(tǒng)計(jì)某個(gè)狀態(tài)碼在五分鐘內(nèi)的分布并實(shí)時(shí)刷新 tail -F access.log | awk {print $9} | sort | uniq -c這些命令看起來(lái)原始但組合起來(lái)之后的表達(dá)能力遠(yuǎn)超想象。我有的同事傾向于引入一堆專門的日志分析工具但在排查初期一個(gè)grep加一個(gè)awk往往就能把問(wèn)題范圍縮小到一行代碼里。這不叫退步這叫掌握了事物底層之后的自如選擇。6.3 簡(jiǎn)單直接的方式做監(jiān)控預(yù)警還有一個(gè)讓我特別受益的用法是最原始的監(jiān)控模板。有些指標(biāo)我不想為了它去搭一套完整的監(jiān)控系統(tǒng)這時(shí)候幾行shell加一個(gè)系統(tǒng)內(nèi)置定時(shí)任務(wù)就夠了# 每5分鐘檢查一次服務(wù)健康狀態(tài)異常時(shí)記錄時(shí)間戳 */5 * * * * curl -sf http://localhost:8080/health /tmp/health_ok.txt || date /tmp/health_fail_times.txt甚至你可以在關(guān)鍵腳本里加一個(gè)請(qǐng)求耗時(shí)超限的判斷超了就寫一行到某個(gè)文件配合定時(shí)查看。這種監(jiān)控強(qiáng)度當(dāng)然比不了專業(yè)系統(tǒng)但勝在零成本、零依賴、可移植。你放在任何一臺(tái)機(jī)器上它都能馬上開始干活。如果這種caveman式的基礎(chǔ)監(jiān)控已經(jīng)能覆蓋絕大多數(shù)場(chǎng)景你就可以把更重的工具留給那些真正需要它們的少數(shù)問(wèn)題。說(shuō)到底這些做法的共同點(diǎn)是當(dāng)情況足夠明確時(shí)不要被工具本身絆住手腳。工具是拿來(lái)幫你解決問(wèn)題的不是拿來(lái)證明你用得多高級(jí)的。最后再分享一個(gè)小技巧吧。我每次加臨時(shí)探針時(shí)都會(huì)在輸出前后加一條特別顯眼的分隔線比如連續(xù)打十幾個(gè)號(hào)。這樣做有兩個(gè)好處一是排查時(shí)一眼就能從海量日志里把探針段落框出來(lái)二是收尾時(shí)搜索分隔線就能把所有探針一網(wǎng)打盡不會(huì)留坑在代碼里。別小看這個(gè)習(xí)慣——我見(jiàn)過(guò)太多人因?yàn)闆](méi)加標(biāo)記最后臨時(shí)輸出混入正式版本被運(yùn)維追著問(wèn)這是什么鬼日志。原始人debugging這件事說(shuō)到底不是讓你放棄現(xiàn)代工具而是讓你始終保有那個(gè)最簡(jiǎn)單的抓手。手里拿著錘子看什么都是釘子固然不好但只認(rèn)工具箱里那套高級(jí)裝備、把最趁手的基本功丟了那才真的是撿了芝麻丟了西瓜。
返回列表
PREV
查看更多資訊
NEXT
返回資訊列表
亚洲成人一二三区| 好舒服视频| 大屁股熟女一区二区三区| 日韩欧美传媒一区国产| 丁香久久| 黄片www视频免费| 亚洲中文字幕精品久久久久久直播| 亚洲 se图 欧美电影| 青娱乐91| 日产狠狠干| 欧色网址| 又黑又大又粗| 中日韩免费看男女操逼大全| 青青草视频久久久久| 亚洲综合电影| 超碰1024久久| 午夜激情成人在线观看| 97精品97久久| 插欧洲美女欧美精品| 色香综合天天影视综合 | 人妻久久久久久| 懂色AV网| 欧美亚洲国内自拍| yw尤物av无码点击进入麻豆| 啊啊啊啊啊啊啊国| 边做饭边操逼逼| 精品国产99| 约操熟妇| 国产丁香精品露脸视频| 蜜臀久久99精品久久久久久久久| 亚洲一区二区三区播放在线| 蜜臀va69| 日本大片日本一区二区免费高清| 九九碰九九爱97超| 夜夜操中文字幕| 欧美日韩香蕉| 日韩AV噜噜噜一区二区三区四区 | 色综合国产在线观看| 亚洲综合有玛| 色吧五月| 久热精品在线国产| 美女黄网| 91久久国产综合精品| 浪人综合网| 超碰97护士| www.99热在线只有精品| 亚洲国产一级精品毛一级精品看免费视频 | 成人黑料社久久| 精品国产乱码久久久久久网站入口| 又大又白奶子| 岛国片国产成人亚洲播放| 天天热精品| 精品久久99| 波多野结衣之双飞调教在线播放 | 色婷婷久久| 亚洲欧美天堂| 久久噜噜噜精品国产亚洲综合| 婷婷五月天av| 密乳无码| 人人操人人爽人人操人人| 久久久久元码视频| 青青草在线成人视频| 日韩成人私密一级精品av| 成人在线午夜视频一区| 97国产色综合| 嗯嗯啊在线视频| 色欲无码人妻日韩欧美精品| 一级性爱啪啪视频| 日韩欧美性吧婷婷乱伦大香蕉| 性爱AV天堂| 婷婷五月天激情小说| 欧美偷拍区| 人妻丝袜二区| 黑人粗大V S日韩女优视频| AV大香蕉| 美女诱惑一区| 91中文精品日韩欧美在线| 大香蕉综合网| 成人性爱全视频观看| 国产精品成久久久久午夜午夜| 久久精品视频一区三区小泽玛利亚| 久久九九网| 白嫩国模丰满一二三区| 免费的很黄很污的全部视频| 国产60页| 欧美性爱超碰97| 久久一二三四五六七八九区区| 激情色色| 亚欧国产无码精品在线| 少妇3P性爱自拍| 26uuu久久| 久久内射| 久久加勒比| 亚洲伊人青青草| 国产精品69久久久久孕妇欧美| 亚洲国产一级中文综合久久天堂在线免费观看 | 国产路线专区| 天天干人人乐| 国产精品9999| 少妇色欲综合网2| 午夜无码熟妇丰满人妻| 视频在线中文字幕| 日日日日做夜夜夜夜做无码97| 色情亚洲日本成人| 台湾大香蕉99热| 97午夜剧场日韩| 欧日韩不卡视.频| 99操视频| 婷婷五月天伊人| 成人av动漫在线观看| 黄在线| 无码高清少妇久久| 日本日逼高清| 国产成人网站在线观看| 手机看片1025| 9 7超碰在线免费观看| 大香网伊人久久综合网eew| 91美腿丝袜在线观看| 中文字暮97| 天天干2区3区| 青青草导航在线视频| 国产和美国毛片| 青草伊人久久| 国产精品久久蜜乳av| 亚洲久久久久| 亚洲综合一区二区| 人妻熟女午夜精品在线| 久久精品亚洲东京热色播| 操操操操操操| 美女91在线观看| 啊啊啊好疼| 日本二区不卡| 国产呦精品系列在线观看| 色99999| 富女玩鸭子一级毛片| 日韩中文字幕精品一区在线| 强奸乱伦Av网| 欧美性爱五月天| 国产白嫩精品久久| 亚洲欧洲无码一区夜| 91精品久久久久久久久久| 九九九只有精品| 色欧美综合| 国产精品久久久久久高清无码免费看 | 白丝少妇一区二区| 精品十八在线观看| 韩日色费| 五月香婷婷| 精品网站9999| 淫淫综合网| 伊人操你| www99热| 国产精品久久9| 综合av影片| 少妇天堂| 久久精品三级影视| 青娱乐国产剧情av一区| 國產尤物AV尤物在線觀看| 亚洲无码99| 久久草视频污视频| 久久久久久97| 激情网五月天| 欧美色图在线视频少妇| 性久久久| 欧美日日网| 伊人精品国产| 久久 国产 无码| 欧美 亚洲 偷拍自拍| 黄色成品网站| 加勒比综合88| 日本精品一区二区中文字幕| 密臀AV在线| 91人人| 日韩黄色成人性爱| 久久爱超碰网| 亚洲日韩视频二区| 亚洲综合另类欧美久久久| 麻豆色约约| 欧美人体性爱互联网第一页婷婷日本| 日本影视久久免费| 宅男午夜在线视频| 一级特黄aaa大片在线观看成人一级片在线观看 | 乱人乱色一区二区三区免费| 五月婷婷五月天| 1人人看人人摸人人操| 亚洲影视第一页| 久久25| 国产精品无码AV网站| 国产午夜在线观看| 男人的天堂VA| 99热在线观看| 亚洲熟女性高潮久久久| 午夜.DJ高清在线观看免费7| 超清中文乱码字幕| 久久国产在线一区二区| 九九九不卡| 久久曰曰| 日韩精品一区二区高清| 九九九综合精品| 精品久久久中文字幕不| 久久久精品中文字幕麻豆| 欧美黄色图片| 99热国产| 久久成人国产| av日韩国产一区二区| 国产尤物AV尤物在线观看不卡| 宅男午夜在线视频| 91精品无码久久久久久久| 中文字幕艹艹| 欧美在线电影| 九草九九九| 91久久免费视频互動交流| 丰满少妇乱子伦精品无| 日韩有码 一区二区三区| 69人妻精品一区二区绯色| 75大香蕉| 国产97视频| 国产极品精品美女视频| 风月影院男女十八禁| 搞中出久久| 二三四区精品| 91天堂色男人的天堂| 精品欧美А∨无码黑人大荫蒂| 日韩欧美麻豆| 看一级黄色视频| 天天看特黄的免费网站| 久久久五月天| 性爱视频免费网址| 欧美色道啊| 久久久18禁| 亚洲午夜免费狠狠干| 熟女视频久久| 精品一区二区三区蜜桃| 欧美美逼| 久久久久极品| 91人妻素女| 国产亚热在线久久| 无码人妻精品一区二区三区99不卡| av影片在线观看不卡| 中出20p| 亚州男人天堂| www亚洲免费| 五月婷婷爱六月丁香色| 混色激情av| 欧美页片| 亚洲天堂男人网| 久久av一级av少妇av高潮| 丁香五月天社区| 精品久久九| 黄色无码高清黄色无码网站| 天堂中文日本在线观看| 后入人妻一区| 五月丁香激情四射| 啊视频在线| 久久视频,这里只有精品| 欧美AB在线| 亚卅熟女乱色| 骚货 中文字幕 av| 探花一区二区三| 精品射1999| 九热中文字幕| 人人操AV| 婷婷人妻激情| 国产操操日韩三级黄| 国产成人99久久亚洲综合| 国产精品ⅴ无码大片在线看.| 亚洲美女自拍偷拍视频| 99热这里都是精品| 操逼网免费无码视频| 亚洲一区中文精品| 日韩一级欧美一级国产一级台湾| 青青欧美在线| 黄片免费视频2019| 九九九免费视频| 人妻另类 专区 欧美 制服| 91狠狠综合久久| 久久久9品一区二区三区| 美女性91| 青草精品视频一日本久久久久网站| 黄色av一区二区在线| 中文日本免费高清| 好吊爽好吊爽在线视频,中文字幕精品一区二区日本,国产良妇出轨视频在线观看, | 天天影视网综合少妇| 熟女这里只有精品6| 久艹日日日| 国产久久久久久| 亚洲欧美97√| 先锋影音av先锋一区| 亚洲欧美日韩偷拍色图| 日韩中文字幕人妻视频| 久久精品国产72国产精品福利| 精品v日韩欧美国产| 综合网亚洲在线| 久久天堂网| 老熟女天天操| 凹凸视频在线一区二区| 18一区二区三区| 亚洲男人天堂网| 国产一区二区免费福利片| 神马久久久久久伦理片| 91Chinese在线| 18禁看网站一区| 五月天啪啪| a片在线播放| 香蕉色网| 熟妇视频一区二区三区在线观看| 久干9操| 欧美综合另类| 国产精品色| 中文字幕55555| 屌色在线97视频| 黄片色区软件| 日日日日做夜夜夜夜无码| 大香蕉草草| 天天色怡春院| 日韩精品人妻中文字幕久久久| 自拍大香蕉乱插| 九九视频黄色片| 97爱综合| 日日夜夜狠狠| 在线不卡视频| 中文字幕日本久久| 成年女人黄网站| 大香蕉一区二区在线观看.| 射久久| 日本一区二区三区四区五区六区七区八区九区| 动漫av中文| 国产女人和拘做爰视频 | 男人的天堂VA在线| 在线观看综合精品亚洲| 日本国产二线女色| 国产精品探花视频| 91色伦| 老熟妇一区二区三区…| 中文字幕乱码人妻二区三区| 精品久久久久久久| 久久 久久国内精品亚洲| 精品-91人妻子系列| 97资源免费视频| 亚洲欧美另类图片| JULIA人妻风俗店中出电影| 91操人| 久久久久久久唑| 日韩无码黄色片| 人人操人人操人人操人人操人人操人人人11.CM | 黑人精品成人一区二区三区| 丁香五月AV| 亚洲熟女偷拍在线观看| 中文字幕精品人妻丝袜| 国产三级日产三级韩国三级 | 91人妻久久久久久久久久久久久| 91超碰碰在线| 久久精品高清无码一区| 超碰精品97| 97精品网站| 欧美熟女操屄| 国产理论视频在线播放| 久久婷色| 亚洲青青青视频在线| 人夜夜精品网站香蕉嫩草| 97人肏| 久久国产精品一级二级三级| 日欧美色| 麻豆国产成人精品| 91中文字幕在线观看| 国产97色在线| 欧美天天干| 国产区性爱在线视频秋霞豆| 天天色粽合合合合合合合| 青青草密桃在线播放| 天天综合有色网| 九九九精品一区二区无码| yazhouzaixian| 久久久偷拍| 蜜乳AV.COM| 日本性爱少妇| 国产老熟女| 97久久国产精品| 色香综合| 婷婷操逼| 视频二区熟女人妻| 91被操| 久久无码电影| 爱干爱射网啊啊啊| 欧美亚洲今日在线| 国产欧美日韩一区二区三区| 国产suv精品一区二区四| 激情视频一二三| 91欧美综合| 精品伊人久久久大香线蕉小说| 欧美五十路熟| 狠狠狠一区二区三区| 国产精品一区二区三区免费视频| 99精品久久久久久久婷婷蜜桃| 四虎影库国产精品免费| 伊人久久亚洲色欲综合网站 | 超碰成人最新最好看| 亚洲国产欧美中日韩成人综合视频| 久久综合精品一区二区三区| 国产精品香蕉| oumeisetu综合| 天天影视91看看| 日韩无码黄色片| 久久只有精品一区二区三区| 精品人妻一区二区三区日产乱码| 色蜜AV| 欧美日韩另类激情图片| Av色五月| 嗯嗯啊啊好爽| 伊人伊人LD| 久久精品国产Aⅴ| 嫩草 人人网精品| 高清无码久操视频| 男生女生啊啊啊啊| 啪啪资源网| 欧美激情亚洲情色| 日产精品久久久一区二区| 99re99| 超碰在线91| 日韩熟女乱伦中出| 黄片qw| 欧美性爱免费短视频| 日韩精品9999| 黄片www.| 偷拍 欧美 日韩| 2017大香蕉国产精品久久| 人人看欧美性爱| 极品美女嘿咻| 秋霞男人网| 欧美性爱十八禁| 97色在线视频| 好好的日:com久久九九| 狠狠激情综合狠狠操中文字幕| 男人天堂2019| 人妻少妇精品久久久| 国产福利第一视频| 国产精品福利资源在线尤物| 国产又长又大又粗的视频| 国产玖玖| 日本一区二区不卡精品| 电家庭影院午夜69久久夜色精品国产69乱| 爽爽爽免费视频| 伊人五月天| 自拍偷拍草一草| 亚洲图片 欧美电影| 91殴美大片| 91色久| 亚洲?V无码专区在线电影| 国产AV天美传媒一区二区三区 | 丁香色五月 97干| 韩国一级做a久久久久| 欧美综合传媒| 麻豆 亚洲 97| 一牛影视久久久一区二区三区| 思思性爱| 97人人操人人摸人人爱| 一级AV性爱| 男人综合网| 综合激情一一91| 狠狠搞 亚洲91| 日本一级一级一级一级| 久热香蕉精品在线视频| 国产成人拍国产亚洲精品| 国产精品另类| 久久九九精品一区二区| 亚州熟妇精品| 日韩无码AB| 中文字幕乱碼在线| 午夜精品99久久久久传媒| 亚洲福利中文字幕在线| 免费综合亚洲中文| 亚洲美女自拍偷拍视频| 亚洲蜜乳av| 69少妇一区二区| 欧美不卡五十路| 男人的天堂2018| 日日躁夜夜躁狠狠躁超爽| 粉嫩久久久极品| 亚洲男人的天堂在线看| 精品国产国产AV| 中文久久一区| 欧美天堂超碰97| 九九九九九九九九九五码| 成人网欧美风情| 久久久噜噜噜久久久| 麻豆天美国美国产AV| 色爱综合网| 97人人干| 久久综合18p| 久热久一区二区三区| 亚州少妇| 国产日韩精品一区二区三区| 97欧美精品综合| 天天日日日射| 亚洲电影91| 岛国不卡超碰护士AV在线播放| 色网1| 伊人在线大香蕉视频久久| 粉嫩av一区二区三区四季| 成人久久久精品| 乱操9999| 色噜噜狠狠色综无码久久合欧美| 五十路熟女人妻一区二区三区四区五| 欧美狠狠| 日韩图区 偷拍| 日韩不卡在线一区二区| 懂色AV蜜臀无码精品APP| 天堂种子在线www网资源| 超碰九九| 欧美色图电影| 老司机深夜18禁污污网站| 日韩无码a片| 国产AV高清AV无码| 亚洲精品丝袜-不卡成人免费……| 六六久久日韩不卡| 国产av热热色| 清纯唯美综合| 飘花国产午夜精品不卡| 亚洲国产成人精品无码专区| www.夜夜操| 骚乳在线| 国产日韩中文字幕欧美| 男人天堂网址| 国产成年免费大片黄在线观看| 亚洲福利中文字幕在线| 国产白领连续中出在线观看| 精品人妻伦一区二区三区久久| 日本大香蕉综合网| 天天看天天在线精品| 日韩乱伦视频| 东京成人一区| 久久黄黄黄| 天天日天天搞天天干| 国产精品视频精品一二| 久草资源在线视频官方总站日韩丝袜美腿| 屁股久久久久久久久| 日韩色香| 国产在线精品偷| 熟女中出视频| 射综合网| 丰满的三级少妇欧美久久久| 大奶尤物鲍汁淫荡欧美视频粉嫩夜夜骚 | 女人天堂av在线播放| 天堂无码精品国产久| 国产女人高潮视频| 看看日B真人视频| 99久久无码| 成人午夜无码视频| 亚洲综合贴图91 | 国产精品久久蜜乳av| 3d成人精品一区二区| 青青欧美在线| 操屄不卡视频| 日韩精品人妻中文字有码在线 | 美女丝袜激情小说| 日韩一级久久毛片| 五月花婷婷| 国产熟码AV| 26uuu性| 久久综合日韩亚洲欧美| 国产97视频| 国内精品久久久久影院亚洲| 亚洲图片 激情小说| 老司机福利青青草| 亚洲中文字幕噜噜噜久久久| 伊人性在线视频| 国产AV毛片| 男人久久精品| 国产精品无码久久久久2025| 日日夜夜骚| 九九草| 免费视频无码| 蜜臀久久久99久久久久 | 美女的肌被草喷水视频| 久久永久无码人妻视频| 国产精品老熟女一区二区| 成人资源中文字幕在线观看| 日本一区二区成人在线| 欧洲精品欧洲精品| 精品一区二区综合熟妇| 欧美日韩天堂| 艹少妇网站| 2019午夜福利视频| 黑人操一区二区| 久久久久久久久久久久久久久久9| 无码操逼视频一下| 大香蕉在线免| 色色色色日本| 精品无码产区一区二| 日本一区二区不卡精品| 欧美丰满少妇交换91欧美精品| 人妻aa| 白嫩妹子国产骚| 亚洲日韩精品在线播放| 欧美78P| 日韩亚洲美女一区久久| 国产成人久久精品蜜臀| 精品v1区| 2019天天干天天操| 亚洲图片欧美另类综合免费视频大大香| 日韩国产成人自拍视频| 亚洲激情深爱文学小说网站| 成人看片网站| 乱伦熟女论坛| 亚洲欧洲无码一区夜| 7777欧美成是人在线观看| 亚洲综合有码| 91亚洲不卡一区| 九月激情婷婷| 国产精品另类一区大香蕉| 免费视频无码| 国产亚洲日韩欧| 人人妻天天做天天爽| 色色五月丁香| 13小男生GAY自慰脱裤子| 操亚州| 亚洲久热| 国产一级137片内射麻豆| 日韩97视频| 久久久久13| 欧美一级特黄淫片在线观看| 96超碰网| 久久人妇| 天天综合网国产| 亚洲色图欧美色图日韩色图| 欧美日韩另类激情图片| 久久久久久九九九九-美女久久久久久久-成人AV| 人人操人人摸人人看人人干| 熟女熟妇一区二区三四区| 有码色中文字幕在线观看| 不卡啪啪视频| 亚洲国产一区二区日韩专区| 亚洲 欧美 第一页| 在线亚洲精品久久久| 婷婷五月天在线观看| 亚洲精品毛片在线观看| 亚洲有码视频二区| 91国产伊人大香蕉| 97超碰无码网| 激情五月天综合网| 老司机老司机午夜影院| 999久久久免费精品国产牛牛| 天天影视之亚洲综合网| wwe 天天干.com| 丁香五月综合| 亚洲Av无码成人精品国产| 极品欧美一区二区三区| 麻豆AV一区二区天美传媒| 久噜噜| 自拍盗摄一区| 亚洲欧美洲综合| 免费成人在线熟妇网| 中文字幕 一区二区 亚洲无码| 欧美视频中文字幕区| 国产精品人妻熟女aⅴ| 一级一性爱免费视频| 国产又粗又长的视频| 天天色踪合| 鸥美插入视频| 五月婷婷hd| 日韩伦理久 久久 清纯| 一区二区偷拍拍视频| 国产成人精品亚洲日本| h无码动漫在线观看| 国内偷自视频区视频综合| www国产无码| 女生久久网| 亚洲男人在线观看天堂| 欧美激情 一区| 亚洲骚男同com| 天天爱综合网| 国产AB视频| 日韩干B| 夜夜黄| 久久97视频| 久久久久国色αv免费观看| 人妻少妇无码| 欧亚 另类 久| 97鸡把在线视频| 97亚洲色图| 欧美激情视频一区二区| 久久久久99999| 校园春色五月天| 国产精品久久久久婷婷二区次| 欧美色图欧美| 伊人91| 激情小说亚洲| 肏逼视频日本| 99e久久国产精品| 国产女同视频在线播放| 亚洲自拍天堂| 国产亚洲日本精品在线| 精品久久久亚洲AV成人网站| 丁香五月性爱| 97人妻色| 亚洲蜜臀懂色| 久久99草| 青青草一本道福利视频| 亚洲欧美清纯| 久草尤物| 欧美日韩性爱无码| 久久久夜夜嗨免费视频| 很很干很很操| 久久欧洲| 九九人妻| 91综合站| 国产乱伦性爱区| 男人a天堂手机在线版| 乱伦熟女区| 九九热免费国产视频婷婷伊人五月 | 欧美强奸乱能| 涩五月婷婷| 久草视频制服诱惑| 97热视频在线观看| 啪啪自拍九九综合| 小视频国产| 久久婷婷亚洲| 色91综合网| 91亚洲狠狠色| 五月天色图影视| 制服少妇欧美| 蜜桃午夜视频一区二区| 91春色| 亚洲av影音先锋| 国产乱码久久| 亚洲自拍青操视频| 99精品国产户外露出| 欧美一区二区三区蜜桃| 嗯嗯啊中文字幕| 91美女色视频亚洲| 久久久人妻| 韩国午夜理伦三级好看| 人妻天堂综合网| 欧日韩在线观看| 91五十路| 啊视频在线| 亚洲人人操| 熟女一区二区三区| 九九热av| 国产成人免费观看在线视频| 国产女上位好爽在线| 中文字幕在线2| 久久只有精品| 综合激情婷婷| 欧美亚洲厕所精品偷拍91| 99re超碰| 国产福利精品最新在线| 久久亚洲熟妇在线视频| 久操免费观看| 亚洲各类熟们中文字幕| 欧美色日本| 成人线上超碰| 97五月天| 偷拍欧美亚洲| 在线观看AV片| 亚洲精品骚逼| 亚洲伊人久久综合97| 99热网站| 丁香五月天视频| 免费视频一二三区| 国产亚热在线久久| 97精品国产97久久久久久| 韩国三级一线观看久| 91老熟女逼| 综合操逼| 国产一二三在线视频五十路| 六月婷婷综合| 男人精品天堂一区| 午夜a成v人电影| 精品国产精品一区二区| 亚洲图片小说欧洲| 99热18这里只有精品| 97天天弄| 伊人久久大香蕉线AV五月天| 六月丁香五月婷婷| 收看日本人日bb| 男人天堂免费| 日韩性爱高清免费视频| 中国乱伦一区二区| 97精品综合久久网| 日韩99精品视频综合区| 大香蕉欧美伊| 欧美亚洲自拍另类人妻| 精品久久久av| 思思热国产高清| 亚洲精品97在线| 麻豆天美传媒毛片| 动漫片子网站3黄| 人妻精品视频一区二区三区| 啊啊啊啊啊啊在线看| 青青草毛片| 天堂资源欧美| 久久久国产av美女私房| surenchaopeng| 国产精品亚洲高清在线| x97av| 老司机老司机午夜影院| 俺也射| 五月天久久久| 天久久久噜噜噜久久国产精品爽爽| 夜夜中出国产| 亚洲在线网站| 黑人精品久久97| 自拍大香蕉乱插| 久草这里只有精品| 九久9热| 欧美另类精品xxxx| 青青草华人在线欧美在线| 99热婷婷| 日韩免费a级毛片无码a∨| 91av天美性媒精品视频| 成人免费在线网站| 啊v在线观看视频| 日本熟人妻中文字幕在线|...久久国产精品-国产精品_日本一区二区三区中文字幕 | 亚洲男人综合| 欧美色图91p| 色色综合网站| 午夜舔阴达高潮视频免费看| 午夜精品久久久久| 综合久久欧美| 男女无套 免费网站| 欧美日动态视频| 日本黄 R色 成 人网站| 91亚州| 欧美 亚洲 另类 综合| 成人性爱电影一区二区| 亚洲天堂精品日韩电影| 久久久99999久网站| 丁香五月电影| 日韩无码a片| 婷婷激情四射| 99国内熟女露脸视频| 精品久久視頻在线| αⅴ天堂| 亚洲图片另类| 99re在线视频国产| 无码欧美有限公司| 中文字幕精品资源在线| 天天射天天| 天天干人妻视频| 青青草啪啪网| 鲁鲁色综合网| 亚卅熟女乱色| 999精品国产高清一区二区| 91久久国产精品| 色香在线| 久久e6只有精品| 亚洲欧美成人在线| 成年女人黄网站| 女性喷水高潮在线观看| 久久亚洲一区女同性恋中文字幕| 欧美老妇综合网| 国产女人高潮视频| 亚欧高清v| 欧美性爱中文字幕无线码| 欧美在线91| 老熟乱一区二区三区四区| 夜夜综合| 懂色AV中文| 99热色这里只有精品| 日韩性爱播放| 操逼1区| 不卡av在线中文字幕| 999综合网| 天天干人人乐| 91久久久久| 国产精品午夜福利视频| 绯色AV粉色AV蜜臀AV| 色欧美天天| 天天做天天爱| 高清在线偷拍自拍视频| 日本操逼视频导航| 日韩精品碰碰| 在线播放免费av福利片| 亚洲人妻在线精品| 亚洲人妻久久| 94色色电影网| 啊啊啊啊免费视频| 久久有码视频| 久啪视频| 天天影视91看看| 九九这里只有精品| 青青草综合在线| 激情婷婷丁香网| 人人操人人精品影片| 91女优在线观看| 天天操人人操骚逼网站| 97国产色图| 999 久久久| 青青草久草AV| 欧美91色| 99999亚洲另类| 中国熟妇| 97免费在线观看视频| 亚洲综合20p| 97欧美超碰| 欧美精品三级黄片| se吧提供国产乱老熟视频胖女人 | 久久久涩| 97伊人网| 亚洲av青草久久一区二区| 日本视频在线中文字幕| av毛片aaaaa免费看| 亚洲午夜未满十八勿入网站日本又色又爽又黄 | 九九热免费在线国产视频伊人五月| 亚洲欧美一区二区三区在钱蜜桃| 麻豆视频test| 日韩熟女精品无码专区一区二区| 国产白领连续中出在线观看| 久久最新视频免费观看| 蜜桃丰满熟妇av无码区不卡| 色综合 加勒比| 草草草视频| 精品一区二区三区免费古装毛片香港三级日本三级人妇 | 天美传媒麻豆一区二区三区国产精| 亚洲欧美激情小说| 欧美性夜| 日韩操啪| 中文字幕丝袜国产第一页不卡| JIZZJIZZ国产精品喷水| 色婷婷久久| 美女露胸露奶头| 久久女同性恋一二区| 国产精品粉嫩福利在线| 国产精品一区在线播放| 看全色黄大色大片免费视频| 免费日韩黄片| 欧美日韩操逼嗦吊| 18一区二区三区| 亚洲视频二区 | 欧美日韩欧美| 人人操人人摸avav| 午夜寂寞欧美| 欧美不卡在线美女| 五月开心久久AV官网| 国产美女91| 亚洲一区二区三区春色| 美國A片| 91精品电影18| 久久成人午夜狠狠| 亚洲毛片基地专区| 多毛小伙内射老太婆 | 国产精品美女在线一区| AV中文在线| 黄呦呦在线| 精品免费囯产一区二区三区 | 操久久久久| 91精品微拍福利| 婷色五月| 日日日骚女人精品| 92久久| 蜜臀AV网站| 亚洲激情 欧美色图| www.成人无码| 亚洲91在线播放影院| 吻戏激情性巴克| 污电影在线观看| av激情亚洲五月天| 亚洲精品三| 久久蜜色情在线视频xxx免费观看| 农村少妇久久久久久久| 一区二区三区成人高清视频| 中文字暮97| 久久精品噜噜噜成人看免欧美大片| 操操操五月天婷婷丁香影院| 97人妻碰碰中文无码久热丝袜| 亚洲性少妇| 国产无码精品无码| 亚洲国产精品久久久久久久久久| 欧美综合网1| 18禁在线视频| 人人喜人人妻| 欧美视频边做饭边橾| 久久久久久9999| 看日韩黄片| 人人乐大香蕉| 日韩精品一二三| 精品超碰国产| 国产吹潮女在线观看| 操逼大黄片| 亚洲人妻熟妇三十三区| 97超碰人人操人人操| 熟女精品一区二区三区| 久操电影网| 欧美性爱伊人| 一区二三区四区视频大全套| 日熟女| 精品人妻一区二区免费蜜桃| 日本精品999| 91人妻爽爽人人做人人澡| 色婷婷日韩精品一区二区三区| 久久美女国产| 91路www| 上海一级黄片| 人妻内射一区二区在线视频| 亚洲欧美在线观看无码| 成人日韩中文字幕| 亚洲巨爆乳一区二区三区四季网| 中文伊人大香蕉视频| 神马麻豆福利院| 天天日夜夜爽| 欧美在线天堂| 国产成人资源| 偷拍 欧美 日韩| 日本九九久久99播| 狠狠久久手机视频精品| 嗯嗯啊啊用力视频免费| 欧美日韩*字幕一区| 少妇69中文| 影音先锋视频在线| 日本黄色天堂| 在线观看黄色电话| 亚洲清纯综合| 日日操天天操| 欧美色网| 曰本熟女视频| 免费看黄视频亚洲网站| 岛国不卡超碰护士AV在线播放| 亚洲制服欧美另类内射| 国产97在线播放| 性色一线| 一级人妻性爱视频| 亚洲爱爱视频一区二区| 国产精品自拍欧美在线| 国产精品午夜福利| 亚洲图片 91| 国产精品成人久久一区二区三区| 久草男人天堂| 9久久精品| 久艹日日日| 青青草啪啪网| 三级片网站在线播放| 久久久久久久性爱| 91成人国产综合久久精品蜜月| 欧美视频一区二区在线| 中文字幕一二三av| 天天操狠狠日夜夜干超碰撸com视频在线观看 | 黄久在线| 日本超碰在线国产一区| 亚洲欧洲中文日韩女优乱码| 亚洲的天堂网| 狠狠久久亚洲欧美专区| 欧美在线永久天堂| 伊人96在线| 女同亚洲欧美一二三区久久电影| 自拍偷拍第26| 欧美特黄视频网站| 亚洲天堂性爱| 51一区二区三区| 久久久无码视频| 热的中文 热的有码 热的国产| 99热在线播放| 天天操天天射天天日| 97欧美资源| 日影院久久婷婷夜夜网| 激情开心五月天| 91人妻精华帖| 美女诱惑一区| AV色五月| 激情文学 国产一二三aV| 欧美性爱伊人| 亚洲黄片免费在线播放| AV女资源| 精品一区二区三区四区外站| 伊人色综合网| 屁屁影院一区二区三区国产| 日本一区二区亚洲综合| 中文字幕色AV| 四虎免费看黄| 日韩在线视频1234| 69精品久久久久中文字幕| 亚洲97成人在线观看| 男人综合网| 亚洲高清男人天堂| 欧美精品偷拍| 国产一区二区三区中文字幕| 手机在线看片免费人成视频| 成人97人人超碰人人| 日本综合色图| 又黄又硬又粗又长国产视频| 一区二区三区色综合| 日韩熟女精品无码专区一区二区 | 日韩中文字幕视频在线观看| 伊人一区二区在线播放| 欧美97爱| 这里只有97精品| 亚洲极品| 天天激色| 亚洲欧美setu| 吉川爱美98堂在线| 97色五月天完| 日韩欧美tv一区二区在线观看| 亚洲精品一二三四区| 人人摸人人入| 婷婷综合在线| 97在线观看| 青青草白白色| 欧美日韩在线国产在线| 97视频在线观看网站| 99只有精品| 欧美影院一区二区三区| 亚洲三级网址久久最新| 性爱Av免费| 国产999精品久久久| 99操逼| 欧美一二三级精品在线| 国产中文字幕在线| 久操大香蕉手机视频在线看 | av在线播放国产一区| 九九九九一区| 97免费视频网| 99热66| 尤物一级在线免费观看| 欧美夜夜| 九九九九一级| 欧美美女自慰一区二区三区| 精品偷拍13p欧美dodk视频| 亚洲色婷婷综合久久久久中文| 秋霞男人网| 蜜桃成人1区2区3区| 国产不卡免费在线视频| 热99这里有精品综合久久 | 亚洲 欧美 日韩另类 麻豆| 夜夜高潮夜夜爽高清视频一 | 成人性爱视频在线看| 久久精品国产99久久,亚洲日韩久久日本一区一区三区 | 无码高清操逼网址| 一区二区不卡视| 性欧美| 超碰欧美97资源| 中文字幕午夜精品久久久| 国产精品乱人伊人网| 丁香色婷婷| www.99在线| 99日韩| 日韩丝袜二区| 欧洲一级性爱视频在线观看| 国产无马视频| 操逼啊啊啊91| 欧美人妻久久精品二区三区| 久久久97| AV中文在线| 亚洲性爱高潮影院| 超碰97欧美在线| 91 国产丝袜在线放观看| 北条麻妃99精品青青久久| 国产怡红院| 国产婷婷一区| 欧美超碰人妻97| 91欧美情色| 色综合天天爱去电影网| 亚洲欧美不卡线| 午夜a成v人电影| 久久久久久AV无码免费网站| 亚洲AV无码久久久国产精品| 五月丁香综合啪啪| 北京专精特新企业招聘信息| 超碰97最新人妻| 亚洲一区亚洲天堂| 国产蜜臀精品一区二区尤物|