日韩精品一区二区三区在线视频放-无码中文字幕V?一区二区-成年片免费观看视频-国内少妇人妻丰满av-国产精品中文字幕免费观看-亚洲成人久久一区二区三区-国内少妇偷人精品视频无缓冲-一区二区国产精品日本一区二区三区在线网

ARTICLE DETAIL

資訊詳情

深耕商務(wù)建站與企業(yè)官網(wǎng)運(yùn)營的一線實(shí)戰(zhàn)洞察。

Linux下C/C++運(yùn)行時(shí)調(diào)用?;厮荩簭腷acktrace到符號(hào)解析的工程實(shí)踐

Linux下C/C++運(yùn)行時(shí)調(diào)用棧回溯:從backtrace到符號(hào)解析的工程實(shí)踐 程序跑著跑著突然崩了日志里只有一句“Segmentation fault”連是哪個(gè)函數(shù)、哪一行出的問題都不給這種場景但凡在Linux下寫過C/C的人應(yīng)該都遇到過。尤其是線上服務(wù)core文件不一定開、gdb不一定裝、復(fù)現(xiàn)還不一定穩(wěn)最后只能靠加打印一行行猜。其實(shí)Linux本身提供了一套相當(dāng)成熟的運(yùn)行時(shí)調(diào)用棧回溯機(jī)制能在程序活著的時(shí)候把當(dāng)前函數(shù)調(diào)用鏈、返回地址、甚至對(duì)應(yīng)的源文件和行號(hào)直接打出來不需要掛調(diào)試器也不需要等崩潰。這篇就圍繞“程序運(yùn)行時(shí)打印調(diào)用棧信息”這件事把backtrace、符號(hào)解析、行號(hào)還原、編譯選項(xiàng)配合、以及實(shí)際落地時(shí)那些文檔里不會(huì)寫的坑完整拆一遍。適合已經(jīng)能寫C程序、但被線上問題折磨過、想把自診斷能力做進(jìn)代碼里的開發(fā)者參考也適合剛接觸Linux調(diào)試體系、想搞明白“棧回溯到底怎么工作”的朋友。1. 先搞清楚運(yùn)行時(shí)棧回溯到底在解決什么問題很多人第一反應(yīng)是“崩潰了用gdb看不就行了”。這話在本地開發(fā)階段沒錯(cuò)但放到真實(shí)場景里就站不住了。我先把運(yùn)行時(shí)打印調(diào)用棧和傳統(tǒng)調(diào)試手段的差異擺出來你就明白為什么值得單獨(dú)做一套機(jī)制。1.1 調(diào)試器依賴與線上環(huán)境的現(xiàn)實(shí)矛盾gdb這類工具的工作前提是你能在出問題的機(jī)器上啟動(dòng)它、能拿到可執(zhí)行文件、能拿到符號(hào)信息、最好還能復(fù)現(xiàn)。這四條在線上環(huán)境里經(jīng)常同時(shí)不成立。生產(chǎn)機(jī)器為了精簡和安全通常不會(huì)裝完整的調(diào)試工具鏈可執(zhí)行文件可能被strip過core dump策略出于磁盤考慮往往是關(guān)閉的偶發(fā)問題更是難以穩(wěn)定復(fù)現(xiàn)。這時(shí)候你手里剩下的唯一線索就是程序自己愿意吐出來的日志。運(yùn)行時(shí)棧回溯的核心價(jià)值就在這它把“事后調(diào)試”變成了“事中自證”。程序在關(guān)鍵路徑上主動(dòng)調(diào)用一次回溯把當(dāng)前調(diào)用鏈寫進(jìn)日志問題發(fā)生時(shí)你直接翻日志就能看到調(diào)用路徑不需要任何外部工具介入。這相當(dāng)于給程序內(nèi)置了一個(gè)輕量級(jí)的現(xiàn)場記錄儀。1.2 調(diào)用棧在內(nèi)存里長什么樣要理解怎么打印得先知道棧上有什么。x86-64架構(gòu)下函數(shù)調(diào)用靠的是棧幀stack frame鏈。每次調(diào)用被調(diào)函數(shù)會(huì)在棧上保存調(diào)用者的棧基址rbp形成一個(gè)鏈表結(jié)構(gòu)當(dāng)前rbp指向的棧單元里存著上一層rbp再上一層又存著更上一層的rbp。順著這條鏈一路往上走就能把每一層的返回地址return address收集起來。返回地址是關(guān)鍵它指向“調(diào)用指令的下一條指令”也就是函數(shù)執(zhí)行完要回到的位置。把這個(gè)地址映射回符號(hào)表就能知道它屬于哪個(gè)函數(shù)再結(jié)合調(diào)試信息就能還原出源文件和行號(hào)。所以整個(gè)回溯過程本質(zhì)上是三步沿棧幀鏈?zhǔn)占祷氐刂?→ 地址轉(zhuǎn)符號(hào) → 符號(hào)轉(zhuǎn)行號(hào)。后面所有工具和接口都是圍繞這三步做封裝。注意編譯器優(yōu)化會(huì)破壞棧幀鏈。開啟幀指針省略-fomit-frame-pointer后rbp被挪作通用寄存器鏈就斷了。這是后面要專門處理的一個(gè)大坑。1.3 三種主流實(shí)現(xiàn)路徑的取舍Linux下做運(yùn)行時(shí)回溯常見的有三條路各有適用邊界方案依賴優(yōu)點(diǎn)局限glibc backtraceexecinfo.h零額外依賴接口極簡依賴幀指針優(yōu)化后可能不全libunwind獨(dú)立庫支持DWARF展開優(yōu)化代碼也能回溯需引入第三方庫接口略重編譯器內(nèi)建__builtin_return_address無依賴只能逐層取層數(shù)需手動(dòng)控制大多數(shù)項(xiàng)目我會(huì)優(yōu)先用glibc的backtrace因?yàn)樗銐蚝唵?、夠用配合正確的編譯選項(xiàng)能覆蓋九成場景。只有在高度優(yōu)化、幀指針被徹底省略且無法改編譯選項(xiàng)的情況下才考慮libunwind。這個(gè)取舍邏輯后面會(huì)展開講。2. glibc backtrace接口的用法與符號(hào)解析鏈路選定方案后真正動(dòng)手時(shí)你會(huì)發(fā)現(xiàn)backtrace本身只有兩個(gè)函數(shù)但“打印出人能看懂的信息”這件事難點(diǎn)全在符號(hào)解析上。這一章把接口用法和解析鏈路講透。2.1 backtrace與backtrace_symbols的分工glibc提供的核心接口就兩個(gè)#include execinfo.h int backtrace(void **buffer, int size); char **backtrace_symbols(void *const *buffer, int size);backtrace負(fù)責(zé)填充地址數(shù)組返回實(shí)際抓到的層數(shù)backtrace_symbols負(fù)責(zé)把地址數(shù)組翻譯成字符串?dāng)?shù)組。這里有個(gè)容易忽略的點(diǎn)backtrace_symbols內(nèi)部會(huì)malloc一塊內(nèi)存來存放所有字符串用完必須手動(dòng)free否則每次調(diào)用都漏一塊。而backtrace_symbols_fd是它的兄弟接口直接把結(jié)果寫到文件描述符不經(jīng)過malloc在信號(hào)處理函數(shù)里更安全。一個(gè)最小可用的封裝大概長這樣#include execinfo.h #include stdio.h #include stdlib.h void print_stack(void) { void *buffer[64]; int nptrs backtrace(buffer, 64); char **strings backtrace_symbols(buffer, nptrs); if (strings NULL) { perror(backtrace_symbols); return; } for (int i 0; i nptrs; i) { printf(%s\n, strings[i]); } free(strings); }跑起來輸出大概是這樣一行行的./demo(0x11a9) [0x55f...] ./demo(0x1256) [0x55f...] /lib/x86_64-linux-gnu/libc.so.6(0x29d90) [0x7f...]看到問題了嗎只有偏移地址沒有函數(shù)名沒有文件名行號(hào)。這就是很多人第一次用backtrace后覺得“沒啥用”的原因——接口給了但符號(hào)沒解析出來。2.2 為什么默認(rèn)輸出只有偏移地址backtrace_symbols的輸出質(zhì)量取決于可執(zhí)行文件里有沒有動(dòng)態(tài)符號(hào)表。默認(rèn)編譯出來的程序符號(hào)表里只有動(dòng)態(tài)鏈接需要的少量符號(hào)函數(shù)名大多不在其中所以只能顯示“模塊名偏移”。要讓它顯示函數(shù)名編譯時(shí)必須加-rdynamic等價(jià)于鏈接時(shí)加--export-dynamic把所有符號(hào)導(dǎo)出到動(dòng)態(tài)符號(hào)表。gcc -g -rdynamic demo.c -o demo加上之后輸出會(huì)變成./demo(print_stack0x1a) [0x55f...] ./demo(main0x2c) [0x55f...]函數(shù)名有了但文件名和行號(hào)還是沒有。因?yàn)閎acktrace_symbols只查符號(hào)表不查調(diào)試信息。行號(hào)還原是另一套機(jī)制得靠addr2line或者dladdr配合調(diào)試段來完成。2.3 用addr2line把地址還原成文件行號(hào)拿到偏移地址后最直接的行號(hào)還原方式是調(diào)用addr2line。但注意backtrace_symbols給的是“模塊內(nèi)偏移”而addr2line需要的是“虛擬地址減去模塊加載基址”后的偏移兩者在非PIE程序里恰好一致在PIE程序里需要做減法。這就是為什么很多人直接拿輸出地址喂給addr2line結(jié)果得到??:0。正確做法是先用dladdr拿到模塊基址算出真實(shí)偏移再交給addr2line。或者更省事——直接在程序里用backtrace_symbols拿到帶偏移的字符串解析出偏移值再拼成addr2line -e 模塊名 偏移去執(zhí)行。不過運(yùn)行時(shí)fork子進(jìn)程執(zhí)行外部命令有性能和安全性顧慮更優(yōu)雅的方案是鏈接libbfd或libdw在進(jìn)程內(nèi)解析但那就重了。我的經(jīng)驗(yàn)是開發(fā)調(diào)試階段用addr2line腳本后處理日志完全夠用線上環(huán)境如果確實(shí)需要行號(hào)優(yōu)先在編譯時(shí)保留調(diào)試信息并用libdw做進(jìn)程內(nèi)解析或者干脆接受“函數(shù)名偏移”這個(gè)粒度。因?yàn)榻^大多數(shù)線上問題定位到函數(shù)名就已經(jīng)能圈定范圍了行號(hào)屬于錦上添花。2.4 一個(gè)可直接復(fù)用的解析腳本把日志里的地址批量還原成行號(hào)我常用這么一段shell#!/bin/bash # 用法: ./resolve.sh 可執(zhí)行文件 日志文件 BIN$1 LOG$2 grep -oP 0x[0-9a-f] $LOG | while read addr; do echo -n $addr - addr2line -e $BIN -f -C $addr done-f輸出函數(shù)名-C做C符號(hào)demangle。這個(gè)腳本在排查偶發(fā)崩潰時(shí)救過我很多次——日志里存著原始地址事后拿對(duì)應(yīng)版本的可執(zhí)行文件一跑調(diào)用鏈清清楚楚。前提是可執(zhí)行文件版本必須和產(chǎn)生日志的版本完全一致否則地址對(duì)不上這是硬約束。3. 編譯選項(xiàng)決定回溯質(zhì)量-g、-rdynamic與幀指針的三角關(guān)系上一章反復(fù)提到編譯選項(xiàng)這一章專門把它們之間的關(guān)系理清楚。因?yàn)檫\(yùn)行時(shí)回溯能不能用、好不好用八成取決于編譯時(shí)怎么配。3.1 -g與調(diào)試信息的取舍-g生成DWARF調(diào)試信息是行號(hào)還原的前提。沒有它addr2line只能給出函數(shù)名還得有符號(hào)表給不出文件和行號(hào)。但-g會(huì)讓可執(zhí)行文件顯著變大線上發(fā)布時(shí)很多人會(huì)strip掉。這里有個(gè)折中技巧用-g編譯但發(fā)布時(shí)用objcopy --only-keep-debug把調(diào)試信息單獨(dú)抽成一個(gè).debug文件存起來主程序strip掉調(diào)試段但保留符號(hào)表。這樣線上程序體積可控出問題時(shí)拿.debug文件配合addr2line照樣能還原行號(hào)。gcc -g -rdynamic demo.c -o demo objcopy --only-keep-debug demo demo.debug strip --strip-debug demo # 事后解析 addr2line -e demo.debug -f -C 0x11a9這套流程我在多個(gè)項(xiàng)目里用過兼顧了體積和可診斷性值得固化進(jìn)構(gòu)建腳本。3.2 -rdynamic到底改了什么前面說過-rdynamic讓函數(shù)名出現(xiàn)在輸出里但它的實(shí)際作用是把所有符號(hào)加入動(dòng)態(tài)符號(hào)表.dynsym而不只是鏈接需要的那些。副作用是可執(zhí)行文件的動(dòng)態(tài)符號(hào)表變大加載時(shí)符號(hào)解析稍慢一點(diǎn)點(diǎn)但通常可以忽略。需要提醒的是-rdynamic只影響“能不能看到函數(shù)名”不影響行號(hào)。有人加了-rdynamic發(fā)現(xiàn)還是沒有行號(hào)就以為選項(xiàng)沒用其實(shí)是把兩件事混為一談了。函數(shù)名靠符號(hào)表行號(hào)靠調(diào)試信息兩條獨(dú)立的鏈路。3.3 幀指針省略最隱蔽的回溯殺手這是最容易踩的坑。現(xiàn)代編譯器在-O2及以上默認(rèn)開啟-fomit-frame-pointer把rbp省出來當(dāng)通用寄存器用。結(jié)果就是棧幀鏈斷裂backtrace只能抓到當(dāng)前函數(shù)和少數(shù)幾層再往上就亂了或者提前終止。解決辦法有兩個(gè)編譯時(shí)顯式加-fno-omit-frame-pointer強(qiáng)制保留幀指針。代價(jià)是少一個(gè)通用寄存器性能有輕微損失通常1%以內(nèi)絕大多數(shù)場景可接受。改用libunwind它基于DWARF的CFI信息做棧展開不依賴幀指針。代價(jià)是引入依賴、接口更復(fù)雜。我的建議是如果項(xiàng)目能控制編譯選項(xiàng)優(yōu)先-fno-omit-frame-pointer glibc backtrace簡單可靠如果是接手的遺留系統(tǒng)、編譯選項(xiàng)動(dòng)不了再上libunwind。這個(gè)決策順序能省掉大量折騰。3.4 一組推薦的編譯配置綜合下來需要運(yùn)行時(shí)回溯的模塊我一般用這套CFLAGS -g -O2 -fno-omit-frame-pointer -rdynamic-g保行號(hào)-O2保性能-fno-omit-frame-pointer保棧幀鏈-rdynamic保函數(shù)名。四個(gè)選項(xiàng)各司其職缺一個(gè)回溯質(zhì)量就掉一檔。如果對(duì)體積敏感再疊加前面說的debug文件分離方案。提示-O2配合-fno-omit-frame-pointer時(shí)某些內(nèi)聯(lián)函數(shù)仍然不會(huì)出現(xiàn)在棧里因?yàn)閮?nèi)聯(lián)本質(zhì)上是把函數(shù)體展開沒有獨(dú)立棧幀??吹秸{(diào)用鏈“缺層”先別懷疑工具想想是不是被內(nèi)聯(lián)了。4. 把回溯嵌進(jìn)真實(shí)代碼信號(hào)處理與日志落地的工程細(xì)節(jié)接口會(huì)用了、編譯選項(xiàng)配好了接下來是把它嵌進(jìn)真實(shí)項(xiàng)目。這一步的坑不在API而在“什么時(shí)候調(diào)、在什么上下文調(diào)、結(jié)果往哪寫”。4.1 在信號(hào)處理函數(shù)里打印崩潰棧最常見的落地場景是捕獲崩潰信號(hào)SIGSEGV、SIGABRT等在信號(hào)處理函數(shù)里打印調(diào)用棧。但信號(hào)處理函數(shù)有嚴(yán)格的異步信號(hào)安全約束只能調(diào)用可重入函數(shù)不能malloc不能用printf。而backtrace_symbols內(nèi)部會(huì)mallocprintf也不是異步信號(hào)安全的。所以信號(hào)處理里應(yīng)該用backtracebacktrace_symbols_fd的組合直接寫文件描述符#include signal.h #include execinfo.h #include unistd.h #include fcntl.h static void crash_handler(int sig) { void *buffer[64]; int nptrs backtrace(buffer, 64); int fd open(/tmp/crash.log, O_WRONLY | O_CREAT | O_APPEND, 0644); if (fd 0) { backtrace_symbols_fd(buffer, nptrs, fd); close(fd); } signal(sig, SIG_DFL); raise(sig); }注意最后兩行恢復(fù)默認(rèn)處理并重新raise讓程序按正常流程終止該產(chǎn)生core還是產(chǎn)生core而不是被我們的handler吞掉。這個(gè)細(xì)節(jié)很多人漏掉導(dǎo)致崩潰被“吃掉”、進(jìn)程狀態(tài)異常。4.2 主動(dòng)埋點(diǎn)在關(guān)鍵路徑而非只等崩潰信號(hào)處理只能抓崩潰但很多問題不崩潰——比如邏輯卡死、返回了錯(cuò)誤結(jié)果、性能突然劣化。這類場景更適合在關(guān)鍵路徑上主動(dòng)埋點(diǎn)條件觸發(fā)時(shí)打印當(dāng)前棧。比如一個(gè)請(qǐng)求處理函數(shù)檢測(cè)到耗時(shí)超過閾值就把當(dāng)前調(diào)用棧打出來if (elapsed_ms 500) { log_warn(slow path detected, dumping stack:); print_stack_to_log(); }這種“條件回溯”比無差別打印有用得多日志量可控信噪比高。我在一個(gè)服務(wù)里給慢查詢加了這套很快就定位到某個(gè)鎖競爭導(dǎo)致的偶發(fā)卡頓比翻監(jiān)控指標(biāo)快多了。4.3 日志落地的幾個(gè)實(shí)操約束回溯信息寫日志時(shí)有幾個(gè)細(xì)節(jié)值得注意加時(shí)間戳和線程ID。多線程程序里光有調(diào)用棧不知道是哪個(gè)線程打的等于白打。用syscall(SYS_gettid)拿內(nèi)核線程ID和日志框架的線程標(biāo)識(shí)對(duì)齊。限制層數(shù)。64層通常夠用太深既拖慢速度又刷屏。遞歸調(diào)用特別深的場景可以適當(dāng)調(diào)大但要評(píng)估開銷??刂祁l率。高頻路徑上無條件打印會(huì)拖垮性能務(wù)必加條件或采樣。注意日志切割。崩潰棧往往一次寫一大段如果日志框架有單條長度限制可能被截?cái)嘁崆按_認(rèn)。4.4 多線程環(huán)境下的一個(gè)隱蔽問題backtrace本身是線程安全的但如果你在信號(hào)處理里打印而信號(hào)可能打斷任意線程就要小心信號(hào)處理函數(shù)運(yùn)行在被打斷線程的棧上此時(shí)backtrace抓到的棧是“信號(hào)處理函數(shù) 被打斷位置”的混合棧前幾層是信號(hào)框架真正的崩潰點(diǎn)要往下找。這個(gè)特性不是bug但解讀日志時(shí)要知道別被前幾層__restore_rt之類的框架函數(shù)迷惑。5. 踩過的坑與排查鏈路實(shí)錄這一章不講新接口專門復(fù)盤幾個(gè)真實(shí)踩過的坑把排查過程完整走一遍因?yàn)檫@些東西文檔里基本不會(huì)寫。5.1 加了-rdynamic還是只有地址一次完整的定位過程現(xiàn)象按文檔加了-rdynamicbacktrace_symbols輸出依然是./demo(0x11a9)沒有函數(shù)名。排查鏈路先確認(rèn)選項(xiàng)真的生效了。用readelf -s demo | grep FUNC看動(dòng)態(tài)符號(hào)表里有沒有目標(biāo)函數(shù)。結(jié)果發(fā)現(xiàn)目標(biāo)函數(shù)不在.dynsym里。懷疑是靜態(tài)函數(shù)。檢查代碼果然是static void helper()。靜態(tài)函數(shù)不導(dǎo)出到動(dòng)態(tài)符號(hào)表-rdynamic也救不了。驗(yàn)證把static去掉重新編譯函數(shù)名出現(xiàn)了。結(jié)論-rdynamic只導(dǎo)出有外部鏈接屬性的符號(hào)static函數(shù)天然不可見。如果確實(shí)需要回溯靜態(tài)函數(shù)只能靠調(diào)試信息addr2line而不是符號(hào)表。這個(gè)區(qū)分很關(guān)鍵很多人卡在這里以為是選項(xiàng)沒生效。5.2 回溯只有兩層就斷了幀指針被優(yōu)化掉現(xiàn)象backtrace返回的層數(shù)明顯偏少調(diào)用鏈在中間某處就斷了。排查鏈路用objdump -d demo | grep -A2 func:看函數(shù)序言發(fā)現(xiàn)沒有push %rbp; mov %rsp,%rbp說明幀指針被省略了。確認(rèn)編譯選項(xiàng)果然帶了-O2且沒加-fno-omit-frame-pointer。加上該選項(xiàng)重編層數(shù)恢復(fù)正常。這個(gè)坑的隱蔽之處在于程序功能完全正常只有回溯不全不專門驗(yàn)證根本發(fā)現(xiàn)不了。所以我的習(xí)慣是凡是依賴回溯的模塊構(gòu)建后跑一個(gè)自檢用例斷言回溯層數(shù)達(dá)到預(yù)期把這個(gè)問題擋在發(fā)布前。5.3 addr2line返回??:0的三種原因拿到地址喂給addr2line卻得到??:0原因通常有三類現(xiàn)象原因解決全部??:0可執(zhí)行文件沒帶-g重新用-g編譯或用對(duì)應(yīng)debug文件部分??:0地址是PIE偏移未減基址用dladdr算基址后相減特定函數(shù)??:0該地址落在庫函數(shù)內(nèi)換對(duì)應(yīng)庫的debug符號(hào)文件第三類最容易被忽略調(diào)用棧里混著libc的函數(shù)拿主程序的debug文件去解析libc地址當(dāng)然解不出。要針對(duì)每個(gè)模塊用各自的符號(hào)文件。5.4 信號(hào)處理里用printf導(dǎo)致的二次崩潰現(xiàn)象崩潰時(shí)打印棧結(jié)果程序直接卡死或又崩一次日志沒寫出來。原因信號(hào)處理函數(shù)里調(diào)了printf而printf內(nèi)部有鎖和緩沖區(qū)操作不是異步信號(hào)安全的。如果信號(hào)恰好打斷了printf自身就會(huì)死鎖。修復(fù)改用write或backtrace_symbols_fd直接寫fd全程不碰stdio。這個(gè)坑的教訓(xùn)是信號(hào)處理函數(shù)里能用什么、不能用什么必須嚴(yán)格對(duì)照異步信號(hào)安全函數(shù)列表憑直覺寫遲早出事。6. 性能開銷評(píng)估與生產(chǎn)環(huán)境的啟用策略最后聊聊大家最關(guān)心的這玩意兒到底多慢線上能不能常開。6.1 單次回溯的耗時(shí)構(gòu)成一次完整回溯的耗時(shí)主要在三塊抓地址backtrace本身微秒級(jí)、符號(hào)解析backtrace_symbols涉及內(nèi)存分配和符號(hào)查找?guī)资綆装傥⒚?、寫日志取決于IO。實(shí)測(cè)在普通x86機(jī)器上抓64層地址加符號(hào)解析單次大約在幾十微秒量級(jí)具體隨層數(shù)和符號(hào)數(shù)量浮動(dòng)。這個(gè)開銷放在低頻路徑崩潰處理、慢請(qǐng)求告警完全無感放在每秒幾十萬次的高頻路徑上就是災(zāi)難。所以啟用策略的核心是按場景分級(jí)而不是一刀切。6.2 分級(jí)啟用策略我一般這么分崩潰信號(hào)處理無條件啟用反正進(jìn)程要掛了開銷無所謂。錯(cuò)誤返回路徑條件啟用比如連續(xù)失敗N次才打一次避免刷屏。性能告警路徑采樣啟用比如每100次超閾值只打1次兼顧可觀測(cè)性和開銷。正常高頻路徑默認(rèn)關(guān)閉需要時(shí)通過配置或信號(hào)動(dòng)態(tài)打開。這種分級(jí)讓回溯能力“隨時(shí)可用但不常開”是生產(chǎn)環(huán)境的穩(wěn)妥做法。6.3 用信號(hào)動(dòng)態(tài)開關(guān)回溯一個(gè)實(shí)用技巧注冊(cè)一個(gè)用戶信號(hào)比如SIGUSR1收到時(shí)把全局的回溯開關(guān)翻轉(zhuǎn)。線上排查時(shí)給進(jìn)程發(fā)個(gè)信號(hào)就能臨時(shí)打開詳細(xì)回溯排查完再發(fā)一次關(guān)掉不用重啟、不用改配置。static volatile sig_atomic_t g_trace_on 0; static void toggle_handler(int sig) { (void)sig; g_trace_on !g_trace_on; }注意開關(guān)變量要用sig_atomic_t保證讀寫原子性。這個(gè)機(jī)制在定位偶發(fā)問題時(shí)特別好用相當(dāng)于給線上進(jìn)程裝了個(gè)可遠(yuǎn)程觸發(fā)的“探針”。6.4 別忘了驗(yàn)證回溯本身是否可靠最后強(qiáng)調(diào)一個(gè)容易被忽視的點(diǎn)回溯機(jī)制自己也可能出問題幀指針被優(yōu)化、符號(hào)被strip、地址算錯(cuò)。所以要有自檢手段——在啟動(dòng)時(shí)或測(cè)試用例里主動(dòng)打一次已知調(diào)用鏈的棧斷言層數(shù)和函數(shù)名符合預(yù)期。把回溯當(dāng)成一個(gè)需要測(cè)試的功能而不是“配了就一定對(duì)”的黑盒這個(gè)意識(shí)能幫你避免在真正出事時(shí)才發(fā)現(xiàn)回溯是壞的。我個(gè)人在實(shí)際項(xiàng)目里的體會(huì)是運(yùn)行時(shí)調(diào)用棧這套東西配起來不復(fù)雜難的是把編譯選項(xiàng)、符號(hào)解析、信號(hào)安全、性能開銷這幾件事同時(shí)照顧到。一開始圖省事只調(diào)backtrace結(jié)果線上真出事時(shí)發(fā)現(xiàn)只有地址沒有函數(shù)名那種感覺比沒有日志還難受。后來把-g -fno-omit-frame-pointer -rdynamic固化成模板、把debug文件分離寫進(jìn)構(gòu)建腳本、把信號(hào)處理和條件埋點(diǎn)做成通用組件才算真正把這套能力用起來。如果你現(xiàn)在正準(zhǔn)備給項(xiàng)目加這個(gè)能力建議先從崩潰信號(hào)處理這一條鏈路做通跑穩(wěn)了再往主動(dòng)埋點(diǎn)擴(kuò)展步子別邁太大。
返回列表
PREV
查看更多資訊
NEXT
返回資訊列表
91亚洲情色| 伊人青青一区成人视频在线观看区| 天天干天天做| 丰满人妻一区二区三区四区| www.狠狠干.coom| 好湿好紧视频| 亚洲性综合9| 不卡av在线中文字幕| 91色图片| 色情五月丁香| 先锋女优在线观看视频| 久久久久96| 国产亚洲禁久一区二区| 天天操福利视频综合网站| 亚洲成av人片色午夜乱码| 亚洲色欲天天天堂色欲网女| 日韩二区三四区五区六区在线看| 91亚州日韩高清| 日韩AV无码中文一区二区| 亚洲男人天堂视频| 97超碰jingpin| 一级aaaaa欧美中文字幕录像片| 99久在线精品99re8热视频在线| 黄色小视频日本txt| 久久色网| 91丝袜熟女| 极品白嫩美女白浆成人福利在线看| 2017天天操天天日| 人妻人久久精品中文字幕| 口爆综合网| AV一区观看| 后入人妻无码| 亚洲日韩久久精品一区| 爱啪精品一区| 国产原创精品| 亚洲 日本 一 二 三| 亚洲性爱乱操x| 国产一区二区三区导航| 在线97视频| 亚洲国产青青| 乱伦一区二区三区‘| 伊香蕉综合久久久久久久噜噜噜| 99re免费视频精品全部| 免费观看网黄| 大色综合| 九九九九九九九九九国产精品| 中亚黄色三级大片| 人澡逼| 伊人991| 精品一区二区啪啪啪| 久久久久久久久成人av解说| 亚欧韩av| 开心五月激情网| 亚洲日韩一区电影| 久久一留热品黄| www.超碰| 99这里只有精品| 岛国精品视频在线观看| 青青11操操操操操操操操| 激情视屏国产乱伦强奸| 婷婷六月色开| 丰满人妻一区二区三区在线| 高潮内射在线| 久久久久久久久久久久久女过产乱-少妇高潮一区二区三区喷水-成人AV | 天天情欲宗合网| 黄色十八禁| 后入综合久久| 亚洲精品黑丝| 9久久久久| 亚洲超碰97| www.亚洲黄色| 国产久久视频| 97大色网| 国产久9| 欧美精品丝袜久久久中文字幕| 9九九国产| 欧美日韩大香蕉| 女上位精品在线| 久久亚洲欧美一区二区三区-亚洲国产精品第一区二区 | 日韩八十路老熟女| 97干在线视频| 免费看日产一区二区三区| 日韩亚洲精品一区二区| 中文字幕成人理论在线| 午夜天天碰综合视频| 青草香蕉网| 大香蕉在线SuP| 国产精品一区二区久久精品| 五月丁香激情综合| 超碰在线人妻不卡| 日韩天天本| 99视频自拍| 97色论| 日日躁狠狠躁天天躁精品| 欧美黑人极品高潮喷吹熟女黑人性暴力日韩在线欧美极品一区二区老师黑人潮喷一 | 麻豆黄站| 日韩精品亚洲专区在线影视| AV在线资源| 97人人爱人人做人人乐| 强乱老妇中文字幕| 国产探花精品在线| 欧美亚男人的天堂| 69视频入口| 激情抓乳插进去啪啪啪日韩| 黄页18禁| 青青草久草| 综合 欧美 亚洲 日本| 在线观看AV不卡| 久久久18禁| 日韩欧美日韩| 日韩欧美女优电影| 丁香九月婷婷| 人妻激情另类| 男人的天堂 在线一区| 亚洲福利影院一区久久| 中文字幕 人妻不满 在线视频| 欧美成人国产精品| 日韩美女操b| 国产农村妇女精品一二区| 日韩亚洲欧美中文字幕| 殴美,日韩国产伦精品| 男人的天堂视频精品乱在线| 国产在线视频二区| 97天天操天天干| 男人的天堂久久| 浓厚中出中文字幕在线| 亚洲色图加勒比| 欧美极品美女aaaaaa级黄片| 97色诱| 17c在线成人免费A片观看| 久久综合精品一区二区三区| 一区二区三区免费视频入口| 第45页一区二区| 夜夜爽夜夜爽| 中出789在线视频| 精品毛片av一区二区| 九草在线大香蕉| www.黄色在线| 激情文学亚洲| 女优视频第10页| 97色亚洲| 中文字幕,人妻,日韩| 亚洲一本色码中文字幕| 超碰99在线| 久久久久99999| 亚洲天堂区| 永久免费观看的毛片的网站| 中文字幕一区 二 区 三 四 五 区日 日 骚 | 天天澡天天爽日日AV| 精品妇女一区二区三区| 国产女s强制榨精视频| 极品后入免费视频| 精品视频久久久久九九九九9999| 欧美亚洲第一页| 爱妻综合网| 97人人射| 久操国产在线| 婷婷五月激情综合| 97人人夜夜精品视频| 天天干夜夜肏| 99热精品国产| 黄视频免费| 嗯嗯啊啊的视频| 另类天堂| 乱伦系列一区二区| 黑人免费福利视频| 97bbn| 91影库| 快播久久人人aV| 口爆欧美91| 亚洲欧美一区二区三区一猛片| 欧美色交| 亚洲永久永久永久永久一级一级一级精品 | 大香蕉中文网| 国产久久久久影院老熟女| 激情五月婷婷| 欧美日韩岛国大片在线观看| 国产精品伦理| 欧美日韩国产人人| 大香交伊人网| 操逼逼无码| 亚洲日韩视频二区| 后入式免费视频| www.男人天堂| 亚洲色情在线影视| 久久国产精品,久久国产| 资源在线观一 二| av无码av无码专区| 国产福利影视| 秋霞操逼片| 天美麻豆一区二区三区| 少妇精品久久久八区九区| a人欧美综合天堂麻豆| 久久综合激情| 午夜欧美女人操逼| 人人妻人射| 极品销魂美女一区二区| 1240青青草一区二区三区视频天爱| 在线免费试看60秒| 亚洲日韩乱码中文无码蜜桃臀网站| 精品久久一区二区三区四区五区| 日韩精品中文字幕二区| 久久AV无码网址| 大香焦A片| 亚91网| 亚洲午夜蜜臀| 五月天AV资源| 精品国产乱码久久久影院| 九九亚洲色在线观看| 操死我了嗯嗯嗯| 欧美A√综合网| 伊人国产视频| 日本最新1区2区3区| 91黑丝美女| 最新av在线| 国模不卡一本二本三电影| 夜夜嗷嗷一区二区| 亚洲色图欧美色图综合| 中文字幕在线免费观看 | 中日韩熟女| 一区在线精品中文字幕| 欧美色999| 国产无码成人无码| 亚洲 欧美 制服 另类 自拍| 亚洲av影音先锋| 蜜乳AV网址| 亚洲性爱无码乱伦av| 色色激情五月天| 丁香五月婷婷五月| 99热免费| 超碰国产情侣自拍网| 一区 欧美 日韩 麻豆| 九九热这里只有在线精品视 伊人草 成人菠萝蜜视频在线观看 | 97伊人网| 日本免费专区| 天天色悠悠激情| 最新亚洲风情电影| 超碰是碰在线观看| 狠狠超| 亚洲图片日本AⅤ欧美在线| 国产一区二区精品久久99| 日韩黄色成人性爱| 青娱乐 成人娱乐在线| 九九九九88| 97超碰资源网| 日日骚网站| 国产免费一区二区三区最新不卡| 三级片大波波| 亚洲蜜臀精品视频久久| 啪啪免费| 好湿好紧好爽 视频| 神马久久久久久久久久| 精品无码少妇| 超碰在线99| 99re只有精品| 欧洲综合色| 18啪啪手机免费性爱| 五月天综合网| 九九九九九九九九九九九蜜桃| 欧美99999| 亚洲成a人片在线观看中文!!!| 五月婷在线| 老女人碰碰在线碰碰视频| 一区二区三区麻豆| 免费精品福利在线观看| 伊人精品视频| 中文字幕精品免费一区二区| 欧美一级特黄淫片在线观看| 婷婷四五区| 亚洲欧美日韩中文久久自慰| 国内精品嫩模A∨私拍小视频| 人人干人人搞人人摸| 精品无码久久久| 四季av一区二区凹凸精品小说| 极品欧美一区二区三区| 高树玛利亚无码流出| 久久丝袜| 九九色综合| 亚洲综合情色| 岛国视频免费在线观看| 国产熟女精品区| 欧美第一页| 久久久98网站免费视频| 久久亚洲日韩熟女精品| 67914亚洲精品| 中出91视频| 91爆操视频| 媚薬在线视频麻豆| 老熟女乱子伦中文字幕一区二区| 97在线精品| 中文字幕乱偷人妻久久艾草网| 国产Av超碰| wwe 天天干.com| 国产精品一区二区手机看片| 国产白领连续中出在线观看| 欧美十八禁视频| 夜夜操天天肏| 精品成人动漫一区二区| 蜜臀无码一区二区| 国产成人无码网站在线视频| 亚州欧美在线| 午夜人妻精品综合在线| 日韩少妇无码| 97se综合网| 日韩一级性爱无码| 亚洲AV人人澡人人爱| 国产欧美日韩精品中文| 99日视频在线免费| 天天综合色| 亚洲欧美电影| 在线天堂999| 性久久久| 啊啊啊轻点在线观看| 视频分类 国内精品| 久久精品女同亚洲女同13| 超碰在线人妻| 黄色无码高清黄色无码网站| 国产熟女精品区| 久久成人国产| 久久在肏| 欧美中文狠| 国产精品成人蜜臀AV在线| 国内毛片四区| 啊啊啊啊啊操我视频| 377p欧洲日本亚洲大胆| 东北女人性交| 欧美老妇女内射网址| 国产操偷| 精品人妻一区二区三区日产| 久久超碰大香蕉| 久久久精品成人国产| 色悠久| 伊人久久大香线综合无码| 狠狠色噜噜狠狠狠狠狠色综合久久| 亚洲欧美内射| 综合网~91综合网| 亚洲AV永久无码一区仙野| 天天拍夜夜| 神马久久69| 婷婷五月花| 无码人妻精品一区二区中文| 美欧色综合| 老女人老91妇女老热女| 丝袜夫妻自拍| 毛片电影一区二区三区| 不卡av在线中文字幕| 99re这里只有| 91热热色| 亚洲好色人妻| 日本精品一级二级三级| 国产美女91| 色女99一级片在线观看| 中文字幕在线观看丝袜| 免费操逼视频下载| caoni国产亚洲av| 久久狠狠色噜噜狠狠狠狠97| 久久黄黄黄| 伊人aaa| 男人天堂.AB| 久草大| 午夜福利在线合集| 欧美一二三级精品在线| 富女玩鸭子一级毛片| 欧日韩一二三f区| 天天操美美| 九九热五区| 人妻天堂综合网| 亚洲国产成人高清在线| 乱伦av麻豆| Av手机版天堂网| 国产精品人妻无码久久久互動交流 | 五月天婷婷社区| 九九自拍伦理| 亚洲天天影视综合网| 天美av在线观看| 激情网五月天| 蜜桃色色网站视频三区| 日韩三级一区 | 欧美,亚洲,日韩,v,天堂,手机在线观看 | 人人摸人人干| 日本天天吊| 九九99久久| 精品亚洲国产成人AV制服丝袜 | 97啪啪| 嫖老熟女A片一二三区| 青青久久手机线视频| 日韩 国产 欧美自拍| 97天堂| 亚洲无992tv| 97色色色| 内射老妇BBWX0C0CK| 最新av中文字幕高清| 亚洲伊人久久综合97| 家庭乱伦麻豆| 激情抓乳插进去啪啪啪日韩| 久久久久久日韩| 久久精品毛片免费不卡| 国产激情av女片自拍| 国产成人www免费人成看片| 亚洲欧洲日韩国产自在线| 久久精品国产72国产精品福利| 91在线精品| 婷婷色播婷婷| 日韩二三区| 日韩精品操少妇| 校园春色宗合网| 久久久九九| 夫妻日逼| 亚洲无码超碰免费| 國產尤物AV尤物在線觀看| 大香蕉520| 97九色人妻| 大肉棒导航| 18精品一二区| 这里只有精品视频在线观看麻豆| 免费av大片| 亚洲 综合 欧美| 久久久久久波多野吉衣高潮| 国产91 丝袜在线播放 | 亚洲欧美一区二区三区一猛片| 91chinese在线| 青青草在线成人视频| 手机午夜电影神马久久| 国产精品婬乱一级毛片彝族| 91neishe| 男人的天堂日韩| 亚洲激情视频| 国产呦精品一区二区三区下载| 色色亚洲| 九九av| 欧美后入| 曰韩成人免费视频| 久久一二三四不卡| 69麻豆天美| 亚洲日韩美女中文字幕乱| 久久,精品一二三| 嗯嗯啊啊好大好爽| 色视频蜜乳| 欧美日韩第一页| 久久欧洲| 操逼无码操逼| 日本三级小说中文字幕| AV色女综合| 天天看天天在线精品| 国模一区二区三区| 色九色久| 日本色色色视频| 台湾肥佬网一区二区三区| 91爽啪| 久久欧洲| 欧美色图欧美| 国产三级片在线观看| 91亚州欧美| 97人人操人人摸人人爱| 国产亚洲日本精品在线| 99精品网| 国产成人精品日本视频| 久久美女国产| 欧美成人性爱视频在线播放| 妇女视频网站| 香一区二区三区| 欧美在线视频播放| 欧美一二三级精品在线| 四虎影库国产精品免费| 亚洲资源吧| 自拍偷拍 日韩无码| 青女在线| 影音先锋每日最新资源在线观看| 国产久久一区二区午夜| 日韩内| 女人高潮抽搐喷水视频网站| 亚洲在钱| 久久九九网| 男人的天堂VA| 久久久无码国精品无码三区三区| 国际精品久久久| 九九激情网| 久久久久99999| 91久热这里只有精品| 国产精品久久久久久久久久久久久久| 国产精品久久久久av| 九九热re99re6在线精品| 91一区二区| 国产强奸无码乱伦| 白丝少妇一区二区| 色情综合| 欧美日韩国产成人高清| 91黑丝美女| 日本网色| 男女啪啪啪18禁网站| 国产亚洲美日韩Aⅴ中文字幕无码成人| 精品国产一区二区三区久久久蜜臀| 中文字幕国产在线天堂| 99色日| 九九RE视频在线精品| 国产精品久久久久婷婷二区次| 久久综合18p| 秋霞蝌科网日本一区| 91视频综合| AV中文字幕剧情1区2区3| 亚洲欧美精品91| 亚洲无码成人精品| 黄页网站成人免费| 操逼操逼操| 精品97久久| 91三级理论片播放器| 亚洲区限制级| 国产一区二区三区精品观看啪| 欧美亚洲厕所精品偷拍91| 精品久久久久久亚洲| 9久久精品| 亚洲欧洲综合视频在线| 国产精品免费视频人成| 中文字幕免费看大片| 91熟女在线| 男人的天堂2018东京热啪啪啪| 26uuu国产成人综合| 家庭乱伦国产精品| 日本黄色精品专区网站| 亚洲色图欧美| 一区二区三区一亚洲中文字幕、综合区灬| 国产福利精品最新在线| 五月天欧美色图| 东京热综合久久一区二区| 国产女同在线观看视频| 欧美人妻熟女在线| 激情婷婷五月天| 婷婷丁香六月| 玖玖综合色| 老女人综合| 亚洲综合草草| 91人妻人人澡人人爽人人精品| 亚洲成人久久美女| 丁香六月婷| 国产精品色色| 久久久久密臀视频| 神马午夜久久久| 91成人18| 色婷婷亚洲婷婷| 欧洲一区二区三区四区在线观看| 大香蕉青青9| 亚洲av国产av综合av卡| 成人影院永久免费观看网址| 一起草日韩| 国内精品伊人久久久久影院会| www…国产操逼| 98一区二区精品| 男人网站婷婷| 妇女乱色二区| 国产午夜精品理论片a大结局| 26UUU欧美日本| 久久精品性| 99爱久久视频频| 一级免费精品| 岛国片在线播放| 色色热| 国产热av| 国产亚洲精品精AV.| 99热成人| 99re在线视频这里只有精品| 亚洲欧洲日本精品中文a∨| 久久精品99| 天天影视之亚洲综合网| 亚洲精品白浆高清久久久久久| 色婷婷基地| 97国产中文| 亚洲少妇综合在线播放| 欧亚第一综合网| 亚洲91网| 九九天堂| 97免费在线观看| 中文激情网| 少妇色欲综合网2| 国产操偷| 好爽要喷了| 一级性爱aaaa| 天天综合网亚洲综合网| 色乱二区| 久久精品99| 久久一区二区三区入口| 超碰偷拍| 免费夜夜爱黄色视频毛片| 亚洲精品国产拍免费91在线| 激情久久av一区av二区av| 941超碰| 国产精品久久久久久久久AV大片| 少好三P| 亚洲欧美日韩综合在线尤物 | 欧美色一二三| 国产第25页在线观看| 色色五月天激情| 午夜男人一级A片7777| 韩国女主播青草福利视频| 肉丝中文无码高清| 久久精品国产99国产精品亚洲| 国产亚洲色婷婷久久99精品91葵花宝典| 三上悠亚在线毛片91| 97国产精选| 97在线观看免费视频l| 60秒免费小视频| 啪一啪免费视频| 裸体1区| 国产亚洲精品无码三区| 色色福利| 日韩在线97| 酒色综合网| 欧美一区二区三区蜜桃| 日韩三级天堂在线观看| 91欧美| 一级性爱aaaa| suv精产一二三区| 久久人妻少妇| 亚洲综合网电影91| 婷婷丁香五月天综合东京热| 91 丝袜在线播放| 干美女人妻| 亚洲在高跟鞋自慰久久在色线| 国产精品午夜高潮呻吟久久av| 欧美黑人极品高潮喷吹熟女黑人性暴力日韩在线欧美极品一区 | 二级久久网| 中文高清一区二区的| 日韩成人大片一区二区| 91影库| se吧提供国产乱老熟视频胖女人| 99草精| 乱码人妻一区二区三区| 久久內射| 欧美精品双插| 久久亚洲人妻| 91九九九逼| 欧美情色贴图| 岛国人妻少妇av在线观看| 麻豆久久久久久久久丝袜| 欧美美女自慰一区二区三区| 亚洲综合五月天| 五月天成人综合| 噜噜在线| 国产av青草| 成人熟女区| 欧美色图片欧美色图| 四虎影视国产精品| 揉揉日日日日| 国产成人超碰在线| 黄色大片免费在线| 国产精品成人福利在线| 亚洲欧美国产成人综合不卡| 成人福利视频网| 久久人妻办公室视频| 天天操女人| 久神马| 欧美九九九| 欧美Ⅴ性爱| 国产中文字幕曰本毛片| 色五月激情综合网| 一牛一区二区三区久久| 久久青娱乐| 日韩偷拍一区二区三区| 青娱乐欧美激情一区二区| 亚洲砖码砖专无区2023| 国产精品青青草| 亚洲综合精品国产一区| 加勒比五月天| 日韩精品三区四区| 99综合免费视频| 婷婷中文网| www.久久制服糖| 色与欲影视| 97天堂| 一区| 国产熟女乱论| 亚洲综合贴图91| 国产一区二区a毛片| 九九九九欧美| 在线日韩日本亚洲国产| 日韩欧美性爱电影在线观看| 操逼天美3区| 亚洲男人的天堂网| 久久精精区一区二区一蜜桃一区二区| 99只有精品| 婷婷综合五月| 激情自拍 校园春色| 高清成年美女黄网站免费大全| 日日爱99| 无码直播久久久| 91亚洲欧洲| 亚洲 日本 国产 综合| 亚洲清纯唯美| 1人人看人人摸人人操| 嫩草伊人久久精品| 91影库| 久草男人天堂| 久操网视频| 91男同| 久热9| 亚洲国产成人精品女人久久久| 亚洲国产日韩欧美熟妇在线| 好涩综合| 三级片大波波| 一级黄色性爱A级片| 亚洲精品蜜桃久久久| 亚洲日本成人动漫| 精品性爱| 久久久久久久久久久久九| 久久 国产精品 一区| 少妇久久久久久久| 青青草视频导航官网| 另类一区| 99精品国产户外露出| 亚洲的天堂网| 97色色网| 国产欧美岛国精品一区| 亚欧美综合网| 天天躁狠狠躁av| 人妻少妇久久久| 男人天堂黄片| 精品九九九九| 久久中文字幕人妻熟av女蜜柚| 亚洲天堂人妻一区二区| 日本免费人成视频播放120秒| 99超碰碰| 超碰97在线色男人??| 一区二区三区精品黑丝白丝酒店对鸡| 秋霞一级鲁丝片A片| 日韩欧美三级| 国产乱子伦一区二区三区免看| 黄色污污污污污污网站| 狠狠爱综合| 精品人妻一区二区视频| 51国产午夜精品视频| 中文久久久| 天美av在线| 久久久久久免费电影| 久久精品电影| 精品综合久久久久久97| 久久久专区| 嫩草影院永久在线制服丝袜| 久久亚洲天天做| 亚洲第一页欧美| 视频在线观看一二三区| 欧美色三级片91| 国产天天骚| 嗯……啊…嗯嗯…啊…好舒服| 欧美夜夜狠| 啊啊啊啊啊啊啊啊要喷了| 亚洲偷91色| 精品中文字幕一区二区l - 百度| 亚洲AV在线资源| 新版天堂中文资源8在线| 日本五区不卡| 一区黄二区黄| 日韩激情电影中文字幕| 性爱综合一区二区| 五月激情影院| 久久久久无码| 综合自拍| 国产精品免费视频人成| 有码人妻系列| 1204金沙人妻懂旧版免费| 东京成人一区| 天美传媒国产原创中文字幕亚洲欧美另类| 18精品一区| 啊视频在线| 女人喷水视频在线观看| 日韩久久超碰色| 十八禁视频网站| 精品九九九九九| 欧美的性爱网站免费| 亚洲成a人片在线观看中文!!!| 在线观看AV片| 99热网站| 亚洲熟久久| 天天躁日日躁XXXXYY| 无码不卡八戒| 天堂俺去俺来也www久久婷婷| 国产JDAV无码视频在线观看| www.大香| 丁香五月性| 欧美一区二区情色| 狠狠2050在线观看| 超碰超碰超碰超碰的大鸡吧操黑丝袜| 伊人骚琪琪亚洲天堂网站| 狠狠婷婷亚洲中文综合久久| 国内精品久久人妻性色av| 黑人嘿嘿嘿超爽免费视频| 丁香久久| 国产白丝在线| 欧美宗合网| 天天射天天| 欧美一级做a爰片免费视频| 人人操av| 日本男人插女人的逼黄色| 91痴汉| 日韩精品在线视频,日韩精品……| 天天操人人操狠狠插| 97综合在线| 75大香蕉| 欧美97在线欧| 性爱乱伦网址| 美女啪欧美一区| 中文字幕视频在线观看| 一级片在线观看高清无码| 大香蕉97久久| 欧美综合狠| 亚洲天天做日日做天天谢日日| 日本欧美国内在线| 九九九影院| 欧美v日韩v亚洲v最新在线| 久久精视频美日韩在线视频| 91偷拍欧美亚洲| www欧美91| A片三级无码| 久久亚洲熟妇在线视频| 久艹日日日| 亚洲无码一区二区三区三州| 色色99| 3PAV乱伦视频| 色色婷| 男人成人黄色视频在线观看免费下载| 香蕉国产精品麻豆亚洲欧美日韩| 久久女婷| 色婷婷日韩精品一区二区三区| 亚洲国产欧美另类自拍| 91九色丨国产丨爆乳| 91精品老女人| www.婷婷五月天| 欧美日综合| 国语对白在线播放视频| 高清肉丝中文无码| 92性色国产午夜福利在线661 | 欧美人人天天网| 天天看精品动漫视频一区| 素人播放一区| 97免费视频在线| www.婷婷五月天| 97资源站国产精品| 久热久| 中国韩国明星一极片一区乱码毛片人妻熟女一区二区三区 | 曰韩av中文字幕专区| 91国产在线精品| 91午夜无码| 欧美成人综合| 在线a v| 精品美女久久一二三| 久久黄色性爱视频| 亚洲性少妇| a天堂视频| 欧美色道啊| 亚洲五月婷婷| 国产精品欧美在线观看| 一区二区三区四区色图| 不卡日本一区二区| 日韩熟女精品无码专区一区二区 | 十八禁电影伊人网| 免费看A片毛毛片在线播| 欧美在线综合| 桃花色涩综合影院| 亚洲精品91| 性色avv| 八戒午夜福利理论片| 日韩欧亚中文在线| 久久久精品视频免费观看| 日本国产二线女色| 99这里有精品| а√天堂资源官网在线资源| 亚洲美女 晚间男人天堂 | 五月丁香影院| 亚洲欧美日韩偷拍色图| 欧美熟妇人体| 日韩激情啪啪| 91老熟女| 好吊爽好吊爽在线视频,中文字幕精品一区二区日本,国产良妇出轨视频在线观看, | 抽插一区二区视频| 玖玖人人爱| 成在线人在线观看视频| 亚洲久草AV色图| 久久国产三区| 久久社区一区二区三区| 91少妇高潮| 大香蕉中文aV在线| 色官网在线| 亚洲熟妇一,二,三期| 亚洲熟女乱综合一区二区三区| 操一区| 91精品亚洲内射孕妇| 久久r精品| 国产人伦精品一区二区三区 | 国产精品一二三| 久久婷婷国产一区二区色| 97在线精品观看视频| 午夜噜噜噜| 欧美一区二区三区大综合| 欧美日韩性爱操大逼| 国产9区| 久久超碰av在线| 内射日韩大臀美女| 日韩女模中文造逼| 以及麻豆国产入口在线观看免费| 性高潮久久久| 亚洲天堂自拍| 人妻少妇精品一区二区三区| 黄片免费看的| 老司机福利青青草| 中文字幕国产| 91丨精品丨国产丨丝袜| 激情图片伦理国产一区二区日韩| 囯产乱伦一区二区三女| 欧美激情性久久久久久| 久草免费在线视频| 蜜臀久久99'精品久久久| 九九热免费在线国产视频伊人五月| 亚洲精品日日夜夜52| 两女互慰AV高潮喷水在线观看| 97超碰香蕉| 四虎影视国产精品| 超碰97久久国| 欧美性区| 啊啊啊 在线观看| 五月天开心网| 日韩性爱播放| 免费看A片毛毛片在线播| 亚洲av国产av综合av卡| 91青青草| 久热最新在线杭州| 色吊丝 日日骚 清纯唯美| 97超碰超欧美。| 国产性爱欧美性爱在线| 久久久久久久久久久久久久久乱码| 精品久久一区二区三区四区五区| 亚洲欧美日韩夜夜| 亚洲综合一区二区| 性色av网站| 黄色小视频日本txt| 99国产在线 精品 视频| 特级特黄一级毛片免费| 亚洲另类欧美精品| 欧美性爱第一页久久| av一区二区三区不卡| 精品一级毛片在线观看| 久久精品国产亚洲5555| 亚洲福利影院一区久久| 日韩性爱一级片| 亚洲欧美综合| 欧美精品成人一区二区在线观看 | aⅴ日韩成人电影av在线免费看av大全 | 国产又黄又爽又刺激久久久久久| 蜜臀久久99精品久久久久久无删减| 91性网| 中文字幕在线免费观看| 精品无吗m| 试看60秒 爽| 日韩电影在线观看网址| 日韩激情电影中文字幕| 欧美日韩午夜精品一区二区三区| 国产偷人伦激情在线观看| 香蕉欧美| 日逼逼免费看| 日韩av不卡在线看| 综合免费无码中文| 欧美一级特黄淫片在线观看| 日韩精品 视频一区二区| 中日亚韩免费视频| 日韩中文字幕在线视频观看| 大香蕉黄色一区| 欧美激情精品久久久| 人澡逼| 精品夜夜澡人妻无码AV| 国产精品国产精品国产| 色色色日本| 国产熟女免费观看久久| 亚洲欧美中文日韩视频中国语| 亚洲麻豆精品二区三区| 亚洲色图 欧美热图 清纯唯美 另类自拍 | 亚洲熟女乱色| 麻豆一区在线| 新91视频.cmp| 国产日韩精品suv| 黄片com.| 3571色综合一区二区二区| 色综合加勒比四四季| 中国的操老妇女| 久久系列| 色狠狠 - 百度| 99在线精品视频| 国产综合久久久鬼色| 国产三级中文字幕粉嫩| 婷婷伊人五月| 欧美人妻一区| av在线人气 | 久久久18| 欧美熟女妇同| 男人的天堂1024| 亚洲 自拍偷拍 欧美| 大香蕉AV在线| 久9久9精品| 超碰色图| 欧美亚洲日本视频久久久| 无码人妻一区二区一牛影视| 97视频在线视频| 91精片| 九九性爱网| 九九九九日本 | 伊人久久综合影院精品久久久| 国产成人无码高清| 吉田爱美AV在线| 另类欧美色| 岛国艾薇凹凸视频天堂| 久久天天摸| 日韩91网| 人人操人人摸人| 美腿丝袜高跟网免费视频免费视频| 四虎影视欧美| 久久一区二区三区入口| 久草资源在线视频官方总站日韩丝袜美腿 | 99蜜桃臀久久久欧美精品网站| 超碰人妻久久| 亚洲一区二区精品福利| 色诱avtt| 精品久久久av无码免费| 色婷婷av在线观看| 亚洲 无码 有码 中文字幕| 国产乱伦亚洲色图高清无码| 色九九综合| 无码男人天堂| 国产亚洲欧美每日在线| 国产suv精品一区二区四区999| 国产久9| 亚洲无码AV九九九| 日韩欧美偷拍美女视频| 国产精品不卡一区二区电影| 久久一二三四五六七八九区区区| 久久久久久久久久久精| 中文字幕123| www.男人天堂| 亚洲成人性| 欧亚第一综合网| 久久久精品中文字幕爱豆| 久热伊人99re| 秋霞色色影院| 人妻出轨一区二区三区| 91春色| 极品白嫩福利在线| 日本阿v天堂在线观看| 91N欧美| 日韩97P| 婷婷四五区| 加勒比综合| 啪啪视频mP4| av亚欧| 色999偷自拍拍| 囯戸精品高潮呻吟旡码| 97国产天堂岛| 国产精品麻豆视频网站| 久久成人午夜狠狠| 国产久久久久久久久一区二区| 91日韩网站| 韩日精品四区| 人人弄人人摸| 久久久久ab| 这里只有精品视频在线观看麻豆| 97网址97| 国产精品久久伊人| 婷婷激情四射| 九九九九九九亚洲| 人妻干天天| 亚洲中亚日激情视频| 2018色综合天天操| 午夜爽爽爽| 亚洲精品天天影视综合网 | 亚洲熟妇自偷自拍另欧美| 亚洲啪啪综合?v一区综合精品区| 大香蕉十区| 免费精品中文字幕| 亚洲做性| 天天插天天舔舔天天干| 成人a级高清视频在线观看| 嗯嗯啊啊的视频| 五月婷婷六月天| 老外又粗又长一晚做五次| 丝袜色综合| 91精品综合久久久久久五月丁香| 狠狠婷婷亚洲中文综合久久| 一本大道综合伊人精品热热| 亚洲欧美精品福利在线| 另类图片天天影视| 粉嫩久久久久| 夜夜嗨一区二区| 亚洲精品一二区| 欧美激情1区| 97碰碰日本乱偷人妻中文的| 亚洲成人综合在线| 日韩黄色片子| 亚洲色图 91| 欧美美女在线高潮999| 超碰人人超在线观看| 国产一级内射高清视频| 天欧美在线| 麻豆AV一区二区| 91人人臊| 国产一级137片内射麻豆| 中文字幕乱妇免费视频| 成人天天看站长推荐| 九九在线精品| 97国产高清视频在线观看| 91成人无码| 少妇久久久免费| 成人日韩中文字幕| 99热久| 亚洲精品第一| 日本爽爽爽爽爽爽免费视频| 亚洲精品九九九九九九| 夜夜騷av、一區二區| 91欧美| 懂色AV蜜臀无码精品APP| 国产无码久久高清| 久草看看看| 国产精品久久久久久9999| 精品人妻一区二区三区-国产精品 一个人在线看的黄色电影网站 | 懂色Av| 久久精品28| 肉丝中文无码高清| 日本999精品| 欧美亚洲国产自久久| 人妻AV 中文字幕的| 亚洲码专区| 动漫区日韩区欧美区| 久久久蜜桃一区二区三区| 极品白嫩美女白浆成人福利在线看| 涩综合导航| 中文字幕蜜乳av| 色欧美亚洲| 97这里有精品| 欧美黑人与女人91| 久久精品日韩专区免费观看| 欧洲精品人妻| 91处女视频在线观看| 东北女人| 极品少妇99| 久草婷婷| 麻豆精品A片免费观看| 日本免费不卡二区| 久久大香蕉手机高清| 精品区9| 国产av白丝| 啊啊啊com| 日本美女性生活久久久久久久| 精品一区二区啪啪啪| 91熟女熟妇视频网站| 天天操狠狠日夜夜干超碰撸com视频在线观看 | 国精品一区二区三| 国产性感在线观看| 久午视频| 91n欧美| 蜜臀久久99精品久久久久久无删减| 东京热,男人的天堂| 97亚洲中文| 碰碰97| 久久这里只精品免费福利| 日韩免费福利在线观看| 亚洲国产av中文字幕久久| 亚洲AV成人无码一二三久久|