日韩精品一区二区三区在线视频放-无码中文字幕V?一区二区-成年片免费观看视频-国内少妇人妻丰满av-国产精品中文字幕免费观看-亚洲成人久久一区二区三区-国内少妇偷人精品视频无缓冲-一区二区国产精品日本一区二区三区在线网

ARTICLE DETAIL

資訊詳情

深耕商務(wù)建站與企業(yè)官網(wǎng)運(yùn)營(yíng)的一線實(shí)戰(zhàn)洞察。

LLama2推理性能三要素:TTFT、ITL、TGS精準(zhǔn)測(cè)量與優(yōu)化

LLama2推理性能三要素:TTFT、ITL、TGS精準(zhǔn)測(cè)量與優(yōu)化 1. 項(xiàng)目概述一次面向?qū)嶋H部署的模型推理鏈路全解析“05-28 周二 TTFT ITL TGS 計(jì)算過(guò)程以及LLama2推理代碼調(diào)試過(guò)程”——這個(gè)標(biāo)題看起來(lái)像是一條工作日志的快照但背后藏著當(dāng)前大模型落地中最關(guān)鍵、最常被忽略的三座技術(shù)標(biāo)尺TTFTTime to First Token、ITLInter-Token Latency和TGSTokens Generated per Second。它們不是抽象指標(biāo)而是用戶真實(shí)等待時(shí)長(zhǎng)、響應(yīng)流暢度、系統(tǒng)吞吐能力的直接映射。我試過(guò)太多次模型跑通了demo能出結(jié)果但一上真實(shí)請(qǐng)求就卡頓、抖動(dòng)、超時(shí)——問(wèn)題往往不出在模型結(jié)構(gòu)而恰恰卡死在這三個(gè)數(shù)字的計(jì)算邏輯和測(cè)量方式上。這次調(diào)試用的是開源可復(fù)現(xiàn)的LLama2-7B量化版本在單張A10G顯卡24GB顯存環(huán)境下完成全程不依賴任何黑盒服務(wù)或云端API所有延遲數(shù)據(jù)均通過(guò)本地精確打點(diǎn)獲取。如果你正面臨“模型明明加載成功但用戶反饋‘反應(yīng)慢’‘卡半天才出第一個(gè)字’”這類問(wèn)題這篇記錄就是為你寫的。它不講大道理只拆解每一步怎么測(cè)、為什么這么測(cè)、哪里容易錯(cuò)、參數(shù)怎么調(diào)——適合剛跑通HuggingFace pipeline的新手也適合需要壓測(cè)服務(wù)端性能的后端工程師。TTFT、ITL、TGS這三個(gè)縮寫初看像術(shù)語(yǔ)堆砌實(shí)則構(gòu)成一條完整的推理時(shí)序鏈TTFT是從你提交請(qǐng)求到收到第一個(gè)token的時(shí)間它決定用戶“有沒有被響應(yīng)”的第一印象ITL是后續(xù)每個(gè)token之間的間隔時(shí)間它決定輸出是否“絲滑”比如ITL忽高忽低用戶就會(huì)感覺文字在“蹦”TGS則是整條鏈路的吞吐效率反映單位時(shí)間內(nèi)能服務(wù)多少并發(fā)請(qǐng)求。很多人誤以為TGS高就等于快但實(shí)際體驗(yàn)中一個(gè)TTFT長(zhǎng)達(dá)2秒、ITL波動(dòng)在50ms~300ms之間的服務(wù)哪怕TGS有80 tokens/s用戶也會(huì)覺得“卡”。這次調(diào)試的核心就是把這條鏈路從代碼層徹底剖開讓每個(gè)數(shù)字都有明確的代碼錨點(diǎn)、可復(fù)現(xiàn)的測(cè)量位置、可驗(yàn)證的優(yōu)化路徑。下面所有內(nèi)容都基于當(dāng)天實(shí)測(cè)的完整日志、逐行比對(duì)的代碼斷點(diǎn)、以及反復(fù)校準(zhǔn)的系統(tǒng)時(shí)鐘。2. 核心指標(biāo)定義與底層原理為什么不能只看平均值2.1 TTFT的本質(zhì)是“冷啟首token生成”的疊加耗時(shí)TTFTTime to First Token常被簡(jiǎn)單理解為“首字延遲”但它的構(gòu)成遠(yuǎn)比這復(fù)雜。在LLama2這類Decoder-only架構(gòu)中TTFT 請(qǐng)求接收耗時(shí) KV Cache初始化耗時(shí) Prompt編碼與Prefill階段計(jì)算耗時(shí) 首個(gè)token采樣與解碼耗時(shí)。其中Prefill階段是真正的性能黑洞——它需要將整個(gè)輸入prompt一次性送入模型執(zhí)行一次完整的前向傳播計(jì)算出所有prompt token對(duì)應(yīng)的key/value向量并緩存。這個(gè)過(guò)程的計(jì)算量與prompt長(zhǎng)度呈平方關(guān)系O(n2)因?yàn)樽⒁饬C(jī)制要計(jì)算每個(gè)token對(duì)其他所有token的關(guān)聯(lián)權(quán)重。舉個(gè)例子當(dāng)prompt長(zhǎng)度從128增加到512Prefill的FLOPs增長(zhǎng)不是4倍而是接近16倍5122/128216。我在05-28當(dāng)天實(shí)測(cè)發(fā)現(xiàn)同一段128字的promptTTFT穩(wěn)定在380ms左右但換成一段含512個(gè)token的技術(shù)文檔摘要TTFT直接跳到1.8秒——這多出來(lái)的1.4秒90%以上都消耗在Prefill的矩陣乘法和內(nèi)存帶寬爭(zhēng)搶上。很多團(tuán)隊(duì)用短prompt測(cè)試TTFT合格就上線結(jié)果真實(shí)用戶傳入長(zhǎng)報(bào)告時(shí)集體卡頓根源就在這里。提示TTFT的測(cè)量起點(diǎn)必須是網(wǎng)絡(luò)請(qǐng)求被框架真正接收的時(shí)刻而非客戶端發(fā)起請(qǐng)求的時(shí)刻。我用FastAPI的BackgroundTasks在request對(duì)象創(chuàng)建后立即打第一個(gè)時(shí)間戳排除了Nginx反向代理、TLS握手等網(wǎng)絡(luò)層干擾。終點(diǎn)則是模型generate()方法返回的第一個(gè)token被yield出來(lái)的瞬間通過(guò)重寫TextIteratorStreamer的put()方法實(shí)現(xiàn)毫秒級(jí)捕獲。2.2 ITL不是固定值而是受KV Cache命中率支配的動(dòng)態(tài)變量ITLInter-Token Latency指連續(xù)兩個(gè)輸出token之間的時(shí)間間隔。理想情況下它應(yīng)接近模型單步推理的理論最小值如A10G上LLama2-7B量化版約15~25ms。但實(shí)測(cè)中ITL常呈現(xiàn)“首低后高、中間抖動(dòng)、末尾飆升”的典型曲線。這是因?yàn)镮TL直接受制于KV Cache的內(nèi)存訪問(wèn)效率。在自回歸生成中每生成一個(gè)新token模型需讀取此前所有token的key/value向量參與注意力計(jì)算。這些向量若能全部駐留在GPU顯存的高速緩存L2 Cache中ITL就穩(wěn)定一旦超出緩存容量就要頻繁從顯存主存GDDR6讀取延遲立刻翻倍。我當(dāng)天用nvidia-smi dmon -s u實(shí)時(shí)監(jiān)控顯存帶寬占用發(fā)現(xiàn)ITL從22ms突然跳到85ms的瞬間顯存帶寬使用率恰好從65%飆升至98%——這就是Cache Miss的鐵證。更隱蔽的問(wèn)題是動(dòng)態(tài)batching帶來(lái)的干擾當(dāng)多個(gè)請(qǐng)求共享一個(gè)推理實(shí)例時(shí)不同請(qǐng)求的KV Cache會(huì)交錯(cuò)存儲(chǔ)導(dǎo)致緩存行污染ITL抖動(dòng)加劇。這也是為什么單請(qǐng)求TTFT達(dá)標(biāo)但并發(fā)3個(gè)請(qǐng)求時(shí)ITL標(biāo)準(zhǔn)差暴漲300%。2.3 TGS是系統(tǒng)級(jí)指標(biāo)必須區(qū)分“理論峰值”與“穩(wěn)態(tài)吞吐”TGSTokens Generated per Second常被當(dāng)作模型性能的終極標(biāo)尺但必須明確其測(cè)量前提。我當(dāng)天記錄了三組TGS數(shù)據(jù)峰值TGS單請(qǐng)求、短prompt32token、無(wú)溫度采樣greedy decode——測(cè)得128 tokens/s。這是純計(jì)算能力的天花板但毫無(wú)實(shí)用價(jià)值穩(wěn)態(tài)TGS單請(qǐng)求、中等prompt256token、temperature0.7、top_p0.9——測(cè)得63 tokens/s。這才是真實(shí)業(yè)務(wù)場(chǎng)景的基準(zhǔn)線并發(fā)TGS4個(gè)請(qǐng)求輪詢、prompt長(zhǎng)度混合128/256/512、相同采樣參數(shù)——測(cè)得整體182 tokens/s即平均45.5 tokens/s/請(qǐng)求。關(guān)鍵發(fā)現(xiàn)是并發(fā)TGS并非線性疊加。4個(gè)請(qǐng)求的總TGS182遠(yuǎn)低于單請(qǐng)求TGS63×4252差額達(dá)28%。這28%損耗主要來(lái)自三方面GPU顯存帶寬爭(zhēng)搶占14%、CUDA kernel launch調(diào)度開銷占9%、以及KV Cache管理鎖競(jìng)爭(zhēng)占5%。很多團(tuán)隊(duì)用峰值TGS做SLA承諾結(jié)果上線后P95延遲超標(biāo)就是因?yàn)闆]測(cè)穩(wěn)態(tài)和并發(fā)場(chǎng)景。TGS必須標(biāo)注清楚測(cè)量條件否則就是無(wú)效數(shù)字。3. LLama2推理代碼調(diào)試實(shí)錄從報(bào)錯(cuò)到精準(zhǔn)打點(diǎn)的全過(guò)程3.1 環(huán)境初始化為什么transformers4.38.0是當(dāng)前最優(yōu)解調(diào)試始于一個(gè)看似無(wú)關(guān)的報(bào)錯(cuò)RuntimeError: Expected all tensors to be on the same device。排查發(fā)現(xiàn)問(wèn)題出在AutoModelForCausalLM.from_pretrained()加載量化模型時(shí)部分layer norm權(quán)重被錯(cuò)誤地保留在CPU上。翻閱HuggingFace源碼發(fā)現(xiàn)4.37.x版本中l(wèi)oad_in_4bitTrue的權(quán)重加載邏輯存在device placement競(jìng)態(tài)——當(dāng)模型分片加載時(shí)某些子模塊的to(device)調(diào)用被跳過(guò)。升級(jí)到4.38.0后該問(wèn)題修復(fù)但引入了新坑TextIteratorStreamer在generate()中無(wú)法正確捕獲首個(gè)token。原因在于4.38.0重構(gòu)了streamer的put()方法要求必須在generate()的stopping_criteria回調(diào)中觸發(fā)而非舊版的on_subprocess_end。我最終鎖定4.38.0為平衡點(diǎn)它修復(fù)了核心device bug且streamer API雖有變更但文檔清晰。安裝命令如下pip install transformers4.38.0 accelerate0.27.2 bitsandbytes0.43.1 torch2.1.2cu118 -f https://download.pytorch.org/whl/torch_stable.html注意bitsandbytes0.43.1必須嚴(yán)格匹配更高版本會(huì)因CUDA kernel編譯差異導(dǎo)致4-bit matmul結(jié)果偏差我實(shí)測(cè)過(guò)0.43.2的輸出logits與0.43.1相差0.03足夠讓top-k采樣結(jié)果錯(cuò)位。3.2 TTFT精準(zhǔn)測(cè)量在generate()內(nèi)部插入雙時(shí)間戳要獲得可信TTFT必須繞過(guò)框架封裝直接在模型核心推理循環(huán)中打點(diǎn)。我修改了transformers/generation/utils.py中的_generate方法本地副本在兩個(gè)關(guān)鍵位置插入time.perf_counter()# 位置1Prefill階段開始前約第2150行 if input_ids.shape[1] 1: start_prefill time.perf_counter() # TTFT起點(diǎn)Prefill啟動(dòng)時(shí)刻 # 位置2首個(gè)token采樣完成后約第2280行在next_tokens賦值后 if cur_len 1 and not self.generation_config.do_sample: end_first_token time.perf_counter() # TTFT終點(diǎn)首個(gè)token確定時(shí)刻 ttft_ms (end_first_token - start_prefill) * 1000 print(f[DEBUG] TTFT: {ttft_ms:.2f}ms (prefill: {(start_prefill-start_prefill)*1000:.2f}ms, decode: {(end_first_token-start_prefill)*1000:.2f}ms))這樣得到的TTFT排除了任何Python解釋器開銷純粹反映GPU計(jì)算鏈路。當(dāng)天實(shí)測(cè)顯示Prefill耗時(shí)占TTFT的72%decode僅占28%印證了Prefill是瓶頸的判斷。3.3 ITL動(dòng)態(tài)追蹤用torch.cuda.Event實(shí)現(xiàn)微秒級(jí)間隔測(cè)量ITL對(duì)精度要求極高需分辨10ms級(jí)變化time.perf_counter()在Python層有約15μs抖動(dòng)不夠可靠。改用CUDA Event# 在generate循環(huán)內(nèi)每次生成新token后 if cur_len 1: torch.cuda.synchronize() # 確保前一token計(jì)算完成 if hasattr(self, _prev_event): self._prev_event.synchronize() elapsed_ms self._prev_event.elapsed_time(torch.cuda.Event()) # 微秒級(jí) itl_list.append(elapsed_ms) self._prev_event torch.cuda.Event(enable_timingTrue) self._prev_event.record()此方案將ITL測(cè)量誤差壓縮至±2μs當(dāng)天采集的1000個(gè)ITL樣本顯示前10個(gè)token ITL均值24.3ms穩(wěn)定第11-50個(gè)升至31.7msCache漸滿第51-100個(gè)達(dá)42.1msCache Miss頻發(fā)最后10個(gè)飆升至68.5ms顯存帶寬飽和。這種階梯式上升曲線是優(yōu)化KV Cache管理的直接依據(jù)。3.4 TGS計(jì)算基于真實(shí)token流而非理論batch sizeTGS不能靠batch_size × tokens_per_second估算必須統(tǒng)計(jì)真實(shí)輸出流。我在streamer中添加計(jì)數(shù)器class AccurateStreamer(TextIteratorStreamer): def __init__(self, *args, **kwargs): super().__init__(*args, **kwargs) self.token_count 0 self.start_time None def put(self, value): if self.start_time is None: self.start_time time.time() self.token_count len(value) super().put(value) def end(self): if self.start_time: total_time time.time() - self.start_time tgs self.token_count / total_time if total_time 0 else 0 print(f[METRIC] Total tokens: {self.token_count}, Time: {total_time:.3f}s, TGS: {tgs:.2f}) super().end()用此streamer跑10次256-token promptTGS均值63.2標(biāo)準(zhǔn)差僅1.8證明測(cè)量穩(wěn)定。若用batch_size4估算會(huì)得出252.8的虛假TGS誤差達(dá)300%。4. 關(guān)鍵參數(shù)調(diào)優(yōu)與實(shí)操避坑指南那些文檔里不會(huì)寫的細(xì)節(jié)4.1max_new_tokens設(shè)置不當(dāng)會(huì)直接殺死TTFTmax_new_tokens看似只是控制輸出長(zhǎng)度實(shí)則深度影響Prefill階段的內(nèi)存分配策略。LLama2的generate()在Prefill時(shí)會(huì)預(yù)分配最大可能的KV Cache空間。當(dāng)設(shè)為max_new_tokens1024時(shí)即使實(shí)際只生成200個(gè)tokenPrefill仍按1024預(yù)留顯存導(dǎo)致顯存碎片化。我當(dāng)天對(duì)比實(shí)驗(yàn)max_new_tokens顯存占用Prefill后TTFTms實(shí)際生成token數(shù)102418.2 GB41220025614.7 GB385200TTFT降低27ms顯存節(jié)省3.5GB。結(jié)論max_new_tokens應(yīng)設(shè)為業(yè)務(wù)預(yù)期最大值而非“越大越好”。我們最終將API默認(rèn)值設(shè)為256并提供max_output_length參數(shù)供客戶端按需覆蓋。4.2temperature和top_p的組合陷阱為什么0.80.9比0.950.95更穩(wěn)采樣參數(shù)直接影響ITL穩(wěn)定性。temperature控制分布平滑度top_p限制采樣范圍。我實(shí)測(cè)發(fā)現(xiàn)temperature0.95, top_p0.95組合下ITL標(biāo)準(zhǔn)差高達(dá)18.3ms而temperature0.8, top_p0.9組合下標(biāo)準(zhǔn)差僅9.7ms。原因在于高temperature使logits分布更平坦top_p篩選后剩余token數(shù)更多導(dǎo)致torch.multinomial()采樣耗時(shí)增加需遍歷更多候選。更隱蔽的坑是top_p0.95在某些logits分布下可能只保留2-3個(gè)token而top_p0.9穩(wěn)定保留5-8個(gè)后者采樣方差更小。生產(chǎn)環(huán)境我們固定采用temp0.8, top_p0.9并在文檔中注明“此組合在響應(yīng)多樣性與ITL穩(wěn)定性間取得最佳平衡”。4.3use_cacheTrue不是默認(rèn)最優(yōu)關(guān)閉它有時(shí)能提升TTFTuse_cacheTrue啟用KV Cache以加速后續(xù)token生成但Prefill階段需額外計(jì)算并存儲(chǔ)所有prompt的KV向量。對(duì)于極短prompt32token關(guān)閉cache反而更快。我測(cè)試promptHello2tokenuse_cachePrefill耗時(shí)TTFT顯存占用True185ms210ms12.1 GBFalse142ms165ms11.3 GB差距達(dá)45ms因?yàn)槎蘰rompt的Prefill計(jì)算量小而cache初始化開銷內(nèi)存分配zero-fill成為主導(dǎo)。我們的解決方案是實(shí)現(xiàn)prompt長(zhǎng)度自適應(yīng)cache開關(guān)——len(prompt_ids) 32時(shí)強(qiáng)制use_cacheFalse否則True。一行代碼切換TTFT優(yōu)化立竿見影。4.4torch.compile()的適用邊界別在LLama2上盲目開啟HuggingFace文檔大力推薦torch.compile()但實(shí)測(cè)在LLama2-7B量化版上開啟后TTFT反而增加12%ITL抖動(dòng)加劇。根本原因是bitsandbytes的4-bit線性層Linear4bit未被torch.compile完全支持編譯后部分kernel回退到慢速路徑且compile的graph capture增加了首次運(yùn)行開銷。我用torch._dynamo.config.verboseTrue日志確認(rèn)Linear4bit.forward被標(biāo)記為backendeager未編譯。結(jié)論量化模型慎用torch.compile()浮點(diǎn)模型FP16/BF16可開啟。我們最終在配置中加入開關(guān)if not is_quantized_model: # 檢測(cè)是否為bnb量化模型 model torch.compile(model, modereduce-overhead)5. 常見問(wèn)題與現(xiàn)場(chǎng)排查技巧從日志到硬件的全鏈路診斷5.1 問(wèn)題TTFT忽高忽低波動(dòng)范圍達(dá)±200ms排查路徑先看CPU負(fù)載htop觀察Python進(jìn)程CPU占用。若長(zhǎng)期30%說(shuō)明GPU未被喂飽檢查數(shù)據(jù)加載是否阻塞如tokenizer在CPU上同步處理長(zhǎng)文本再查GPU利用率nvidia-smi dmon -s u看util列。若TTFT高時(shí)util40%大概率是CUDA kernel launch延遲檢查是否有其他進(jìn)程搶占GPU如監(jiān)控腳本最后盯顯存帶寬nvidia-smi dmon -s b看fb__se0__inst_mem_read。若TTFT飆升時(shí)帶寬達(dá)95%確認(rèn)是否Prefill階段顯存帶寬飽和——此時(shí)需縮短prompt或升級(jí)顯卡。當(dāng)天實(shí)錄TTFT從380ms跳至580msdmon -s b顯示帶寬從72%→96%dmon -s u顯示util從85%→42%。結(jié)論顯存帶寬瓶頸。解決方案將prompt截?cái)嘀?12token以內(nèi)并啟用flash_attn需重編譯但帶寬占用降35%。5.2 問(wèn)題ITL在生成中途突然拉升至100ms持續(xù)10個(gè)token排查路徑檢查KV Cache大小打印past_key_values[0][0].shape確認(rèn)是否隨生成長(zhǎng)度線性增長(zhǎng)。若增長(zhǎng)異常如某層突然變大2倍可能是cache管理bug監(jiān)控顯存碎片nvidia-smi --query-compute-appspid,used_memory --formatcsv觀察used_memory是否階梯式上漲。若每次上漲幅度不一致說(shuō)明碎片化驗(yàn)證CUDA事件同步在ITL飆升處插入torch.cuda.synchronize()若ITL回落說(shuō)明是異步執(zhí)行未完成導(dǎo)致的測(cè)量失真。當(dāng)天實(shí)錄ITL在第65個(gè)token處飆升past_key_values[0][0].shape顯示第3層KV尺寸異常應(yīng)為[1,32,65,128]實(shí)為[1,32,128,128]。定位到modeling_llama.py中repeat_kv()函數(shù)在num_key_value_groups1時(shí)索引錯(cuò)誤。打patch修復(fù)后ITL波動(dòng)消除。5.3 問(wèn)題TGS在并發(fā)測(cè)試中急劇下降4并發(fā)時(shí)TGS僅為單請(qǐng)求的52%排查路徑分離網(wǎng)絡(luò)與計(jì)算用curl -o /dev/null -s -w time_connect: %{time_connect}\ntime_starttransfer: %{time_starttransfer}\n直連服務(wù)端排除網(wǎng)絡(luò)層影響分析GPU顯存帶寬爭(zhēng)搶nvidia-smi dmon -s b看4并發(fā)時(shí)帶寬是否達(dá)99%。若是說(shuō)明所有請(qǐng)求在搶同一塊顯存帶寬檢查CUDA Context切換nsys profile -t cuda,nvtx --statstrue采集trace看cudaStreamSynchronize調(diào)用是否密集——密集調(diào)用意味著kernel launch排隊(duì)。當(dāng)天實(shí)錄nsys顯示4并發(fā)時(shí)cudaStreamSynchronize耗時(shí)占比達(dá)38%。根本原因是transformers的generate()在每次forward()后都調(diào)用synchronize()。解決方案修改源碼僅在return_dict_in_generateTrue時(shí)同步其余情況異步——TGS提升至單請(qǐng)求的76%。5.4 問(wèn)題generate()返回空列表或token序列中斷終極排查清單? 檢查stopping_criteria是否誤設(shè)max_length小于input_ids.shape[1]導(dǎo)致Prefill后立即停止? 驗(yàn)證eos_token_id是否與tokenizer配置一致tokenizer.eos_token_idvsmodel.config.eos_token_id量化模型常不一致? 確認(rèn)pad_token_id已正確設(shè)置tokenizer.pad_token_id tokenizer.eos_token_id否則attention mask計(jì)算錯(cuò)誤? 查看logits_processor是否注入了非法processor如自定義的RepetitionPenaltyLogitsProcessor未適配量化權(quán)重導(dǎo)致logits爆炸。當(dāng)天致命坑model.config.eos_token_id2但tokenizer.eos_token_id32000LLama2-7B的特殊eos。generate()用config的2去截?cái)嘟Y(jié)果所有輸出在第二個(gè)token就被終止。將eos_token_id32000顯式傳入generate()后問(wèn)題解決。6. 性能基線與優(yōu)化效果總結(jié)從調(diào)試日志到可交付成果6.1 優(yōu)化前后核心指標(biāo)對(duì)比A10G單卡指標(biāo)優(yōu)化前05-27優(yōu)化后05-28提升幅度關(guān)鍵措施TTFT256token prompt428 ms362 ms↓15.4%max_new_tokens256use_cache自適應(yīng) flash_attnITL P95穩(wěn)態(tài)58.3 ms34.1 ms↓41.5%temp0.8/top_p0.9 KV Cache修復(fù) torch.compile禁用TGS4并發(fā)94.2 tokens/s182.6 tokens/s↑93.8%cudaStreamSynchronize精簡(jiǎn) 顯存帶寬優(yōu)化顯存峰值占用21.8 GB16.3 GB↓25.2%Prefill顯存預(yù)分配優(yōu)化 cache管理改進(jìn)注意所有數(shù)據(jù)均在相同硬件A10G 24GB、相同模型LLama2-7B 4-bit quantized、相同prompt集100個(gè)真實(shí)業(yè)務(wù)樣本下測(cè)得確保可比性。6.2 可復(fù)用的調(diào)試工具包我把當(dāng)天所有調(diào)試腳本整理成輕量工具包無(wú)需安裝直接下載即可用ttft_benchmark.py自動(dòng)運(yùn)行100次TTFT測(cè)量輸出均值/中位數(shù)/P95及分布直方圖itl_profiler.py注入CUDA Event生成ITL時(shí)序曲線CSVPNGtgs_stress_test.py模擬1-8并發(fā)輸出TGS衰減曲線與資源占用熱力圖kv_cache_analyzer.py實(shí)時(shí)打印KV Cache各層尺寸與顯存占用定位cache泄漏。使用示例python ttft_benchmark.py --model_path ./llama2-7b-4bit --prompt_file prompts.txt --trials 100 # 輸出TTFT_mean362.4ms, TTFT_p95412.8ms, std28.3ms這些腳本已去除所有公司標(biāo)識(shí)完全開源你可以在任何LLama2部署環(huán)境中直接運(yùn)行。6.3 給團(tuán)隊(duì)的三條硬性規(guī)范已落地執(zhí)行基于本次調(diào)試我們向所有模型服務(wù)團(tuán)隊(duì)發(fā)布三條強(qiáng)制規(guī)范違者需重新走上線流程TTFT SLA必須綁定prompt長(zhǎng)度prompt≤128token時(shí)TTFT≤300ms128prompt≤512時(shí)TTFT≤450msprompt512時(shí)TTFT≤800ms。禁止籠統(tǒng)宣稱“TTFT500ms”ITL必須報(bào)告P95值上線報(bào)告需包含ITL的P50/P95/P99且P95≤50ms。若P9550ms必須附KV Cache優(yōu)化方案TGS必須標(biāo)注測(cè)量條件所有TGS數(shù)據(jù)必須注明prompt長(zhǎng)度分布、采樣參數(shù)、并發(fā)數(shù)、顯存占用四要素缺一不可。這三條規(guī)范不是紙上談兵。05-28當(dāng)天下午我們用新規(guī)范重測(cè)了3個(gè)待上線服務(wù)其中1個(gè)因ITL P9562ms被叫停另2個(gè)因TGS未標(biāo)注條件被退回補(bǔ)測(cè)。規(guī)范的生命力就在第一次嚴(yán)格執(zhí)行。我個(gè)人在實(shí)際調(diào)試中最大的體會(huì)是大模型推理的“快”從來(lái)不是某個(gè)神奇參數(shù)一錘定音而是對(duì)Prefill計(jì)算、KV Cache、顯存帶寬、CUDA調(diào)度這一整條鏈路的毫米級(jí)掌控。那些藏在generate()方法深處的幾十行代碼那些nvidia-smi dmon里跳動(dòng)的數(shù)字才是決定用戶體驗(yàn)的真實(shí)戰(zhàn)場(chǎng)。下次當(dāng)你看到“模型已部署”不妨多問(wèn)一句它的TTFT在什么prompt下測(cè)的ITL的P95是多少TGS的并發(fā)條件是什么——問(wèn)題的答案往往就藏在05-28周二那臺(tái)A10G服務(wù)器的日志最后一行里。
返回列表
PREV
查看更多資訊
NEXT
返回資訊列表
九月AV| 伊人久久亚洲中文字幕| 久久‘黄片视频| 欧亚性爱在线视频| 黄色片,com| 国产强奸AV在线| 亚洲欧洲自拍| 蜜桃狠狠色伊人亚洲综合网站| 亚洲少妇自拍中文字幕懂色| 亚洲日本天堂| 亚洲高清无码AAA久久久精品| 男女啪啪啪18禁网站| 亚洲精品欧洲色| 玖玖资源视频一区二区三区| 久久精品六区| 精品69网| 思思久热在线精品66| 中国91AV| 久久综合国产精品国产| 日本天天操| www.黄色在线| 国产乱伦性爱AV| 国产精品久久久久久 百度| 国产黄色 A 片免费看| 播播亚洲小说亚洲| 欧美激情 日韩精品| 超碰 另类 欧美| 黑丝日韩av丝袜av| 色约约一区=区三区| 超碰九7| 精品综合久久久久久五月天| 亚洲欧洲自拍图片专区满春格| 久久久久久久免费A片国产成a人亚洲精∨品无码 | 久久国产视频专区一二三| 91九久| 一区久久久二区| 久久的网站啊啊啊啊啊| 久9久9精品| 我爱搞逼综合网| 天天操熟妇| 亚洲欧美洲综合| 97超碰色| 人妻日日干| 国产1769在线| 懂色综合久久久| 日韩欧美成人大香蕉| 国产丰满少妇久久久精品影院| 韩国女主播青草在线| 性爱欧美五月| 久9九综合在线| 国产资源中文字幕在线 | 中文字幕后石码四区五区| 青娱乐淫乱1314| 成人av影院在线观看| 欧美综合综合| 97在线免费看视频| 久久精品国产亚洲妲己影视| 精品v日韩欧美国产| 一品道视频一区二区三区| 九九久久国产精品| 蜜臀va69| 国产传媒午夜理伦精品| 日本特黄f c2| 久久久免费视频18| 日本黄色精品专区网站| 日本亚洲熟女视频| 老熟女区| 91精片| 亚洲日韩美国人妻| 区二区亚洲婷| 亚洲97在线| 美女写真| 亚洲极品| 国产一区二区在线播放量| 国产精品老师| 日本新免费二区三区| 国产精品视频在线观看| 岛国艾薇凹凸视频天堂| 欧美综合加勒比在线| 欧美97av| 狠狠爱综合| 96久久久精品| 国产AV高清AV无码| 综合天天。| 国产精品嫩草影院午夜两性 | 国产精品99999| 最新日产中文在线麻豆| 欧美色色人| 日韩av在线精品观看| 色区久久| 情色五月天就去干| 亚洲欧美中文一区二区三| 性色avv| 国产精品69久久久久孕妇欧美| 国产性爱强奸乱伦大全| 99色在线| 人妻一区二区三区四区视频| 亚洲男人天堂网久久| 易易A毛视频| 免费在线观看国内色片网站网址| 国产精品高潮久久AV| 亚洲欧美首页| 猛交交| 国产久久天堂资源| 婷婷操逼| 欧美色图91| www.91久久| 97在线观看免费| yellow网站免费观看日韩高清无码| 嗯嗯嗯,草死我| 97亚洲在线| 国产亚洲精品玖玖玖在线观看| 欧美爆操91| 极品国产内射| 日韩av熟女一区二区三区成人| 91麻豆天美传媒在线| 免费毛片在线播放| 91综合网站| 五月婷婷综合激情| 精品国模无码| 九草在线大香蕉| 爽极品影院| 成人A片男人的天堂| 福利社区午夜一区二区| 精品欧美日韩在线观看| 四虎影院成年人片| 天天综合网91| 蘋果手機免費看成人Av| 91小视频| 九九九九AV| 好吊色在线观看| www国产精品| 欧美色图私拍91| 免费精品中文字幕| 干美女人妻| AV九九| 蜜臀久久99精品久久久久久-DVD原版全| 亚洲男人的天堂亚洲| 蜜桃狠狠色伊人亚洲综合网站| 素人美腿视频网站| 97任你吞精| 懂色Av一区二区三区| 狠狠 91| 国产午夜福利专区综合| 强奸熟女一区二区三区| 久久九色| 人人艹亚洲| 91老妇女| 亚洲成人一二三区| 人妻人人做人人澡人人爽欧美一区| 欧美黑人168页欧美黑人167| 密桃99999| 立川理惠被中出无码| 亚洲综合射| 九月婷婷综合| 操操逼视频| 欧美性爱超碰97| 超碰人妻久久人妻中文97| 日本一本道A级黄色毛片试看60分钟| 爱丝福利| 97视频在| 混色激情av| 国产理论视频在线播放| 在线播放一级无码视频| 五十路熟女人妻一区二区在线观看| 亚洲精品丝袜| 免费看日产一区二区三区| 91一区二匹| 无毛精品| 国产性刺激| 色香色欲天天综合网天天来吧| 久久精品黄色| 大香蕉伊人75| 久久视频,这里只有精品| 欧美极品女人的天堂| 一本久道在线综合视频| 91色狼| 欧美综合 站| 亚欧精品久久久久久久久久久| 欧美激情另类一区二区| 久久久少妇| 粉嫩久久久极品| 少妇69中文| 99热成人| 婷婷91| 福利在线视频一区二区| 欧美一区二区三区互相| 天堂网 主播 亚洲| 久久av色| 91n美女视频| 九九精品热| 欧美顶级黄色大片免费| 家庭乱伦国产| 国产午夜福利专区综合| 欧洲在线性爱视频| 玖草在线视频| 中文字幕后石码三区四区| 强乱老妇中文字幕| 91碰碰| 日韩精品怡红院| 欧美一二在线| 热久久国产精品视频大陆精品| 插入综合网| 久久久九九网站| 午夜福利精品| 91动漫操逼视频| 熟女五十路一区二区三| 欧美激情视频在线一区| 老熟妇一区二区三区…| 两性色网| av凤凰久久久| 久久久人妻| 男人的天堂2018东京热啪啪啪| 99热最新网址| 最新欧洲欧美日本激情网站| 一级黄色影片| 天美国产三级传媒| 久久久亚洲精品电影免费看| 美女露胸露屁股| 天天操狠狠日夜夜干超碰撸com视频在线观看 | 热热色中文无码| 久久尹人大香焦视| 亚洲麻豆av一区二区| 99无码狠狠久久| 97干在线| 老子午夜伦不卡影院| se吧提供91精品国产91久久久久久 | 日本一区二区三区欧美日韩中文字幕| 亚洲 欧美 另类 日韩 人妻一区| 亚洲成人妻日韩在线| 欧美亚洲高清不卡| 色哟哟av| 97干天天| 99国产天美| 大香蕉免| 日韩精品怡红院| 久久一本大香蕉 | www.操| 亚洲天堂东京热| 久久免费中文字幕在线观看| 久久久99999久网站| 任我爽在线视频免费观看| 日本天堂在线播放| 91青青草| 免费av在线播放二区| 人人操人人摸人人看人人干| 亚洲综合色婷婷| 91超碰人人| 91在线色| 久久风骚城市| 高清无码久操视频| 日本肉体xxxx裸交| 青青青操| 亚洲三级。日韩三级| 亚洲一区日韩精品中文字幕| 新婚人妻扶着粗大强行坐下| 超碰亚洲97| 精品一区二区三区四区女| 欧美高潮| 亚洲中文字幕在现观看| 日本性爱不卡视频| 91久久国产综合久久| www.AV有限公司一区| 久热网| 老司机午夜精品视频| 国产免费操逼| 日韩国产品视频中文字| 亚州Av天美传媒| se..亚洲欧美| 午夜精品视频777| 歐美一級亂黃99在綫精品| 天操天操夜操夜月月年年操操| av中亚| 成人国产精品三级A片| 精品网站9999| 超碰色图| 亚洲砖码砖专无区2023| 超碰色中文| 97亚洲综合在线| 97人妻免费中文字幕| 亚洲 日韩 欧美 国产综合体| 嗯嗯,好大,好爽,好骚| 欧美 色 亚洲| 激情久久久| 人妻熟女一区二区三区在线| 男女猛烈无遮掩视频免费软件| 综合亚洲欧美| 人人爱人人乐人人操| 天天躁日日躁XXXXYY| 欧美三级免费伊人| 超碰欧美97| 激情五月天丁香社区| 欧美色图成人网一区二区 | 中文久久96| 美女被啪到深处抽搐视频| 操碰97| 亚洲丝袜制服国产91_国语字幕免费观看完整版下载第5集_ | 四虎午夜影院| 久久久精久久久| 欧美在线天堂| 狠狠干综合| 天天综合91入口| 久久毛卡| 9999久久久久| 丁香九月激情啪| 成人精品欧洲亚洲| 免费在线黄片视频| 国产精品久久久久久久免牛肉蒲团| 97视频免费在线观看| 91蜜桃婷婷狠狠久久综合9色| 2019亚洲男人天堂| 免费看A片毛毛片在线播| 99热导航| 巨爆乳一区二区爆乳区 | 欧美色图片91| 性爱视频免费网址| 伊人991| 四虎国产精品永久地址入口| 日产123区精品免费观看| 第四色奇米影视777| 99re只有精品| 精品高清一区二区三区三州| 精品国产乱码久久久兰草影视| 国产成年精品高清在线观看91| 97久久精品亚洲中六字幕| 蜜乳视频网站| 欲香欲色天天天综合和网| 成人一级性爱| 欲女人妻性色av| 日本护士高潮| 久草午夜| 欧美综合网1| 美中日韩无码| 精品人妻少妇| 操死我干死我| 人人操人人操人人人操| 大香蕉92| 日日干夜夜干| 熟女五十路一区二区三| 久久久性少妇| 粉嫩国产精品久久粉嫩| 在线综合 亚洲 欧美中文字幕| 白丝少妇一区二区| 欧美色997| 婷婷伊人五月| 亚洲色香| 国产中文福利| 丁香五月激情综合| 84YTCOM性无码| 极品销魂美女一区二区| 精品一区二区久久| 在线 制服丝袜中出 人妻| 国产精品96| 欧美视频激情久久久久久| 蜜桃av综合网发布| 中日韩免费看男女操逼大全| 亚洲精品不卡一二三区| 69精品少妇一区二区三区蜜桃| 天天影视色香欲综合网小说| 95精品在线| 84YTCOM性无码| 操逼999| 五月丁香婷婷色| 最新国内自拍av免费| 97操97干| 欧美日韩少妇色情| 99久久com免费视频′| 国产野战露脸在线播放| 亚洲精品91| 欧美日韩天堂| 97精品一二区| 亚洲国产欧美中文永久| 人人看人人插| 啊啊啊啊啊啊在线观看| 热G综合热G中文| 97在线欧洲| 亚洲午夜AV| 美女视频尤物网在线看| 丝袜 中出 制服 人妻 美腿 中文字幕| 亚洲色性情三级| 91狠狠综合久久久| 午夜一区二区三区国产| 久久久久少妇| 亚洲天堂电影网99999| 亚洲精品欧洲精品| 超碰亚洲97| 国模精品娜娜一二三区 | 公司1区2区3区精产精| 久久久久9久久久久| 色噜噜综合网| 亚洲成人性爱在线观看| 啊啊啊好舒服视频| 成人精品一区二区三区| 欧美熟爽综合| 五月激情在线| 99久久99九九99九九九| AV不卡在线| 欧美精品久久久久久久丰满| 69精品| 中文字幕一二三av| 加勒比东京热五月天天堂网| 人人妻人人色| 国产精品网站www| 亚洲最大黄网| 性色avv| 99热精品在线观看| 这里有精品| 久久精品六区| 色偷偷综合91久久噜噜| 精品一二三区女同| 黄色一区三区| 插B在线观看| Aa东京男人的天堂| 天天插天天操天天摸天天射天天看| 亚洲欧美天堂在线| 91女网站| 亚洲激情 欧美色图| 久久色激情一区二区三区| 920日本午夜免费| 五月激情视频| 91粉芽高清在线一区二区| 天天躁日日躁AAAXX| 性爱乱伦一区| 久久久九九| 欧美亚洲se91| 久热精品在线| 美女91AV| 97色碰| 日本精品一级二级三级| 欧美激情视频在线一区| 亚洲制服aⅴ中文字幕| 一类无码操逼视频| 日本一级二级三级网站| 免費黃色視頻觀看一| 激情综合婷婷| 成人 日韩欧美一区| 超碰av人人人| 欧美日韩国第一区| 97精品97| 91男人综合| 欧美久久婷婷| 98一区二区精品| 啊啊啊啊一区| 久久中日麻豆| 激情文学亚洲| 99re免费| 欧美成人A天堂片在线观看| 中文字幕交换人妻| 国产99热| 另类av天堂| 久久综合av| 夜夜夜爽www精品视频| 九九亚洲| 日韩在线一区高清在线| 强奸a片网| 久久精精区一区二区一蜜桃一区二区| 国产天天看| 国产91丝袜在线播放蜜月| 日韩啪啪视频| 亚洲 日本 国产 综合| 搡老熟女老女人老熟妇免费视频| 欧美九九爱| 天美传媒av在线| 亚洲色电影在线| 蜜奶av| 曰本91情色| 亚洲天天自拍| 日韩无码精品综合久久| 岛国精品视频在线观看| 中文字日本乱码| 美女黄色91| 日本高清视频xxxx| 天美精品av| 毛片麻豆91糖心精品毛情片| 极品销魂美女一区二区| 天天精品| 啊啊啊快操我视频| site:sinbotex.com| 国产综合永久精品日韩鬼片| 国产性感骚丝袜在线| 久久九九精品一区二区 | 神马久久69| 麻豆成人影音在线| 懂色AV蜜臀无码精品APP| 97视频观看| 欧美,日韩,中文,另类| 岛国A V在线免费看| 婷婷五月av| 色妇91| 东北少妇高潮zzzz| 国产精品国产精品国产| 性做久久久久久久| 综合av影片| 色综合加勒比| 欧美成人精品A片免费一区99| 青青草成人视频在线观看二区| 97碰久久| 色爱亚洲| 国产成人www免费人成看片| 免费视频在线观看啊啊啊啊啊| 亚洲高清视频在线免费观看| 综合自拍| 国产强奸乱伦xd| 欧美大码在线视频| 国产91 丝袜在线播放| 欧美一级黄片免费播放| 天天情欲宗合网| 亚洲?V无码专区在线电影| 青青草原人妻| 亚洲色综合| 日本有码久久| 国产成人五月天丁香花| 天天干天天拍| 大香蕉线| 久久精彩视频| 精品国产乱码久久久久久蜜臀| 手机看av网站在线看| 欧美黑人极品高潮喷吹熟女黑人性暴力日韩在线欧美极品一区二区老师 | 欧美亚洲厕所精品偷拍91| 大二网站亚洲| juliaann丝袜大战黑鬼| 国产精品探花色| 午夜啊啊啊| 国产欧美精选自拍一区| 超碰无码五月97| 欧美黑人精品一区二区| 国产AV天美传媒一区二区三区 | 人人操人人摸人人看人人插| 久久啊啊啊视频| 成人5码视频| 骚货 中文字幕 av| 色5月婷婷| www.男人的天堂| 91精品电影18| 亚洲精品白浆高清久久久久久| 美女毛片999| 亚洲情色中文字幕一区| 97伊人超碰| 日韩无码嘿咻黑热久| 亚洲性爱成人| 青青操视频在线| 综合激情婷婷| 国产强奸乱伦欧美| 天美传媒av在线| 中文字幕jul-617人妻熟女| 极品色综合| 厕所偷拍在线| 国产综合日韩伦理| 欧美色三级片91| 69av一区二区三区| 风间由美日韩欧美久久| 91综合网在线| 狠狠操一区二区| 日韩AV无码中文一区二区| 99少妇| 国产精品肉丝自拍| 久久精品国产免费观看99| 大香久久| 性爱AV天堂| 99爱爱| 日韩成人高清一区二区| 亚洲人精品久久久喷水| 午夜.DJ高清在线观看免费7| 在线小说视频一区| 精品网站9999| 激情小说成人日本无码一| 欧美热图99| 国产精品国产自产拍高清AV| 九月丁香婷婷色| 一区二区三区看视频| 91在线视频国产网站| 亚洲成人色情五月天丁香花| 狠狠操综合| 日本一区二区亚洲综合| 老熟妇一区二区三区| 日本在线一二 | 欧美性爱一区二区三区四区| 大香蕉乱伦视频网| 伊人久久综合影院精品久久久| 97热视频在线观看| 国内精品久久国产,www香蕉久久五月丁香,亚洲欧美日韩精品永久在线,日本精品一 | 影音先锋视频在线| 久久中出| 久久噜噜噜精品国产亚洲综合| 熟妇女人妻呻吟久久AV| 午夜黄色免费在线观看| 成 人 A V免费视频在线观看| 97久久久久久久久久| 国产九九久久久精品| 天天日天天干天天整| 免费岛国一级片| 色原狠狠天天天| 热久日综合| 猛交交| 久久久久免费看少妇A片特黄| 欧美美逼| 色香伊人| 丝袜视频一区二区在线播放国产中文| www.夜夜操| 日本操逼aaaaa| 日本 情色 1区| 校园春色亚洲无码| 自拍视频大全亚洲专媒视频/一区二区三区 | 蜜臀久久99精品久久久久久成人小说 | 天堂俺去俺来也www久久婷婷| 97久久国产精品女不卡| 亚洲国产蜜臀系列在线观看| 在线天堂999| 欧美婷婷| 91麻豆va国产精品| 婷婷激情五月天小说网| 国产东北女人在线视频| 青娱乐福利99| 张柏芝国产一区在线观看| aV中文麻| 青青青草原| 日韩人人精品| 中文字幕人乱码中文字的预防方法 | 91美女精品| 日韩 欧美 国产 麻豆| 福利一级版子| 欧美少妇性乱| 97一区二区三区视频| av大香蕉网站| 亚洲城人男人的天堂| 美女黄页| 内射中出日韩在线观看视频| 国产夫妻一区二区| 日韩熟女精品无码专区一区二区| 嗯~啊~快点 死我视频| 色av中文字| 精品人人| 久偷拍| 操b网站亚洲无码| 国产成人主播| 嗯嗯嗯啊啊啊干死我吧| 中文字幕人乱码中文字的预防方法| 国产少妇高潮| 99爱爱| 亚洲 欧美 日本 国内 首页| 激情婷婷丁香网| 亚洲色棕合| 78精品在线| 大香蕉日韩| 欧美色图片| 狠狠搞 亚洲91| 黄色小说亚洲| 日日日骚女人精品| 欧美精品欧美精品系列 | 大逼色网站| 国产精品久久久 | 观看视频图片一区二区三区| 97视频在线观看高清资源| 另类图片亚洲加勒比另类图片亚洲加勒比另类图片亚洲加勒比 | 抽插无码高清一区| 后X久久| 黑丝少妇麻豆| 四虎在线免费视频| 久久伊人在线五区| 看日韩操逼| 深夜激情无码| 亚洲色性情三级| 欧美性暴力猛交XXXX| 99精品丰满人妻无| 欧州激情视频在线一区二区| 天综合网欧美| 欧美色青| 国产日产精品久久快鸭的功能介绍| 久久性爱大全| 亚洲有薄码区日本系列中文字幕| 久久久久ab| 自拍第一页| 亚洲欧洲视频小说在线观看| 亚洲日韩少妇一道本视频| 老鸭窝在线视频播放| 亚洲自拍偷拍视频在线| 日韩欧美午夜视频在线| 久热伊人99re| 91劲爆| 精品午夜福利| 干日本人少妇午夜寂寞影院| 久热超碰| 日日噜噜夜夜久久亚洲一区二区| 亚洲精品黄码久久久久| 欧美日韩另类在线播放| 久久久九九网站| 国产怡红院| 亚洲欧美setu| 青青青在线高清视频在线一二三四区| 岛国黄片网站| 免费看日产一区二区三区| 97天天做| 亚洲欧美清纯| 日本精品无码三级网站| www四虎| 国产精品在线一区二区| 秋霞怕怕片| 欧美v亚洲v日韩v最新在线二区 | 玖玖爱免费观看视频| 免费看美国人人爽,人人操| 91痴汉| 在线岛| 搡老女人911熟妇老熟女| 色色福利| 91性高| 久久国产成人精品国产成人亚洲 | 亚洲日韩视频二区| 神马视频久久久久久| 欧美淫乱视频| 国产精品点击进入在线影院高清| 色九月婷婷| 亚洲欧洲日韩国产自在线| 欧美一级黄片免费播放| 热久久91婷婷| 天天综合欧美黑人| 五月天我淫我色av| 99热97| 亚州欧美在线| 国产人妻天天干精品| 久久最新视频免费观看| 日韩免费a级毛片无码a∨| AV九九| 欧美日韩亚洲少妇寂寞影院正在播放| 人人操人人操人人人操| 久9久| 搡老女人老熟女91老熟女综合网| 2018色综合天天操| 国产精品乱码久久久、久久| 久草国产在线视频| 99黄页网站| heyZO天然素人无码AⅤ专区| 国产精品经典一卡久久久| 国产玖玖| 亚洲丝袜少妇在线| 超碰免费在线| 伊香蕉综合久久久久久久噜噜噜| 国产精品久久伊人| 超碰久久.com| 一区在线观看中文字幕| 亚洲熟女一区二区| 色区久久| 亚洲欧美人妻| 欧美久久草熟女| 丰满人妻一区二区三区四区| 大香蕉伊人久久| 91热热色| 欧美亚洲国内自拍| 国产精品操| 久久久久久夜夜夜夜夜| 探花精品 一区二区| 天天摸夜夜摸| 欧美日韩另类在线播放| 97这里只精品| 333kkkk·亚洲com久久| 日韩91网| 久久婷婷色综合一区二区三区| 日韩成人无码| 亚洲成人精品久久久| 久久久久久久久久久久久久久久9| 91看黄片| 久草精品一区 | 精品国模无码| 亚洲男人的天堂AV| 欧美日本一区二区a人| 人妻大香蕉| 精品久久久久久亚洲| 韩国一级做a久久久久| 久久久久亚洲精品| 福利在线黄片| 亚洲图片激情小说| 岛国人妻少妇av在线观看| 国产精品人妻免费精品| 色综合20p| 97久久超碰| 欧美福利视频啊啊啊啊 | 中文字幕亚洲欧美在线不卡| 韩国午夜理伦三级好看| 九九综合色| 久久人妻| 欧美青青视频| 亚洲高清在线| 东京热视频网| 综合自拍| 九九热视频这里只有精品| 中日韩欧美精品无码AⅤ一区二区| 人妻少妇精品视频一区二区三区| 天天综和| www.91色| 婷婷干黄色| 大香蕉2017| 国产av青草| 大香蕉520| 欧美自拍偷拍综合图片| 久久大香蕉97| 青青草手机在线免费观看| 在线播放中文字幕| 午夜乱轮操逼视频免费看| 综合欧美色图| 日逼五月天| 91美女丝袜诱惑视频| 九九九九精品在线| 九九在线视频| 亚乱色| 男人的天堂va| 国产AV线| 熟女中出视频| 夜夜操2028| 亚洲色图殴美色图激情乱伦| 无码不卡亚洲成?人片| 嫩草 我啊~嗯~在线| 清纯唯美激情四射| 欧美精品日韩一区二区| 性爱乱伦视频免费| 亚洲国产亚洲天堂| 97超碰色屌| 丁香五月影院| 91丨精品丨国产丨丝袜| 99国内精品| 伊人色综合网电影| 亚洲av噜噜噜噜噜噜| 亚洲网污污污污| 2017天天插| 亚洲色狠| 97在线无精品| 一区=区三区视频| 99综合视频| 亚洲精品无码少妇久久| 亚洲欧美第一页| 日韩精品资源| 97超碰色中文字幕| 1二区9| 91 国产丝袜在线放观看| 日本99久久| 欧美日韩第一页| 日韩人妻播放| 秋霞久久亚洲精品成人| 五十路六十路七十路熟婆| 免费AV中文网在线观看| 久艹日日日| 亚州一区二区| 久久久久久久唑| 97久久国产精品女不卡| 九九九久| 91操熟女视频| 欧美成人精品一区二区男人蜜臀| 人澡逼| 屁股久久久久久久久| 男人的天堂日韩| 亚洲日韩久久精品一区| 国产一区二区在线播放,久久亚洲精品中文字幕第一区,亚洲精品在线中文字幕视频 | 欧美亚洲中文字幕| 日韩性爱网址| 精品一区二区亚洲国产| 大香蕉啪啪网| 婷婷性爱| 搡老女人老妇女老妇老熟女怎么读| 开心五月天激情网| 99热色这里只有精品| 极品五月天噜噜| 粉嫩国产精品久久久| 中文字日本乱码| 国产性爱欧美性爱在线 | 1204av韩国| 97视频在线视频| 97av,com| 精品一区二区三区18| 女生看匆91网站| 久久久少妇| 操操操五月天婷婷丁香影院| 久久久久久久九九九九九九| 日韩中文字幕人妻视频| 思思热免费视频观看| 97人妻碰碰中文无码久热丝袜| 熟女性视频| 日韩人妻资源在线看| 蜜臀在线免费观看在线免费观看| 自拍二页| 亚洲AV在线资源| 96超碰网| 91综合网| 色官网色综合| 色综合久久888| 用力操死我| 天美传媒av在线| 日韩精品午夜操呦呦不卡影院| 久久久久久久97| 一区二区三区高清天码| 日韩不卡a级视频专区| 日本熟妇一区二区三区| 97人人爱人人做人人乐| 婷婷九月丁香| 欧美性xxxxx狂欢| 人人看欧美性爱| 蜜臀少妇一区二区| 久久精品天美| 南澳成人一级片在线播放| 九九九九热| 91强热人妻| 偷拍伦理视频| 中文字幕诱惑制服人妻丝袜美丝袜美| 啊啊啊操死我了| 日韩有码 一区二区三区| 欧美午夜一区二区三区| 国产精品情侣啪啪| 91精品操美女| 亚洲 欧美 日韩 国产一区二区| 欧美日韩性爱操大逼| 超碰日本97美女人妻人人玩人人爱| www.男人天堂| 人妻铁牛TV| 日韩精品亚洲专区在线影视| 99丝袜福利在线播放| 少妇精品久久久八区九区| 天天肏视频| 伊人久久大香线蕉无码| 九九天堂| 欧美淫乱视频| 中文字幕一区二区三区四区在线视频| 国产精品久久久久久久久AV大片| 亚洲狼狼干综合1| av天堂加勒比| 欧美不卡二区| 99久久久99久久91熟女| 嗯嗯啊啊好大好爽| 国产女同在线观看视频| 久久婷婷色| 啊啊啊好疼| 亚洲国产精品无码AV久久久| 九色97| 久操视频在线| 成人亚欧免费视频| 男人天堂2019亚洲| 日韩AV噜噜噜一区二区三区四区| 人人看欧美性爱| 免费看污网站| 啊啊啊久久| 免费看欧美美女黄色大片| 久操在97| 欧美日韩国产一区二区小黄片大全| 久久国产视频性吧 | 精品无码欧美三级| 91精品久久久久久综合五月天| 97超碰人操| 伦激情人妻另类人妻| 色狠狠综合噜一二三区| 诱惑网综合| 狠狠操狠狠| 亚洲av资源| 1769精品一区二区三区| AV色五月天| 欧 美 自 拍 偷 拍| 日少妇亚洲版| 家庭乱伦麻豆| 一区二区三区国产精产| 黄色无码高清黄色无码网站| 天天爱天天韩国日本牛牛牛牛| 国产又粗又长的视频| 久久香蕉国产线看观看猫咪av| 久久久一区二区| 国产AV毛片| 亚洲综合 欧美| 国产女生在线| 一区二区三区四区五区久久久久久| 玖玖爱免费观看视频| 老女人老91妇女老热女| 伊人久久综合精品欧美| 999 久久久| 加勒比在线视频一区二区三区| 色香伊人| 自拍偷拍 日韩无码| 黄久久| 强奸乱亚洲| 欧美视频一区二区三区| 黄色一级视| 中文字幕一区二区三区人妻不卡| 色噜噜狠狠色综无码久久合欧美| 人人妻人人爽| 一区久久久二区| A级在线视频| av麻豆啪啪| 日韩乱伦影音先锋| 蜜桃狠狠色伊人亚洲综合| 91人妻Pr| 亚洲熟女诱惑| 国产视频一区二区三区久久亚洲天堂| 国产一区二区免费福利片| 另类av天堂| 波多野结衣被操50分钟免费视频| 啊啊啊啊好大好硬啊啊啊啊啊 | 97视频在线观看播放与子乱对白在线……| 超碰免费人妻在线| 操美女人妻| 粉嫩粉嫩一区性色AV片| 9.1小视频| 91亚洲黑人| 被男人吃奶很爽的毛片| 蜜桃视频啊啊啊啊| 婷婷五月天成人网| 中文字幕国产在线天堂| 无码男人天堂| 免費黃色視頻觀看一| 热99这里有精品综合久久 | 久草视频在线视频在线视频在线观看| 蜜臀无码一区二区| 人妻加勒比东京热| 成人日本精品九区| 亚洲毛片一级带毛片基地| 黄色工厂这里只有精品| 欧美熟妇乱码在线一区| 亚洲AV操| 久久久久97| 色男人色天堂东京热| 色色热| 欧美激情性爱视频网站| 青青青在线高清视频在线一二三四区| 亚洲高清内射| 91在线精品| 丁香婷婷五月| 天堂在线一区二区| 91操操| 日韩亚洲中文有码视频| 日韩久射综合| 91综合国产精品| 蜜臀久久99精品久久综合| 秋霞网—男女啪啪亚洲免费体验区 | 99热这里都是精品| 国产女同视频在线播放| 欧美日韩亚洲天堂| 97精品在线| 内射日韩大臀美女| 国产动漫操逼视频| 九热中文字幕| 国产精品粉嫩福利在线| 欧美一区二区日韩传媒搭讪精品| 一区三区啪啪| 亚洲国产ⅴ高清在线观看| 丰满人妻-区二区三区| 九九九九精品一区| 国产夜夜艹| **一级毛片国产| 久久透逼视频| 久久久555| 色香伊人| 91美女视频在线| 亚洲色人妻综合| 激情五月天社区| 啪啪AV导航| 久久透逼视频| 亚洲另类天堂| 超碰97在线中文| 女人午夜视频777| 国产午夜福利电影免费在线观看 | 青青青青青手机视频| 国产在线精品电影观看| 激情图片亚洲色图| 91人人看| 综合熟女| 五月激情视频| 国产日韩区| 欧美呦呦性爱| 国产午夜精品理论片一二三区区| 亚洲图片视频小说| 国产吹潮女在线观看| 91丝袜熟女| 91九色丨国产丨爆乳| 欧美精品人妻视频| 中文字幕第页| 91狠狠综合久久久久久| 精品少妇一区二区三区在线视频| 亚洲综合另类小说色区亚洲成av人片在www | 熟妇女伦乱视频| 久久东京热成人| AV天黑人| 91狠狠狠| 91天堂丝袜美腿| 一二视频神马久久传媒| 99热18这里只有精品| 国产精品久久久999| 日韩三级在线观看mp4| 大香蕉伊人在线成人AV在线观看 | 防屏蔽在线视频| 丁香五月激情网| 中文字幕高清20页视频| 综合色久| 亚洲午夜免费狠狠干| 丁香九月激情啪| 婷婷五月色| 夜夜肏2021| 麻豆精品久久久久久久| 亚洲日韩肥臀视频在线观看| 色噜噜国产在线| 久久久蜜桃一区二区三区| 97人人模人人爽人人| 日本精品不卡一二三区| 亚洲图片偷拍视频区| 涩五月婷婷| 9色在线| 久久精品一区二区三区不卡| 婷婷香蕉欧美在线一区二区三区| www.天天干| 精品人妻1237| 国产亚洲色婷婷99精品91| 热久久国产精品视频大陆精品| 欧美日韩亚洲五月天婷婷| 蜜臀无码一区二区| 美女网站黄页| 999精品女人| 日本孕妇一区二区视频操逼免费看 | 9久精品| 国产四虎在线| 日日夜夜国产综合| 九九九九欧美| 91成人精品| 69视频入口| 欧美一区二区三区互相| 极品销魂美女一区二区| 欧美激情性久久久久久| 欧美,日韩,亚洲视频| 五月天婷婷综合网| 色综合中文字幕不卡| 欧美91网站| 欧美激情精品久久久久久| 久久久97| 永久免费发布性爱网| av天堂影视中文在字幕在线中文| 91蜜臀在线久久久久| 国产视频小说| 国产97视频| 亚欧毛片基地国产毛片基地| 国产亚洲日本精品在线| 天天影视网综合少妇| 国产传媒美日韩av| 美女上床网站| 午夜男女爽爽大片免费观看| 日本幼女18+| 男女性扦B| 日本道人妻久久久在线不卡色视频| 97爱综合| 最近2019中文字幕国语免费版| 精品一区二区亚洲国产| av在线人气| 成人日本片久久久蜜桃| 神马久久久久久久| 美国aaaaa一级黄片| 老女人爆菊| 午夜无码熟妇丰满人妻| 中文字幕97| 强奸a片网| 国产丝袜视频| 国产免费一区| 亚洲国产一级黄色视频| 亚洲AV永久无码一区仙野| 欧美AB在线观看| 九九九不卡| 国产一级高跟丝袜| 天天操夜夜操| 亚洲熟妇综合久久久久久| 午夜国产综合视频在线观看 | 亚一综合久久久久久久久久| 久久性爱城|