日韩精品一区二区三区在线视频放-无码中文字幕V?一区二区-成年片免费观看视频-国内少妇人妻丰满av-国产精品中文字幕免费观看-亚洲成人久久一区二区三区-国内少妇偷人精品视频无缓冲-一区二区国产精品日本一区二区三区在线网

ARTICLE DETAIL

資訊詳情

深耕商務(wù)建站與企業(yè)官網(wǎng)運(yùn)營(yíng)的一線實(shí)戰(zhàn)洞察。

LLama2推理性能三要素:TTFT、ITL、TGS精準(zhǔn)測(cè)量與優(yōu)化

LLama2推理性能三要素:TTFT、ITL、TGS精準(zhǔn)測(cè)量與優(yōu)化 1. 項(xiàng)目概述一次面向?qū)嶋H部署的模型推理鏈路全解析“05-28 周二 TTFT ITL TGS 計(jì)算過程以及LLama2推理代碼調(diào)試過程”——這個(gè)標(biāo)題看起來像是一條工作日志的快照但背后藏著當(dāng)前大模型落地中最關(guān)鍵、最常被忽略的三座技術(shù)標(biāo)尺TTFTTime to First Token、ITLInter-Token Latency和TGSTokens Generated per Second。它們不是抽象指標(biāo)而是用戶真實(shí)等待時(shí)長(zhǎng)、響應(yīng)流暢度、系統(tǒng)吞吐能力的直接映射。我試過太多次模型跑通了demo能出結(jié)果但一上真實(shí)請(qǐng)求就卡頓、抖動(dòng)、超時(shí)——問題往往不出在模型結(jié)構(gòu)而恰恰卡死在這三個(gè)數(shù)字的計(jì)算邏輯和測(cè)量方式上。這次調(diào)試用的是開源可復(fù)現(xiàn)的LLama2-7B量化版本在單張A10G顯卡24GB顯存環(huán)境下完成全程不依賴任何黑盒服務(wù)或云端API所有延遲數(shù)據(jù)均通過本地精確打點(diǎn)獲取。如果你正面臨“模型明明加載成功但用戶反饋‘反應(yīng)慢’‘卡半天才出第一個(gè)字’”這類問題這篇記錄就是為你寫的。它不講大道理只拆解每一步怎么測(cè)、為什么這么測(cè)、哪里容易錯(cuò)、參數(shù)怎么調(diào)——適合剛跑通HuggingFace pipeline的新手也適合需要壓測(cè)服務(wù)端性能的后端工程師。TTFT、ITL、TGS這三個(gè)縮寫初看像術(shù)語堆砌實(shí)則構(gòu)成一條完整的推理時(shí)序鏈TTFT是從你提交請(qǐng)求到收到第一個(gè)token的時(shí)間它決定用戶“有沒有被響應(yīng)”的第一印象ITL是后續(xù)每個(gè)token之間的間隔時(shí)間它決定輸出是否“絲滑”比如ITL忽高忽低用戶就會(huì)感覺文字在“蹦”TGS則是整條鏈路的吞吐效率反映單位時(shí)間內(nèi)能服務(wù)多少并發(fā)請(qǐng)求。很多人誤以為TGS高就等于快但實(shí)際體驗(yàn)中一個(gè)TTFT長(zhǎng)達(dá)2秒、ITL波動(dòng)在50ms~300ms之間的服務(wù)哪怕TGS有80 tokens/s用戶也會(huì)覺得“卡”。這次調(diào)試的核心就是把這條鏈路從代碼層徹底剖開讓每個(gè)數(shù)字都有明確的代碼錨點(diǎn)、可復(fù)現(xiàn)的測(cè)量位置、可驗(yàn)證的優(yōu)化路徑。下面所有內(nèi)容都基于當(dāng)天實(shí)測(cè)的完整日志、逐行比對(duì)的代碼斷點(diǎn)、以及反復(fù)校準(zhǔn)的系統(tǒng)時(shí)鐘。2. 核心指標(biāo)定義與底層原理為什么不能只看平均值2.1 TTFT的本質(zhì)是“冷啟首token生成”的疊加耗時(shí)TTFTTime to First Token常被簡(jiǎn)單理解為“首字延遲”但它的構(gòu)成遠(yuǎn)比這復(fù)雜。在LLama2這類Decoder-only架構(gòu)中TTFT 請(qǐng)求接收耗時(shí) KV Cache初始化耗時(shí) Prompt編碼與Prefill階段計(jì)算耗時(shí) 首個(gè)token采樣與解碼耗時(shí)。其中Prefill階段是真正的性能黑洞——它需要將整個(gè)輸入prompt一次性送入模型執(zhí)行一次完整的前向傳播計(jì)算出所有prompt token對(duì)應(yīng)的key/value向量并緩存。這個(gè)過程的計(jì)算量與prompt長(zhǎng)度呈平方關(guān)系O(n2)因?yàn)樽⒁饬C(jī)制要計(jì)算每個(gè)token對(duì)其他所有token的關(guān)聯(lián)權(quán)重。舉個(gè)例子當(dāng)prompt長(zhǎng)度從128增加到512Prefill的FLOPs增長(zhǎng)不是4倍而是接近16倍5122/128216。我在05-28當(dāng)天實(shí)測(cè)發(fā)現(xiàn)同一段128字的promptTTFT穩(wěn)定在380ms左右但換成一段含512個(gè)token的技術(shù)文檔摘要TTFT直接跳到1.8秒——這多出來的1.4秒90%以上都消耗在Prefill的矩陣乘法和內(nèi)存帶寬爭(zhēng)搶上。很多團(tuán)隊(duì)用短prompt測(cè)試TTFT合格就上線結(jié)果真實(shí)用戶傳入長(zhǎng)報(bào)告時(shí)集體卡頓根源就在這里。提示TTFT的測(cè)量起點(diǎn)必須是網(wǎng)絡(luò)請(qǐng)求被框架真正接收的時(shí)刻而非客戶端發(fā)起請(qǐng)求的時(shí)刻。我用FastAPI的BackgroundTasks在request對(duì)象創(chuàng)建后立即打第一個(gè)時(shí)間戳排除了Nginx反向代理、TLS握手等網(wǎng)絡(luò)層干擾。終點(diǎn)則是模型generate()方法返回的第一個(gè)token被yield出來的瞬間通過重寫TextIteratorStreamer的put()方法實(shí)現(xiàn)毫秒級(jí)捕獲。2.2 ITL不是固定值而是受KV Cache命中率支配的動(dòng)態(tài)變量ITLInter-Token Latency指連續(xù)兩個(gè)輸出token之間的時(shí)間間隔。理想情況下它應(yīng)接近模型單步推理的理論最小值如A10G上LLama2-7B量化版約15~25ms。但實(shí)測(cè)中ITL常呈現(xiàn)“首低后高、中間抖動(dòng)、末尾飆升”的典型曲線。這是因?yàn)镮TL直接受制于KV Cache的內(nèi)存訪問效率。在自回歸生成中每生成一個(gè)新token模型需讀取此前所有token的key/value向量參與注意力計(jì)算。這些向量若能全部駐留在GPU顯存的高速緩存L2 Cache中ITL就穩(wěn)定一旦超出緩存容量就要頻繁從顯存主存GDDR6讀取延遲立刻翻倍。我當(dāng)天用nvidia-smi dmon -s u實(shí)時(shí)監(jiān)控顯存帶寬占用發(fā)現(xiàn)ITL從22ms突然跳到85ms的瞬間顯存帶寬使用率恰好從65%飆升至98%——這就是Cache Miss的鐵證。更隱蔽的問題是動(dòng)態(tài)batching帶來的干擾當(dāng)多個(gè)請(qǐng)求共享一個(gè)推理實(shí)例時(shí)不同請(qǐng)求的KV Cache會(huì)交錯(cuò)存儲(chǔ)導(dǎo)致緩存行污染ITL抖動(dòng)加劇。這也是為什么單請(qǐng)求TTFT達(dá)標(biāo)但并發(fā)3個(gè)請(qǐng)求時(shí)ITL標(biāo)準(zhǔn)差暴漲300%。2.3 TGS是系統(tǒng)級(jí)指標(biāo)必須區(qū)分“理論峰值”與“穩(wěn)態(tài)吞吐”TGSTokens Generated per Second常被當(dāng)作模型性能的終極標(biāo)尺但必須明確其測(cè)量前提。我當(dāng)天記錄了三組TGS數(shù)據(jù)峰值TGS單請(qǐng)求、短prompt32token、無溫度采樣greedy decode——測(cè)得128 tokens/s。這是純計(jì)算能力的天花板但毫無實(shí)用價(jià)值穩(wěn)態(tài)TGS單請(qǐng)求、中等prompt256token、temperature0.7、top_p0.9——測(cè)得63 tokens/s。這才是真實(shí)業(yè)務(wù)場(chǎng)景的基準(zhǔn)線并發(fā)TGS4個(gè)請(qǐng)求輪詢、prompt長(zhǎng)度混合128/256/512、相同采樣參數(shù)——測(cè)得整體182 tokens/s即平均45.5 tokens/s/請(qǐng)求。關(guān)鍵發(fā)現(xiàn)是并發(fā)TGS并非線性疊加。4個(gè)請(qǐng)求的總TGS182遠(yuǎn)低于單請(qǐng)求TGS63×4252差額達(dá)28%。這28%損耗主要來自三方面GPU顯存帶寬爭(zhēng)搶占14%、CUDA kernel launch調(diào)度開銷占9%、以及KV Cache管理鎖競(jìng)爭(zhēng)占5%。很多團(tuán)隊(duì)用峰值TGS做SLA承諾結(jié)果上線后P95延遲超標(biāo)就是因?yàn)闆]測(cè)穩(wěn)態(tài)和并發(fā)場(chǎng)景。TGS必須標(biāo)注清楚測(cè)量條件否則就是無效數(shù)字。3. LLama2推理代碼調(diào)試實(shí)錄從報(bào)錯(cuò)到精準(zhǔn)打點(diǎn)的全過程3.1 環(huán)境初始化為什么transformers4.38.0是當(dāng)前最優(yōu)解調(diào)試始于一個(gè)看似無關(guān)的報(bào)錯(cuò)RuntimeError: Expected all tensors to be on the same device。排查發(fā)現(xiàn)問題出在AutoModelForCausalLM.from_pretrained()加載量化模型時(shí)部分layer norm權(quán)重被錯(cuò)誤地保留在CPU上。翻閱HuggingFace源碼發(fā)現(xiàn)4.37.x版本中l(wèi)oad_in_4bitTrue的權(quán)重加載邏輯存在device placement競(jìng)態(tài)——當(dāng)模型分片加載時(shí)某些子模塊的to(device)調(diào)用被跳過。升級(jí)到4.38.0后該問題修復(fù)但引入了新坑TextIteratorStreamer在generate()中無法正確捕獲首個(gè)token。原因在于4.38.0重構(gòu)了streamer的put()方法要求必須在generate()的stopping_criteria回調(diào)中觸發(fā)而非舊版的on_subprocess_end。我最終鎖定4.38.0為平衡點(diǎn)它修復(fù)了核心device bug且streamer API雖有變更但文檔清晰。安裝命令如下pip install transformers4.38.0 accelerate0.27.2 bitsandbytes0.43.1 torch2.1.2cu118 -f https://download.pytorch.org/whl/torch_stable.html注意bitsandbytes0.43.1必須嚴(yán)格匹配更高版本會(huì)因CUDA kernel編譯差異導(dǎo)致4-bit matmul結(jié)果偏差我實(shí)測(cè)過0.43.2的輸出logits與0.43.1相差0.03足夠讓top-k采樣結(jié)果錯(cuò)位。3.2 TTFT精準(zhǔn)測(cè)量在generate()內(nèi)部插入雙時(shí)間戳要獲得可信TTFT必須繞過框架封裝直接在模型核心推理循環(huán)中打點(diǎn)。我修改了transformers/generation/utils.py中的_generate方法本地副本在兩個(gè)關(guān)鍵位置插入time.perf_counter()# 位置1Prefill階段開始前約第2150行 if input_ids.shape[1] 1: start_prefill time.perf_counter() # TTFT起點(diǎn)Prefill啟動(dòng)時(shí)刻 # 位置2首個(gè)token采樣完成后約第2280行在next_tokens賦值后 if cur_len 1 and not self.generation_config.do_sample: end_first_token time.perf_counter() # TTFT終點(diǎn)首個(gè)token確定時(shí)刻 ttft_ms (end_first_token - start_prefill) * 1000 print(f[DEBUG] TTFT: {ttft_ms:.2f}ms (prefill: {(start_prefill-start_prefill)*1000:.2f}ms, decode: {(end_first_token-start_prefill)*1000:.2f}ms))這樣得到的TTFT排除了任何Python解釋器開銷純粹反映GPU計(jì)算鏈路。當(dāng)天實(shí)測(cè)顯示Prefill耗時(shí)占TTFT的72%decode僅占28%印證了Prefill是瓶頸的判斷。3.3 ITL動(dòng)態(tài)追蹤用torch.cuda.Event實(shí)現(xiàn)微秒級(jí)間隔測(cè)量ITL對(duì)精度要求極高需分辨10ms級(jí)變化time.perf_counter()在Python層有約15μs抖動(dòng)不夠可靠。改用CUDA Event# 在generate循環(huán)內(nèi)每次生成新token后 if cur_len 1: torch.cuda.synchronize() # 確保前一token計(jì)算完成 if hasattr(self, _prev_event): self._prev_event.synchronize() elapsed_ms self._prev_event.elapsed_time(torch.cuda.Event()) # 微秒級(jí) itl_list.append(elapsed_ms) self._prev_event torch.cuda.Event(enable_timingTrue) self._prev_event.record()此方案將ITL測(cè)量誤差壓縮至±2μs當(dāng)天采集的1000個(gè)ITL樣本顯示前10個(gè)token ITL均值24.3ms穩(wěn)定第11-50個(gè)升至31.7msCache漸滿第51-100個(gè)達(dá)42.1msCache Miss頻發(fā)最后10個(gè)飆升至68.5ms顯存帶寬飽和。這種階梯式上升曲線是優(yōu)化KV Cache管理的直接依據(jù)。3.4 TGS計(jì)算基于真實(shí)token流而非理論batch sizeTGS不能靠batch_size × tokens_per_second估算必須統(tǒng)計(jì)真實(shí)輸出流。我在streamer中添加計(jì)數(shù)器class AccurateStreamer(TextIteratorStreamer): def __init__(self, *args, **kwargs): super().__init__(*args, **kwargs) self.token_count 0 self.start_time None def put(self, value): if self.start_time is None: self.start_time time.time() self.token_count len(value) super().put(value) def end(self): if self.start_time: total_time time.time() - self.start_time tgs self.token_count / total_time if total_time 0 else 0 print(f[METRIC] Total tokens: {self.token_count}, Time: {total_time:.3f}s, TGS: {tgs:.2f}) super().end()用此streamer跑10次256-token promptTGS均值63.2標(biāo)準(zhǔn)差僅1.8證明測(cè)量穩(wěn)定。若用batch_size4估算會(huì)得出252.8的虛假TGS誤差達(dá)300%。4. 關(guān)鍵參數(shù)調(diào)優(yōu)與實(shí)操避坑指南那些文檔里不會(huì)寫的細(xì)節(jié)4.1max_new_tokens設(shè)置不當(dāng)會(huì)直接殺死TTFTmax_new_tokens看似只是控制輸出長(zhǎng)度實(shí)則深度影響Prefill階段的內(nèi)存分配策略。LLama2的generate()在Prefill時(shí)會(huì)預(yù)分配最大可能的KV Cache空間。當(dāng)設(shè)為max_new_tokens1024時(shí)即使實(shí)際只生成200個(gè)tokenPrefill仍按1024預(yù)留顯存導(dǎo)致顯存碎片化。我當(dāng)天對(duì)比實(shí)驗(yàn)max_new_tokens顯存占用Prefill后TTFTms實(shí)際生成token數(shù)102418.2 GB41220025614.7 GB385200TTFT降低27ms顯存節(jié)省3.5GB。結(jié)論max_new_tokens應(yīng)設(shè)為業(yè)務(wù)預(yù)期最大值而非“越大越好”。我們最終將API默認(rèn)值設(shè)為256并提供max_output_length參數(shù)供客戶端按需覆蓋。4.2temperature和top_p的組合陷阱為什么0.80.9比0.950.95更穩(wěn)采樣參數(shù)直接影響ITL穩(wěn)定性。temperature控制分布平滑度top_p限制采樣范圍。我實(shí)測(cè)發(fā)現(xiàn)temperature0.95, top_p0.95組合下ITL標(biāo)準(zhǔn)差高達(dá)18.3ms而temperature0.8, top_p0.9組合下標(biāo)準(zhǔn)差僅9.7ms。原因在于高temperature使logits分布更平坦top_p篩選后剩余token數(shù)更多導(dǎo)致torch.multinomial()采樣耗時(shí)增加需遍歷更多候選。更隱蔽的坑是top_p0.95在某些logits分布下可能只保留2-3個(gè)token而top_p0.9穩(wěn)定保留5-8個(gè)后者采樣方差更小。生產(chǎn)環(huán)境我們固定采用temp0.8, top_p0.9并在文檔中注明“此組合在響應(yīng)多樣性與ITL穩(wěn)定性間取得最佳平衡”。4.3use_cacheTrue不是默認(rèn)最優(yōu)關(guān)閉它有時(shí)能提升TTFTuse_cacheTrue啟用KV Cache以加速后續(xù)token生成但Prefill階段需額外計(jì)算并存儲(chǔ)所有prompt的KV向量。對(duì)于極短prompt32token關(guān)閉cache反而更快。我測(cè)試promptHello2tokenuse_cachePrefill耗時(shí)TTFT顯存占用True185ms210ms12.1 GBFalse142ms165ms11.3 GB差距達(dá)45ms因?yàn)槎蘰rompt的Prefill計(jì)算量小而cache初始化開銷內(nèi)存分配zero-fill成為主導(dǎo)。我們的解決方案是實(shí)現(xiàn)prompt長(zhǎng)度自適應(yīng)cache開關(guān)——len(prompt_ids) 32時(shí)強(qiáng)制use_cacheFalse否則True。一行代碼切換TTFT優(yōu)化立竿見影。4.4torch.compile()的適用邊界別在LLama2上盲目開啟HuggingFace文檔大力推薦torch.compile()但實(shí)測(cè)在LLama2-7B量化版上開啟后TTFT反而增加12%ITL抖動(dòng)加劇。根本原因是bitsandbytes的4-bit線性層Linear4bit未被torch.compile完全支持編譯后部分kernel回退到慢速路徑且compile的graph capture增加了首次運(yùn)行開銷。我用torch._dynamo.config.verboseTrue日志確認(rèn)Linear4bit.forward被標(biāo)記為backendeager未編譯。結(jié)論量化模型慎用torch.compile()浮點(diǎn)模型FP16/BF16可開啟。我們最終在配置中加入開關(guān)if not is_quantized_model: # 檢測(cè)是否為bnb量化模型 model torch.compile(model, modereduce-overhead)5. 常見問題與現(xiàn)場(chǎng)排查技巧從日志到硬件的全鏈路診斷5.1 問題TTFT忽高忽低波動(dòng)范圍達(dá)±200ms排查路徑先看CPU負(fù)載htop觀察Python進(jìn)程CPU占用。若長(zhǎng)期30%說明GPU未被喂飽檢查數(shù)據(jù)加載是否阻塞如tokenizer在CPU上同步處理長(zhǎng)文本再查GPU利用率nvidia-smi dmon -s u看util列。若TTFT高時(shí)util40%大概率是CUDA kernel launch延遲檢查是否有其他進(jìn)程搶占GPU如監(jiān)控腳本最后盯顯存帶寬nvidia-smi dmon -s b看fb__se0__inst_mem_read。若TTFT飆升時(shí)帶寬達(dá)95%確認(rèn)是否Prefill階段顯存帶寬飽和——此時(shí)需縮短prompt或升級(jí)顯卡。當(dāng)天實(shí)錄TTFT從380ms跳至580msdmon -s b顯示帶寬從72%→96%dmon -s u顯示util從85%→42%。結(jié)論顯存帶寬瓶頸。解決方案將prompt截?cái)嘀?12token以內(nèi)并啟用flash_attn需重編譯但帶寬占用降35%。5.2 問題ITL在生成中途突然拉升至100ms持續(xù)10個(gè)token排查路徑檢查KV Cache大小打印past_key_values[0][0].shape確認(rèn)是否隨生成長(zhǎng)度線性增長(zhǎng)。若增長(zhǎng)異常如某層突然變大2倍可能是cache管理bug監(jiān)控顯存碎片nvidia-smi --query-compute-appspid,used_memory --formatcsv觀察used_memory是否階梯式上漲。若每次上漲幅度不一致說明碎片化驗(yàn)證CUDA事件同步在ITL飆升處插入torch.cuda.synchronize()若ITL回落說明是異步執(zhí)行未完成導(dǎo)致的測(cè)量失真。當(dāng)天實(shí)錄ITL在第65個(gè)token處飆升past_key_values[0][0].shape顯示第3層KV尺寸異常應(yīng)為[1,32,65,128]實(shí)為[1,32,128,128]。定位到modeling_llama.py中repeat_kv()函數(shù)在num_key_value_groups1時(shí)索引錯(cuò)誤。打patch修復(fù)后ITL波動(dòng)消除。5.3 問題TGS在并發(fā)測(cè)試中急劇下降4并發(fā)時(shí)TGS僅為單請(qǐng)求的52%排查路徑分離網(wǎng)絡(luò)與計(jì)算用curl -o /dev/null -s -w time_connect: %{time_connect}\ntime_starttransfer: %{time_starttransfer}\n直連服務(wù)端排除網(wǎng)絡(luò)層影響分析GPU顯存帶寬爭(zhēng)搶nvidia-smi dmon -s b看4并發(fā)時(shí)帶寬是否達(dá)99%。若是說明所有請(qǐng)求在搶同一塊顯存帶寬檢查CUDA Context切換nsys profile -t cuda,nvtx --statstrue采集trace看cudaStreamSynchronize調(diào)用是否密集——密集調(diào)用意味著kernel launch排隊(duì)。當(dāng)天實(shí)錄nsys顯示4并發(fā)時(shí)cudaStreamSynchronize耗時(shí)占比達(dá)38%。根本原因是transformers的generate()在每次forward()后都調(diào)用synchronize()。解決方案修改源碼僅在return_dict_in_generateTrue時(shí)同步其余情況異步——TGS提升至單請(qǐng)求的76%。5.4 問題generate()返回空列表或token序列中斷終極排查清單? 檢查stopping_criteria是否誤設(shè)max_length小于input_ids.shape[1]導(dǎo)致Prefill后立即停止? 驗(yàn)證eos_token_id是否與tokenizer配置一致tokenizer.eos_token_idvsmodel.config.eos_token_id量化模型常不一致? 確認(rèn)pad_token_id已正確設(shè)置tokenizer.pad_token_id tokenizer.eos_token_id否則attention mask計(jì)算錯(cuò)誤? 查看logits_processor是否注入了非法processor如自定義的RepetitionPenaltyLogitsProcessor未適配量化權(quán)重導(dǎo)致logits爆炸。當(dāng)天致命坑model.config.eos_token_id2但tokenizer.eos_token_id32000LLama2-7B的特殊eos。generate()用config的2去截?cái)嘟Y(jié)果所有輸出在第二個(gè)token就被終止。將eos_token_id32000顯式傳入generate()后問題解決。6. 性能基線與優(yōu)化效果總結(jié)從調(diào)試日志到可交付成果6.1 優(yōu)化前后核心指標(biāo)對(duì)比A10G單卡指標(biāo)優(yōu)化前05-27優(yōu)化后05-28提升幅度關(guān)鍵措施TTFT256token prompt428 ms362 ms↓15.4%max_new_tokens256use_cache自適應(yīng) flash_attnITL P95穩(wěn)態(tài)58.3 ms34.1 ms↓41.5%temp0.8/top_p0.9 KV Cache修復(fù) torch.compile禁用TGS4并發(fā)94.2 tokens/s182.6 tokens/s↑93.8%cudaStreamSynchronize精簡(jiǎn) 顯存帶寬優(yōu)化顯存峰值占用21.8 GB16.3 GB↓25.2%Prefill顯存預(yù)分配優(yōu)化 cache管理改進(jìn)注意所有數(shù)據(jù)均在相同硬件A10G 24GB、相同模型LLama2-7B 4-bit quantized、相同prompt集100個(gè)真實(shí)業(yè)務(wù)樣本下測(cè)得確??杀刃?。6.2 可復(fù)用的調(diào)試工具包我把當(dāng)天所有調(diào)試腳本整理成輕量工具包無需安裝直接下載即可用ttft_benchmark.py自動(dòng)運(yùn)行100次TTFT測(cè)量輸出均值/中位數(shù)/P95及分布直方圖itl_profiler.py注入CUDA Event生成ITL時(shí)序曲線CSVPNGtgs_stress_test.py模擬1-8并發(fā)輸出TGS衰減曲線與資源占用熱力圖kv_cache_analyzer.py實(shí)時(shí)打印KV Cache各層尺寸與顯存占用定位cache泄漏。使用示例python ttft_benchmark.py --model_path ./llama2-7b-4bit --prompt_file prompts.txt --trials 100 # 輸出TTFT_mean362.4ms, TTFT_p95412.8ms, std28.3ms這些腳本已去除所有公司標(biāo)識(shí)完全開源你可以在任何LLama2部署環(huán)境中直接運(yùn)行。6.3 給團(tuán)隊(duì)的三條硬性規(guī)范已落地執(zhí)行基于本次調(diào)試我們向所有模型服務(wù)團(tuán)隊(duì)發(fā)布三條強(qiáng)制規(guī)范違者需重新走上線流程TTFT SLA必須綁定prompt長(zhǎng)度prompt≤128token時(shí)TTFT≤300ms128prompt≤512時(shí)TTFT≤450msprompt512時(shí)TTFT≤800ms。禁止籠統(tǒng)宣稱“TTFT500ms”ITL必須報(bào)告P95值上線報(bào)告需包含ITL的P50/P95/P99且P95≤50ms。若P9550ms必須附KV Cache優(yōu)化方案TGS必須標(biāo)注測(cè)量條件所有TGS數(shù)據(jù)必須注明prompt長(zhǎng)度分布、采樣參數(shù)、并發(fā)數(shù)、顯存占用四要素缺一不可。這三條規(guī)范不是紙上談兵。05-28當(dāng)天下午我們用新規(guī)范重測(cè)了3個(gè)待上線服務(wù)其中1個(gè)因ITL P9562ms被叫停另2個(gè)因TGS未標(biāo)注條件被退回補(bǔ)測(cè)。規(guī)范的生命力就在第一次嚴(yán)格執(zhí)行。我個(gè)人在實(shí)際調(diào)試中最大的體會(huì)是大模型推理的“快”從來不是某個(gè)神奇參數(shù)一錘定音而是對(duì)Prefill計(jì)算、KV Cache、顯存帶寬、CUDA調(diào)度這一整條鏈路的毫米級(jí)掌控。那些藏在generate()方法深處的幾十行代碼那些nvidia-smi dmon里跳動(dòng)的數(shù)字才是決定用戶體驗(yàn)的真實(shí)戰(zhàn)場(chǎng)。下次當(dāng)你看到“模型已部署”不妨多問一句它的TTFT在什么prompt下測(cè)的ITL的P95是多少TGS的并發(fā)條件是什么——問題的答案往往就藏在05-28周二那臺(tái)A10G服務(wù)器的日志最后一行里。
返回列表
PREV
查看更多資訊
NEXT
返回資訊列表
成年女人一区| www.99色| 欧美视频在线第3页| 色色九区| 麻豆伊人网| 开心激情站| 淫荡网址| 欧美草草| 欧美亚洲清纯| 男人的天堂亚洲| 久久天堂| 97视频在线视频| 99综合视频| 久久超碰国产一区二区三区| 九九超碰综合网| 色婷婷电影网| α√在线| 三级色综合| 亚洲Av诱惑| 日韩精品人妻中文字幕不卡乱码| 99少妇精品视频| 中国一级特黄大片护士| 97精品国产| 熟妇女伦乱视频视频| xxx亚洲午夜天堂| 啊视频在线| 岛国毛片手机在线观看| 超碰97色| 亚州综合色| 亚洲成人在线资源| 久久久男人的天堂| 久久国产对白激情浪潮| 九九热精品在线| 成年女人18级毛片毛片免费观看| 超碰成人公开| 美国精品国产精品| 欧美日韩国产一区二区小黄片大全| 日本不卡中文| 亚春色色| 91日韩网站| 黄页网站成人免费| 99久热精品99re6热| 久久久久久亚洲精品不卡人乳| 国产精品制服丝袜清纯唯美| 国产野战露脸在线播放| 亚洲成人性爱网站在线播放| 精品人妻一区| 免费的黄片有限公司| 久久狠狠色噜噜狠狠狠狠97| 日韩A优精品在线观看| 91丝袜在线观看| 久久久久久久唑| 超碰久久.com| 97国产精品一区| 干b网| 伊人嫩草| 亚洲国产成人精品女人久久久| 草B在线| 亚洲情色电影网| 四虎影视精品| 久久久9 9 9精品| www.91欧美| 野狼激情网| 久久婷婷伊人| 婷婷色在线| 色情综合| 好淫网一二三视区| 超硑97精品| 九九亚洲精品| 久久九九久精品国产尤物|国产精品爽黄69天堂A片潘金莲,国产亚洲精品第一综合 | 操逼视频国产无套| 蜜乳视频网站| 另类 日韩 熟女| 精品在线观看视频在线| 91人妻人人妻| 91色伦综合| 人乳av| 色婷婷日韩精品一区二区三区| 日日摸日日碰夜夜爽视频| 国产日韩怡红院| 亚洲丝袜诱惑| 激情第四色| 欧美熟爽综合| 国产99999久久精品| 中文字幕二区| 欧美高清无码免费视频高清版| 久久久久免费看少妇A片特黄| 国产精品久久伊人| 国产亚洲99久久精品| 99精品无码| 四虎免费看黄| 免费一二区| 国产极品美女高潮无套在线观看| www99热| 黄色大片一区二区密桃丝袜| 大屁股国产在线视频| 青青操在线视频| 无码不卡八戒| 又黄又爽在线观看视频| 碰人碰碰人人开房人肉| 欧美色www亚洲国产阿娇要播| 最新的亚洲无吗| 天美传媒一二三区永久网站| 精人妻无码一区二区三区伊人直播| 91中出在线| 少妇一级婬片免费放一级a性色.| 狠狠久久亚洲欧美专区| 久久网亚洲| 久久草草亚洲蜜桃臀| 人成午夜免费大片| 色香在线| 老熟女乱伦一区| 日韩一级片| 白丝少妇一区二区| 强奸乱伦 亚洲一区| 国产精品自产拍在线观看社区| 国内精品不卡无毒99999| 日韩熟女视频二区| 国产精品干干干| 很黄很污的免费网站| 骚鸭AV| 日韩性爱1级片视频| 91亚洲黑人| 久草久日| 国产精品无码在线| 青青草大香蕉在线视频| 天天射天天操天天干天天吃2018| 特级大荫道BBwBBwBBW| 久久国产精品视频| 婷婷综合在线| 欧美日韩精品青青| 亚洲精品精品一区二区| 天天综合站| 国精精品无码一二三区水多多| 天天爽夜夜欢视| 亚洲丝袜少妇在线| 操我啊啊啊啊啊| 久艹日日日| 四虎AV在线观看| 中文AV制服乱伦| 免费观看的av| 天美传媒麻豆一区二区三区国产精| 国产乱伦性爱区| 国产13区| 嫩草影院在线观看精品| 啊啊啊啊啊啊啊在线| 亚欧无码线免费观看视频| 日本久久久久久久久| 亚欧美综合网。| 18禁美女裸体无遮挡啪啪| 高清无码国产亚洲| 春色91| 99热在线播放| 中文字幕激情小说| 久操99| 亚洲av青草久久一区二区| 男人的天堂啪啪| 男人综合网| 囯产操逼片| 日韩天天综合| 天天综合网一91网| 又大又长又粗又爽又黄| 超碰社区97| 亚洲青青草| 深爱激情五月天| 在线中文字幕极品av| 丁香六月婷婷久久综合| 百度百度日本操逼| 亚洲成人妻日韩在线| 国产综合网站在线播放 | 婷婷五月天色| 久操凹凸视频| 日韩大香蕉| 综合影院永久入口国产| 国产老熟女| 成人乱人伦一区二区| 欧美,亚洲,日韩,v,天堂,手机在线观看 | 男人天堂无码| 按摩中文字幕| 九九伊人网| 亚洲天堂精品日韩电影| 国产久久日| 熟女视频久久| 另类TS人妖一区二区三区| 久久久久久久久久久久欧美日| 免费视频a级毛片免费视频| a啊啊啊啊啊啊啊啊一区二区| 精品国产乱码久久久久久久久1| 人妻无一区二区三区| 91欧美性| 日本精品人妻少妇一区二区| 国产成人在线观看综合| 欧美精品99久久久**| 欧美一区二区| 操逼天美3区| 少妇内射视频| 91久久午夜无码鲁丝片久久人妻| 国产高潮AA片免费看| 欧美色www亚洲国产阿娇要播| 日韩精品影视| 丁香五月天久久精品视频一区二区三区| 91 亚洲 欧美 日韩 国产 综合| 日日夜夜摸| 精品久久久久成人码免| 精品成人女人久久| 污污污8888| 亚州情色j区| 探花一区在线| 性开放中文AV高清无码免费看| 一级二级在线观看| 青青久草| 天天搞欧美| 久久久久久久久久久久黄色 | 在线可观看的黄色网址| 综合久久97| 久偷拍欧美日韩三区| 啪啪91| 思思热免费视频观看| 69XX一中文字幕人妻91| 97国产超碰| 加勒比99999| 9ⅰ久久久天天| 好看的久久不射无码影视影院| 亚洲熟妇自偷自拍另欧美| 色盈盈影院| 校园春色 欧美| 久久久三区二区一区| 我要色综合网| 国产日韩欧美| 黄页视频网站野外| 亚洲精品无码久久AV| 香蕉久久AⅤ...| 青青在线视频日韩欧美| 国产多人在线观看视频| 91国产操逼视频| 亚洲色欧美| 天天操夜夜操| 网友自拍第1页| 嗯啊抽插大香蕉网页| 欧美一级在线观看成人| 国产品精品自在在线午夜免费| 91熟女网| 亚洲 暴爽 AV人人爽日日碰| 国产91影院| 亚洲欧美日韩免费观看| 欧美老妇曰批的视频| 免费一级a毛片久久久久久鸭绿欲 国产精品亚洲天堂网址 | 麻豆黄四叶草网站| 欧美美女在线高潮999| 毛片一区二区| 精品综合久久久久久五月天| 国产美女高潮视频| AV男人天堂网| 人妻久久一区二区三区 | 欧美色综合图片| 四虎在线观看网站| 日韩97视频| 欧美激情在线观看视频| 色噜噜狠狠色综无码久久合欧美| 老子午夜伦不卡影院| 中国一级操逼视频| 成人免费福利在线观看| 中文字幕五区| 青青欧洲黑| 日本不卡中文| 大香蕉久| 美女啊啊啊啊pc| 麻豆一区二区三区精品| 骚货操死你| 97无码视频在线播放| 无码人妻精品一区二区中文| 国产自偷自拍一区| 国产美女精品| 91久久18禁| 91国产大片| 久久久久人| 天天干夜夜肏| 日韩欧洲操屄视频| 色情综合| 亚州熟妇精品| 大香蕉综合网| av日韩在线观看电影| 屌色在线97视频| 四虎国产成人精品免费一女五男| 久久二| 日日插夜夜| 丁香激情网| 久久综合久色欧美综合狠狠| 少妇厨房愉情理伦片bd在线观看| 丁香五月成人| 曰本道人妻久久久在线不卡色视频| 狠狠爱夜夜| 国产一区二区精品久久99| 婷婷大香蕉| 天天热精品| 亚洲免费在线探花| 闷骚老熟女15P| 国产精品国产拍高清AV| 丝袜美腿射精91| 福利视频香蕉免费一区二区在线| 激情五月丁香五月| 操老熟女AV| 成人一二| 激情五月综合网| 精吧天堂| 久久久精品无码亚免费| 天天综合网~91综合网| 操逼国产免费| 久久久久久久六六| 91在线视频观看国产| 亚洲色图欧美色图制服丝袜| 九九视频黄色片| 久久久不能久久久久| 精品在线蜜臀| 久久久性爱视频| 中文字幕,人妻,日韩| 青青11操操操操操操操操| 亚洲AV色图一区| 日韩欧美经典在线观看| 久久宗合97| 99热99色| 天天综合-91入口| 五月丁香综合激情| 日韩性爱小视频在线观看| 九九九九欧美| 91人人臊| yiqicaoav| 中文伊人大香蕉视频| 日韩人妻丝袜中文字幕| 欧美性爱一内片一区二区三区| 思思热一热婷婷热一热| 久久婷婷视频| 青青色在线观看| 欧美激情亚洲色图| 国产精品免费日韩| 婷婷人妻激情| 99热免费| 国产偷拍自拍在线视频| 激情欧美97| 性爱动态120秒| 一区二区三| 五十路熟女工口 | 亚洲熟女人妻中文字幕一区二区 | 午夜精品久久久久久久| 美女尤物人人操| 国产AV线| 人人妻人人操人人乐| 俺去啦俺来也久久综合| 99热国产精品| 怡红院怡春院| 久久鲁干| 激情小说图片亚洲首页| 97欧美久久久久久久| 精品人体无圣光凹凸| 久久久涩| 国产精品欧美激在线| 国产成人免费观看在线视频| 91精品国产91综合久久蜜臀| 69丨亚洲丨精品丨入口免费播放| 日本一本一区二区三区四区五区欧美日韩中文字幕| 精品久久久av无码免费| 5252色欧美在线男人的天堂| 日欧毛片久久| 国产成人精品亚洲日本| 国产亚洲精品A在线观看下载| 亚洲在钱| 久久99草| 亚洲A色| 久久免费精品视频免一| 1769一区| 国产福利影视| 26UUU欧美激情一区二区| 超碰色美女| 亚洲精品欧洲精品| 99操视频| 色爱三区| 国产精品麻豆视频网站| 蜜臀久久99精品久久久| 国产青视频| 中文字幕在线24| 久久久久成人亚洲国产| 欧美少妇性爱网站| 亚欧高清| 亚洲欧美日韩中文播放 | 中国熟妇| 久久精品国产97欧美精品亚洲| 欧美性暴力猛交XXXX| 国产女人与拘做受视频免费| 国产高清亚洲日韩一区| 91熟女少妇| 亚洲天堂女优在线| 婷婷97| 屁屁影院一区二区三区国产| 国产绿奴视频在线观看| 无码一区免费在线不卡| 日本一区二区不卡精品| A片A5445444| 尤物网站91| 九九九九精品精| 五月天人妻综合| 精品一区二区三区四区女| 亚洲情色五月天| 理论久久婷婷网 8| 成人五月香网在线| 超91综合网| 九九九九九九九精品视频| 亚洲天堂人妻一区二区| 久久久97| 香蕉久久国产AV一区二区| 911粉嫩人妻| 人妻一区视频| 久干9操| 99精品视频在线观看免费| 久久久精品电影| 亚洲精品一区二区精品| AV和黑人在线播放| 国产精品一区二区 尿失禁| 国产精品一级毛片不卡视| 手机在线播放国产福利| 亚洲综合中文字幕有码| 久久精彩免费视频| 密臀在线免费观看| 麻豆黄四叶草网站| 国产精品直播在线观看直播| 国产色图乱伦| 欧美一级久久久丰满| 久干9操| 欧美刺激色黄片免费看| 亚洲国产欧美中文永久| 日本福利社| 不卡超碰护士AV在线免费播放| 欧亚乱色熟一区二区三四区| 亚州图片第一页| 四虎在线视频| 日本羞羞的视频在线播放 | 国产青青综合伊人| 欧美日韩亚洲少妇寂寞影院正在播放 | 亚洲综合网电影91| 欧亚日韩三区| 东京热,男人的天堂| 秋霞色色影院| 亚洲av淫乱| AV天天在线观看| 国产一区二区久久| 狠狠爱夜夜| 亚洲天堂男人网| 欧美老妇曰批的视频| 免费观看啪视频| 91成人久久| 婷婷色播婷婷| 久久人妻无码毛片A片麻豆| 久久久偷拍| 欧美成人A√在线一区二区| 人人射人人操人人摸| 婷婷久热| 麻豆2区1区天美| 日韩欧亚太美不卡| 亚洲欧美97| 亚洲天堂一区二区久久| 丁香六月婷婷| 9久综合网| 天操老女人| 国产精品片| 在线观看日韩av不卡| 色婷婷狠狠| 国产精品一区二区后入| 欧美国产精品久久九九| 黄片aaaaa一区| 国产精品国产自产拍高清AV| 黄色成年| 天天干天天燥| 久久av色| 免费成人在线熟妇网| 亚洲色图A| 亚洲高清无码在线桃色| AV中文字幕剧情1区2区3| 在线视频 亚洲精品| 999岛国大片| 欧美一区二区男人天堂| www.色五月| 我爱操| 韩三级a视频在线观看 | 91人妻视频| 国产一区在线看| 国产操操日韩三级黄| 亚洲人妻熟妇三十三区| 91天天综合日韩欧美| 人人做人人妻人人夜视频| 色娱乐色呦呦夜夜夜夜av| 中国AAAAAA黄色片| 色噜噜国产在线| 亚洲AV无码乱码| 吻戏激情性巴克| 欧美熟妇色| 婷婷久久五月天| 日本熟妇人妻一区二区三区| 99性爱| 色97干| 3d成人精品一区二区| 影音综合网| 91亚洲网站| 加勒比大香蕉视频在线| 伊人在线大香蕉视频久久| 亚洲国产精品9999在线观看| 欧美性区| 中文字幕一区二区韩| 伊人精品国产| 超碰人人色| 久一区久久蜜桃| 久久婷婷精品| 91chinese在线| 黑人性暴力毛片| 国产日韩精品人妻久久久久色欲网站| 麻豆成人av| 亚洲少妇中文字幕网址| 91亚洲情色| 色一情一乱一乱一区91Av| 亚洲欧美在线丝袜| n1038 一二三区| 粉嫩不卡一区二区性爱| 777超碰| 亚洲永久AV无码精品秋霞| 国产精品人妻熟女aⅴ| 97超级色碰碰| 九色 人妻 大香蕉| 日本操色导航| 激情在线青青操| 色情亚洲日本成人| 91站街按摩店老熟女熟女| …亚洲黄色厕厕女女在线播…| 国产传媒日本欧美专区| 国产一区二区三区导航| 色欲av国内精品久久久久久| 曰韩中文人妻视频| 亚洲国产精品久久久男人的天堂| 亚洲AV无码AV吞精久久久久| 素人伊尹大香蕉免费下载视频| 91在线|亚| 国产AV毛片| 欧美激情综合| 人妻少妇无码 | 久久久久密| 国产一区二区三区导航| 中文字幕三四区| 超碰视97中文| 男人天堂日日夜夜| 蜜臀av在线播放一区二区三区| 亚洲精品尤物yw在线影院| 青青草这里只有精品| 校园春色亚洲欧洲| 99热婷婷| 强奸乱伦日韩AV| 97欧美超碰| 国产精品午夜福利| 精品国产久久乱码| 久久111| 中亚精品极乱| 超碰99热| 岛国成人av在线播放网址| 欧美亚洲国产91在线| 99少妇| 日韩97精| 日韩欧美视频青青| 精品无码一区二区三区| 亚洲AV麻豆Aⅴ无码电影一| 97精品国产97久久久久久| 99re只有精品| 99热婷婷一区二区三| 天天日天天搞天天干| 久久草大香蕉| www被窝色com| 久久久久久久久久久久97 | 丰满人妻一区二区三区免费,| 粉嫩AV一区夜夜嗨| 男人的午夜天堂| 福利在线黄片| 大香蕉欧美国产日韩高潮| 啊啊啊好想要| 午夜激情床戏激情| 91 丝袜在线播放| 久久无码电影| 激情五月天校园春色网| 久综合国内精品自在自线| 久久色一区| 我爱搞逼综合网| 91n欧美| 啪啪免费| 99re国产中文字幕| 91热| 久操大香蕉| 欧美1区二区三区公司| 美女91| 日韩av不卡在线观看| 加勒比伊人综合| 精品久久久高清无码| 在线天堂999| 青春草莓视频在线观看网址| 久久天天性久久伊人| 蜜臀99久| 亚洲精品日韩国产欧美| 91精品亚洲内射孕妇| 国产大片精久久久久久| 永久电影三级在线观看| 免费看日本操逼视频| 97se亚洲| 欧洲色色| 亚洲欧美日韩制服另类| 天美一二三在线观看Av| 综合国产影视三级| 成人欧美日超碰| 牛牛aV| 新怡红院| 久久精品国产精品亚洲艾通辽熟妇| 亚洲无码一区成人免费午夜| 偷拍 精品另类 凸凹了四区| 在线中文字幕视频| 日本性感人妻91| 中文字幕乱碼在线| 午夜啪啪片| 亚洲激情在线一区二区| www国产无码| 九九九午夜| 欧美黄色大片在线观看| 久久av成人无码免费| 久久久精品| 欧美图片色综合| 国产精品亚洲天堂网址| 国产嫩草精品A88AV在线| 黑人性暴力毛片| 91超级碰碰| 午夜啊啊| 99精品无码| 久久激情婷婷| 欧美日韩精品久久| 91呆哥人妻| 一区二区三区免费视频入口| x97av| 婷婷中文字幕| 99这里只有精品国产| 色综合 加勒比| 亚洲五月婷婷| 日韩欧美福利视频看看| 久久久久久免费电影| 狠狠欧美| 嗯啊抽插大香蕉网页| 蜜臀AV一区二区三区| 操人妻丝袜高跟| jizzjizz欧美| 97香蕉网| 亚洲 欧美 另类 日韩 人妻一区 | 欧美日产国产在线成人第一区| 91l欧美在线| 色青青久久影视| 香蕉热人人精品| 亚洲欧美清纯| 亚洲天堂久| 国产综合久久久鬼色| 亚洲国产欧美中文永久| 国产精品亚洲一级av第二区| 97久久久| 亚洲欧美碰碰| 国产后入清纯| 亚爽爽爽爽爽爽爽爽| 九九久久九九久久| 99精品久久久久久久婷婷蜜桃| 日韩一区二区精彩视频| 欧亚日韩中文在线| 漂亮人妻被强中文字幕hd| 超碰97最新人妻| 99精品人妻| 青青久久艹| 欧美在线第五页| 青青操少妇| 97青青操视频| 欧美综合站| 日本三级R| 欧洲成人性爱视频| 91伊人久| 午夜男女爽爽爽影院视频| 亚洲 欧美综合| 日韩欧美天堂| 久久是精品| 欧美综合在线91| 久久蜜桃综合网| 亚洲另类久操网| 久草久热| 亚洲中文制服诱惑| 日本特黄f c2| 97干日韩| 色妺妺在线视频| 日本91白丝| 色噜噜狠狠色综无码久久合欧美| 色小视频蜜乳| 丁香五月天激情| 99久久久无码国产精品性男| 3p国产色噜噜一区| 殴美大黄片| 亚洲操人| 综合久久婷婷| 97碰在线视频| 99热精品免费| 91视频国品一二三区| 婷婷中文字幕| 曰韩精品九九无码| 91色综| 东北女人av| 日韩丝袜人妻AV| 国产精品色哟哟| 传媒免费一区二区三区| 操淫穴亚洲五月丁香| 精品无码一区二区人妻久久蜜桃| 4虎在线视频| 91大香蕉伊人| 东京热毛片177b2viP| 亚洲中文字幕熟女| 日日操免费视频| 男女做爰猛烈动高潮A片免费应用 少妇厨房愉情理伦片bd在线观看 不卡中文字幕aⅴ在线 | 岛国小电影| 97国产色图| 欧美激情亚洲情色| 超碰97综合在线| 国内偷拍精品一区二区| 欧美爱三级日韩久久| 欧美亚洲另类在线蜜桃| 青草av在线| 久久久亚洲精品电影免费看| 一本一首道人妻少妇免费久久| 人妻少妇精品久久久| 国产2.3.4区| 91操熟女| 久久精品中文字幕无码l| 色香色欲天天综合网天天来吧| 久久久蜜桃一区二区三区| 97青青操视频| 久久久久9| 久久久久久久唑| 国产精品永久免费10000| 亚洲色图欧美视频| 久久精品视-一级做a爰片性色毛片16美国-中国女与老外在线精品 | 超碰人妻天天干| 天天躁日日躁AAAXX| 国产视频一区二区三区久久亚洲天堂 | 香蕉欧美| 中文字幕在线观看二区三区| 日韩精品.久久精品.AV女优.天美传媒| 99蜜桃臀亚洲成人在线观看| 国产一区二区精品久久久不卡蜜臀| 爱妃国产亚洲视频中文字幕| 粉嫩不卡一区二区性爱| 日韩亚洲美女一区久久| 职场同事知名国产国产精品久久欧美日韩| 好涩综合| 亚洲综合中文字幕有码| 啊啊啊啊视频免费| 青操影院| 欧美性爱18观看| 色五月婷婷五月天| 天天操天天日青青草超碰av| 91少妇| 亚洲欧美成人在线| 日本黄色裸日本黄色裸体| 一区二区不卡视| 国产精品岛国片在线观看| 欧美三级一级| 啊啊啊啊好爽好舒服一区二区易域| 巨爆乳一区二区爆乳区 | 国产精品干干干| 98一区二区精品| 亚洲AV不卡在线观看尤物| 国产又粗又长视频| 国内毛片国产专区二| 97超碰资源网| 插入逼91| 欧美日韩色图片| 亚洲欧美校园| 欧美一区二区三区日韩| av麻豆啪啪| 大香蕉乱级| 116美女午夜| 亚洲欧美黄| 大地资源在线观看中文第二页| 日韩丝袜高跟制服在线观看| 黄色大片视频在线免费看| 99热这里只有精品99| 嫩草 我啊~嗯~在线| 欧美日韩国产三级黄色| 欧美 传媒 麻豆 日韩 偷拍| 一级黄色性爱裸体视频| 亚 欧 美 综合| 色九久| 久热九九| 亚洲在线综合| 国产一级特黄大片处女| 亚洲一区二区三区麻豆传媒| 91中文字幕制服丝袜免费视频| 精品一二三区久久AAA片| 国产精品国产| 国产精品无码在线| 拍拍拍拍大尺度黄色三级片拍拍拍拍拍照| 亚洲精品无码久久AV| 高树玛利亚无码流出| 麻豆天美91| 色人久久| 天天躁日日躁狠狠狠躁| 婷婷五月天伊人| 这里只有精品97| 97国产色综合| 亚洲图片欧美色图| 2025亚洲男人天堂| 国产无码三级视频在线观看| 日韩懂色网| 伊人久久综合影院| 亚洲极品| 大香蕉啪啪网| 一级性爱网| 欧亚第一综合网| 日本午夜操逼| 九九九国产精品| 中文字幕二区日韩天堂| 狠狠操,使劲操| 香蕉色网| 欧美日综合| 国产毛片毛片4p懂色| 91偷拍欧美亚洲| 日本一区二区三区四区免费观看| 春色综合免费| 曰韩av中文字幕专区| 999综合网| 欧洲乱码视频| 91在线无码精品秘 软件| 亚洲综合伊人无码久久| 台湾大香蕉99热| 无码av永久免费专区网站| 四虎免费在线播放| 国产精品丝袜在线| 毛片17S| 亚洲国产精品9999在线观看| 久久噜噜噜精品国产亚洲综合| 97人人草| 殴美在线AⅤ| 999久久久久久久久| 五月色综合| 久久久精品中文字幕爱豆| av线电影| 91强热人妻| 国产精品一区二区密臀| 久久久性爱视频| 国产一区二区啪啪视频| 日本成人免费一区二区三区| 91无摭挡| 欧美黄色图片| 天天草天天干天天日| 久久精品国产Aⅴ| 夜夜夜夜爽| 熟女一区二区| 欧美日韩第一页| 欧美午夜视频免费观看| 99re视频在线播放青草| 亚洲精品国产av天美传媒| 91色久| 日韩乱中文| 91狠狠| 91精品在线播放| 国产精品久久久久久夜夜夜| 91久操| 国产女人高潮嗷嗷嗷叫小说| 精品午夜福利| 色哟哟AV| 久久综合av| 91久久精品国产| 2024人人操人人摸| 天天操天天干一区二区 | 欧美夜夜狠| 手机在线观看不卡无码av| 试看日韩黄片| 欧美同性恋 的搜索结果 - 91n| 亚洲综合113页| 亚洲久热| 亚洲天堂99| www.99中文字幕| 日本高清视频xxxx| 亚洲情色欧美| 激情欧美97| 精品无码一区二区三区| www. 男人天堂成人在线| 91网亚洲| 亚洲天堂另类小说男人| 思思99热| 少妇人妻好深太紧了vr91| 在线免费观看高清无码视频| 免费视频一二三区| 综合熟妇一区二区三区| 91亚.色| 久久是精品| 九九九九97| 中文字幕一区二区三区四区在线视频| 日本色日夜干| 人妻铁牛TV| 性91| 好色综合| 麻豆视频一区二区| se..亚洲欧美| 亚洲交性| 国产自偷| 久久噜噜噜精品国产亚洲综合| 亚洲色图第一页| 久久久久久久六六| 97情超碰色| 999色欧美中文字幕| 啪啪啪男女亚洲中文字幕99| 国产尤物在线三区| 亚洲性高潮| 激情一区二区| 18禁看网站一区| 伊人久久综合影院精品久久久| 97人人夜夜精品视频| 国产精品久久久无码aV去| 在线观看高清AV| 93人人操人人| 99热国产| 97电影院超碰| 不卡人妻少妇精品毛片一区23区视频| 中文字日本乱码| 清清草影| 男人的天堂三级| 亚洲毛片久久| 超碰在线人妻中文字幕| 黄人人操人人操| 91天堂色男人的天堂| 极品极品色影院| 久久国色天香香蕉| 九月AV| 粉嫩久久久极品| 无码二级三级| 日日干天天干夜夜爽| 无码精品久久久天天影视 | 天天综合91入口| 国产激情综合| 97精品国产97久久久久久免费| 国产做?爰片久久毛片?片美国| 中文字幕在线日亚州9| 久久本道| 嗯嗯啊好大| 久久久久女教师免费一区| 爱爱动态60秒| 欧美另类精品xxxx| 国产粉嫩出水在线播放| 伊人综合色网| 天天摸天天舔天天操| 黄色工厂这里只有精品| A片大香蕉在线| 熟妇操花| av九九| 欧美色66| 亚洲图片视频小说| 国产女同在线观看视频| ,成人免费啪啪视频| 国产一区二区欧美日本| 97人肏| 国产一区二区久久| 99re28在线观看| 高清无码久操视频| 人人色人人操在线| 日日夜夜骚| 91女色| 国产一区在线观看无码AV| 啊啊啊啊嗯嗯嗯用力好爽 | 天天影视激情欧美| 99热99re6国产在线播放| 亚洲无码偷拍| 久久精品99| 好吊爽好吊爽在线视频,中文字幕精品一区二区日本,国产良妇出轨视频在线观看, | 日本色色色网站免费看不卡| 欧美顶级黄色大片免费| 日少妇亚洲版| 91亚洲欧美综合高清在线 | 久久久无码精品人妻二区| 国产粉嫩蜜臀av一区二区三区| 天堂8在线新版官网| 欧美激情 日韩精品| 国产精品亚洲免费| 日日黄色三级网站| 日本不卡一二区| 精品一区二区人妖| 成人一区二区三区四区| 97爱亚洲| 色玖玖| 久久精品国产99久久,亚洲日韩久久日本一区一区三区 | 亚洲综合在线高清| 亚洲自拍97| 国产这里只有精品| 久肏视频字幕| 国模艳艳啪啪一区| 欧美熟妇亚洲版| 久热影视| 精品一区96| 美女诱惑一区| 91久久99久久91熟女精品| 综合情欲网| 午夜黄色免费在线观看| 欧美亚洲高清不卡| 尤物黄色在线观看网站| 午夜福利久久久噜久噜久久综合| 欧美日韩在线小说 | 精品二区久久| 亚洲精品第一| 狠狠爱夜夜干| 特级毛片特黄久久免费看 | 蜜臀久久99精品久久久老,,| 丰满人妻一区二区三区免费 | 久久无码成人| 天堂麻豆天美| 又粗又长又爽在线观看| 久操九九九九九九九九九九九九九九九九九九九九九九九九九九九九 | 日韩激情小说一区二区| 情侣操 逼视频99| 人人妻人人爽 97人人看碰人免费公开视频| 高树玛利亚无码流出| 欲香欲色| 91色五月俺来也| 国产一区二区免费福利片| 少妇同性| 成人a大片在线观看| 日韩精品第3页| 狠狠色狠狠色狠狠五月| 内射黑丝袜| 日本欧美亚洲高清在线看| 97综合久第一页| 国产精品无码av| 亚洲一区制服诱惑| 日韩Va亚洲va欧美Ⅴa久久| 精品人妻一区二区三区夜夜| 日韩欧美俄罗斯A片| 啊啊啊操死我了| 国产丝袜视频| 国产午夜福利专区综合| 人妻无码久久一区二区三区免费| 日本一区二区不卡精品| 超碰社区97| 天天影视网综合少妇| 成人精品久久久午夜福利| 亚洲一二三| www.超碰在线| 欧美色偷偷| 亚洲诱惑| 一区二区日韩欧美久久| 国产女大学生AV| 日韩精品9区| 色色色色综合网| jazzjazz国产精品麻豆| 欧亚揄拍偷拍精品视频 | 夜夜国产一区| 黑人精品成人一区二区三区| 久草免费在线视频| 精品人妻二区三区| 中文字幕奈奈美被公侵犯| 婷婷五月天无码| 日韩精品中文字幕二区| 色妺妺AⅤ| 欧美日动态视频| 99热在线播放| 操屄日韩| 欧美男人的天堂| 9热9热综合网| 操美女高潮抽搐白浆| 国产亚洲精品一区二区三区| 一二视频神马久久传媒| 熟女突然公开看18禁影片| 欧美超碰97| 人人妻人人色一区二区三区| 毛片麻豆91糖心精品毛情片| 超碰97久久国| 激情文学网伊人| 黄色AAAAA欧美| 青青在线视频日韩欧美| 啊啊啊久久久视频| 天天色综亚洲91污| 欧美高清18A片| 欧美色97| 97欧美色资源| 日韩人妻少妇中文字幕| 精品国产久热在线观看| 女沟厕偷窥piss小便| 土豪酒店各种姿势玩弄极品幼稚| 最新一二三区视频| 欧美性爱系列| 人妻81p| 日本东京热久久久电影| 婷婷10月天青娱乐| 亚洲色图综合网| 75大香蕉| 日韩有码免费视频| 日韩性爱网址| 亚洲AV无码AV吞精久久久久| 999综合网| 欧美视频一区二区三区| 日韩精品9999| 一区,二区,三区网站| 先锋精品av色鲁| 欧美性爱伊人| 极品尤物女神在线观看| heyZO天然素人无码AⅤ专区| 高清无码人妻久久久一区二区三区aⅴ| 亚洲极品| 看看日B真人视频| 1区2区3区中文字幕日韩| 丁香五月天婷婷姐| 亚洲一区二区中文字幕| 日本一级婬片试看三分钟| 国产又色又粗又黄又爽| 97爱综合| 97欧美视频| 性色亚洲| 久久啊啊| 偷拍 亚洲 欧美| 欧美96在线|欧| 97欧美色| 淫纸中9区| 久久久精品,3| 国产精品午夜福利| 97资源站国产精品| 在线看污网站| 麻豆色99999| 欧美97网| 亚洲熟女av中文字幕| 亚洲男人天堂网站| 丰满人妻-区二区三区免费看| 日韩三级av片| 精品久久97| 啊啊啊好多水| 日本506070| 91精品老女人| 欧美18老人禁| 国产 日韩,欧美 自拍| 五月亭亭六月丁香| 高清无码久操视频| 人人摸.人人色| 草草影院最新网址| 精品一区二区综合熟妇| 大香蕉免费乱伦视频| 亚洲综合中文字幕有码| 国产一区二区欧美日本| 99精品成人免费看| 日本网色| 久久丁香| 欧美日韩理论一区| 国产二区三区粉嫩在线| 伊人久久青青草| 国厂麻豆77q4| 人人澡人人澡人人| 久久精品黄色| 久久精品国产Aⅴ| 超碰在线观看av不卡| 91高清欧美| 色娱乐色呦呦夜夜夜夜av| 性性久久| 色噜噜狠狠色综无码久久| 精品美女少妇一区二区| 国产日本一区二区三区蜜臀在线观看| 色视频蜜乳|