日韩精品一区二区三区在线视频放-无码中文字幕V?一区二区-成年片免费观看视频-国内少妇人妻丰满av-国产精品中文字幕免费观看-亚洲成人久久一区二区三区-国内少妇偷人精品视频无缓冲-一区二区国产精品日本一区二区三区在线网

ARTICLE DETAIL

資訊詳情

深耕商務(wù)建站與企業(yè)官網(wǎng)運(yùn)營的一線實(shí)戰(zhàn)洞察。

YOLO26模型導(dǎo)出全攻略:從ONNX到TensorRT的完整避坑指南

YOLO26模型導(dǎo)出全攻略:從ONNX到TensorRT的完整避坑指南 【內(nèi)容安全審查】通過YOLO26 模型導(dǎo)出從訓(xùn)練到部署的最后一公里我踩過的坑和最終方案做計(jì)算機(jī)視覺的同學(xué)應(yīng)該都有這種經(jīng)歷訓(xùn)練時各種指標(biāo)刷得飛起模型在 Colab 上跑得好好的loss 降得賞心悅目mAP 也說得過去。結(jié)果到了要交付的時候?qū)熁蛘呒追揭痪洹鞍涯P徒o我我這邊要接進(jìn)系統(tǒng)”你才發(fā)現(xiàn)手里只有一個.pt文件拿去給對方的 C 工程師人家眉頭一皺這玩意兒我們這邊跑不了。這就是模型導(dǎo)出的意義。YOLO26 作為目前 YOLO 系列里熱度一直居高不下的版本網(wǎng)上關(guān)于它訓(xùn)練、改進(jìn)、結(jié)構(gòu)圖解析的內(nèi)容已經(jīng)很多了但“訓(xùn)練完之后怎么把模型導(dǎo)出成不同平臺能吃的格式”這塊系統(tǒng)性講清楚的內(nèi)容反而不多。不少做計(jì)算機(jī)視覺大作業(yè)的同學(xué)、做 YOLO26 人員入侵檢測項(xiàng)目的人甚至很多已經(jīng)在跑 YOLO26 訓(xùn)練自己數(shù)據(jù)集的工程師都卡在了導(dǎo)出這一步。這篇東西我想把它徹底講透。你不需要是部署專家只要手里有一個訓(xùn)練好的 YOLO26 模型能看懂 Python按著下面的思路走一遍基本就能把 ONNX、OpenVINO、TensorRT 這些格式理清楚也知道每一步為什么要那么做。1. 導(dǎo)出不只是“換個后綴”模型的運(yùn)行世界變了很多人第一次接觸導(dǎo)出覺得就是把.pt轉(zhuǎn)成.onnx本質(zhì)上是文件格式轉(zhuǎn)換。這個理解不算錯但太淺了會導(dǎo)致后面遇到問題完全找不到方向。1.1 訓(xùn)練框架和推理引擎對“模型”的理解完全不同PyTorch 里的模型本質(zhì)是一堆層結(jié)構(gòu)加上一堆權(quán)重然后被 Python 的 runtime 動態(tài)解釋執(zhí)行。它靈活、方便調(diào)試但每跑一次前向都要經(jīng)過 Python 層的調(diào)度圖的優(yōu)化也幾乎為零。這在訓(xùn)練階段完全沒問題因?yàn)橛?xùn)練本身就要頻繁改權(quán)重、算梯度本來就需要這種靈活性。但推理不一樣。推理的時候模型結(jié)構(gòu)是固定的權(quán)重也是固定的不存在反向傳播也不存在動態(tài)建圖的需求。推理引擎要的是“把計(jì)算圖固化下來針對固定 shape 做極致優(yōu)化”。這就是為什么業(yè)界要把訓(xùn)練好的模型從 PyTorch 里“搬”出來搬到一個中立的、描述計(jì)算圖的格式里。ONNXOpen Neural Network Exchange就是這個“中立格式”。PyTorch 訓(xùn)練完的模型導(dǎo)出成 ONNX 后相當(dāng)于把整張計(jì)算圖固化成了標(biāo)準(zhǔn)化的描述文件。邏輯上它就是一個“計(jì)算圖快照”任何支持 ONNX 的推理引擎ONNX Runtime、TensorRT、OpenVINO、Core ML 等都能讀取并執(zhí)行它。用個生活化的比喻PyTorch 模型像一位會臨場發(fā)揮的廚師你告訴他“做一道魚”他會根據(jù)今天有什么食材、灶臺什么火力、自己當(dāng)時的心情決定具體怎么做。而 ONNX 就像一份精確到克數(shù)的菜譜食材、步驟、火候全部寫死。你把這菜譜給任何一個能看懂菜譜的廚房各種推理引擎都能做出一模一樣的菜。1.2 ONNX、TensorRT、OpenVINO 各管哪一段路這是新手最容易懵的地方格式太多了分不清。我把它們按“離硬件有多近”排個序就清楚了ONNX最中立的計(jì)算圖描述格式本身不做太多優(yōu)化像一個通用的中間表示IR不太依賴具體硬件。它能跑的地方最廣但優(yōu)化的空間也最大。ONNX RuntimeORT微軟出品的推理引擎直接吃 ONNX 文件。它在 CPU 和 GPU 上都能跑做了不少圖優(yōu)化和算子融合適合做“通用部署”。OpenVINOIntel 出品的推理工具套件針對 Intel CPU、集成顯卡、Movidius 神經(jīng)計(jì)算棒做了深度優(yōu)化。如果你部署的目標(biāo)機(jī)器是 Intel CPUOpenVINO 往往是性能最好的選擇之一。它可以把 ONNX 進(jìn)一步轉(zhuǎn)成它自己的 IR 格式.xml.bin也可以直接讀 ONNX。TensorRTNVIDIA 出品的推理優(yōu)化器只在 NVIDIA GPU 上工作。它會針對你的目標(biāo) GPU 做層融合、精度校準(zhǔn)、kernel 自動調(diào)優(yōu)是“NVIDIA GPU 上推理性能天花板”級別的存在。它吃 ONNX轉(zhuǎn)化后再序列化成 TensorRT engine.engine文件。Core MLApple 生態(tài)的模型格式給 iPhone、Mac 上用的。所以整個導(dǎo)出的鏈路一般是PyTorch (.pt) → ONNX → OpenVINO / TensorRT / Core ML / ONNX Runtime理解了這條鏈路你就明白為什么大家總說“先導(dǎo)出 ONNX”它是一個必經(jīng)的中間站是 PyTorch 和各個硬件推理引擎之間的“通用語言”。不只是 YOLO26YOLOv5、v8、v11 這些全是這個套路。1.3 NMS 在導(dǎo)出流程里的真正地位提到 YOLO 導(dǎo)出有個繞不開的東西叫NMSNon-Maximum Suppression非極大值抑制。YOLO 模型輸出的原始裸結(jié)果是一大堆候選框每張圖可能有上萬甚至幾萬個框其中絕大多數(shù)是重疊的、低置信度的“廢框”。NMS 的作用就是把這些框過濾、合并最后留下每個目標(biāo)位置上最合適的那個框。訓(xùn)練和驗(yàn)證的時候NMS 是在 PyTorch 代碼里用純 Python 或 C 擴(kuò)展實(shí)現(xiàn)的這部分邏輯根本沒進(jìn)到模型的計(jì)算圖里。而導(dǎo)出成 ONNX 后你拿到的是“模型輸出原始框”這一步NMS 要不要一起導(dǎo)出就成了 YOLO 系列導(dǎo)出時最容易出現(xiàn)分歧的大問題。實(shí)際工程里主流做法是模型只導(dǎo)出到“原始輸出”為止NMS 后處理放在推理代碼里用目標(biāo)語言C/C#/Java/Go自己寫。原因后面會詳述但你現(xiàn)在先記住導(dǎo)出 YOLO 系列模型基本默認(rèn)不導(dǎo)出 NMS除非你的部署場景非常特殊比如目標(biāo)檢測的嵌入式端后處理寫起來極其困難才有動力把 NMS 一起塞進(jìn)模型里。2. 你的 YOLO26 是“哪一款”不同任務(wù)導(dǎo)出的策略不一樣在具體動手前先別急著敲命令。你要回頭看一下自己訓(xùn)練的 YOLO26 到底是“哪一款”模型。YOLO 系列從 v8 開始就不僅僅是目標(biāo)檢測器了它同時支持分類、分割、姿態(tài)估計(jì)這些任務(wù)。YOLO26 在這個基礎(chǔ)上還衍生出了 depth深度估計(jì)等變體網(wǎng)上搜“yolo26 depth”“yolo26 姿態(tài)模型版本區(qū)別”就能看到很多人都在這塊有疑問。不同任務(wù)類型模型輸出的頭head完全不同導(dǎo)出的注意事項(xiàng)也各不相同。2.1 常規(guī)目標(biāo)檢測模型的導(dǎo)出重點(diǎn)這是最簡單、最常見的情況。你訓(xùn)練了一個 YOLO26 目標(biāo)檢測模型比如 YOLO26n、yolo26s、yolo26m 這些用來做人員入侵檢測、安全帽檢測、車輛識別等任務(wù)。這種情況導(dǎo)出時核心關(guān)注點(diǎn)有三個輸入尺寸訓(xùn)練時用的 imgsz 是多少導(dǎo)出時就盡量保持一致。雖然 ONNX 支持動態(tài)輸入但對推理性能不友好后面細(xì)說。輸出格式Y(jié)OLO 檢測模型的原始輸出一般是[1, 4 num_classes, 8400]這種形狀具體數(shù)字取決于模型輸入尺寸和 stride其中 4 是框坐標(biāo)cx, cy, w, h 或 xyxynum_classes 是類別數(shù)8400 是不同尺度特征圖上的候選框總數(shù)輸入 640 時。導(dǎo)出時你會在輸出節(jié)點(diǎn)上看到類似名字。要不要 NMS默認(rèn)不要。讓下游代碼自己處理。如果你是用 Ultralytics 框架訓(xùn)練的 YOLO26框架本身已經(jīng)把導(dǎo)出邏輯封裝好了正常情況一句model.export()就能搞定。但如果你跑的是別人魔改的 YOLO26網(wǎng)上“yolo26 改進(jìn)專欄”里這種特別多比如加了注意力機(jī)制、換了檢測頭就不能完全依賴框架自動導(dǎo)出要手動檢查改動過的層能不能被 ONNX 算子集支持。這是最讓人頭疼的場景我后面會用一節(jié)專門講怎么排查這類問題。2.2 depth 版本導(dǎo)出時處理額外輸出頭如果你用的是 YOLO26 depth 版本用于單目深度估計(jì)它的網(wǎng)絡(luò)結(jié)構(gòu)在檢測頭之外還掛了一個深度頭輸出的是一個和輸入圖像尺寸成一定比例的深度圖。導(dǎo)出這種模型你要額外確認(rèn)深度頭的輸出名稱和 shape導(dǎo)出的 ONNX 文件中深度輸出是一個獨(dú)立的輸出節(jié)點(diǎn)通常像[1, H, W]或[1, H/scale, W/scale]。深度值范圍你訓(xùn)練時的深度標(biāo)簽是相對深度0~1還是絕對深度米模型輸出的原始值范圍是什么這些信息雖然不影響導(dǎo)出但會影響你部署后怎么處理深度圖最好在導(dǎo)出的同時寫進(jìn)模型說明文檔。后處理差異檢測分支可能需要 NMS深度分支只需要插值縮放回原圖尺寸并做可視化或后續(xù)計(jì)算。這決定了你在推理代碼里要同時處理“框后處理”和“深度圖后處理”兩套邏輯導(dǎo)出本身沒區(qū)別但部署代碼要注意。姿態(tài)模型導(dǎo)出與模型版本差異YOLO26 的姿態(tài)模型pose輸出就更特殊了。Ultralytics 框架里的 pose 模型訓(xùn)練好的.pt導(dǎo)出 ONNX 后輸出通常是兩個頭的拼接或分開一個是檢測框分支一個是關(guān)鍵點(diǎn)分支。以 COCO 姿態(tài)任務(wù)為例關(guān)鍵點(diǎn)通常是 17 個每個點(diǎn)有(x, y, confidence)三個值。所以關(guān)鍵點(diǎn)分支的輸出維度一般是 batch 相關(guān)、通道數(shù) 17 * 3。檢測框分支仍然輸出框和類別置信度。這里必須注意“版本差異”。網(wǎng)上搜“yolo26 姿態(tài)模型版本區(qū)別”能看到很多人在問同一個 YOLO26 名字下有不同權(quán)重版本關(guān)鍵點(diǎn)位順序、坐標(biāo)約定是不是和 COCO 一致是否帶了可見性 flagvisible flag這些細(xì)節(jié)不同訓(xùn)練腳本導(dǎo)出的結(jié)果形狀就不一樣。我的建議是導(dǎo)出姿態(tài)模型之前先拿一張測試圖用 PyTorch 原始模型推理一遍打印出每個輸出的 shape并人工檢查關(guān)鍵點(diǎn)的坐標(biāo)值是不是符合預(yù)期。只有確認(rèn)了“PyTorch 階段輸出是正確的”你導(dǎo)出 ONNX 后去對比才有參照物。如果你連 PyTorch 階段的輸出都沒確認(rèn)過導(dǎo)出后出了 bug 你根本分不清是導(dǎo)出環(huán)節(jié)的問題還是模型本身的問題。2.4 基于 YOLO26 做人員入侵檢測等項(xiàng)目時的導(dǎo)出選型結(jié)合很多做“YOLO26 人員入侵檢測”這類計(jì)算機(jī)視覺項(xiàng)目的同學(xué)其實(shí)是為了交大作業(yè)或者做畢設(shè)。這種項(xiàng)目通常需要部署在一臺普通的電腦上甚至可能是 CPU only 的機(jī)器。這種場景下我最推薦導(dǎo)出OpenVINO格式原因有兩點(diǎn)Intel CPU 是個巨大的存量市場OpenVINO 對此的優(yōu)化是出了名的猛經(jīng)常能在不損失精度的情況下比純 PyTorch CPU 推理快 2 到 4 倍。Ultralytics 框架原生支持導(dǎo)出 OpenVINO一條命令就能完成還會幫你生成配套的部署文件。如果項(xiàng)目方指定要用 NVIDIA GPU 跑推理那就直接上 TensorRT。雖然推理速度最快但因?yàn)樗途唧w顯卡綁定注意是“綁定”不是“兼容”換了一張顯卡型號甚至驅(qū)動版本都可能要重新導(dǎo)出在交付時要多留個心眼千萬別只給客戶一個 .engine 文件一定要把 ONNX 文件一起交付不然客戶換臺機(jī)器就跑不了。3. 直接抄作業(yè)我驗(yàn)證過的導(dǎo)出流程和參數(shù)配置理論鋪墊完了現(xiàn)在進(jìn)入實(shí)操。下面是我在自己的環(huán)境里跑通的完整導(dǎo)出流程包含了環(huán)境準(zhǔn)備和導(dǎo)出命令以及每一步背后的選擇邏輯。3.1 環(huán)境準(zhǔn)備與版本對齊先說一個重要教訓(xùn)導(dǎo)出 YOLO26 前先確認(rèn)你的 ultralytics 包版本和你下載/訓(xùn)練的模型來源一致。YOLO26 相關(guān)的代碼和權(quán)重在社區(qū)里流傳速度很快往往你今天下載的yolo26n.pt需要用某個特定版本的ultralytics包才能正常加載。如果你是在跑“yolo26 環(huán)境配置”時按網(wǎng)上的博客裝了一個版本的包然后又從另一個來源下載了權(quán)重很可能加載時就報(bào)錯或者行為異常。我本地的建議環(huán)境組合Python 3.9~3.11PyTorch 2.1 或以上ultralytics 包版本以你模型來源說明為準(zhǔn)一般 8.2.x 之后的版本對 YOLO26 支持比較完整onnxruntime 1.17 以上用于導(dǎo)出后驗(yàn)證onnx 1.15 以上openvino 2024.x如果用 CPU 部署建議導(dǎo)出 OpenVINO 格式tensorrt 8.6 或以上如果用 NVIDIA GPU建議導(dǎo)出 TensorRT提示Torch、CUDA、TensorRT 三個版本要互相兼容這是老生常談但永遠(yuǎn)有人在這上面翻車。TensorRT 對 CUDA 版本很敏感建議統(tǒng)一用 NVIDIA 官方文檔里列的兼容矩陣來配。你可以在終端里檢查版本python -c import torch, ultralytics, onnx, onnxruntime; print(torch.__version__, ultralytics.__version__, onnx.__version__, onnxruntime.__version__)如果輸出里沒有報(bào)錯說明基礎(chǔ)環(huán)境沒問題。3.2 標(biāo)準(zhǔn)導(dǎo)出命令與超參選擇如果是用 Ultralytics 框架訓(xùn)練的 YOLO26最笨但也最靠譜的導(dǎo)出代碼長這樣from ultralytics import YOLO # 加載你自己訓(xùn)練的權(quán)重 model YOLO(runs/detect/train/weights/best.pt) # 導(dǎo)出 ONNX model.export( formatonnx, # 導(dǎo)出格式 imgsz640, # 輸入尺寸和訓(xùn)練時保持一致 opset12, # ONNX 算子集版本 dynamicFalse, # 是否允許動態(tài)輸入尺寸 simplifyTrue, # 是否用 onnxsim 簡化計(jì)算圖 nmsFalse, # 是否導(dǎo)出 NMS強(qiáng)烈建議 False )這行代碼執(zhí)行完后會在權(quán)重同目錄下生成一個best.onnx。你可能會問參數(shù)為什么這么設(shè)我逐個解釋imgsz640你訓(xùn)練時如果是 640這里就填 640。如果訓(xùn)練時是 1280這里就得填 1280。模型的 backbone 和 head 對輸入特征圖的尺寸有依賴stride 通常是 8、16、32 的組合。輸入尺寸必須是 32 的倍數(shù)或者至少是 stride 最小公倍數(shù)的倍數(shù)否則特征圖會出問題。你導(dǎo)出時如果填了一個訓(xùn)練時完全沒有用過的尺寸精度可能會莫名掉點(diǎn)因?yàn)槟P蛷奈丛谶@個分辨率上充分適配過。opset12ONNX 的算子集版本。太低的版本不支持一些較新的算子太高的版本對老版本推理引擎不友好。YOLO 系列在這種 CNN 結(jié)構(gòu)里opset 11~13 之間都夠用。我默認(rèn)選 12兼容性和功能都比較平衡。如果你后續(xù)要轉(zhuǎn) TensorRTTensorRT 8.6 以上的版本對 ONNX opset 的適配已經(jīng)很好不需要額外操心。dynamicFalse這個我強(qiáng)烈建議。設(shè)成 True 雖然能讓模型接受任意尺寸輸入但代價是推理引擎沒法做輸入 shape 相關(guān)的固定優(yōu)化比如 TensorRT 的某些層會根據(jù)固定尺寸做內(nèi)存布局調(diào)優(yōu)性能會有損。部署階段如果你能保證輸入尺寸固定就固定死不要開動態(tài)。但有個例外如果你的業(yè)務(wù)里輸入圖像尺寸不能預(yù)知且變化幅度極大又不想做 letterbox 填充把圖像縮放并填充成固定尺寸那只能開 dynamic。這種情況你要意識到每換一個尺寸推理引擎可能會重新做 shape 推導(dǎo)延遲會高不少。simplifyTrue導(dǎo)出的 ONNX 會經(jīng)過 onnxsim 工具做一遍常量折疊、冗余節(jié)點(diǎn)刪除之類的優(yōu)化。實(shí)測下來YOLO26 的模型開 simplify 后文件體積和推理時間都有改善而且不影響精度。但注意如果你的模型里有自定義算子simplify 可能會報(bào)錯那就不用 onnxsim后面手動排查。nmsFalse前面講過原因。官方導(dǎo)出選項(xiàng)里有 nms 這個參數(shù)默認(rèn)是 False。我建議保持默認(rèn)除非你非常明確自己的部署鏈路為什么需要模型內(nèi)置 NMS。3.3 導(dǎo)出 ONNX 后我用這三種方式驗(yàn)證它沒問題導(dǎo)出成功不等于導(dǎo)出正確。我見過太多人 export 時沒有報(bào)錯以為萬事大吉結(jié)果接入部署代碼后檢測結(jié)果全亂套。以下三步每步都值得做第一步用 onnx.checker 檢查模型結(jié)構(gòu)合法性import onnx onnx_model onnx.load(best.onnx) onnx.checker.check_model(onnx_model) print(ONNX model check passed.)如果你看懂了 checker 的報(bào)錯內(nèi)容大多數(shù)結(jié)構(gòu)性問題比如節(jié)點(diǎn)輸入輸出不匹配、維度信息缺失都能在這一步暴露出來。第二步用 onnxruntime 推理一張測試圖和 PyTorch 輸出對比這是最關(guān)鍵的一步。拿同一張測試圖分別用原始.pt模型和導(dǎo)出的.onnx推理打印輸出矩陣的 shape 和數(shù)值看看是否一致。注意不同框架的預(yù)處理方式可能有細(xì)微差別比如像素歸一化方式是 0~1 還是 -1~1通道順序是 RGB 還是 BGR。為了驗(yàn)證 ONNX 本身沒導(dǎo)錯你應(yīng)該把 ONNX 的輸入喂成 PyTorch 模型輸入張量的完全相同的值。這在部署階段做“預(yù)處理對齊”前的一個獨(dú)立驗(yàn)證。import numpy as np import torch import onnxruntime as ort from ultralytics import YOLO # 用 PyTorch 模型推理得到輸入張量 x 和輸出 model YOLO(best.pt) x torch.randn(1, 3, 640, 640) # 這里可以放一張真實(shí)圖片預(yù)處理后的張量 with torch.no_grad(): pt_outputs model.model(x) # 這是 PyTorch 原始輸出不是后處理后的結(jié)果 # 用 ONNX Runtime 跑同一個輸入 session ort.InferenceSession(best.onnx, providers[CPUExecutionProvider]) ort_inputs {session.get_inputs()[0].name: x.numpy()} ort_outputs session.run(None, ort_inputs) # 對比每個輸出的 shape 和數(shù)值 for i, pt_out in enumerate(pt_outputs): ort_out ort_outputs[i] print(fPyTorch output {i}: shape{pt_out.shape}) print(fONNX output {i}: shape{ort_out.shape}) print(fMax absolute diff: {np.abs(pt_out.numpy() - ort_out).max():.6f})如果 max diff 在 1e-4 這個量級甚至更小說明導(dǎo)出基本無損。如果 diff 很大比如超過 1e-2那說明計(jì)算圖里有算子被錯誤替換了或權(quán)重對齊出了問題要回頭查簡化過程或者逐層對比。第三步可視化模型結(jié)構(gòu)把導(dǎo)出的 ONNX 文件拖進(jìn) Netron 網(wǎng)頁端https://netron.app認(rèn)一遍從輸入到到各分支輸出的形狀變化。這一步特別適合檢查你用的是不是接了正確 head也適合給做 YOLO26 結(jié)構(gòu)圖展示的人用。這個習(xí)慣很值得養(yǎng)成導(dǎo)出不是驗(yàn)證的終點(diǎn)“導(dǎo)出完更要對齊再收工”省下的全是后面排查自己的時間。我在自己帶團(tuán)隊(duì)做項(xiàng)目時甚至立過規(guī)矩沒做輸出對齊驗(yàn)證的模型不允許發(fā)給下游。3.4 繼續(xù)導(dǎo)出 OpenVINO 和 TensorRTYOLO26 用 Ultralytics 導(dǎo)出 OpenVINO 很簡單model.export(formatopenvino, imgsz640, halfFalse) # halfFalse 保持 FP32如果推理機(jī)器支持且對精度損失做了評估你可以設(shè)置halfTrue轉(zhuǎn)成 FP16。很多 Intel CPU 的核顯對 FP16 也算友好但如果你在普通 CPU 上做純 CPU 推理FP32 其實(shí)更穩(wěn)妥。導(dǎo)出 TensorRT 則這樣model.export(formatengine, imgsz640, halfTrue, device0) # device 指定 GPUTensorRT 導(dǎo)出時務(wù)必指定在 NVIDIA GPU 上。halfTrue是 FP16 精度在主流 Ampere 及之后架構(gòu)的卡上YOLO26 用 FP16 推理精度損失通常很小速度提升明顯。如果你的模型是用 FP32 訓(xùn)練的在 NVIDIA 顯卡上直接用 FP16 推理絕大多數(shù)情況下沒有問題但你仍然要在導(dǎo)出完成后對同一批驗(yàn)證集圖跑一遍 mAP確認(rèn)精度下降不超過 1 個百分點(diǎn)才比較穩(wěn)。目標(biāo)平臺推薦格式關(guān)鍵特征通用 CPUONNX ONNX Runtime跨平臺安裝簡單Intel CPUOpenVINOCPU 推理優(yōu)化充分易部署NVIDIA GPUTensorRT推理性能天花板綁定顯卡Apple 設(shè)備Core ML生態(tài)私有格式跨平臺原型驗(yàn)證ONNX先落地再決定正式優(yōu)化4. 導(dǎo)出時最容易翻車的隱蔽環(huán)節(jié)與完整排查鏈路這一節(jié)我想專門講“導(dǎo)出過程中報(bào)錯”的處理思路。因?yàn)?YOLO26 的源碼和公開資源太多太雜你下載的“YOLO26 源碼下載”很可能是某個博主二次開發(fā)的版本結(jié)構(gòu)圖和官方不完全一樣甚至已經(jīng)加了各種改進(jìn)模塊。這種模型導(dǎo)出最容易在“自定義算子轉(zhuǎn) ONNX”這一步掛掉。4.1 先復(fù)現(xiàn)再排查處理導(dǎo)出報(bào)錯的通用鏈路假設(shè)你在跑 export 時遇到了一個問題比如報(bào)錯說某個算子不支持。不要急著搜“YOLO26 導(dǎo)出報(bào)錯”這種寬泛的關(guān)鍵詞按照下面的鏈路一步步縮小范圍第一步精確定位到具體的層名和算子Ultralytics 的 export 日志通常會打印到哪個模塊、哪個節(jié)點(diǎn)失敗。如果日志里只給了統(tǒng)一錯誤用 traceback 定位到模型結(jié)構(gòu)定義文件里的具體調(diào)用棧找到出錯的模塊名。第二步檢查這個模塊是不是新加的“改進(jìn)模塊”如果它來自你下載的“YOLO26 改進(jìn)專欄”代碼那么它大概率是社區(qū)里有人寫的自定義模塊內(nèi)部可能用了不常規(guī)的 PyTorch 操作比如torch.cumsumscatter的組合有些注意力機(jī)制會這么寫、用了可變循環(huán)長度等。這些操作要么 ONNX 算子集里沒有直接對應(yīng)要么對動態(tài) shape 支持不好。第三步把該模塊單獨(dú)摳出來構(gòu)造假數(shù)據(jù)導(dǎo)出單測這是非常高效的排查手段。你在一個新文件里單獨(dú)定義一個只包含那個模塊的小模型隨機(jī)生成相同 shape 的輸入對它單獨(dú)做 torch.onnx.export看能不能成功。如果單獨(dú)導(dǎo)出成功說明該模塊本身沒有算子問題問題出在和模型中其他模塊的配合上如果單獨(dú)導(dǎo)出失敗那問題就鎖定在這個模塊內(nèi)部。然后嘗試把模塊內(nèi)疑似有問題的操作逐個替換成更基礎(chǔ)的算子比如把某些變形操作用 reshape transpose 拆開再重新導(dǎo)出驗(yàn)證。第四步考慮將“改進(jìn)模塊”留在 PyTorch 中用前后處理承接如果自定義模塊實(shí)在無法轉(zhuǎn) ONNX某些復(fù)雜的注意力機(jī)制和檢測頭結(jié)構(gòu)確實(shí)會有問題可以考慮導(dǎo)出時屏蔽掉該模塊把它放到部署代碼前后處理階段用別的方式補(bǔ)償。比如注意力模塊輸出可以在 PyTorch 階段預(yù)先計(jì)算好部署時把它的結(jié)果作為預(yù)處理的一部分。這聽起來繞但在工程上是常見的妥協(xié)方案。第五步計(jì)算圖分段導(dǎo)出再拼接如果模型主體是標(biāo)準(zhǔn)結(jié)構(gòu)、只有個別模塊導(dǎo)不出可以把這個模塊從全圖中拆出來單獨(dú)導(dǎo)出成一個小 ONNX然后用 ONNX GraphSurgeon、onnx_graphsurgeon 或者 ONNX 官方工具庫進(jìn)行圖拼接。這樣做非常接近“模型主體 一系列子圖”的部署方式比較考驗(yàn)對計(jì)算圖結(jié)構(gòu)的理解。一般不建議新手輕易嘗試但它確實(shí)是高階方案里最有效的。4.2 圖像縮放方式造成的“精度翻車”是部署階段最常見的坑導(dǎo)出時模型內(nèi)部計(jì)算沒問題但推理結(jié)果不對最常見的原因之一是圖像預(yù)處理沒有對齊訓(xùn)練時的邏輯。YOLO 系列訓(xùn)練和驗(yàn)證時有一套默認(rèn)的預(yù)處理流程等比縮放 letterbox向邊緣填充灰邊 歸一化 BGR/RGB 通道順序約定。這套邏輯在 PyTorch 階段是框架內(nèi)部自動幫你做掉的但導(dǎo)出到 ONNX 后模型本身只負(fù)責(zé)“吃一個張量吐一個張量”預(yù)處理你必須自己在推理代碼里實(shí)現(xiàn)。我見過無數(shù)人栽在這件事上直接用了 OpenCV 的cv2.resize(image, (640, 640))把原圖拉變形了喂進(jìn)模型導(dǎo)致小目標(biāo)檢測效果極差或者圖像尺寸沒做 letterbox 填充直接把非正方形圖塞進(jìn)去模型輸出的候選框坐標(biāo)在映射回原圖時就全位移了。正確的做法是部署代碼里復(fù)刻 ultralytics 的預(yù)處理函數(shù)。核心邏輯如下計(jì)算縮放比例、完成等比縮放、再用灰邊 (114, 114, 114) 填充到目標(biāo)尺寸、最后做歸一化和維度調(diào)整。下采樣映射回原圖時再把 letterbox 填充的偏移量減去。這段代碼不復(fù)雜但如果抄網(wǎng)上零散版本很容易漏掉 BGR/RGB 轉(zhuǎn)換。建議統(tǒng)一從你訓(xùn)練的框架源碼里把預(yù)處理函數(shù)摳出來翻譯成目標(biāo)語言的版本而不是自己重新“發(fā)明”一遍預(yù)處理。4.3 導(dǎo)出 ONNX 后輸出和 PyTorch 輸出差一點(diǎn)但不算離譜這類問題很隱蔽。報(bào)錯倒是沒有數(shù)值對比 diff 也在 1e-3 到 1e-2 量級。這種情況通常來源于兩種因素一是 batch norm 層轉(zhuǎn) fold 時的數(shù)值誤差。PyTorch 推理時 batch norm 是按x - running_mean/ sqrt(running_var eps) * weight bias 逐層計(jì)算的而導(dǎo)出到 ONNX 時推理引擎會嘗試把 BN 融合到卷積層里變成 y x * scale offset。這個融合理論上精確但浮點(diǎn)運(yùn)算順序變化會引入微小誤差。這種誤差在 1e-4 量級通常不影響后處理結(jié)果。二是在 FP16 推理下引入的量化誤差。如果你導(dǎo)出時開了 halfTrueFP32 權(quán)重轉(zhuǎn)成 FP16 會損失一點(diǎn)精度輸出 diff 到 1e-2 量級也是正常的。如果 diff 在這個量級而你的后處理結(jié)果比如檢測框沒有明顯變化基本可以繼續(xù)走但如果 diff 到了 1e-1 以上檢測框都飄了就別以為是“正常誤差”大概率是你某個參數(shù)導(dǎo)出時變了比如權(quán)重文件沒正確加載。4.4 dynamicTrue 導(dǎo)出后動態(tài) shape 導(dǎo)致的隱性 bug有的 YOLO26 模型以動態(tài) shape 導(dǎo)出后某些自研模塊在推導(dǎo)輸入尺寸時依賴于“shape 的數(shù)值”做條件分支比如判斷特征圖寬度是否大于某閾值來決定是否執(zhí)行某個操作。PyTorch 是實(shí)時執(zhí)行沒問題但 ONNX 導(dǎo)出時這種條件分支會被固化成靜態(tài)的算子路徑換了輸入尺寸可能執(zhí)行了錯誤的計(jì)算路徑導(dǎo)致輸出錯亂。規(guī)避方案很直接不要開 dynamic。如果你的業(yè)務(wù)場景確實(shí)需要輸入尺寸可變優(yōu)先考慮在你的部署代碼里做“多檔位”策略比如固定支持三種輸入尺寸分別導(dǎo)出三個 engine 或 ONNX 模型推理時按需調(diào)用。這在工程上比一個動態(tài)模型靠譜得多。4.5 CPU 和 GPU 推理的輸出差異注意點(diǎn)同一個 ONNX 文件在 CPU 上用 ONNX Runtime 跑和在 GPU 上用 TensorRT 跑輸出結(jié)果會有很小的差異原因在于浮點(diǎn)運(yùn)算順序不同、某些算子在不同后端有不同的實(shí)現(xiàn)策略。只要差異在正常范圍內(nèi)通常 mAP 差異不超過 1 個百分點(diǎn)都是合理的。如果差異明顯優(yōu)先檢查是不是某個算子如Resize、GridSample在兩種后端上的插值方式實(shí)現(xiàn)不同。YOLO 系列里Resize最常出問題因?yàn)榭蚣苣J(rèn)的Resize模式不同版本有細(xì)微差別。5. 導(dǎo)出完成后模型要怎么接進(jìn)真實(shí)系統(tǒng)導(dǎo)出只是第一步模型接進(jìn)推理引擎跑起來才是完整閉環(huán)。這里講一講我在實(shí)際項(xiàng)目中用的最小可用推理鏈路以 ONNX Runtime 為例方便各位理解部署側(cè)在做什么。5.1 一套簡潔的 ONNX Runtime CPU 推理流程import numpy as np import cv2 import onnxruntime as ort class YOLO26ONNX: def __init__(self, onnx_path, conf_thres0.25, iou_thres0.45): self.session ort.InferenceSession(onnx_path, providers[CPUExecutionProvider]) self.input_name self.session.get_inputs()[0].name self.input_shape self.session.get_inputs()[0].shape # [1, 3, H, W] self.conf_thres conf_thres self.iou_thres iou_thres def preprocess(self, img_bgr): # 這是從 ultralytics 源碼里摳出來的 letterbox 邏輯 h, w img_bgr.shape[:2] target_h, target_w self.input_shape[2], self.input_shape[3] ratio min(target_w / w, target_h / h) new_w, new_h int(round(w * ratio)), int(round(h * ratio)) resized cv2.resize(img_bgr, (new_w, new_h), interpolationcv2.INTER_LINEAR) canvas np.full((target_h, target_w, 3), 114, dtypenp.uint8) dw, dh (target_w - new_w) // 2, (target_h - new_h) // 2 canvas[dh:dh new_h, dw:dw new_w] resized # BGR - RGB, HWC - CHW, 歸一化 blob canvas[:, :, ::-1].transpose(2, 0, 1).astype(np.float32) / 255.0 blob np.expand_dims(blob, axis0) return blob, ratio, dw, dh def postprocess(self, outputs, ratio, dw, dh): # 先做置信度過濾再做 NMS把框坐標(biāo)減掉 letterbox 偏移并除以縮放比 # outputs shape: [1, 4 num_classes, num_anchors] preds outputs[0][0] # preds shape: [4 num_classes, num_anchors] boxes preds[:4].T # [num_anchors, 4] class_scores preds[4:].T # [num_anchors, num_classes] class_ids class_scores.argmax(axis1) confs class_scores.max(axis1) mask confs self.conf_thres boxes, confs, class_ids boxes[mask], confs[mask], class_ids[mask] # 轉(zhuǎn)換為 xyxy x_center, y_center, bw, bh boxes[:, 0], boxes[:, 1], boxes[:, 2], boxes[:, 3] x1, y1 x_center - bw / 2 dw, y_center - bh / 2 dh x2, y2 x_center bw / 2 dw, y_center bh / 2 dh candidates np.stack([x1, y1, x2, y2, confs, class_ids], axis1) # 這里可以接 nms 函數(shù)按 class 分別做 NMS 或者統(tǒng)一做 NMS return candidates上面代碼里 NMS 部分我沒有展開推薦大家直接復(fù)用成熟實(shí)現(xiàn)比如 torchvision.ops.nms 的等價邏輯或者自己翻譯成純 NumPy 的矩陣版本。最需要注意的是后處理時要把 letterbox 加的偏移量(dw, dh)減掉、把坐標(biāo)除以ratio才能映射回原始圖像尺寸。這一步是絕大多數(shù)“模型導(dǎo)出后檢測框不準(zhǔn)”的根源。5.2 TensorRT 部署時的 batch 與顯存管理如果你導(dǎo)出了 TensorRT engine推理時用的是 TensorRT Python API 或者通過 ONNX Runtime 的 TensorRT provider。這里提醒三個點(diǎn)batch size導(dǎo)出 engine 時如果固定了 batch1那推理時只能一次一張地跑如果要支持多 batch導(dǎo)出時需要設(shè)置 batch 維度Ultralytics export 里 batchsize 參數(shù)可配。顯存占用TensorRT engine 在推理時會額外申請 workspace如果你的顯存比較緊張?jiān)趯?dǎo)出時可以通過參數(shù)限制 workspace 大小避免推理時顯存溢出。第一次推理慢TensorRT 第一次加載 engine 和選 kernel 需要預(yù)熱時間生產(chǎn)環(huán)境建議在服務(wù)啟動時就提前加載并 warmup 一次而不是等第一個請求進(jìn)來才做。5.3 一個被低估的能力判斷導(dǎo)出模型的正確“工作溫度”推理引擎在不同精度模式下的運(yùn)行速度差距非常大。FP32、FP16、INT8 三種模式下延遲可以差 3 到 10 倍。實(shí)際部署中優(yōu)先級順序是先用 FP32 把全鏈路跑通、產(chǎn)出結(jié)果正確再做 FP16 優(yōu)化精度評估通過后再考慮 INT8 量化不要一上來直接上 INT8除非你非常了解量化校準(zhǔn)集的概念我的建議是導(dǎo)出不是一次性的而是按性能需求分階段迭代的。第一次先導(dǎo)入 ONNX 跑通正確性第二次導(dǎo)出 OpenVINO/Engine 追求速度第三次嘗試 INT8 壓縮體積。寫在最后YOLO26 的模型導(dǎo)出本質(zhì)上一句話把 PyTorch 的動態(tài)圖世界搬到靜態(tài)圖推理引擎的確定世界里去中間所有的不確定性都要靠流程和驗(yàn)證來消滅。我個人在大量導(dǎo)出實(shí)踐中有一個心得永遠(yuǎn)不要讓“格式轉(zhuǎn)換成功”成為你做導(dǎo)出任務(wù)的終點(diǎn)而是要拿“對下游完全可解釋、可復(fù)現(xiàn)”作為交付標(biāo)準(zhǔn)。你可以順手把驗(yàn)證腳本、輸出 shape、精度誤差記錄、導(dǎo)出命令都一起放進(jìn)一個說明文件里和模型一起交付。這樣無論是給自己半年后回頭看還是交給下一位接手的工程師都會省掉大把重復(fù)排雷的時間。如果你現(xiàn)在正好卡在某個導(dǎo)出報(bào)錯里不妨回頭按我排查鏈路的順序一步步走大概率會在第五步之前找到問題癥結(jié)。YOLO26 的代碼和社區(qū)迭代速度都很快工具鏈本身也在不斷變化但“導(dǎo)出前先確認(rèn)結(jié)構(gòu)、導(dǎo)出后立刻對齊驗(yàn)證、部署時復(fù)刻預(yù)處理”這三條原則是長期有效的。祝各位都能順利把模型送到生產(chǎn)環(huán)境里好好地跑起來。
返回列表
PREV
查看更多資訊
NEXT
返回資訊列表
久久久久网站-538在线视频-欧美永久乱码| 丰满人妻一区二区三区四区| 夜夜欧美| 日韩福利综合一区| 人妻中文字幕精品无码| 熟女字幕| 亚洲精品一二三四区| 开心五月深爱五月| 综合操逼| 欧美拳交在线播放| 青青草精品| 91性感网站| 天天综合,91入口| 秋霞免费无码视频日韩A片| 色官网色综合| 女人高潮大叫一级毛片| 色婷婷电影| 密臀在线免费观看| 日本黄页视频在线观看| 亚欧无码线免费观看视频| 中国zzijzzijzzwww精品| 久久精彩视频| 亚洲91大片| 夜夜夜夜爽| 大象AV在线| 岛国大片国产| 日韩精品碰碰| 一区久久久二区| 一二三四视频在线社区中文字幕| 超碰97 线线 在现| 成人性爱全视频观看| 国产 日韩 欧美 人妻 熟女 中文 69人妻精品一区二区绯色 | 中文字幕五区| 国产视频第2页| 囯产精品久久久久久久久久二区三区| 91精品久久久久五月天精品| 久久‘黄片视频| 亚洲熟妇自偷自拍另欧美| 传媒免费一区二区三区| 成人青青草原伊人| 思思热免费视频观看| 色色99| 熟妇人妻一区二区| 国产传媒美日韩av| 美女AV一区二区| 精品视频一区二区| 亚洲丝袜诱惑| 国产超碰| 久久久男人的天堂| 欧美亚洲自拍另类人妻| 91麻豆天美国产欧美| 日韩美女,国产传媒,视频一区| 超碰色图| 一区在线国产播放| 成人久久无码www| 少妇淫妇久久久久久久| 第一高清av中文字幕| 97在线欧洲| 久久中久文96| 成人性爱视频在线看| 爱爱动态试试看6 0秒| 极品色综合| 久久这里只精品99re66图| 精品一区96| 久热伊人| 狠狠五月天| 超碰精品| 中日韩久久久| 久久久国产精品亚洲精品| 精品视频一区二区| 亚 欧 美 综合| 久久久无码精品人妻二区| 天天看天天在线精品| 欧洲免费一区二| 深夜激情| 久久综合激情| 超碰97欧美日韩| 日韩人妻有码免费视频| 91久久国产综合精品| 天天伊人| 青青草九九九九九| 亚洲无码国产探花在线观看| 狠狠狠狠狠狠| 国产精品一区二区三| 国产色精品午夜大片| 超碰三级秋霞| 啊啊啊在线观看| 色婷婷综合网站| 另类小说欧美激情校园春色| 午夜天堂精品久久久久91| 久久宗合亚洲| 国产一区二区在线电影| 亚洲欧洲激情| 天天视频黄网站| 久久久久久久久久久999| www.yeyecao| 性色一线| 人妻精品一区二区| 欧美|91色综合| 97在线欧| 亚洲国产成人精品无码专区| 日韩乱码Av| 99福利社| 色999;丁香五月| 综合91网| 日韩免费看黄片| 国产精品国产| 97在线精品| 蜜臀AV午夜精品久| 97欧美精品综合| 久久中文字幕一区不卡| 中文欧丝袜诱惑| 激情久久久| 夜夜夜爽www精品视频| 999岛国大片| 欧美色性情| AV色天香在线| 人人操人人干xxx| 日本精品久久久久久久| 亚洲色五月| 97国产综合欧美| 无遮挡h肉动漫在线观看| 亚洲男人在线观看天堂| 激情文学欧美| 婷婷色影院| 亚洲色图欧美色18直播在线| 成 人 影视 一区 二区 三区 四区 | 美女上床网站| 青青操97| 日韩一性一交一A片俄罗斯| 欧美BT 亚洲色图| 国产人妻精品久久久一区二区三区| 日韩av免费一级电影| 久久中文字幕女同性恋一区| 又大又白奶子| 日本视频一区二区三区| 久久久久久久97| 亚洲国产精品久久久久婷婷青年| 人人摸人人添人人操| 国产91丝袜在线播放蜜月| 人妻天堂综合网| 日日摸日日弄日日拍| 99re9在线| 熟妇的味道HD中文字幕| 黄页av| 污污污8888| 丁香六月东京热| 少妇久久久久久久| 超碰综合97在线| 四虎永久在线精品免费网址| 欧美成人一级免费电影| 女性喷水高潮在线观看| 国产麻豆91欧美一区二区久久婷婷国产精品| 91操人视频| 亚洲日韩人妻中文字幕一区| 日韩在线观看AV| 秋霞男人网| 欧美日韩性爱精品| 26uuu欧美日韩| 久久精品一区二区三区蜜桃臀| 综合色图区| 国产精品久久久吖| 超碰色图| 高潮综合网| 三级三级三级日本99| 97久久国产| 亚洲欧美综合网站| 成人AV素股で擦久久| 精品无码不卡视频| A级片一区| 青青草这里只有精品| 手机久操欧美综合色码| 91久久伊人婷婷青青草| 欧美九9 9 9| 国产欧美日韩一区二区三区| 偷拍盗拍亚洲色图图片 | 日韩精品 视频一区二区| 91无码人妻精品一区二区三区蜜桃| 人妻熟女午夜精品在线| 国产亚洲女v在线观看| 国产精品九九九| 亚洲脚交| 青青草久久| 麻豆婷婷成人一二三| 2020视频1区2区3区| 一级啊性爱在线视频| 99精品国产户外露出| 久热网| 色 亚洲 91| 久超碰在| 久久伊人五月天| 欧美东京热精品A∨| 另类小说综合网| 日韩一级二级三级| 97欧美日韩综合| 人伦四五区| 久久久久久裸体| 欧洲与亚洲欧美精品中文字幕| 色女网日韩| 欧美视频边做饭边橾| 人人操人人搞人人草| 五十路六十路素人熟女| 色欲久久久久综合网| 亚洲综合欧美| 91肉片| 精品人妻一区二区三区四区不卡在| 97超碰色中文字幕| 欧洲色综合| 久久青娱乐| 97色涩| 久偷拍| 久久黄黄| 久久精彩视频9| 欧美熟女少妇| 97天天摸天天碰| 67194国产| 国产高清MV操逼视频| 草草影院最新网址| 欧美A片中文字幕| 久久精品女同亚洲女同13| 激情啪啪视频| 久操热| 国产真实野战在线视频| 国产精品婬乱一级毛片彝族| 亚洲中文国际强奸字幕| 免费看黄视频亚洲网站| av网页一区二区三区| 天天射影院| 午夜120视频在线观看| 色欲日韩欧美在线一区| 国产精品毛片?v一区二区三区 | 中文字幕国产| 久草色在线观看| 中文字幕、久久精品国产2020、久久综合久久自在自线精品自、亚洲 | 亚洲影视高清第一页| 欧美九一精品久久久熟妇| 白嫩妹子国产骚| 欧美精品系列| 青娱乐国产剧情av一区| 強姦亂倫a| 强奸乱伦av电影| 天久久久噜噜噜久久国产精品爽爽| 日少妇亚洲版| 男人的天堂,欧美亚洲另类国产日韩,日本高清一区二区 | 亚洲图片婷婷五月天| 人人干黄色| 人人操人人摸avav| 久久精品久| 人妻一区二区三区四区视频 | 中美日韩毛片| 综合97久久| 无码人妻一区二区三区四区老鸭窝| 国产美女高潮视频| 在线人成亚洲视频免费观看| 交换娇妻呻吟声不停中文字幕| 久操网无码在线| 免费观看性欧美一级| 人人看人人爰人人操| 免费观看网黄| 精品超碰国产| 少妇99成人麻豆| 天天夜夜久久| 四季av一区二区凹凸精品小说| 精品69网| 亚洲学生妹高清av| 插日本熟女视频| 久久精品国产亚洲粉嫩| www.夜夜操| 亚洲欧洲自拍| 九热中文字幕| 久久久熟妇熟女国产| 小草av不卡亚洲二区| 992视频一区| 精品一区二区国产日韩| 国产 v乱码一区二| 天天综合日韩网| 99热国产| 色爱亚洲| 黄片在线免费在线观看| 亚洲男人的天堂V| 狠狠97| 中文字幕蜜乳av| 白嫩国模丰满一二三区| caopeng97人妻| 人妻夜爽夜夜爽| 亚洲色欲天天天堂色欲网女| 韩日精品四区| 欧美午夜熟妇黑人精品91| 青娱乐国产精品| 岛国色情视频在线观看| 国产无马视频| 97爱爱爱| 色哟哟AⅤ| 日婷婷| 性色亚洲| 亚洲资源一区| 免费视频无码| 97国产成人精品免费视频| 午夜毛片高清免费不卡| 亚洲情色电影网| 久草久日| 日韩在线一区高清在线| 日韩日韩日韩-国产乱码精品一区二区| 熟人人妻少妇精品久久| 男女啊啊啊啊啊| 亚洲在线网站| 99只有精品| 久久久久久久91| 东北少妇高潮zzzz| 色婷婷综合久久久久中文国产精品一区中文字幕,国产福利电影一区二区三区 | 中文字幕第2页| 国产精品自在线发布| 欧美色图片91| 91欧洲国产成人久久精品网站| 99热在线观看| 日韩久草| 91人妻做a观看视频| 麻豆婷婷成人一二三| 精品一区二区三区丰满熟女-亚洲欧美一区 | 内射日韩大臀美女| 男女激情中文字幕| 欧美综合传媒| 8050午夜少妇无码| 六月婷婷激情| 97免费视频在线观看视频| 欧州一区二区三区四区| 色爽爽文学| 蜜桃臀AV在线| 国产网红精品| 欧美精品双插| 色吧5亚洲| 大香交伊人网| 婷婷精品国产欧美精品亚洲人人爽| aa片毛片| 国内精品不卡无毒99999| 亚洲欧美伦综合| 天天爽天天操| 清纯唯美亚洲综合| 亚洲国产精品久久久久婷婷青年| 蜜臀久久99精品久久久久久酒店 | 欧美综合娱乐久久| 97精品国产精品免费观看| 欧美性生活免费网| 嗯嗯啊啊好疼| 亚洲精美粉嫩嫩泬在线观看| 日韩精品一区二区三区四虎影视| 密臀成人视频久久久| 亚洲一欧洲中文字幕在线| 视频二区熟女人妻| 亚洲欧洲国产综合av| 亚洲综合影视| 国产亚洲精品农村妇女| 淫穴高潮色图| 日本色色色视频| 国产视频小说| 97最新在线播放视频| 大香蕉草草| 蜜桃臀av在线观看| 日韩性爱长视频免费| 嗯嗯啊啊用力视频免费| 人人爱人人乐人人操| 在线综合 亚洲 欧美中文字幕 | 国产精品第一页国产大屁股视频免费区| 久久精品性| 黑人干亚洲| 337p大胆噜噜噜噜噜91Av| 伊人麻豆传媒| 情色av电影| 超碰国产精品久| 亚洲丰满很很操| 91精品国产麻豆国产自产在| 亚洲九九九| 91天堂视频| 亚洲色图殴美色图激情乱伦| 天天操天天干美女网址导航| 久操高青| 亚瑟国产精品久久无码| 久久久女人| 91粉芽高清在线一区二区| 亚洲一区在线观看欧洲| 中文一区二区| 啊啊啊用力在线观看| 欧美日韩不卡a片| 欧美性第1页| 一区麻豆 高清中文字幕| 亚乱色| 久射吧| 亚洲男人bt天堂| 大香蕉一区二区在线观看.| 中文字幕在线第二页| 蜜臀久久99精品久久综合| 嫩呦国产一区二区三区AV| 欧美日韩亚洲少妇寂寞影院正在播放 | 嗯啊抽插大香蕉网页| 中文字幕1区2区| 亚洲一区二区三区麻豆传媒| 国内毛片国产专区二| 97亚洲中文| 欧美色图 人妻| 九九综合| 欧美综合娱乐久久| 久久国产在线一区二区| 欧美性爱一区二区三区| 99999精品成人| 99热最新| 国产绿奴视频在线观看| 97精品久久| 久操影视| 久久人人看| 久久精品 六十路 熟女 欧美| 亚洲综合一| 久久免费中文字幕在线观看| 国产伦精品一区二区三区在线观| 日韩在线一区高清在线| 国产精品ww久久| 亚洲不卡不卡中文字幕不卡| 噜噜吧,噜噜色,噜噜| 欧美亚洲在线| 好爽,再快点啊哈嗯嗯嗯嗯| 欧美性爱另类综合| 精品成人无码| 蜜臀一区二区三区在线| 亚洲色电影在线| 日韩精品大香蕉伊人在线| 一区二区三区 丝袜 高跟 美腿| 草草电影院| 久久丝袜| 青青草原伊人网| 成人黄页| 国产 大胆 对白| 欧美性,亚州色| 激情第四色| 亚洲少妇中文字幕网址| 一级黄色性爱A级片| 国产精品白丝在线播放| 猛猛干| 色综合超碰超| 99久久综合| 天天操狠狠日夜夜干超大胆开放com大香蕉视频在线观看 | 精品一二三区久久AAA片| 偷拍 亚洲| 性色av蜜臀av色欲aV| 亚洲久久久久| 亚洲综合网电影91| 欧州一区二区三区四区| 日本高清_区二区三区| 国产精品视频播放| 乱操乱伦AV| 91欧美情色| 91久久99久久91熟女精品| 久久香蕉综合一本到3atv| 国产区性爱在线视频秋霞豆| 97五月天| 伊人 俄罗斯 a v| 国产性刺激| 99在线精品观看视频中文| 美女黄码视频午夜| 日日噜噜夜夜久久亚洲一区二区| 性爱欧美五月| 操操操操网黑人| 97天天操天天干| 大香蕉手机在线视频| 伊人伊人LD| 把腿张开老子CAO烂你| 超碰在线一区| av亚欧| 欧美极品| 超碰日韩人妻| 丁香婷婷五月| 久热色情精品| 亚洲淫乱骚妇AV| 爱爱久久| 中文字幕诱惑制服人妻丝袜美丝袜美| 色姑娘综合网| 91九久| 91国产丝袜足交精品视频| 中文字幕一二三区| 丝袜六区| 玖玖综合.com| 二区熟妇韩日| 啊啊啊啊啊在线观看网址 | 91黑人无码激情在线| 91丨熟女丨丰满熟女| 亚洲欧美激情在线视频| av天堂5| 九九久久综合| 暖暖精品二区三区观看| 99抽插| 久湿久久 | 日韩美女高潮喷水视频| 日韩专区久久久| 99rre在线精品99re8| 久草色在线观看| 97资源久久| 国产精品视频内谢女人| 国产精品久久天天干| av网页一区二区三区| 色噜噜综合网| 美女熟妇色| 偷拍自拍在线视频观看| 中文字幕 码 自拍 视频 区| 情色av电影| 尤物视频网 刘玥| 色悠久久久av| 久久久久久久人妻丝袜| 国产精品干干干| 色婷婷成人| 精品免费一区二区三区在线亚洲人成| 中国小夫妻勾搭露脸淫荡对白| 日韩三级久久久| 丰满搜索结果 -第18页- 久久高清无码 | 欧美一二在线| 91操熟女视频| 精品日韩中文在线| 夜夜夜爽www精品视频| 97硬碰| 激情四射婷婷六月天| 少妇专区一二三四五| 秘书高跟黑色丝袜国产91在线| 97Ai亚洲| 五月天色图影视| www.婷婷五月天| 自拍欧美| 亚洲色图欧洲| 亚洲人妻在线一区| 97人妻色| 丝袜视频网国产90| 成人自拍三级在线观看| 天天综合色| 午夜福利区| 日本精品一级二级三级| 九九热在线视频| 人妻久热在线| 成人五月天丁香激情综合| 中文字幕 码 自拍 视频 区| 蜜桃臀一区二区三区久久| 精品高清一区二区三区三州| 青青草成人视频在线观看二区| 久久精品国产精品一区| 青青操在线亚洲视频观看欧美在线 | 久久久久性熟视频| 亚洲老熟妇xxx| 欧美日韩人妻精品系列一区二区三区| 九色婷婷| 精品人妻av区天天看片| 国产精品久久久亚洲一区| 97免费在线| 中日无幕一二三四区| 99无码狠狠久久| 九久9热| 精品久久久久久中文字幕三区| 精品久久久久瑟瑟| 人人摸.人人色| 操91| 91天天日| 亚洲中文日韩欧美大香蕉视频| 天天操天天7| 91丨九色丨国产打屁股| 日韩激情电影中文字幕| 无码高清专| 亚洲做性| 国产九九久久久精品| www.av在线视频| 天天综合,91入口| 91狠| 欧美性巨大╳╳╳╳╳高跟鞋| 色与欲影视天天看综合网| 碰碰在线视频| 国产对白刺激视频| 97天天日| 成人精品欧洲亚洲| 亚州宗合另类| 99久久久无码国产精品性男| 好爽视频在线观看| 美女91色黄18| 国产亚洲 中文欧美久久| 亚洲色 国产 欧美 日韩| 99色色网| 久久九九视频九九视频| TS人妖另类精品视频系列| 久久精品中文字幕女同| 女人的久久久| 欧美 亚洲 偷拍自拍| ji熟女.com| 91日韩国产欧美亚洲另类精盘州至城都| 校园春色欧美色图| 亚洲91av| 思思热在线观看| 国产强奸超碰AV| 999精品国产高清一区二区| 美欧色综合| 91在线丝袜| 欧洲精品久久| 欧美亚洲高清不卡| 国产亚洲日韩欧| 亚洲欧美在线丝袜| 国产又粗又长视频| 色哟哟av| 黄站在线免费观看| 四虎影视永久在线观看精品免费网站| 欧美久久婷婷| 91精品人妻一区二区-全集完整版免费正片国语-B02AV | 91精品丝袜在线观看| www国产天美久久久| 久久久久久人妻一区精品色欧美| 国产精品蜜臀久久久久无码AV| 韩国一级做A片免费的| 麻豆AV一区二区| 午夜久久久| 久精品无码av一区二免费国产在线观看| 99热日本| 久久久18禁| 亚91网| 精品人妻一区二区视频| 色噜噜婷婷| 精品一区二区三区四区外站| 亚洲精品人体| 色综合av男人天堂| 在线啊啊啊啊| 天天肏夜夜肏| 在线无码视频| 天天欧美欧美亚洲网| 美女骚尻视频| 超碰色男人操熟女| 中亚av| 天天综合91入口| 久久精品毛片免费不卡| 久久97| 色狠狠色| 天天综合网亚洲综合网| 欧洲黄色网| 五月天婷婷欧美三区| 密臀成人视频久久久| 欧美精品日韩久久久九| 美欧老女人97| 人人人干干人人干| 吻戏激情性巴克| 青青草大香蕉视频| 国产欧美亚洲精品a第2页| 久久夜色一区二区| 91免费看一区二区三区 | 日本啊啊啊啊啊视频| 东京热男人天堂| 天天色天天干天天射| 久久久久亚洲一区女同性恋中文字幕| 天综合网| 亚州色图狠狠干| 久久人人看| 91在线色综合| 天天日天天操VV| 91精品网站| 国产91亚洲精品一区二区三区| wwwxxx日本爽| 99操视频| wwe 天天干.com| 久久婷婷一区| 日韩操逼性鲍| 超碰成人国产| 亚洲第一页欧美| 少妇高潮九九九九九九九| 97亚洲精品| 国产美女mm131爽爽爽爽| 91亚洲精品青草| 青青草日韩免费观看高清在线| 青青草大香蕉视频| 超清福利精品视频在线| 91美女色视频亚洲| 岛国1区2区3区在线观看| 吉田爱美AV在线| 尤物视频视频官网| www五月| 熟妇熟女一区二区三区| 亚洲有码 视频一区| 久久久999国产| 九九碰九九爱97| 人妻熟女av国产网站| 久久青娱乐| 五月丁香色色网| 亚洲高清欧美总合| 亚洲一区中文字幕久久,果冻传媒一区二区天美传媒 | 欧美se综合| 久久99操天天日| 日本αv| 久久久久久久久久久久黄色| 天天插夜夜操| av天堂加勒比| 九九九九久久久| 97啪啪| 啊啊啊不要嗯嗯在线观看| 精品毛片久久久精品毛片| 91久久久久| 久久久影院| 中文字幕五月婷婷免费| 天堂伊人久久| 九月丁香婷婷| 国产一区二区三区久久久精品| 蜜臀久久99精品久久久久久酒店| 亚洲自拍欧美色综合| 蜜臀av中字字幕网站| 免费看毛片操穴| 色色婷| 高清成年美女黄网站免费大全| 日日日日做夜夜夜夜做无码97| 啊灬啊灬啊灬好深灬快高潮了动漫-国产字幕国产在线观看-B049AV | 3p国产色噜噜一区| 五月天日日操夜夜操| 成人五月香网在线| 日本三级R| 欧美日本成人一区二区| 亚洲综合骚逼| 素人美腿视频网站| 日本五十路熟女一区二区| 欧美线天码中字| a男人的天堂| 一个人免费HD91视频| 欧美人体性爱互联网第一页婷婷日本| 久9爱经典视频| 人人色人人操在线| 欧美色欧美| 国产偷人伦激情在线观看| 97在线/亚洲| 免费农村成人少妇人妻Aa一区二区视频 | Aa东京男人的天堂| 国产九区| 操亚州| 屌妞视频久久久久久久| 美女AV一区二区| 岛国人妻少妇av在线观看| AND人妻系列| 国产精品高清2021在线| 91亚洲人| 少妇一级无码精品| 97久久超碰国产网站| 亚洲三级。日韩三级| 深喉吞精| 精品九九淫乱男| 秋霞一级视频在线观看免费| 婷婷色综合欧美日韩| 丝袜天堂网| AV无码久久久精品| 妇女一区二区三区| 欧美草草高清日韩视频| 亚洲av青草久久一区二区| 亚洲欧美另类激情小说| 九月丁香| 午夜福利视频在线一区| 97精品综合| 91色黑人少妇| 在线免费试看60秒| 亚洲Av诱惑| 五月天婷婷在线看| 黑丝自慰喷水网站| 丁香五月激情五月| 青青操在线亚洲视频观看欧美在线| 超碰这里只有精品| 992大香蕉| 天天干天天舔| 333kkkk·亚洲com久久| 五月激情天| 一区二区三区网站日日骚| 天操老女人| 亚洲成成熟女人综合一区二区| 百度百度日本操逼| 国内毛片国产专区二| 亚洲AV无码天美传媒一区| 午夜精品久久久久久久99热影院| 色网亚洲人| 国产精品爱欲| 久久婷婷伊人| 麻豆激情综合| 78m成人视线| 国产AV色黄看到爽| 亚洲人妻一区二区三区| 丰满搜索结果 -第18页- 久久高清无码| 天天性射网| 囯戸精品高潮呻吟旡码| 大香蕉黄色一区| 91久久18禁| 美女久久久久久久久久久| 一级毛片久久久久久久女人18| 国产毛片精品一区二区色欲黄A片| 精品一区二区麻豆| 日韩99999| 国产精品一级特黄aaa大片在线观看| 无码聚合| 操学生天天| 射综合网| 自拍偷拍 日韩无码| 亚洲综合影片| 天天影视亚洲| 美国aaaaa一级黄片| 国产白嫩精品久久| 夜夜爽夜夜操| 粉嫩av在线一区二区| 久久欧洲| 五月天亚洲色图| 国产精品色片一区二区| 亚洲射综合网| 亚洲欧美另类小说| 丁香五月综合| 丝袜加勒比| 97日韩欧美| 亚洲激情综合| 精吧天堂| 探花一区二区三| 亚洲综合网图| 亚洲色交| 婷婷香蕉| 深夜激情| 欧美黄片欧美黄片xxx| 伊人网在线观看| 国产精品精品系列在线观看| 久久香蕉影院| 久久久久久99999国产精品| 久久五月天婷婷丁香中文字幕| 97人人操人人干| 久久久久久久久久久精| 国产精品激情久久久久久久| 蜜桃不卡一区二区| 亚洲av噜噜噜噜噜噜| 久久婷婷五月天| 婷婷国产精品一区二区| 成年人性爱日韩| 国产一区二区三区,在线观看观看| 另类亚洲一区二区三区| 日本天天吊| 欧在线一二区| 久久一二三四五六七八九区区区| 久久久三区二区一区| 黄色av片三级三级三级免费看| 国产天美传媒精品| 日韩免费av片高清无码| 亚洲一二三四区机械| 国产老太乱伦一区| 理论久久婷婷网 8| 日韩一二三区| 天天色悠悠激情| 天啪| 九九九九九九九精品视频| www.91视频网| 九九热最新| 91亚洲人| 嗯嗯啊啊好疼| 麻豆一区二区AV天美| 极品色www影院| 无码二级三级| 久久性爱视频| 91欧美经典| 久久黄色网址| 在线αⅴ| 99啪啪| 美国一区二区三区视频| 91影视亚洲| 岛国在线一区二区三区| 果冻传媒A片一二三区| WWW黄片COM| 久草毛片| 正在播放:深夜激情大战,自带黑丝袜全力输出骚穴 | 亚洲日韩XXX| 国产亚州精品美女久久久免费| 操死我了啊啊啊| 九九aV| 色欧洲| 日本一区二区三区精品| 欧美一级美片在线观看免费| 日韩精品怡红院| 成人三一级一片aaa| 夫妻AV网站| 一二三区在线| 国产精品播放| 日韩少妇丰满亚洲| 91高清无码下载| 亚洲中文字幕av | а√天堂资源官网在线资源| 欧美伦乱爱| 无码少妇精品一区二区60岁老人| 强乱老妇中文字幕| 亚洲精品97在线| 狠狠操夜夜| 91国产丝袜白虎| 久99久视频精选| 91丨豆花丨熟女| 中日韓欧美高清| 丁香九月激情| 成人五月天丁香激情综合| 久久国产精品熟女人妻| 嫖老熟女A片一二三区| 亚洲男人天堂2017| 久久久国产精品人妻丝袜| 欧美麻豆成人同性GⅤ在线| 美女诱惑久久| 老熟女熟妇| 亚洲欧美激情在线视频| 亚洲欧美综合| 亚洲91网站| 清柠毛片| 97精品熟女少妇一区| 老熟女综合网| 粉嫩少妇自慰在线| 丁香五月电影| 韩国一级婬片A片无码天美| 桑老女人九区| 亚洲97P| 国产激情久久久| 高清国产无码av| 日本ZZ高免费A级视频| 中文字幕亚洲欧美在线不卡| 国产AV无码AV| 女性喷水高潮在线观看| 亚洲交换| 蜜桃精久三区| 国产精品一区二区黄片| 日韩免费高清大片在线| 91美女精品| 久久精品免视看国产成人﹣蜜臀av一区. 久久精品免视看国产成人,蜜臀av一区 | 亚洲综合贴图91| 亚洲欧洲小说图片视频| 视频黄色国产一级| 亚洲精品久久久久毛片A片拉屎| 精品乱码在线观看| 青草青青久久久久久国产| 天天综合~91入口| 操逼操逼操| 在线五区| 久久九七| 天天综合91在线| 天堂俺去俺来也www久久婷婷| 97chaopengongkai| 久久视频,这里只有精品| 特级大荫道BBwBBwBBW| 亚洲图片偷拍视频区| 一级毛片久久久久久久女人18| 精品人妻一区二区三区视频在线| 亚洲欧美setu| 日韩专区数据列表-第3230页-精品国产一区二区三区香蕉 久久99熟女人妻中文字 | 中文字幕黄色一起草| 国产suv精品一区二区四区999| 成人无码影片视频在线| 久热热| 亚洲 无码 有码 中文字幕| 嫩草伊人久久精品| 夜夜嗨AV一区天天| 日本三级R| 家庭乱伦性爱av| 伊人网青青| 91亚洲人| 91亚.色| 国产亚洲精品美女| 嗯嗯啊啊亚欧精品| 亚洲成人综合在线| 天堂中文日本在线观看| A级片日韩欧美国产欧美视频精选观看 | 美女诱惑久久| 人妻喷水| 97超碰总站| 国产偷仑| 嫩草 人人网精品| 国产精品女同| 绑缚麻绳人妻寝取完整版| 国产亲戚伦亲在线| 干干干天天| 日韩精品在线观看观看| 国产在线能看的你懂的| 国产一级内射高清视频| 久久精品99| 精彩国产视频播放1区2区| 国产精品一区二区三区在线密挑| 免费观看啪视频| 人人妻人人狠人人| 萌白酱自拍视频| 国产亚洲精品无码三区| 日韩熟女无码| 国产伦精品| 亚洲男人的天堂va亚洲男人社| 亚洲日韩XXX| 天美传媒Av在线| 亚洲 欧美都市激情| 亚洲国产精品久久久久久久久久| 26uuu国产| 丁香六月激情| 色五月综合| 中文字幕在线观看丝袜| 99热色精品| 麻豆久久久一区二区| 思思热在线视频精品| 久久伊人五月天| 国产毛片精品一区二区色欲黄A片| 亚洲导航深夜福利| 天天看天天在线精品| 97精品熟女少妇一区| 国产欧美精选自拍一区| 美日韩男女操屄视频| 操逼无码操逼| 国产成人99久久亚洲综合| 日韩熟女乱伦中出| 精品少妇人妻av久久免费| 蜜桃视频成a人v在线| 操逼视频免费日韩无码| 国模精品娜娜一二三区| 色噜噜综合网| 草草影院在线视频| 日韩天堂av电影在线观看| 久久精品欧美一区蜜桃| 欧美内射少妇| 日韩欧美偷拍美女视频| 91处女视频在线观看| 欧美少妇高潮久久91| 亚洲熟女乱色一区二区三区久久久| 色偷偷人人玩人人舔人人操人人摸人人爽| 97操综合| 18精品一二区| 97在线视频网站| 亚洲AV无码黄色强奸| 国产JDAV无码视频在线观看| 免费日韩黄片| 亚洲国产麻豆一区二区三区| 国产一在线观看| 爱做久久久久久| 久久乐| 天综合中文| 热久日综合| 91天美免费| 91老熟女视频| 美女视频尤物网在线看| 欧亚免费视频| 亚洲国产综合久久天堂| 日韩不卡码| 少妇贴图| 亚洲欧美日韩制服另类| 亚洲AV性爱电影| 婷婷综合| 97自拍一区| 人妻素股| 欧美亚洲激情| 97人人操人人摸人人爱| 91人妻PORNY九色大屁股| 嗯~啊~快点 死我视频| a人片中文字幕一区二区| 天天操熟妇| 欧美+日产+中文| 久久精品久久九九精品| 中文字幕一区日韩精| 久久国产99精品72福利| 日韩 欧美 国产 麻豆| 最新AV在线| 欧美A片中文字幕| 久久久国产成人一区二区三区在线| 中文伊人大香蕉视频| 1000午夜黄色| 欧美乱欲| 国产精品制服丝袜清纯唯美| 五月婷婷综合激情| 97一区二压| 天天欧美| 综合五月婷婷亚洲一区| 亚洲天堂区| 亚州熟妇精品| 国产三级片在线观看| 国产黄片精品在线| 天天日老熟妇| 日韩精品9999| 欧美性性性| 国产黄色 A 片免费看| 嗯嗯啊啊视频在线看| 蜜臀久久久国产| 97超碰美女| 国产亚洲精品美女久久久m| 日韩在线视频1234| 四虎免费视频| 美国黄片aaa| 91中文在线| 欧美一级专区免费大片 | 日本乱人伦片中文三区| 亚洲砖码砖专无区2023| 色月天AV导航| 欧美 亚洲| 国产69精品久久久久99尤物| 日韩精品国模| 亚洲熟妇白浆无码AV| 翔田千里爆乳巨臀无码| 无码色| AV色图| 一级@啪啪视频| 亚洲啪啪性视频| 亚洲色图 综合| 日本人妻中文字幕| 亚洲欧美精品一区天堂久久 | 蜜臀va69| 不卡av在线中文字幕| 日本美女性生活久久久久久久 | 熟女被操视频网址| 中文字幕少妇色| 天天操天天舔| www.色操逼| 亚洲欧美日韩国产丝袜自拍中文| 欧美高清第一页| 久久人人爽人人爽人人片Ⅴ| 国产美女激情| 极品欧美一区二区三区| 欧美另类色图片| 91制服丝袜| 爽 好舒服 无码刺激久久| 美欧老女人97| 精品无码久久久久久久久果冻糖心| 翔田千里av一区二区三区| 男人的天堂久久狠| 天天躁日日躁成人字幕aⅴ| 亚洲欧美中日韩| 亚洲天堂精品日韩电影| 国产精品免费视频人成| 日日夜夜国产综合| 中文字幕av亚洲精品| 久久精品亚洲婷婷| 少妇高潮九九九九九九九| 东亚亚洲无码高清| 青青伊人加勒比海| 人妻一区二区三区四区视频| 操操逼操操逼操操逼逼| 区一二区日韩亚洲乱码av电影| 国产午夜福利合集| 久久香蕉国产线看观看猫咪av| 中国熟女91| 午夜性刺激视频免费观看| 亚洲国产精品乱码在线观看| 国产精品大屁股999| 嫩草影院在线观看精品| 久偷拍欧美日韩三区| 久久久久久久伊人精品| 少妇与黑人高潮在线| 中国熟妇| 九九热在线视频| 国产97视频| 曰韩精品九九无码| 91综合中文字幕| 亚洲人成网www| 超碰九7| 人人喜人人妻| 九九九色| 麻豆天美久久91| 综合影院永久入口国产| 亚洲综合888| 国产美女自拍AV| 超碰97最新人妻| 国产99精品一区二区三区免费| 欧美 亚洲 综合 制服 另类| 91动漫操逼视频| 熟女熟妇伦久久影院毛片一区二区| 国产福利精品最新在线 | 国产欧美亚洲精品a第2页| 久久久久久中文| 99精品久久| 欧美少妇人妻| 久久久久久性爱视频| 草草影院最新网址| 久草线上视频免费看| 一区二区娱乐网站| 91视频在线观看18| 欧美少妇一区二区三区| 在线A日本| 亚州Av天美传媒|