日韩精品一区二区三区在线视频放-无码中文字幕V?一区二区-成年片免费观看视频-国内少妇人妻丰满av-国产精品中文字幕免费观看-亚洲成人久久一区二区三区-国内少妇偷人精品视频无缓冲-一区二区国产精品日本一区二区三区在线网

ARTICLE DETAIL

資訊詳情

深耕商務建站與企業(yè)官網(wǎng)運營的一線實戰(zhàn)洞察。

PyTorch中混淆矩陣可視化:從模型評估到熱力圖實戰(zhàn)

PyTorch中混淆矩陣可視化:從模型評估到熱力圖實戰(zhàn) 1. 項目概述為什么你的模型需要一張混淆矩陣訓練完一個Pytorch分類模型大多數(shù)人習慣性看一眼測試集準確率就覺得萬事大吉。但準確率這個指標在不少場景下是會騙人的——比如類別不均衡的數(shù)據(jù)集哪怕模型把少數(shù)類全部判錯只要多數(shù)類猜得足夠準整體準確率依然能保持在90%以上。你根本看不出模型到底在哪些類別上犯了迷糊。而混淆矩陣Confusion Matrix做的就是這件事把模型預測結(jié)果和真實標簽做成一張二維交叉表每一行代表真實類別每一列代表預測類別。矩陣對角線上的數(shù)字是預測正確的樣本數(shù)非對角線位置就是具體怎么錯的、錯到了哪個類別。有了這張表你能直接回答三個核心問題模型在哪些類之間最容易混淆每個類別的精確率和召回率表現(xiàn)如何錯誤是偏向某一邊還是均勻分布這個項目我前后做了很多次踩過的坑包括但不僅限于類別順序?qū)Σ簧蠈е聢D畫出來全是亂的、放在GPU上的張量忘記轉(zhuǎn)回CPU、歸一化方式選錯導致熱力圖深淺完全失真、第一版代碼在batch推理時忘了收集全部預測結(jié)果。這篇文章把整個過程完整梳理一遍從最基礎的依賴安裝到最終的熱力圖可視化每一步都會給出可以直接抄走的代碼同時解釋為什么這么寫。2. 準備工作與核心思路拆解2.1 項目結(jié)構(gòu)與本方案選型邏輯先說整體設計。這個任務本質(zhì)上是三件事串聯(lián)得到預測結(jié)果、計算混淆矩陣、可視化展示。聽起來簡單但每件事都有幾個看似相似、實際千差萬別的實現(xiàn)方式。得到預測結(jié)果這一環(huán)常見的坑是用驗證集上的最好一次批次的預測結(jié)果而不是整個測試集從頭到尾的完整預測。你用驗證集loss挑出來的模型權(quán)重最終要看的還是它在測試集上的泛化表現(xiàn)所以做混淆矩陣一定要用測試集、完整跑完forward把所有預測和標簽收集起來。另一個是注意要用torch.no_grad()包裹推理過程不然顯存會被多余的計算圖占滿尤其是輸入圖片分辨率高或batch size大的時候爆顯存不是開玩笑的。計算混淆矩陣這一環(huán)選sklearn.metrics.confusion_matrix還是自己寫計數(shù)邏輯我的建議是用scikit-learn的現(xiàn)成函數(shù)除非你有特殊需求。自己寫循環(huán)也可以但處理多分類、類別順序、預測值和真實值格式不一致這些細節(jié)時手寫代碼很容易出邊界問題。sklearn版本已經(jīng)經(jīng)過大規(guī)模驗證返回的矩陣形狀是(n_classes, n_classes)行是真實類別列是預測類別注意這個順序不要搞反可視化的時候如果發(fā)現(xiàn)圖和預期對不上先檢查這里。可視化這一環(huán)純粹用Matplotlib還是用Seaborn取決于你想花多少時間調(diào)樣式。Seaborn的heatmap函數(shù)天然適配這類需求有可選的數(shù)值標注、配色方案、行列標簽控制幾行代碼就出效果。不過如果你在自定義模型或需要集成到自己的訓練腳本里直接用Matplotlib也不麻煩。我會在后面的可視化章節(jié)給出兩種寫法和各自適用場景。2.2 環(huán)境依賴與工具選型最低配置如下Python 3.8以上PyTorch 1.10以上scikit-learn 0.24以上matplotlib 3.5以上numpy 1.21以上seaborn可選僅熱力圖畫得更快我實測過的組合是Python 3.10 PyTorch 2.0 scikit-learn 1.2 matplotlib 3.7沒有遇到兼容性問題。如果你還在用老版本的PyTorch比如1.6或者更早一些API細節(jié)會不同比如torch.no_grad()的用法在早期版本也支持但要留意數(shù)據(jù)類型轉(zhuǎn)換時tensor.cpu().numpy()在需要梯度時可能報RuntimeError后面故障排查章節(jié)會專門講。提示如果環(huán)境里沒安裝scikit-learn單純?yōu)榱水嫽煜仃囇b一個庫不要覺得這是多余。自己實現(xiàn)多分類混淆矩陣時要處理的邊界情況比你想象得多與其在這上面浪費時間不如引入已經(jīng)打磨好的依賴。2.3 數(shù)據(jù)格式與類別標簽對齊一個非常隱蔽但極其常見的問題訓練代碼里的類別索引順序和可視化時顯示的類別名稱順序不一致。比如在Pytorch的torchvision.datasets.ImageFolder里類別順序是按文件夾名稱排序的Lexicographic order。你的文件夾可能叫apple, banana, grape那么索引0就是apple索引1就是banana。如果你在別處比如某個手寫的txt映射表定義了另一套順序畫出來的混淆矩陣行列標簽就會錯位整個圖看起來還是有模有樣的但分析結(jié)論全部是錯的。所以我強烈建議固定一套標簽列表并在代碼開頭顯式聲明class_names [apple, banana, grape] # 或者從訓練數(shù)據(jù)集中直接提取 class_names train_dataset.classes用train_dataset.classes是最穩(wěn)妥的因為你訓練時模型輸出的索引就是這么來的不會出現(xiàn)人工手抄錯誤。后續(xù)無論計算矩陣還是畫圖都從同一個列表取標簽名。3. 核心代碼實現(xiàn)從模型推理到矩陣生成3.1 完整推導用測試集跑出預測結(jié)果先說這一段的目標把測試集或者驗證集里所有樣本的真實標簽和模型預測結(jié)果收集成兩個一維數(shù)組長度都應該等于測試集樣本總數(shù)。一個典型的完整流程如下import torch import torch.nn.functional as F from torch.utils.data import DataLoader from tqdm import tqdm def collect_predictions(model, test_loader, device): model.eval() all_preds [] all_labels [] with torch.no_grad(): for inputs, labels in tqdm(test_loader, descEvaluating): inputs inputs.to(device) labels labels.to(device) outputs model(inputs) # outputs shape: (batch_size, num_classes) # 需要的是每個樣本的最大分數(shù)對應的索引 _, preds torch.max(outputs, dim1) # 關鍵轉(zhuǎn)回CPU并轉(zhuǎn)成numpy all_preds.append(preds.cpu().numpy()) all_labels.append(labels.cpu().numpy()) all_preds np.concatenate(all_preds) all_labels np.concatenate(all_labels) return all_preds, all_labels幾個細節(jié)解釋一下為什么使用torch.max(outputs, dim1)而不是torch.argmax兩者做的事情一樣但torch.max順帶把最大值的數(shù)值也返回了如果你后面想做置信度閾值篩選不需要再跑一次前向傳播。為什么model.eval()必須在循環(huán)前調(diào)用因為模型里的Dropout和BatchNorm在訓練模式和推理模式行為差別很大。BatchNorm在train()模式下用的是當前batch的統(tǒng)計量在eval()模式下用的是訓練階段累積的全局統(tǒng)計量。忘記這一步預測結(jié)果可能是錯的且錯誤模式非常隱蔽——你不要指望它報錯只是數(shù)字不準確。為什么收集預測和標簽要用numpy而不是繼續(xù)保留tensor因為后面交給sklearn.metrics.confusion_matrix時numpy數(shù)組最方便。你當然可以傳tensor進去sklearn底層會嘗試轉(zhuǎn)numpy但遇到需要detach的場景就會報錯這里直接cpu().numpy()一步到位省心。3.2 核心邏輯構(gòu)建并理解混淆矩陣拿到all_preds和all_labels之后一行代碼就能生成矩陣from sklearn.metrics import confusion_matrix cm confusion_matrix(all_labels, all_preds) print(cm)這里有個非常值得注意的細節(jié)sklearn的confusion_matrix(y_true, y_pred)第一個參數(shù)傳真實標簽第二個參數(shù)傳預測標簽。我見過不止一次把順序?qū)懛吹娜绻惆l(fā)現(xiàn)自己矩陣對角線上的數(shù)字莫名其妙地大但精確率和召回率分析卻對不上先檢查是不是這一步參數(shù)傳反了。輸出的cm是一numpy二維數(shù)組形狀為(n_classes, n_classes)。cm[i][j]代表真實類別為i、預測類別為j的樣本數(shù)。沿行方向看每一行的總和等于該真實類別在測試集中的總樣本數(shù)沿列方向看每一列的總和等于模型預測為該類別的總數(shù)。舉個具體例子假設3分類的矩陣是[[50, 5, 3], [ 2, 45, 8], [ 1, 4, 60]]現(xiàn)在看第一行真實類別050個預測正確5個被錯判成了類別13個被錯判成了類別2。第一行總樣本數(shù)58。看第一列預測為類別050個確實來自類別02個來自類別11個來自類別2總預測數(shù)為53。你還能順手算出每個類別的精確率和召回率類別0精確率 50 / 53類別0召回率 50 / 58類別2精確率 60 / 65類別2召回率 60 / 64不從混淆矩陣出發(fā)光用sklearn.metrics里的precision_score、recall_score你確實也能拿到這組數(shù)字但一個是黑盒求解一個是看表手算顯然后者對模型行為的理解更清晰。3.3 歸一化問題原始數(shù)值與比例圖的取舍做可視化之前通常會糾結(jié)一個事情熱力圖顏色深淺到底表示原始數(shù)量還是百分比例我實際用下來的建議是兩者都做根據(jù)需求選擇展示。原始數(shù)值適合看絕對樣本量比如你的測試集每類大約500張一眼就能看出模型在某個類上錯了43張這個絕對值是否可接受取決于業(yè)務場景。但如果你想分析的是錯誤率的相對大小尤其是在類別樣本量差異很大的情況下用歸一化比例圖才不會被絕對數(shù)量誤導。例如測試集中類別0有1000個樣本類別1只有100個樣本。類別0錯了50個比例是5%類別1錯了10個比例是10%??丛紨?shù)值圖50比10大很多你很可能誤以為類別0的問題更嚴重。但歸一化之后才能看清類別1的錯誤率其實翻倍了。sklearn提供normalize參數(shù)cm_normalized confusion_matrix(all_labels, all_preds, normalizetrue)normalizetrue的意思是按行歸一化即每行真實類別的總和為1。這樣矩陣里每個單元格的值表示真實類別為i的樣本中被預測為類別j的比例。對角線上的值就是每個類別的召回率。這是最常用的一種歸一化方式因為解釋起來直觀。還有一種normalizepred按列歸一化得到的是精確率視角。看你分析需求選擇。提示匯報結(jié)果時圖里標注清楚是絕對數(shù)量還是歸一化比例。最好在副標題里直接寫明normalized confusion matrix (row-wise)免得看圖的同事誤讀顏色深淺代表的意義。4. 可視化實戰(zhàn)從樸素表格到生產(chǎn)級熱力圖4.1 使用Matplotlib實現(xiàn)基礎熱力圖最樸素的方式一個for循環(huán)也能畫出格子但效率太低且代碼冗長。實際項目中我推薦直接使用plt.imshow或者Matplotlib的matshow。給一個我常用的基礎版本import matplotlib.pyplot as plt import numpy as np def plot_confusion_matrix(cm, class_names, titleConfusion Matrix, cmapBlues, normalizeFalse): if normalize: cm cm.astype(float) / cm.sum(axis1, keepdimsTrue) fig, ax plt.subplots(figsize(8, 6)) im ax.imshow(cm, interpolationnearest, cmapcmap) ax.figure.colorbar(im, axax) # 設置刻度 ax.set(xticksnp.arange(cm.shape[1]), yticksnp.arange(cm.shape[0]), xticklabelsclass_names, yticklabelsclass_names, ylabelTrue Label, xlabelPredicted Label, titletitle) # 讓x軸的標簽在底部顯示而不是頂部默認imshow是頂部的 ax.xaxis.set_label_position(bottom) ax.xaxis.tick_bottom() # 在每個格子里標注數(shù)值 thresh cm.max() / 2. for i in range(cm.shape[0]): for j in range(cm.shape[1]): ax.text(j, i, f{cm[i, j]:.2f} if normalize else f{cm[i, j]:d}, hacenter, vacenter, colorwhite if cm[i, j] thresh else black) fig.tight_layout() plt.savefig(confusion_matrix.png, dpi150, bbox_inchestight) plt.show()這段代碼有幾個細節(jié)值得注意為什么用cm.astype(float)原始混淆矩陣是整數(shù)類型整數(shù)除以整數(shù)在Python 3里得到的結(jié)果是浮點數(shù)但如果遇到某行和為0除法結(jié)果會是NaNastype(float)可以讓后續(xù)操作更順暢。另外如果直接把int類型矩陣傳給imshow顏色的映射不會有問題但在某些情況下annotate字符串格式化會有坑轉(zhuǎn)成float更安全。為什么用thresh cm.max() / 2來決定字體顏色如果格子的數(shù)值大于最大數(shù)值的一半說明格子顏色較深用白色字更清楚反之用黑色字。這個閾值設定簡單粗暴但效果很好實測各種顏色映射下都清晰。如果你用的是plt.text手動標注而不是后面要講的Seaborn內(nèi)置annot功能這段邏輯就得自己寫。關于顯示方向Matplotlib默認的imshow坐標是從左上角開始y軸向下。這是圖像坐標系的常規(guī)做法。如果你希望y軸從下往上數(shù)學坐標系習慣可以加上ax.invert_yaxis()。但這個決定純屬個人偏好我用默認方向沒遇到過問題只要x軸標簽在底部、y軸標簽在左側(cè)讀者就能自然理解。4.2 使用Seaborn一行畫出更美觀的熱力圖如果你不排斥引入seaborn熱力圖能畫得更快且默認樣式在現(xiàn)代論文和報告里更順眼import seaborn as sns plt.figure(figsize(10, 8)) sns.heatmap(cm, annotTrue, fmtd, cmapBlues, xticklabelsclass_names, yticklabelsclass_names, cbarTrue, linewidths0.5, linecolorwhite) plt.xlabel(Predicted Label) plt.ylabel(True Label) plt.title(Confusion Matrix) plt.savefig(cm_seaborn.png, dpi150, bbox_inchestight) plt.show()參數(shù)解釋annotTrue在格子中顯示數(shù)值。fmtd因為數(shù)值是整數(shù)用十進制格式。如果歸一化了改成fmt.2f。linewidths0.5給每個格子加白色邊框線。這個細節(jié)能讓大矩陣看起來不呆板。cbarTrue右側(cè)顯示顏色條。如果矩陣維度小于10Seaborn的標注基本不會重疊如果類別數(shù)量多到20以上格子里放數(shù)字會擁擠這種情況建議只放顏色塊或者把字體調(diào)小sns.heatmap(cm, annotTrue, fmtd, annot_kws{size: 8}, ...)4.3 進階可視化歸一化圖、錯誤分布圖與多子圖對比單一熱力圖只能說明模型整體行為。做更深入分析時我經(jīng)常把三個圖放在一起對比原始數(shù)值圖、歸一化比例圖、錯誤強調(diào)圖。錯誤強調(diào)圖的思路是對角線位置全部置為0或單獨畫非對角線位置用另一種顏色映射讓錯誤分布一眼可見。# 創(chuàng)建一個錯誤分布矩陣對角線保持白非對角線保留原值 error_cm cm.copy() np.fill_diagonal(error_cm, 0) plt.figure(figsize(8, 6)) sns.heatmap(error_cm, annotTrue, fmtd, cmapReds, xticklabelsclass_names, yticklabelsclass_names) plt.title(Error Distribution (Diagonal hidden)) plt.show()這張圖在類別數(shù)量較多時極其好用。比如你有一個10分類的模型正?;煜仃嚴飵资畟€格子全是數(shù)字人類視覺很難快速找到關鍵信息。把對角線隱藏、只凸顯非對角線錯誤再加上紅色系顏色映射哪兩類最容易弄混一目了然。多子圖對比適合需要同時看訓練集表現(xiàn)和測試集表現(xiàn)或者對比兩個不同模型權(quán)重的場景fig, axes plt.subplots(1, 2, figsize(16, 6)) sns.heatmap(cm_model_a, annotTrue, fmtd, cmapBlues, axaxes[0]) axes[0].set_title(Model A) sns.heatmap(cm_model_b, annotTrue, fmtd, cmapBlues, axaxes[1]) axes[1].set_title(Model B) plt.tight_layout() plt.savefig(compare_models.png, dpi150) plt.show()5. 實操記錄數(shù)據(jù)增強策略的直觀驗證前面講了不少理論這一節(jié)分享一個實際跑過的案例借此說明混淆矩陣可視化如何真正幫到模型調(diào)優(yōu)。某次做細粒度圖像分類任務類別非常相似比如不同品種的鳥。初始模型在測試集上準確率82%看起來還行。但把混淆矩陣畫出來后發(fā)現(xiàn)問題很大一部分錯誤集中在“暗色羽毛的鳥類”之間比如A品種和B品種完全色調(diào)接近互相錯判的比例明顯偏高。針對這個情況我在數(shù)據(jù)增強里增加了顏色抖動ColorJitter、隨機灰度化RandomGrayscale同時針對易混類對的樣本做了簡單的人工檢查——發(fā)現(xiàn)部分訓練樣本的標注本身就模糊兩張看起來幾乎一樣的圖片標成了不同類別。模型學到的就是這種模糊邊界再好的網(wǎng)絡也沒辦法憑空學會區(qū)分人類都無法分辨的差異。改了數(shù)據(jù)增強策略并清理了部分噪聲標簽后重新訓練。對比兩次的混淆矩陣歸一化圖A類和B類之間的錯判比例從13.8%降到7.2%整體準確率提升到89%。這個提升要是只看準確率數(shù)字你只知道“好了”但不知道為什么好、好在哪些類別上。而兩張混淆矩陣圖并排放在一起解釋性就強得多到底是普遍提升還是特定混淆緩解一眼就能分辨。這個案例想說明的核心思路很簡單混淆矩陣是模型錯誤診斷的入口不是終點。光會畫圖、會看比例還不行要能根據(jù)矩陣里的錯誤模式反推數(shù)據(jù)或模型的癥結(jié)所在然后針對性調(diào)整。6. 常見問題與排查技巧實錄6.1 矩陣對角線特別大但精確率低問題出在哪場景你打印出的混淆矩陣對角線數(shù)值看起來很高即大多數(shù)樣本分類正確。但用sklearn.metrics.precision_score算出來的精確率低得離譜。這個矛盾通常是三個原因之一第一類別樣本量極度不均衡矩陣可視化時小類別被“吃掉”了。比如1000個A類樣本、50個B類樣本。A類幾乎全對B類錯一半?;煜仃嚿螦類的格子大數(shù)字多B類的格子數(shù)字小視覺上容易被忽略但精確率計算把B類的糟糕表現(xiàn)放大了。排查方法不要只看矩陣同時打印每一行的總和和每一列的總和計算類別的樣本量分布。第二你用的是宏平均macro average還是微平均micro average。宏平均每個類別的權(quán)重相同小類別的表現(xiàn)會嚴重拉低整體分數(shù)。微平均等價于整體準確率你會覺得“還行”。第三標簽順序錯位。預測時用的類別索引順序和計算指標時的標簽順序不一致后面對不上導致全部指標都是亂的。排查方法很簡單隨機抽幾個樣本手動看預測結(jié)果和實際輸出對比。6.2 報錯RuntimeError: Cant call numpy() on Tensor that requires grad這個錯誤只會在一個場景出現(xiàn)你在torch.no_grad()外面執(zhí)行了模型推理或者你在loss.backward()之后、但在同一個tensor上嘗試轉(zhuǎn)numpy。排查方法確認推理階段是否用了with torch.no_grad():。如果確認用了還報錯檢查你是不是在拿到logits之后又做了某個操作導致新的tensor重新開啟梯度追蹤。# 錯誤寫法 outputs model(inputs) # requires_gradTrue _, preds torch.max(outputs, dim1) preds.numpy() # RuntimeError # 正確寫法 with torch.no_grad(): outputs model(inputs) _, preds torch.max(outputs, dim1) preds.numpy() # OK6.3 可視化時中文標簽亂碼Matplotlib默認字體不支持中文如果項目里的類別名稱包含中文畫圖的標簽會變成一個個方框。解決方案是在繪圖前設置中文字體import matplotlib.pyplot as plt plt.rcParams[font.sans-serif] [SimHei, Microsoft YaHei, Noto Sans CJK SC] plt.rcParams[axes.unicode_minus] False這幾行代碼在Windows和Linux的中文字體選擇上略有不同實測在Windows用SimHei沒問題Linux服務器上如果沒裝Noto Sans CJK就先apt install fonts-noto-cjk。如果不想依賴系統(tǒng)字體還可以用font_manager指定字體文件路徑穩(wěn)妥但代碼量多一點。建議本地調(diào)試用系統(tǒng)字體生成報告時統(tǒng)一用服務器上固定字體避免圖片字體不一致的尷尬。6.4 矩陣很大時可視化的排版混亂假設你的類別數(shù)量是50甚至100。把所有類別標簽都畫在同一張圖上橫向標簽互相重疊格子里的數(shù)字糊成一片這種圖沒什么用。應對策略有三種只展示一部分比如按錯誤數(shù)量排序只展示錯誤最多的前10對類別。降采樣把混淆矩陣按更大的粒度合并比如把相近大類合并后再畫。交互式展示用plotly生成可縮放的網(wǎng)頁圖鼠標懸停能看具體數(shù)值。雖然無法把圖片嵌入靜態(tài)文檔但適合需要交付給業(yè)務方做探索的場景。6.5 矩陣里的數(shù)值比樣本總數(shù)還多多出來的數(shù)據(jù)從哪來出現(xiàn)這個問題幾乎可以肯定是你在推理時沒有跳過數(shù)據(jù)集的最后一個小batch或者你重復跑了一次預測并把結(jié)果append了兩次。排查方法打印len(all_preds)和len(test_loader.dataset)兩者必須相等。如果all_preds多了看看是不是你的循環(huán)里沒有判斷邊界或者之前某次調(diào)試時沒有清空列表。# 確保列表是空的才開始 all_preds [] all_labels []6.6 GPU推理時顯存溢出如果測試集圖片分辨率高即便batch size適中也可能爆顯存。主要元兇是檢測模型Detection里的多尺度輸出或者超大特征圖。分類模型通常還好但如果你用了大卷積核或者輸入是2000x2000的圖也要小心。應對方法減小batch size。用torch.no_grad()。如果推理流程復雜在循環(huán)里顯式調(diào)用torch.cuda.empty_cache()。順帶提一個真實遇到的坑batch size減小后最后一批樣本數(shù)少了歸一化時如果某一行對應的類別一個樣本都沒有矩陣的一行之和會是0除以0會得到NaN。解決方法是歸一化時加上一個極小量epsilonrow_sum cm.sum(axis1, keepdimsTrue) cm_normalized cm / (row_sum 1e-12)7. 從混淆矩陣延伸到更多評估維度7.1 從矩陣一鍵導出精確率、召回率與F1混淆矩陣本身包含計算所有基礎分類指標所需的信息。你可以算def metrics_from_cm(cm): n_classes cm.shape[0] precision np.zeros(n_classes) recall np.zeros(n_classes) f1 np.zeros(n_classes) for i in range(n_classes): # 精確率對角線 / 列和 precision[i] cm[i, i] / cm[:, i].sum() if cm[:, i].sum() 0 else 0 # 召回率對角線 / 行和 recall[i] cm[i, i] / cm[i, :].sum() if cm[i, :].sum() 0 else 0 # F1 if precision[i] recall[i] 0: f1[i] 2 * precision[i] * recall[i] / (precision[i] recall[i]) return precision, recall, f1或者直接依賴sklearnfrom sklearn.metrics import precision_score, recall_score, f1_score, classification_report print(classification_report(all_labels, all_preds, target_namesclass_names))classification_report輸出的表格文本在控制臺看很方便我每次訓練完都會打印一份。雖然它不畫圖但和混淆矩陣圖配合使用一圖一表把模型表現(xiàn)講得很清楚。7.2 多分類任務的宏平均與加權(quán)平均在做多分類評估時經(jīng)常會遇到宏平均macro、微平均micro和加權(quán)平均weighted的選擇。這里做個簡單說明宏平均每個類別的指標先算出來然后取平均值。類別權(quán)重相同小類別的表現(xiàn)會被放大適合你關心所有類別是否都被照顧到的場景。微平均所有樣本的TP、FP、FN加起來算總體指標等價于整體準確率對多分類而言適合樣本量均衡的場景。加權(quán)平均按每個類別的樣本占比加權(quán)計算能反映數(shù)據(jù)分布情況但大類影響大可能掩蓋小類別問題。從模型優(yōu)化的角度看我通??春昶骄鵉1因為如果某個小類別效果差宏平均會直接暴露出來。但從業(yè)務指標匯報的角度可能更需要加權(quán)平均因為業(yè)務看的是整體效果?;煜仃噲D解決的正是這個問題不管哪種平均指標它提供的只是總結(jié)數(shù)字矩陣圖能告訴你具體哪些類表現(xiàn)差。宏平均F1低了打開混淆矩陣圖一眼就能看到是哪個小類別被虐得最慘。7.3 用混淆矩陣輔助判斷閾值調(diào)整對于二分類任務混淆矩陣的四個基本項TP、FP、FN、TN直接決定了ROC曲線和PR曲線上每個點的位置。通過調(diào)整決策閾值通常默認是0.5你可以讓模型更偏向“寧可錯殺也不放過”或者“寧可放過不可錯殺”。比如醫(yī)療篩查場景假陰性比假陽性更致命。你可以降低正類的判定閾值讓模型輸出概率大于0.3就判為正類。這會讓TP增多、FN減少但同時FP也會增加。此時畫出不同閾值下的混淆矩陣對比TP、FP的變化幅度比只盯著AUC曲線要直觀得多。多分類閾值調(diào)整稍微復雜但可以借助每個類別的概率分布直方圖配合混淆矩陣來做。核心是先明確業(yè)務訴求是精確率優(yōu)先還是召回率優(yōu)先然后基于混淆矩陣在不同閾值下的變化來選。8. 經(jīng)驗沉淀與后續(xù)擴展方向整個流程實現(xiàn)下來我個人最大的感受是畫混淆矩陣本身很簡單難的是把它放到模型迭代的閉環(huán)里真正用起來。我現(xiàn)在的工作習慣是每次訓練完不管結(jié)果好還是壞都固定輸出三樣東西——測試集loss曲線、classification_report文本、混淆矩陣三合一圖原始數(shù)值、歸一化比例、錯誤分布。這三樣東西保存到實驗目錄下隔一段時間再回頭對比不同實驗版本時不用重新加載模型跑推理只翻圖和報表就能快速定位問題。后續(xù)如果你想讓這套可視化更自動化可以嘗試兩個擴展方向第一個方向是把混淆矩陣集成到訓練腳本中每個epoch結(jié)束在驗證集上自動畫一張圖。這樣訓練過程中就能動態(tài)觀察是不是隨著epoch增大某些混淆點一直在改善另一些一直停滯。在線監(jiān)控的價值在于及早發(fā)現(xiàn)過擬合或?qū)W習率設置不當?shù)膯栴}。第二個方向是結(jié)合模型的可解釋性工具。當你在混淆矩陣中發(fā)現(xiàn)某兩類一直混淆別急著一味加數(shù)據(jù)、調(diào)模型先拿錯誤樣本出來看看——用Grad-CAM或SHAP分析模型重點關注圖像的哪些區(qū)域。很多時候你會發(fā)現(xiàn)模型其實在用一個非預期的特征做判斷比如區(qū)分兩種鳥時它關注的是背景草地顏色而非鳥本身的羽毛紋理。這個診斷路徑配合混淆矩陣能幫你做出更有針對性的優(yōu)化決策而不是盲目調(diào)參。
返回列表
PREV
查看更多資訊
NEXT
返回資訊列表
亚洲导航深夜福利| 婷婷色五月激情| 欧美日韩国产中文精品字幕自在自线| 东京热av男人的天堂| 国产精品伦理| 五月天玖玖资源站| 久久草视频污视频| 日韩av性爱在线播放| 日本一级黄色电影| 久久受www免费人成| 亚洲五月丁香花狠狠干一区二区三区 | 久久精品熟妇丰满人妻99| 自慰白浆在线观看| 色天堂在线观看| 欧美 精品国产制服第一页| 99热超碰在线| 91黑丝操| 夜嗨影院| 亚洲国产中文字幕| 国产福利精品最新在线| 伊人午夜福利视频| AA特级绝黄| 欧美影音在线| 欧美成人性爱视频免费观看| 欧中日成人免费影视| 亚洲欧美不卡线| 99色色| 欧美色图另类图片| 欧美成人性爱视频大全| 免费97视频| www..com操老师| 欧美在线 亚洲| 国产精品久久久久无码A√| 欧洲乱码视频| 96久久久| 欧美久久婷婷| 亚洲国产成人精品久久久国产成人一区二区三. | 婷婷五月天成人| 精品国产乱码久久久久久免费| 日本性爱视频一级| 日本黄色裸日本黄色裸体| 日韩精品字幕| 丝袜美腿91| 国产精品呦一区二区三区| 欧美色五月| 日本肏逼视频在线观看| 九一综合精品视品av| 欧美超碰人妻97| 性色A∨91| 午夜男人的天堂| 狠操91,com| 色综合网1| 日韩草久视频| 国产人伦精品一区二区三区| 亚洲动态色图| 先锋音影AV| 丰满高潮18xxxx| 蜜臀在线网站| 91五月天| 97干在线视频| 欧美中文狠| 国产精品呦一区二区三区| 亚洲有薄码区久久在线一区| 伊人黄色视频免费观看| 人妻少妇精品视频一区二区三区| 91麻豆天美传媒HD| 久久人人爽爽人人爽人人片αV| 亚洲精品黑丝| 日韩久久艹| 激情啪啪拍91| 成人开心网在线视频| 黑操B| 日韩精品免费高清视频在线| 亚洲精品国产拍免费91在线| 97久精品| 2020国产精品| av在线播放国产一区| 夜夜嗨老熟女AV一区二区三区| 久久国产视频性吧 | 日han少妇无码| 国产精品久久久久久久毛片1| 91国产丝袜白虎| 日韩天堂av电影在线观看| 无码人妻精品一区二区中文| 久久超碰日韩精品| 久久成人网站| 亚洲三级网址久久最新| 超碰99热| 综合国产影视三级| 色综合国产在线观看| 欧美线天码中字| 久久久久久欧美精品se一二三四| 国产午夜福利电影免费在线观看| 日本加勒比无码专区| 国产熟女二区| 97亚洲国产影视| 狠狠爱综合| 欧美天天射| 欧美熟女丝袜| 日本东京热大香蕉a片| 日本大片日本一区二区免费高清| Blackedraw视频一区二区| 精…码一二三区| 玖玖大干人妻| 无码操逼天堂| 91精品操美女| 99热精品国产| 日本一二三高清| 大香蕉啪啪网| 妺妺跟我一起洗澡没忍住| 又粗又长又大国产不卡| 91男同| 好湿好紧好爽 视频| 中文字幕狠狠玩| 精品欧美А∨无码黑人大荫蒂 | 噜噜噜无码AV一级一级久久影院| 立川理惠无码一区二区| 做爱A级亚欧| 天天色黄色影院天天操| 久久婷婷电影网| 久久大香蕉97| 精品二区久久| 骚日日av| 91九色丰满高潮| 欧美91精彩| juliaann丝袜大战黑鬼| 亚洲性猛| 欧洲精品二区| 久久东京热久久| 男人的天堂久久狠| 99最新日韩偷拍视频| 日本一级不卡一二区| 欧美国产一区二区三区麻豆传媒| 伊人久久大香蕉线AV五月天| 嗯嗯,好大,好爽,好骚| 人人爽夜夜操| 97久久超碰国产网站| 天无日色综合| 亚洲欧洲精品成人| 欧美日韩国产电影| 天天操狠狠日夜夜干超大胆开放com大香蕉视频在线观看 | yiqicaoav| 欧美一级A一级a爱片久久| 青青操视频在线| 亚洲麻豆18发?| 我中文字幕6区| 国产欧美成人精品| 午夜操操操| 蜜桃传媒视频第一区入口在线看| 9美女超碰在线免费观看| 亚洲色图A| 亚洲男人天堂2017| 亚洲情色 自拍| 日夜尻逼网| 日本中文字幕一区| 97超级久久| 伊人九九九| 欧美精品久久96人妻无码| 国产一级舔足在线观看| 亚洲中文一区二区三区| 伊人久操| 91美腿丝袜在线观看| 天天碰操中国年青熟妇| 97视频在线视频| 久久9999| 免费中文综合精品| 国产第25页在线观看| 无码国产Av| 久久99午夜精品一区人妻| 国产亚洲禁久一区二区 | 天天做天天爱天天高潮| 91国产丝袜足交精品视频| 韩国三级三级BD在线| 天天爽夜夜欢视| 欧美日韩国产人人| 蜜臀久久久99久久久久 | 日韩另类| 日韩AV色图| 久久久久921| 欧美精品系列| av影片在线观看不卡| 日韩熟女无码| 99视频自拍| 超碰精品| 超碰97资源网亚洲| 99re在线| 黄网在线播放| 98福利在线视频| 久久二| 中文人妻av高清一区| 欧美刺激色黄片免费看| 欧美熟女激情| 欧美色视| 免费黄色片。| 老女人爆菊| 色臀aV| 精品国产乱码久久| 色吧五月| 少妇人妻精品| 日本在线999| 九九久久玖玖| 俺去俺来也在线www| 九九热免费国产视频婷婷伊人五月 | 一区二区三区亚洲| 九九九九九九九精品视频| 色在线综合| 97国产成人精品免费视频| 91在线免费观看处女| 蜜桃臀av一区二区| 日本国产亚洲一区在线观看| 日本天天色| 加勒比AV天堂| 亚洲成人精品在线一区| 旡码电影特区| 又粗又长又大国产不卡| www.狠狠| 福利五区| 黄色在线网站| 成人综合网 欧美| 中文字幕一区二区三区50路| 9久久精品| 97看操| 欧美亚洲情色| 九九色色| AV色女综合| 巨爆乳一区二区爆乳区| 久久綜合很很很| 超碰午夜| 日韩三级久久久| 一二视频神马久久传媒| 日韩精品1区2区中文字幕| 91日日| 人人操人人摸人人骑| 性爱综合网| 欧美日韩国产电影| 不卡av在线中文字幕| 精爱久久| 国产97视频| 涩涩五月天| 91情色在线| 天堂种子在线www网资源| 亚洲综合骚逼| 老司机射| 麻豆黄站| 操逼无码一区| daxiangjiao你懂的| 欧美一区二区一级岛国大片| 亚洲色图 图片| 日韩欧美aⅴ综合网站发布| 91处女视频在线观看| 国产91 丝袜在线播放00-百度| 麻豆av一区二区| 国产成人精品日本视频| 人妻熟女一区二区在线视频| 丁香五月天社区| 91天堂丝袜美腿| 性爱1区| 欧美热图99| 丁香六月综合激情| 色姑娘综合网| 91中文精品日韩欧美在线| 日韩无码精品综合久久| 美日韩在线不卡人妻| 91看黄片| 久久精品国产久精国产| 欧美久久人人网| 天天天堂影视日韩亚洲91| 欧美性爱视频免费一区一A| 久9综合在线| 日日日日日| 亚洲综合第一页| 2025亚洲男人天堂| 欧美视频一区二区在线| 97亚洲色图| http://qxhbdz.com| 国产精品一区二区久久精品| 老熟女中文字幕高清| 蜜乳Av成人片网站| 国产97在线播放| 大奶啊啊好爽| 欧洲特黄毛片免费看欧洲毛片| 欧美极品女人的天堂| 日韩精品在线视频,日韩精品……| 上床不卡网站| 综合色图区| 欧美少妇色图| 校园春色 亚洲| 999在线电影香蕉| 日韩有码 一区二区三区| 91少妇通奸网站| 开心激情婷婷| 蜜桃香蕉久草精品在线| 大香蕉草草| 91岛国动作片| 久久久婷| 亚州欧美综合| 久操大香蕉手机视频在线看 | 91GD.COM| 丝袜美腿操av| 欧亚日韩一区在线| 青青草成人视频在线观看二区| 欧美操人视频| 欧美日本视频一区| 亚洲国产综合久久久性感熟妇| 美国人人操人人操| 欧美综合自拍| 91亚洲狠狠色| 亚洲精品欧洲精品| 大奶啊啊好爽| 性夜影院爽黄A爽免费动漫| 色噜噜人妻丝袜AV资源| 在线人人人人人人精品超| 中出欧美| 91成人亚洲色图| 久久一区,青青青青草视频在线播放| 免费在线黄片视频| 国产熟妇 码视频户外直播| 人人妻人人色一区二区三区| 久久精9| 九九99精品视频在线观看| 无码 黑人一区二区三区| 精品一区二区三区麻豆| 婷婷精品久久av影视| 人妻爽爽啪视频| 高凊专区人人操| 色情综合| 久久亚洲av成人无码国产| 91n处女在线观看| 欧美精品三区| chaopen97久久| 亚热日本熟女| 精品一区二区三区四区女 | 校园春色第一页| 97精品97久久| 亚洲中文电影| 330Dv国产女人终合视频极品人与兽| 天天日天天色| 人人操人人叉人人插人人| A片A5445444| 国产熟女精品一区二区| 亚洲风情在线观看| 欧美色干| 78久久| 97超碰大| 91老熟女视频| 亚洲av青草久久一区二区| 国产AV中文| 人妻第一页| 日韩欧美~中文字| 欧美精品,四区。五区| 亚洲色悠悠久久88| 亚洲欧美综合网站| 国产外初女出血视频| 成人欧美日超碰| 伊人一区二区三区| 超碰一区二区| 国产一区二区在线看| 淫色网综合| 久九干| 最新一二三区视频| 日日干夜夜操视频h| 日本伦理一区二区| 俺去久久| 国产亚洲一黄| 欧美三级一级| 天天碰操中国年青熟妇| 夜色97| 亚洲久草AV色图| 天天操狠狠日夜夜干超大胆开放com大香蕉视频在线观看 | 福利社区午夜一区二区| 日本熟女中文字幕一区| 中文字幕精品区先锋资源| 2020国产精品| 校园春色制服丝袜中文字亚洲| 可以免费观看的AV| 亚洲激情 欧美色图| 日韩国产十八禁| 男人的天堂2018.| 国产精品视频| 亚洲欧洲无码97久久精品| 骚女高跟AV在线| 搡老女人老91妇女熟女| 97天天| 亚洲春色一区二区三区| 欧美丰满少妇xx高潮| 午夜福利成人免费视频| 久久激情五月| 久久久久久久 九九九九九九九| 一区久久久二区| 欧美成人色| 91综合天天| 97天堂| 国产对白刺激视频| 久久东京伊人一本到鬼色| 去干网最新版| 丁香五月天婷婷姐| 欧美日韩青操| 午夜精品久久久久久久第一页按摩| 精品国产乱子伦一区二区三区,精品一| 91老熟女| 久久精品国产96精品亚洲拳交| 亚洲人妻av| 日本三级小说中文字幕| 91久久国产精品| 国产午夜福利专区综合| 免费的黄片wwwwww| 国产不卡中文字幕免费avi| 色一区二区三区综合| 欧美成人贴图| 五月天久久综合网| 激情综合亚洲| 激情图片亚洲色图| 搡老女人老91妇女熟女| 久久精品国产Aⅴ| 91成人精品在线播放| 欧美AB在线观看| 亚洲男人综合网| 91老司机精品| 国产美女mm131爽爽爽爽| 亚洲不卡不卡中文字幕不卡| 大色网久久| 一本色道久久综合亚洲二区三区| 98福利在线视频| 中文字幕日产av人| 国产后入精品| 日本大香蕉综合网| 国产精品露脸在线观看| 久久婷婷一区二| 久久国产精品视频| 久久久久人妻二区精品叶可怜| AV综合中文字幕干| 91 丝袜在线观看| 亚洲精品国语在线播放| 97操操| 亚州欧美总和| 黄人人操人人操| 欧美极品少妇交| 亚洲色综网| 影视综合无码少妇| 丝袜综合色图| av网站免费线看| 色爱综合网| 人妻蜜桃臀| 日韩精品一区二区日韩| 精品久久大胆人体| 国产精品ⅴ无码大片在线看.| 人妻丝袜无 码视频专区| m欧洲一级午老| www.av家庭乱伦| 丁香婷婷久久 | 九九热最新| 久久久国产精品人妻丝袜| 97视频在线播放| 特污免视频| 欧美日韩资源| 欧美嗯啊……在线观看视频免费| 在线视频97| 久久久久性熟视频| 中国AV美女| 第45页一区二区| 偷拍 欧美 日韩| www.99热| 超碰美国| 96AV精品| 91精品网站| 色色热| 欧洲视频在线| 天天爽天天| 91欧洲入口| 不卡免费av在线播放| 91黑丝操| 天天干人妇| 中文字幕熟女人妻丝袜丝| 91干熟女| 208天天久久九九九| 日本不卡免费二区| gogogo免费高清看中国国语| 超碰爽人妻熟女Av| 亚洲中文字幕在线视频一区二区| 久久久影院| 国产亚洲福利第一页丝袜| 欧美另类自拍| 成人网站 免费观看| 亚洲九九视频| 不卡九肏| 无码国产精品久久久久| 亚洲91在线| 欧美无圣光在线| 亚洲毛片基地专区| 亚洲综合999| 搡老熟女老女人老熟妇免费视频| 夜夜性| 99久久无色码| 岛国网址国产 | 翔田千里av一区二区三区| 欧美 青青草| 国产AV线| 黄色工厂这里只有精品| 国产一区二区三区不卡手机在线| 日韩精品免费高清视频在线| 人人妻人人澡人人爽久久av| 男人干美女| 操逼网免费无码视频| 精品国产Av无码久久久伦古装| 欧亚成人在线视频| 乱精品一区字幕二区| 亚洲精品性爱片| 日日躁夜夜躁狠狠躁超爽| 久久精品免视看国产成人﹣蜜臀av一区. 久久精品免视看国产成人,蜜臀av一区 | 国产夫妻一区二区| 欧美极度丰满熟妇hd| 偷拍综合网| 日本最新1区2区3区| 一二三四日本视频高清| 人人摸人人添人人操| 色逼综合| 尤物视频偷拍免费| 少妇一区二区三区在线观看| 99久久综合网| 欧美aaaaaaa| 亚洲色婷婷久久91| 午夜美女诱惑电源网| 中国小夫妻勾搭露脸淫荡对白| 很很干很很操| 欧美性爱一级操| 色婷婷六月丁香七月婷婷| 91色亚洲| 久超碰这里只有精品| 少妇69中文| 后X久久| 日本亚洲熟女视频| 尤物黄色在线观看网站| 亚洲AV无码国产成人| 一牛影视成人片免费| 三级日本一区二区三区| 伊人久久大香线综合无码| 国产激情片在线观看| 欧美性爱日韩性爱| 人妻欧美| 99re在线| 亚洲精品 欧美精品| 丁香六月啪啪| av天天在线观看| 午夜精品久久久久久久第一页按摩| 国产五码丝袜屁眼| 欧美日韩情色一区二区| 桃色五月天| 久久综合激情| 国产一区二区三区影片| 国产乱码精品一区二区三区四川| 久久天天艹| 国产精品黑人一区二区三区| 农村女一级毛卡片| 国产女人视频三四五区| 欧美78P| 欧美色蜜桃97| 日韩精品亚洲一二三| 97操97干| 久久亚洲一区女同性恋中文字幕| 欧洲色色| 玖色AV| 久草婷婷| 美腿丝袜偷拍亚洲欧美| 中文字幕日韩精品一区二区三区| 夜夜草我| 乱伦1色页| 0755午夜福利视频| 精品超碰国产| 亚洲凸凹超碰成人| av日韩国产一区二区| 色拍偷亚洲| 综合91网| 人妻少妇无码| 亚洲视频精选| 97亚洲综合| 国产精品白领在线观看| 色视频蜜乳| 蜜乳AV一区| 国产懂色精品国产av| 亚洲日韩国产欧美综合v| a级理论午夜日本| 久99| 久久久久密| 精品久久久久久久久久久久| 亚洲色图欧美色图制服诱惑| 九九热只有精品| 蜜臀一区二区三区亚洲最新章节在线观看 - 高清蜜臀一区二区三区亚洲全集播放 | 美女天天干| 亚洲人妻日日日| 日本阿v天堂在线观看| 日本成熟少妇A∨网站| www.伪伪| a在线视频免费观看| 天天操狠狠日夜夜干超碰撸com视频在线观看| 内射白嫩美女| 天天影视射综合网| 国产91丝袜 在线播放| 国产精品久久久久久久久久久久| PMv在线观看| 啪啪AV导航| 久久曰曰| 熟妇艹鸡八| 超碰在线1234区| 婷婷爽人人婷婷爽视频| 日本狂喷奶水在线播放212| ?亚洲伊人伊成久久人综合网| 懂色AV一区二区三区| 五月天久久婷婷亚洲| 亚州,欧美在线| 99久久久无码国产精品性啊聊| 久久社区一区二区三区| 人妻-91porn| 国产一区二区在线播放量| 中文字幕在线免费观看 | 一区二区三区精品久久| http://qxhbdz.com| 国产精品密臀网在线观看| 久久久久久人体| 伊人一区二区在线播放| 欧美在线播放aaaa| 超碰 av 女人天堂| 久久91视频| 五月丁香影院| 国产操逼逼网| 视频在线中文字幕| 日韩91网| 看日韩操逼| 老女人碰碰在线碰碰视频| 日韩探花精品在线视频| 久久熟妇五十路一区| 后入福利| 五十路六十路素人熟女| 亚洲激情网一二三四区| 很狠操| 无码高清操逼| 久久99视频| 亚洲一二三| 天天干天天操天天操夜夜操天天操| 首页中文字幕中文字幕免费| 97视频7| 另类图片综合| 成人日韩欧美| 97超碰中文字幕| 91性高朝久久久久久久久| 毛片电影一区二区三区| 亚洲精品白丝| 日韩国产不卡在线视频| 久久9 9 9精品| 少妇熟女一区二区三区| 亚洲AV无码国产成人| 亚洲综合性网址| 亚洲黄片免费在线播放| 校园春色制服丝袜中文字亚洲| 怡红院亚洲怡春院av| 天天弄天天操| 欧美白嫩在线放| 老熟妇乱轮| 67914亚洲精品| 九九九999久久久网站| 人人插人人搞人人操| 加勒比av官网在线| 亚洲精品人妻在线| 一区二区国产视频在线观看| 不卡av在线中文字幕| 久久亚洲不卡一区二区三区| 欧美v日韩v亚洲v最新在线| 999在线电影香蕉| 阿姨一区二区免费视频-高清正片西瓜视频下载app-T450AV | 日本加靬比网站发布页| 亚洲高清视频在线免费观看| 东北女人av| 欧美v日韩v亚洲v最新在线| 中文字幕日韩综合| 69精品| 中文伊人大香蕉视频| 色五月AV| yirendaxiangjiashipin| V A在线| 91在线限制级| 九九热久久99精品re| 麻豆伊人网| 超碰在线观看av不卡| 久久婷婷欧美| 免费啪啪一级视频| 91痴汉| 婷婷综合激情| 青青在线视频日韩欧美| 久久这里都是精品| 中文字暮97| 99999精品| 欧美熟妇精品黑人巨大一二三区| 美日韩男女操屄视频| 91国产美女丝袜足交精品视频| 中文字幕,人妻,日韩| 欧美天堂第二区| 乱伦熟女区| 日韩情色一区二区| 亚洲色图20p| 无码高清国产AV| 日韩毛片9| 成功精品影院| 久久草草亚洲蜜桃臀| 1204金沙人妻懂旧版免费| 久久无码电影| 色妇综合网| 天天夜夜久久| 久久久久国产一区二| 草草草视频| 麻豆影音天美视频| 无码抄逼网| 欧美爱爱97| 小骚逼被操的爽不爽| 青青草丝袜在线视频| 国产传媒av天美传媒在线| 97视频在线观看高清资源| 家庭乱伦网站国产| 亚洲一区二区三区婷婷| 亚洲第一二区另类图| 日本一本道A级黄色毛片试看60分钟| 精品一级| 国产AV人人 夜夜人人澡| 91强奸乱轮| 亚洲欧美综合| 99re在线精品78| 大奶啊啊好爽 | 一级性爱aaaa| 人人人干干人人干| 日韩中文9| 国产高清1234区| 久久精品国产亚洲AV片多多| 中国人高清www色视频免费| 超碰1997| 色999人与兽| 天天色,天天干,天天干| 日韩超碰97| 校园春色欧美| 日韩欧美成人大香蕉| 一级啊性爱在线视频| 91免费看一区二区三区| 九九超碰综合网| 区一二区日韩亚洲乱码av电影| 717影院理论午夜伦八戒| 色哟哟 日韩精品| 欧美日韩妖精91com| 日韩激情视频| 成年女人一区| 日韩无码成人电影| 国产啊v在线免费播放| 九九九九精品九九九九| 干妹子| 久久久久元码视频| 色呦呦、国产精品| 26uuu国产| 亚洲一卡2卡3卡4卡乱码网站 | 久久激情四射婷婷丁香五月天| 91最新综合| 囯产精品一区二区三区线|亚洲人成无码网WWW动漫|国产精品免费一级... | 精品久操| 欧美91丝袜| 超碰99热中文字幕| 国产av高清版| 九月婷婷综合| 精品亚洲国产成人AV制服丝袜| 伊人黄色片| 91久久青青草原精品| 色老大| 色哟哟av| 欧美第二页午夜| 日韩精品人妻中文字幕久久久| 亚洲欧美校园另类春色| 婷婷综合| 国产日比| 综合色99| 被体育老师抱着c到高潮| 天天干干天天干干| 精品人妻1区| 亚洲日韩av专区无码| 东京热毛片177b2viP| 超碰久超碰久| 天躁夜夜躁2021| 中日韩久久久免费看| 怡红院亚洲怡春院av| 天天综合网日韩7799| 日韩欧美成人大香蕉| 天天影视射综合网| 怡红院怡春院| 九九九九88| 精品四五区| 日韩成人色图| 丝袜制服字幕在线| 操死我干死我| 性欧美体内射精| 免费看污网站| 在线视频一区二区传媒| av午夜玫瑰| 亚洲熟妇熟在线电影视频| 成人老鸭窝人人在线视频| 欧美香蕉视xxx| 激情图片亚洲色图| 国产精品久久久久久久久久久久久久久久久久| 手机不卡视频不卡在线一二三区| 97欧美精品综合| 干b在线性社区| 午夜精品久久久久久久99热影院| 精品国产72| 人妻熟妇久草在线| 亚洲图片欧美另类综合免费视频大大香| 亚洲精品黑丝| 欧美—性—交—色| 国产精品96久久久久久| 中文字幕一区二区视频在线观看| 亚洲中文字幕在线视频一区二区| 久久久国产av美女私房| 黄色片一区二区三区四区五区| 日韩人妻有码免费视频| 日本www操操操| 国内毛片免费h片在线| 天天做天天爽| 欧美专利1区2区3区4区5区免费| 成人综合网 欧美| 欧美论理片| 综合少妇网| 东北女人操逼| 国产在线激情视频| 久久久久国产一区二| 97操操| 99自拍B亚洲| 国产欧美后入| 欧美熟妇精品黑人巨大91| 97超碰碰| 亚洲蜜乳av| 99热91| 97天天综合网| 91色人| 久久91| 蜜乳AV一区| 最新欧洲欧美日本激情网站| 超碰在线974| 久艹99| 91肉丝| 国产操逼逼网| 97资源制服丝袜| 性爱欧美五月| 中国特猛少妇色xxx| 偷拍三区| 亚洲va综合va国产va中文| 久艹伊人精品综合在线| 一本色道久久综合亚洲二区三区| 九九九久久久| 亚洲成熟国产精品美女| 亚洲熟妇图片| 亚洲色棕合| 91视频精品| 女人爽到高潮潮喷18禁网站| 天堂国产AV| 久久精品国产99久久,亚洲日韩久久日本一区一区三区 | 啊啊啊啊啊,啊啊啊啊好舒服,操我舒服啊啊啊 | 久久黄黄黄| av一区二区三区四区| 99热网站| 欧美综合网1| 久久大黄片| 性色av婷婷久久一区二区点复制| 粘花网06av视频| 极品美女嘿咻| 国产特级毛片AAAAAA高潮流水 | 欧美极品少妇交| 茄子社区国产精品| 98人妻精品一区二区色欲| 制服乱伦| 夜夜 中文视频rt| 放黄片放3级黄片没穿衣服| 日韩激情中文字幕有码| 九九拍拍精品视频在线播放 | 久久精品一区| 97爱亚洲| 久久久婷婷婷| 男人天堂 天天射| 日韩免费av片高清无码| 五月天婷婷色| 老色鬼成人精品视频下载大在线观看| 日本成人免费一区二区三区| 五月婷婷综合在线| 精品欧美日韩在线观看| 国产又黄又爽又刺激久久久久久| 夜夜嗨AV一区天天| 亚洲综合色图欧美| 日韩一区二区高清在线观看的| 日韩av无码网站| 亚洲精品亚洲人成人网| 91女优在线观看| 色欲三区| 4141514逼喷水三级片| 啪啪啪亚欧美视频| 97在线精品| 久久久青草青青国产亚洲免观精品高清完整版_97久久综合区小说区图片区,国精品 | 试看福利| 草草草视频在线免费看| 天天摸,夜夜摸| 九九九999久久久网站| 国产吞精a级片激情电影| 91N综合网在线| 久久社区一区二区三区| 中文字幕久久精品一区| 国产精品久久久无码aV去| 最新一二三区视频| 91操熟女| 欧美嗯啊……在线观看视频免费| 亚洲 欧美 色图| 丁香五月婷婷色| 少妇精品| 伊人AAA| 超碰97COm中文| 调教熟妇 久久久久久| 精品人妻一区二区三区鲁大师| 久草五月| av天堂电影网| 啊啊啊 在线观看| 啪啪视频免费在线观看| 久久一二区四| 亚洲黄色视频在线观看视频| 日han少妇无码| 八戒无码国产午夜福利| 在线观看视频91| 九九久久一区二区伦理| 日韩中文字幕精品一二三事国产精品| 日韩丝袜二区| 国产久久天堂资源| 懂色综合久久久| 日本东京热久久久电影| 狠狠操一区二区| 国产女乱淫真高清免费视频| 超碰视97中文| 日韩一级片| 无码人妻1727| 亚洲综合在线高清| 人人操肉肉| 安微少妇操BBB| 天天日夜夜| 亚洲一区二区三区春色| 日日夜夜草草草| 国产精品久久成人免费| 青青五月天| 久久99国产综合精品女同| 91av一区二区在线观看| 屁股久久久久久久久| 成人在线日韩| 91国产操逼视频| 日韩中文字幕宗合在线| www.久久久久| 在线日韩精品一区二区三区| 欧美成人综合| 国产精品亚洲美女久久久久| 蜜臀久久99精品久久久久久无删减| 少妇被玩视频二三区| 东北丰满熟女国产一区 | 国产东北女人在线视频| 超碰97极品9| 天天干一区二区| 色官网色综合| 熟妇色99| 欧美少妇性乱| 天天综合精品| 草莓精品视频在线免费观看| 成人AV在线网站| 天堂日本亚洲欧美| 思思性爱| 国产成人亚洲精品无| 亚洲电影91| 人人人人人人少妇| 少妇一级婬片免费放一级a性色.| 91超碰在线观看| 欧美爆操91| 国产一区二区啪啪视频| 明星性猛交ⅹxxx乱大交| 色哟哟精品1精品2| 超碰在线免费一区二区三区| 欧美嫩性色| 国产家庭乱伦表演| 欧美丝袜亚洲| 麻豆人妻少妇在线免费观看| 国产97色在线| 国产一区二区三区白丝| 国产精品日日摸天天碰| 91精品国久久久久久无码| 婷婷色综合| 欧美日韩国产中文精品字幕自在自线| 97色亚洲| 久久久久96| 色诱avtt| 女优视频第10页| 日本一区二区三区四区免费观看| 久久久久久久精| 色天使AV天堂| 精品网站99999| 色97| 婷婷丁香五月激情啪啪| 久草视频观看视频在线| 欧美在线91| 欧美色老汉| 九九九九九九视频| 亚欧美天堂在线| 三级三级三级日本99| 亚洲精品中文字幕一区在线视频 | 操逼操逼逼操操逼91| 99久久国产精品免费高潮| 欧美性色欧美| 97国产伦理| 蜜臀久久在线视频| 久久久精久久久| 国产玖玖| 国产精品国产拍高清AV| 日韩欧美中文| 日韩中文字幕精品一区在线| 免费精品无码一级毛片牛牛影视 | 五月激情小说| 亚洲偷拍自拍在线视频| 中文字幕一区二区三区高清| 国产欧美在线观看免费观看| 老妇女91| 国产精品久久久亚洲第一牛牛_在线观看 | 啪啪AV导航| 日本人妻伦在线中文字幕| 日本精品一区二区三区四区的功能| 国产精品农村妇女精品| 老鸭窝日丰县女人| 日本精品久久久久久久| 欧美少妇高潮久久91| 啊啊啊在线观看免费视频| 久久久999网站| 欧美综合骚| 亚州情色j区| 蜜臀久久一区二区| 伊人五月天| 色色99| 亚洲国产第一页综合视频| 日本天天操| 免费视频无码| 亚洲人妻一区二区三区| 超碰人人妻| 欧美日韩高潮喷水91| 少妇二级| 超碰亚洲欧美日韩无| 美女露胸露屁股| 91丝袜美女| 极品少妇99| 97精品97| 欧美最大综合网| 欧美黑人日韩少妇色情| 超碰天天去日穴| 91欧美www| 欧洲精品一级二级精品综合视频综合 | 色婷婷综合久久久久中文一区二区| 国产13区| 亚洲激情天堂网| 日韩中文字幕宗合在线| 综合色久欲| 中文字幕激情小说| 97精品免费视频网站| 日韩无码极品| 婷婷av在线中文字幕| 国产对白刺激视频| 国产中文字幕曰本毛片| 激情色色| 97日本超碰综合| 亚洲欧美日韩有码| 亚洲色图自拍| 精品国产乱码久久久久久久| 日韩97在线| 亚洲无码 国产无码| 五月婷婷丁香六月丁香| 狠狠色噜噜狠狠狠狠狠色综合久久 | 欧美成人性爱视频大全| 日本三级日本三级99| 亚洲天堂区| 成人女人国产| 亚州欧美总和| 东京太热男人的天堂久久久| 日韩欧美日韩| 天天操人人操狠狠插| 丝袜美腿制服人妻二区中文字幕 | 无码最新| 日韩成人免费电影| 国产精品久久久久久久AV大片| 小视频国产| 大香蕉免费3| wwwcaobibi| 一品道视频一区二区三区| 曰本熟女视频| 91黄射| 毛片一区二区| 天美麻豆精品视频99| 绯色一区二区三区不卡少妇| 欧美伊人久久综合网| 欧美很很操视频| 肥臀熟女福利视频一区二区| 欧美熟女丝袜| 日韩射精| 亚洲蜜乳av| 天天操夜夜操| 日本精品性生活久久久| 四季av一区二区凹凸精品小说| 男人天堂电影院| 亚洲中文国际强奸字幕| www.91色综合| 国产免费久久精品99re韩国| 亚洲深夜福利| 日韩黄片视频试看| 激情丁香五月婷婷| 97精品97| 成人久久久| 粉嫩不卡一区二区性爱| 久视频在线观看| 中文字幕欧洲有码| 亚洲精品乱码线路中文字幕| 亚洲五月婷婷| 久久久久国产| 国内伊人久久久久久网站视频| 无码高清专| 97青娱乐超碰久久| 亚州综| 亚洲综合精品国产一区| 亚洲国产亚洲天堂| 91操熟女视频| 欧美Aⅴ| 性爱av在线免费观看| 五月天黄色激情视频| 国产日韩精品一区二区三区| 亚洲精品97久久中文字幕| 岛国福利在线精品播放| 一区二区日韩欧美久久| 成人天天爽| 欧美黑人猛交春色影视大全| 91成人18| 欧美99热| 日韩中文字幕宗合在线| 92性色国产午夜福利在线661| 成人日韩欧美| 蜜臀一二三区| 国产51色综合久久免费| 久久伊人网视频一区二区三区| 日韩97在线| 人人操人人狠狠操| 青青草公开在线免费不卡视频| 男人的天堂99| 思思热在线cao| 操逼内射干逼白丝91| 亚洲爽图| 人妻少妇精品一区二区三区| 大香蕉2017| 无码在线亚洲| 国产第二页| 色色网91| 久久欧洲| 欧美一区二区一级岛国大片| 欧美色偷拍| 女性91网站| 懂色AV一区二区三区| 欧美 亚洲精品首页| 99色热|