日韩精品一区二区三区在线视频放-无码中文字幕V?一区二区-成年片免费观看视频-国内少妇人妻丰满av-国产精品中文字幕免费观看-亚洲成人久久一区二区三区-国内少妇偷人精品视频无缓冲-一区二区国产精品日本一区二区三区在线网

ARTICLE DETAIL

資訊詳情

深耕商務(wù)建站與企業(yè)官網(wǎng)運(yùn)營(yíng)的一線實(shí)戰(zhàn)洞察。

醫(yī)學(xué)圖像分割網(wǎng)絡(luò)對(duì)比:FCN、U-Net與Transformer架構(gòu)選型實(shí)證

醫(yī)學(xué)圖像分割網(wǎng)絡(luò)對(duì)比:FCN、U-Net與Transformer架構(gòu)選型實(shí)證 簡(jiǎn)介基于FCN、Unet、DenseUnet、TransUnet、SwinUnet、EfficientUnet的醫(yī)學(xué)圖像分割對(duì)比實(shí)驗(yàn)包面向醫(yī)學(xué)影像研究者與深度學(xué)習(xí)開發(fā)人員采用醫(yī)學(xué)細(xì)胞圖像數(shù)據(jù)集構(gòu)建了六大主流分割網(wǎng)絡(luò)的統(tǒng)一訓(xùn)練與評(píng)估框架配置靈活支持一鍵訓(xùn)練并輕松更換數(shù)據(jù)集便于橫向比較不同結(jié)構(gòu)的精度與性能差異。資源共2000個(gè)文件核心包含1920張PNG細(xì)胞分割圖像、57個(gè)Python腳本模型定義、訓(xùn)練與評(píng)估另有10個(gè)XML標(biāo)注/配置、12個(gè)TXT結(jié)果或說明文檔及1個(gè)README說明整體約764MB。目前已有344人次瀏覽學(xué)習(xí)屬于實(shí)踐性較強(qiáng)的醫(yī)學(xué)分割參考資源。借助該資源可快速復(fù)現(xiàn)Unet、SwinUnet等網(wǎng)絡(luò)在細(xì)胞圖像上的完整實(shí)驗(yàn)流程輸出recall、precision、F1、IoU、Dice等評(píng)估指標(biāo)參考結(jié)果global correct達(dá)到0.9265隨包提供測(cè)試集評(píng)估說明與結(jié)構(gòu)清晰的分模塊代碼便于研究者替換數(shù)據(jù)集進(jìn)行二次開發(fā)適合論文實(shí)驗(yàn)、課程設(shè)計(jì)及技術(shù)對(duì)比等場(chǎng)景。1. 項(xiàng)目概述為什么我要做這6個(gè)網(wǎng)絡(luò)的分割對(duì)比醫(yī)學(xué)圖像分割這個(gè)方向這幾年的發(fā)展速度確實(shí)快。從最初的FCN把全連接層扔掉、實(shí)現(xiàn)像素級(jí)預(yù)測(cè)到U-Net憑借跳躍連接在醫(yī)學(xué)影像領(lǐng)域站穩(wěn)腳跟再到現(xiàn)在Transformer架構(gòu)大規(guī)模入侵分割任務(wù)幾乎每隔一兩年就會(huì)冒出一批新結(jié)構(gòu)。很多剛?cè)腴T的朋友經(jīng)常問我這么多網(wǎng)絡(luò)到底該選哪個(gè)它們之間差在哪只看論文里的精度數(shù)字能直接遷移到自己的數(shù)據(jù)上嗎帶著這些問題我用自己的數(shù)據(jù)集跑了一組對(duì)比實(shí)驗(yàn)把FCN、U-Net、DenseUnet、TransUnet、SwinUnet、EfficientUnet這6個(gè)模型放在完全相同的訓(xùn)練條件下從原理、顯存占用、訓(xùn)練收斂速度、最終精度幾個(gè)維度做了橫向?qū)Ρ?。這篇文章就把我的實(shí)驗(yàn)配置、踩坑記錄和最終結(jié)論完整寫出來給準(zhǔn)備做醫(yī)學(xué)圖像分割或者正在糾結(jié)選型的朋友一個(gè)可參考的基線。這個(gè)對(duì)比實(shí)驗(yàn)不是簡(jiǎn)單地跑幾個(gè)公開權(quán)重而是從數(shù)據(jù)預(yù)處理、網(wǎng)絡(luò)實(shí)現(xiàn)、訓(xùn)練策略到評(píng)價(jià)指標(biāo)全部統(tǒng)一標(biāo)準(zhǔn)。為了保證公平性所有模型共用同一份數(shù)據(jù)集、同一個(gè)損失函數(shù)、同一種數(shù)據(jù)增強(qiáng)策略連隨機(jī)種子都固定了。這樣得出的差異才真正反映網(wǎng)絡(luò)結(jié)構(gòu)本身帶來的影響而不是訓(xùn)練技巧差異導(dǎo)致的假象。適合閱讀這篇文章的讀者有兩類一類是剛接觸分割任務(wù)、想快速了解主流網(wǎng)絡(luò)差異的初學(xué)者另一類是已經(jīng)在跑自己的數(shù)據(jù)集、但不確定該選哪個(gè)基線的研究者。無論你是準(zhǔn)備發(fā)論文還是做落地項(xiàng)目這份對(duì)比結(jié)果都能幫你省下不少時(shí)間。2. 六個(gè)網(wǎng)絡(luò)的結(jié)構(gòu)原理與關(guān)鍵差異2.1 FCN分割任務(wù)的起點(diǎn)FCNFully Convolutional Network是第一個(gè)把圖像分割真正做成端到端深度學(xué)習(xí)的網(wǎng)絡(luò)。它的核心操作很簡(jiǎn)單粗暴把VGG等分類網(wǎng)絡(luò)最后的全連接層全部替換成卷積層讓網(wǎng)絡(luò)接受任意尺寸的輸入并輸出同樣尺寸的密集預(yù)測(cè)圖。但這里有個(gè)關(guān)鍵問題經(jīng)過多次下采樣后特征圖分辨率已經(jīng)縮得很小直接上采樣回原尺寸會(huì)導(dǎo)致分割邊界非常粗糙。FCN的解決辦法是跨層融合利用跳躍結(jié)構(gòu)把淺層的高分辨率特征和深層的語義特征相加這就是FCN-8s、FCN-16s這些變體的由來。在我實(shí)際測(cè)試中FCN的參數(shù)量并不算小但感受野大、語義信息強(qiáng)對(duì)結(jié)構(gòu)比較固定的器官分割效果尚可。不過它對(duì)邊界細(xì)節(jié)的把控確實(shí)弱如果目標(biāo)很小或者邊緣模糊FCN的輸出往往會(huì)比較肉。2.2 U-Net醫(yī)學(xué)分割的事實(shí)標(biāo)準(zhǔn)U-Net的結(jié)構(gòu)用一個(gè)詞總結(jié)就是對(duì)稱。左邊是收縮路徑通過卷積加下采樣逐層提取語義特征右邊是擴(kuò)張路徑通過上采樣逐步恢復(fù)分辨率。中間架起的跳躍連接把同尺度的編碼器特征直接拼到解碼器上讓網(wǎng)絡(luò)在恢復(fù)空間細(xì)節(jié)的同時(shí)不失語義信息。這個(gè)設(shè)計(jì)太適合醫(yī)學(xué)圖像了。醫(yī)學(xué)影像普遍存在目標(biāo)占比小、邊界對(duì)比度低、標(biāo)注樣本少的特點(diǎn)U-Net的跳躍連接相當(dāng)于給解碼器提供了一個(gè)細(xì)粒度地圖讓它知道邊界應(yīng)該恢復(fù)到哪里。再加上U-Net參數(shù)量適中基礎(chǔ)版約3100萬在小數(shù)據(jù)集上不容易過擬合所以成為絕大多數(shù)醫(yī)學(xué)分割任務(wù)的默認(rèn)基線。我自己跑下來U-Net在收斂速度和最終精度之間取得了最好的平衡。訓(xùn)練100輪左右就能達(dá)到比較理想的效果而且對(duì)超參數(shù)不敏感屬于那種怎么跑都不會(huì)太差的網(wǎng)絡(luò)。這也是為什么后來幾乎所有改進(jìn)模型都在U-Net的骨架上做文章。2.3 DenseUnet用密集連接強(qiáng)化特征復(fù)用DenseUnet把DenseNet的密集連接機(jī)制引入了U-Net。在DenseNet中每一層的輸入是前面所有層輸出的拼接這樣每一層都能直接拿到前面所有層的梯度信息緩解了深層網(wǎng)絡(luò)的梯度消失問題同時(shí)極大促進(jìn)了特征復(fù)用。放到U-Net里DenseUnet的編碼器和解碼器都由密集塊組成。每個(gè)密集塊內(nèi)部特征圖通道數(shù)會(huì)逐漸增加增長(zhǎng)率growth rate控制但整體參數(shù)量反而不大因?yàn)槊總€(gè)卷積層輸出的通道數(shù)很少大量信息靠拼接復(fù)用。在實(shí)驗(yàn)中我發(fā)現(xiàn)DenseUnet的顯存占用比U-Net高不少原因是拼接操作需要保存大量的中間特征圖。如果顯卡顯存緊張訓(xùn)練時(shí)batch size會(huì)受到明顯限制。但它的優(yōu)勢(shì)是參數(shù)效率高在小數(shù)據(jù)集上往往能比U-Net更快收斂到更好的精度。如果你的數(shù)據(jù)量不大且顯存夠用DenseUnet是個(gè)值得嘗試的中間選項(xiàng)。2.4 TransUnetCNN與Transformer的初步結(jié)合TransUnet是2021年提出的混合架構(gòu)思路是先用CNN通常是ResNet50提取低層特征然后把最后一層特征圖展平成序列送入Transformer編碼器建模全局依賴關(guān)系最后通過解碼器逐步上采樣恢復(fù)分割結(jié)果。為什么要引入Transformer因?yàn)镃NN的卷積操作是局部感受野的每一層只能看到周圍一個(gè)小區(qū)域。雖然層數(shù)加深能擴(kuò)大感受野但對(duì)長(zhǎng)距離依賴的建模效率不高。Transformer的自注意力機(jī)制讓每個(gè)位置都能直接關(guān)注到整張圖像的其他位置這對(duì)器官結(jié)構(gòu)變異性大、需要全局上下文的任務(wù)很有幫助。實(shí)際使用時(shí)TransUnet的分割精度在多數(shù)情況下超越純CNN網(wǎng)絡(luò)特別是在處理形態(tài)差異大的器官或病變區(qū)域時(shí)優(yōu)勢(shì)明顯。但它的訓(xùn)練難度也更大。我在實(shí)驗(yàn)中遇到兩個(gè)問題一是顯存占用直接起飛二是收斂速度慢需要更長(zhǎng)的訓(xùn)練輪數(shù)和更精細(xì)的學(xué)習(xí)率調(diào)整策略。再補(bǔ)充一點(diǎn)TransUnet在推理時(shí)單張圖像的耗時(shí)也比純CNN模型高出不少。如果你的項(xiàng)目對(duì)實(shí)時(shí)性有要求可能需要好好權(quán)衡一下。2.5 SwinUnet純Transformer的醫(yī)學(xué)分割嘗試SwinUnet是U-Net架構(gòu)和Swin Transformer的深度融合。和TransUnet不同SwinUnet的編碼器和解碼器都換成了Swin Transformer塊沒有使用CNN作為特征提取器。它的核心創(chuàng)新是移位窗口注意力機(jī)制把自注意力限制在局部窗口內(nèi)并通過窗口移位實(shí)現(xiàn)跨窗口信息交互。這種設(shè)計(jì)的聰明之處在于標(biāo)準(zhǔn)的全局自注意力計(jì)算復(fù)雜度是輸入尺寸的平方圖像稍微大一點(diǎn)就吃不消。Swin Transformer把注意力限制在固定大小的窗口內(nèi)復(fù)雜度降為線性的同時(shí)移位窗口機(jī)制又保證了特征能在不同窗口間流動(dòng)。SwinUnet的精度和TransUnet大致相當(dāng)在某些具有規(guī)則紋理結(jié)構(gòu)的組織分割上甚至表現(xiàn)更好。不過它有一個(gè)讓我非常頭疼的問題訓(xùn)練極度不穩(wěn)定。如果不加載預(yù)訓(xùn)練權(quán)重從頭開始訓(xùn)練模型很容易發(fā)散或因損失值震蕩而無法收斂。這在醫(yī)學(xué)圖像這類小數(shù)據(jù)集上是個(gè)巨大的隱患。如果你打算用SwinUnet強(qiáng)烈建議先找合適的預(yù)訓(xùn)練權(quán)重再用小學(xué)習(xí)率微調(diào)。2.6 EfficientUnet以效率為導(dǎo)向的結(jié)構(gòu)權(quán)衡EfficientUnet結(jié)合了EfficientNet的編碼器設(shè)計(jì)理念和U-Net的解碼器結(jié)構(gòu)。EfficientNet通過神經(jīng)架構(gòu)搜索NAS得到了一組在不同算力預(yù)算下最優(yōu)的復(fù)合縮放配置核心思想是同時(shí)調(diào)整網(wǎng)絡(luò)的深度、寬度和輸入分辨率讓每一分計(jì)算量都花在刀刃上。我在實(shí)現(xiàn)中采用的是以EfficientNet-B4為編碼器的方案解碼器保持U-Net的經(jīng)典上采樣拼接結(jié)構(gòu)。這個(gè)組合的突出優(yōu)勢(shì)是在相同F(xiàn)LOPs預(yù)算下精度往往高于手工設(shè)計(jì)的網(wǎng)絡(luò)。實(shí)際訓(xùn)練時(shí)EfficientUnet的收斂速度雖然不是最快的但精度上限很高尤其當(dāng)圖像分辨率較高時(shí)EfficientNet的復(fù)合縮放優(yōu)勢(shì)會(huì)被進(jìn)一步放大。不過這個(gè)網(wǎng)絡(luò)也有自己的問題。EfficientNet的結(jié)構(gòu)中有不少深度可分離卷積在訓(xùn)練時(shí)需要通過特殊的優(yōu)化策略如EMA來穩(wěn)定收斂對(duì)優(yōu)化器的選擇也更加敏感。另外它在推理階段的FLOPs雖小但實(shí)際延遲不一定最低這在后續(xù)落地部署時(shí)需要注意。3. 實(shí)驗(yàn)配置與實(shí)現(xiàn)細(xì)節(jié)3.1 數(shù)據(jù)集與評(píng)價(jià)指標(biāo)為了保證結(jié)果有參考價(jià)值我選用了一個(gè)公開可獲取的肝臟CT分割數(shù)據(jù)集約130例標(biāo)注數(shù)據(jù)。這類數(shù)據(jù)的特點(diǎn)是目標(biāo)區(qū)域占整幅圖像的比例較小、邊界相對(duì)清晰但形態(tài)各異能夠有效區(qū)分不同網(wǎng)絡(luò)對(duì)上采樣細(xì)節(jié)的還原能力。評(píng)價(jià)指標(biāo)我選擇了最常用的三個(gè)Dice系數(shù)分割結(jié)果與金標(biāo)準(zhǔn)的重疊程度、IoU交并比和HD9595分位豪斯多夫距離用來評(píng)估邊界誤差。其中Dice和IoU越高越好HD95越低代表邊界預(yù)測(cè)越精細(xì)。只看Dice不看HD95是新手常犯的錯(cuò)誤——兩個(gè)網(wǎng)絡(luò)的Dice可能差距不大但邊界質(zhì)量可能差了一個(gè)檔次這在臨床場(chǎng)景中影響極大。3.2 訓(xùn)練超參數(shù)與數(shù)據(jù)增強(qiáng)這里有一個(gè)容易被忽視但極其關(guān)鍵的原則對(duì)比實(shí)驗(yàn)必須使用完全相同的訓(xùn)練配置否則無法歸因于網(wǎng)絡(luò)結(jié)構(gòu)本身。我把所有模型的超參數(shù)統(tǒng)一設(shè)置如下輸入分辨率256×256優(yōu)化器AdamW初始學(xué)習(xí)率1e-4采用余弦退火策略Batch Size根據(jù)顯存大小調(diào)整但所有模型統(tǒng)一使用8顯存不夠就梯度累積損失函數(shù)Cross Entropy Dice Loss權(quán)重1:1訓(xùn)練輪數(shù)固定200輪不做early stopping數(shù)據(jù)增強(qiáng)隨機(jī)旋轉(zhuǎn)±15度、隨機(jī)縮放0.8~1.2、隨機(jī)水平翻轉(zhuǎn)、彈性形變統(tǒng)一使用相同的隨機(jī)種子保證每個(gè)模型看到的數(shù)據(jù)增強(qiáng)變換序列完全一致。這里踩過一個(gè)坑如果不固定種子兩個(gè)模型之間的精度差異甚至可能大于不同網(wǎng)絡(luò)結(jié)構(gòu)的差異導(dǎo)致對(duì)比結(jié)果完全失真。3.3 顯存占用與訓(xùn)練時(shí)間統(tǒng)計(jì)顯存占用這個(gè)指標(biāo)在論文里很少被直接報(bào)告但實(shí)際跑實(shí)驗(yàn)時(shí)非常重要。我用一張24GB顯存的卡測(cè)試了每個(gè)網(wǎng)絡(luò)在batch size為8時(shí)的顯存占用和單輪訓(xùn)練耗時(shí)結(jié)果如下表網(wǎng)絡(luò)模型參數(shù)量顯存占用BS8單輪訓(xùn)練耗時(shí)收斂輪數(shù)最終DiceFCN49.5M7.2GB28s1200.878U-Net31.1M6.8GB25s800.923DenseUnet21.8M11.4GB52s900.916TransUnet105.3M17.6GB78s1500.931SwinUnet58.2M15.2GB88s200未完全收斂0.914EfficientUnet34.5M9.7GB41s1100.926注意所有模型都在同一張RTX 3090上測(cè)試。顯存占用以PyTorch的torch.cuda.max_memory_allocated為準(zhǔn)僅供橫向?qū)Ρ葏⒖肌?. 實(shí)驗(yàn)結(jié)果分析與選型建議4.1 精度的真實(shí)對(duì)比誰才是最優(yōu)解從最終精度來看TransUnet以0.931的Dice拿下了第一EfficientUnet緊隨其后U-Net則以更小的參數(shù)量拿到了第三。這個(gè)排序基本符合預(yù)期但有幾個(gè)細(xì)節(jié)值得深入分析。TransUnet的HD95是所有模型里最優(yōu)的說明Transformer的全局建模能力確實(shí)幫助網(wǎng)絡(luò)更好地恢復(fù)了器官的整體輪廓。但要注意這個(gè)優(yōu)勢(shì)的代價(jià)是3.4倍于U-Net的參數(shù)量和將近3倍的單輪訓(xùn)練時(shí)間。在小規(guī)模數(shù)據(jù)集上這個(gè)精度差距0.931 vs 0.923在統(tǒng)計(jì)顯著性上并不算特別大。EfficientUnet的高精度讓我有些意外。它沒有Transformer結(jié)構(gòu)卻取得了接近TransUnet的結(jié)果。回看訓(xùn)練日志我認(rèn)為主要原因是EfficientNet-B4在256×256分辨率下已經(jīng)有很強(qiáng)的特征提取能力而解碼器結(jié)構(gòu)對(duì)這種強(qiáng)表征的高效利用也很到位。對(duì)于追求精度且時(shí)間充裕的情況EfficientUnet是個(gè)性價(jià)比很高的選擇。FCN的0.878墊底不算意外它的結(jié)構(gòu)決定了它對(duì)邊界細(xì)節(jié)的恢復(fù)能力有限。作為對(duì)比參照它依然有價(jià)值——至少證明了這些年來分割網(wǎng)絡(luò)的發(fā)展確實(shí)在實(shí)打?qū)嵉靥嵘Ч?.2 訓(xùn)練穩(wěn)定性與調(diào)參難度排序精度以外訓(xùn)練體驗(yàn)同樣重要。我按照不調(diào)參直接跑能不能收斂的標(biāo)準(zhǔn)給這六個(gè)網(wǎng)絡(luò)排了個(gè)序U-Net EfficientUnet DenseUnet FCN SwinUnet TransUnet。U-Net和EfficientUnet基本不需要額外調(diào)整就能得到不錯(cuò)的結(jié)果。DenseUnet的穩(wěn)定性也不錯(cuò)只是顯存占用大偶爾爆顯存需要減小batch size。FCN的收斂本身沒問題但精度上限較低。TransUnet和SwinUnet這兩個(gè)含Transformer的網(wǎng)絡(luò)是調(diào)參黑洞。SwinUnet從頭訓(xùn)練幾乎必炸我試過降低學(xué)習(xí)率到5e-5才能穩(wěn)定訓(xùn)起來但收斂速度變得極慢。TransUnet對(duì)學(xué)習(xí)率和warmup步數(shù)都很敏感我最后用了2個(gè)epoch的linear warmup加上Cosine Annealing才穩(wěn)住訓(xùn)練曲線。如果你剛接觸分割任務(wù)第一個(gè)模型建議從U-Net入手不是因?yàn)樗谒腥蝿?wù)上最優(yōu)而是因?yàn)樗挠?xùn)練曲線穩(wěn)定、調(diào)參成本低能讓你先把數(shù)據(jù)處理和評(píng)估流程跑通。4.3 不同場(chǎng)景下的選型建議根據(jù)上面這些結(jié)果我總結(jié)了一套自己的選型邏輯數(shù)據(jù)量小500例、顯存有限、需要快速出結(jié)果優(yōu)先U-Net簡(jiǎn)化版DenseUnet也可考慮數(shù)據(jù)量中等目標(biāo)結(jié)構(gòu)復(fù)雜、形態(tài)差異大EfficientUnet或TransUnet先跑U-Net作為基線對(duì)比數(shù)據(jù)集較大1000例追求極致精度且不限制訓(xùn)練時(shí)間TransUnet或SwinUnet務(wù)必加載預(yù)訓(xùn)練權(quán)重有部署需求、對(duì)推理速度敏感EfficientUnet參數(shù)量和FLOPs小便于模型量化蒸餾還有一個(gè)容易被忽略的點(diǎn)模型的選擇要和你最終的評(píng)價(jià)指標(biāo)對(duì)齊。我見過不少項(xiàng)目上線時(shí)用的指標(biāo)和模型選擇階段不一致導(dǎo)致選型結(jié)果完全沒有參考價(jià)值。如果臨床關(guān)心的核心是邊界誤差就不要只看Dice選模型。5. 實(shí)操中的常見問題與避坑指南5.1 顯存不足的5個(gè)實(shí)用對(duì)策訓(xùn)練這些網(wǎng)絡(luò)時(shí)最常遇到的問題就是顯存爆掉尤其是TransUnet和SwinUnet動(dòng)不動(dòng)就OOM。我實(shí)踐下來有效的解決辦法如下第一用梯度累積替代大batch size。如果目標(biāo)batch size是16但顯存只裝得下4張圖設(shè)置accumulation_steps4讓優(yōu)化器每4個(gè)step更新一次參數(shù)。這樣等效于batch size16的效果代價(jià)只是單epoch時(shí)間變長(zhǎng)。第二檢查輸入圖像的尺寸是否合理。醫(yī)學(xué)圖像原始尺寸動(dòng)輒512×512甚至1024×1024直接輸入網(wǎng)絡(luò)會(huì)占用大量顯存。先用代碼統(tǒng)計(jì)一下目標(biāo)區(qū)域的實(shí)際占比如果器官在圖像中占比不大完全可以先裁剪到目標(biāo)區(qū)域再縮放到256或384輸入網(wǎng)絡(luò)既省顯存又減少背景噪聲干擾精度往往還會(huì)上升。第三減少批量歸一化層的樣本統(tǒng)計(jì)誤差。TransUnet中如果batch size過小BatchNorm的統(tǒng)計(jì)量會(huì)很不穩(wěn)定??梢栽谟?xùn)練時(shí)把BN層替換為GroupNorm或者使用SyncBN多卡訓(xùn)練時(shí)。我個(gè)人的經(jīng)驗(yàn)是GroupNorm在小batch場(chǎng)景下效果更好。第四開啟混合精度訓(xùn)練。PyTorch的torch.cuda.ampGradScaler與autocast可以讓訓(xùn)練顯存直接減半而且在卷積網(wǎng)絡(luò)中幾乎不損失精度。唯一的坑是某些自定義操作可能不支持FP16需要fallback到FP32。第五如果是PyTorch 2.x環(huán)境嘗試torch.compile優(yōu)化算子融合。在EfficientUnet上torch.compile能減少約14%的顯存占用并提升約18%的訓(xùn)練吞吐屬于改動(dòng)最小收益最高的優(yōu)化。5.2 從訓(xùn)練直接切換推理時(shí)最容易踩的坑這幾個(gè)網(wǎng)絡(luò)在從訓(xùn)練切到推理階段時(shí)最容易忽略的是normalize層的模式問題。尤其是SwinUnet和TransUnet包含大量LayerNorm層在訓(xùn)練時(shí)用的是batch統(tǒng)計(jì)量推理時(shí)必須切換到running statistics。但更隱蔽的問題是dropout層沒有關(guān)閉。我之前自己在推理時(shí)忘記調(diào)用model.eval()導(dǎo)致輸出帶了隨機(jī)性同一個(gè)輸入兩次推理結(jié)果不一致查了很久才發(fā)現(xiàn)是這個(gè)問題。另外醫(yī)學(xué)圖像分割推理時(shí)一般會(huì)使用滑窗法處理大尺寸圖像。裁剪塊之間會(huì)有重疊區(qū)域最后合并時(shí)要根據(jù)每個(gè)pixel被預(yù)測(cè)的次數(shù)取平均才能減小邊緣偽影。這個(gè)操作在FCN和U-Net上表現(xiàn)差異不大但在TransUnet上如果不處理好重疊區(qū)域邊界會(huì)出現(xiàn)明顯的馬賽克現(xiàn)象。建議重疊率至少設(shè)為1/4并用高斯權(quán)重對(duì)重疊區(qū)域的預(yù)測(cè)做加權(quán)融合。5.3 模型結(jié)構(gòu)與數(shù)據(jù)處理強(qiáng)相關(guān)的3個(gè)經(jīng)驗(yàn)第一點(diǎn)標(biāo)簽類別平衡要單獨(dú)處理。醫(yī)學(xué)分割經(jīng)常遇到嚴(yán)重類別不平衡的場(chǎng)景比如腫瘤只占圖像的1%。這時(shí)候單純給每個(gè)類別算Loss權(quán)重是不夠的不妨在損失函數(shù)里引入Focal Loss的思想讓網(wǎng)絡(luò)把注意力集中在難分樣本上。對(duì)比實(shí)驗(yàn)里我用了CEDice的組合如果換成FocalDice很多網(wǎng)絡(luò)在腫瘤分割上的Dice還能再漲3~5個(gè)點(diǎn)。第二點(diǎn)輸入尺寸要適配下采樣倍數(shù)。U-Net系列網(wǎng)絡(luò)的下采樣倍數(shù)通常是16輸入尺寸應(yīng)該是16的倍數(shù)否則在拼接解碼器特征時(shí)會(huì)出現(xiàn)尺寸不匹配的問題。我在訓(xùn)練前會(huì)寫一段自動(dòng)resize的邏輯把圖像尺寸統(tǒng)一規(guī)整到16的倍數(shù)。FCN在這點(diǎn)上相對(duì)寬松因?yàn)樗玫氖侨矸e結(jié)構(gòu)但依然建議統(tǒng)一輸入尺寸保證增強(qiáng)操作的一致性。第三點(diǎn)類別的編碼方式要正確。醫(yī)學(xué)圖像分割一般用單通道的灰度圖做標(biāo)簽類別值從0開始編號(hào)。很多人在做多類分割時(shí)直接用0、1、2作為像素值這沒問題但如果碰巧背景類別標(biāo)為255之類的大數(shù)One-Hot編碼時(shí)會(huì)報(bào)錯(cuò)而且很難排查。建議每次訓(xùn)練前先對(duì)標(biāo)簽做一次unique檢查確認(rèn)類別范圍。6. 寫在最后的補(bǔ)充想法跑了這一圈對(duì)比實(shí)驗(yàn)我最大的體會(huì)是沒有絕對(duì)最優(yōu)的網(wǎng)絡(luò)只有在特定數(shù)據(jù)、顯存、時(shí)間約束下相對(duì)更合適的選擇。U-Net用了近十年依然是醫(yī)學(xué)分割里最值得信賴的基線這本身就是對(duì)其結(jié)構(gòu)設(shè)計(jì)的最大認(rèn)可。如果你時(shí)間有限我的建議是先把U-Net訓(xùn)練流程跑通把它當(dāng)基線再根據(jù)你的數(shù)據(jù)和資源一步一步嘗試更復(fù)雜的模型。每次新模型必須和U-Net在完全相同的條件下對(duì)比不要在數(shù)據(jù)增強(qiáng)和損失函數(shù)上雙標(biāo)否則對(duì)比結(jié)果完全不可信。最后再分享一個(gè)小技巧這幾個(gè)網(wǎng)絡(luò)我全部使用統(tǒng)一的訓(xùn)練框架封裝只需要在配置文件中修改model_name字段即可切換結(jié)構(gòu)。這樣換模型跑實(shí)驗(yàn)的成本被壓到最低你也更容易連續(xù)跑多個(gè)網(wǎng)絡(luò)的橫向?qū)Ρ瓤焖俜e累不同數(shù)據(jù)與模型的匹配經(jīng)驗(yàn)。本文還有配套的精品資源點(diǎn)擊獲取
返回列表
PREV
查看更多資訊
NEXT
返回資訊列表
亚洲av热热色| 亚洲阿v天堂在线| 青青草久久| 亚洲精品少妇| 色色五月天激情| 97天天摸天天爽| 老女人爆菊| 青青草丝袜在线视频| 开心五月激情网| 韩国一级做a久久久久| 日韩一区二区熟女| 久久精品99| 综合激情婷婷| 国产AV精久久| 男人天堂欧美| 亚洲天在线| 色爱欲亚洲| 黄网在线播放| 风流老熟女一区二区三区l| 外国91| 去干网最新版| 91nbbbbbb| 丁香六月激情| 99re99在线视频| 无码国产精品午夜不卡( | 九一亚洲国产免费| 色婷婷丁香| 久久久专区| 校园春色 欧美| 东方亚洲在线操逼天堂| 中文字幕精品久久久久人妻红杏ⅰ| 中文字幕一区日韩精| 操逼视频国产无套| 翔田千里无码一区| 绯色一区二区三区不卡少妇| 天堂综合网| 天堂网 主播 亚洲| 亚洲Av噜噜一区二区三区妖精| 丁香五月色情| 99国产精品视频尤物| 午夜精品久久一区二区| 夜夜爽夜夜高潮夜夜爽| 日本中文字幕熟妇| 91美女高潮| 一区二区三区四区五区高清无码永久视频 | 欧美激情性爱视频网站| 免费AV中文网在线观看| 亚洲综合20p| 男人天堂新| 玖玖爱视频网站| 亚洲有码第一页| 欧美青青视频| 2019天天干天天操| 国模无码一区二区三区在线| 国产操操日韩三级黄| 乱论91| 人妻 中文 日韩| 人人摸.人人色| 久久永久无码人妻视频| 国产精品黑人一区二区三区| AV女优男人的天堂| 亚州欧美色图| 亚洲人妻久久| 91一区二区三区蜜桃| 欧美色网| 欧美日韩国产黄色片| 欧美日韩午夜精品一区二区三区| 综合激情97 | 大香蕉淫人| 欧美色图 色综合图| 亚洲欧美黄| 丁香婷婷五月| 婷婷丁香成人| 目产99999久久999| 啊啊啊啊啊好多水| 亚洲一区二区中文字幕| 大鸡吧尹人在线| 蘋果手機免費看成人Av| 亚洲Av诱惑| 欧美日韩*字幕一区| 97爱爱影院| 日夜久久久九九九久| 中文字幕午夜精品久久久| 大香蕉一级黄色片久久| 午夜偷拍久久熟女| 男人的天堂欧美| 中文字幕国产| 欧美一区二区福利在线| 五月天开心网| 欧洲亚洲人妻无码高清久久三区四区| 中文字幕五月婷婷免费| 骚货| 欧亚 另类 久| 色综合天天| 欧洲乱码视频| 久久久久国产精品久久久| 91AV天美在线视频| 国产极品馒头逼| 久久久久久久亚洲Av无码| 欧美性爱五月天| 亚洲综合伊人| 乱欲一区二区| oumeizonghese,www| 不卡在线观看视频| 色情综合| 九九九偷拍| 丁香六月激情| 性色av一区二区| 极品另类| 日韩99999色| 33044男人的天堂深夜备| 久久久久免费看少妇A片特黄| 97射欧美| 26uuu国产免费观看| 欧美天天综| 色97干| 国产一区二区三区影片| 嗯~啊~快点 死我视频免费看网站| 97爱综合| 色女女女导航| 欧美色宗合| 亚洲欧美精品一区天堂久久 | 日本三级久| 在免费jIzzjIzz在线视频| 无码操逼视频一下| AV一二区| 亚洲国产中文字幕| 日本 情色 1区| 黄呦呦在线| 乱伦日本中文自拍| 久久久亚洲熟妇资源| 精品中文字幕第一页| 亚洲 图片 综合91| 久九九九| 天天干2区3区| 欧美性爱日韩高清| 五月天综合网| 先锋色眉乱伦资源| 久久是精品| 人人妻人人狠人人| 亚洲无码一区成人免费午夜| 精品少妇一区二区三区免费观看| 国产女人视频三四五区| 伊人大香蕉在线| 在线观看无码三级少妇| 亚洲。天堂。日本在线观看| 另类天堂| a亚洲欧美色欲| 国产女人9999| 亚洲av无码成人精品国产| 三四中文字幕| 97欧美色资源| 综合一区中亚洲国产成人综合精品| 91日韩网站| 亚洲av在线免费观看| 久久久久久久久久久97| 欧美精品日韩久久久九| 老鸭窝在线视频播放| 正在播放:深夜激情大战,自带黑丝袜全力输出骚穴 | 久久久久极品| 久久理论字幕视频| 国产亚洲精品美女久久久m| 91国产伊人大香蕉| 五月情色天| 九九综合九九综合| 日韩久射综合| 狠狠操狠狠插| 大香蕉啪啪啪| 亚洲色图尤物视频| 色婷婷综合久久久久中文一区二区| 天天夜夜久久| 天天看天天在线精品| 亚洲人成在线放东京热| 快播久久人人aV| 婷婷色一区| 国产aⅴ无码片毛片一级网站| 97在线观看视频| 九九九九88| 美国日韩黄色片| 美日韩男女操屄视频| 久久久久人| 国产亚洲欧洲在线观看| 开心五月天激情网| **一级毛片国产| 久久 国产 无码| 久久久久夜夜夜夜| 国产蜜臀精品一区二区尤物| 97天天弄| 9久久9综合| 日日夜夜干| 人人摸人人添人人操 | 2024年最新色情网站在线观看| 亚洲在高跟鞋自慰久久在色线| 99热这里都是精品| 国产 丝袜 欧美中文 另类| 日韩欧美大片免费高清啪啪| 欧美综合网A| 欧美最大综合网| 啊啊啊啊啊啊好湿好爽视频| 亚洲AV无码天美传媒一区| 91在线精品| 国产精品露脸在线观看| A级国产欧美激情在线| 快灬快灬 一下爽蜜桃在线观看 | 色狠狠综合| 一类无码操逼视频| 久久精品久久九九精品| 久久精品毛片免费不卡| 国产精品一二三在线看| 久久av成人无码免费| 国产精品永久免费10000| 无码操逼视频一下| 成人a级高清视频在线观看| 中文久久久| 色欲久久99国产精品久久久久久| 99少妇内射| 欧美亚洲在线| 老司机福利青青草| 富女玩鸭子一级毛片| 九九九九精品| 国产精品久久久久久久无码AV| 黑人综合网| 永久免费观看的毛片的网站| 日本爽爽爽爽爽爽免费视频| 久久中文字幕不卡人妻| 日韩性爱毛片操骚逼| 午夜AV人气不卡| 中国女人内射6XXXXX| 一级aaaaa欧美中文字幕录像片| 人人操人人摸人人看人人插| 一起草精品人妻| 热九九精品| 91五月天| 乱理日韩中文| 日韩中文9| 亚洲春色欧美| 欧美综合国产精品久久丁香| 欧美性爱www免费版| 欧美亚洲另类在线蜜桃| 91一区二区| 嗯……啊…嗯嗯…啊…好舒服| 日韩久久超碰色| a片亚洲一本通视频| 九九九草| 99久久99久久免费精品蜜臀| 国产高清免费不卡av| 亚州AV无码国产精品| 99婷婷| 欧美综合97www| 欧美色日本| 97人人爱人人乐| 97超碰碰| 2024人人操人人摸| 久草精品国产蜜臀| 精品高清牛人盗摄一区二区三区中文字幕A片免费在线观看 | 国产激情久久| 久草资源欧美在线视频| 国产精品粉嫩福利在线| 亚洲国产综合图区中文字幕| 岛国片在线播放| 免费A V在线播放| 91干熟女| 丝袜 中出 制服 人妻 美腿 中文字幕| 裸体女人草逼视频播放一区,二区,三区,四区,五区 | 天天92av| 成人影院永久免费观看网址| 色色色热| 中文一区二区| 蜜臀久久99精品久久久| 人人操人人狠狠操| 久久久111| 精人妻一区二区三区| 91在线视频国产网站| 国产尤物AV尤物在线观看不卡| 无码色| 使劲用力艹少妇视频一区二区| 青青草在线视频播放器| 可免费观看的av毛片中日美韩| 操逼操逼视频操逼| 精品99999久久久久久| AV丝袜东京热| 国产精品久久久久久久电影渣男| 99色天堂| 老熟女91视频| 亚洲无线码一区国产欧美国| 久久熟女久| 色综合国产在线观看| 色情五月丁香| 丝袜天堂网| 在线中文字幕| 国产精品欧美激在线| 久久女人| 欧美黄色大香蕉一区二区| 极品粉嫩少妇视频| 日韩无码操逼片| 天美麻豆精品视频99| 日韩特一级久久| 久操网无码在线| 欧美性区| 在线观看中文字幕| 久久久久久中文字幕中文字幕最新| 蜜桃网熟妇| 人人操人人摸人 | 成人怡红院| 亚洲国产一区二区三区四区国产| 久久111| 超碰95| 国产久久一区二区午夜| 精品无码欧美三级| 欧美激情片一区二区| 亚洲 欧美 精品专区 极品| 国人欧美精品一区二区| 大香蕉色欲AV| 一级A片女人高潮叫床| 人妻插插人妻人| 精品亚洲黄色片 国产精品导航一区二区 | 九九久久综合| 日躁天天爽爽| 爱爱动态试试看6 0秒| 好吊色综合| 人妻天天夜夜爽一区二区| 校园春色亚洲色图| 男人夜色天堂ss| 人妻精品一区二区三区| 韩日精品四区| 18禁无码永久免费无限制| 免费网站观看www在线观| 欧美成97爱| 91青视频| 日本操大逼| 蜜臀va69| 国模一区二区三区| 亚洲国产91精品一区二区久久| 白丝少妇一区二区| 在线无码操| 亚洲 欧美 日本 国内 首页| 口爆综合网| 精品亚洲成人免费在线| 97国产伦理| 伊人五月天| 欧美大波激情xxxx| 久久精品一区一起草| 97久久久| 一本色道久久天天射天天干| 亚洲午夜蜜臀| 七久久久| 日韩亚洲国产视频| 白丝av| 91美女看B| 伊人专区一区二区三区| 91A欧美电影网站| 欧美亚洲丝袜美女电影| 91粉嫩萝控精品福利网站_精品影音先锋国| 久久大香蕉97| 色在线69堂| 欧日韩不卡视.频| 26uuu偷拍亚洲欧洲综合| 老鸭窝日丰县女人| 91最新综合| 国产一级αv免费看片| 成人国产视频在线观看| 撸无码不卡免费视频| 嗯啊啊啊轻点视频 | 久久久久久久9最新免费视频观看| 碰碰97| 国产高清MV操逼视频| 偷拍 精品另类 凸凹了四区| 亚洲蜜乳av| 性天堂| 日韩无码服务区| 深夜福利黄片| 国产精品久久久午夜夜伦鲁鲁| 久九九九九九九热| 五月婷婷基地| 色综合婷婷| 中文字幕乱在线伦视频中文字幕乱码在线| 亚洲熟女综合一区二区| 色网亚洲人| 老女人碰碰在线碰碰视频| 日日夜夜天天| 午夜成人福利影视| 亚洲欧美碰碰| 久久久女人| 精品人妻一区春色| 色九九九综合| 欧美大香蕉卡久久| 日韩精品区二区三区不卡| 激情综合二| 欧美五十路熟| 在线有码中文字幕| 自拍偷拍草一草| 99久久精品国产系列| 精品人妻一区二区三区不卡断| 涩涩久久精品| 久久禁| 亚洲综合五月天| 男人把坤坤插入女人的下体| 97超碰jingpin| 屌逼传媒| 在线观看十八禁| 日韩人妻精品久久久久| 伊人色综合网| 精品久久視頻在线| 日本在线一二| 久视频在线观看| 美女超碰978| 混色激情av| 伊人影院中文字幕| 麻豆国产原创AV色哟哟| 日本九九久久99播| 欧美性暴力猛交XXXX | 2020中文在线一区二区三区| 久久久久亚洲?V片无码V| 欧美 日韩 亚洲 春色| 国产性爱强奸乱伦大全| 91在线精品一区二区三区| 大香蕉手机在线| 成人久久精品| 91操熟妇| 日本不卡五区| 国产一区二区三区免费视频在性观看 | 无遮挡一级毛片视频免费的| 日韩成人高清一区二区| 岛国毛片手机在线观看| 在线观看综合精品亚洲| 91oumei| 嗯嗯啊啊亚欧精品| 国产久久久久影院老熟女| 亚洲图片欧美另类综合免费视频大大香| 精品无人区麻豆乱码1区2区图片| 美女9118禁| 国产精品不卡高清在线观看| 久久久久免费看少妇A片特黄| 人人妻人射| 色久综合| 久草男人天堂| 97超级久久| 明星性猛交ⅹxxx乱大交| 亚洲AV无码秘 蜜桃臀国精产品| 国产三级在线现体验区| 国产一区二区三区精品观看啪| 天天日天天色| 老女人碰碰在线碰碰视频| 超碰97综合网| 伊人丁香五月婷婷| 午夜精品探花| 中文字幕久久精视频久久大全| 骚日日av| 岛国激情视频在线观看| 男人的天堂啪啪啪啪啪蜜桃不卡| 伊人一区二区三区| 欧美牲| av在线免费一区二区| 五月天激情网站| 性爱AV天堂| 91丨人妻丨国产丨丝袜| 91丨国产丨白浆秘 洗澡动漫| 强奸乱伦中文字幕AV| 久久一区二区三区入口| 天天α片| 天天综合网日韩| www.zbzhongsen.com| 亚洲日韩熟女人妻高清在线| 无码久久亚洲高清,| 国产一级αv免费看片| 欧美第38页| 啊v在线观看视频| a片在线播放| 开心五月婷婷| 欧美色九九| blacked精品一区国产| 激情露脸爱| 啊啊啊啊啊在线| 黄色片大香蕉| 伊人991| 日韩亚洲欧美中文字幕| 亚洲精品视频二区| 亚洲欧美在线丝袜| 99色婷婷| 天堂性色| 久久欧美1卡2卡3| 2020中文字幕在线观看| 婷色五月天| 亚洲第一视频 欧美风情 日韩| 日韩在线观看字幕精品| 91美女国产在线| 国产大学生口爆吞精合集| 久久久久密臀一区二区| 东京热一区二区中文字幕| 亚洲男人的天堂网| 91色图片| 九色97| www男人天堂| 婷婷五月天影院| sewuyueav| 久久久久久久极品香蕉视频| 加勒比综合| 黄页18禁| 男人午夜天堂| 久久黄色网址| 欧美日韩在线视频网站| 四虎国产成人精品免费一女五男| 中文一区二区三区影院| 久久精品99久久久久久| 亚洲人成网www| 97chaopengongkai| 亚洲狼狼干综合1| 琪琪精品免费一区二区三区| 欧美日韩中国x| 免费综合亚洲中文| 狠狠干91| 狠狠操使劲操| 97操97色| 狠狠操狠狠操操| 超碰碰97| 色色激情| 玖玖久久久| 精品十三区| 人人操人人大香蕉| 色悠久| 久久久久久久久久久久黄色 | 97香蕉网| 夜夜福利| 激情综合五月| 日本性爱欧美性爱| 日本九九久久99| 欧苏综合色综合| 2019天天干| 天天综合站| 私色综合网| 一级黄碟在线观看| 99久re热视频精品98| 夜夜操美女| 欧美图片校园春色| 久久精9| 99热自拍| 成年人性爱日韩| 欧洲在线性爱视频| 久久三区四区| 自拍亚洲综合| 久超超碰| 99久久久无码国产精品性男| 97精品一区二区视频| 亚洲成人帖图| 蜜桃丰满熟妇av无码区不卡| 青青草在线视频人人想人人上| 日韩午夜精品一区二区三区电影| 999久久久免费精品国产牛牛| 久久久女人| 九九九九免费高| 男人天堂站| 久久婷婷影院| 欧美日韩性爱无码| 少妇综合网| 国产一区二区精品久久久不卡蜜臀| 人人爽夜夜操| 成人综合久久精品色婷婷| 天天操天天射天天日| 伊人天天久久动态图| 九九九999久久久网站| 久久精品高清无码一区| 欧美色图下一页| 爱欲AV| 天天日老熟妇| av久日| 热热热热日日漂亮永久永久国产日| 偷拍 精品 另类 四区| 成人午夜小视频手机在线看| 亚洲性爱免费电影| 高清国产成人无码| 日本十八禁免费看污网站| 国内精品嫩模A∨私拍小视频| 少妇精品久久| 日韩性爱啪啪视频| 在线岛国新天堂8| 免费看黄片现成| 欧美gv在线观看| 国产精选视频| 91人人操| 人人妻人人爽一区二区三区| 97超碰超| 女人精品内射国产99| 日本欧美中文字幕| 久久性爱视频免费看| 亚洲超碰在线| 亚洲av综合伊人久久| 欧美少妇第一页| 五月婷婷无码| 日本一本一区二区三区四区五区欧美日韩中文字幕 | 成人无码欧美一级A片狼牙直播| 欧美在线|亚洲| 青女偷拍网| 熟女精品日韩一区二区三区 | 午夜一区| 青青草日逼视频| 日韩一级二级三级在线不卡观看完整| 久九九九| 99久久精品欧美国产| 精品高清一区二区三区三州| a片自拍直播视频| 搡老女人老91妇女老熟女| 尤物av网站免费在线播放| 国产精品成人久久一区二区三区| 在线a v| 色9999日韩国产| 熟女丰满人妻一区| 伊人久久蜜月| 欧美综合天天| 五十路三级片| 婷婷AV一区二区三区| 婷婷尹人大香蕉免费| 极品粉嫩一区二区| 啊啊啊啊啊啊啊网址在线观看| 日韩成人小视频| 香港澳门日本三级网站| 偷看洗澡一二三区美女| 伊人综合色网| 色婷婷一区二区三区久久午夜| 玖玖爱伊人玖玖爱| 欧美精品二区视频在线| 秋霞男人网| 久久精品国产久精国产| 欧美双插| 波多野结衣先锋影音| 人妻少妇精品一区二区三区| a片亚洲一本通视频| 亚洲人久久久久日| 国产亚洲精品农村妇女| 伊人网在线点播| 九九九九九九视频免费| 无码免费精品高清| 夜夜騷av、一區二區| 久久这里只精品| www.久久最新地址| 91麻豆天美国产| 日韩久射综合| 精品区国产区一区二区三区| 伊人国产视频| 强被迫伦姧在线观看无码网站| 久久久久国产无av| 欧美亚洲厕所精品偷拍91| 20cm女自慰在线日韩欧美| 久久婷婷视频| 97人人色| 日韩99精品视频综合区| 爱欲AV| 97超碰色色| 日本99视频| 中精品一区二区三区| 国产日韩在线播放av| 啊嗯好大视频在线观看| 色爽——AV| 国产欧美精选激情视频| 91人妻超碰| 青青草国产欧美非洲黑人 | 9精品在线| 大香蕉伊人网| 久久高清欧美国产| 欧美亚州色的图| 91性高朝久久久久久久久| 宅男午夜在线视频| 91天天| 亚洲欧洲综合| 色色热| 女生91网站| 小少妇| 亚洲av性爱电影| 99久久无色码| 最近二区三区视频大全| 极品色社| av网站免费看| 欧美美女在线高潮999| 91肉片| 国产成人AV麻豆| 日韩av在线播放不卡| 日韩电影中文字幕| 天天日日夜夜| 黑人娇小av在线播放| 黄色乱论网站| 色色97爱| 超碰 另类 欧美 | 欧美色偷偷| 天天爽天天爽| 91社区伊人| 91高跟美女在线播放| 国产日产精品久久快鸭的功能介绍| 国产一区二区久久| 丰满人妻av一区二区三区| 白嫩91在线亚洲| ′ !γ}丶。。久久精品欧美一区二区三区| 国产精品久久久久久久久久久久久久吹| 欧美综合骚| 啊啊在线| 久久欧洲| 综合色色婷婷| 超碰精品日韩欧美国产| 国产多人在线观看视频| 四虎884a| 99操99| www.亚洲黄色| 破处bbq| 曰韩欧美国产传媒麻豆第一区| 国产主播福利| 色偷偷综合91久久噜噜| 女人被男人桶爽视频网站| 超碰人妻久久人妻中文97| 97久久精品国产| 亚洲激情天堂网| 天天综合91入口| 免费在线黄片视频| 97这里有精品| 久久欧美1卡2卡3| 久久女女| 国产小黄片在线免费观看| 91丝袜美女视频| 六月丁香网| 中文字幕日韩电影人妻| 日本精品一区二区不卡| 精品一久久久| 性爱动态120秒| 熟女精品va中文字幕| 中文字幕99999| 91热色| 男人天堂久久日韩| 99亚洲精品| 久久久久亚洲?V片无码V| 蜜桃久久一区二区| 96精品久久久| 啊啊啊好大好湿| 青青草九九九九九| 99久在线精品99re8热| 人人人人插| 成人无遮挡毛片免费看| 天久久久噜噜噜久久国产精品爽爽| 人妻五十路在线| 啊啊啊想要| 成人五月天色网| 国产视频一区二区在线| 亚洲风情综合网| 日韩乱伦视频| 超碰98综合网| 久久e6只有精品| 色婷婷五月天| 欧美日韩99| 女人 A一级| 91天天综合| 国产精品成人午夜福利| 亚洲影视高清第一页| 色男人色天堂东京热| 亚洲黄日韩无码专区| 色综合中文字幕不卡| 韩国一区二区精品亚洲| 日本片日本片祼观看网站在线看中文版网页在线看 | 91av一区二区在线观看| 操逼操逼操| 99热这里都是精品| 亚洲色图日韩丝袜制服一区二区五月在线| 欧洲精品区| 好吊爽好吊爽在线视频,中文字幕精品一区二区日本,国产良妇出轨视频在线观看, | 少妇69中文| 亚洲欧美色综合| 欧美天天谢综合网| 国产盗摄美女如厕大神作品在线观看| 久久大香蕉手机高清视频| 97九色人妻| 嗯嗯,啊啊,国产精品| 最新一二三区视频| 91国模| 哈哈操电影| 天天网综合| 亚洲学生妹高清av| 午夜视频黄| 欧美黄色大片在线观看| 日本高清_区二区三区| 十八禁视频网站| 五月天色图| 日韩亚洲美州欧洲综三区一品在线| 91美女视屏| 欧美国产视频| 高清不卡 中文 人妻| 亚洲情色 自拍| 亚洲动态色图| 日韩99精品视频综合区| 国产精品免费日韩| 五月丁香成人网| 日本综合色图| 久久色激情一区二区三区| 91撸色网 玖玖网 欧美| 亚洲一区二区三区麻豆传媒| 97超色| 国产97在线 | 亚洲| 欧美91变态| 免费av高清无码| 日韩欧美午夜视频在线| 精品女人999| 9久久美女首页| 噜噜噜噜天天狠狠| 2017av无码免费无线播| 国产熟女完整版中字| www.色综合| 在线视频一区二区传媒| 亚洲九九视频| 人人玩人人添人人澡免费| 亚洲福利中文字幕在线| 蜜臀AV一区二区三区激情综合| 超碰 另类 欧美| 亚洲性刺激| 色在线综合| 日韩三级一区| 男人的天堂日韩| 9色国产精品一区粉嫩| 色综合色欲色综合色综合色综合| 九九九久千久久激情蜜桃在线看 | 夜夜操夜夜高潮夜夜爽国产精品区| 天美传媒AV在线| 青青伊人这里只有精品| 午夜免费福利视频一区| 亚州久久9| suv精产一二三区| 日本午夜精品理论片A级APP发布| 99爱久久视频频| 骚妻少妇精品性色无码四色A V| 88xx成人精品视频| 伊人五月天| 亚洲色欧| 久久精品店| 青青草视频久久久久| 97资源亚洲| 欧美日韩在线视频网站| julia高潮后不停追击中出| 免费超碰97久久| 久热影视| 天天操妹子| 狠狠干,狠狠操| WWW啪啪的com| 亚洲精品国产无码高清| 国产精品自拍欧美在线| 欧美中文字幕一区 | 农村少妇久久久久久久| 99re公开精品免费视频| 欧美国产视频| 99久久国产精品免费高潮| 9色在线| 午夜福利一区二区三区四区五区色婷婷| a一区二区三区乱码在线| 性欧美体内射精| 91狠狠综合| 国产少妇与亚洲av| 九九九九免费| 久久欧美按摩999| 熟女91网站| 99久热| 超碰色图| 男人的天堂啪啪啪啪啪蜜桃不卡| 天天综合网~91| 中文字幕日本久久| 超碰欧美COM| 福利操逼| 激情五月天校园春色网| 亚洲AV无码AV吞精久久久久| 超碰97首页| 日韩人妻免费精品| 91男人综合| 99色在线观看| 九九九九久久久久| 中文字幕丝袜美腿| 日韩簧片免费看| 色九九九综合| 欧美婷婷久久| 久久熟妇五十路一区| 国产精品久久久鸭无码的功能| 亚洲熟妇极品| 日本一区二区不卡| 日日AV加勒比| 亚洲人妻中文高清| 熟女少妇一区二区三区| 三级三级三级日本99| 国产精品久久久啊| 久久人爽| 色色色欧美| 久久夜夜| 91在线丝袜| 97色在线| 国产精品久久妻无码网站| 亚洲熟女一区| 一级久久久久久久久久久| 欧美亚洲在线| 欧美日韩电影一区二区| 天天干18禁| 久久精品国产AV一区二区三区| 国产偷人妻精品一区二区在线| AV电影在线播放| 亚洲综合第一页| 日本一区二区不卡精品| 久久国内| 五月丁香拍拍激情综合三级| 国产一区二区免费福利片| 大JI巴好深好爽又大又粗视频| 亚洲一区制服诱惑| 天美传媒av在线| 少妇色综合| 亚洲女人毛茸茸91| 久久久九九| 极品人妻少妇综合| 校园春色美腿丝袜| av影院十区| 99在线精品观看视频中文| 91激情国产| 日本不卡中文| 97久久综合网| 久久岛国| 自拍偷拍第26| 国产精品一区二区校花| 肉嘟嘟www视频在线观看高清| 欧美性巨大╳╳╳╳╳高跟鞋| 探花一区在线| 色婷婷基地| 国产精品久久伊人| 色婷婷影院| 女同在线视频一区| 日日天天久久啊啊aaa| 91xingse| 日本免费不卡二区| 欧美视频第二页| 日韩精品大香蕉伊人在线| 久久熟女久| 蜜区区视频79| 无码人妻精品酒店| 老子午夜伦不卡影院| 综合操逼| 欧美|91色综合| 啊啊啊97视频| 性感美女91影视| 起碰97| 国产综合在线视频网站| 婷婷丁香五月天综合东京热| 欧亚性爱视频免费看| 天美传媒国产原创中文字幕亚洲欧美另类 | 日本在线伊人啪啪| 天天看天天日天天操| 欧美老妇曰批的视频| 日本日逼视频网| 大香蕉欧美伊| 国产AB视频| 四虎精品永久在线观看| 一二三区操逼国产91| 强奸乱伦AV网站| 婷婷久久久| 开心六月色| 51一区二区三区| 男人的天堂 在线一区| 人人人摸人人| 99精品久久久久久久婷婷蜜桃| 蜜桃视频精品一区二区| 欧美国产操逼| 久操97| 国产一区二区三区精品观看啪| 青青11操操操操操操操操| 日韩中文9| a级免费在线观看| 无码精品人妻一区二区三区妖精| 色噜噜婷婷| 激情综合av| 久艹日日日| 无码WWW免费视频网站| 国产农村妇女一区二区| 在线中文AV| 欧美Ⅴ性爱| 99无码视频| 大香蕉欧美国产日韩高潮| 午夜精品久久久久久久久久久久久 | 2017天天操天天日| 欧美97av| 色人久久| 啊啊啊啊啊啊啊网址在线观看| 中文 人妻 制服| 青青操网| 中文字幕久久婷婷丁香五月天| 午夜福利视频在线一区| 丝袜无码a片| 国产亚洲精品农村妇女| 久久国语| 午夜操一操| 久久婷婷五月综合| 天天综合网~91综合网| 亚欧无码线免费观看视频| 91操人| 久污| 久久免费99精品久久久久久| 91 亚洲 欧洲| 超碰色大香蕉| 秋霞影音一区二区三区| 中文字幕人妻色偷偷久久皮| 久久亚洲AV无码白度| 天天日天天舔天天喷天天射| 欧美淫乱视频| 免费A V在线播放| ss久久| 国产偷人伦激情在线观看| 久久久爆乳翘臀一线天伦理视频| 好湿好紧视频| 美女黄频a美女大全免费皮| 色香综合天天影视综合 | 欧美72网页| 无遮挡男女激烈动态图| 日本在线不卡一二区| 九99久久| 激情干在线| 看看日B真人视频| 欧美午夜视频精品久久| 一区二区三区 丝袜高跟| 色欲久久久久综合网| 9 7超碰在线免费观看| 超碰97人妻免费在线| 中文字幕乱碼在线| 亚洲欧洲无码bt精品合集| 91在线色| 韩三级a视频在线观看| 欲香欲色天天天综合和网| 亚洲无码超碰免费| 素颜老阿姨乱情色| 风流老熟女一区二区三区l| 欧美性爱一区二区三区四区 | 久青草影院| 亚洲九九九九| 91在线色综合| 在线视频 亚洲精品| 极品粉嫩少妇视频| 久草视频在线视频在线视频在线观看| 亚州欧美综合| 99自拍视频在线| 91色色网站| 精品然女一区二区| 激情综合网五月婷婷五月天| 小骚逼被操的爽不爽| 熟女视频久久| 人妻久久一区二区三区| 亚洲综合另类欧美久久久| 欧美一区二区福利在线| 免费草草草草草视频| 色综合久| 肏逼视频日本| 走光一区92下载| 亚洲色综合| 探花精品 一区二区| 日韩欧美资源| 久久五月丁香| 色屁屁影院www国产| 亚洲综合 欧美| 精品久久視頻在线| 欧美日韩黄片精品在线| 妇女乱色二区| 婷婷五月激情综合| 中文AV制服乱伦| 嗯嗯啊啊的视频| 麻豆久久久一区二区| 久久国产熟女影院| 欧美亚洲韩国视频十五区| 欧美 亚洲 制服 精品| 北约熟女超碰| 婷婷激情四射| 久久一区二区加油站| 色欧美天天| 奇米狠999| 中文字幕一二三| 嫩草黄页| 天堂av2019| 大香网站| 一级一性爱免费视频| 亚洲丝袜制服国产91_国语字幕免费观看完整版下载第5集_ | www.高清无码诱惑一区.com| 亚洲一区日韩| 免费αⅴ在线观看| 色综91| 久久久久久中文| 日本一二三高清| 大奶啊啊好爽 | 蜜臀久久久99久久久久| 国产亚洲日本| 九九热免费国产视频婷婷伊人五月 | 自拍二页| 亚洲最大无码中文字幕网站| 亚洲天堂男人网| 九九热视频这里只有精品| 91快色色色色色| 亚洲一区在线观看欧洲| 久久丝袜| 超碰夫妻97| 欧美日韩人人精品| 久久一二三四五六七八九区区区 | 超碰碰97资源站| 97在线观看免费| 熟女一区二区三区| 96AV久久久| 五月丁香拍拍激情综合三级| 12一15性XXXX粉嫩国产| 羞答答AV中文字| 97超碰中文| 97超碰超欧美。| 一区黄二区黄| 久久久啊啊| 午夜精品久久久久久久男人的天堂| 伊人黄色视频免费观看| Av手机版天堂网| 无码久久亚洲高清,| 91欧美综合| 亚洲天堂资源网| 欧洲精品二区| 国产乱码久久久| 密臀AV在线| 日日干男人的天堂| 98精品国产乱码久久久久久| 校园春色亚洲欧洲| 不卡人妻少妇精品毛片一区23区视频| 男人的天堂啪啪啪啪啪蜜桃不卡| 婷婷色网| 开心激情婷婷| 激情综合五月婷婷| 亚洲操逼网| 日本色色色视频| 最新岛国大片| 国产成人欧美一区二区三区的国产| 18禁无码永久免费无限制| av一区二区三区不卡| 午夜国产成人精品视频| 国产性爱强奸乱伦大全| 亚州熟女乱伦| 啪啪啪精品| 亚洲无码一二三区| 影音先锋少妇| 亚洲一区二区三区播放在线| 操逼操逼逼操操逼91| 国产精品自在线发布| 天天躁狠狠躁av| 中文无线日韩一区| 91狠狠狠| 99热在线只有精品| 九99久久| 碰人碰碰人人开房人肉| 国产又粗又长又大的视频| 97中文热色| 夜夜爽夜夜爽| 中字幕人妻一区二区三区| 超碰人妻久久| 欧美日韩欧美| 啊啊啊好多水| 天天草夜夜草高潮片| 日韩性爱视频免费在线| 欧美国产日韩高清在线| 999综合网| 欧美影音在线| 男人的天堂久久| 高潮9999外国| 91操操操操| 国产精品视频内谢女人| 18啪啪手机免费性爱| 亚洲精品a人片在线观看视| www色色com| 亚洲av总站| 欧美人人天天网|