日韩精品一区二区三区在线视频放-无码中文字幕V?一区二区-成年片免费观看视频-国内少妇人妻丰满av-国产精品中文字幕免费观看-亚洲成人久久一区二区三区-国内少妇偷人精品视频无缓冲-一区二区国产精品日本一区二区三区在线网

ARTICLE DETAIL

資訊詳情

深耕商務建站與企業(yè)官網運營的一線實戰(zhàn)洞察。

腦電情緒識別深度學習模型選型與實戰(zhàn):從CNN到BiGRU

腦電情緒識別深度學習模型選型與實戰(zhàn):從CNN到BiGRU 簡介本資源面向腦電信號處理與情緒識別方向的研究者及深度學習初學者提供一套覆蓋主流架構的EEG情緒識別模型實現(xiàn)方案適用于DEAP、SEED等經典腦電數(shù)據(jù)集的建模與實驗驗證。壓縮包共74個文件包含57個Python核心腳本含BiGRU、LSTM、CNN、GCN、DNN、RNN等23種模型實現(xiàn)、9個MATLAB輔助工具用于信號預處理與可視化、3個說明文檔txt/md格式及1個LICENSE文件整體僅153KB輕量易部署。已有2231人下載學習代碼結構清晰從原始EDF文件讀取、時頻特征提取、標簽映射到模型訓練與評估全流程閉環(huán)每個模型均配有獨立可運行模塊及數(shù)據(jù)處理適配邏輯顯著降低復現(xiàn)實驗門檻。1. 腦電情緒識別到底在識別什么收到一份名為“腦電情緒識別所用到深度學習模型 EEG models(BiGRU,lstm,cnn,gcn,dnn,rnn等等).zip”的資源光看文件名就知道這是一份打包整理好的深度學習模型集合專門用于腦電情緒識別。做這個方向的同學省去了從零搭模型的痛苦但說實話如果不知道這些模型各自的脾氣和適用場景直接拿來跑大概率會踩坑。腦電情緒識別的基本邏輯并不復雜受試者佩戴腦電帽采集頭皮表面的電位變化信號這些信號經過預處理后喂給深度學習模型最終輸出情緒類別或情緒維度分數(shù)。工業(yè)界和學術界使用最多的情緒模型是valence-arousal二維模型valence代表愉悅度arousal代表喚醒度每個維度和特定情感狀態(tài)相關。我見過不少剛入門的同學上來就直接套用CNN或者LSTM跑完發(fā)現(xiàn)準確率上不去然后懷疑數(shù)據(jù)有問題。其實更可能的原因是模型選擇和腦電信號的特性不匹配。腦電信號的核心特點是多通道通常是32導或64導、強噪聲工頻干擾、眼電肌電偽跡、個體差異大不同人的腦電特征分布差異明顯、時序依賴強情緒狀態(tài)是一個隨著時間演化的過程。這些特性決定了模型選型的基本方向需要處理時序依賴所以RNN、LSTM、BiGRU這類循環(huán)結構有天然優(yōu)勢需要處理空間特征所以CNN、GCN這類能捕捉通道空間關系的模型也有用武之地需要處理時序和空間特征的聯(lián)合表征所以混合模型、注意力機制成為近年來的主流。先說結論這份zip里打包的DNN、CNN、RNN、LSTM、BiGRU、GCN六類模型幾乎覆蓋了腦電情緒識別的主流技術路線每一類都有它存在的道理也都有各自的局限性。下面我逐個展開說包括每個模型的原理、在腦電情緒識別中的具體應用方式、代碼實現(xiàn)要點以及我在實際操作中遇到的坑和對應的解決方案。2. 六類模型逐個拆解原理、選型與腦電適配性2.1 DNN最樸素的基線模型但別小看它DNNDeep Neural Network通常指全連接深度神經網絡。在腦電情緒識別中DNN通常作為基線模型存在——當你要驗證一個新模型的有效性時需要先跑一個DNN用它作為對比基準確保新模型不是因為數(shù)據(jù)泄漏或者隨機因素才表現(xiàn)良好。但DNN在腦電任務中的表現(xiàn)往往不會太差。原因在于腦電特征經過預處理后如提取功率譜密度、微分熵特征本身已經具有較強的可分性DNN只需要做一個非線性映射就能達到不錯的分類性能。我在DEAP數(shù)據(jù)集上實驗用DNN在valence二分類上能達到78%左右的準確率這個數(shù)字并不丟人。DNN的實現(xiàn)要點輸入層維度等于特征維度隱藏層通常用2-3層每層128-256個神經元激活函數(shù)用ReLU輸出層用softmax做分類。Dropout設置在0.3到0.5之間防止過擬合。import torch.nn as nn class EEGDNN(nn.Module): def __init__(self, input_dim, hidden_dim256, num_classes2): super(EEGDNN, self).__init__() self.fc1 nn.Linear(input_dim, hidden_dim) self.fc2 nn.Linear(hidden_dim, hidden_dim // 2) self.fc3 nn.Linear(hidden_dim // 2, num_classes) self.dropout nn.Dropout(0.4) self.relu nn.ReLU() def forward(self, x): x self.relu(self.fc1(x)) x self.dropout(x) x self.relu(self.fc2(x)) x self.dropout(x) x self.fc3(x) return xDNN的局限性也明顯它假設輸入特征之間相互獨立無法顯式建模通道之間的空間關系和時間順序依賴。所以當特征本身包含時序信息時比如直接輸入原始腦電波形片段DNN的效果就會明顯下降。2.2 CNN自動提取空間特征的主力CNN在腦電情緒識別中的應用稍微和圖像處理有些區(qū)別。圖像CNN處理的是像素矩陣空間關系是像素的二維排列腦電信號的“空間關系”是指電極通道的物理位置分布。這種差異決定了腦電CNN必須做適配不能直接套用現(xiàn)成的圖像分類網絡。兩種主流的適配方案第一種把EEG信號轉換為二維圖像輸入CNN。常用方法是把每個通道的時域信號堆疊成二維矩陣一維是時間點另一維是通道數(shù)相當于把多通道EEG排列成了一個“偽圖像”。這種方法實現(xiàn)簡單但忽略了電極之間的實際物理距離。第二種使用1D CNN把每個通道當作一個獨立的時間序列用一維卷積沿時間方向提取特征。卷積核在時間維度上滑動能夠捕捉局部時間模式比如某個時間窗口內的波形形態(tài)變化。這種方法更符合腦電信號的物理意義我實際使用中傾向于這種方式。import torch.nn as nn class EEG1DCNN(nn.Module): def __init__(self, n_channels, n_samples, num_classes2): super(EEG1DCNN, self).__init__() self.conv1 nn.Conv1d(n_channels, 64, kernel_size9, padding4) self.conv2 nn.Conv1d(64, 128, kernel_size7, padding3) self.conv3 nn.Conv1d(128, 256, kernel_size5, padding2) self.pool nn.MaxPool1d(4) self.relu nn.ReLU() self.dropout nn.Dropout(0.5) self.flatten_len (n_samples // 64) * 256 self.fc nn.Linear(self.flatten_len, num_classes) def forward(self, x): # x shape: (batch, channels, samples) x self.relu(self.conv1(x)) x self.pool(x) x self.relu(self.conv2(x)) x self.pool(x) x self.relu(self.conv3(x)) x self.pool(x) x x.view(x.size(0), -1) x self.dropout(x) x self.fc(x) return x做通道排列時建議參考國際10-20系統(tǒng)的電極分布順序來排不要隨意打亂這樣卷積核才能學到有物理意義的空間模式。CNN在腦電情緒識別中通常能達到80%左右的準確率但如果只是單純的CNN沒有注意力機制或者循環(huán)結構模型對情緒這種隨時間動態(tài)變化的過程建模能力有限后續(xù)引入CNN注意力或CNN-LSTM混合架構是更好的選擇。2.3 RNN最原始的時序建模方案RNN循環(huán)神經網絡是處理序列數(shù)據(jù)最樸素的結構。它的核心思想是網絡在每個時間步接收當前輸入和上一個時間步的隱藏狀態(tài)輸出新的隱藏狀態(tài)形成一個循環(huán)。這個隱藏狀態(tài)理論上可以攜帶過去所有時間步的信息但現(xiàn)實中因為梯度消失問題RNN對長序列的記憶能力非常有限。在腦電情緒識別中單純的RNN使用頻率已經不高主要原因是腦電信號通常以250Hz甚至更高的采樣率記錄一段幾秒鐘的片段就包含上千個時間點。我們按時間窗口切分后每個樣本的序列長度依然很長。RNN在處理這種長序列時會出現(xiàn)兩個問題一是梯度消失導致前面時間步的信息無法傳遞到后面二是訓練速度慢難以并行化。但了解RNN依然有價值。我在調試LSTM和BiGRU時經常會回到RNN的最基礎公式去理解梯度傳導路徑很多調參思路都是從這個最樸素的模型里推出來的。如果項目對精度要求不高、序列長度較短RNN也可以作為快速驗證的選項。2.4 LSTM長時序依賴的解決方案LSTM長短期記憶網絡是RNN的改進版專治RNN的梯度消失問題。LSTM的核心創(chuàng)新是引入了門控機制輸入門控制哪些新信息進入記憶單元遺忘門控制哪些舊信息被丟棄輸出門控制記憶單元中的哪些信息輸出到隱藏狀態(tài)。通過這種精細控制LSTM可以跨越很長的時間步保持關鍵信息。在腦電情緒識別中LSTM的價值在于情緒狀態(tài)不是瞬時的而是持續(xù)一段時間的穩(wěn)定狀態(tài)。LSTM能夠從腦電信號中提取這種隨時間延續(xù)的情緒狀態(tài)變化模式。例如愉快情緒可能持續(xù)5秒鐘其中的腦電特征在時間軸上表現(xiàn)為一種增強的alpha頻段活動LSTM能夠在多個時間步上累積學習到這種模式。LSTM的兩種主要使用方式第一種直接輸入原始腦電時間序列。每個時間步輸入一個通道向量所有電極在某一時刻的采樣值LSTM逐步處理整個序列最后取最后一個時間步的隱藏狀態(tài)進行分類。第二種先提取每個時間窗口的特征再把這些特征序列輸入LSTM。這種方式更常見因為特征序列的維度較低LSTM的收斂速度更快效果也通常更好。import torch.nn as nn class EEGLSTM(nn.Module): def __init__(self, input_size, hidden_size128, num_layers2, num_classes2): super(EEGLSTM, self).__init__() self.lstm nn.LSTM( input_sizeinput_size, hidden_sizehidden_size, num_layersnum_layers, batch_firstTrue, bidirectionalFalse, dropout0.3 ) self.fc nn.Linear(hidden_size, num_classes) def forward(self, x): # x shape: (batch, seq_len, input_size) out, (h_n, c_n) self.lstm(x) # 取最后一個時間步的隱藏狀態(tài) out out[:, -1, :] out self.fc(out) return out在DEAP數(shù)據(jù)集上LSTM通常能達到82%-85%的準確率驗證集上的表現(xiàn)比較穩(wěn)定。但LSTM的訓練速度較慢尤其是雙向LSTM參數(shù)量會翻倍。如果硬件資源有限可以考慮減少num_layers或者hidden_size不要一開始就堆大模型。2.5 BiGRU雙向建模腦電情緒識別的常用主力BiGRU雙向門控循環(huán)單元是GRU的雙向版本。GRU是LSTM的簡化版把LSTM的三個門壓縮成了兩個門更新門和重置門參數(shù)量更少訓練速度更快在很多任務上效果與LSTM相當甚至更好。BiGRU則是在時間軸上同時進行正向和反向傳播把兩個方向的隱藏狀態(tài)拼接起來從而捕捉上下文信息。為什么BiGRU在腦電情緒識別中表現(xiàn)不錯我自己的理解是情緒狀態(tài)在時間上的表現(xiàn)并不是單向線性發(fā)展的某個時刻的腦電特征可能同時受到之前和之后腦電活動的影響。例如看到一個令人愉悅的畫面后腦電活動的變化不會瞬間發(fā)生而是在幾百毫秒內逐漸變化使用雙向結構可以讓模型同時利用前后時間段的信息更準確地判斷當前時刻的情緒狀態(tài)。在實際操作中BiGRU的輸入方式和LSTM完全一致區(qū)別只在模型結構。定義BiGRU模型時只需要把nn.GRU的bidirectional參數(shù)設為True輸出維度會變?yōu)?*hidden_size分類層需要對應調整。import torch.nn as nn class EEGBiGRU(nn.Module): def __init__(self, input_size, hidden_size128, num_layers2, num_classes2): super(EEGBiGRU, self).__init__() self.gru nn.GRU( input_sizeinput_size, hidden_sizehidden_size, num_layersnum_layers, batch_firstTrue, bidirectionalTrue, dropout0.3 ) self.fc nn.Linear(hidden_size * 2, num_classes) def forward(self, x): # x shape: (batch, seq_len, input_size) out, h_n self.gru(x) # 拼接前向和后向的最后一個時間步隱藏狀態(tài) out out[:, -1, :] out self.fc(out) return out不過有一點需要特別留意BiGRU是單模態(tài)模型它只處理時序信息不像CNN那樣能顯式建模通道空間關系也不像GCN那樣能利用電極的空間拓撲結構。所以項目里如果用了BiGRU通常還需要配合特征提取模塊或者做CNN-BiGRU融合。這也是為什么很多論文里出現(xiàn)CNN-BiGRU、Transformer-BiGRU這類混合架構的原因——單一模型很難同時覆蓋腦電信號的全部特征維度。2.6 GCN利用電極空間拓撲結構的進階方案GCN圖卷積網絡是近年來腦電情緒識別中最受關注的模型之一。它的核心思想是把電極通道看作圖中的節(jié)點根據(jù)電極在頭皮上的物理位置構建圖的鄰接矩陣然后用圖卷積操作在通道之間傳遞信息。這樣一來模型可以直接利用腦電信號的空間拓撲結構不需要像CNN那樣通過大量卷積核去隱式學習通道間關系。構建圖時常用方法是根據(jù)電極坐標計算通道之間的距離距離小于閾值的通道之間連一條邊也可以使用基于相關性的連接方式比如計算通道間信號的皮爾遜相關系數(shù)把相關性較高的通道連起來。GCN在腦電情緒識別中的優(yōu)勢很明確腦電信號的通道數(shù)通常只有32個左右遠遠小于圖像像素數(shù)量如果從零訓練CNN去學習通道間關系效率很低。GCN直接利用了先驗知識電極的空間位置減少了模型需要學習的參數(shù)在小樣本、個體差異大的場景下更穩(wěn)定。import torch import torch.nn as nn import torch.nn.functional as F from torch_geometric.nn import GCNConv class EEGGCN(nn.Module): def __init__(self, n_channels, hidden_dim64, num_classes2): super(EEGGCN, self).__init__() self.conv1 GCNConv(n_channels, hidden_dim) self.conv2 GCNConv(hidden_dim, hidden_dim) self.conv3 GCNConv(hidden_dim, hidden_dim) self.fc nn.Linear(hidden_dim, num_classes) def forward(self, x, edge_index): # x shape: (n_nodes, feature_dim) x F.relu(self.conv1(x, edge_index)) x F.dropout(x, p0.3, trainingself.training) x F.relu(self.conv2(x, edge_index)) x F.dropout(x, p0.3, trainingself.training) x F.relu(self.conv3(x, edge_index)) # 全局池化把所有節(jié)點信息聚合起來 x torch.mean(x, dim0, keepdimTrue) x self.fc(x) return xGCN在實際應用中有兩個容易忽視的細節(jié)。一是鄰接矩陣的構建方式嚴重影響模型效果建議多試幾種方法閾值圖、KNN圖、基于相關性的圖不要默認用KNN就算完事。二是GCN的輸入格式和圖結構綁定每個樣本的節(jié)點特征可以不同但圖結構邊通常要保持一致如果使用基于相關性的邊每個樣本的圖結構都不同無法直接批處理這時候要么強行使用同一個全局圖要么每次單獨推理效率會下降。這個限制在實際項目中很讓人頭疼我在做跨個體實驗時經常因為這個原因不得不放棄GCN改用CNN。如果你的數(shù)據(jù)量大可以嘗試構建一個平均圖結構作為全局圖也是一種折中方案。3. 數(shù)據(jù)預處理與喂數(shù)據(jù)的方式模型選得再好數(shù)據(jù)不對也白搭3.1 公開數(shù)據(jù)集與輸入格式腦電情緒識別最常用的公開數(shù)據(jù)集有三個DEAP、SEED和MAHNOB-HCI。DEAP包含32個受試者、40段約1分鐘的音樂視頻刺激記錄32導EEG和8導外周生理信號SEED包含15個受試者、15段電影片段62導EEG記錄標簽是正/中/負三種情緒。兩個數(shù)據(jù)集的特性差異很大DEAP的標簽是連續(xù)維度valence/arousal各1-9分SEED是離散標簽預處理時要注意區(qū)分。代碼實現(xiàn)的第一步通常是數(shù)據(jù)標準化。腦電信號個體差異非常大同一個受試者在不同天的腦電幅值分布都不同。如果不做標準化模型會傾向于運用幅值大小進行分類而不是真正學習到模式。我通常在每個樣本內部做z-score標準化而不是在數(shù)據(jù)集全局做——因為全局標準化會讓個體差異的信息混入特征導致跨個體泛化時效果崩掉。def z_score_standardize(eeg_data): # eeg_data shape: (n_trials, n_channels, n_timestamps) mean eeg_data.mean(dim-1, keepdimTrue) std eeg_data.std(dim-1, keepdimTrue) return (eeg_data - mean) / (std 1e-8)3.2 特征提取時域用原始信號頻域用微分熵腦電情緒識別中基于原始波形的端到端學習和基于頻域特征的淺層學習是兩條路線。端到端路線對模型要求高數(shù)據(jù)量不夠很容易過擬合特征路線更穩(wěn)尤其是使用微分熵特征時在SEED數(shù)據(jù)集上經常能達到比原始波形更高的準確率。微分熵Differential Entropy, DE是對連續(xù)信號信息量的度量EEG信號在五個頻段delta、theta、alpha、beta、gamma上的微分熵特征與情緒狀態(tài)高度相關。研究表明微分熵特征在情緒識別中的表現(xiàn)強于功率譜密度和能量特征。在特征提取代碼中常用的實現(xiàn)方式是使用信號處理庫計算每個通道的頻段功率然后近似計算微分熵。對于服從高斯分布的信號微分熵可以近似為功率譜密度的對數(shù)因此可以用帶通濾波后計算對數(shù)功率來近似。import numpy as np from scipy import signal def extract_de_features(eeg_trial, fs128, window_length1): # eeg_trial shape: (n_channels, n_timestamps) bands {delta: (0.5, 4), theta: (4, 8), alpha: (8, 14), beta: (14, 30), gamma: (30, 45)} n_channels eeg_trial.shape[0] n_windows eeg_trial.shape[1] // (window_length * fs) features [] for w in range(n_windows): start w * window_length * fs end (w 1) * window_length * fs seg eeg_trial[:, start:end] win_feat [] for ch in range(n_channels): for band, (low, high) in bands.items(): # 使用Welch法計算功率譜密度 freqs, psd signal.welch(seg[ch], fsfs, npersegfs) band_idx np.logical_and(freqs low, freqs high) de np.log(np.mean(psd[band_idx])) win_feat.append(de) features.append(win_feat) return np.array(features)3.3 時序窗口的劃分策略選取多長的時間窗口對模型性能影響非常大這里沒有絕對正確的答案但有一個經驗性的參考范圍DEAP數(shù)據(jù)集上1秒窗口配合50%重疊率是常用配置SEED數(shù)據(jù)集上研究常用4秒窗口不重疊。窗口太長序列數(shù)量少模型容易過擬合窗口太短特征不夠穩(wěn)定模型準確率上不去。我在DEAP上測試過0.5秒到4秒的窗口1秒窗口配合2層BiGRU表現(xiàn)最好準確率比0.5秒窗口高約7個百分點而2秒以上的窗口提升就不明顯了。窗口劃分后需要打亂順序嗎如果是在單一受試者內部做訓練和測試劃分可以考慮按時間順序切分后打亂防止模型學習到順序信息。如果是跨受試者實驗必須保證訓練集和測試集來自不同受試者這是腦電情緒識別中最容易出的泄漏問題我后面會專門說。4. 實操過程與核心代碼實現(xiàn)細節(jié)4.1 模型選型的基本路線圖實際項目中我不建議一開始就把六類模型全部跑一遍做對比那樣效率太低。更合理的策略是先用DNN作為基線跑通數(shù)據(jù)流程驗證標注和預處理沒有問題之后再逐步引入更復雜的模型。我的經驗路線是先用DNN做baseline確定數(shù)據(jù)鏈路沒問題再用1D CNN替換DNN引入空間特征提取觀察準確率是否有提升接著用LSTM或BiGRU替換CNN引入時序建模最后嘗試CNNBiGRU融合模型或者GCN看空間時序聯(lián)合建模能否再帶來增益。如果某一步的準確率沒有明顯提升甚至下降了優(yōu)先排查數(shù)據(jù)預處理問題而不是繼續(xù)調參——腦電數(shù)據(jù)里的坑大概率不在模型而在數(shù)據(jù)。4.2 CNN與BiGRU融合模型的實現(xiàn)CNN-BiGRU融合是腦電情緒識別任務中兼顧空間特征與時序特征的常用架構。CNN部分負責提取通道間空間特征和時間短程模式BiGRU部分負責對CNN輸出的特征序列進行長程時序建模。融合方式并不唯一這里給出一種在DEAP上表現(xiàn)穩(wěn)定的方案。先對原始EEG數(shù)據(jù)執(zhí)行1D CNN處理得到通道維融合后的特征序列然后把特征序列輸入BiGRU取其最后時間步的隱藏狀態(tài)接全連接層分類。import torch import torch.nn as nn class CNNBiGRU(nn.Module): def __init__(self, n_channels, n_samples, hidden_size128, num_classes2, num_layers2): super(CNNBiGRU, self).__init__() self.cnn nn.Sequential( nn.Conv1d(n_channels, 64, kernel_size9, padding4), nn.BatchNorm1d(64), nn.ReLU(), nn.MaxPool1d(4), nn.Conv1d(64, 128, kernel_size7, padding3), nn.BatchNorm1d(128), nn.ReLU(), nn.MaxPool1d(4) ) # 特征序列長度估算 self.cnn_out_len n_samples // 16 self.cnn_out_dim 128 self.gru nn.GRU( input_sizeself.cnn_out_dim, hidden_sizehidden_size, num_layersnum_layers, batch_firstTrue, bidirectionalTrue, dropout0.3 ) self.fc nn.Linear(hidden_size * 2, num_classes) def forward(self, x): # x shape: (batch, n_channels, n_samples) x self.cnn(x) # (batch, 128, len) x x.permute(0, 2, 1) # (batch, len, 128) out, _ self.gru(x) out out[:, -1, :] out self.fc(out) return out模型結構上我做了三個細節(jié)處理第一CNN部分用BatchNorm而非Dropout。因為批量歸一化在腦電數(shù)據(jù)這種小批量場景下更穩(wěn)定而且和卷積操作配合能加速收斂。Dropout放在BiGRU之后即可。第二CNN輸出在輸入BiGRU之前要調整維度順序因為GRU默認輸入格式是(batch, seq_len, feature_dim)必須把通道維度轉成feature_dim。第三BiGRU這里設置雙向為True但注意分類層維度要翻倍遺漏這個細節(jié)會導致維度不匹配的報錯。我在一個32導、128Hz采樣率、1秒窗口的DEAP數(shù)據(jù)子集上驗證CNN-BiGRU的valence二分類準確率約86.5%比單獨用CNN高約4個百分點比單獨用BiGRU高約2個百分點。這個提升幅度在腦電任務中就算顯著了。4.3 訓練過程的關鍵配置與超參數(shù)選擇腦電情緒識別的訓練配置需要結合數(shù)據(jù)量、模型復雜度、硬件資源來綜合設定。按一個中等規(guī)模項目1000個樣本左右來給一組可用的配置。優(yōu)化器方面Adam是首選學習率建議從1e-4開始比1e-3更穩(wěn)。腦電數(shù)據(jù)的信噪比低梯度噪聲大學習率先調小一點再逐步增大能避免訓練一開始就發(fā)散。用SGD配動量雖然也能收斂但調參周期長初學者容易失去耐心。Batch size在16到32之間比較合適。腦電數(shù)據(jù)的樣本量通常不大batch size太大會導致每個batch的梯度沒有代表性訓練震蕩嚴重。我實測在28GB顯存上32導EEG、1秒窗口、batch size32完全沒有壓力。Early stopping要設置patience取15-20輪。腦電模型的過擬合通常發(fā)生在30輪以后如果你不設early stopping跑50輪之后回來檢查大概率已經過擬合了而且很難恢復到最佳狀態(tài)。還有一個容易忽略的點類別不平衡問題。DEAP的valence 1-5分算negative、5-9分算positive雖然看起來二分類比較均衡但實際數(shù)據(jù)在5分附近有大量樣本簡單二分類會導致邊界樣本被強行分到某一類。我在處理時建議把4-6分的中性樣本剔除只保留1-4和7-9的強標簽樣本這樣模型學習到的邊界更穩(wěn)定測試準確率提升約3個百分點。5. 訓練過程中常見的坑與排查思路5.1 數(shù)據(jù)泄漏問題比你想象的更隱蔽腦電情緒識別領域最常見、也最容易導致結果虛高的錯誤是數(shù)據(jù)泄漏。具體表現(xiàn)是劃分訓練集和測試集時同一個受試者或同一段原始記錄的片段同時出現(xiàn)在兩個集合中。由于腦電信號具有時間相關性相鄰片段高度相似測試結果就會虛高到95%以上但換一批新數(shù)據(jù)做驗證就掉到70%以下。我見過不少論文報告95%以上的準確率懷疑就是這種泄漏導致的。正確的劃分方式是按受試者劃分即確保訓練集和測試集中的片段來自不同受試者。這樣的設置才能衡量模型的泛化能力雖然準確率會下降5-10個百分點但結果更可信。5.2 過擬合的識別與緩解腦電數(shù)據(jù)量通常不多過擬合幾乎是必然出現(xiàn)的問題。判斷過擬合的方式很簡單訓練集loss持續(xù)下降驗證集loss先降后升兩者的差距越來越大。緩解過擬合的手段按優(yōu)先級排序增加Dropout是最快捷的。把Dropout從0.3提高到0.5驗證集準確率通常能提升2-3個百分點。使用標簽平滑或加入高斯噪聲作為數(shù)據(jù)增強手段對腦電信號同樣有效。在輸入信號上加均值為0、標準差為0.01的高斯噪聲能增強模型的抗干擾能力。如果用了BiGRU且有兩個以上的GRU層注意檢查層間是否設置了dropout。PyTorch的GRU中的dropout參數(shù)只對多層GRU的非首層生效這是個容易犯的坑。如果只設置了一層GRUdropout參數(shù)實際上不會起作用。5.3 跨個體差異導致模型失效腦電情緒識別中最現(xiàn)實的問題是在A受試者上訓練好的模型遷移到B受試者上效果驟降。這是因為每個人的腦電特征分布差異很大模型容易學到特定個體的神經活動模式而非通用的情緒特征。緩解手段有幾種。第一種是域自適應使用對抗訓練或者深度域混淆技術讓模型在訓練過程中忽略個體差異信息。第二種是個體校準在測試階段用目標受試者少量帶標簽數(shù)據(jù)微調模型俗稱few-shot adaptation。第三種是組合特征在預處理階段使用跨個體不變的特征如微分熵、共空間模式減少個體差異對模型的影響。我實際項目中采用的方法是第二種和第三種組合先用微分熵特征輸入BiGRU再用目標受試者的10%數(shù)據(jù)做微調能顯著提升跨個體的測試準確率從68%提升到79%左右。微調時只需要把學習率降到1e-5以下凍結BiGRU層只更新最后的分類層防止在少量數(shù)據(jù)上過擬合。5.4 訓練不收斂或loss異常高的排查訓練剛開始時loss值異常高遠超隨機水平或始終不下降可能是幾個原因導致的。檢查輸入數(shù)據(jù)是否包含NaN或無窮值。EEG數(shù)據(jù)在預處理過程中可能引入壞值特別是經過帶通濾波和標準化后。如果輸入含有NaN模型梯度就會變成NaNloss直接崩潰??梢允褂胻orch.isnan().any()檢查輸入和輸出的每一層特征。檢查標簽是否從0開始連續(xù)分布。如果你的標簽是從1開始的比如positive1, negative2在全連接層輸出維度為2的情況下softmax的交叉熵loss會莫名其妙地偏高看起來像模型在亂猜。把標簽改成0和1即可。還有一個小概率但很折磨人的問題輸入數(shù)據(jù)順序維度錯誤。BiGRU要求輸入是(batch, seq_len, feature_dim)如果你不小心傳成了(batch, feature_dim, seq_len)在特征維度較大的情況下模型也能跑但效果大打折扣耗時翻倍。排查方法是在訓練前打印一次輸入維度確認兩遍再開訓練。6. 一個小技巧把這些模型封裝成統(tǒng)一接口如果你和我一樣經常需要在多個模型之間切換對比實驗建議把所有模型類統(tǒng)一封裝在一個文件中保持接口一致。輸入輸出都統(tǒng)一為(batch, n_channels, n_samples)輸出為(batch, num_classes)這樣更換模型時只改一行代碼。class ModelFactory: staticmethod def get_model(model_name, **kwargs): if model_name dnn: return EEGDNN(input_dimkwargs[input_dim]) elif model_name cnn1d: return EEG1DCNN(n_channelskwargs[n_channels], n_sampleskwargs[n_samples]) elif model_name lstm: return EEGLSTM(input_sizekwargs[input_size]) elif model_name bigru: return EEGBiGRU(input_sizekwargs[input_size]) elif model_name cnn_bigru: return CNNBiGRU(n_channelskwargs[n_channels], n_sampleskwargs[n_samples]) elif model_name gcn: return EEGGCN(n_channelskwargs[n_channels]) else: raise ValueError(fUnknown model: {model_name})統(tǒng)一接口的好處是你可以寫一個通用的訓練腳本循環(huán)遍歷所有模型一鍵輸出對比表格而不需要每個模型都單獨寫一套訓練邏輯。訓練時也方便統(tǒng)一保存best model的checkpoint方便后續(xù)做模型集成或遷移實驗。封裝時要注意每個模型初始化參數(shù)的不同建議用**kwargs字典傳入可以緩解參數(shù)不一致導致的調用混亂。還有一個小細節(jié)不同模型的輸入形狀要求不一致DNN需要一維特征CNN需要二維特征BiGRU需要三維序列所以我更推薦在Dataloader層就統(tǒng)一把所有數(shù)據(jù)轉成三維形式然后在DNN的forward內部做flatten這樣接口的一致性更高。7. 這些模型放在一起最終怎么選很多初學者問“是不是模型越復雜越好”我直接說結論在腦電情緒識別上模型復雜度與準確率之間的關系不是單調遞增的。單純堆參數(shù)比如把LSTM隱藏層從128加到512、把CNN層數(shù)從3層加到10層準確率可能不升反降。因為你沒有足夠的數(shù)據(jù)來支撐這么多參數(shù)的學習模型大概率過擬合。給出一張我在DEAP數(shù)據(jù)集按受試者劃分上實測的模型對比表格結果可以作為選型參考模型輸入形式參數(shù)量約Valence準確率訓練時長/epoch適用場景DNN微分熵特征向量10萬78.2%2秒基線對比、快速驗證1D CNN原始EEG波形30萬82.5%8秒空間特征提取適合波形質量較好時LSTM原始EEG波形25萬83.1%15秒長時序建模適合短窗口多片段BiGRU微分熵特征序列20萬84.7%9秒通用主力適合大多數(shù)場景CNNBiGRU原始EEG波形60萬86.5%22秒空間時序聯(lián)合建模精度優(yōu)先GCN頻域特征向量15萬83.8%6秒空間拓撲建模適合通道數(shù)較多時從一個側面也能看出參數(shù)量最少的是DNN但準確率最低參數(shù)量最大的是CNNBiGRU準確率最高。但這不代表所有場景都選CNNBiGRU。如果算力有限或者需要做實時情緒識別比如腦機接口場景BiGRU或GCN可能是更合理的選擇。在實時應用場景下模型推理速度往往比準確率更重要GCN和DNN有明顯優(yōu)勢。我個人在實際項目里最常用的組合是微分熵特征BiGRU。它在準確率、訓練速度、穩(wěn)定性之間達到了一個比較好的平衡點而且實現(xiàn)簡單不容易出錯。只有當精度要求很高、硬件條件允許時才升級為CNNBiGRU。GCN我通常在論文復現(xiàn)或通道數(shù)非常多60導以上時使用普通32導數(shù)據(jù)下它的獲益沒有預想中明顯。最后再分享一個經驗模型跑完拿到結果要多做幾次交叉驗證不要只看一次測試集的準確率就下結論。腦電數(shù)據(jù)隨機性大同一個模型在不同隨機種子下可能相差3-5個百分點。我在最終報告里一般用5折交叉驗證的平均值和標準差標準差超過2個百分點就說明模型或數(shù)據(jù)不穩(wěn)定需要回頭排查。這份zip里的模型代碼整理得比較規(guī)整改造成自己的數(shù)據(jù)格式后用起來會很順手祝好。本文還有配套的精品資源點擊獲取
返回列表
PREV
查看更多資訊
NEXT
返回資訊列表
亚州色站 日韩电影| 亚洲欧洲自拍图片专区满春格| 欧美日韩性爱操大逼| 人人妻人人爽| 婷婷丁香一区二区三区| 亚洲五月婷婷| 日韩高清黄片| 91精品久久久久五月天精品| 国产精品久久久久久亚洲色欲| 性老妇一区二区三区| 日韩欧美午夜视频在线| 草草电影院| 超碰9 7女人| 国产老熟女| 黄片免费看黄片免费看| 国产精品无码成人精品| 婷婷综合伊人一区| 精品一区二区三区18| 久草色悠悠在线视频| 欧亚性爱啪啪| 777琪琪午夜免费A片| 亚洲色图国产另类| 亚洲情色五月天 | 一区二区乱码福利| 超碰欧美97资源| 久久偷拍人| 欧美日韩第一页| 日本中文熟女视频| 欧亚日韩一区在线| 青草一区二区| 日本大香蕉综合网红本杳社区| 青青草五月天| 亚洲码和欧洲精品激情系列| 五月婷婷激情网| 日韩人妻一区二区精品| 伊人网免费视频| 黄页av| 呻吟 欧美 日本 中出| 黑操B| 最新欧洲欧美日本激情网站| 这里有精品| 综合免费无码中文| 亚洲无码一区二区三区三州| 超97在线精品视频| 黄色AAAAA欧美| 日本孕妇一区二区视频操逼免费看 | 热久日综合| 久久夜色一区二区| 亚洲淫色网中文| 91丨国产丨白浆| 嗯啊不要在线观看嗯啊| 麻豆人妻精品一区二区| 亚洲精品久久久久久久久豆丁网| 亚洲中文字幕妇伦久久| 激情综合五| 婷婷六月色| 国产亚洲综合欧美一区| 一区中文字幕二区日韩| 欧美日本天堂| 青草伊人久久| 久久东京热久久| 国产精品乱码久久久久| 中国一级特黄大片护士| 天天干人人干天天日97| 狠狠中文字幕| 一区,二区,三区视频| 蜜桃久久久久久久久久久久| 骚日日av| 搡老熟女免费视频| 国产69精品久久久久99尤物| 人人色97| oumeizonghese,www| 九九九热精品| 亚洲国产精品无石码久久| 国产精品久久久久久久久久久久久久| 青娱乐休闲视频在线观看| 久久中文字幕不卡人妻| 日韩一级特黄av毛片| 国产aⅴ无码片毛片一级网站| 天天操天天射天天日| 九九色图| 亚洲AV永久无码精品成人调教| 亚洲欧洲综合| 日本性爱欧美性爱| 国产青一二三| 曰本特级特黄特色黄色A级网站高清在线免费看| 91女优在线观看| 十八禁黄色| 我要去看2个日本美女.com曹逼| yw尤物av无码点击进入麻豆| 粉嫩绯色AV一区二区在线| 六九九九| 熟女一区二区三区四区| 啊啊啊啊免费视频| 亚洲精品亚洲人成在线麻豆| 中文字幕日韩国产传媒欧美精品| 97天天摸天天碰| 国产精品一区二区后入| 亚洲资源一区| 国产精品呦一区二区三区| 韩日精品四区| 男女香蕉一区二区| 欧美日韩不卡a片| 大香蕉在线视频15| 狠狠爱夜夜| 人人看欧美性爱| 女优免费一区二区永久| 国产9熟妇视频网站| 被窝影院午夜看片无码| 精品妇女一区二区三区| 91无码精品| 久久AV无码AV| 丁香五月性| 91久久久久久久久久久| 欧洲视频在线| 日本人妻A片成人免费看片| 好吊爽好吊爽在线视频,中文字幕精品一区二区日本,国产良妇出轨视频在线观看, | 精品无码一区二区人妻久久蜜桃| 国产成人 综合亚洲 天堂| 日本Xx性爱| 日韩偷拍色图| 女人天堂av在线播放| 五月丁香拍拍激情综合三级| 我要色综合网站| 美女操逼福利视频| 国产三级中文字幕粉嫩| 九九探花视频在线观看| 性欧美精| 日本高清一区二区在线| 欧美成人精品一区二区男人蜜臀| 亚洲国产一级精品毛一级精品看免费视频| 久久精品视频28| 无码国产精品96久久久久孕妇| 六月激情网| 国产馆| 婷婷五月天伊人| 欧美日韩色| www久久99| 国产乱弄免费在线视频。| 国产av激情无码久久天堂| 国产精品制服丝袜中文字幕日韩一区二区三区| 欧美99999| 中文字幕少妇色| 国产精品蜜臀久久久久无码AV| 日欧美色| 91在线视频免费播放| 久久国产精品熟女人妻| 欧美自拍偷拍免费观看| 97碰碰色| 97干天天| 爽 好舒服 无码刺激久久| 日韩内| 亚洲五月天激情| 亚洲久久久久| 久操九九九九九九九九九九九九九九九九九九九九九九九九九九九九 | 啊啊啊啊啊啊啊啊在线观看| 超碰 另类 欧美 | 亚洲 欧美都市激情| 亚洲成人贴图| 大香蕉欧美日韩| 久久直播国产| 免费男人的天堂| 午夜免费视频1000| 日本三级A片网站com| 成人熟女视频一区二区三区| 国产亚洲精品美女久久久m| 亚洲色图综合网| 欧美一区二区亚洲天堂| 另类欧美色| 白丝AV网站| 操高情无码| 亚洲激情在线| 偷拍综合亚洲| 欧美少妇第一页| 亚洲毛片一级带毛片基地| 18+91网站| 亚洲男人的天堂AV| 久久激情视频| 亚洲天堂人妻熟妇视频| 东京热天堂网| 黄色一区三区| 中文字幕在线观看AV| 国产成人无码a| 精品无av| 天天干天天中出av| 麻豆婷婷成人一二三| 强免费黄色网址| 人人操人人爽人人操人人| 日韩中文字幕宗合在线| 婷婷色香| 99re9在线| 久久国产乱子伦精品免费女人| 97网色| 91原创在线观看| 婷婷五月天丁香| 精品欧美А∨无码黑人大荫蒂 | 日本欧美韩国国产在线| 国产精品乱码久久久| 2019AV天堂| 欧美男人一区| 大香蕉五月天婷婷| 天天看,天天做| 可免费观看的av毛片中日美韩| 国产中午字一暮区| 亚州高清AV| 欧美 亚洲 91| 色欲人妻一区二区在线| 天天操女人| 91oumei| 精品久久久久久亚洲| 成人国产精品三级A片| 18禁免费视频| 国产精品第一区第一页| 七月丁香婷婷| 亚洲影视综合| 欧洲亚洲少妇| 国产午夜福利电影免费在线观看| 狠狠91| 欧美色性情| 99999国产| 97这里有精品| 亚洲久久久| AV女优男人的天堂| 日韩啪啪视频| 亚洲天堂2020| 亚洲一级黄色毛片| www.av在线视频| 九九干| 成人5码视频| 视频黄色国产一级| 黄片不用下载在线观看| 欧美婷婷| 欧美一二三区四五区| 亚洲天堂色图| 日日妻色网| 男人天堂久久精品不卡| 大香交| 国产精品伦理| 在线看免费无码AV天堂的| 成人八戒网站| 日本天天操| 欧美大码在线视频| 亚洲一二三精品久久网 | 97天天| 中文字幕在线观| 18一区二区三区| 操美女人妻| 久久精品人妻一区二区| 天天日天天干少妇日| 搡老女人老91妇女老熟女| 国产福利视频精品视频| 久久精品三级影视| 国产原创自拍| 麻豆黄站| 一级一性爱免费视频| 奇米四色影视777久久久| 午夜精品探花| 久久中出在线| 免费看污网址| 可能人人看人人摸| 欧美不卡五十路| 一级成人性爱| 天天综合网一91网| 青青草成人视频在线观看二区 | 91美女视频直播| 亚洲色综网| 日韩亚洲欧美中文字幕| 国产熟女乱论| 一区二区三区成人| 色偷偷2020免费视频播放| 一区二区三区不卡视频| 人人做人人妻人人夜视频| 久久国产三区| 久久久三区二区一区| 91视频综合网| 黄片www.| 久久原创中文| 欧洲综合无码| 青青草在线视频人人想人人上 | 九九九九九九免费视频| 巨爆乳一区二区爆乳区| 亚洲色堂免费视频| 国产一区在线看| 偷拍自拍在线视频观看| 黄色十八禁网站| 亚洲资源站| 日韩黄色一区二区三区| juliaann丝袜大战黑鬼| 伦激情人妻另类人妻| 天天日天天爽| 风韵犹存大大大大香蕉| 无码在线亚洲| 91少妇通奸网站| 亚洲日韩人妻中文字幕一区| 国产丝袜美女诱惑| 神马麻豆福利院| 777奇米影视777四色| 龙兴卡官方查询| 欧美天天综合网| 综合久久99| 日韩精品人妻中文字幕不卡乱码| 欧美顶级黄色大片免费| 日本加勒比无码专区一二三| 国产精品久久久久中文字幕| 国产乱人妻精品入口| 懂色aV一区二区天美传媒| 超碰九色| 亚洲欧美骚| 九月丁香婷婷| 加勒比av网| 手机在线人成免费视频| 色哟哟av网址| 国产无马av| KK色在线影院| 亚洲第一页色| 精品一区二区三区国产| 欧美激情综合| 91在线视频国产网站| 天天添天天干电影| 日韩精品在线放| 91久久18禁| 操日韩第| 综合亚洲网| 日韩AV无码中文一区二区| 国产精品在线一区二区| 探花精品视频| 91狠狠综合网| 91少妇香蕉久久精品| 日欧操屄| 少妇高潮喷水无套久久久久久| 操我无码| 精品黄色电影| 亚洲天堂电影网| 日韩钢筋无码高清啾啾啾| 香港澳门日本三级网站| 国产AV人人夜夜澡人人爽麻豆| 精品国产肉丝袜在线拍国语| 91精品国产91久久福利| 午夜天堂精品久久| 久久99午夜精品一区人妻| 日本黄色精品| 一区二区三区日韩欧美| 乱伦av.com| 午夜精品久久久久久久第一页按摩| 丁香五月成人| 久久国产性爱| 蜜臀久久99精品久久久久久婷婷| 五月天综合网| 欧美视频在线第3页| 亚洲天堂一区二区久久| 全国男人天堂网| 好湿好紧好爽 视频| 国产中文字幕在线点播| 亚洲成人在线资源| 97天天做| 激情五月综合网| 国产无码三级视频在线观看| 韩国毛片一区二区三区| 你草精品在线视频| 久久秀这里有精品| 亚欧高清v| 偷拍精品一区二区三区| 啊啊啊 在线| 超碰97网址| 久久XX| 日日操丁香五月天| 日本久久女同性恋视频| 欧美草草高清日韩视频| 天天日美女的B| 800zy一区二区| 久久三| 另类图片欧美激情综合| 91色欧美| 狠狠干2020| 97 超碰 人人做 人人爱| 激情丁香婷婷| 乱伦熟女区| 精品久久久av无码免费| 欧美性色网| 色五月AV在线| 中文子幕一二三| 日本99一区二区| 久久天天摸| 久久久中文| 最近2019中文字幕国语免费版| 一级AV性爱| 久久久久久久免费A片国产成a人亚洲精∨品无码| 偷拍新久久| http://qxhbdz.com| 91Chinese在线| 男女一级A片大黄,一进一出| 日本色婷婷| 国产精点久久久成人| 亚洲小电影免费涩涩成人在线高清 | 欧美人妻一区二区| 狠狠爱AV| 久久九九久精品国产尤物|国产精品爽黄69天堂A片潘金莲,国产亚洲精品第一综合 | 一区二区乱码福利| 国产一区二区三区高清视频| 香伊人在线| 夜夜躁狠狠躁日日躁av| 夜夜欧美| 91色狼| 亚洲欧美电影| 午夜福利国产欧美日韩夜夜| 91碰超| 性影在线视频| 日韩不卡a级视频专区| 久久精品国产亚洲AV片多多 | 亚洲av总站| 欧美色图亚洲特色| 黑丝日韩av丝袜av| 亚洲色情在线影视| 亚州熟妇精品| 天天操狠狠日夜夜干超大胆开放com大香蕉视频在线观看 | 日日夜夜干| 五月丁香综合网| 日本三级久| 亚洲AV免费在线观看| 人人澡综合涩| 人人操人人精品影片| 天天操天天干美女网址导航| 夜夜高潮夜夜爽夜夜爱爱一区| 我想要 啊 啊 啊| 一区二区三区美女超清| 密乳无码| 人妻少妇久久久| 一区=区三区视频| 亚洲自拍欧美色综合| 精彩久久中文| 97国产人人| 国产女人和拘做爰视频 | 欧美宗合色| 婷婷av在线中文字幕| 久久精品国产亚洲AV清纯| 在线视频97| 欧美91精品国产自产| 成全动漫视频观看免费下载| 四虎午夜影院| 天天躁日日躁XXXXYY| 男人天堂2019亚洲| 大香蕉伊人在线成人AV在线观看| 亚州高清AV| 亚洲AV成人精品网站在AV| 爱av免费| 亚洲nv男人的天堂网| 日韩美女高潮喷水视频| 98久久超碰| 99精品视频在线观看免费| 99精品无码| 超碰性爱97| 一本一道久久综合久久| 日本乱人伦片中文三区| 久久99午夜精品一区人妻| 91逼逼女人91| 天天久久| 日本色婷婷| 欧美亚洲厕所精品偷拍91| 国产97在线 | 亚洲| 中国zzijzzijzzwww精品| 天天综合网一91网| 欧美一区二区| 国产亚州日韩欧美看片| 欧美性生活内射| 久久精品熟妇丰满人妻99| 久久一级无码精品毛片6| 亚洲不卡av在线| JuliaAnnXXX888| 狠狠色噜噜狠狠狠狠狠色综合久久| 五月婷婷激情综合| 欧美在线|亚洲| 久久中文字幕一区不卡| 熟妇人妻一区二区| 国产一国产一级毛片古装| 91久久久久久| 日韩中文9| 色色色欧美| 欧美色66| 91人妻最真实刺激绿帽| 2019AV天堂| 农村女一级毛卡片| 精品久久久久,69国产成人精| 国产一线二线三线av| 在线人人人人人人精品超| 91高跟美女在线播放| 久久在线观看免费视频| 精品久一区免费| 免费国产视频| 欧美国产日韩高清在线| 综合少妇网| 婷色五月天| 久久尹人大香焦视| 97最新在线播放视频| 蜜桃网熟妇| 可以免费观看的av| 日韩肏逼视频| 美女AV一区二区| 午夜超爽| 欧美综合传媒| 中日韩熟女| 欧美色图自拍| 国内91熟女人妻丝袜天天精品视频在线 | 加勒比伊人综合| 99在线无码精品秘 入口黑人| 啊啊啊啊啊啊啊在线| 伊人影院综合是一个与深夜成人在线| 激情婷婷丁香网| 激情婷婷| 狠狠色噜噜狠狠狠狠2018| 国产精品久久久999| 国产亲戚伦亲在线| 大香蕉99999| 亚洲。日韩。欧美| 二男一女成人A片| 国产精品毛片| 熟妇女人妻呻吟久久AV| 天天看天天在线精品| 欧美日韩美女精品久草一区二区三区| 欧美在线观看综合国产| 国产色图乱伦| 九九九九免费高| 青草av在线| 亚洲图片欧美色图| 嫩草 我啊~嗯~在线| 性爱动态120秒| 亚洲无码?第一页| 国产白丝精品在线观看| 五十路熟女在线不卡观看一区二区| 久久久一级| 婷婷av在线中文字幕| 俞拍自拍| 中文字幕艹艹| 九九色逼| 日韩国产欧美伦理在线| 激情欧美97| 欧美亚洲国产日本在线,久久精品国产| 小日子操bb在线看| 国产精品96久久久久久| 国产乱码久久久久久| 亚洲五月婷| 精品综合久久久久久五月天| 亚洲性刺激| 1000午夜黄色| 欧美色天堂网在线视频| 久视频在线观看| 丁香六月婷婷综合| 色99色| 人妻少妇av在线观看| www.av在线视频| 岛国片在线视频网站| 国产h小视频在线观看免费| 久久久久久久久久久久色网| 97超碰公开| 欧洲自拍第一页| 欧美91色| 综合情欲网| 亚洲s色图| 锕锕好爽 死我在线观看| 伊蕉97蜜桃97狠狠综合干| 刺激性视频黄页| 五月天黄色av| 色九月综合| 青青草黑寡妇男人天堂| 操学生天天| 自拍二页| 欧美色道啊| 超碰导航97| 嗯嗯不要视频| 91夜色| 国产午夜精品理论片一二三区区| 黑人免费福利视频| 无码精品久久| 91社操逼| 综合网色| 亚洲国产欧美日韩精品一区二区三区,国产一区二区三区在线看片,欧美性猛交 XXX | 1000部熟女视频在线观看| 欧美精品69性爱| 国产亚洲日韩欧| 视频在线观看免费一区二区三区| 人妻日日干| 人妻人人操| 另类图片五月| 92久久| 日韩日本欧美在线观看| heyZO天然素人无码AⅤ专区| 亚州AV无码国产精品| 久9热| 国产乱婷婷精品二区三区| 午夜精品久久久99| 男人天堂无码| 欧美一区二区男人天堂| 久久一区二区高清免费| 日本欧美成人片AAAA| 日本一二三高清| 99热国产| 中文字幕欧美日韩三级| xxxx网站亚洲精品| 五月天社区| 夜夜操天天肏| 欧美瑟综合| 大屁股人妻女教师撅着屁股| 国产成人www免费人成看片| 久久婷婷一区二| 色天欧美| 插入逼91| 超碰狠狠操| 色欲人妻一区二区在线| 9精品久久久久| 国产亚洲日韩欧| 十八禁视频网站| 97天天做| 1240青青草一区二区三区视频天爱| 午夜无遮挡男女啪啪视频| 久久婷婷五月| 亚州九九九精品视频| 青青草中文字幕| 国产精品免费美女视频| 97色视频在线| 精品午夜福利导航| 亚洲九区| 亚洲精品国产熟女久久久| 日本在线观看网址| 日本九九九九| 久久久久久久久久久久久女过产乱-少妇高潮一区二区三区喷水-成人AV | av午夜玫瑰| 丝袜足交视频| 九九综合久久| 大香蕉综合在线| 亚洲高清视频在线免费观看| 91人人臊| 久久久久久裸体| 成人小说视频在线精品欧美| www.狠狠干.coom| 亚洲黄色电影| 婷婷丁香五月激情啪啪| 物业黑人 AV一区| 爽极品影院| 国产大片精久久久久久| av网站免费看| 久久久影院| 日韩有码中文字幕女同性恋| 国产成人精品亚洲日本| 欧美精品欧美精品系列| 久草网站免费在线观看| 久久少妇人妻| 成年女人黄网站| 动漫区日韩区欧美区| 夜夜草我| 日本中文字幕高跟| 亚洲日韩在线a不卡99精品| 亚洲精品久| av网站免费看| 欧美日日夜夜| 一级人妻性爱视频| 伊人国产视频| 色色香蕉| 亚洲色棕合| 日韩性爱网址| 欧亚三区动漫| 欧美久久九九| 久久国产在线一区二区| 99青青草国产视频| 亚洲精品无码久久AV| 综合网97| 天天做天天爱| 亚洲男人天堂网| 天天干天天日天天射黄色片| 日本激情免费大片| 青青草华人在线欧美在线| 亚洲成人网站在线观看| 国产精品日日摸夜夜添骚逼| 91美乳| 家庭乱伦性爱av| 久久久免费高清中文视频| 九九精品热| 国产无码精品久久久久久| 国产熟妇一区二区| 黄色一级视| 久久免费9| 午夜精品久久久99| 丰满人妻av一区二区三区| 国产精品久久久亚洲第一牛牛_在线观看| 男人的天堂2010| 欧美亚洲国产91在线| 狠狠躁日日躁夜夜躁A| 日韩免费性爱视频在线观看| 2017天天操| 99亚洲人人| 高清国产av无码| 男女无套 免费网站| 欧美国产有色电影| 丁香五月婷婷基地| 午夜亚洲国产理论秋霞| 91情色在线| 欧美日韩少妇色情| 欧美性爱五月天| 欧美黄色大片在线观看| 亚洲欧美洲综合| 国产亚洲色婷婷99精品91| 日本道久久综合色色| 人妻少妇久久中文字幕一区二区 麻豆| 久久免费精品96| 91欧美| 美国一区二区三区视频| 婷婷久月| 国产精品大屁股999| 日本一二区免费| 色丁香久久| 岛国激情视频在线观看| 欧美色图亚洲色| 日韩特一级久久| 熟妇艹鸡八| 亚洲少妇色| 最新中文字幕在线亚洲| 国产精品99久久久www| 免费αV在线视频| 999热这里只有精品| 超碰97在线中文| 日本青青草在线| 中出91| 久久亚洲精品成人av| 日韩一区二区精彩视频| 久 久无码人妻AV| 中文字幕免费在线观看| 天天插夜夜爽| 国产99热| 狠狠色丁香| 国产av强奸美女| a片久久久久久久久久久久| 天天综合站| 亚洲91网站| 91精品丝袜久久久久久无码人妻| 91oumei| 欧美色色色| 国产大学生高潮在线播放 | 色婷婷网| 五月婷婷爱六月丁香色| www色日本| 亚洲 国产 精品一区| 日韩精品碰碰| 日日噜噜夜夜狠狠视频无| 在线观看不卡一区二区三区| 明星性猛交ⅹxxx乱大交| 色欲av国内精品久久久久久| 后入国产| 精品人妻一区二区三区日产| 中文字幕三四五区| 国产在线精品偷| 久久精品国产亚洲AV无码电影| 成人性爱视频在线看| 麻花豆传媒剧国产MV出差| 人人摸.人人色| 美女尤物人人操| 久久精品国产亚洲AV嘿嘿| av无码av无码专区| 亚洲天堂7777| 色婷婷丁香| 成人欧美一区二区三区黑人一| 久久久久9| 色蜜AV| 激情露脸爱| 国产盗摄美女如厕大神作品在线观看| 一区二区三区蜜桃成人撸久久东京热| 亚洲和欧美裸体美女双飞视频| 人人搡人人肉久久精品| 精品人妻伦一区二区三区久久| 精品二区三四区五电影 | 国产小黄片在线免费观看| 在免费jIzzjIzz在线视频| 日本中文字幕在线视频| 夜夜操天| 青青草成人视频在线观看二区| 久久人妻一区二区三区高清| 欧美色性情| 日本高清免费一本视频在线观看| 久草免费福利在线播放| 你懂得91| 午夜成人福利影视| 熟女露脸激情自拍视频| 三级色影综合网| 最新国内自拍av免费| 黄片免费看黄片免费看| 色色99| 日韩 成人 有码| 天天色综亚洲91污| 人妻少妇久久久| 粉嫩少妇自慰在线| 91欧| 一区二区三区黄色片a| 亚洲高清无码免费观看视频| 97久久资源| 国产99999久久精品| 日本一二区不卡| 人妻系列无码专区中文有码| 综合日本女人伊人| 欧美亚洲综合999| 人妻少妇久久中文字幕一区二区 麻豆 | 7777奇米影视久久| 色色五月婷婷| 9久精品视频在线观看| 蜜臀久久久99久久久久| 日本一级婬片试看三分钟| 亚洲男人bt天堂| 亚洲人综合| 亚洲春色欧美激情自拍| 99热免费| 91精品操美女| 欧美αv.com| 大香蕉 222| 后入国产| 一区二区三区机械有限公司| 久草热制服丝袜在线观看| 日韩肏逼视频| 婷婷色综合| 老色鬼成人精品视频下载大在线观看| 免费观看网黄| 好湿好紧好爽 视频| 91n.欧美| 无码聚合| 日本久久999| 强奸国产精品视频| 蜜臀AV成人精品蜜臀AV久久| 久久春色| 91视频国品一二三区| 啊啊啊 在线| 欧亚性爱啪啪| 成人精品欧洲亚洲| 26uuu偷拍亚洲欧洲综合| 国产精品欧美在线观看| 欧美网站免费| 亚洲天堂资源| 亚洲精品啪视频| 91欧美性| 日韩AV无码中文一区二区| 欧美天堂超碰97| 青草草免费网站av| 青青草手机在线免费观看| 亚洲无码偷拍| 国产超碰在线一区| 九九精品无码专区免费| 75大香蕉| 91深夜夜| 色五月激情AV在线| 欧美三级中文字幕hd| 亚州图片第一页| 国产伦乱91| 凹凸 69堂 在线播放| 精品成人av一区二区三区在线| 91n.欧美| 99色综合| av网站免费看| 磁力99AV| 中国乱伦一区二区| 国产日韩中文字幕欧美| 久久精品99| 亚洲乱妇p22| 男人的天堂在线2| 一区操逼| 亚洲综合 欧美| 亚洲av乱伦色图网站| 色色97爱| 1024亚洲中文字幕久在线看片你懂的| 私人尤物在线精品不卡| 国产在线播放成人免费| 欧美日不卡| 欧美一级美片在线观看免费| 一二三四视频在线社区中文字幕| 91精品啪在线观看国产城中村| 新91视频.cmp| 人妻久热在线| 在线无码网站| 台湾佬大香蕉| 欧美 日韩 国产传媒| 欧美不卡二区| 人妻丝袜一区二区三区在线| 嗯阿好爽好紧| 国产一区二区av综合| 亚洲日韩美女丝袜美腿人妻视频| 东京热一区二区三区四区五区六区| 成人七区| 欧美91变态| 天天干人妻| 夜夜爽77777| 亚洲欧美自拍偷拍| 久草资源在线| 日本精品性生活久久久| 国产激情视频在线观看| AⅤ片水多多| 97在线观看免费| 日韩天堂av电影在线观看| 99久久e免费热视| 国产精品视频在线观看| 亚洲性猛| 中文字幕 一区二区 亚洲无码| 亚洲无码一二三区| 国产精品人妻无码久久久互動交流 | 欧美亚州手机在线| 亚州免费啪啪视频| 欧美97爱| 天天欧美97| 久久中出在线| 91N欧美| 国产一区二区在线电影| 家庭乱伦国产精品| 99re久久| 九九九精品色乱九九九| 91视频观看网站| 操人无码| 天天视频黄网站| 天天夜躁日日躁狠狠2002| 成人青青草原伊人| 亚洲综合色在线| 久久一二三四不卡| 毛片中心9视频99| 免费一级视频特黄色大片| 操逼天美3区| www国产无码| 天天干18禁| 久久久久久久久9| 色亚州人久干视频在线观看免费版| 91 国产丝袜在线放观看 | 國產尤物AV尤物在線觀看| 四虎国产精品永久入口| 亚洲欧美高清| 麻豆亚洲AV成人无码久久精品| 91日日夜夜| 91AV天美在线视频| 中文字幕视频免费| 91天射| 欧美日韩国产电影| 99综合自拍| 天堂精品小草| 91亚洲欧美色图| 久艹伊人精品综合在线| 亚洲天堂女优在线| 97爱免费插| 国产精品久久久亚洲一区| 成人日韩欧美| 99热精品在线播放| 依人大香蕉| 五月香婷婷| 激情久久久| 久久久久免费少妇| 超91综合网| 国产视频一区二区在线| 久久这里精品国产99丫e6| 7月婷婷综合| 开心六月色| 北京美女一区二区| 熟女网站最新| 亚洲欧美综合网站| 美女91网址 | 亚州国产精品乱| 色哟哟的毛片| 香蕉一区二区三区在线视频| 久久伊人网视频一区二区三区| 亚洲精品一二三四区| 亚洲av热热色| 欧美影音在线| 91久久久久| 九九久久玖玖| 尹人免费观看视频在线| 国产av波波国产精品| hd成人一区二区在线| www.色婷婷| 久久精品视-一级做a爰片性色毛片16美国-中国女与老外在线精品 | 最新一二三区视频| 欧美综合在线91| 91劲爆| 欧美翘臀视频网站一区二区三区| 2024年最新色情网站在线观看 | 精品免费国产二区三区| 曰韩少妇无码| 天天欧美| 激情天天视频| 人人插人人搞人人操| 丝袜美腿欧美| 日本熟妇浓毛hdsex| 白丝被操91| 欧美激情中文字幕另类小说| 五月天成人综合| 99九九久久| 精品免费成人久久| 欧美成人一级麻豆| 久草视频在线视频在线视频在线观看| 色欲天天综合网| 中文久久一区| 亚洲人妻久久久| 亚洲AV成人精品网站在AV| 久久久精品无码亚免费| 国产高清1234区| 韩国嫰模上门援交视频| 97亚洲综合影院| 性爱乱伦网址| 日韩影片中文字幕一区二区三区| 99国产精品自在自在| 激情综合网亚洲| 久久久成人国产精品无码| 毛片17S| 91亚洲黄色网| 欧美的性爱网站免费| 干婷婷综合网| 91中文精品日韩欧美在线| 日日骚一区二区三区| 国产精品人人爽人人做可爱福利| 亚洲激情在线| 国产女人9999| 天天干天天舔| 日本精品一区三区| 大但人体久久久久| 一级性爱啪啪视频| 色婷婷aV一区二区三区麻豆综合| 午夜九九| 99色热国产视频精品| 91在线美女| 97视频播放| 黄色视频特级毛片| 蜜屁Av| 国产超碰AV在线精品| 最新AVzaixian| 亚洲欧美洲综合| 亚洲国产午夜真人一级片中文字幕精品黄网站 | 伊人991| 久久综合18p| 日本一卡二区在线| 亚洲暴力强奸AV| av天天在线| 中文字幕一区二区三区字幕| 好吊色在线观看| 网友自拍第1页| 久久香蕉网| 日韩97超碰| 国产99 中文字幕日韩小视频| 好爽免费视频,| www.91逼逼.com| 一区二区视频你懂的| 中文字幕精品一区二| 蜜臀精品1区2区| 9久在线视频只有精品| 免费的av网| 国产精品懂色tv影视免费观看| 亚洲综合网电影91| 丰满人妻区一区二区三| 六六久久日韩不卡| 亚洲综合999| 91人妻人人妻| 中文字幕天堂在线| 图色综合网| 亚洲av无码成电影在线播放| 国产亚卅97| 国产精品久久久久久无码红治院| 神马久久久久久久久久| 高潮毛片无遮挡高清免费| 亚洲欧洲日产国产综合网| 最新三级网址| 操死我了啊啊啊| 精品国产片亚洲一区| 亚洲毛片久久| 少妇国产不卡| 激情小说日韩无码| 欧美亚洲涩涩| 色牛牛AV| 玖玖久久久| 97内射偷拍| 美国人人操人人操| 国产中文日韩欧美一区二区三区人妻丝袜美腿 | 丝袜熟女2P| 日婷婷| 国产自啪精品视频网站黑丝| 九色视频91| 色综合加勒比| 99热 按摩 日韩| 久久欧美性爱视频| 久久久久久久97| 亚洲自拍欧美国产首页网曝| 国产极品美女高潮无套在线观看| julia国产在线 | 熟妇综合一区二区三区| 操死我了嗯嗯嗯| 99色天堂| 欧美十八禁视频| 国产女人和拘做爰视频| 少妇精品久久久八区九区| 天天操夜夜操| 天天色天天干天天爱| 亚洲综合色图欧美| 欧美色66| 激情色播| 日韩在线一区高清在线| 色亚洲欧美| 884t在线| 99性爱视频| 国产精品国产自产高清AV| 蜜臀99精品国产高清在线观看| 哈哈操电影AV| 色色色色网站| 国产精品盗摄 偷窥盗摄| 美女91网址| 伊人一区二区三区| 99无码精品| 乱论91| 日韩特级毛片免费观看全集| 欧美日韩亚洲国产中文永久天天看| 性色avv| 亚洲乱熟女一区二区三区大香蕉| 人人操人人爽人人操人人| 亚洲双插| 亚洲综合九| 日韩av熟女一区二区三区成人| 国产亚洲国产超碰| 十八禁av无码免费网站APP| 97色色色| 伊人网在线点播| 欧美 亚洲 另类 综合| 99999无码| 99成人| 日韩精彩免费| 国产热av| 男人久久精品| 久草精品热视| 激情综合网激情五月天| 亚洲少妇综合在线播放| 婷婷在线视频在线观看| 高清孕妇孕交 交| 熟妇一区,二区,三区。| 欧美日动态视频| 久久熟妇五十路一区| 混色激情av| 男人的天堂亚洲| 激情五月天丁香| 狠狠色综合网| 午夜福利成人免费视频| 粉嫩粉嫩一区性色AV片| 人妻天天爽夜夜爽2| 久久草在线综合视频| 国产精品美女在线一区| 欧美中文字幕日韩在线| 欧美日本成人一区二区| 天美传媒婬乱在| 超碰在线91| 国产精品久久久亚洲第一牛牛_在线观看 | 欧美精品,四区。五区| 丝袜翘臀后入欧美校园亚洲自拍另类小说一区中文字幕少妇诱惑 | 99这里只有精品| 丁香五月激情综合| 激情五月婷| 91 刺激在线| 精品国产乱码久久久久久久久1 | 噜噜噜噜久久久精品免费| 欧美日韩小说| 免费在线视频97| 亚洲人妻久久| 欧美第一页| 亚洲A曰本VA欧美VA视频| 级做a爱无码性色永久免费| 亚洲av无码成电影在线播放| 黄色视频60分钟| 精品亚洲国产成人av网站| 欧美,日韩,亚洲视频| 欧美在线播放aaaa|