日韩精品一区二区三区在线视频放-无码中文字幕V?一区二区-成年片免费观看视频-国内少妇人妻丰满av-国产精品中文字幕免费观看-亚洲成人久久一区二区三区-国内少妇偷人精品视频无缓冲-一区二区国产精品日本一区二区三区在线网

ARTICLE DETAIL

資訊詳情

深耕商務(wù)建站與企業(yè)官網(wǎng)運營的一線實戰(zhàn)洞察。

黃金期貨預(yù)測:線性回歸與MLP的實證對比

黃金期貨預(yù)測:線性回歸與MLP的實證對比 簡介在金融時間序列預(yù)測中多元線性回歸與多層感知機MLP是兩類代表性的建模方法。線性回歸以可解釋性和高效性見長而MLP通過非線性激活函數(shù)具備逼近復(fù)雜映射的能力。在量化交易與風(fēng)險管理場景下如何選擇更合適的模型取決于數(shù)據(jù)中信號的本質(zhì)。黃金期貨價格受宏觀因子驅(qū)動但日頻收益率信噪比極低其可預(yù)測模式可能以線性關(guān)系為主。本文以上海期貨交易所滬金主力合約為樣本系統(tǒng)梳理數(shù)據(jù)清洗、平穩(wěn)性檢驗、格蘭杰因果檢驗等流程并設(shè)計公平的滾動回測評估。實證結(jié)果顯示兩個模型預(yù)測精度幾乎持平線性回歸在計算成本和解釋性上更優(yōu)。該結(jié)論為金融時序建模中模型選型提供了參考也揭示了復(fù)雜模型并非必然優(yōu)于簡單基線這一核心觀點。 做黃金期貨價格預(yù)測研究時多元線性回歸和多層感知機MLP這兩個模型經(jīng)常被拿來放在天平兩端。這次項目我?guī)е暗降渍l更適合預(yù)測滬金價格”這個疑問把一整條量化研究流程跑了一遍數(shù)據(jù)清洗、平穩(wěn)性檢驗、格蘭杰因果檢驗、兩套模型訓(xùn)練、滾動回測驗證。結(jié)論不是簡單的誰贏誰輸而是這兩個模型在黃金期貨這個高噪音、弱信號的市場里各自的邊界在哪里。這篇文章我不想只堆結(jié)論我會把整個實驗設(shè)計的邏輯、為什么選這些方法、每一步踩過的坑、以及最終如何公平比較預(yù)測準(zhǔn)確性都攤開來講。適合正在做金融時間序列預(yù)測相關(guān)課題的研究生、剛?cè)腴T量化交易的開發(fā)人員以及所有想搞清楚“線性模型和神經(jīng)網(wǎng)絡(luò)在金融預(yù)測中到底誰更靠譜”的讀者。1. 為什么拿線性回歸和MLP硬碰硬——黃金期貨預(yù)測的建模動機與數(shù)據(jù)底座1.1 黃金期貨的可預(yù)測性從哪里來先說一個很多初學(xué)者容易搞混的事情黃金期貨價格預(yù)測和股票價格預(yù)測看起來都是價格序列但背后的驅(qū)動邏輯差別非常大。黃金是一個具有“避險抗通脹美元計價”三重屬性的品種它的價格變動受到美元指數(shù)、美債實際利率、地緣風(fēng)險事件、全球央行購金行為等多重因素影響。這意味著它不像某些小盤股那樣容易受到資金操縱也不像加密貨幣那樣完全脫離基本面。理論上它的價格波動中有一部分是可以通過宏觀因子解釋的這正是建模的空間所在。但話說回來這個“可解釋的部分”有多大我在這項研究里做了大量特征工程后發(fā)現(xiàn)即使把所有能想到的宏觀變量都放進(jìn)去模型能解釋的日頻收益率方差也相當(dāng)有限。這個現(xiàn)象背后是黃金市場已經(jīng)是一個高度有效的全球定價市場價格在被發(fā)現(xiàn)的那一刻就已經(jīng)反映了大部分公開信息。所以我們做預(yù)測本質(zhì)上是在捕捉“信息反映的滯后性”和“非理性情緒產(chǎn)生的慣性”而不是試圖發(fā)明一套能精準(zhǔn)預(yù)知明天的公式。1.2 為什么選擇這兩個模型做對比很多人在做類似研究時會一上來就上LSTM、Transformer覺得結(jié)構(gòu)越復(fù)雜越好。但我這次刻意選擇了“最樸素”的多元線性回歸和“最經(jīng)典”的多層感知機神經(jīng)網(wǎng)絡(luò)原因有三點。第一這兩個模型在理論上代表了兩類完全不同的學(xué)習(xí)范式。線性回歸假設(shè)因變量與自變量之間是線性疊加關(guān)系每個特征對目標(biāo)的影響是獨立的、可加性的而MLP通過隱藏層的非線性激活函數(shù)理論上可以逼近任意連續(xù)函數(shù)能夠捕捉特征之間的交互作用和非線性關(guān)系。把這兩個模型放在同一批數(shù)據(jù)上訓(xùn)練本質(zhì)上是在回答一個問題黃金期貨收益率的變化規(guī)律到底是被線性關(guān)系主導(dǎo)還是存在明顯的非線性結(jié)構(gòu)第二從工程角度看這兩個模型都足夠透明、穩(wěn)定、可復(fù)現(xiàn)。線性回歸有完整的統(tǒng)計推斷框架能給出每個特征的顯著性水平和置信區(qū)間MLP雖然是個“黑箱”但訓(xùn)練過程可以通過早停、正則化、多隨機種子等策略控制。對于一篇量化研究項目來說可解釋性和可復(fù)現(xiàn)性比單純的精度數(shù)字更重要。第三從對比實驗的公平性出發(fā)模型的復(fù)雜度差異要控制在“考察目標(biāo)”而不是“資源投入”上。如果我們拿線性回歸和一個調(diào)參充分的Transformer對比模型性能差距很難歸因于“線性vs非線性”而更像是“統(tǒng)計推理vs暴力擬合”的差異。所以這次實驗里的MLP沒有刻意堆參數(shù)量只使用了一個兩層隱藏層的結(jié)構(gòu)目的就是讓兩個模型站在盡量對等的條件下去比較。1.3 數(shù)據(jù)集構(gòu)成與來源本次研究的數(shù)據(jù)范圍是上海期貨交易所黃金期貨主力連續(xù)合約的日頻行情時間跨度從2010年1月到2023年12月一共約3200個交易日。原始數(shù)據(jù)包括收盤價、成交量、持倉量三個核心字段。同時我引入了四類外部宏微觀變量美元指數(shù)DXY日收益率——黃金以美元計價美元走勢是黃金價格最重要的反向指標(biāo)之一美國10年期通脹保值債券TIPS實際收益率——實際利率是黃金持有成本的關(guān)鍵變量布倫特原油期貨日收益率——原油價格反映全球通脹預(yù)期和大宗商品情緒滬金期貨持倉量變化率——反映國內(nèi)資金參與頻度和市場情緒這里有一個容易忽略的點國內(nèi)外市場的交易日歷并不完全一致。國內(nèi)黃金期貨有春節(jié)、國慶等長假美國市場也有自己的節(jié)假日如果用簡單的日期索引左連接經(jīng)常會出現(xiàn)錯位一天甚至好幾天的數(shù)據(jù)殘留代碼不報錯但實驗結(jié)果的可靠性會大打折扣。我的做法是先分別把各數(shù)據(jù)源按交易日重采樣再做“交易日歷對齊”確保每一條樣本中所有變量都對應(yīng)同一個真實交易時段。這塊處理細(xì)節(jié)會在下一節(jié)詳細(xì)展開。2. 數(shù)據(jù)清洗與特征工程時間序列建模最容易被低估的一環(huán)2.1 對齊、缺失值與異常值處理數(shù)據(jù)處理這步說難不難但一旦出問題后期所有建模工作都會建立在流沙上。我在第一次跑通流程時就遇到過一個大坑當(dāng)時直接用了Pandas的merge函數(shù)把滬金期貨和美元指數(shù)按日期左連接后來發(fā)現(xiàn)美元指數(shù)的數(shù)據(jù)源有部分日期缺失結(jié)果導(dǎo)致某幾天的特征里混入了前一天的值。這種錯位在日頻收益率這種量級的數(shù)據(jù)上不容易被肉眼察覺但模型效果會默默變差。正確的做法是先把所有數(shù)據(jù)源統(tǒng)一到同一個交易日歷上。我是這樣操作的定義“核心交易日列表”以滬金期貨的交易日為準(zhǔn)對每個外部變量先按各自交易日排序然后使用reindex到核心日歷缺失值向前填充對極端跳空缺口比如向前填充后仍無法填補的日期直接刪除不做插值檢查收益率序列的異常值把單日波動超過5個標(biāo)準(zhǔn)差的樣本單獨標(biāo)記出來確認(rèn)是否存在行情事故。另外在特征構(gòu)造上我不僅使用了原始的宏觀變量當(dāng)日值還加入了它們的滯后項lag 1、lag 2、lag 3。為什么加滯后項因為金融市場對信息的反應(yīng)往往不是瞬間完成的。美元指數(shù)當(dāng)天的變動可能不會立刻完全反映到滬金期貨價格里可能會延遲半天到一天。這些滯后項相當(dāng)于給了模型一個“消化信息的時間窗口”。2.2 為什么不能用原始價格做回歸如果你直接把黃金期貨的收盤價當(dāng)作因變量把美元指數(shù)、原油價格等當(dāng)作自變量跑一個多元線性回歸你大概率會得到一個非常“漂亮”的結(jié)果R2高達(dá)0.9以上各項系數(shù)都極其顯著。但這個結(jié)果是完全虛假的。問題出在“偽回歸”上價格序列通常是非平穩(wěn)的帶單位根兩個不相關(guān)的非平穩(wěn)序列放在一起回歸很容易被趨勢帶出虛假的顯著性關(guān)系。這就像北京和紐約的日均氣溫序列長期來看都在上升或波動但你并不能說北京氣溫是紐約氣溫的格蘭杰原因。它們之間看似相關(guān)其實只是兩個帶趨勢的序列在“各自走路”。所以在實驗中我把所有價格類的變量全部轉(zhuǎn)換成了收益率對數(shù)一階差分流量類的變量如持倉量做了變化率處理存量類的變量如實際利率則使用了一階差分。這是時間序列建模的標(biāo)準(zhǔn)預(yù)處理也是后面所有統(tǒng)計檢驗的基礎(chǔ)。2.3 特征標(biāo)準(zhǔn)化與數(shù)據(jù)泄漏防范線性回歸對特征的尺度其實不太敏感因為它自己會學(xué)習(xí)系數(shù)來適配。但神經(jīng)網(wǎng)絡(luò)完全不一樣特別是使用ReLU激活函數(shù)和Adam優(yōu)化器時如果輸入特征的量綱差異太大比如持倉量是幾十萬手收益率是0.001訓(xùn)練過程會非常不穩(wěn)定甚至出現(xiàn)梯度爆炸。我的做法是在MLP訓(xùn)練前對全部特征做Z-score標(biāo)準(zhǔn)化。但這里有一個很多初學(xué)者都會犯的錯誤標(biāo)準(zhǔn)化要在訓(xùn)練集上計算均值和標(biāo)準(zhǔn)差再用這組參數(shù)去變換驗證集和測試集而不能在整個數(shù)據(jù)集上統(tǒng)一標(biāo)準(zhǔn)化。為什么因為測試集的分布信息一旦混入訓(xùn)練過程模型就相當(dāng)于“偷看”了未來的數(shù)據(jù)分布這叫數(shù)據(jù)泄漏data leakage。在時間序列場景下數(shù)據(jù)泄漏會更加隱形因為你使用的所有統(tǒng)計量都可能攜帶未來信息。這次實驗中我把標(biāo)準(zhǔn)化器StandardScaler只fit在訓(xùn)練集上然后在驗證集和測試集上只做transform。同樣要提防的是時間序列的交叉驗證和普通交叉驗證不一樣。普通K折隨機打亂數(shù)據(jù)是線狀回歸的標(biāo)準(zhǔn)做法但時間序列如果隨機打亂訓(xùn)練集里會出現(xiàn)未來數(shù)據(jù)驗證集里會出現(xiàn)過去數(shù)據(jù)模型就是在拿未來預(yù)測過去結(jié)果會虛高得離譜。這個問題我會在后面評估章節(jié)詳細(xì)展開。3. 平穩(wěn)性檢驗與格蘭杰因果檢驗統(tǒng)計流程如何決定模型上限3.1 平穩(wěn)性檢驗——線性模型的“合法地基”在做任何時間序列回歸之前必須驗證序列的平穩(wěn)性。平穩(wěn)性簡單說就是序列的均值、方差在時間上保持穩(wěn)定未來的波動規(guī)律和過去一致。如果序列帶趨勢或者方差隨時間變化回歸結(jié)果就缺少統(tǒng)計推斷的有效性基礎(chǔ)。我使用的是ADF檢驗Augmented Dickey-Fuller Test原假設(shè)是“序列存在單位根即非平穩(wěn)”。檢驗結(jié)果如下表變量ADF統(tǒng)計量P值結(jié)論滬金期貨收盤價-1.870.35非平穩(wěn)滬金期貨日收益率-31.020.000平穩(wěn)美元指數(shù)日收益率-28.440.000平穩(wěn)布倫特原油日收益率-30.100.000平穩(wěn)10年期TIPS實際收益率-2.310.17非平穩(wěn)TIPS實際收益率一階差分-26.900.000平穩(wěn)這個表說明了為什么不能直接拿價格建模價格序列的ADF統(tǒng)計量只有-1.87遠(yuǎn)不能拒絕單位根假設(shè)而非平穩(wěn)序列之間的回歸會產(chǎn)生偽回歸。而TIPS實際收益率作為存量變量也是非平穩(wěn)的所以我對它做了一階差分。最終模型所用變量全部在1%顯著性水平下平穩(wěn)。這里有一個小建議ADF檢驗的滯后階數(shù)不要隨便填。statsmodels里的adfuller函數(shù)有一個autolag參數(shù)我設(shè)置為AIC讓程序根據(jù)信息準(zhǔn)則自動選擇最優(yōu)滯后階數(shù)這樣更客觀。3.2 格蘭杰因果檢驗——變量的預(yù)測力有多少平穩(wěn)性檢驗通過之后下一步是回答一個問題外部變量美元指數(shù)、原油、實際利率等對滬金期貨收益率到底有沒有預(yù)測能力格蘭杰因果檢驗Granger Causality Test是這個問題最常用的統(tǒng)計工具。它的核心思想是如果加入X的歷史值后對Y的預(yù)測效果顯著優(yōu)于僅用Y自身歷史值做預(yù)測那么稱X是Y的格蘭杰原因。注意格蘭杰因果檢驗并不等同于真正的因果性。它只是說“X的過去信息對Y的未來走勢有一定的增量預(yù)測力”。這有點像天氣預(yù)報里的“云層厚度”和“降雨”的關(guān)系云層厚不一定導(dǎo)致降雨但云層厚度信息確實能提升降雨預(yù)測的準(zhǔn)確率這就足夠作為建模時選入特征的理由了。本次實驗中我用美元指數(shù)日收益率、原油日收益率、TIPS實際收益率差分分別對滬金期貨日收益率做格蘭杰因果檢驗滯后期從1到5分別嘗試最終根據(jù)AIC選擇最優(yōu)滯后階數(shù)。結(jié)果如下美元指數(shù)日收益率在滯后1期時對滬金收益率的格蘭杰因果檢驗P值為0.013在5%水平下顯著說明美元指數(shù)當(dāng)天的變動確實會“帶動”次日黃金價格的走勢布倫特原油日收益率在滯后1期和2期下P值在0.05附近波動邊際顯著說明大宗商品情緒有一定溢出效應(yīng)TIPS實際收益率差分在多數(shù)滯后期下不顯著和理論預(yù)期有出入我猜測是因為實際利率是慢變量對黃金的影響更多體現(xiàn)在月頻低頻維度而非日頻。這里我要提醒一句格蘭杰因果檢驗的結(jié)果會受到滯后階數(shù)選擇的影響。同一個變量滯后1期時顯著滯后3期時可能就不顯著了。所以研究者不能只看一個滯后階數(shù)的結(jié)果就下結(jié)論最好做一個敏感性分析把滯后1到5期的結(jié)果都列出來看看顯著性是否一致。這既是對自己結(jié)論負(fù)責(zé)也是給審稿人看的嚴(yán)謹(jǐn)性。3.3 相關(guān)系數(shù)分析與多重共線性排查在把變量放入線性回歸之前我還檢查了各特征之間的相關(guān)系數(shù)矩陣。為什么因為如果兩個變量高度相關(guān)比如美元指數(shù)和原油在某些時段負(fù)相關(guān)放進(jìn)同一個線性回歸里會導(dǎo)致多重共線性單個系數(shù)的標(biāo)準(zhǔn)誤會變大顯著性結(jié)果不穩(wěn)定。我用的判斷標(biāo)準(zhǔn)是方差膨脹因子VIFVariance Inflation Factor。一般來說VIF超過5就應(yīng)該引起注意超過10就需要考慮去除變量或做降維。本次實驗里所有特征的VIF都小于3這讓我對后續(xù)線性回歸的系數(shù)解釋比較有信心。順帶一提VIF是對線性回歸而言的MLP并沒有這個假設(shè)約束。所以同一個特征集放進(jìn)MLP時多重共線性不會影響訓(xùn)練過程但會影響特征重要性的解讀。也就是說神經(jīng)網(wǎng)絡(luò)可以從高相關(guān)變量中提取共同信號但很難告訴我們“到底是哪個變量起作用”。4. 多元線性回歸實現(xiàn)用可解釋性換精度的基線模型4.1 模型設(shè)定與公式多元線性回歸是我這場對比實驗的“地基模型”。說它“地”不是說它低端而是因為它具備了兩個核心優(yōu)勢一是計算開銷極小幾乎瞬間出結(jié)果二是每個特征都有明確的系數(shù)、標(biāo)準(zhǔn)誤和置信區(qū)間解釋性強。我的模型設(shè)定如下au_ret_t β0 β1*usd_ret_t-1 β2*brent_ret_t-1 β3*d_tips_t-1 β4*oi_change_t-1 β5*au_ret_t-1 ε_t其中au_ret_t滬金期貨第t日的收益率目標(biāo)變量usd_ret_t-1美元指數(shù)第t-1日的收益率brent_ret_t-1布倫特原油第t-1日的收益率d_tips_t-1TIPS實際收益率在第t-1日的一階差分oi_change_t-1滬金持倉量在第t-1日的變化率au_ret_t-1滬金期貨收益率滯后一階用于捕獲價格慣性之所以全部使用滯后特征是為了保證模型在預(yù)測時只使用第t日之前的數(shù)據(jù)不會觸犯時間穿越的禁忌。這在實際量化策略中也是鐵律你預(yù)測未來的依據(jù)只能是過去的已知信息。4.2 statsmodels實現(xiàn)與結(jié)果解讀用Python實現(xiàn)這個模型非常直接import statsmodels.api as sm import pandas as pd feature_cols [usd_ret_lag1, brent_ret_lag1, d_tips_lag1, oi_change_lag1, au_ret_lag1] X data[feature_cols].copy() y data[au_ret] # 添加常數(shù)項 X sm.add_constant(X) model sm.OLS(y, X).fit() print(model.summary())運行之后幾個關(guān)鍵輸出項需要重點關(guān)注R2本次實驗中全樣本擬合的R2在0.03到0.06之間波動。這個數(shù)字乍看很低但在金融時間序列預(yù)測里非常正常。日頻收益率的可預(yù)測部分本來就極弱大多數(shù)時候市場已經(jīng)把信息消化完了。F統(tǒng)計量雖然R2低但F統(tǒng)計量的P值小于0.001說明整個模型的解釋力在統(tǒng)計上是顯著的而不是純噪音。系數(shù)符號美元指數(shù)收益率的系數(shù)為負(fù)符合邏輯——美元走強黃金價格承壓持倉量變化率系數(shù)為正說明資金流入對黃金價格有正向推動。AIC/BIC這兩個信息準(zhǔn)則用于模型比較值越小說明擬合越好且不大可能過擬合。這里我要特別提醒statsmodels的OLS輸出里有一個Durbin-Watson統(tǒng)計量。它衡量的是殘差的自相關(guān)程度理想值接近2。如果DW值遠(yuǎn)小于2比如1.2說明殘差存在正自相關(guān)這意味著標(biāo)準(zhǔn)誤被低估系數(shù)的顯著性可能被高估。我在第一次擬合時DW值大約是1.89處于合理區(qū)間于是放心繼續(xù)。4.3 線性回歸的局限與改進(jìn)嘗試盡管線性回歸給出了“顯著的F檢驗”和“符合邏輯的系數(shù)符號”但它的預(yù)測能力在測試集上依然有限。這讓我不得不追問是特征不夠還是線性假設(shè)本身鎖死了上限為了回答這個問題我用兩種方式做了驗證。第一種是在線性模型中加入更多非線性特征比如美元指數(shù)的平方項、美元指數(shù)與原油的交互項發(fā)現(xiàn)R2幾乎不變第二種是把目標(biāo)變量換成周頻收益率R2上升到0.1左右說明低頻預(yù)測的確定性更強。這給我的啟示是黃金日頻收益率的“信號”本來就非常微弱線性模型能夠捕捉到的就是這么多的線性傳導(dǎo)關(guān)系。如果MLP在測試集上的表現(xiàn)比線性回歸好那么改善部分大概率來自非線性關(guān)系如果MLP也沒有顯著提升那就可以判斷這個市場環(huán)境中非線性結(jié)構(gòu)并不占主導(dǎo)。5. 多層感知機實現(xiàn)神經(jīng)網(wǎng)絡(luò)在金融時序上的優(yōu)與坑5.1 為什么用MLP而不用LSTM或Transformer在部署模型之前你可以會問既然都上神經(jīng)網(wǎng)絡(luò)了為什么不直接用LSTM這類項目如果發(fā)論文多半會用LSTM一類更“高級”的模型。我的回應(yīng)是要看你做這項研究的目的是什么。如果目的是“刷一個最高的預(yù)測準(zhǔn)確率”那確實可以嘗試LSTM、GRU、甚至CNN-LSTM混合結(jié)構(gòu)但如果目的是回答“線性模型是否已經(jīng)足夠”這個研究問題MLP這種純粹的非線性映射器是最合適的對照。MLP不依賴數(shù)據(jù)的時序結(jié)構(gòu)先驗。它把每條樣本當(dāng)作獨立輸入用全連接層去學(xué)習(xí)特征之間的非線性組合。如果MLP和線性回歸表現(xiàn)相近說明“非線性組合”這一能力對黃金期貨預(yù)測并無顯著增益如果MLP明顯更好說明特征間確實存在線性回歸無法表達(dá)的模式。這個歸因在LSTM上就很難做因為LSTM的性能提升可能來自時序建模能力而不是非線性表達(dá)能力。5.2 網(wǎng)絡(luò)結(jié)構(gòu)與輸入特征設(shè)計MLP的輸入特征和線性回歸保持完全一致仍然是滯后一期的美元指數(shù)收益率、原油收益率、TIPS差分、持倉量變化率和黃金自身滯后收益率。為了讓MLP的輸入更豐富一些我額外把滯后2期和3期的特征也加入了輸入矩陣形成94維特征向量5個原始特征共3個滯后階共15維同時我加入了一些窗口類特征滾動均值和滾動波動率。網(wǎng)絡(luò)結(jié)構(gòu)設(shè)為一個兩層隱藏層MLP輸入層15維滯后窗口特征隱藏層164個神經(jīng)元ReLU激活加Dropout(0.1)隱藏層232個神經(jīng)元ReLU激活輸出層1個神經(jīng)元無激活函數(shù)線性回歸頭代碼實現(xiàn)如下import tensorflow as tf from tensorflow.keras.models import Sequential from tensorflow.keras.layers import Dense, Dropout from tensorflow.keras.callbacks import EarlyStopping tf.random.set_seed(42) model Sequential() model.add(Dense(64, activationrelu, input_dimX_train_std.shape[1])) model.add(Dropout(0.1)) model.add(Dense(32, activationrelu)) model.add(Dense(1, activationlinear)) model.compile(optimizeradam, lossmse, metrics[mae]) early_stop EarlyStopping( monitorval_loss, patience20, restore_best_weightsTrue ) history model.fit( X_train_std, y_train, epochs100, batch_size32, validation_split0.1, callbacks[early_stop], verbose0 )為什么選擇64-32這樣的結(jié)構(gòu)而不是更大的網(wǎng)絡(luò)因為在數(shù)據(jù)量只有幾千條的情況下過大的網(wǎng)絡(luò)會迅速進(jìn)入過擬合狀態(tài)。金融數(shù)據(jù)的信噪比極低噪聲會先于信號被網(wǎng)絡(luò)記住。64-32對于15維輸入來說已經(jīng)足夠表達(dá)多數(shù)非線性函數(shù)繼續(xù)加寬加深度只會讓驗證損失回升得更早。5.3 訓(xùn)練過程中最關(guān)鍵的三個陷阱陷阱一特征標(biāo)準(zhǔn)化必須以訓(xùn)練集為準(zhǔn)。我在第2章已經(jīng)提過但這里再強調(diào)一次因為它的影響在神經(jīng)網(wǎng)絡(luò)中比線性回歸大得多。我用訓(xùn)練集統(tǒng)計量標(biāo)準(zhǔn)化訓(xùn)練集、驗證集、測試集代碼里體現(xiàn)為from sklearn.preprocessing import StandardScaler scaler StandardScaler() X_train_std scaler.fit_transform(X_train) X_val_std scaler.transform(X_val) X_test_std scaler.transform(X_test)陷阱二隨機種子不固定結(jié)果不可復(fù)現(xiàn)。神經(jīng)網(wǎng)絡(luò)初始化權(quán)重是隨機的每次運行結(jié)果都會有些許差異。在金融數(shù)據(jù)這種信號極弱的場景下兩次運行的測試集MAE可能在0.0085到0.0092之間飄動。所以我在項目里固定了三個層面的隨機種子Python的random.seed、NumPy的np.random.seed、TensorFlow的tf.random.set_seed。我還把同一次實驗重復(fù)跑了5次不同隨機種子最后取平均值作為模型的最終表現(xiàn)這樣能有效排除“某一次運氣好”的偶然性。陷阱三早停時機的選擇。我設(shè)置了patience20意思是驗證損失連續(xù)20個epoch沒有提升就停止。金融數(shù)據(jù)很容易出現(xiàn)“驗證損失先降后升”的過程早停太早模型欠擬合早停太晚模型過擬合。我在實驗中還加了一條額外規(guī)則restore_best_weightsTrue確保返回的是驗證損失最低那一輪的模型權(quán)重而不是最后一輪的權(quán)重。5.4 訓(xùn)練結(jié)果MLP到底贏了沒有從訓(xùn)練曲線看訓(xùn)練損失在前10輪快速下降驗證損失在20輪左右達(dá)到最低點之后開始振蕩上升。這是典型的過擬合信號早停機制在第43輪左右觸發(fā)。測試集上的表現(xiàn)呢這里有幾個數(shù)字指標(biāo)多元線性回歸MLP5次隨機種子均值MAE0.00860.0087RMSE0.01210.0123測試集R20.0340.028方向準(zhǔn)確率53.1%52.6%這個結(jié)果讓我有些意外但也在意料之中。MLP的表現(xiàn)不僅沒有優(yōu)于線性回歸反而在MAE和方向準(zhǔn)確率上略遜一籌。從統(tǒng)計角度說這個差距非常小幾乎可以看作是兩個模型打平。進(jìn)一步看兩模型在特征重要性上的行為有本質(zhì)差異線性回歸明確指出美元指數(shù)和原油是主要驅(qū)動因子而MLP則把權(quán)重分散到了大量節(jié)點上很難提取出單一主導(dǎo)特征。這引出了一個更深層的結(jié)論在日頻黃金期貨收益率這個預(yù)測任務(wù)上線性關(guān)系已經(jīng)捕獲了絕大部分可學(xué)習(xí)信號剩下的是無法被現(xiàn)有特征集解釋的純粹市場噪音。神經(jīng)網(wǎng)絡(luò)沒有“魔法”它只能從數(shù)據(jù)中學(xué)到確實存在的模式。如果數(shù)據(jù)本身沒有強烈的非線性結(jié)構(gòu)MLP的復(fù)雜結(jié)構(gòu)反而容易在噪聲中浪費時間。6. 評估體系設(shè)計預(yù)測對比中的公平性與魯棒性6.1 為什么不能只用R2判斷模型好壞很多同學(xué)做模型對比時習(xí)慣只盯著R2看。R2高就好R2低就不好。在金融時間序列里這是一件很危險的事。因為R2衡量的是“模型解釋的方差占總方差的比例”而日頻收益率的方差絕大多數(shù)來自不可預(yù)測的隨機沖擊。即使你的模型完美捕捉到了所有可預(yù)測部分R2可能也只有0.05。這時候你更需要用一組有多維度的指標(biāo)來評估模型。我在本次實驗中同時記錄了四類指標(biāo)MAE平均絕對誤差直觀衡量預(yù)測值與真實值的平均偏離程度單位與收益率一致RMSE均方根誤差對大誤差更敏感如果RMSE明顯大于MAE說明誤差分布有長尾模型在大行情階段容易失準(zhǔn)方向準(zhǔn)確率DA預(yù)測收益率方向與實際方向一致的比例。這個指標(biāo)對交易策略尤其重要因為很多策略本質(zhì)上是做方向判斷的勝率與盈虧比結(jié)合的日度策略模擬雖然不屬于標(biāo)準(zhǔn)回歸評估指標(biāo)但在量化應(yīng)用場景下用預(yù)測信號生成一個簡單的“做多做空”策略計算累計收益曲線能直觀看出模型是否有實際價值。6.2 時間序列交叉驗證的最佳實踐除非你想得到一份“看起來特別厲害但根本不可靠”的結(jié)果否則千萬不要在時間序列上用train_test_split(random_state42)這樣隨機打亂的劃分方式。時間序列數(shù)據(jù)的核心特征是有序性未來信息不能參與過去的決策。我使用的是“滾動窗口擴展驗證法”Expanding Window Validation具體流程如下將數(shù)據(jù)集按時間升序排列設(shè)定初始訓(xùn)練窗口長度為1000個交易日每次擴展訓(xùn)練窗口100個交易日滾動預(yù)測未來5個交易日保存每一天的預(yù)測值最后統(tǒng)一計算全部預(yù)測期的指標(biāo)。這種設(shè)計下模型永遠(yuǎn)不會看到它需要預(yù)測的那個時點的任何信息。實際回測區(qū)間覆蓋了2018年至2023年包含了幾輪美聯(lián)儲加息周期、2020年全球流動性恐慌、2022年俄烏沖突、2023年銀行業(yè)危機等不同市場環(huán)境。時間序列交叉驗證的好處就是如果模型在多種市場狀態(tài)下都能維持相對穩(wěn)定的預(yù)測誤差那么結(jié)論的魯棒性會高很多。6.3 模型對比的公平性超參數(shù)與計算資源為了讓MLP和線性回歸的對比盡量公平我在MLP中只使用了最基礎(chǔ)的調(diào)參手段隱藏層數(shù)量和單元數(shù)固定優(yōu)化器用Adam學(xué)習(xí)率使用默認(rèn)值0.001。很多人會問為什么不給MLP也做一下GridSearch網(wǎng)格搜索超參數(shù)這樣MLP的結(jié)果可能更強也更公平。我的回答是在量化研究里“公平”和“合理”是兩回事。我們不是在比拼“誰調(diào)參調(diào)得更猛”而是對比“同等工作量下誰的自然表現(xiàn)更好”。線性回歸沒有超參數(shù)網(wǎng)格搜索對線性模型只影響特征選擇不影響模型結(jié)構(gòu)如果給MLP一整套網(wǎng)格搜索等于人為給MLP增加投入這種對比偏離了模型本身能力的比較。更實際的原因還有一點在真實交易系統(tǒng)中同樣一份特征數(shù)據(jù)和每日更新機制線性回歸從訓(xùn)練到預(yù)測只需要毫秒級而MLP需要更多的時間和算力。如果兩者預(yù)測精度沒有顯著差異那么在實盤場景下我會無條件選擇線性回歸——因為省時間、省算力、好解釋、易監(jiān)管。這個思路對從業(yè)者來說非常有參考價值。6.4 結(jié)果解讀方向正確比絕對精度重要綜合各輪滾動驗證的預(yù)測結(jié)果我發(fā)現(xiàn)一個被很多人忽略的現(xiàn)象預(yù)測絕對誤差和方向準(zhǔn)確率之間并沒有強相關(guān)。某些時段比如2020年3月全球流動性危機模型誤差極大但方向判斷反而是對的另一些時段比如長期橫盤震蕩期誤差不大方向準(zhǔn)確率卻徘徊在50%附近跟拋硬幣沒有區(qū)別。這說明黃金期貨市場的“可預(yù)測信號”是存在但稀薄的。對交易而言一個60%方向準(zhǔn)確率但平均收益幅度很小的信號可能不如一個50%方向準(zhǔn)確率但在大行情中能有效捕捉方向轉(zhuǎn)變的信號更有價值。這也是為什么評估模型時我強烈建議大家引入策略模擬環(huán)節(jié)用信號構(gòu)建一個最簡單的等權(quán)重多空策略看看累計收益曲線和夏普比率這樣才能真正判斷模型預(yù)測結(jié)果是否“有用”。7. 實操踩坑記錄與延伸思考7.1 數(shù)據(jù)對齊錯位最隱蔽的“時間穿越”我在第2章提到了交易日歷對齊的問題這里展開講一個具體踩坑過程。最開始我用的是公共數(shù)據(jù)源直接下載的CSV文件美元指數(shù)和滬金期貨的數(shù)據(jù)日期看起來都一樣于是直接按日期merge。后來在檢查特征相關(guān)性時發(fā)現(xiàn)美元指數(shù)當(dāng)日收益率與滬金期貨當(dāng)日收益率的相關(guān)系數(shù)異常地低幾乎為0而理論上兩者當(dāng)日走勢應(yīng)該高度負(fù)相關(guān)。這讓我起了疑心。追查后發(fā)現(xiàn)美元指數(shù)的數(shù)據(jù)源有一個“時區(qū)標(biāo)簽”問題它記錄的日期是美東日期而滬金期貨記錄的是北京時間。當(dāng)北京時間上午9點開盤時美東時間是前一天晚上20點——美元指數(shù)當(dāng)天的大部分交易時段美東時間白天還沒有發(fā)生。這就導(dǎo)致如果直接用日歷日對齊模型會在北京時間當(dāng)天上午用到美東時間當(dāng)天晚上的數(shù)據(jù)產(chǎn)生嚴(yán)重的前視偏差。解決方法是用美東日期作為美元指數(shù)的“信息到達(dá)日”然后手動偏移一天再對齊滬金期貨。也就是說美元指數(shù)T日的數(shù)據(jù)在T1日的滬金期貨預(yù)測中才能使用。這個調(diào)整對模型預(yù)測結(jié)果產(chǎn)生了顯著影響——調(diào)整后美元指數(shù)變量的滯后一期系數(shù)從微弱的負(fù)值變成了更強的負(fù)值模型效果反而更真實了。7.2 偽回歸的誘惑R2高不代表模型好另一個讓人印象深刻的坑是我在一次探索性實驗中嘗試用原始價格做回歸時R2居然達(dá)到了0.96。當(dāng)時第一反應(yīng)是“發(fā)現(xiàn)了一個超強模型”但冷靜下來用ADF去檢驗殘差發(fā)現(xiàn)殘差本身就是非平穩(wěn)的。這意味著什么意味著回歸結(jié)果完全不可靠R2只不過是在描述兩個帶趨勢序列的“虛假同步運動”。這種情況下就算模型的預(yù)測曲線和真實價格曲線畫在一起非常貼近也毫無意義。因為它的“預(yù)測”本質(zhì)上是用未來的趨勢信息拼湊出來的。后來我把實驗全部改為收益率預(yù)測R2驟降到0.03左右這才是真實世界的映射。這個教訓(xùn)讓我在以后看到任何金融模型“高R2”的報告時第一件事就是檢查它預(yù)測的是原始價格還是收益率。7.3 隨機因素對結(jié)果的影響MLP跑三遍三個答案我在實驗穩(wěn)定性測試中發(fā)現(xiàn)同一個MLP結(jié)構(gòu)、同一份數(shù)據(jù)只改變隨機種子測試集MAE的最大值與最小值之間相差約8%。8%這個波動幅度已經(jīng)超過了線性回歸與MLP之間的性能差距如果不做多隨機種子平均就會得出一個完全相反的結(jié)論你可能會因為某一次運氣好的隨機種子宣稱MLP優(yōu)于線性回歸換了另一個隨機種子結(jié)論立刻反轉(zhuǎn)。所以我強烈建議所有涉及神經(jīng)網(wǎng)絡(luò)的金融實證研究至少要跑5個以上不同隨機種子報告均值和標(biāo)準(zhǔn)差。如果一個模型性能的波動幅度大于它與對比模型的實際差距那“差異”就是統(tǒng)計噪音而不是真實優(yōu)勢。7.4 對后續(xù)研究的延伸思考這次實驗以“線性回歸vs MLP”為核心在日頻收益率的預(yù)測難度下兩者基本打平。但如果你想把這項研究繼續(xù)往前推進(jìn)有幾個方向值得嘗試第一更換目標(biāo)變量。黃金價格的波動率比如已實現(xiàn)波動率比收益率更容易被模型捕捉。MLP在波動率預(yù)測上可能更容易發(fā)揮非線性優(yōu)勢因為波動率本身就具有集群性和非線性特征。第二增加特征維度。當(dāng)前特征集中沒有期貨期限結(jié)構(gòu)數(shù)據(jù)、沒有市場情緒指標(biāo)、沒有人民幣匯率因素。滬金期貨以人民幣計價美元兌人民幣匯率的變化會直接影響滬金價格的定價。加入這些維度可以提高模型捕捉真實驅(qū)動因子的能力。第三分市場狀態(tài)建模。本次實驗結(jié)果在2020年流動性危機期間出現(xiàn)了明顯的誤差尖峰說明單一靜態(tài)模型很難覆蓋所有市場狀態(tài)??梢試L試用馬爾可夫區(qū)制轉(zhuǎn)換模型或簡單的高波動/低波動過濾規(guī)則對樣本分層在每一層里分別訓(xùn)練和預(yù)測。第四用更強的基準(zhǔn)模型復(fù)盤。如果未來想做更復(fù)雜的神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)對比我建議把LSTM、Transformer加進(jìn)來和MLP放一起但一定要控制變量同樣的數(shù)據(jù)清洗、同樣的滾動驗證方式、同樣的隨機種子管理。只有這樣才能準(zhǔn)確歸因不同結(jié)構(gòu)帶來的性能差異。回到本文最核心的問題——在中國黃金期貨價格預(yù)測這個場景下多元線性回歸和多層感知機哪一個更準(zhǔn)我的答案是它們在統(tǒng)計意義上幾乎打平線性回歸以微弱優(yōu)勢勝出且計算開銷和可解釋性遠(yuǎn)超MLP。這個結(jié)論不代表神經(jīng)網(wǎng)絡(luò)沒有價值而是說明在所有模型都使用相同特征的情況下黃金期貨日頻收益率中的非線性關(guān)系并沒有想象中那么強。如果讓我給后來者一句建議那就是任何模型對比實驗先不要假設(shè)復(fù)雜模型一定更好先保證數(shù)據(jù)干凈、檢驗規(guī)范、評估公平再去爭論模型高下。黃金市場的噪音足夠大模型能不能贏很多時候取決于你給它多少可以被學(xué)習(xí)的信號而不是它有多少參數(shù)。本文還有配套的精品資源點擊獲取
返回列表
PREV
查看更多資訊
NEXT
返回資訊列表
欧色网址| 最新日产中文在线麻豆| 青青欧美| 人人 操人人 操人人| 亚洲色图久久精品蜜| 日韩精品资源| 国产精品婬乱一级毛片彝族| 久久久久久久久久久久欧美日| 精品九九| 小草精彩毛片| 一级性爱网| 不卡啪啪视频| 日韩无码服务区| 美女操逼A A| 国产黄a三级三级三级av在线看 | 一二三区操逼国产91| 久久精品性| 欧美天堂亚洲电影院一区在线播放| 伊人影院日本| 日日橹狠狠爱欧美超碰| 欧美日韩电影成人在线| 精品人妻一区春色| 日韩一性一交一A片俄罗斯| 亚洲和欧美裸体美女双飞视频| 亚洲丝袜诱惑| www.色婷婷色综合| 91高潮| www.五月天| 97操综合| 91中出在线| 蜜乳Av成人片网站| 中文字幕乱偷人妻久久艾草网| 巨爆乳一区二区爆乳区| 最新精品久久蜜桃| 大伊香蕉在线视频免费| 国产精品第一页国产大屁股视频免费区i| 国产精品久久久久无码Av网曝门| 天堂伊人久久| 亚洲精品成人激情在线| 熟女少妇视频| 嗯嗯啊啊操死我| 天天做天天爱| 神马午夜久久久| 精品视频在线观看精品| 97亚洲欧美日韩| 欧美人妻二区三区| 嗯嗯啊啊操我| 中文字幕久久精品一区| 婷婷综合网站| 久久精品国产亚洲AV清纯| 麻豆AV一区二区| 999精品国产高清一区二区| 欧美色一二三| 伊人精品久久网站| 亚洲在钱| 人妻啊啊人妻啊| 丰满美女一级毛片在线播放| 久久中久文96| 日本免费不卡二区| 91社操逼| 亚洲影视综合| 九九九九九九视频| 免费观看欧美日韩操逼视频| 超碰美女97| 裸体美女久久久| 成人片在线播放| 五月丁香综合激情| 国产美女销魂在线观看不卡| 国产精品在线免费| 色老汉色| 亚洲国产成人精品久久久国产成人一区二区三. | 色天堂在线观看| 日韩无码专区| 亚洲欧美日韩精品久| 丁香7月婷婷| 狠狠狠狠狠狠| 乱伦图一区| 亚洲久9| 国产天美传媒精品| 女人妻一区| www.91理论| 最新制服中文第一页| 性色高清在线| 天天精品| 国产精品久久久久久照片| 国产农村妇女毛片精品久久| 一区在线精品中文字幕| 亚洲中字慕不卡| 区二区亚洲婷| 午夜呻吟欧美| 深爱激情五月天| 天天天天操| 精产国品一区二三产品| 人妻天天夜夜爽一区二区| h无码动漫在线观看| 精品欧美乱码久| 91精品国久久久久久无码| 又黄又爽在线观看视频 | 亚洲激情天堂网| 精品一区二区啪啪啪| 国产高清无码一区三区二区| 国产一区二区成人av在线播放| nuu12国产麻豆精品| 蜜桃中文字日产乱幕4区| 久久久久成人蜜桃精品| 天天综合精品| 丁香五月偷拍| 亚洲天堂男人在线| 人妻少妇精品一区二区三区| 九九亚洲视频| 亚洲欧洲中文日韩女优乱码| 亚洲欧洲日韩天堂av| 性夜影院爽黄A爽免费动漫| 花花AV导航| 91天天综合在线| 精品无码一区二区人妻久久蜜桃| 伊人991| 成人女人国产| 天天噜| 大香蕉视频啪啪啪啪| 男人天堂最新手机版在线青青草| 啊啊啊啊啊啊啊网址在线观看| 第45页一区二区| 欧美无圣光在线| 综合激情97| 欧美天天谢综合网| 黄色片G G G| 色香综合天天影视综合 | 超碰97首页| 久久最新视频免费观看| 91强在线播放| 国产偷拍自拍在线视频| 国产亚洲精品美女久久久m| 国产美女mm131爽爽爽爽| 丁香六月激情| 一区操逼日比视频| 日本福利二区视频| 91婷婷伊人狠人| 亚洲精品 大香蕉| 9 9精品一区二区三区| 99欧美| 亚洲天堂,男人| 九九久久九九久久| 天天摸夜夜操视频| 97超碰美国| 激情自拍 校园春色| 婷婷伊人一区| 九9精品| 蜜乳av首页| 午夜色婷婷| 91人人臊| 久久久不能久久久久| 1204金沙人妻懂旧版免费| 久久久精| 欧美一二三级精品在线| 久久东京伊人一本到鬼色| 色阁阁AV综合网| 精品国产人成在线| 亚洲毛片基地专区| 亚洲天堂另类| 2021国产成人精品久久| 国内毛片无遮挡国产| 青娱乐福利99| 在线日韩精品一区二区三区| 欧美色图 色综合图| 啊啊啊啊好爽好舒服一区二区易域| 色婷五月| 亚洲欧美精品91| 四虎AV在线观看| 2020中文字幕| 色狠人在线99| 大奶的诱惑| 97干在线视频| 91强热人妻| 亚洲成a人在线观看久| 午夜精品视频777| 欧美拳交在线播放| 2019亚洲男人天堂| 亚洲加勒比久久日本道| 午夜理论片在线观看免费| 在线只有精品| 在线免费试看60秒| 久久精品熟妇丰满人妻99| 久久亚州精品成人Av无| 精品国产肉丝袜在线拍国语| 午夜激情床戏激情| 天天综合91入口| 日韩欧美操逼xxx| 97超碰超欧美。| 无卡一区=区| 色姑娘综合网| 在线人人人人人人精品超| 亚洲国产第一页综合视频| 中国黑人三级片网站上区| 大香交| 自拍啪啪视频| 欧美性爱综合,免费| 天天做日日做天天欢。| 一区久久久二区| 91插B网站| 久久超碰国产一区二区三区| 丁香六月啪| 中国小夫妻勾搭露脸淫荡对白| 日韩AV噜噜噜一区二区三区四区| 欧美A片中文字幕| 九九九九亚洲| 搡老人老9丨女老熟人| 欧美操逼一二三区| 97欧美日韩精品| 懂色中文一区二区三区| 天天操天天插| 天美传媒精品久久视频| 2019久久久久久久久福利| 一区二区激情国产熟女 | 中文字幕av亚洲在线| 亚洲熟妇丝袜在线观看| 亚洲色性| 色色综合网站| 91蜜桃传媒精品久久久一区二区| 中文字幕交换人妻| 老熟妇综合| 尤物网站91| 色99在线| 99热销国产这里有精品| 岛国精品视频在线观看| 天堂精品| 激情五月天丁香社区| 好舒服视频| 美女高潮视频91| 青青草综合在线| 日本操大逼| 5252色欧美在线| 欧美中出| 熟妇女人妻呻吟久久AV| 毛片久久| 淫色网综合| 97视频在线| 色性综合| 美女久久久| 人妻久久久久久| 少妇特黄一区二区三区| 911粉嫩人妻| 96精品一区| 国产Aα| 91N综合在线| 色天使亚洲综合在线观看| 18岁禁 茉莉成人久久| 91 国产丝袜在线放观看| 欧美成人性活片| 夜夜爽爽爽| 99热在线播放| 97香焦色区| 亚洲不卡三级手机播放| 久久熟妇五十路一区| 国产精品麻豆成人av| 艹我哪美一区无码| 污色区网站| 久久久久久久久久久久久久久乱码| 97爱综合| 综合 青草 伊久久 影院 综合| 26uuu久久| 美日韩在线不卡人妻| 伦激情人妻另类人妻| 淫骚熟女一区二区三区| 日韩性爱免费观看视频| 无码av永久免费专区网站| 激情终合网| 操逼无码操逼| 九九亚洲色在线观看| 国产亚洲禁久一区二区| 欧色网址| AV一二区| 国产麻豆一级精品视频| 啊啊啊啊好多水| 欧美中文字幕男人天堂久久精品 | 国产一区二区啪啪视频| 尤物视频视频官网| 欧美成人色| 国产精品无码论坛| 女生久久网| 97亚洲综合电影| 免费av在线播放二区| 色呦呦呦在线观看视频| 999色欧美中文字幕| 婷婷五月花| 麻豆国产97在线| 久久一区二区加油站| 国产成人网站在线观看| 国产呦精品系列在线观看| 亚洲色性情三级| 国产精品探花视频| 免费人成毛片乱码| 97久久久精品| 五月色网| 黄色av网站在线播放| com 首页 18岁 禁区 女优 免费 精选 同城 | 激情露脸爱| 激情 欧美 亚洲 小说| 中文字幕AV片| 日本色日夜干| 久久婷婷欧美| 快点操死我| 自拍大香蕉乱插| 国产精品com| 国产九九九九九九| 精品人妻一区二区三区-国产精品 一个人在线看的黄色电影网站 | 中文字幕在线观看网址| 日韩有码回春沙龙第一页| 91老熟女逼| 中文字幕av乱伦| 国产亚洲精品A在线观看下载| 日本幼女18+| 老汉网| 天天综合,91综合永久| 色色色欧美| 精品久久久av无码免费| 欧美色图 色综合图| 欧洲一级性爱视频在线观看| 久久精品国产亚洲AV高清演员表| 欧美精品宗合| 一二三区精品视频| 色偷偷人人玩人人舔人人操人人摸人人爽| 日本九九久久99播| 国产精品青草综合久久| 亚一综合久久久久久久久久| 无码高清少妇久久| 日韩国产精品人妻无码久久久| 中文字幕黄色一起草| 中文字幕欧美日本乱码一线二线| 97青娱乐超碰久久| 美国久久一二三四| 一区| 999综合色| 影音综合网| 精品无码一区二区| 久无码| 欧美精品第3页| 国产在线精品偷| 精品国产www久久| 亚洲国产一区二区入口| 大香蕉久| 国产大学生高潮在线播放| 成人性爱美曰韩| 亚洲色 国产 欧美 日韩| 老熟女搡BBBB搡BBBB视频| 日韩国产精品人妻无码久久久| 九九AV| 老熟女91| 日韩极品无码B| AVE乱伦| 91在线视频国产网站| 亚洲丝袜诱惑| 黑人免费福利视频| 欧美成熟性爱精品| 新久久AV| 福利在线黄片| 色色无码| 色诱中文字幕| 久草精品一区 | 亚州高清av| 欧美亚州色的图| 国产精品第一页国产大屁股视频免费区i| 久久久九九九九| 狠狠做深爱婷婷久久二区| 搡老女人老91妇女熟女| 亚洲欧美黄| 超碰97久久| 天天视频网站黄| 综合免费无码中文| 婷婷综合网| 天天添天天干电影| 成人综合网 欧美| 天操老女人| 97超碰影音| 欧美色网络| 亚洲精品国语在线播放| 国产精品久久久久久 百度| 欧美一区二区三区日韩| 欧美亚州手机在线| 一级黄碟在线观看| 3级毛片一二| 97干在线| 国产综合网站在线播放| 国产免费一区二区在线A片视频| 97超级久久强资源| 91成人久久| 91亚洲影视| 激情五月综合开心五月| 久久久精品国产亚洲AV无码| xxx亚洲午夜天堂| 天天拍天| 亚洲av青草久久一区二区| 少妇一区二区三区高速| 99综合免费视频| wwe 天天干.com| 欧美91久久久久| 嗯嗯啊啊好爽| 在线综合色| 亚洲欧美大| 精品久久九| 亚洲无码日韩电影| 天天色综亚洲91污| 国产天天看| 91白虎| 国产宅男宅女在线观看| 91爱综合| 婷婷探花久久精品一区| 色视频蜜乳| 大香蕉久久| 亚洲一区二区专区-国产丝袜精品丝袜-成人AV| 亚春色色| 日本熟妇人妻中出视频| 91亚州欧美| 好爽视频在线观看| 91精品国产高清久久久久久,亚洲成人| 97精彩视频网站| 超碰欧美97资源| 十八禁视频一区二区| 久热无码| 亚洲加勒比色图| 国产美女口爆吞精视频| 蜜臀少妇一区二区| 深喉吞精| 殴美大黄片| 欧美中文狠| 久久大黄片| 99热伊人| 国产女主播视频在线观看| 人妻无一区二区三区| 女优视频第10页| 亚洲欧美天| 久久久久久久国产视频| 国产成人主播| 人人看人人插| 成人日韩中文字幕| 20cm女自慰在线日韩欧美| 久久天堂婷婷网| 四虎av在线| 天天干夜夜一操| 麻豆激情综合| 日韩综合成人免费视频| 伊人精品视频| 1769国内精品视频| 亚洲综合影视| 人人摸.人人色| 久草资源在线视频官方总站日韩丝袜美腿 | 69超碰综合| 亚洲男人在线观看天堂| 大香蕉五月天| 久久久久久久| 亚 欧 美 综合| 午夜男人的天堂| 久久午夜伦| 午夜传煤十二区精品| 99久久久久| 东北女人性交| 天天欧美色| 男人在线天堂| 久久久久久久久久久久久久9999| 亚洲无码com| 好湿好紧好爽 视频| 国产精品人妻无码久久久老鸭窝| 亚洲天堂另类美腿| 91人妻精华帖| 一区超碰一区| 67914亚洲精品| 天美91| 嗯嗯嗯,草死我| CCYY草草影院地址入口| 夜草欧美| 新版天堂中文资源8在线| 亚洲成人在线资源| 天天色香欲综合网| 色哟哟AⅤ| 欧美成人色| 日韩精品黄片免费观看| 欧美BT 亚洲色图| 亚州国产精品乱| 亚洲精品97| 日日夜夜青青草母狗| 精品人体无圣光凹凸| 欧亚揄拍偷拍精品视频| 久久婷婷伊人| 97超碰磁| 久久精品男人的天堂| av九九| 在线视频亚洲无码| 日韩综合97P| 大香蕉啪啪网| a男人的天堂久久一级A毛片| 美女丝袜激情小说| 亚洲欧美一区二区三区在钱蜜桃 | 91少妇高潮| 91蜜臀在线久久久久| 都市久久精品激情亚洲| 99久在线精品99re8| 偷拍伦理视频| 黄色AAAAA欧美| 人妻熟女一区二区三区视频| 麻豆天美传媒在线视频天堂| 91GD.COM| 国产精品毛片?v一区二区三区| 欧美亚洲韩国视频十五区| 久久久久性熟视频| 色久桃花影院在线观看| 97视频免费播放| 中国黑人三级片网站上区| 欧美人人AAA| av网站在线看| 精品少妇高潮久久| 亚洲色图国产另类| 天天色综合图片| 超碰在线观看av不卡| 九九热国产| 操淫穴亚洲五月丁香 | 亚洲无码日韩电影| 久久久专区| 99亚亚热| 熟女突然公开看18禁影片 | 隔壁邻居波多野结衣中文字幕| 综合网少妇| 精品一区二区麻豆| 国产欧美伊人| 伦理片秋霞免费影院| A级毛片在线看免费| 久草免费在线视频| 青青草中日韩在线| 九九九久久久久| 亚洲.欧美.丝袜.中文.综合| 亚欧Av| 先锋激情∨在线视频播放| 欧美色图亚洲色| 久久久9 9 9精品| 久久、1234| 国产精品久久久视频| 久久久激情| 少妇高潮对白在线观看| 国产无码高清操逼视频| 福利视频香蕉免费一区二区在线| 校园春色亚洲色图| 快播久久人人aV| 婷婷久草| 亚欧美综合网。| 97精品久久久久久久| 高凊专区人人操| 91黑丝在线播放| 欧美日韩性爱精品| 久久精品一区二区三区蜜桃臀| 婷婷情色五月天| 蜜臀AV一区二区三区激情综合| 99热9| 色色色色电影网| 玖玖资源综合在线视频| 亚欧视频在线| 亚洲欧美日韩免费电影| 黄色片A级一区二区三区| 东北夫妻性偷拍| 美女黄色一级A视频| 中文字幕成人| www.99热| 嗯嗯啊中文字幕| 无码免费一区二区三区啪啪| 九九九九九九九精品视频| 婷婷五月成人| 人人乐大香蕉| 久久久久久大| 精品国产99| 91九九九小逼| 久偷拍欧美日韩三区| 91天天c| 98超碰日本| 成人久久久精品| 97草草| av橘色网站| 超碰吊日色| 天天干18禁| 在线观看中文字幕| 翔田千里爆乳巨臀无码| 尤物网址| 一区在线国产播放| 天天综合色| 久久久久久中文字幕中文字幕最新| 夜夜夜久久| 91日日| 91操人| 久久日韩肥臀| 欧美第一页| 91精品微拍福利| 黄页视频网站野外| 亚洲欧美日韩综合在线尤物| 久久午夜伦| 亚洲熟妇丝袜在线观看| 亚热日本熟女| 青青操在线视频| 97欧美视频| 亚洲,日韩,欧美,成人播放| 青娱乐国产精品| 五月丁香激情综合| 午夜久久一区二区无码中出| 日韩欧美偷拍美女视频| 大香蕉性欧美| 五月亭亭六月丁香| 黄片色区软件| 国产av尤物| 啊啊啊啊啊啊好湿好爽视频| 国产18精品亚洲精品| 婷婷中文字幕| 日本精品免费一区二区三区四区| 国产中文字幕在线| 色吧 综合| 国产无马视频| 91蜜臀在线久久久久| 国产精品不卡一区二区三区| 国产sv美女内射| 中文字幕,人妻,日韩| 欧美性爱另类综合| 亚洲AV资源| 久9综合在线| 婷婷婷婷婷婷久久久久| 一级啊性爱在线视频| 欧插网站| 男人的天堂三级| A级国产欧美激情在线| 亚洲蜜桃V妇女| 久久色一区| 久久激情视频| 免费1级a做爰片观看| 五月婷婷六月激情| 日日夜夜模| 亚洲无码视频免费在线观看网址!| 男女激情黄色网址| 国产精品视频电影| 久久精品国产97欧美精品亚洲 | 自拍六区| 国产精品自在线发布| 极品粉嫩一区二区| 啊啊啊啊免费视频| 国产亲戚伦亲在线| 69精品人人人人| 性91| 91精品丝袜在线观看| 好看的91视频| 欧美日韩1234| a在线观看| 日韩大香蕉精品在线视频| 久久国产在线一区二区| 成人欧美一区二区三区黑人一| 欧美91久久久久| 婷婷干黄色| 欧美午夜精品久久久久久超碰| 婷婷探花久久精品一区| 国产精品久久久久亚洲av| 亚洲一区二区三区麻豆传媒| 九九亚洲| 91大学精品激情戏| 日天天九九天堂666| 思思性爱| 在线中文AV| 欧美A片中文字幕| 婷婷伊人一区| 人人操人人色网| 中文字幕五区| 97久久国产精品女不卡| 五月丁香综合啪啪| 中文字幕熟女人妻丝袜丝| 亚洲国产一级精品毛一级精品看免费视频 | 黄色小说亚洲| 肏逼视频日本| 夜夜操av亚洲一区二区| 2017av无码免费无线播| 色av中文字| 天天色欧美| 久久精品小视频| 啊啊啊啊好多水| 无码99| 久久久久久九九九| 极品五月天噜噜| 欧美天天综合网| 97人肏| 毛片一区二区| 91精品人妻一区二区三区蜜桃臀| 日本阿v天堂在线观看| 日韩美脚一区二区网站| 水多多映视AV| 图色综合网| 国产亚洲精品一区二区三区| 大香蕉天天看妹子| 精品国产乱码| 热久日综合| 国产精品久久久久亚洲av| 超碰久久网| 中文字幕免费看大片| 精品十八在线观看| 久久黄黄| 无码不卡八戒| 久久少妇人妻| 中文久久爆乳| 日韩少妇无码| 九九热超碰97亚洲最新香蕉| 国产欧美成人第一页在线观看| 99re在线视频国产| 丁香五月性爱| 放黄片放3级黄片没穿衣服| 久久一区,青青青青草视频在线播放| 国产高清视频无码在线| 清清一区二区三区四区不卡视频| 国产强奸无码乱伦| 中文幕97| 国模少妇一区二区三区| 国产一二三在线视频五十路| yirendaxiangjiashipin| 久久久久久久伊人精品| 大屁股国产在线视频| 超碰人人在线| 日本影视久久免费| 国产四虎在线| 国产高清无码一区三区二区| 国产欧美日产一区二区三区 - 国产欧美日| 亚洲国产成人高清在线| 少妇久久久久| 成人欧美日超碰| 亚洲成人综合在线| 亚洲欧美色图小说| 国产99999| 免费97视频| 国产伦精品一区二区三区在线观| 久九九九九九九九热| 久久天天性久久伊人| 人妻丰满熟妇一区二区三| 免看60秒涩涩视频| 超碰日本97美女人妻人人玩人人爱| 人人操人人干xxx| 久久久久久久久久久久久女过产乱-少妇高潮一区二区三区喷水-成人AV | 人妻天天爽夜夜爽爽| 免费又黄又裸乳的视频| 变态另类专区| 毛片视频白嫩| AA特级绝黄| 91黑人狂躁丰满熟妇| 天天操美美| 黄污污污污| 国产精品黄色三级av| 久久精品无码熟妇一区二区三区视频导航 | 色99在线| 国产精品视频自拍在线| 国产白丝AV| 亚洲区限制级| 国产精品天美传媒| 伊人久操| 影音先锋少妇| 另类图片五月天| 蜜臀久久在线视频| 色丁香五月婷婷| 免费又黄又裸乳的视频| 精品人妻少妇| 热热色色综合| 另类亚洲图色| 人妻少妇色综合| 国产综合网站在线播放| 亚洲国产精品久久AV| 亚洲欧美国产精品久久久久久久| 97超久碰| 极品白嫩福利在线| 97婷婷色| 欧美网站免费| jizzjizz欧美| 天天干天天舔| 亚洲婷婷丁香在线| 啊啊啊啊好疼| 欧美日韩人妻精品一区二区三区| 日韩中文字幕av在线播放| 日本特黄f c2| 久操精品网| 97国产高清视频在线观看| 懂色av一区二区三区天美传媒| 超碰色美女| 在线黄色污污网站| 麻豆黄色五月天| 95人妻爽爽人人做人人澡| 日韩黄色一区二区三区| 欧美不卡二区| 亚洲欧美在线观看无码| 100啪啪视频大全| 大香蕉78| 天天综合欧美| 91性网| 老熟女综合网| 91中文字幕在线观看| 日韩特一级久久| 日本中文字幕一区| 亚洲综合69| 天天插夜夜爽| 天天内射| 天天摸天天碰天天添青青| 亚洲熟妇图片| 北条麻妃99精品青青久久| 操久久久久久| 国产丝袜视频| 日本91白丝| 91婷婷伊人狠人| 青青草视频久久| 久热伊人99re| 特污免视频| 亚洲AV无码天美传媒一区| 精品少妇一区二区三区免费观看| 91neishe| 国产九九久久久精品| 97激情97激情| 操操操操网黑人| 黄色不卡视频| 夜夜青青无码影院| 自拍第一页| 亚洲第一视频 欧美风情 日韩| 欧美成人精品欧美一级乱黄一区二…| 91白虎| 性猛交| 26uuu成人影片| 亚洲高清无毛一区二区| 韩国一级AAA| 新婚人妻扶着粗大强行坐下| 亚洲欧美国产日本一区二区三区| 99精品在线观看| AV天堂丝袜| 日日夜夜青青草母狗| 久热久操| 黄页网站成人免费| 爱爱动态60秒| 国内精品嫩模A∨私拍小视频| 情趣丝袜无码操逼视频| 无码操逼网| 国模精品一区二区三区苹果色戒| 啪啪综合网| 天堂日本亚洲欧美| 亚洲欧美setu| nuu12国产麻豆精品| 中日韩久久久免费看| 狠狠爱夜夜| WWW操逼| 人妻精品一区二区在线| 美女刺激久久国产欧美| 日本999精品视频| 啊啊啊啊啊好舒服视频| 免费在线视频97| 国产无码精品成人| 国产粉嫩出水在线播放| 一色网男人的天堂| 高清肉丝中文无码| 人妻 欧美亚洲| 激情小说亚洲色图| 中国大陆国产高清AⅤ毛片| 欧美黄色片AAAAA| 男人的天堂在线2| 亚洲清纯唯美| 久久永久无码人妻视频| 约操熟妇| 青青11操操操操操操操操| 久久97资源 网| 国产丁香精品露脸视频| www.亚洲黄色| 91精品国产麻豆国产自产在| 夜夜操av亚洲一区二区| 天天操天天7| 2020久久免费视频| 全免费a敌肛交毛片免费| http://qxhbdz.com| 四虎精品一区| 视频国产成人精品日本亚洲18| 中国探花熟女| 成人女人国产| 97视频在线观看免费高清| 亚洲国产欧美一区二区潘金莲| 在线只有精品| 91性生活久久久| 2017,超碰| 久久九九视频九九视频| 97超碰国产亚洲精品资源| 东北操逼| 综合伊人激情| 久久极品伊人| 亚洲情色 无码专区| 白丝被操91| 无码色| 伊人久久亚洲色欲综合网站 | 99热这里都是精品| Aa东京男人的天堂| A级在线视频| 丁香六月天| 日本不卡免费二区| 蜜乳AV一区| 用力操死我| 国产精品96久久久久久| 日本国产欧美高清在线| 农村妇女精品一区二区| 国内偷拍精品一区二区| 人妻加勒比东京热| 欧美日韩不卡传媒| 91 亚洲 欧美 日韩 国产 综合| 亚洲区限制级| 美国日韩黄片| 麻豆天美国美国产| 搡老女人老91二区| 九九热精品| 国内毛片四区| av天堂手机版追回| 九九九九九九免费视频| 亚洲色系另类精品国产| 物尤视频一区二区| 国产无码三级视频在线观看| 超碰97精品在线| 九久精品| 吻戏激情性巴克| 哈哈操 大香蕉| 亚洲精品久久久久久久蜜桃臀| 九九九热精品| 久久av成人无码免费| 精品国产乱码久久久兰草影视| 黄色香蕉视频网站一区| 蜜臀亚洲中文| 久久一二三四| 色噜噜国产在线| 欧美色图电影| 黄污污污污| 天天亚洲| 久久超碰爱| 97在线看| 人人爱夜夜爱| 成人av毛片在线观看| 久超超碰| 欧美黄色片在线播放| 婷婷另类小说| 在线岛| 91超碰在线播放| 欧美疯狂做爰xxxx| 欧洲亚洲综合| 激情久久久| 91色夜| 久久精品国产精品亚洲艾通辽熟妇| 91亚洲欧美激情| 久久天天摸| 国产精品久久久啊| 丰满搜索结果 -第18页- 久久高清无码| 岛国黄片网站| 97视频900| 91精品国产高清久久久久久,亚洲成人 | 美女一区二区国产精品| AV天黑人| 色五月婷婷五月天| 亚洲av噜噜噜噜噜噜| 激情终合网| 秋霞影音一区二区三区| 婷婷丁香人妻 | 久久二| 亚洲国产综合久久久性感熟妇| 欧美性爱免费短视频| 精品欧美日韩在线观看| 亚洲人人操| 亚洲97| 97超碰久| 久久久久9999| 1024久久高清视频| 人人操人人摸人人看人人插| 少妇500双飞99| 国产精品爽爽va在线观看98| 大香蕉狠狠爱| 少妇一区二区三区在线观看| 大香蕉久| 性色A∨91| 久热精品色情| 精品少妇一区二区三区在线视频| 欧美劲爆第一页| 双插在线| 狠狠色综合网| 人人弄人人摸| 超碰视97中文| 91oumei| 上海一级黄片| 777超碰| 老熟妇综合| 97人妻碰碰中文无码久热丝袜| 永久免费观看的毛片的网站| 亚洲污污网站| A V少妇特黄三级| 啪啪视频亚洲第一| 天美传媒麻豆一区二区三区国产精| 啊啊啊好湿久久| 曰韩成人免费视频| 偷拍 欧美 日韩| 素人伊尹大香蕉免费下载视频| 97视频观看| 久久精品国产72国产精品福利 | 99热免费| 国人欧美精品一区二区| 日本熟妇浓毛hdsex| 日本一级不卡一二区| 99热99re超碰精品| 国内自拍 日韩激情 99| 男女日B国产| 欧美高清91| 亚洲色图伊人网| 91麻豆天美国产欧美| 九色在线熟女国产黑人| 亚洲阿v天堂在线| 蜜桃网熟妇| 久久免费精品96| 狠狠久久四虎| 婷婷亚洲五月***久久| 国内精品a| 国产精品美女视频诱惑| 欧美人妻一区二区| 91N综合在线| 91人妻丝袜无码| 激情看片网站| 亚洲暴力强奸AV| 久久久亚洲| 欧亚三区动漫| 欧美综合777| 久草精品国产蜜臀 | 日本媚薬中文字幕在线| 免费99精品国产自在在线| 丰满欧美少妇| 99热这里是精品| 手机看片1025| 亚洲国产精品9999在线观看| 亚洲国产另类在线中文| 国产9l 大屁股| 青青青草伊人精品| 极品内射| 爆乳免费黄网站| 无码精品蜜桃一区二区三区ww| 91被操| 91久久青青草原精品| 大香蕉狠狠爱| 人人操超碰在线| 久久免费精品96| 麻豆伊人网| 美骚妇av高清在线| 色呦呦、国产精品| 97视频观看| 欧美日日网| 99re视频在线观看这里只有精品| 伊人五月天| 午夜免费福利视频一区| 五月丁香拍拍激情综合三级| 亚州免费啪啪视频| 亚洲精品xxx| 美女操逼A A| 韩国手机不卡无码三级视频| 日本黄大片在线观看视频| 2024年最新色情网站在线观看| 电家庭影院午夜69久久夜色精品国产69乱| 精品天堂| 色97干| 欧美亚洲天堂| 思思久热在线精品66| 欧美综合天天| 中国人高清www色视频免费| 欧美色综合| 东京热一区二区中文字幕| 欧美综合网| 日韩精品资源专区二区| 韩国三级一线观看久| 亚洲精品白浆高清久久久久久 | Julia Annxxxxx| 亚洲熟女乱综合一区二区三区| 亚洲资源网| 欧美96交| 久久东京热久久| 九九碰九九爱97超| 黑人免费福利视频| 国产成人精品必看| 99精品欧美一区二区三区桃色| 色婷婷九月天天综合| 色色色色综合网| 91无人区卡一卡二卡三乱码入口最新版:能让用户有更多选择的选择-经典说说-爱 | 青娱乐黄色录像| 91无遮挡| 亚洲男人综合| 做爱A级亚欧| 国产无套粉嫩白浆在| 91碰碰碰| 伊人久久国产免费观看视频| 亚洲第91页 | 午夜人妻精品综合在线| 久久久久久久少妇| 粉嫩AV一区夜夜嗨| 99热99re6国产在线播放| 日本一线产区和二线产区伦理片| 97超碰色色| 日本黄大片在线观看视频| 东北丰满熟女国产一区| 巨爆乳肉感一区二区三区竹菊影视| 五月天色五月| 久久只有精品一区二区三区| 玖玖草久草99蜜月一区二区三区| 人伦四五区| 日本成a人v网站在线观看| 亚洲乱伦图片视频| 97人人干人人操| 怡红院怡春院| 999九九九九国产动| 日韩本不卡视频在线观看| 亚洲日韩国产精品| 亚洲最大成人a毛毛片| 婷婷五月天综合网| 色婷婷综合久久久久中文一区二区| 囯产精品强| 精品在线蜜臀| 91人妻最真实刺激绿帽| 操逼日韩无码| 亚洲欧洲精品成人| 青青伊人久久| 78精品在线| 另类TS人妖一区二区三区 | 尹人大香蕉视频在线| 91久久久视| 无码二级三级| 美国精品国产精品| 色婷婷综合视频| 美女诱惑在线一区| 96精品久久| 丰满高潮18xxxx| 久久久久久性爱片| 色天使AV天堂| 免费成人在线观看91| 秋霞一级视频在线观看免费| 高树玛利亚无码流出| 精品国产乱码久久久影院| 中文字幕一区二区三区四区在线视频| 欧美日韩国产色图在线| 黄色小说亚洲| 天天操天天舔| 精品人妻一区| 久九干| 91欧美色| 国产精品岛国片在线观看| 中文字幕片| 久久久久久九九九| 中国探花熟女| 男生女生啊啊啊啊| 超碰97人妻在线| www久| 中文日韩欧美熟| 澳门黄片一香蕉视频| 天堂精品在线| 超碰4A| 韩国黄片aaaa| 性色高清在线| 国内外内射高清视频| 免费看一级a性色生活片久久无| 欧美综合在线91| 成人五月天丁香激情综合| 亚洲色色色| 精品人妻一区二区三区蜜桃视频| 岛国网址国产 | 伦理第一页| 亚洲福利中文字幕在线| 中文字幕第23区| 中文字幕精品免费一区二区| 亚洲性综合9| 偷拍盗拍亚洲色图图片|