日韩精品一区二区三区在线视频放-无码中文字幕V?一区二区-成年片免费观看视频-国内少妇人妻丰满av-国产精品中文字幕免费观看-亚洲成人久久一区二区三区-国内少妇偷人精品视频无缓冲-一区二区国产精品日本一区二区三区在线网

ARTICLE DETAIL

資訊詳情

深耕商務(wù)建站與企業(yè)官網(wǎng)運營的一線實戰(zhàn)洞察。

FPGA加速CNN卷積計算:從行緩存到乘累加陣列的硬件實現(xiàn)

FPGA加速CNN卷積計算:從行緩存到乘累加陣列的硬件實現(xiàn) FPGA做CNN說白了就是把卷積神經(jīng)網(wǎng)絡(luò)里最耗時的計算部分從GPU或者CPU手里搶過來用硬件邏輯的并行性去硬算。我在這個項目里做的就是在FPGA上實現(xiàn)了一個能對實時視頻流做CNN卷積計算的加速器輸入是普通的攝像頭圖像數(shù)據(jù)輸出是經(jīng)過卷積特征提取后的結(jié)果整條鏈路跑在硬件上不依賴上位機。這個項目適合兩類人參考一類是剛接觸FPGA但想往AI方向靠的開發(fā)者另一類是已經(jīng)在用GPU做推理、但被功耗和延遲卡住想看看FPGA方案到底能不能打的算法工程師。我會把整個設(shè)計思路、卷積計算的硬件拆分、實時性怎么保證、以及我踩過的坑全部攤開來講盡量讓每個環(huán)節(jié)都能直接抄作業(yè)。1. 項目核心設(shè)計思路為什么要用FPGA算卷積1.1 卷積計算的計算特征與硬件匹配分析CNN里的卷積層本質(zhì)上就是一組乘累加運算。一個3x3的卷積核滑過整張圖像每個輸出像素需要做9次乘法和8次加法再加上偏置和激活函數(shù)。假設(shè)輸入是1080p分辨率30幀每秒第一層卷積是3x3x3的核輸出通道64個那一秒鐘的運算量大概是1920乘以1080乘以30乘以9乘以3乘以64算下來接近1000億次乘累加操作。這個量級用CPU做實時基本沒戲GPU能做但功耗和體積在嵌入式場景里往往受不了。FPGA的優(yōu)勢在于它的邏輯資源可以按照數(shù)據(jù)流的形狀去定制硬件結(jié)構(gòu)。卷積運算天然是數(shù)據(jù)并行的——不同輸出像素之間沒有依賴關(guān)系不同輸出通道之間也沒有依賴關(guān)系。GPU是SIMT架構(gòu)同一時刻執(zhí)行同一指令遇到分支或者訪存沖突就會浪費計算單元FPGA不一樣我可以把卷積核拆成一組并行的乘累加流水線再用行緩存把圖像數(shù)據(jù)按滑動窗口的方式喂進去每個時鐘周期都能吐出一個有效的輸出結(jié)果。這里有一個關(guān)鍵認知需要糾正FPGA做CNN并不是去和GPU拼峰值算力而是拼計算效率。GPU的算力很高但數(shù)據(jù)搬運和調(diào)度開銷也大FPGA可以為特定的卷積層結(jié)構(gòu)定制數(shù)據(jù)通路數(shù)據(jù)從DDR讀進來之后在片上SRAM里循環(huán)復(fù)用盡可能減少對外部存儲的訪問次數(shù)。在我這個項目里片上行緩存的命中率做到90%以上,整體有效算力利用率能拉到60%左右,這在FPGA平臺上已經(jīng)是個相當不錯的數(shù)字了。1.2 軟硬件任務(wù)劃分哪些計算放在FPGA哪些留在ARM實際的圖像CNN處理系統(tǒng)往往不是純FPGA單芯片就能搞定的。以Xilinx Zynq系列為例芯片上同時有ARM核和FPGA邏輯。我的方案是把CNN推理的卷積層主體全部下沉到PL端也就是FPGA邏輯部分ARM端只負責三件事一是通過DMA把圖像數(shù)據(jù)從DDR搬到FPGA的行緩存里二是配置卷積核權(quán)重和偏置參數(shù)三是處理CNN最后一層輸出的后處理邏輯。任務(wù)劃分的核心原則是計算密集型的、數(shù)據(jù)流規(guī)整的操作放在FPGA控制邏輯復(fù)雜、分支多、數(shù)據(jù)量小但對靈活性要求高的操作放在ARM。比如卷積、池化、激活函數(shù)這些都是FPGA的強項而像非極大值抑制、目標框解碼、分類結(jié)果的softmax這些在FPGA上寫起來很別扭邏輯資源消耗大而且靈活性差留在ARM上跑更合理。我建議在做軟硬件劃分時先用軟件仿真把整個CNN模型的每層耗時跑一遍。比如某個模型一共20層其中卷積層占了95%的耗時那FPGA就把這20層里面計算量最大的15層全部硬件化剩下幾層全連接或者特殊的歸一化層根據(jù)數(shù)據(jù)量大小決定要不要也放進去。我的經(jīng)驗是如果一層的數(shù)據(jù)量小于1MB且計算量小于100萬次乘加就不值得放在FPGA上搬來搬去的開銷比計算本身還大。1.3 技術(shù)選型用Verilog手寫還是用HLS高層次綜合這是FPGA做CNN項目里第一個要做的選擇。HLS就是用C/C寫算法邏輯然后工具自動轉(zhuǎn)換成RTL代碼手寫Verilog則是直接從寄存器傳輸級開始搭。我在這個項目里選擇了Verilog手寫卷積核心但用HLS工具做了一版原型驗證。手寫Verilog的好處是可控性強。卷積計算的數(shù)據(jù)通路每個寄存器在哪一拍打入、每個乘法器和加法器怎么組合我心里都有數(shù)。通過Vivado的分析結(jié)果我可以精確控制時序和資源利用率。壞處是開發(fā)周期長尤其是并行優(yōu)化的時候控制信號之間的時序關(guān)系很容易搞亂。HLS的好處是開發(fā)效率高算法工程師寫起來沒有心理負擔一個for循環(huán)嵌套就能表達卷積。我在做原型驗證時用Vitis HLS寫了一個基本的卷積函數(shù)加#pragma HLS PIPELINE和UNROLL指令大概一天時間就能跑通功能仿真。但HLS生成的代碼在時序優(yōu)化上經(jīng)常需要反復(fù)調(diào)指令和約束而且出現(xiàn)問題的時候不好定位debug起來比手寫代碼痛苦得多。給個實操建議如果你做的是工業(yè)級產(chǎn)品、需要長期維護我建議核心卷積模塊手寫Verilog控制邏輯和接口部分可以用HLS快速生成如果只是做算法驗證和學(xué)術(shù)研究全用HLS就夠了。兩條路我都走過最終項目交付時核心計算模塊用的是手寫VerilogHLS版本作為功能參考留在了仿真環(huán)境里。2. 卷積計算的硬件核心實現(xiàn)從行緩存到乘累加陣列2.1 圖像數(shù)據(jù)的片上緩存策略行緩存與滑動窗口CNN卷積計算在硬件上要解決的第一個問題是圖像數(shù)據(jù)的復(fù)用。一個3x3卷積核計算輸出像素時需要用到輸入圖像中3行3列共9個像素。如果每次都從DDR里讀9個像素數(shù)據(jù)帶寬會被迅速打爆。正確的做法是在FPGA的片上SRAM里維護一個行緩存結(jié)構(gòu)。具體做法是這樣的對于3行輸入行緩存用三塊獨立的BRAM塊隨機存取存儲器分別存儲第n行、第n1行、第n2行的數(shù)據(jù)。當計算輸出第n行時數(shù)據(jù)流按列推進每個時鐘周期從三塊BRAM中各讀出一個像素組成一個3x3窗口。窗口在水平方向滑動一個像素后就讀下一列。當整個第n行計算完畢三塊BRAM同時移位丟掉第n行讀入第n3行。整個行緩存的深度只需要等于圖像寬度比如1920個像素。如果圖像是RGB三通道那需要三組這樣的行緩存每組對應(yīng)一個顏色通道。這樣做的好處是DDR帶寬的壓力被降到了一個很低的水平——每個輸入像素只需要從DDR讀一次之后的所有復(fù)用都在片上進行。我實測下來1080p圖像數(shù)據(jù)從DDR搬運到行緩存的帶寬需求只有約200MB/s而DDR3/4的實際可用帶寬通常有幾個GB/s完全不是瓶頸。滑動窗口的具體生成邏輯里還要考慮邊界像素的填充問題。比如卷積核尺寸是3x3在圖像最左邊一列窗口會越界到圖像外面。通常做法是補零或者復(fù)制邊緣像素。我在設(shè)計里加了一個信號padding_mode通過一個多路選擇器控制窗口邊緣數(shù)據(jù)源的切換支持零填充和邊緣復(fù)制兩種策略這樣既適配了常見的CNN模型也為上層算法留了靈活性。2.2 乘累加陣列的并行度設(shè)計輸出通道拆分與循環(huán)展開有了窗口數(shù)據(jù)接下來就是卷積計算的核心——乘累加陣列。陣列的規(guī)模直接決定了吞吐量。一個設(shè)計原則是用FPGA的DSP切片資源來搭建乘累加單元而不是用邏輯查找表實現(xiàn)乘法和加法。Xilinx 7系列的DSP48E1切片一個就能完成18x25位的乘法和48位的累加速度可以跑到幾百兆赫茲。我用的芯片是Zynq-7045一共900多個DSP切片理論上可以搭建大量乘累加單元。我的設(shè)計采用的是輸出通道并行策略。假設(shè)輸入通道數(shù)是3輸出通道數(shù)是64我一次同時計算4個輸出通道。這意味著同一時刻我需要從行緩存中讀取3個通道的窗口數(shù)據(jù)分別送入4組乘累加單元組每組內(nèi)有9個乘法器和8個加法器用于完成一個輸出像素的計算。這樣總的DSP用量是4乘以9等于36個每個時鐘周期可以產(chǎn)生4個輸出像素值。這里有一個關(guān)于循環(huán)拆分的技巧。傳統(tǒng)的卷積實現(xiàn)是遍歷輸出通道、遍歷輸入行、遍歷輸入列、遍歷輸入通道、遍歷卷積核行、遍歷卷積核列六重循環(huán)。在硬件上我需要把這六重循環(huán)中的一部分展開成并行結(jié)構(gòu)。我的經(jīng)驗是把輸出通道循環(huán)展開把輸入通道和卷積核尺寸循環(huán)合并成一個串行累加過程。展開哪個維度、串行哪個維度要根據(jù)DSP資源和數(shù)據(jù)復(fù)用率來選擇。如果并行度太高比如一次計算16個輸出通道雖然吞吐量上去了但BRAM的端口數(shù)量可能不夠用。我的行緩存是三通道同時讀BRAM的讀寫端口是有限的當并行輸出通道數(shù)超過BRAM端口能提供的數(shù)據(jù)帶寬時就得做數(shù)據(jù)復(fù)制這又會增加資源消耗。所以并行度是一個需要整體權(quán)衡的指標不能一味往大了選。我這個項目里4輸出通道并行、3輸入通道同時讀取、9個窗口位置并行計算組合起來是36個乘法器同時工作已經(jīng)完全滿足了1080p30fps的實時要求。2.3 定點數(shù)據(jù)格式與精度分析卷積計算的乘法累加結(jié)果需要存儲在特定的數(shù)據(jù)格式里。GPU上跑CNN多用FP32浮點但在FPGA上浮點計算消耗的資源大約是定點的4到5倍。為了節(jié)省資源提高頻率我選擇了INT16定點格式作為主要的存儲格式乘法過程中使用INT16乘以INT8的混合精度。權(quán)重我用INT8量化輸入特征圖也用INT8表示但累加器用INT32。原因很簡單兩個8位定點數(shù)相乘結(jié)果是16位多個16位結(jié)果累加過程中可能溢出到32位所以累加器至少要32位。最后經(jīng)過ReLU激活函數(shù)之前再從INT32截斷回INT16。這個截斷可以用算術(shù)右移實現(xiàn)我通過一個scale參數(shù)來控制右移位數(shù)這個scale是在訓(xùn)練后量化階段標定出來的。很多第一次做FPGA CNN的人會擔心定點化以后精度下降太大。我的實際測試結(jié)論是在圖像分類這種任務(wù)上INT8量化后Top-1精度損失通常小于0.5%比如在ImageNet上從72.4%降到72.0%左右在目標檢測任務(wù)上mAP損失會在1到2個點之間。如果任務(wù)對精度特別敏感可以考慮INT16甚至混合精度——但代價是DSP資源翻倍。我踩過一個坑量化時只關(guān)注了權(quán)重的量化誤差忽略了特征圖的動態(tài)范圍。實際上CNN的中間層特征圖分布差異很大有的層數(shù)值集中在0附近有的層數(shù)值跨度很大用同一個scale值可能讓某一層嚴重失真。我的解決方案是在量化階段逐層統(tǒng)計特征圖的數(shù)值分布為每一層單獨確定scale參數(shù)硬件上為每層配置一個scale寄存器在層切換時更新即可。這塊工作量說大不大但能明顯改善量化后的精度值得認真做。2.4 池化層與激活函數(shù)的硬件化CNN里卷積層之后通常跟著池化層和激活函數(shù)。池化有最大池化和平均池化兩種硬件實現(xiàn)都不復(fù)雜。最大池化就是在2x2窗口里取最大值我用4個寄存器暫存一個2x2區(qū)域的像素再用比較器樹分兩級比較得出最大值平均池化則是4個值相加右移2位更簡單。激活函數(shù)我用的是ReLU判斷最高符號位如果是負數(shù)就輸出0正數(shù)就直接透傳。整個邏輯只需要一個多路選擇器加一個符號位判斷一個LUT就能搞定。如果要實現(xiàn)LeakyReLU或者Swish這類更復(fù)雜的激活函數(shù)在FPGA上就麻煩一些。LeakyReLU需要乘一個小系數(shù)可以用一個DSP切片Swish需要計算sigmoid這個在FPGA上一般用查找表加分段線性逼近來做開銷會增加不少。我的建議是在設(shè)計CNN模型時優(yōu)先選擇ReLU系列激活函數(shù)不僅訓(xùn)練簡單硬件實現(xiàn)也幾乎是零成本。如果必須用復(fù)雜激活函數(shù)盡量放在CPU上處理只在最后幾層用不要在卷積層中間插入太多非線性變換。3. 實時性系統(tǒng)設(shè)計與性能優(yōu)化3.1 實時性指標計算與數(shù)據(jù)流規(guī)劃實時性是這個項目的硬指標。我設(shè)定的目標是輸入1080p30fps的YUV420圖像整個CNN處理鏈路達到30幀每秒的吞吐率。這意味著每一幀圖像的處理時間必須小于33毫秒。我設(shè)計的數(shù)據(jù)流是這樣的DMA從DDR讀取一幀2560x1440的原始圖像數(shù)據(jù)經(jīng)過格式轉(zhuǎn)換模塊把YUV轉(zhuǎn)為RGB這一步用流水線加法器和乘法器實現(xiàn)然后送入卷積計算模塊。卷積模塊按行處理每次處理3行窗口輸出一路特征圖。整個過程采用幀級并行流水線——當DMA在搬運第N1幀時卷積模塊正在計算第N幀而后處理模塊正在處理第N-1幀三級流水同時工作每幀的實際處理時間取決于最慢的一級。卷積模塊本身的處理延時是主要瓶頸。即使主頻跑到200MHz每個時鐘周期輸出4個像素一幀1920x1080的圖像需要1920乘以1080除以4約52萬個時鐘周期也就是2.6毫秒。再加上多層卷積串行的累計延時單幀處理時間可以控制在20毫秒以內(nèi)。33毫秒的預(yù)算其實是留了充足余量的。實際規(guī)劃數(shù)據(jù)流時要注意一個容易忽略的點卷積層的輸出特征圖分辨率。很多CNN為了提高精度會在中間層做二分之一或四分之一下采樣特征圖變小了但通道數(shù)變多了。通道數(shù)增加對FPGA的處理能力提出了新要求。我的方案是在特征圖分辨率較小、單層計算量相對減少的情況下可以通過時分復(fù)用機制讓同一組乘累加單元分時處理不同的輸出通道提高DSP的利用率。3.2 乒乓緩存與DMA搬運的時序協(xié)同實時系統(tǒng)里最大的坑是數(shù)據(jù)斷流。一旦DDR數(shù)據(jù)搬運跟不上卷積模塊的消費速度整個流水線就會空轉(zhuǎn)幀率直接跳水。我的解決方法是乒乓緩存。乒乓緩存的意思是把片上的幀緩存分成兩個區(qū)當一個區(qū)在被DMA寫入新數(shù)據(jù)時卷積模塊從另一個區(qū)讀取數(shù)據(jù)。當DMA寫滿一個區(qū)、卷積模塊讀完另一個區(qū)兩個區(qū)進行切換。這樣避免了讀寫同一塊存儲時的仲裁沖突。DMA的搬運和卷積的讀操作在時間上是重疊的數(shù)據(jù)流可以保持連續(xù)不間斷。DMA搬運本身也要做精心的調(diào)度。我的做法是使用Xilinx的AXI DMA IP核配置為Scatter-Gather模式把一幀圖像分成多個512字節(jié)的描述符每個描述符指定一段連續(xù)的物理地址。DMA會連續(xù)搬運整個描述符鏈表搬運完成時產(chǎn)生中斷通知ARM核ARM核對下一個描述符鏈表進行重新配置。這樣的好處是DMA連續(xù)工作不需要每次搬運都重新啟動。實操中的時序協(xié)同經(jīng)驗需要讓DMA的突發(fā)傳輸長度匹配DDR的頁大小。比如DDR3的頁大小是8KB突發(fā)傳輸配置為16個256bit的數(shù)據(jù)正好能湊滿一個頁。這樣讀寫DDR時的效率最高不會因為頻繁換行造成額外的懲罰周期。這個細節(jié)我當時是看了Vivado的寄存器讀寫統(tǒng)計才發(fā)現(xiàn)的之前傳輸效率一直上不去后來改成頁大小對齊后帶寬直接提升了30%。3.3 時序約束與關(guān)鍵路徑優(yōu)化FPGA設(shè)計的最后一步是時序收斂。CNN卷積模塊因為乘累加鏈比較長關(guān)鍵路徑往往出現(xiàn)在兩個地方一個是行緩存到乘累加陣列的組合邏輯路徑另一個是累加器鏈上多個DSP串行級聯(lián)的路徑。對于行緩存到乘累加的路徑我的優(yōu)化方法是插入寄存器打拍。行緩存輸出的數(shù)據(jù)經(jīng)過對齊以后先存入寄存器再進入乘法器。這樣一來BRAM的輸出到DSP的輸入就是寄存器到寄存器的路徑布線壓力小很多。代價是增加了一個時鐘周期的延遲但卷積計算是流水線的一個周期的額外延遲完全無所謂。對于累加器鏈問題在于多個DSP級聯(lián)時前一個DSP的輸出直接作為后一個DSP的輸入路徑很長。我的做法是用DSP的DSP48E1內(nèi)部級聯(lián)功能通過CASCADEIN/CASCAEOUT端口把多個DSP串起來這樣累加過程在DSP內(nèi)部完成不走通用布線資源延遲可以大幅降低。在Vivado里做約束的時候我建議給卷積核心模塊單獨設(shè)置時鐘。如果整個系統(tǒng)只有一個200MHz時鐘卷積模塊、DMA、DDR控制器共用一個時鐘域任何一處時序不收斂都會導(dǎo)致整個設(shè)計失敗。更穩(wěn)妥的做法是用PLL生成兩個時鐘一個150MHz給 DDR和DMA使用一個200MHz給卷積核心使用中間通過異步FIFO做跨時鐘域數(shù)據(jù)交換。這樣可以分別優(yōu)化各自的時序收斂的難度會降低不少。3.4 系統(tǒng)級驗證從仿真到板級調(diào)試驗證是整個項目里最磨人的階段我把它分成三個層次。第一層是功能仿真用Vivado自帶的仿真器驗證卷積模塊的RTL邏輯是否正確。我準備了兩種測試激勵一種是用C模型生成的隨機數(shù)據(jù)作為輸入比對硬件計算結(jié)果和軟件仿真結(jié)果是否一致另一種是用PyTorch跑通一個真實的小模型把每一層的輸出導(dǎo)出成二進制文件作為硬件仿真里的參考數(shù)據(jù)。第二層是邏輯綜合加時序仿真。綜合完成后看資源利用率和時序報告確認工作頻率能達到設(shè)計要求。時序仿真是帶布線延遲的仿真比功能仿真更接近真實情況。這個階段最容易發(fā)現(xiàn)的問題是復(fù)位信號的時序問題——異步復(fù)位信號如果有毛刺會導(dǎo)致寄存器進入未知狀態(tài)系統(tǒng)里檢測邏輯經(jīng)常在這種階段出錯。第三層是板級調(diào)試。我一直用ILA集成邏輯分析儀作為主要的調(diào)試手段。在關(guān)鍵信號上插入探針比如行緩存的控制狀態(tài)機、乒乓緩存的切換信號、DMA的搬運完成中斷。有一次在板子上發(fā)現(xiàn)輸出的圖像有規(guī)律性的條紋用ILA抓取數(shù)據(jù)后發(fā)現(xiàn)是行緩存切換時讀地址延遲了一個周期導(dǎo)致行數(shù)據(jù)錯位。這個bug在仿真里不好復(fù)現(xiàn)因為仿真用的是理想時鐘真實板子的時鐘相位噪聲會暴露這類問題。板級調(diào)試還要注意電源的穩(wěn)定性。CNN計算全速運行的時候FPGA內(nèi)核電壓的電流需求會突然增大如果電源的紋波過大可能導(dǎo)致DSP單元的計算結(jié)果出錯。我給核心電壓加了幾個大容量去耦電容并且用示波器確認了動態(tài)壓降在50mV以內(nèi)才敢放心跑全速。4. 常見問題與排查技巧實錄4.1 數(shù)據(jù)路徑問題圖像花屏、錯位、顏色混亂這類問題在FPGA圖像處理項目里幾乎必然遇到。我經(jīng)歷過的主要有幾種現(xiàn)象對應(yīng)不同的根因問題現(xiàn)象圖像顯示錯位水平方向隔一段就有一條錯開的線。大概率是行緩存讀地址或DMA搬運的突發(fā)長度與圖像寬度不匹配。比如圖像寬度是1920像素但DMA搬一次突發(fā)傳輸了2048像素多出來的128像素會導(dǎo)致后續(xù)行數(shù)據(jù)錯開。解決辦法是在DMA描述符里精確配置圖像的線性緩沖長度并逐行對齊。問題現(xiàn)象顏色通道錯亂紅的變藍、藍的變綠。這是YUV422或YUV420轉(zhuǎn)RGB時的采樣位置沒對齊導(dǎo)致的。YUV420的UV分量分辨率只有Y的一半UV采樣位置錯一個像素就會導(dǎo)致整個畫面顏色偏掉。我寫了一個專門的測試圖樣比如純紅、純綠、純藍的色塊逐塊確認轉(zhuǎn)換結(jié)果。問題現(xiàn)象圖像閃爍或偶發(fā)花屏。這類隨機性問題先查DMA的地址連續(xù)性和DDR的訪問沖突。我在DMA中斷處理里加入了幀計數(shù)和地址回讀確認每一幀的搬運源地址和預(yù)期一致。另一個常見原因是DDR控制器的刷新周期和DMA的實時帶寬要求沖突調(diào)整DDR控制器的仲裁策略可以緩解。4.2 時序收斂問題關(guān)鍵路徑超時和布局布線的博弈Vivado的時序報告經(jīng)常讓人頭大。報紅色的路徑可能長達幾十納秒遠超時鐘周期。我的經(jīng)驗是先看報告里是哪一段路徑再決定處理方式。如果關(guān)鍵路徑是LUT到LUT的組合邏輯通常是因為邏輯層級太深。比如計算窗口均值時累加器鏈超過了5級就要考慮改用DSP切片或者重新做運算樹的平衡。乘累加陣列的求和樹我一般用4輸入加法器構(gòu)成平衡樹而非簡單的串行加法這樣邏輯深度從9級降到3級。如果是DSP到BRAM的路徑超時可能是數(shù)據(jù)位寬太大導(dǎo)致布線延遲增加。比如累加結(jié)果是32位但BRAM輸入只需要16位就應(yīng)該在數(shù)據(jù)寫入BRAM之前做截斷寄存避免大位寬信號走太遠。另外值得一提的是Vivado的物理綜合選項比如phys_opt_design的INSERT_SLL選項有時候效果奇好用一下可能直接讓時序過線。4.3 資源沖突問題BRAM和DSP的合理分配FPGA里的BRAM和DSP數(shù)量有限設(shè)計過程中經(jīng)常出現(xiàn)資源不夠或者利用率極低的情況。我的建議是先用綜合報告看各個模塊的資源消耗找出最吃資源的模塊。BRAM資源不夠的常見原因是緩存圖像數(shù)據(jù)的行緩存過深。比如4K分辨率的行緩存每行3840像素16bit寬度三個通道再加雙緩沖需要的內(nèi)存就非??捎^。如果芯片BRAM不夠用可以把行緩存改小用分塊處理的方法比如把圖像分成上下兩個半幀分別卷積再拼接結(jié)果。DSP資源不夠的時候優(yōu)先檢查有沒有在不需要的地方用了乘法器。比如計算卷積結(jié)果使用了乘法器的同時如果某個控制信號的計算也用了乘法器就會出現(xiàn)浪費。控制信號的乘法可以改用移位加法的形式節(jié)省DSP給真正的卷積計算。4.4 實現(xiàn)精度和實測性能的對賬方法最后養(yǎng)成一個習(xí)慣每個版本都能對照實測結(jié)果和理論預(yù)測的差距。如果實測幀率比理論值低很多先從數(shù)據(jù)斷流找原因如果實測功耗比預(yù)測值高很多先從數(shù)據(jù)翻轉(zhuǎn)率找原因。我在完成當前版本后對著Vivado的報告把整體項目的資源利用率、DSP利用率、BRAM利用率、時鐘頻率、整幀處理時延記錄在一張表里方便后期做性能基準和版本對比。5. 項目優(yōu)化過程和后續(xù)演進方向5.1 第一版到第三版的性能迭代記錄這個項目我一共經(jīng)歷了三版大的迭代。第一版用HLS快速原型主頻能跑到150MHz處理1080p30fps勉強夠但資源利用率很高DSP幾乎占滿沒有留下任何余量。第二版換成手寫Verilog重構(gòu)核心模塊主頻提升到180MHzDSP利用率降到60%并且加入了乒乓緩存和DMA分塊搬運數(shù)據(jù)流順暢了很多。第三版進一步優(yōu)化了累加器樹的邏輯深度和BRAM的使用策略主頻穩(wěn)定在200MHz整幀處理時間控制在15毫秒以內(nèi)已經(jīng)完全滿足實時性要求。每一次迭代我都會更新一個性能對比表把主頻、資源、幀率、功耗的記錄保存下來。這樣后期如果要換芯片做國產(chǎn)化替代也可以直接參考這些數(shù)據(jù)。5.2 從單模型到多模型模型切換與動態(tài)配置項目后期的一個新需求是同一個硬件平臺支持多個CNN模型切換。比如一個模型做圖像分類一個模型做物體檢測系統(tǒng)根據(jù)應(yīng)用場景動態(tài)加載對應(yīng)模型。硬件上卷積模塊本身是通用的切換模型只需要更新權(quán)重存儲器的內(nèi)容。我在DDR里劃分了一個模型區(qū)ARM啟動時把模型文件解析成權(quán)重二進制通過DMA寫到FPGA的權(quán)重BRAM中。整個模型切換時間控制在200毫秒以內(nèi)不影響業(yè)務(wù)邏輯的實時性。權(quán)重存儲是個容易被忽略的細節(jié)。一個典型的CNN模型5層卷積的權(quán)重可能有幾十MBFPGA片上BRAM放不下只能放在DDR。我的做法是把權(quán)重也按行緩存的思路組織卷積計算到某一層時才把該層權(quán)重從DDR預(yù)取到片上權(quán)重緩存中。這樣既保證了計算連續(xù)性又不浪費BRAM資源。5.3 關(guān)于后續(xù)可以嘗試的新方向如果繼續(xù)往深處做我建議關(guān)注這幾個方向一是模型壓縮配合硬件設(shè)計比如對權(quán)重做剪枝后硬件的計算和存儲都能進一步節(jié)省二是嘗試更先進的封裝架構(gòu)比如把多個FPGA組成集群做更大模型的并行推理三是在FPGA上集成更多AI算子比如目前CNN中常見的卷積層之外的注意力機制和Transformer模塊。FPGA的優(yōu)勢在于靈活自定義這些新方向的硬件化實現(xiàn)都是可以持續(xù)深挖的課題。說句實在話FPGA做CNN并不輕松比起調(diào)包調(diào)參的軟件玩法它的每個細節(jié)都需要硬件工程師親自打磨。但當你看到攝像頭拍進來的畫面經(jīng)過自己寫的硬件管線實時輸出識別結(jié)果的那一刻那種成就感是純粹的軟件實現(xiàn)給不了的。如果這個項目讓你對FPGA加速深度學(xué)習(xí)產(chǎn)生了興趣建議先從一個最簡單的單層卷積開始把行緩存和乘累加陣列調(diào)通再逐步加層、加優(yōu)化這條路走下來收獲會非常大。
返回列表
PREV
查看更多資訊
NEXT
返回資訊列表
中国和日本人色哪个不下载能放| dy888午夜老子影视达达兔| 蜜臀av网址| 国产一区二区三区免费视频在性观看 | 国产黄色剧情影片麻豆免费播放| 91干熟女| 97在线视频观看免费| 都市久久精品激情亚洲| 女同亚洲欧美一二三区久久电影| 久久婷婷欧美| 操逼www.| 色婷婷淫色网| 中文字幕精品一区欧美| 久久久久久久少妇| 天美传媒AV在线播放| 97人人模人人爽人人| 东北女人的毛片| 亚洲欧美综合图片| 性爱免费视频成人| 欧美天堂日韩三级国产传媒| 日韩激情无码影院| 欧美综合色站| 福利操逼| 色哟哟av| 久久一级无码精品毛片6| 粉嫩AV一区夜夜嗨| 18禁免费视频| 免看60秒涩涩视频| 国产成人99久久亚洲综合| 国产视频一区二区在线| 亚洲在线网站| 蜜臀久久久| 免费超碰97在线观看| 国产少妇高潮| 免费观看啪视频| 亚洲猛交| 婷婷丁香六月| 欧美牲| 亚洲色堂免费视频| 人人操人人摸人人看人人插| 97精品97| 91在线精品| 天操天操夜操夜月月年年操操| 探花一区二区三| 99爱爱| 黄色高清无码无码破解免费暗网 | 性爱av在线免费观看| 91热色| 手机看av网站在线看| 999热日韩精品| 色97| 少妇xx精品| 亚洲综合另类色图| 精品久久久无码| 中文字幕在线观| 秋霞午夜视频一区二区| 国内自拍 日韩激情 99| 在线不欧美| 91女网站| 中文字幕人成乱码熟女香港| 欧美最婬乱婬爆婬牲视频| 五月丁香成人网| 91亚洲欧美| 九九热超碰97亚洲最新香蕉 | 久9九综合在线| 欧美爆操91| 欧美日韩精品一区二区三区高清| 日韩性爱啪啪视频| 国产精品高朝久久久久久久| 国产欧美后入| 96AV精品| 亚洲一区二区性爱电影| 国产内射爽爽大片| 高清孕妇孕交 交孕妇| 人妻少妇精品一区二区三区| 亚洲成人一区二区精品| 欧洲性爱无码区| 亚洲交换| 一级黄碟在线观看| 99丝袜福利在线播放| 狠狠操夜夜| 日产精品久久久一区二区| 刺激性视频黄页| 伊人久久大香线蕉无码| 日本东京热久久久电影| 久久婷婷一区| 亚洲 欧美 另类 日韩 人妻一区| 午夜精品一区二区三区三上悠亚| 51一区二区三区| 思思久热在线精品66| 四虎av在线| 美女尤物福利视频| 另类图片五月天| 国产亚洲美日韩Aⅴ中文字幕无码成人| 岛国天天午夜影院传媒网| AV老汉| 丁香五月偷拍| 91在线无码精品秘 软件| 97超碰日韩| 久久久一区二区| 东京成人一区| 99999精品成人| 91精品久久久久久综合五月天| 久久91精品国产9丨久久分亭| 夜夜躁狠狠躁日日躁av| 黄色工厂这里只有精品| 18+91网站| 98超碰日本| 欧美在线l亚洲| 第45页一区二区| 日本人妻一区二区| 久热69九色熟妇97| 激情综合网激情五月天| 日韩AV一区二区三区四四| 日韩中文字幕视频在线观看| 青青操狠狠撩| av资源在线播放天堂| 日本一级二级三级网站| 色嗨嗨在线| 欧美一区二区三区日韩| 综合啪啪| 久久黄黄| 18精品一区| 国产农村妇女一区二区| 老色69| 蜜臀久久99精品久久综合| 色五月婷婷五月天| 9 9精品一区二区三区| 任你艹| 99无码精品| 国模精品一区二区三区苹果色戒| 日韩成人综合网| 婷婷天堂站| 91美女中出| 你操综合| 动漫区日韩区欧美区| 日本曲间由美性生活片| 精品一久久久| 老鸭窝日丰县女人| 国内毛片四区| a片在线播放| 17c在线成人免费A片观看| 日韩精品免费高清视频在线| 亚洲精品视频在线播放| 91久久精品国产| 樱花草社区www中国| 风月影院男女十八禁| 亚洲综合草草| 国产传媒日韩欧美| 最好看的中文字幕在线2018| www五月| 精品人妻1237| 日韩丝袜高跟制服在线观看| 大象AV在线| 国产丝袜欧美在线视频| 日本一本道A级黄色毛片试看60分钟| 超碰av在线| 亚洲综合97中文网| 怡红院成人av| 天天天干977| 岛国网址国产| 91红杏| 蜜桃狠狠色伊人亚洲综合 | 日韩AV一区二区三区三州三州| 美女淫穴| 久久AV无码AV| 国产原创自拍| 91在线视频观看国产| 欧美图片校园春色| 欧美少妇大量自拍视频在线观看| 九九亚洲精品| 在线观看亚洲成人精品| 超碰国产在线| 性高潮久久久久久久久久久| 久久性爱视频99| 婷婷色影院| 日韩钢筋无码高清啾啾啾| 91高清欧美| 中文字幕一区二区三区高清| 久久久久国产亚洲一区欧美色图日韩| 在线 欧美 亚洲| www.色吧5.com| 激情第四色| 国产成人拍国产亚洲精品| 综合色播| 亚洲少妇免费视频\| 26UUU欧美日本| 日韩啪啪啪啪啪| 嫩草91| 亚洲自拍天堂| 伊人久久大香线蕉亚洲五月天,青草青草欧美日本一区二区,欧美日产欧美日产国产 | 人妻少妇精品视频一区二区三区| 日韩少妇一区二区三区| 激情人妻另类| 天天色天天干天天爱| 日韩影片中文字幕一区二区三区| 婷婷综合伊人一区| 99激情视频| 人人摸人人舔一区二区| 变态乱伦伪娘灌肠一区二区| 欧美se亚洲| 九月婷婷综合| 青青草国产一区二区三区| www.久久制服糖| 色女网日韩| 激情色图| 中文字幕艹艹| 四虎精品永久在线播放| www鬼畜国产男人的天堂| 欧美三级偷拍| 99精品免费| 超碰97日韩| 中国探花熟女| 欧美在线电影| 色九月婷婷| 丝袜 中出 制服 人妻 美腿 中文字幕| 婷婷丁香五月天综合东京热| 亚洲性综合| 天天艹天天日| 免费日韩黄片| 日日日日做夜夜夜夜做无码97| 先锋激情∨在线视频播放| 打av高清| 思思视频免费看网站| 丝袜喷水在线| 人妻献身系列第54部| 天天日天天屌天天操| 免费超碰97在线观看| 精品久久九| 强奸乱伦中文字幕AV| 高清孕妇孕交 交孕妇| 黄片无码在线制服| 女生久久网| 色综合尤物| 青草地一本线一区二区三区| 黄色污污污污污污网站| 亚洲无无码αⅴ每日更新| 三级网站超变态精品| 四虎在线观看视频| 伊人一区二区三区| 色999;丁香五月| 精品国产乱码久久久久久网站入口| 国产日韩欧美三级片| 国产精品香蕉| 神马久久69| 竹菊影视国产一区二区| 97天天综合| 国产乱码精品久久久久久| 欧美性爱精品一区二区| 黄骗免费网站| 是还免费视频1727我| 欧美日韩岛国大片在线观看| 97超碰超碰| 日韩欧美天堂| 啊啊啊好湿久久| 人人操人人插人www| 超碰精品97| 亚州再线| 五月综合久久| 成人免费福利在线观看| 亚洲精品国产精品成人| 午夜久久久| 无码heyzo高清一区| 国产精品婬乱一级毛片彝族| 天天综合97| 青青草大香蕉在线视频| 中文字幕在线免费观看视频| 亚洲欧美一区二区网址| 蜜桃久久一区| 国产精品一区二区后入| 久久久久久久久久久六六| 国产精品婬乱一级毛片彝族| 啊啊啊啊好疼| 蜜桃臀一区二区三区久久| 好吊色在线观看| 日本www操操操| AAAA级日本片免费视频| 91亚洲人| 激情小说激情视频| 东北操逼| 天天综合网AV91| 99热成人| 激情久久av一区av二区av| 熟女激情综合网| 91人妻熟女| 亚洲天天精品| 欧美亚洲高清不卡| 伊人AAA| 国产一级作爱毛片| 乱伦av.com| 牛牛AV人人夜夜澡人人爽| 亚洲 欧美 日韩另类 麻豆| 伊人一区二区三区| 久久久久久久久久久久黄色| 亚洲色9| 操九九九九九九| 综合久久99| 日人妻视频91| 久久东京伊人一本到鬼色| 91天天| 青娱乐91| 91麻豆天美传媒在线| 久久精品国产97欧美精品亚洲 | 精品无码久久久久久久久果冻糖心| 久久久神马影院| 久操大香蕉超碰碰碰碰碰碰碰碰碰碰碰碰碰碰碰碰碰碰碰碰碰碰碰碰碰碰碰碰碰碰 | 超碰人妻天天干| 熟妇综合一区二区三区| 亚洲欧美综合| 国产成人 综合亚洲 天堂| 丰满人妻aA一区二区三区| 人人九九精| 综合大香蕉美。| 激情四射婷婷六月天| 亚洲色悠悠久久88| 日本熟妇精品九九| 天天热精品| 日韩有码回春沙龙第一页| 亚洲综合骚逼| 97资源亚洲| 试看60秒 爽| 国产精品999aaa| 一二三区操逼国产91| 日韩欧美性吧婷婷乱伦大香蕉| 搡老女人老91妇女老熟女| 久久久偷拍| 欧美激情专区| CCYY草草影院地址入口| 欧美另类精品xxxx| 牛牛aV| 激情五月综合网| 91丨九色丨熟女高潮| 亚洲第一综合| 亚洲精品欧美专业| AV中文字幕剧情1区2区3| 99热国产| 免费AV中文网在线观看| 日韩熟女乱伦中出| 久久五月婷| 暖暖精品二区三区观看| 欧美色天堂网在线视频| 免费视频观看60秒| 一级性爱网| 欧美大香蕉久| 欧美亚洲日本激情在线| 欧亚洲精品有视频| 韩国国产欧美情侣视频在线| 天天色综合影视网| 亚洲无码超碰免费| 超碰人人草| 欧美天堂日韩三级国产传媒| 久草线上视频免费看| 麻豆天美在线| 91在线视频观看国产| 桃色五月天| 久久久国产精品人妻丝袜| 国产精品久久久久久久久久二区三区| 国产乱伦搜索结果91P| 青娱乐国产精品| 五月天综合在线| 超碰这里只有精品| 九九九九热| 国产中文字幕曰本毛片| 黄总AV色图| 久久粉色| 亚洲情色中文字幕一区| 91成人18| 一类无码操逼视频| 精品国产91久久久久久一区黄无| 国产综合久| 狠狠中文字幕| 亚洲色图欧美色图制服丝袜 | 国产精品久久久久久片| 97综合在线观看| 国产精品97超碰| 人人操人人插 - 百度 - 百度| 五月综合久久| 天天综合网视频91| 国产一级作爱毛片| 欧美A√综合网 | 欧美色图97| 亚洲一卡二卡在线免费| 淫妻综合网| 国产色呦呦| 玖玖爱综合| 久久精品国产亚洲av水密被窝| 26uuu性物| 99久久综合| 蜜臀一区二区三区在线| 中文字幕性感少妇av| www.男人天堂| av在线不卡一区二区三区| 欧美亚男人的天堂| 女性91网站| 99热亚洲| 91亚洲欧洲| 黑丝内射一区二区三区| 欧美 亚洲| 超碰99在线| av橘色网站| 激情抓乳插进去啪啪啪日韩 | 黄色大片一区二区密桃丝袜| 欧美精品庄| 日本中文字幕在线电影| 97久久超碰日韩精品| 日本日皮视频逼| 亚州欧美总和| 一个人免费HD91视频| 色天堂在线观看| 91艹B视频| 亚洲综合一| 精品无码久久久久久国产浪潮| 夜夜騷av、一區二區| www.久久制服糖| 欧美少妇高潮久久91| 色噜噜国产在线| 超碰97网站| 久热久一区二区三区| 999久久久免费精品国产牛牛| 日本久久久久久久久| 91精片| 婷婷伊人一区| 亚洲精品国产精品成人| 国产成人AV麻豆| 久久丁香久草综合网| 久久99999| 91强热人妻| a片亚洲一本通视频| 国产乱人伦AVA麻豆软件.| 欧美在线干| 激情六月天| 欧美一级AAAAAAA| 精品乱码久久久久| 亚洲夜夜欢无码一区二区| 男女啊啊啊| 白丝1区2区3区| 影音先锋视频在线| 成人久久久| 少妇被玩视频二三区| 免费公开人人操| 99re黄| 日本加靬比网站发布页| 国产亚洲精品第一最新| 国产一区二区二区按摩精品啪视频| 九九热这里只有在线精品视 伊人草 成人菠萝蜜视频在线观看 | 亚洲人妻AV| 国产又黄又粗又猛大片| 久久久久深夜无码| 久久99热这里只频精品6学生| 美女黄网| 亚洲丝袜制服国产91_国语字幕免费观看完整版下载第5集_ | 久久免费精品96| 国产成人久久久精品免费AV| 777超碰| 九九九九九九九九九九九九九九九女| 日韩av乱伦| 精品国产三级av韩国在线| 欧美在线|亚洲| 亚洲日韩av一区二区三区百合| 亚洲一区二区中文字幕| 69XX一中文字幕人妻91| 色妇综合网| 亚洲文学偷乱拍啪啪啪啪| 曰韩欧美国产传媒麻豆第一区| 插入逼91| 94色色电影网| 后入式福利| 色九月综合| 色婷婷五月天| 亚洲一区二区三区欧美日韩| 欧美激情性久久久久久| 黄页av| 久久成人网站| 中字一区| 久久熟女久| 中文字幕天天天天天| 五月婷婷无码| 嫖老熟女A片一二三区| 在线中文字幕| 韩国免费播放一级毛片| 99热欧美| 麻豆天美AV传媒第一页| 亚洲大胆人体av| 亚洲人在线| 天堂蜜桃无码视频一区二区| 69精品人人人人| 色噜噜精品一区二区三| 天堂а√在线最新版在线| 天美传媒精品一区二区| 97ai亚洲| 国产sv美女内射| 大香蕉手机在线| 97超碰精品成| 中国黄色特级精品一区二区三区片| 第四色色综合91| 欧美日韩国产传媒在线精品| 天天插天天插| 国产精品老熟女一区二区| 97天堂| 久久婷婷综合国际产色怕| 大香蕉78| 人人操人人摸人人骑| 无码人妻一区二区三区免费九色| 人妻美腿丝袜日韩| 国产精品另类| 黑人猛交| 无码操逼视频一下| 国产精品福利视频播放| 欧美日韩另类在线播放| 欧美裸体美女日麻屄| 色婷婷国产精品一区在线观看| 3PAV乱伦视频| 啪啪啪东京| 少妇xx精品| 亚州操逼网| 九九伊人网| 婷婷五月成人| 日韩二三区| 91爱看| 五月天亚洲网| 91天天综合日韩欧美| 97精| 九九综合久久中文字幕| 51一区二区三区| 天天干天天狼在线视频| 综合婷婷| 国产高清不卡视频| 欧洲精品人妻| 欧美色图片欧美色图| 超碰导航97| 韩国一级做a久久久久| 超碰色男人操熟女| 国产欧美一区激情交| 天天操狠狠日夜夜干超碰撸com视频在线观看 | 久久免费中文字幕在线观看| 超碰精品| 亚洲丝袜在线观看| 日韩欧洲操屄视频| 国产成人在线观看综合| 夜夜嗨AV蜜臀av| 亚洲人码13| 极品肉射| 99久久久久久久久| 久久色人体 | 国产精品久久久三级无码| 中亚精品极乱| 97就爱干| 毛片久久| caoni国产亚洲av| 97久久久久久久精| 久久久久深夜无码| 操逼日批| 超碰成人免费| 久久久久久久少妇| 亚洲精品蜜桃久久久| 日本人妻最新在线中| 综合天天。| 91精品丝袜久久久久久| 国产99精品一区二区三区免费| 午夜影美女日鸡鸡天天视频国产| 欧美在线播放aaaa| 国产欧美后入| 日韩欧美亚欧在线视频| 99色视频| 老鸭窝在线视频播放| 激情黄色片在线观看| 97色干| 日产成人久久| 国产对白刺激视频| 成人日韩欧美| 97精品一区| 又粗又长又爽在线观看| 欧美日韩资源在线| 69一区二区| 久久成人午夜精品影院| 嗯嗯嗯,草死我| 久久亚洲欧美一区二区三区-亚洲国产精品第一区二区 | 在线啊啊啊啊| 久久精品黄色| 婷婷AV一区二区三区| 热久久九九热| 香港澳门日本三级网站| 麻豆天美国美国产| 蜜臀一区二区三区亚洲最新章节在线观看 - 高清蜜臀一区二区三区亚洲全集播放 | 日韩激情中文字幕有码| 伊人青青一区成人视频在线观看区| 2017天天插| 99这里都是精品| 亚洲高清自拍| 校园春色亚洲欧洲| 亚洲日本激情| 五月天加勒比啪| 亚洲熟女性高潮久久久| 欧美亚洲国产日本在线,久久精品国产| 婷婷综合在线观看| 日韩欧美性爱电影在线观看| 丝袜狠狠草尤物人妻av91| 麻豆成人影音在线| 好淫网一二三视区| 亚洲一区二区三区在线激情| 中文字幕制服欧美久久一区| 伊人网青青| 热久日综合| av无码av无码专区| 伊人久久婷婷| 美女啊啊啊啊啊啊| 青青草视频在线观看一区二区| 欧美黑人猛交春色影视大全| 无码抄逼网| 78精品| 91人妻丝袜无码| 国产人妖的免费的视频| 操逼操逼逼操操逼91| 激情综合婷婷| 久久精品国产亚洲AV无码电影| 欧美性视频二区三区| 99热国产精品| 韩日精品福利视频一区不卡在线免| 婷婷久久久精品| 国产免费一区二区三区最新不卡| 国产精品第一区第一页| 亚洲情色一区二区三区| 国产激情久久| 成人免费看吃奶视频网站| 婷婷五月天色网| 亚州操操穴网| 中文字幕精品区先锋资源| 69一区二区三区| 亚av顶级裸体一区二区三区四区五区 | 免费网站观看www在线观| 国产熟女免费观看久久| 国产熟女精品一区二区| 丰满人妻一区| 亚州成人a∨| 中文字幕 国产 精品 | 全国男人天堂网| 少妇与黑人高潮在线| 超碰人人干| 老司机深夜18禁污污网站| 999国产精品999久久久久久| 国精综合一二三区影视| yazhouzaixian| 天天日老熟妇| 亚洲欧美日韩夜夜| 乱伦一区二区三区‘| 搡老女人老熟女91老熟女综合网| 天天综合网1| 色综合一区二区三巨| 日本五十路熟女一区二区| www熟女乱伦com| 日本三级精品| 综合天天。| 求求你操操我| 欧洲中文字幕| 亚洲有码 视频一区| www…国产操逼| 狠狠激情综合狠狠操中文字幕| 亚洲黄色视频在线观看视频| 久艹日日日| 欧美综合色图网| 后入式五六区| 好吊爽好吊爽在线视频,中文字幕精品一区二区日本,国产良妇出轨视频在线观看, | av一区二区三区 中文| 国产欧美成人第一页在线观看 | 欧美天天影院| 熟女一区二区三区四区| 亚洲综合射| 99国产精品久久久在线播放| 大香蕉中文aV在线| 日本熟人妻中文字幕在线|...久久国产精品-国产精品_日本一区二区三区中文字幕 | 亚91亚洲网| 欧美三级一级| 亚洲免费精品一区| 青娱乐av在线| 久久精品视频久久久| 偷拍欧美综合| 久操九九九九| 欧美亚洲激情小说| 97日韩| 欧美另类丝袜熟女| 操一对老熟妇爽上天视频| 欧美色爱综合| 99re视频在线播放青草| 青草地一本线一区二区三区| 中文字幕乱妇免费视频| 成人性交午夜免费片| 欧姜老司机| 啊v在线观看视频| 亚州男人天堂| 亚洲天堂久久久久久粉红视频| 国产熟妇 码视频户外直播| 测评在线观看AV| av一区二区三区不卡| 色综合V| 天天操天天干一区二区 | 9国产超碰| 少妇一区二区三区高速| 国产精品久久久久亚洲av| 97精品熟女少妇一区| 亚洲欧美自拍偷拍| 激情久久av一区av二区av| 亚洲成av人片色午夜乱码| 五月综合视频| 欧美一二三区四五区| 啊啊啊不要啊啊受不了了视频在线| 二三四区精品| 亚洲综合在线91| 丝袜美腿亚洲| 中国国产精品一区视频| 欧美亚洲中文字幕| 97人妻色| 日日日骚女人精品| 婷婷丁香人妻 | 亚洲无码太久| 久久久久久久久久久久久久久久9| 欧美日韩亚洲五月天婷婷| 亚洲丝袜制服国产91_国语字幕免费观看完整版下载第5集_ | 粉嫩少妇自慰在线| 亚洲女人毛茸茸91| av中亚| 久久久久久日韩| 2018色综合天天操| 校园春色综合色| 99福利社| 免费家庭乱伦视频| 蜜臀AV网站| 少妇99成人麻豆| 久久久久78| 好爽视频在线观看| 亚洲一级性爱视频免费看| 综合色久| 久久久禁| 91色色网站| 日本在线不卡v二区| 久久久久骚| 欧美亚洲韩国视频十五区| 国产免费一区2区3区| 色色色天美视频| 日本淫色网| 亚洲少妇综合| 久久91视频| 久久人妻四季| 97视频播放| 老司机老司机午夜影院| 欧美亚男人的天堂| 成人三级片一区二区三区视频| 国产欧美精选自拍一区| 免费看美国人人爽,人人操 | 国产熟妇一区二区| 97精品在线视频| 97超碰巨乳| 不卡视频一区蜜桃视频| 乱伦3P视频| 爱爱动态试试看6 0秒| 超碰诱惑| 玖玖爱免费观看视频| 狠肏骚人妻| 日韩小电影| 国产精品三级视频网站| 日日摸日日碰| 国产狂喷潮在线精品| 九九综合| 久久亚洲一区女同性恋中文字幕| 亚洲国产精品无码AV在线| 欧亚第一综合网| 国产激情视频一区区三区| 伊人五月天| 蜜区区视频79 | 一区二区三区探花在线观看| 午夜天堂网| 无码高清操逼| 欧美精品成人亚洲| 97超碰色色| 日韩三级一区| 亚洲黄色| 欧美性特| 亚州综合在线| 玖玖视频在线资源一区二区三区| 中文三一区| 五月天丁香网| 国产丁香精品露脸视频| hd成人一区二区在线| 粉嫩久久久久| 日韩 欧美 视频 在线 一区| 欧美人人天天网| 日韩一性一交一A片俄罗斯| 蜜桃久久久久久久久久久久| 一级片在线观看高清无码| 青青操在线亚洲视频观看欧美在线 | 97在线免费看| 沈阳熟女高潮对白视频| 黄色小说亚洲| 少妇一区二区三区高速| 一本久久精品中文字| 午夜精品五区| 小电影欧美91| 成人资源中文字幕在线观看天天| 天美传媒AV在线| 蜜色网色哟哟| 1级午夜影院费免区| 加勒比伊人综合| 欧美性爱在线无码| 天美传媒婬乱在| 午夜福利久久久噜久噜久久综合| 亚洲国产精品成人综合| 日韩精品怡红院| 新版天堂中文资源8在线| 97超级久久| 高清不卡一二三区视频......| 国产v片在线免费观看| 久久草视频污视频| 女人爽到高潮潮喷18禁网站| 欧美AB在线| 秋霞午夜视频一区二区| 人人操人人摸人| JuliaAnn丝袜熟女系列| 亚熟在线| 国产女人91精品嗷嗷嗷嗷| 97资源亚洲| 亚洲美欧999| 18禁超污无遮挡无码免费网| rion磁力链接| 久久久久久久久久久久黄色| 777奇米影视777四色| 亚洲欧洲激情卡通另类文学四射小说网站 | 最好看的中文字幕在线2018| 欧美九九九| 亚洲视频,小说| 大香蕉综合在线| 女欧美一区二三区| 日日玩天天干| 免费看污网站| 成人综合久久精品色婷婷| 欧美精品三区| 后入日本1234| 蜜桃视频一区二区三区在线观看| 久久久久国产精品片区无码直播| 91在线欧美| 老色鬼成人精品视频下载大在线观看| 999狠狠综合| 国产精品一二三在线看| 2020久久免费视频| 综合大香蕉美。| 欧美一区二区传媒| 91精品综合久久久久久五月丁香| 欧美探花网| 欧美色图第一页| 黄久在线| 国产天天看| 色欧美天天| 黄片无码在线制服| 日本性交操一区二区不卡系列| 午夜经典| 九九九九免费视频| 欧美图片色综合| 久久久激情| 亚洲一级性爱视频免费看| 亚洲激情片| 四虎在线视频| 欧美高潮| 久久久久78| 男人的天堂2018.| 亚洲欧美精品一区天堂久久 | 亚洲精品久久久久久久蜜桃臀| 国产日韩欧美中文在线播放 | 一本大道久| 青青草色插素人| 欧美综合色站| 91久精品| 国产玖玖| 99热在线观看| 激情小说五月天| av凤凰久久久| 国产精品亚洲一区二区三区四区| 曰韩操B| www亚洲免费| 日韩免费av片高清无码| 麻豆美女丝袜人妻中文| 色欲久久99国产精品久久久久久| 欧美同性恋 的搜索结果 - 91n| 九七毛片九九毛片| 97爱b| 欧美老妇女内射网址| 精品久久久中文字幕不| 亚洲人成色9999精品久久 | 亚洲色综合| 中文激情网| 婷婷午夜| 920日本午夜免费| 嗯啊不要啊在线 | 亚欧高清在线| 人人妻人人狠人人| 美女自卫慰黄网站免费| 国产高潮AA片免费看| 六月激情婷婷| 色五月激情综合网| 久久艹逼视频| 日本久久精品| 99久久久99久久91熟女| 欧美男人一区| 无码heyzo高清一区| 国产精品 亚洲情色| 国产精品久久久蜜臀| 狠狠热这里都是精品| 密臀视频一区二区三区| 精品久久艹| 后入精品| 日韩97| 国产强奸乱伦xd| 夜间福利片1000无码| 精品久久人妻成人网| 黑丝少妇在线观看| 久久久久久性爱视频| 欧美人妻中出| 老鸭窝成人| 97色亚洲| 操迟操逼在巾线Fre看| 一级久久性爱视频| 大香交伊人网| 九九英色视频| 亚洲男人天堂2| 美女黄站| 为用户提供免费看黄网址在线观看| 精品偷拍13p欧美dodk视频| 黑人精品成人一区二区三区| 五月激情小说| 久久超碰免费的| 超碰视97中文| 999久久久| 国产熟女完整版中字 | 丁香五月婷婷啪啪| 大香蕉中文aV在线| 人人操超碰在线| 国产 日韩 欧美一区| 福利伊人玖玖国产| 久久久98网站免费视频| 青青青艹在线视频| 老熟女91视频| 国产精品自拍xxxx| 好吊妞转入那个网| 91久久久老司机| 日本天天干天天操一区| 老熟妇一区二区三区…| 红杏大香蕉| 91麻豆一二三区| 91人妻少妇| 国产精点久久久成人| 手机不卡视频不卡在线一二三区| 色哟哟精品1精品2| 51国产午夜精品视频| 91色久| 日韩少妇无吗| 九九亚洲| 亚洲精品乱码久久久久久蜜桃麻豆| 综合久草| 小电影欧美91| 国产亚洲日韩在线三区黑人| 天天影视网综合少妇| 精品欧美日韩在线观看| 91丨国产丨白浆秘 洗澡动漫| 天天做日日爱夜夜爽| 中文字幕55555| 久久久不卡| 伊人久操| 免费网色网站| 日韩熟女三十乱伦| 激情综合五月天| 亚欧美色图| 2019久久久久久久久福利| 天天干天天日天天射黄色| 97久久超碰日韩精品| 欧美强奸乱能| 日日干男人的天堂| 三级日韩一区二区三区| 91oumei| henhen91| 大香蕉乱伦视频网| 无码操逼天堂| 国产高清免费不卡av| 日本女厕偷拍| 欧美色偷偷| 丁香六月婷婷| 久久久无码精品人妻二区 | 激情综合二| 亚av顶级裸体一区二区三区四区五区| 无码高清操逼| 婷婷国产精品九区| 婷婷丁香激情| 国内精品999| 91人妻在线视频| 99在线免费视频| 一二三区精品视频| 99成人| 丰满人妻一区二区三区免费 | 色婷婷综合网| 性欧美999| 色情综合| 人妻另类| 97自拍视频在线| 精品人妻少妇| 人妻少妇久久久| 欧美92| 色婷婷五月天| 麻豆成人影音在线| 青青网三级视频| 国产深夜福利| 超碰国产情侣自拍网| 99久久亚洲精品无码毛片潘甜甜| 亚洲综合网图| 成 人片 黄色大片| 欧亚日韩综合精品国产| 成人福利视频网| 老熟女综合网 | 亚洲中文字幕精品久久久久久直播| 国内外毛片在线观看| 日韩性爱高清免费视频| 99热这里都是精品| 懂色AV一区二区三区| 一级性爱视频免费观看 | 日1区2区3区2020| 99热综合| 欧美黑人极品高潮喷吹熟女黑人性暴力日韩在线欧美极品一区二区老师黑人潮喷一 | 91操人| 国产欧美另类久久久精品课程| 中文字幕老熟妇黄色视频| 欧美亚洲自拍另类人妻| 婷婷香网站| 欧美日韩操逼嗦吊| 亚洲色图欧美激情| 美欧老女人97| 国产伦乱91| 亚洲成人贴图| 精品国产国产AV| 激情综合婷婷| 国产二区三区免费视频| 爱妻综合网| 中文字幕一区av| 国产一区二区三区免费视频在性观看| 美熟女逼导航AV操逼| 99热免费| 园内精品自拍视频在线播放| 97操碰| 高树玛利亚无码流出| 综合免费无码中文| 91精品91久久久中77777| 久久视网78| A片三级无码| 夜夜骑夜夜操| 91无码人妻| 97久久资源| 久久亚洲AV成人精品无码| 91综合网站| 是还免费视频1727我| 少妇二级| a v网站在线播放| 久久久精品网站| 色香91| 九月AV| 激情四射五月天| 亚洲色图尤物视频| 人妻天堂三区| 狠狠躁日日躁夜夜躁A| 加勒比无码一区二区三区| 97在线视频观看网站| 97在线免费视频观看| 亚洲精品白丝| 熟啊v色欧美热| 开心五月天激情网| 国产精品一区二区校花| 91综合在线| 97在线播放| 中文字幕文字幕无码一区二区三区电影99| 亚洲中文字幕97久久精品少妇 | 亚洲学生妹高清av| 东京热AV男人的天堂| 欧美日韩精品国产91| 中文字幕大片三级狠狠干| 国产视频一区二区免费| 日韩免费看在线黄色片| 国产精品国产精品国产| 亚洲熟女乱综合一区二区在线-...亚洲国产日韩欧美一区二区三区,久久久久久精 | 99精品无码| 91久久久老司机| 老熟女熟妇| 久久天天摸| www.久久99| 极品色www影院| 日本操嫩b网| 91丨九色丨国产丨人妻在线 | 日韩国语字幕| 凹凸视频特色日本特黄| 国产精品无套内谢| 亚洲图片日本AⅤ欧美在线| 中文字幕一区二区视频在线观看| 日日骚一区二区三区| 人乳av| 亚洲怡春院| 亚洲精品白丝| 老司机午夜福利视频一区二区| 四季AV综合网址| 久极品在线观看| 麻豆亚洲Av成人无码一区精品| 久久九九99| 大香蕉婷婷| 久久精彩免费视频| 激情丁香五月婷婷| 久久婷婷五月综合| 久久XX| 91狠狠色丁香婷婷综合久久| 丰满的三级少妇欧美久久久| 亚洲强奸乱伦影视网| 美女极品一区二区三区| 亚洲中文字幕久久人妻| 天天躁日日躁AAAAXXXX国产 | 青草精品视频一日本久久久久网站| 爱丝福利| 久久伊人东京热| 98超碰欧美| 日本天天干天天操一区| 亚洲 一区二区 自拍| 91综合天天| 俞拍久久国应视频| 外国免费性情大片| 热热色91| 人妻精品视频一区二区三区| 亚洲国产另类在线中文| 欧美欧美啪啪视频| 久草精品国产99| 为用户提供免费看黄网址在线观看| 亚洲国产精品99久久久| 先锋激情∨在线视频播放| 亚州免费啪啪视频| 福利视频一区二区微拍| 精品国产一级久久| 天天干,夜夜爽| 日韩中字av一区| 91高跟美女在线播放| 青青操视频在线| 亚洲第一视频 欧美风情 日韩| 久久久久久久| 日本性爱视频一级| 欧美成人AⅤ大片在线观看| 久操不卡视频| 91neishe| 超碰在线97国产| 国产精品一二三| 久久久97| 熟女精品va中文字幕| 99久热| 日本丝袜美腿人妻九九| 人妻黑丝袜电影| 久操免费观看| 无码免费在线观看黄色片| 国产乱人伦AVA麻豆软件.| 婷婷激情四射| wwe 天天干.com| 新91视频.cmp| 99久久精品无码一区二区毛片免费| 人人爱人人操人人性| 啊啊啊啊啊在线观看网址|