日韩精品一区二区三区在线视频放-无码中文字幕V?一区二区-成年片免费观看视频-国内少妇人妻丰满av-国产精品中文字幕免费观看-亚洲成人久久一区二区三区-国内少妇偷人精品视频无缓冲-一区二区国产精品日本一区二区三区在线网

ARTICLE DETAIL

資訊詳情

深耕商務(wù)建站與企業(yè)官網(wǎng)運(yùn)營的一線實(shí)戰(zhàn)洞察。

PaddlePaddle源碼靜態(tài)審閱:三代框架設(shè)計(jì)共存的工程演進(jìn)之路

PaddlePaddle源碼靜態(tài)審閱:三代框架設(shè)計(jì)共存的工程演進(jìn)之路 把 Valhalla 靜態(tài)工程審閱這個(gè)系列的探針伸向 PaddlePaddle是我計(jì)劃了很久的事。作為國產(chǎn)深度學(xué)習(xí)框架里工程體量最大、演進(jìn)歷史最長的項(xiàng)目之一百度飛槳的代碼庫幾乎是一部濃縮的 AI 基礎(chǔ)設(shè)施進(jìn)化史早期靜態(tài)圖、動(dòng)態(tài)圖、動(dòng)轉(zhuǎn)靜、編譯執(zhí)行、多硬件適配、大規(guī)模稀疏訓(xùn)練……這套源碼里什么都有。這一期的評測方法依然是源碼證據(jù)驅(qū)動(dòng)——不跑 benchmark、不對比模型精度、不做分布式壓測只看代碼本身從構(gòu)建腳本到算子注冊從內(nèi)存分配器到分布式參數(shù)服務(wù)器用源代碼里的實(shí)際證據(jù)說話。如果你想讀懂一家大廠如何維護(hù)一套百萬行級的開源框架或者你正在做框架二次開發(fā)、自定義算子、硬件適配又或者只是好奇“大廠開源基礎(chǔ)設(shè)施特輯”里值得審閱的樣本應(yīng)該長什么樣這期內(nèi)容都值得往下看。1. 為什么選 PaddlePaddle大廠開源基礎(chǔ)設(shè)施的坐標(biāo)意義1.1 一套代碼里裝了三代深度學(xué)習(xí)框架設(shè)計(jì)PaddlePaddle 從 2016 年開源到現(xiàn)在歷經(jīng)了深度學(xué)習(xí)框架最激進(jìn)的十年。如果你把這套代碼庫攤開幾乎可以看到三代設(shè)計(jì)理念在同一倉庫里共存第一代是靜態(tài)圖的 Program/Block 設(shè)計(jì)以 paddle/fluid/framework 下的 ProgramDesc、BlockDesc、OpDesc、VarDesc 為核心先組網(wǎng)再執(zhí)行第二代是動(dòng)態(tài)圖DyGraph以 paddle/fluid/imperative 目錄下的 Tracer 機(jī)制為代表邊執(zhí)行邊記錄反向圖用戶體驗(yàn)向 PyTorch 靠攏第三代是編譯執(zhí)行與統(tǒng)一算子庫也就是 paddle/phi 和 paddle/cinn 這兩個(gè)重量級目錄嘗試把算子內(nèi)核、反向推導(dǎo)、編譯優(yōu)化收斂到一個(gè)更現(xiàn)代的抽象之下。一個(gè)倉庫同時(shí)存在三代設(shè)計(jì)的直接后果就是代碼量和概念數(shù)量都非常龐大。對一個(gè)想通過源碼學(xué)習(xí)框架設(shè)計(jì)的人來說這既是痛苦也是財(cái)富你可以看到工程上“演進(jìn)”這件事真實(shí)發(fā)生的痕跡而不是教科書里那種干干凈凈的架構(gòu)圖。以我這次審閱的源碼節(jié)點(diǎn)為例paddle/fluid、paddle/phi、paddle/cinn 三個(gè)核心 C 目錄在倉庫里并列存在彼此之間有依賴又有大量重名或功能相近的概念。比如同樣表示“張量”老框架里有 fluid::framework::Tensor新算子庫里有 phi::DenseTensor同樣做算子調(diào)度老代碼走 OpKernel 注冊表新代碼走 KernelKey 分派機(jī)制。這些并存不是設(shè)計(jì)失誤而是一個(gè)長壽項(xiàng)目在兼容性與現(xiàn)代化之間做的取舍只是取舍得好不好正是這期審閱要回答的問題。1.2 這期審閱的讀者畫像與預(yù)期產(chǎn)出我寫這個(gè)系列一向默認(rèn)讀者是兩種人第一種是正在讀大廠開源代碼、想搞清楚“大項(xiàng)目到底怎么組織”的進(jìn)階開發(fā)者第二種是需要在 PaddlePaddle 上做二次開發(fā)、硬件移植、自定義算子、甚至把部分組件抽出去自研的工程師。對前者這期內(nèi)容提供的是一份“源碼導(dǎo)航圖”——告訴你大目錄之間是什么關(guān)系、先讀哪里、哪里是主干、哪里是歷史遺留對后者我會(huì)把真正的風(fēng)險(xiǎn)點(diǎn)擺出來比如雙核并存帶來的認(rèn)知負(fù)擔(dān)、宏抽象的高度依賴、多后端條件編譯導(dǎo)致的閱讀成本這些直接影響你在源碼上動(dòng)手的代價(jià)。這一期我不會(huì)給 PaddlePaddle“打分排名”也不是要拿它和別的框架分高下。我想做的是把代碼證據(jù)擺出來讓結(jié)論自己浮現(xiàn)哪些設(shè)計(jì)是真正成熟的哪些是在歷史和現(xiàn)實(shí)壓力下的妥協(xié)哪些地方如果接下來想繼續(xù)讀源碼或者做貢獻(xiàn)你必須有心理準(zhǔn)備。2. 評測方法論靜態(tài)工程審閱里的“證據(jù)”從哪里來2.1 什么是靜態(tài)工程審閱傳統(tǒng)意義上的框架評測通常是跑模型、看性能、測精度屬于“黑盒評測”。靜態(tài)工程審閱恰恰相反我?guī)缀醪贿\(yùn)行任何程序不做性能壓測也不驗(yàn)證模型結(jié)果。我把整個(gè)代碼庫當(dāng)作一份文本用閱讀和結(jié)構(gòu)分析的方式去理解它、拆解它判斷它的工程質(zhì)量、演進(jìn)方向、潛在風(fēng)險(xiǎn)。為什么要這么做因?yàn)閷σ粋€(gè)開源基礎(chǔ)設(shè)施來說運(yùn)行時(shí)的 benchmark 只能反映某一次發(fā)布、某一個(gè)硬件環(huán)境下的表現(xiàn)而代碼結(jié)構(gòu)才是決定這個(gè)項(xiàng)目未來五年能不能繼續(xù)演進(jìn)的根本。一個(gè) benchmark 刷得很高、但代碼腐爛嚴(yán)重的框架維護(hù)成本會(huì)指數(shù)級上升反過來一個(gè)結(jié)構(gòu)清晰、抽象合理的代碼庫即使當(dāng)下性能還不是最優(yōu)也有快速追趕的資本。PaddlePaddle 屬于“二者都要兼顧”的大型項(xiàng)目靜態(tài)審閱能看到的正是 benchmark 看不到的那一面。2.2 證據(jù)分級與判定維度這次審閱中我會(huì)用到四類證據(jù)可信度從高到低排個(gè)序列證據(jù)類型來源用途舉例代碼證據(jù)源碼文件、類定義、宏調(diào)用、函數(shù)簽名判斷算子注冊機(jī)制、內(nèi)存分配器結(jié)構(gòu)結(jié)構(gòu)證據(jù)目錄組織、依賴關(guān)系、文件分布判斷模塊邊界、架構(gòu)演進(jìn)階段構(gòu)建證據(jù)CMake 選項(xiàng)、第三方依賴腳本、CI 腳本判斷硬件適配方式、構(gòu)建復(fù)雜度文檔證據(jù)README、RFC、代碼注釋、社區(qū)材料補(bǔ)充設(shè)計(jì)意圖、判斷實(shí)現(xiàn)與文檔是否一致判定維度上我重點(diǎn)關(guān)注五件事架構(gòu)清晰度、模塊一致性、擴(kuò)展成本、兼容性負(fù)擔(dān)、可讀性。其中“擴(kuò)展成本”我會(huì)特別看重——比如要新增一個(gè)算子的 CPU 版本需要?jiǎng)訋讉€(gè)文件、寫多少模板代碼、能不能被 reviewer 很快看懂要適配一個(gè)新硬件需要實(shí)現(xiàn)哪些接口、會(huì)不會(huì)被老代碼中的膠水邏輯拖累。這些“成本”是可以從源碼里直接算出來的不需要運(yùn)行任何程序。2.3 審閱范圍與版本基線靜態(tài)審閱必須鎖定版本基線否則很多討論會(huì)失去坐標(biāo)。我這次把基線放在 PaddlePaddle 主干上一個(gè)跨越 2.6 到 3.0 演進(jìn)窗口的節(jié)點(diǎn)重點(diǎn)落在 paddle/phi 算子庫、paddle/fluid 執(zhí)行框架、paddle/cinn 編譯棧、python/paddle API 層四個(gè)范圍??紤]到倉庫體量我不可能逐行讀完百萬行代碼但可以保證所有結(jié)論都建立在我實(shí)際讀過的真實(shí)代碼證據(jù)上而不是二手資料或者框架官方文檔的宣傳口徑。有一點(diǎn)需要提前說明PaddlePaddle 的代碼迭代速度很快某些文件路徑和實(shí)現(xiàn)細(xì)節(jié)可能在我寫這篇審閱之后又發(fā)生變化。我會(huì)盡量引用處于“演進(jìn)主軸”上的設(shè)計(jì)而不是某個(gè)隨時(shí)可能刪掉的臨時(shí) hack這樣即使你拿到的是更新版本閱讀路徑依然有效。3. 頂層架構(gòu)還原從目錄布局看工程演進(jìn)痕跡3.1 paddle/fluid、paddle/phi、paddle/cinn 三足鼎立打開 PaddlePaddle 倉庫根目錄C 側(cè)最顯眼的就是三個(gè)并列的深層目錄paddle/fluid、paddle/phi、paddle/cinn。從命名上就能看出它們的定位差異fluid 是老一代訓(xùn)練框架的“體液”承載了靜態(tài)圖核心、老算子、平臺抽象、內(nèi)存管理、分布式訓(xùn)練等大量基礎(chǔ)設(shè)施phi 是后來提煉出的算子內(nèi)核庫官方口徑里 PHI 定位為框架的高性能算子庫把 kernel、infermeta、Tensor 元數(shù)據(jù)、API 統(tǒng)一收編進(jìn)來cinn 則是編譯器棧目標(biāo)是讓框架從“解釋執(zhí)行算子”走向“編譯優(yōu)化執(zhí)行”。對第一次讀這份源碼的開發(fā)者最容易被擊穿認(rèn)知的是你想找一個(gè)算子的實(shí)現(xiàn)比如 elementwise_add你可能會(huì)在 fluid 的老式運(yùn)算符目錄里找到一個(gè)版本又會(huì)在 phi/kernels 里找到一個(gè)新版本如果涉及編譯器優(yōu)化還會(huì)在 cinn 里看到對應(yīng)的 lowering 規(guī)則。同一個(gè)語義三套代碼路徑。這不是代碼混亂而是演進(jìn)中的必然老代碼不能刪有大量存量模型和依賴新架構(gòu)又不能等老代碼清完再動(dòng)工于是只能并行推進(jìn)。諷刺的是這種并行本身恰恰是大型開源項(xiàng)目最常見的狀態(tài)。3.2 新舊兩套核心的兼容成本我花了不少時(shí)間對比 paddle/fluid/framework/Tensor 和 paddle/phi/core/dense_tensor 兩套張量實(shí)現(xiàn)的差異。新老兩套核心并存帶來最直接的工程成本就是概念雙軌制新代碼里的 Kernel 不直接操作 fluid 的老 Tensor而是操作 phi::DenseTensor老算子的 OpKernel 又依賴 fluid::framework::Tensor 的接口。為了銜接框架里做了大量轉(zhuǎn)換和適配你在源碼里會(huì)看到很多類似的 glue 代碼。這種兼容成本的本質(zhì)是一個(gè)“活著的”項(xiàng)目必須為歷史用戶負(fù)責(zé)。PaddlePaddle 有大量存量模型、部署在各類硬件上的版本、以及建立在舊 API 上的生態(tài)工具直接下架老接口的代價(jià)是巨大的。所以工程上選擇“新代碼走新路、老代碼走老路”再用適配層打通。問題是適配層本身也是代碼也要維護(hù)也會(huì)成為新特性開發(fā)的瓶頸。從審閱的角度看這個(gè)“度”控制得還不錯(cuò)——至少 phi 的邊界是清楚的未來完全有希望把 fluid 里的算子實(shí)現(xiàn)逐步遷移掉而不是無限膨脹下去。3.3 Python API 層與 C 核心的分層Python 側(cè)python/paddle 目錄把 API 按功能域組織得相對清晰tensor 相關(guān)操作、nn 層、分布式 fleet、jit 動(dòng)轉(zhuǎn)靜、amp 混合精度、quantization 量化等都能在目錄名上直接對應(yīng)到功能。這種組織方式對使用者友好對二次開發(fā)者也友好——你想找分布式訓(xùn)練的入口直接去 python/paddle/distributed/fleet 而不是全局搜索。C 與 Python 之間通過 pybind11 綁定少量核心路徑會(huì)用 C 實(shí)現(xiàn)算子再暴露給 Python。整體來看PaddlePaddle 的 API 層沒有把太多業(yè)務(wù)邏輯塞進(jìn) Python而是作為薄封裝真正重的執(zhí)行都下沉到 C。這是大型訓(xùn)練框架的正確姿勢也為后面討論的 CINN 編譯棧留出了空間只有前端純粹、后端穩(wěn)固才可能在不破壞用戶 API 的前提下替換執(zhí)行引擎。4. 算子系統(tǒng)與執(zhí)行引擎的靜態(tài)代碼觀察4.1 PHI 算子庫從 DenseTensor 到 KernelKey如果要給 PaddlePaddle 源碼選一個(gè)“最值得讀的區(qū)域”我會(huì)把這個(gè)票投給 paddle/phi。PHI 把算子開發(fā)從老式的“繼承 Operator、注冊 Op、注冊 Kernel”三件套收斂成了以函數(shù)式內(nèi)核為核心的模型一個(gè)算子的核心邏輯就是接受 Tensor 和 Attribute輸出 Tensor然后通過宏注冊到不同的硬件后端。以 kernel 注冊為例代碼里大量出現(xiàn)這一類模式PD_REGISTER_KERNEL(elementwise_add, CPU, ALL_LAYOUT, phi::AddKernel, float, double, int64_t) {}這個(gè)宏的語義非常直白為 elementwise_add 這個(gè)算子注冊一個(gè) CPU 后端的 kernel模板參數(shù)里列出支持的 dtype。和老的 REGISTER_OP_CPU_KERNEL 相比新注冊方式把 backend、layout、dtype 三個(gè)維度清晰地拆開了。內(nèi)核本身是一個(gè)函數(shù)式實(shí)現(xiàn)不關(guān)心框架如何調(diào)度它這大大降低了新增算子的心智負(fù)擔(dān)。支撐這套分派機(jī)制的是 phi/core 里的 KernelKey 概念。KernelKey 由 Backend、DataType、Layout 三個(gè)維度構(gòu)成相當(dāng)于給每個(gè)算子內(nèi)核一個(gè)“尋址鑰匙”。調(diào)度器根據(jù)輸入 Tensor 的實(shí)際屬性找到匹配的 kernel 執(zhí)行。靜態(tài)審閱這一段代碼時(shí)我最直接的感受是這套抽象是認(rèn)真設(shè)計(jì)過的它讓新增后端變得有章可循——接一個(gè)新的硬件核心工作是實(shí)現(xiàn)一批符合函數(shù)簽名的 kernel并提供對應(yīng)的 KernelKey而不是去修改框架主路徑。4.2 動(dòng)態(tài)圖執(zhí)行器與靜態(tài)圖 Program 的并存執(zhí)行引擎層面PaddlePaddle 依然保留了靜態(tài)圖 Program 和動(dòng)態(tài)圖 Tracer 兩套執(zhí)行體系。靜態(tài)圖側(cè)paddle/fluid/framework 下的 ProgramDesc、BlockDesc、OpDesc 定義了一套可序列化的計(jì)算圖表示動(dòng)態(tài)圖側(cè)paddle/fluid/imperative/tracer.cc 里的 Tracer 在算子執(zhí)行的同時(shí)記錄反向所需信息構(gòu)建出反向圖。這兩套體系并存已經(jīng)持續(xù)了很多版本框架為此做了不少橋接工作。比如動(dòng)轉(zhuǎn)靜 jit.dy2static從源碼實(shí)現(xiàn)看它屬于 AST 級別的轉(zhuǎn)換把 Python 的動(dòng)態(tài)控制流轉(zhuǎn)換成靜態(tài)圖可以表達(dá)的邏輯分支。這種方案的優(yōu)點(diǎn)是對用戶侵入小缺點(diǎn)是轉(zhuǎn)換邊界不透明遇到復(fù)雜 Python 語法時(shí)會(huì)出現(xiàn)“轉(zhuǎn)不過去”或“轉(zhuǎn)了但不符合預(yù)期”的情況。靜態(tài)審閱中我看到這個(gè)模塊的代碼量相當(dāng)可觀也能推斷出維護(hù)團(tuán)隊(duì)在這條路上付出了大量成本。從工程演進(jìn)角度看長時(shí)間維護(hù)兩套執(zhí)行體系是沉重的。行業(yè)里最終走向通常是統(tǒng)一到編譯器或統(tǒng)一到 eager 模式加圖捕獲。PaddlePaddle 押注的方向是編譯執(zhí)行也就是 cinn 所代表的那條路線讓用戶的 Python 代碼先走動(dòng)態(tài)圖得到執(zhí)行軌跡再把軌跡捕獲成圖進(jìn)入編譯器做優(yōu)化。這樣用戶保住了動(dòng)態(tài)圖的編程體驗(yàn)框架又拿回了靜態(tài)圖的優(yōu)化空間。4.3 編譯執(zhí)行方向CINN 在框架里的位置paddle/cinn 目錄是我這次審閱的重點(diǎn)之一。CINN 的定位很清晰編譯器基礎(chǔ)設(shè)施負(fù)責(zé)把神經(jīng)網(wǎng)絡(luò)計(jì)算圖轉(zhuǎn)成高效的可執(zhí)行代碼融合算子、減少內(nèi)核啟動(dòng)次數(shù)、優(yōu)化訪存。從目錄結(jié)構(gòu)看frontend、backend、hlir、ir、runtime 這些做編譯器的人一眼就能認(rèn)出來的分層都在說明它不是玩具項(xiàng)目。但審閱編譯器代碼不能只看目錄。我點(diǎn)了幾個(gè)關(guān)鍵文件發(fā)現(xiàn) CINN 在 IR 設(shè)計(jì)、pass 框架、代碼生成方面確實(shí)有完整的工程實(shí)現(xiàn)不是用字符串拼接生成 CUDA kernel 的那種原型。不過我也要如實(shí)說編譯器棧的代碼復(fù)雜度很高涉及 llvm、jit、runtime 調(diào)度如果你沒有編譯器基礎(chǔ)直接扎進(jìn)去很容易迷路。對大多數(shù)使用 PaddlePaddle 的團(tuán)隊(duì)CINN 不需要你們改它更像框架自身的“內(nèi)燃機(jī)”而你們的任務(wù)是搞清楚框架提供了哪些 pass 可以開關(guān)以及這些 pass 對模型性能的影響。4.4 分布式訓(xùn)練源碼Fleet 與參數(shù)服務(wù)器分布式訓(xùn)練是 PaddlePaddle 相對突出的差異化能力尤其在大規(guī)模稀疏場景參數(shù)服務(wù)器Parameter Server架構(gòu)是很多國產(chǎn)大廠選擇它的原因。代碼側(cè)C 實(shí)現(xiàn)在 paddle/fluid/distributedPython API 在 python/paddle/distributed/fleet。Fleet 把多種分布式策略組織到統(tǒng)一接口下用戶通過聲明式配置選擇同步訓(xùn)練、異步訓(xùn)練、參數(shù)服務(wù)器等模式。有一點(diǎn)值得拎出來說參數(shù)服務(wù)器架構(gòu)本質(zhì)上是一個(gè)“資源和通信管理”問題和單機(jī)訓(xùn)練框架的關(guān)注點(diǎn)完全不同。我看分布式模塊的源碼時(shí)會(huì)特別關(guān)注通信壓縮、稀疏參數(shù)拉取、多機(jī)容錯(cuò)這些實(shí)現(xiàn)。PaddlePaddle 在這些方面確實(shí)有長期積累不是臨時(shí)拼出來的模塊。但代價(jià)是這部分代碼非常多、非常細(xì)而且和具體部署環(huán)境綁得比較深。如果你只做單卡或小規(guī)模訓(xùn)練這部分代碼完全可以忽略如果你要做大規(guī)模分布式那它可能是整個(gè)代碼庫里最具學(xué)習(xí)價(jià)值的部分。5. 構(gòu)建治理、內(nèi)存管理與工程細(xì)節(jié)實(shí)證5.1 CMake 中的選項(xiàng)爆炸與依賴管理靜態(tài)審閱一個(gè)大型 C 工程構(gòu)建系統(tǒng)是繞不開的第一道關(guān)卡。PaddlePaddle 使用 CMake 組織構(gòu)建根目錄下的 CMakeLists 和 cmake/ 目錄里堆了大量的編譯選項(xiàng)和配置邏輯。常見的 WITH_GPU、WITH_DISTRIBUTE、WITH_TESTING、WITH_MKL、WITH_ONEDNN、WITH_AVX 等都是編譯時(shí)期決定“這個(gè)二進(jìn)制里包含哪些能力”的開關(guān)。這種“大選項(xiàng) 條件編譯”的治理模式好處是靈活想要什么功能自己編壞處是組合數(shù)爆炸理論上 WITH_GPU、WITH_DISTRIBUTE、WITH_AVX、WITH_CINN 可以組合出幾十種構(gòu)建配置維護(hù)這些組合之間的兼容性是很重的負(fù)擔(dān)。第三方依賴方面代碼庫通過 cmake/third_party 下的 external_*.cmake 腳本統(tǒng)一管理 glog、gflags、protobuf、mkl 等外部依賴的下載、編譯和鏈接。我看到這些腳本的設(shè)計(jì)是合理的但也確實(shí)存在新接觸的人容易踩的坑網(wǎng)絡(luò)環(huán)境不好時(shí)依賴下載失敗就能卡掉你大半天。5.2 內(nèi)存分配器與顯存池實(shí)現(xiàn)邏輯內(nèi)存管理是訓(xùn)練框架容易出問題、又必須做好的模塊。PaddlePaddle 在這塊保留了相當(dāng)完整的實(shí)現(xiàn)CPU 側(cè)與 GPU 顯存?zhèn)榷纪ㄟ^ Allocator 體系管理目的是減少頻繁 cudaMalloc / cudaFree 帶來的開銷。源碼里能看到類似 BuddyAllocator 的伙伴分配器實(shí)現(xiàn)把顯存切成塊、做空閑塊合并屬于經(jīng)典的內(nèi)存池設(shè)計(jì)。從使用者的體感來說顯存池的好處是訓(xùn)練起來顯存占用相對穩(wěn)定反復(fù)創(chuàng)建和銷毀 Tensor 不會(huì)頻繁觸發(fā)昂貴的驅(qū)動(dòng)級分配。代價(jià)是池化本身會(huì)占住一部分顯存不釋放顯存統(tǒng)計(jì)和真實(shí)占用之間會(huì)出現(xiàn)差距。源碼審閱中我看到池化分配器有對應(yīng)的清理邏輯但我還是建議在實(shí)際部署中用環(huán)境變量監(jiān)控一下顯存池行為不要一看到池化就默認(rèn)“顯存不會(huì)再漲”。5.3 錯(cuò)誤處理、日志與斷言宏一個(gè)框架的“自我修養(yǎng)”可以從錯(cuò)誤處理看出來。PaddlePaddle 在老代碼里大量使用 PADDLE_ENFORCE 系列宏新 PHI 代碼中則越來越多地使用 PD_CHECK、PD_ENFORCE 這類輕量級斷言。這類宏的核心作用不只是報(bào)錯(cuò)而是把錯(cuò)誤信息標(biāo)準(zhǔn)化什么條件失敗、參數(shù)是什么、期望是什么、實(shí)際是什么全部拼進(jìn)異常消息里保證用戶拿到的是可診斷的錯(cuò)誤而不是一段裸奔的段錯(cuò)誤。日志方面源碼引入了 glog 風(fēng)格的 VLOG 分級日志配合 PADDLE_ENFORCE 體系形成一個(gè)“正式錯(cuò)誤靠異常、調(diào)試信息靠 VLOG”的分層。從我讀代碼的體驗(yàn)看框架的錯(cuò)誤消息質(zhì)量總體在線出問題時(shí)基本能定位到具體 API 和條件。這在大型框架里很難得很多項(xiàng)目到了后期錯(cuò)誤處理會(huì)越來越敷衍而 PaddlePaddle 明顯把這塊當(dāng)成了工程資產(chǎn)在維護(hù)。5.4 測試與 CI 的組織方式大規(guī)??蚣苋绻麤]有測試保護(hù)任何重構(gòu)都是噩夢。PaddlePaddle 的 test/ 目錄下分層放著 Python 測試和 C 單測核心算子、API、分布式策略、動(dòng)轉(zhuǎn)靜鏈路都有覆蓋。CI 側(cè)paddle/scripts 下的構(gòu)建腳本把不同硬件、不同選項(xiàng)的編譯任務(wù)拆到多個(gè)流水線里目的是盡量在 PR 合入前發(fā)現(xiàn)回歸。我審閱時(shí)有意識地統(tǒng)計(jì)了不同模塊的測試密度phi 算子庫的新代碼普遍配套了 kernel 級測試覆蓋多 dtype、多 shape、多 layout 的矩陣fluid 老代碼的測試覆蓋相對更歷史化基本上“有測試保證它不崩”但未必每個(gè)邊界條件都測到了。這種測試密度不均衡恰恰反映了遷移期的現(xiàn)實(shí)新代碼從設(shè)計(jì)之初就面向可測試性老代碼是先跑起來再補(bǔ)測試。5.5 工程觀察小結(jié)把構(gòu)建、內(nèi)存、日志、測試匯總起來看我對 PaddlePaddle 的工程底子給出這樣的觀察維度觀察結(jié)果證據(jù)來源構(gòu)建靈活度高但組合矩陣復(fù)雜WITH_GPU/WITH_DISTRIBUTE 等大量 option依賴治理集中、可復(fù)現(xiàn)cmake/third_party 統(tǒng)一管理外部依賴內(nèi)存管理有成熟的池化設(shè)計(jì)BuddyAllocator、Allocator 體系錯(cuò)誤處理標(biāo)準(zhǔn)化程度高PADDLE_ENFORCE、PD_CHECK 宏體系測試覆蓋新代碼優(yōu)于老代碼整體可接受test/ 目錄與 CI 腳本6. 審閱發(fā)現(xiàn)的風(fēng)險(xiǎn)點(diǎn)與給使用者的現(xiàn)實(shí)建議6.1 風(fēng)險(xiǎn)點(diǎn)雙核并存的認(rèn)知負(fù)擔(dān)最大的風(fēng)險(xiǎn)仍然是 fluid 與 phi 雙核心并存。對一個(gè)新加入的貢獻(xiàn)者或想要做深度集成的團(tuán)隊(duì)必須同時(shí)理解兩套 Tensor 表示、兩套算子注冊方式、兩套執(zhí)行入口才能順利瀏覽代碼。這個(gè)學(xué)習(xí)曲線不是 PaddlePaddle 獨(dú)有的任何從老架構(gòu)演進(jìn)過來的大項(xiàng)目都有類似問題但因?yàn)檫@個(gè)框架的代碼量足夠大這里的認(rèn)知負(fù)擔(dān)也足夠重。我的建議是如果你是第一次接觸這份源碼直接以 phi 為主線、以 fluid 為參照不要試圖兩條線同時(shí)學(xué)。讀算子就去 phi/kernels讀執(zhí)行引擎就去看 fluid/imperative 和 fluid/framework碰到交集再用調(diào)試器確認(rèn)數(shù)據(jù)流而不是靠猜。6.2 風(fēng)險(xiǎn)點(diǎn)宏抽象與多后端條件編譯膨脹PaddlePaddle 的注冊宏體系對框架自身來說提升了開發(fā)效率但對閱讀者不太友好。像 PD_REGISTER_KERNEL、REGISTER_OPERATOR 這類宏背后隱藏了大量樣板代碼。讀源碼時(shí)如果“宏不展開”去讀很容易一頭霧水。建議準(zhǔn)備一個(gè)能查看預(yù)處理器展開結(jié)果的工具鏈把宏還原成真實(shí)代碼再讀效率會(huì)高很多。另一個(gè)隱患是多后端適配帶來的條件編譯膨脹??蚣芤С?CPU、CUDA、ROCm、XPU、NPU、自定義設(shè)備于是源碼里到處是 #ifdef 和按后端劃分的目錄。這導(dǎo)致一個(gè)問題同一個(gè)算子的完整實(shí)現(xiàn)被切碎到多個(gè)文件里不把這些文件都讀一遍你很難建立對一個(gè)算子的完整理解。對使用者不是大問題但對貢獻(xiàn)者是真的痛。6.3 給想要讀懂或改造 PaddlePaddle 的團(tuán)隊(duì)三條路徑如果你只是用框架訓(xùn)練模型完全不需要讀源碼看文檔和 API 就夠了。但如果你確定要改造它、移植硬件、或者自定義算子我給你三條經(jīng)過這次審閱驗(yàn)證的路徑。第一先跑通最小算子擴(kuò)展。照著 phi/kernels 下最簡單的 elementwise 系列從 kernel 實(shí)現(xiàn)、infermeta 推導(dǎo)到 PD_REGISTER_KERNEL 注冊完整走一遍建立“一個(gè)算子從聲明到被調(diào)度”的全局圖像。這個(gè)過程不長但價(jià)值非常大。第二順著動(dòng)態(tài)圖 Tracer 追一次前向和反向。選一個(gè)簡單模型在 paddle/fluid/imperative/tracer.cc 里設(shè)置斷點(diǎn)看一次算子的執(zhí)行如何被記錄、反向 OP 如何被插入。理解了這條鏈路你對 PaddlePaddle 執(zhí)行模型的理解就比大多數(shù)用戶深一個(gè)層次。第三再去看分布式或 CINN。前置條件是已經(jīng)建立了單機(jī)執(zhí)行模型的心理地圖否則進(jìn)去就是一堆概念轟炸。分布式可以先從 Fleet 的 Python API 追到 C 實(shí)現(xiàn)CINN 則先看前端的圖捕獲再逐步進(jìn)入 IR 和代碼生成。6.4 對官方演進(jìn)方向的一點(diǎn)外部視角建議從靜態(tài)審閱的外部視角我認(rèn)為 PaddlePaddle 接下來最值得投入的工程方向是進(jìn)一步壓縮 fluid 舊核心的邊界讓 phi 成為事實(shí)上的統(tǒng)一算子內(nèi)核。這不只是為了代碼美觀而是直接關(guān)系到二次開發(fā)者的接入成本。另一個(gè)我比較看好的方向是繼續(xù)完善自定義硬件后端的外部接口讓國產(chǎn)芯片團(tuán)隊(duì)可以在不深入 fluid 內(nèi)部的前提下完成適配。我也理解這種收斂不可能一蹴而就老模型要兼容、老接口不能直接下架、生態(tài)工具不敢貿(mào)然遷移。這套代碼庫的體量和歷史包袱決定了它的演進(jìn)速度不可能像新框架那樣快。但我希望在未來的版本里能看到老代碼的比例逐年下降而不是繼續(xù)保持“三套馬車并行”的穩(wěn)定狀態(tài)。審閱完 PaddlePaddle 這套源碼我最強(qiáng)烈的感覺是它不是一個(gè)“設(shè)計(jì)出來”的框架而是一個(gè)“長出來”的框架。十年間每一輪技術(shù)變革、每一個(gè)硬件合作伙伴、每一批用戶需求都在代碼里留下了痕跡。這種項(xiàng)目不適合追求純潔架構(gòu)的人去讀它適合想理解真實(shí)世界工程決策的人去讀——你會(huì)看到一次次妥協(xié)、一次次橋接、一次次在“兼容現(xiàn)狀”和“走向未來”之間踩鋼絲。如果你帶著這個(gè)心態(tài)去翻源碼能學(xué)到的東西可能比讀一個(gè)精雕細(xì)琢的新框架要多得多。
返回列表
PREV
查看更多資訊
NEXT
返回資訊列表
黄色大片免费在线| 久久久久久性爱视频| 成人久久无码www| 久久久精品91八戒| 日韩 女同 综合| 人妻精品综合中文字幕在线 | 亚洲一区二区性爱电影| 亚洲第二页| 蜜桃视频精品一区二区| 啪啪啪精品视频| 天天综合香 ld视频| 亚洲一曲日韩精品| 成全动漫视频观看免费下载| 日本高清熟女久久一区| 97一区二区蜜臀| 日韩欧美成人综合在线| 97超碰超碰| 91九九九小逼| 国产久久久9999| 盗摄女人妻在线| 理论久久婷婷网8| 91国产美女丝袜足交精品视频| 日本福利二区视频| 色婷婷九月| 日韩欧美福利视频看看| 国产精品扒开腿做爽爽爽视频| 加勒比AV天堂| 久久久穴999| 婷婷久久久| 亚洲中文国际强奸字幕| 亚洲欧洲无码bt精品合集| 欧美日韩国产色五月综合在线| 一区二区精品更新提醒| 欧美精品 - 91爱爱| 欧美黄色大香蕉一区二区| 久久久99免费| 网友自拍第1页| 精彩久久中文| 四虎在线播放| 人妻少妇精品久久久| 国产性刺激| 精品一区二区啪啪啪| 人妻一区视频| 入口操逼网站| 亚洲天堂区| 中文字幕日本久久| 久久 国产精品 一区| 人人操人人叉人人插人人| 久久双插| 欧中美三级一区二区三区| 亚洲鸥美色图| 超碰 国产熟女精品一区| 啊啊啊操死我| 久久99网站| 久久综合97| 新精精品久久精品| 欧美日韩999| 91社操逼| 欧美日韩国产中文超碰| 天天综合91在线| 色五月激情网| 日韩国产中文字幕| 蜜臀少妇一区二区| 大香蕉十区| 丰满翘臀美女影院视频| 91成人在线| 亚洲中文人妻色| 国产五码丝袜屁眼| 国产久久男人天堂| 草B在线| 91少妇通奸网站| 伊人在线大香蕉视频久久| 亚洲日本天堂| 国产91美女视频| 日韩精品啪啪啪| 日韩一区二区精彩视频| 韩日性爱av| 丁香婷婷五月| 国产AV激情无码久久无码| 激情网色| 大香蕉久久| 少妇高潮99p| 欧美日韩一干二干| 少妇高潮九九九九| 亚洲天堂一区二区久久| 成视频在线观看免费看| 九九热精品免费视频| 91美腿丝袜在线观看| 久久九七| 久久精品操| 国产一区二区成人av在线播放| 欧美日韩色综合网| 亚洲AV成人无码一区二区三区在线观看| 超碰在线人妻| 亚洲中文电影| 中文字幕在线观| 多毛小伙内射老太婆 | 五月婷婷激情综合| 青娱乐日韩无码| 7月婷婷综合| 欧美日韩天堂| 人妻 欧美亚洲| 超碰在线91| 思思视频免费看网站| 黑人操一区二区| 大香蕉九九| 激情终合网| 99999久久精| 一个国产在线综合网站| 五月婷婷六月丁香| 青青伊人加勒比海| 日本一区二区中文字幕久久| 操逼逼无码| 偷窥自拍亚洲色图| 九九九不卡| 亚洲色图殴美色图激情乱伦| 综合久欧洲| 中文字幕黄色一起草| 久久久久亚洲三级电影| 日本精品一区三区| 日韩有码 一区二区三区| 91chinese在线| 久久一二三四五六七八九区区| 久久区| 色色丁香| 欧美亚洲首页| 麻豆天美国美国产| 欧美91精品国产自产| 亚洲另类电影| 天天性射网| 亚洲成人无码影院| 亚洲视频二区 | 久草精品一区| 午夜超爽| 淫乱图区| 国产 热久久久久国产精品| 欧美在线啊啊啊 | 九九九精品色乱九九九| 亚洲欧综合另类无码一区| 亚洲色图欧美色图制服丝袜| 日韩一级性爱无码| 五月婷婷hd| 精品无码一区二区三区色欲| 日少妇亚洲版| 免费成人在线观看91| 九色 人妻 大香蕉| 国内毛片热久久思思热| 超碰 国产熟女精品一区| 国产精品久久久无码AV网站| 91精品操美女| 人妻丝袜无 码视频专区| 在线视频资源| 97蜜桃综合| AV乱伦国产| 蜜桃视频精品一区二区三区| 日本三级一区二区 在线| 国产情色第一第二页在线观看| 久久美女国产| 伊人九九| 国产精品网站www| 欧美性爱免费短视频| www.色婷婷色综合| 白天啪啪晚上啪啪视频| 亚洲drav色图| 玖玖婷婷五月天| 欧美一区二区三区另类精品| 日本三级网页| av草草在线电影| 日韩黄色电影网站| 啪啪视频免费在线观看| 大香网伊人久久综合网eew| 一级片在线观看高清无码| 中文字幕久久亚州无码| 五月天色五月| 370p日韩欧美亚洲精品| 天天日天天屌天天操| 国产成人免费观看在线视频| 亚洲Av诱惑| 亚洲色图超碰在线| 久操网线| 国产色产精品在线观看| 五月天AV资源| 日韩电影天堂视频一区二区| 日韩精品.久久精品.AV女优.天美传媒| 国产精品内射婷婷一级二| 欧美色图成人网一区二区| 亚洲第91页| 岛国天天午夜影院传媒网| 青女在线| 操逼网站视频漫画国产| 热久久无毒不卡| 日韩精品一区二区日韩| 91东北熟女| 亚码人妻| 国产亚洲精品第一最新| 久久久精品九| 美女毛片999| 99精品网| 精品久久人妻成人网| 张柏芝国产一区在线观看| 肉丝无码中文高清| 60秒免费小视频| 天天综合网~69| 一区二区三区 日韩欧美| 97天堂| 亚洲情色综合网| 毛片17S| 六月婷婷色综合| 美国人人操人人操| 国产精品 视频| 欧美丝袜91| 久久 亚洲 日韩 人妻| 大鸡巴久久久| 婷婷色一区| 九九无码视频| 亚洲aV性爱| 欧美激情性爱视频网站| 粉嫩av平台| 久久97超碰| 色欧美在线| 亚洲人在线成线成人| 69丨亚洲丨精品丨入口免费播放| 男人天堂久久日韩| 中文有码第五页| 夜夜操二区| 亚洲精品久久久久久久蜜桃臀| 中国国产精品一区视频| 一线黄色免费性爱片| 被窝影院午夜看片无码| 青操影院| 综合av影片| 三级片大波波| 天美一区在线| 无码操逼视频一下| 手机在线免费看的av| 久热大香蕉网站| AV九九| 综合久久婷婷| 国产av高清版| 国产三级中文字幕粉嫩| 一本久久久精品| 天天干夜夜鈤| 久久午夜色播影院免费高清| 国产久久久久久| 懂色av一区二区三区天美传媒| 精品久| 亚洲 欧美 制服 另类 自拍| 国产成人亚洲精品无码古代早漏男 | 加勒比综合九九99视频在线播放| 欧美日韩人人精品| 天天澡天天爽日日av| 熟女欧美日韩综合婷婷| 久久精品99| 久久内射| 欧美性爱在线无码| 欧美亚洲综合色| 啊啊啊好舒服好爽啊啊啊视频| 嗯嗯啊啊好大好爽| 久久97视频| 少妇综合| 久草视频在线视频在线视频在线观看| 操91| 97jingpin| 婬女免费一二三区A片| 大香蕉日韩| AV网站高清无码在线观看| 综合色99| 久久精品一区二区一8| 玖玖久久久| 日韩AV无码网站| 色综合久久88色综合久久天天| 岛国成人av在线播放网址| 国产91美女高潮| 欧美在线伊人色| 免费97视频| 欧美色图欧美| 中国zzijzzijzzwww精品| 五月婷婷性爱| 涩涩久久精品| 天堂v无码免费视频| 久久久精品无码亚免费| 啊啊啊啊操死我了| 欧美中文字幕日韩在线| 日本女人操逼| 狠狠躁日日躁夜夜躁A| 欧美亚洲今日在线| 久久精品国产72国产精品福利| 色婷婷aV一区二区三区麻豆综合| 2017天天操天天日| 久草网站免费在线观看| 欧美视频第二页| 中国特猛少妇色xxx| 色婷婷视频| 人人喜人人妻| 青娱乐妇女性生活| 一级A片女人高潮叫床| 日韩欧美视频青青| 九九操久久国产免费视频| 岛国大片国产| 久久久久七视频| 人妻欧美| 九九热最新| 激情五月天校园春色网| 26UUU欧美激情一区二区| 国产欧美美女免费观看视频| 99久在线精品99re8| 国产精品探花色| 99中出在线| 国产精品一二三在线看| 91真人天天在线| 欧美性爱第一页久久| 亚洲男人天堂2019| 青青操国产夫妻| 视频黄色国产一级| 9997se| 大黄片做爱的大的| 加勒比无码毛片| 亚洲成a人在线观看久| 豆1无夜无码| 成人七区| 久操| 日本天天色| 欧美成人精品一区| 成 人 影视 一区 二区 三区 四区| 操人无码| 爱逼综合| 亚洲天堂自拍| 狠日操| 热久久无毒不卡| 免费黄色A片| 91美女高潮| 九九av| 国产乱子伦久久精品综合一区二区三| 真实高潮91| 亚洲码在线中文在线观看| 欧洲射精91| 成人七区| 夜夜夜夜久久久久| 无码91| 丰满美女一级毛片在线播放| 级品肉射| 五月天婷婷基地| 九色黄站| 97频视在线| 91丨九色丨43老版熟女| 无码精品久久| 欧美图片校园春色| 久久久久久久九九九九九九| 国产1769在线| 天美精品原创av片国产| 亚州图片第一页| 97天天爽| 中文字幕在线高清男人的天堂 | 男人的天堂久久狠| 日韩欧美操逼xxx| 亚洲少妇自拍中文字幕懂色| 狠狠久久手机视频精品| 天天亚洲综合| 人妻性爱一区二区| 欧美高清性猛交| 久久直播国产| 亚洲欧洲激情卡通另类文学四射小说网站| 亚洲精品丝袜-不卡成人免费……| 大屁股人妻女教师撅着屁股| 激情婷婷丁香网| 18一区二区三区| 精品v日韩欧美国产| 快灬快灬 一下爽蜜桃在线观看| 岛国小电影| 最新日韩黄片| 久久男人精品| 欧美日韩在线小说| 1204人成网站色www| 天天操女人| 日亚韩精品视频二区三| www.91人妻.com| 97国产精品一区| 91欧美性| 啊啊啊啊啊好大好舒服想要| 中文字幕日产av人| 色婷五月| 午夜福利成人免费视频| 国产精品无码在线| 乱伦av国产| 国产主播福利| 日本成熟少妇A∨网站| 亚洲a色| 综合色久欲| 韩国女主播青草在线| 丁香五月av| 国产精品岛国片在线观看| 人人操人人肉久久精品| 欧美男人的天堂| 后入福利视频| 91影视亚洲| 国产精品午夜成人福利| 69视频福利导航| 精品.99999| 亚洲欧美精品91| 亚洲AV成人无码一区二区三区在线观看 | 国语av最新自产拍在线观看| 欧美天天性| 91精品婷婷国产综合久久| 素人无码中文字幕| a片亚洲一本通视频| 欲色影视综合吧| 一区中文字幕二区日韩| 亚洲不卡av在线| 九九九久千久久激情蜜桃在线看 | 色色五月婷婷| 欧美成人黄网色网站| 日韩欧美aⅴ综合网站发布| 1000部熟女视频在线观看| 欧美狠狠| 眼镜人妻101.com| 强奸乱伦亚洲第一页| 国产亚洲日韩在线三区黑人| 男女一级A片大黄,一进一出| 91久久婷婷| 亚 欧 美 综合| 国产精品小视频一区二区三区| 日韩AV电影网站| 久久不卡一区二区| 精品176精品2| 韩国毛片一区二区三区| 躁躁躁日日躁2020| 国产传媒午夜理伦精品| 亚洲AV无码黄色强奸| 99久久久久久久久| 国产按摩一区二区三区| 九九热超碰97亚洲最新香蕉| 男人的天堂日韩| 深喉吞精| 成人五级久久| 无码 有码 国产18p| 久热无码| 无码欧美有限公司| 九九色逼| 日日干夜夜干| 超碰人妻中文在线| 9ⅰ久久久天天| 午夜在线播放| 日韩中文字幕精品一区在线| 99操视频| 久久超碰98| 可乐操亚洲蜜911| 国产 日韩,欧美 自拍| 国产av强奸美女| 可以看的av| 麻豆伊人网| 欧美综合1性辶| 操操逼视频| 五月综合色| 91成人社区| 91肉丝| 夜嗨影院| 狠狠色一区二区中文字幕| 亚洲,欧美,综合网| 激情抓乳插进去啪啪啪日韩| 99这里只有精品| 啊啊啊好舒服视频在线观看| 亚洲综合电影| 夜夜操天| 97亚洲综合在线| 亚洲成人黄色在线观看| 99激情| 天天综合麻豆视频| 免费观看性欧美一级| 丁香五月天啪啪| 超碰久久精品| 国产特级毛片AAAAAA高潮流水| 日韩精品99999| 高潮9999外国| 久久美女福利是上海美女| 午夜天堂精品久久| 亚洲 无码 偷拍| 激情综合97| 丁香婷婷久久| 极品AV网站在线观看| 手机在线免费看的av| 天美精品av| 久草看看看| 欧美精品999| 亚洲精品九九九| 日韩黄色成人性爱| 久久男人| 男人天堂一区二区| 资源新线在线天堂| 日韩人妻少妇中文字幕| 超碰人妻久久| 亚洲天天艹| 另类图片天天影视| 欧美色图片91| 色色网91| 91精品少妇搡搡搡| 日本色色的视频| 精品高清牛人盗摄一区二区三区中文字幕A片免费在线观看 | 亚洲成a人在线观看久| 麻豆av一区二区三区| 亚洲欧美色图片| 少妇高潮99p| 欧美精品三级黄片| 情色五月天久久久| 黄色av网站在线播放| 熟女AV一区| 岛国AB视频| 青青草原成人| 大香蕉在线视频15| 十八禁视频一区二区| 高清不卡视频| 女人被男人桶爽视频网站| 屌妞视频久久久久久久| 亚洲高清国产理伦片| 天天天堂影视日韩亚洲91| 一区二区三区 日韩欧美| 欧美后入式| 国产女人高潮视频| 国产精品人妻免费精品| 日本九九久久99| 国产粉嫩出水在线播放| 乱人乱色一区二区三区免费| 蜜臀av中字字幕网站| 淫荡熟女乱伦网| 视频二区美腿制服人妻欧美| 大香蕉十区| 在线看片国产精品每日更新| 天天天做天天天爱天天天爽| 色性荡荡荡荡视频| 亚洲精品乱码线路中文字幕| 国产欧洲精品亚洲午夜拍精品| 99精品网| 亚洲导航深夜福利| 青娱乐国产剧情av一区| 天天综合网合集91| 尤物av网站| 巨爆乳肉感一区二区三区竹菊影视| 色吧91| 少妇色综合| 女色视频社区| 国产亚洲99久久精品| 国产一级舔足在线观看| 超碰色美女| 国产91精品久久久久久久网曝门| 99色在线视频| 国产精品久久久久久久毛片1| 久久久久久性爱免费视频| 日韩精品9999| 亚洲综合春色| 精品一区二区综合熟妇| 精品人妻视频入口| 天天操妹子| 97超碰总站| 伊人成人情色综合| 狠狠 91| 亚洲AV成人无码一区二区三区在线观看 | 亚洲性高潮| 亚洲青青草| 国产小炒后入式| 熟妇亚洲一区二区三区| 精品久久久av| 99热99re6国产在线播放| 中文字幕日韩综合| 日韩无码专区| 91影库| 色色毛片| 偷拍精品一区二区三区| 91欧美色| 91成人无码| 国产日本顶级一区二区三区| 97精品久久久久中文字幕| 18一区二区三区| 日韩免费人妻色情网站| 天天操天天插| 五月天激情婷婷| 九九热视频在线观看| 久久精品性| 丰满人妻av一区二区三区| 操逼操逼逼操操逼91 | 99热只有这里有精品| 乱论91| 亚洲欧美综合区自拍另类| 91香蕉视频在线观看免费| 日本成熟少妇A∨网站| 蜜臀99久久| 东北毛片| 亚洲成人在线高清| 亚川综合视频| 十八禁的黄污污免费网站| 国产毛片久久久久久久| 3P乱轮视频| 国产激情片在线观看| 久久香蕉影院| 国产丝袜美女诱惑| 国产精品网站www| 狠操91,com| 96超碰网| 日韩欧美性吧婷婷乱伦大香蕉 | 操屄不卡视频| 少妇超碰在线| 18岁禁 茉莉成人久久| 色超碰综合| 日韩钢筋无码高清啾啾啾| 91精品婷婷国产综合久久竹菊| 欧美中字不卡| 欧在线一二区| 看免费的黄片| 色狠狠综合| 久操高青| 精品美女人人干| 久久99干一本高清| 久久久久久久久国产| 18禁网站在线播放| 男人天堂导航| 超碰在线91| 日韩中文字幕视频| 日本午夜精品理论片A级APP发布| 激情综合五月丁香| 麻豆婷婷成人一二三| 亚州色图片在线色| 国产又粗又长的视频| 欧美性爱一区二区三区| 国内精品久久人妻性色av| 精品亚洲国产成人AV制服丝袜| 男人的天堂啪啪| 欧美有码亚洲中文字幕一区二区三区四区| 极品久久久久久久久久久久久久| 欲香欲色综合天天伊人| 亚洲自拍天堂| a片偷拍视频| 伊人激情| 人妻少妇精品一区二区三区| 99久在线精品99re8a| 精品人妻一区二区免费看| 大色综合| 囯产乱伦一区二区三女| 欧美色图天堂网m| 黄页网站成人免费| 午夜超爽| 熟妇人妻一区二区| 亚洲狠| 唐山老熟妇露脸啪啪叫| 婷婷三区| 91人人爽人人爽| 黄色一区三区| 在线无码视频| 免费自拍三级综合| 91亚洲黑人| 国产丰满少妇久久久精品影院| 都市激情人妻一区二区青青操视频| 亚洲丨在线| 天天干夜夜一操| 久久m| 欧美激情性久久久久久| 久久人妻四季| 91久久久亚洲| 色五91| 欧美精品庄| 国产激情综合五月久久| 自拍第一页| 日韩国产乱子伦App| av天天在线| 老熟女搡BBBB搡BBBB视频| 熟女丝袜视频| 亚洲在线| 久久精品免费| 大香蕉狠狠爱| 日本在线一二| 蜜臀Av一区二区三区| 黄色av一区二区在线| 亚洲综合一| 香蕉人人操tv| 亚洲精品人伦一区二区| 国产精品蜜乳AV| 强上我不卡卡| 超清福利精品视频在线| 嗯嗯嗯啊啊啊操的我好爽| 操逼A∨| 东京热一区二区三区四区五区六区| 精品欧美老熟女一二区| 亚洲欧洲精品成人| 中国少妇XXXX做受| 亚洲AV人人澡人人爱| 日韩中文字幕视频在线观看| 国产白丝网站| 亚洲情色婷婷五月天| 亚洲成人黄色在线观看| 中文字幕人妻色偷偷久久皮| 中文字幕中文字幕一区二区| 日本最新1区2区3区| 精品性爱无码在线播放| 中日韩久久久免费看| 久久思思热| 国产一级舔足在线观看| 日本蜜桃| 91麻豆va国产精品| 精品国产乱子伦一区二区三区,精品一| 国产成人+综合亚洲+天堂| 精品天堂| 久久久熟妇熟女国产| 99亚洲国产精品色一区二区三区| 久久久久元码视频| 浪人综合网| 变态综合色| 免費人妻夜夜爽天天爽爽一区| 久久91精品国产9丨久久分亭| avav青青草久久夜| 99热超碰| 日本色色的视频| 亚洲97综| 疯操AV| 日本91白丝| 思思热在线cao| 国产精品久久蜜乳av| 91精品国产综合久久久蜜臀| 久操不卡视频| 亚洲精品久久久久毛片A片拉屎 | 日日日日做夜夜夜夜做无码97| 玖玖婷婷五月天| 国产精品白丝在线播放| 91国产丝袜美女| 爆乳免费黄网站| 在线观看综合精品亚洲| 综合伊人网12色| 91热色| 蜜桃色院一区久久 | 欧美综合97www| 你想操日本小逼吗| 蜜桃色色网站视频三区| 亚洲精品久久久久久久蜜桃臀| 蜜臀99精品国产高清在线观看| 女生自91网站| 国产一区二区在线电影| 伊人91| 91欧美综合在线| 九色婷婷| 久久九九视频九九视频| 国产成人超碰在线| 麻豆av一区二区| 欧美少妇性乱| 欧美一区二区在线资源| 91综合在线| 思思性爱| 全免费a敌肛交毛片免费| 五月丁香黄色网| 五月天伊人网| 综合97亚洲| 草久久久| 午夜福利在线视频1000| 91网亚洲| 日本三级中国三级99人妇网站| 乱伦Av网| AV污污污污| 国产传媒操逼视频| 老司机福利青青草| 啊啊啊啊啊啊在线观看| 欧美成人精品欧美一级乱黄一区二…| 999九九九九国产动| 日韩精品操少妇| 四虎影院成年人片| 激情五月婷婷| 久久性爱城| 免费A V在线播放| AV一起草在线| 精品对白久久不卡| 亚州综合在线| 91成人无码| 热热色中文无码| 97视频免费播放| 亚洲AV色图一区| 好湿好紧视频| 一本大道青青| 日韩欧美加勒比| 偷拍精品一区二区三区| 婷婷伊人五月| 370p日韩欧美亚洲精品| 天天色,天天干,天天干| 淫荡熟女乱伦网| 亚洲欧美国产其他二区| 婷婷色中文字幕| 曰韩欧美国产传媒麻豆第一区| juliaann精品熟女一区| 久久久久网站-538在线视频-欧美永久乱码| 91国产美女丝袜足交精品视频| 人妻大香蕉| 大粗鳼巴久久久久| 欧美,日韩,中文,另类| 精品久久大胆人体| 人妻无码一区二区三区久久99| chaopen97久久| 国产97在线 | 亚洲| 国产主播福利| AV污污污污| 五月婷婷综合在线| 欧美三级免费伊人| 欧美在线综合| 少妇久久久久久| 国产精品久久久久无码A√| 色婷婷网| 97久久精品国产| 亚洲精品电影| 91精品久久久| 校园春色制服丝袜中文字亚洲| 成人热久久精品| av天堂电影网| 人人看欧美性爱| 日韩美女久久一区二区三区| 蜜臀th| 久久久久久久免费A片国产成a人亚洲精∨品无码 | 久操91视频| 九九综合久久| 97色涩| 亚洲综合电影| 99综合免费视频| 日韩78m视频| 探花视频免费观看国产专区| 爽 好舒服 无码刺激久久| 婷婷五月天久久精品视频一区二区三区| 2026国产精品视频| 中文字幕精品一区二| 人人操AV| 97在线观看免费| 亚洲精品毛片在线观看| 男人下部插入女人下部| 亚洲蜜臀视频精品久久| 久艾草在线精品视频在线观看| 欧美久久九九| 天天综合91入口| 亚洲中文字母在线播放| 五十路熟女人妻一区二区三区四区五| 伊人久久在线视频观看| 超碰超碰95| 亚洲97在线观看| 五月天综合在线| 国产日产欧产美韩系列麻豆免费| 一区操逼| 欧美色图成人网一区二区 | 成人无码在线视频网站| 欧美黄页在线| 花花AV导航| 婷婷五月影院| 亚洲欧美97√| 激情文学网伊人| 阿姨一区二区免费视频-高清正片西瓜视频下载app-T450AV | 国产日产精品久久快鸭的功能介绍| 曰韩精品九九无码| 日韩熟女精一区二区三区不卡| 午夜福利成人免费视频| 人妻另类| 免费强奸av| 做爱福利视频一区二区| 99久久精品无码一区二区毛片免费| 天天淫人人妻日日色| 欧美18老人禁| 诱惑人妻欧美一区在线播放| 久久久精品中文字幕爱豆| 久久人人爽爽爽人久久久| 精品一区二区国产日韩| 97欧美精品综合| 看大黄色大片原件| 亚洲情色在线| 草莓精品视频| 99热伊人| 欧美中文字幕男人天堂久久精品| 18禁无码永久免费无限制| 啊啊啊97视频| 一级久久久久久久久久久| julia ann久久| 99热这里| 精品一区二区三区国产| 极品粉嫩少妇视频| 韩日性爱av| 青青草色AV| 精品超碰国产| 国产在线综合网| 超碰97欧美日韩| 精品成人av一区二区三区在线| 天天日天天屌天天操| 日本国产欧美高清在线| 91制服丝袜中文字幕| 99re6国产精品99re在线| 亚欧免费| 国产精品伦理| 国内操逼视频二区| 操逼视频免费日韩无码| 亚洲全色网| 国产精品久久久九九九| 久久人人看| 一区操逼| 国产精品一区二区三区在线| 久插综合| 欧美日韩999| 无码人妻精品一区二区中文| 亚洲色性| 欧美国产成人在线| 啊…啊…操我用力操我| 国模无码人体一区二区三| 亚洲自拍青操视频| 欧美另类色| 欧美东京热精品A∨| 综合第一页| 日韩高清一二三| 97亚洲综合电影| 黄色高清无码无码破解免费暗网| 无码高清操逼| 婷婷探花久久精品一区| 少妇被玩视频二三区| 色爱综合网| 精品国产91av一区二区三区 | 亚洲午夜av| 亚洲精品三区在线观看| 青娱乐黄色录像| 亚州综合AⅤ| 熟女丰满人妻一区| 一牛影视成人片免费| 青青在线视频日韩欧美| 骚日日av| 欧洲与亚洲欧美精品中文字幕| 67914亚洲精品| h无码动漫在线观看| 1769国内精品视频| 女人精品内射国产99| 大香蕉手机在线| 中文字幕诱惑制服人妻丝袜美丝袜美| 秋霞视频一区二区| 少妇诱惑视频| 网友自拍第1页| 亚洲交换| 中文字幕欧美日韩三级| 久久精品免费| 日韩性爱视频免费在线| 操B视频日韩无码| 国产精品96| 欧美天天影院| 久久亚洲日韩国产欧| 热久日综合| 91艹逼精品| 日本三级中国三级99人妇网站| 最新日产中文在线麻豆| 午夜精品五区| 国产女人高潮嗷嗷嗷叫小说| 亚洲国产精品V?在线播放| 97日韩欧美| 青娱乐国产剧情av一区| 97超碰碰| 国产精品久久久| 欧美99999| 91国模| 国产午夜精品在线观看| 97色97干| 欧美裸体美女日麻屄| 日本一级真人黄色性爱视频| 亚洲色图亚洲| 3PAV乱伦视频| 丰满少妇一区二区三区免费看| 大香蕉中文在线| 少妇一区二区三区| 久久伊人最新网址视频| 精品久久久av无码免费| 我要去看2个日本美女.com曹逼| 乱伦日本中文自拍| 日韩性爱1级片视频| av天堂精品久久| 欧美精品1区2区3区| 手机看片1024你懂的国产| 狠狠色丁香| 91丝袜美腿网站| 美女97超碰| 韩日自拍| 啊啊啊啊好疼| 亚洲人体视频在线观看| 人人操人人搞人人草| 亚洲人妻中文高清| 久热无码| 日本免费一区二| 亚洲图片 激情小说| 亚洲情色 自拍| 久久精品一区二区三区四区五区| 成人无遮挡毛片免费看| 亚洲一区二区久久久久| 丁香五月婷婷基地| 超碰在线974| 91欧美综合在线| 亚洲天堂资源网| 国产精品嫩草影院午夜两性| 黄片直播三级黄片两女一男| 欧美日韩性感| 日韩精品怡红院| 丰满人妻-区二区三区| 无遮挡男女激烈动态图| 亚洲精品日韩国产欧美| 男人下部插入女人下部| 国产性爱欧美性爱在线 | 俺也射| 国产精品久久久啊| 国产探花精品在线| 91大胆欧美| 亚洲精品黑丝| 天天日天天干天天操| 亚洲黄网在哪免费看| 六月丁丁香| 欧天美中出| 无码人妻精品酒店| 欧美系列在线一区二区| 亚洲AV资源| 久久东京热成人| 97在线观看播放视频| 无码99| 伊人精品视频| aV中亚| 99热在线播放| 后入式视频国产自| 中文字幕精品探花视频| www被窝色com| 久久久夜夜夜| 日韩不卡a级视频专区| 亚洲天堂电影精品一区| 人妻在线大香蕉| 久久永久无码人妻视频| 亚洲国产欧美中日韩成人综合视频| 亚洲色图加勒比| 99久久99久久免费精品蜜臀| 国产精品无码在线| 中文幕97| 综合色久欲| 国产高清MV操逼视频| 97色97好| 东京热男人的天堂| 欧美精品四区| 人妻丝袜一区二区三区在线| 人妻人人做人人澡人人爽欧美一区| 欧美日韩精品国产91| 最新无码国产| 翘臀vidoes| 啊啊啊爽爽| 国产免费永久精品无码| 欧美色亚洲色| 精品少妇一区二区三区在线视频| 91爱欧美| 日本在线播放不卡一区| 国产人妻精品一区二区三区秋霞 | 午夜小电影在线插入淫高潮| 亚洲 一区二区 自拍| 青青草啪啪网| 伊人丁香五月婷婷| 国产老熟女| 超碰97人妻免费在线| 成人无码专区精品视频| 国产精品久久| 在线人妻熟女一区二区三区四区五区| 99999re| 91人妻人人妻| 亚洲日韩人妻中文字幕一区| 中亚av| 亚洲色婷婷久久91| 爱欲AV| 大香蕉乱级| 夜夜操一区二区| 粉嫩av在线一区二区| 亚洲丝袜制服国产91_国语字幕免费观看完整版下载第5集_ | 亚洲熟久久| 萌白酱自拍视频| 日本国产二线女色| 婷婷色在线| 特色a在线上| 色狠人在线99| 51一区二区三区| 人妻喷水| 青青草日本无码| 51久久夜色精品国产麻豆| 日韩中文字幕av在线播放| 伦伦成年午夜免费视频| 色九九九九九九| 国内外色色色色色成人视频| 女人天堂av在线播放| 激情五月天网站| 国产福利一区二| 国产欧美后入| 色综合尤物| 成人五月天丁香激情综合| 欧美日韩亚洲电影| 青青草原人妻| 九九九九九九九九九国产精品 | 9色国产精品一区粉嫩| 狠狠狠狠狠狠| 人人搞人人插人人操| 九九热精彩视频| 熟女被操视频网址| 天美精品原创av片国产| 超碰97最新人妻| 亚洲五码一区二区三区| 97色综合中文网| 91成人国产综合久久精品蜜月| 亚洲图片欧洲图片aⅴ| 亚洲国产97| 欧美性天天影院| 久久五月综合| 欧美丰满少妇xx高潮| 国产精品一区二区三区免费视频| 97超碰无码网| 亚洲啪啪性视频| 天天激情综合站| 欧美操逼录像国产黄色国产| 9久久美女首页| 性吧在线视频| 超碰成人公开| 国产精品999aaa| 高清无码91| 东京热精品97综合网| 亚洲av在线免费观看| 国产精品爽爽va在线观看98| 久久伊人最新网址视频| 色97欧美| 自拍亚洲综合| 日本污ww视频网站| 欧美色视频在线| 边做饭边操逼逼| 精品国产综合久久福利,热99这里有精品综合久久,99热这里只有免费国产精品,精 | 欧美大香蕉专区网| 91九九| 青青草国产一区二区三区| 偷拍欧美激情| 欧洲熟妇xxXx欧美老妇裸体 | 91男同| 久婷婷一区| 久7色| 人人摸人人干| 人妻精品视频一区二区| 黄色香蕉视频网站一区| 欧美色图第一页| 人妻熟女一区二区在线视频| 欧美人妻二区三区| 久久精品店| 免费视频97| 精品乱码在线观看| 国内精品久久国产,www香蕉久久五月丁香,亚洲欧美日韩精品永久在线,日本精品一 | 波多野结衣一级视频| 亚洲欧美国产中文视频| 日逼97| 蜜臀AV午夜精品久| 伊香蕉综合久久久久久久噜噜噜| 97超碰超欧美。| daxiangjiao你懂的| 91老熟女老女人国产老太| 亚洲精品蜜桃久久久一区二区三区| 久久97| 吻戏激情性巴克| 欧美日韩性感| 九色97| 国产夜夜操| 东北女人被操| 射欧美综合| 北京美女一区二区| 亚洲污污网站| 天天干1区2区在线| 1.igao73.com 加入收藏 免费专区 国产精品 中文字幕 日韩精品 欧美精品 精彩 | 围产精品一区二区三区视频播放| 久久久久久亚洲Av无码精| 国产精品嫩草影院午夜两性 | 日韩欧美麻豆大片| 天天天天操|