日韩精品一区二区三区在线视频放-无码中文字幕V?一区二区-成年片免费观看视频-国内少妇人妻丰满av-国产精品中文字幕免费观看-亚洲成人久久一区二区三区-国内少妇偷人精品视频无缓冲-一区二区国产精品日本一区二区三区在线网

ARTICLE DETAIL

資訊詳情

深耕商務建站與企業(yè)官網運營的一線實戰(zhàn)洞察。

從 Issue 到 PR 合入:HCCL 開源貢獻全流程實戰(zhàn)指南

從 Issue 到 PR 合入:HCCL 開源貢獻全流程實戰(zhàn)指南 在昇騰設備上做分布式訓練時HCCLHuawei Collective Communication Library就是那個藏在底層、負責多卡和跨節(jié)點梯度同步的集合通信庫。很多做模型訓練的同學用過它但真正參與過它開發(fā)的并不多。這篇東西我想從一個貢獻者的視角把從提 Issue 到 PR 合入的完整鏈路拆開講一遍包括什么樣的 Issue 會被維護者認真看、PR 怎么寫才不用來回折騰十輪、CI 掛了先查哪里、以及 code review 時那些不好意思問出口的潛規(guī)則。如果你已經有 C/C 或 Python 基礎想找一個有真實落地場景的開源項目練手HCCL 其實是個比想象中更友好的選擇。這篇文章會從項目背景、Issue 規(guī)范、環(huán)境準備、PR 流程、CI 調試到合入后的收尾工作逐步帶你把整套流程走通。哪怕你還沒碰過集合通信只要愿意讀代碼、愿意跑測試也能找到自己可以下手的位置。1. 項目畫像先搞清楚 HCCL 到底是什么1.1 它在分布式訓練棧里的位置在聊怎么給 HCCL 貢獻代碼之前先花點時間把項目本身講清楚。HCCL 是昇騰 AI 加速卡上的集合通信庫對標的是 GPU 生態(tài)里的 NCCL。訓練大模型時數(shù)據(jù)并行是最常見的并行策略每張卡算完自己那一份梯度之后需要把梯度同步到所有卡上這個同步動作就是靠集合通信庫來完成的。AllReduce、AllGather、ReduceScatter 這些通信原語就是 HCCL 對外提供的核心能力。你可以把它理解成快遞系統(tǒng)里的分揀中心每張卡都往里面投遞自己的梯度包裹分揀中心負責按照規(guī)則重新打包再派送給所有卡。如果分揀中心效率低整個訓練任務都會卡在等待上。這也是為什么集合通信庫的性能優(yōu)化如此重要——哪怕只提升 10% 的通信效率在大規(guī)模訓練里節(jié)省的時間成本都是非常可觀的。對貢獻者來說這個位置意味著兩件事一是你寫的代碼會被真實的高性能計算場景使用改動的影響面很直觀二是它涉及的知識面比較寬包括操作系統(tǒng)、網絡協(xié)議、硬件拓撲、并發(fā)編程但每個方向都不是說你要成為專家才能參與很多任務其實是在已有代碼框架上做增量優(yōu)化和修補。1.2 代碼倉庫和模塊劃分HCCL 的源碼可以通過公開代碼托管平臺獲取常見的路徑是在 Gitee 或 GitHub 上搜索相關組織下的 HCCL 倉庫。拿到源碼之后你會發(fā)現(xiàn)它并不是一個特別龐大的項目但目錄結構劃分得很清晰。核心內容一般集中在通信算子的實現(xiàn)、設備管理、拓撲發(fā)現(xiàn)、傳輸鏈路這幾個模塊里。從新人的角度我建議先不要把精力放在底層傳輸鏈路上那個模塊涉及到對硬件驅動的理解排查問題的門檻很高。相對友好的切入點是集合通信算子的上層邏輯、工具腳本、文檔注釋和測試用例。比如你看到某個算子在特定數(shù)據(jù)大小下性能異常順著調用鏈往下查可能定位到的是內存分配策略或者同步等待邏輯的問題這種問題的修復往往只涉及幾百行代碼但對于理解整個項目幫助極大。順便說一句HCCL 的代碼風格整體比較規(guī)整大量使用 C 特性但也保留了不少 C 風格的接口設計。原因很簡單這個庫需要被上層框架比如 PyTorch 的適配層通過 C 接口調用所以對外 API 用 C 接口更穩(wěn)定內部的實現(xiàn)則用 C 來保證開發(fā)效率。1.3 貢獻前的能力準備先潑一盆冷水給 HCCL 貢獻代碼不是會寫 Python 調幾個框架就行的事情。它需要一定的 C/C 功底至少要能讀懂指針、引用、模板這些基礎概念理解多線程和鎖的用法以及具備通過日志和調試工具排查問題的經驗。但也不用被嚇住因為項目里不只是代碼一種貢獻形式。文檔修正、示例代碼、測試補充、Issue 復現(xiàn)驗證這些都是非常有價值的貢獻方式。尤其對于第一次參與開源的人來說從文檔和測試入手熟悉了整個流程之后再碰核心代碼是曲線比較平滑的一條路。環(huán)境方面如果你手頭有昇騰設備那當然是最好的可以本地復現(xiàn)并驗證性能改動。如果沒有也可以貢獻一些不依賴硬件的代碼邏輯優(yōu)化或者在 CI 環(huán)境里去跑測試。只不過需要提前說明的是HCCL 的很多測試是依賴真實硬件環(huán)境的純軟件模擬環(huán)境只能覆蓋一部分功能這個限制對所有貢獻者都一樣不是你一個人的問題。2. 從一條合格 Issue 開始2.1 Issue 不是吐槽區(qū)我見過很多新手在 GitHub/Gitee 上提 Issue開頭就是“訓練報錯了求大佬看看”然后附一張模糊的截圖沒有版本號沒有日志沒有復現(xiàn)步驟。這種 Issue 基本不可能得到有效的回復——不是維護者不熱情而是信息不足以定位問題。高質量開源協(xié)作的第一步是學會提一條合格的 Issue。一個合格的 HCCL Issue必須包含幾個核心要素問題現(xiàn)象、復現(xiàn)步驟、環(huán)境信息、日志信息?,F(xiàn)象描述要準確比如“在 8 卡環(huán)境執(zhí)行 AllReduce 時當數(shù)據(jù)量為 512MB 時性能比預期低 30%”就比“訓練很慢”有用得多。復現(xiàn)步驟要可操作別人按你的步驟能走通。環(huán)境信息包括操作系統(tǒng)版本、CANN 版本、HCCL 版本、固件驅動版本、卡型號和拓撲。日志信息則是運行時的報錯輸出、HCCL 日志通常由環(huán)境變量控制開關以及必要的堆棧信息。有人可能會覺得我提個 Issue 而已還需要整理這么多東西嗎換個角度想如果你是那個需要花半小時甚至更久去復現(xiàn)問題的維護者你希望看到什么樣的報告將心比心把信息整理清楚本身就是對維護者勞動的尊重。2.2 一份能加速處理的 Issue 長什么樣我以一個真實的 bug 類 Issue 為例給你拆解一下模板要素標題[Bug] AllReduce 在數(shù)據(jù)量為 256MB 時觸發(fā)段錯誤 環(huán)境信息 - 操作系統(tǒng)Ubuntu 20.04.6 LTS - CANN 版本8.0.RC1 - HCCL 版本v1.8.1 - 固件驅動24.1.rc1 - 硬件4 張 Atlas 訓練卡單機單卡環(huán)形互聯(lián) 復現(xiàn)步驟 1. 編譯 examples/allreduce_benchmark參數(shù)配置如下省略具體參數(shù) 2. 設置 HCCL_LOGFILE/tmp/hccl.log 環(huán)境變量 3. 啟動測試程序數(shù)據(jù)量設置為 256MB 4. 觀察程序退出碼 期望行為正常完成集合通信并輸出正確結果。 實際行為程序在通信初始化階段崩潰退出碼 -11堆棧顯示在拓撲發(fā)現(xiàn)模塊具體報錯粘貼。 日志片段 粘貼關鍵日志避免貼整個文件這個模板的信息密度很高維護者拿到手可以直接開始復現(xiàn)。值得注意的一點是“數(shù)據(jù)量為 256MB 時崩潰128MB 或 512MB 時正?!边@種信息非常關鍵因為它能幫助維護者快速縮小問題范圍——可能涉及內存池分配策略、通信緩沖區(qū)的邊界條件或者某個特定數(shù)據(jù)分片邏輯。另外如果問題涉及性能最好附上基線數(shù)據(jù)和實測數(shù)據(jù)的對比說明是在什么條件測的。性能問題比崩潰問題更難處理因為它可能和網絡拓撲、CPU 頻率、PCIe/NVLink/HCCS 鏈路狀態(tài)都有關沒有數(shù)據(jù)的性能 Issue 基本等于大海撈針。2.3 Issue 里的溝通禮儀Issue 提完之后你可能會遇到幾種情況。一種是維護者很快回復“能否提供更多信息”這時你需要及時補充一種是長時間沒人回復這并不一定代表你的問題不重要可能是維護者比較忙也可能是你的 Issue 確實缺少必要信息還有一種情況是有人回復了但是給了一個和你預期不一樣的解釋方向。在 Issue 評論區(qū)溝通要保持專業(yè)和耐心。不要用“這東西怎么這么難用”這種抱怨語氣直接陳述技術問題就好。如果某個對話已經偏離主題可以禮貌地提醒對方回到問題本身。如果維護者要求你驗證某個修復補丁盡量第一時間去跑然后把結果反饋到評論區(qū)——這是建立信任的過程。這里還有一個很容易踩的坑在 Issue 里貼完整的大文件日志。幾萬行的日志會把真正有用的錯誤信息淹沒掉正確做法是先用 grep 過濾掉無關內容只保留報錯前后的關鍵幾十行并在日志片段外簡要標注每部分可能表示的含義。維護者每天要處理大量 Issue信息越聚焦你的問題被解決的優(yōu)先級就越高。3. 從 Issue 到開發(fā)計劃3.1 怎么篩選適合自己的任務不是所有 Issue 都需要你寫代碼。HCCL 的項目維護者通常會給 Issue 打標簽比如 good first issue、help wanted、bug、enhancement 等。如果你是第一次參與建議優(yōu)先找 good first issue 或者文檔增強類的任務這類任務的技術依賴少評審要求相對寬松能幫你把整個工具鏈跑通。篩選任務的時候有幾點經驗可以分享。首先看 Issue 的創(chuàng)建時間——太老的問題可能已經沒人關注你做了也可能不被接受。其次是看評論區(qū)的活躍度如果維護者在此前已經給過一些方向性建議說明這個問題是被認可的你可以在此基礎上展開。第三是評估影響范圍盡量選那些改動文件不超過 10 個、核心邏輯相對獨立的問題。以 HCCL 為例一個對新人比較友好的任務是“補充某個通信原語在異常輸入下的錯誤碼檢查”這種改動通常只需要在 API 入口增加參數(shù)校驗邏輯清晰、影響面可控。相比之下“優(yōu)化某拓撲下 AllReduce 的帶寬利用率”這種任務雖然很有吸引力但往往需要你深入理解硬件拓撲和網絡通信機制調試周期很長不建議拿來做第一個 PR。3.2 認領任務與溝通方式找到合適的 Issue 之后不要直接悶頭開始寫代碼。正確的做法是先在這個 Issue 下面評論說明你想認領這個任務并簡單描述你打算怎么解決。好處有三個一是避免和其他貢獻者撞車讓別人知道這個任務有人在做二是維護者會給你反饋如果方案有問題可以及時調整避免白干三是有溝通記錄作為依據(jù)后續(xù)你提交 PR 時維護者更容易建立上下文。在評論認領任務時可以簡單描述你的技術背景和計劃時間線比如“我熟悉 C 和內存管理計劃兩周內完成修復并提交 PR”。這種信息能打消維護者對新人執(zhí)行力的顧慮。但要注意一旦你承諾了時間線最好能真的推進如果有意外延期也應該及時在 Issue 里同步而不是一直沉默。另外一個小技巧認領任務后可以先把相關代碼讀一遍在評論里提出你的初判。比如“經排查問題出現(xiàn)在 topology.c 中的設備發(fā)現(xiàn)邏輯可能和 PCIe 鏈路寬度檢測有關”。即使這個判斷不完全正確維護者也會覺得你是真的在做事而不是隨便占個坑。3.3 本地開發(fā)環(huán)境搭建開發(fā)環(huán)境搭建是很多新手真正卡住的地方。我的建議是分兩步走先搞定能在本地完成的工作讀代碼、編譯、跑靜態(tài)檢查再解決需要硬件資源的工作跑真實通信測試。HCCL 的代碼構建一般依賴 Linux 環(huán)境、GCC 編譯器、CMake 和 Python 工具鏈。拿到源碼后按 README 的說明安裝好依賴依次執(zhí)行配置、編譯、安裝這幾個步驟即可。在配置階段有幾個選項比較重要比如是否啟用測試代碼、日志等級、調試符號等。如果你是做功能開發(fā)而非性能調優(yōu)建議打開調試符號和更詳細的日志輸出方便定位問題。沒有昇騰硬件的情況下依然可以完成編譯驗證但鏈接階段可能會缺少某些底層庫。這種情況下一個可行的替代方案是只編譯與你改動相關的模塊做語法級別的驗證然后把完整的驗證寄托在 CI 上。這個過程雖然不那么順暢但很多開源項目的貢獻者都是這樣工作的——本地環(huán)境不完全匹配CI 反而成了最終裁判。綁定硬件環(huán)境的測試跑不了還有一個折中方案編寫針對純軟件邏輯的單元測試。比如某個函數(shù)負責解析環(huán)境變量、計算通信緩沖區(qū)大小或者維護內部狀態(tài)這種邏輯完全可以在宿主機上寫單元測試跑起來。HCCL 中這一類可以脫離硬件驗證的代碼比你想象的多得多這也是很多新人能夠遠程貢獻的主要原因。4. 寫 PR不只是把代碼推上去4.1 分支與提交規(guī)范代碼開發(fā)完成后提交 PR 的第一步是在遠端倉庫創(chuàng)建自己的分支。分支命名建議遵循一定的規(guī)范比如用 fix/ 開頭表示 bug 修復用 feature/ 表示新功能用 docs/ 表示文檔變更。這樣維護者從分支名就能快速判斷改動的性質。分支創(chuàng)建好之后開發(fā)過程中的 commit 信息也要講究。我見過很多 PR 里一個 commit 寫了 800 行改動信息只是“fix bug”這種提交歷史基本沒有可讀性。更好的做法是遵循 Conventional Commits 規(guī)范在提交信息里用簡短的類型前綴說明改動類別比如 feat: 新功能、fix: 修復問題、test: 測試相關、docs: 文檔修改。同時一個 commit 盡量只做一件事把邏輯上獨立的修改拆成多個 commit方便 reviewer 逐個審查。Git 操作層面有幾個建議。一是經常拉取主分支的最新代碼及時 rebase 以減少合并沖突二是在提交信息中用祈使句開頭比如 Fix double free in comm buffer而不是 Fixing 或 Fixed三是提交信息正文可以簡單寫清楚為什么做這個修改以及實現(xiàn)的思路但不要寫廢話。4.2 代碼風格與自檢清單在推上遠端之前先在自己的分支上做一輪自檢這種自檢能大幅提高 PR 通過率。以 C 代碼為例重點檢查以下幾項。第一命名是否規(guī)范。HCCL 這類底層庫對命名風格有嚴格要求變量名要能清晰表達含義避免 a、b、c 這種無意義命名函數(shù)和類的命名要符合項目既有風格不要一種模塊用駝峰、一種用下劃線至少在同一個文件里保持一致。第二邊界條件是否處理。比如你改了一個緩沖區(qū)分配邏輯是否考慮了 size 為 0 的情況是否考慮了內存對齊要求是否能處理分配失敗這些邊界條件往往是 bug 的溫床。第三是內存和資源管理。C/C 項目最常見的問題就是內存泄漏、雙重釋放、資源未釋放。如果你改動的代碼涉及動態(tài)內存分配仔細檢查每條路徑上資源是否都被正確釋放。對于不熟悉 C 內存管理的同學建議先讀幾遍項目里已有的分配釋放邏輯照葫蘆畫瓢比自由發(fā)揮更安全。第四日志是否恰當。HCCL 有自己的日志系統(tǒng)在關鍵路徑和錯誤分支上應該有合理的日志輸出方便線上問題排查。但日志也不能太多每個正常操作都打一條日志會把性能拖垮。第五測試是否充分。如果改動修復了某個 bug至少應該有一個能驗證該 bug 被修復的測試用例。對于性能優(yōu)化則需要附上優(yōu)化前后的基準測試結果。4.3 PR 描述怎么寫得讓 Reviewer 秒懂PR 描述是你和 reviewer 溝通的第一份材料它的質量直接決定了 review 的順暢程度。一份好的 PR 描述不需要長篇大論但必須覆蓋幾個核心信息這個 PR 解決什么問題、改動涉及哪些模塊、實現(xiàn)思路是什么、測試結果如何、是否有關聯(lián)的 Issue。一個比較實用的模板結構如下## 背景 2~3 句話說清楚為什么要做這個修改關聯(lián)的 Issue 編號 ## 改動內容 列出主要改動文件和每個文件的核心變更點 ## 實現(xiàn)思路 簡要說明采用的技術方案為什么選擇這個方案而不是其他方案 ## 測試驗證 本地測試、單測、CI 結果、性能對比數(shù)據(jù) ## 影響范圍 這個改動會影響哪些模塊或場景是否涉及接口變更、是否需要升級適配寫 PR 描述的時候要站在 reviewer 的角度去寫。reviewer 可能對你的改動上下文不熟悉你要用最短的時間讓他理解你在做什么、為什么這么做。不要直接拷貝 commit message 到 PR 描述里commit message 是給代碼歷史看的PR 描述是給人看的兩者內容可以有重疊但 PR 描述應該更完整、更有邏輯。還有一點PR 描述里提到的測試結果一定要真實可查不要編造數(shù)字。如果某個性能數(shù)據(jù)是在特定條件下測出來的要如實寫明測試環(huán)境和方法。reviewer 大概率會追著你問數(shù)據(jù)的來源如果數(shù)據(jù)站不住腳你的信譽會大打折扣。5. 過 CI 和 Code Review 的硬仗5.1 CI 跑哪些東西提交 PR 之后代碼會自動進入 CI 流程。HCCL 的 CI 通常包括編譯檢查、單元測試、靜態(tài)代碼掃描、以及依賴于硬件環(huán)境的集成測試。你不一定能看到所有 CI 階段但編譯檢查和靜態(tài)掃描基本每次都會觸發(fā)。CI 失敗是每個貢獻者都會遇到的事情第一次不用慌。最常見的失敗原因有三類編譯錯誤、代碼格式不符合規(guī)范、測試用例掛了。編譯錯誤比較直觀順著日志里報錯的文件和行號定位即可。格式問題則需要用項目指定的工具跑一遍自動格式化比如 clang-format 或 astyle 之類格式化完成后再提交。測試用例失敗的情況需要具體分析。如果在本地能復現(xiàn)那就按正常的調試流程走如果本地無法復現(xiàn)則可能是環(huán)境差異導致的此時可以在 PR 評論中說明情況并請求維護者協(xié)助查看 CI 日志。有些 CI 失敗是因為基礎設施不穩(wěn)定導致的偶發(fā)失敗比如網絡超時、資源調度延遲這種情況下重跑一次就過了但如果是你的代碼引起的重跑多少次都是失敗。想減少 CI 往返次數(shù)最好的辦法是在本地盡量復現(xiàn) CI 的檢查項。比如提前在本地跑單元測試、靜態(tài)檢查、格式化校驗確保這些過了再推代碼。CI 每失敗一次你的 PR 合入時間就延后一次而每個維護者一天能處理的 PR 數(shù)量是有限的。5.2 面對 review 意見的心態(tài)與技術準備Code review 是整個貢獻流程中壓力最大但也最有價值的環(huán)節(jié)。你的 PR 提交后維護者或社區(qū)成員會逐行查看代碼提出修改意見。這些意見可以是針對正確性的嚴重問題也可以是對變量命名的吹毛求疵甚至是對代碼風格的偏執(zhí)。先說一個最重要的心態(tài)建設review 意見不是針對你一個人的它是針對代碼本身的。看到“這里加個空指針檢查”這種意見不要興奮也不要失落把它當作一次技術方案打磨的過程就好。技術準備方面你要能區(qū)分不同性質的 review 意見。如果是正確性問題比如并發(fā)競爭、內存錯誤、邏輯漏洞這個沒有商量的余地務必認真修改。如果是風格和可讀性意見雖然不強制但建議盡量順從因為維護者比你更了解項目的歷史慣性和后續(xù)維護成本。如果是方案層面的討論比如“你為什么會選擇用自旋鎖而不是互斥鎖”這種意見開放度比較高你可以從實際場景和性能測試數(shù)據(jù)出發(fā)據(jù)理力爭前提是你的論證有數(shù)據(jù)支撐。有個經驗可以分享當你在 review 中修改代碼之后一定要在 PR 評論區(qū)回復每條意見的處理結果。常見的做法是直接用 GitHub/Gitee 的回復功能加一段“已修復見 commit xxxxxxx”或者“這個建議我不太認同原因是……”。每個意見都有交代reviewer 才能放心地在后續(xù) commit 中只關注新增的改動。5.3 反復修改與歷史清理除非你寫代碼真的行云流水否則一個 PR 經過多輪 review 修改是非常普遍的事情。每輪修改之后你需要在 PR 里追加新的 commit。這里有一個困擾很多新手的問題我改了一輪產生了 3 個新 commit歷史能清理嗎我的建議是分階段處理。在你的 PR 還沒有被 reviewer 大量關注之前可以用 git rebase 把多個小 commit 合并成幾個邏輯完整的 commit讓歷史保持整潔。但當 reviewer 已經在舊 commit 上留過言之后就不要再隨意 rebase 了因為那會讓 review 評論和代碼版本對不上反而增加溝通成本。這個階段你可以通過追加 commit 的方式表達等 PR 合入時平臺一般會默認用 squash merge 的方式把整個 PR 壓成一個 commit這樣最終歷史依然干凈。Git 操作上還有一個注意項rebase 時不要強推git push --force已經公開的 commit如果你用了一定要在 PR 評論里明確告知否則別人本地的分支會變得非?;靵y。更穩(wěn)妥的做法是先 fetch 主分支最新代碼然后 rebase 到最新再強推你的 PR 分支。5.4 合入前最后一道關卡簽署與自評很多開源項目在 PR 正式合入前還有一個輕量級的合規(guī)檢查常見的是貢獻者許可協(xié)議CLA和開發(fā)者原創(chuàng)證書DCO。HCCL 這類商業(yè)驅動的開源項目通常都在意這種合規(guī)問題因為它涉及代碼的版權歸屬和法律風險。如果合入前提示你需要簽署 CLA不要覺得麻煩這是一條一次性流程填一遍以后所有項目都能通用。DCO 的簽署則更簡單一般只需要在你的 commit message 尾部追加一行 Signed-off-by: 你的名字 郵箱表示你確認這些代碼是你寫的或者你有權提交這些代碼。很多新手一看到英文縮寫就以為很復雜其實整個流程五分鐘內就能完成。還有一個容易被忽略的步驟合入前自己最后讀一遍完整的 diff。尤其是改動后的文件從 Git 的 diff 視角再審視一次。你會發(fā)現(xiàn)很多平時注意不到的小問題,比如誤提交的調試代碼、多余的空白改動、臨時的日志輸出。自己先把這些問題清理干凈再讓維護者看到能少挨很多批。6. 合入之后與常見問題速查6.1 合入不是終點PR 合入之后很多人會覺得這件事結束了可以接著去做下一個任務。但從貢獻者的角度合入只是開始真正驗證你改動的時刻是在之后的一個月。首先你要關注合入后的 CI 情況。合入主分支并不意味著代碼完全沒問題穩(wěn)健的項目通常會在主分支上跑更長時間、更全面的回歸測試。如果這些測試發(fā)現(xiàn)你引入了回歸維護者會在你的 PR 討論里回復你或者新建一個 Issue 指向你的提交。其次你可以繼續(xù)保持對相關 Issue 的關注。如果你的改動修復了某個用戶報告的 bug可以留意用戶側有沒有反饋“這個修復有效”或“問題仍然存在”的信息。如果問題仍然存在你需要重新打開 Issue 繼續(xù)排查這也是開源社區(qū)協(xié)作的正常節(jié)奏。另外作為一個已經合入過代碼的貢獻者你已經有資格去 review 別人的 PR 了。這是一個很好的學習機會——你會發(fā)現(xiàn)坐在 reviewer 的位置上你會更加理解那些你曾經覺得煩瑣的規(guī)范其實都是項目質量和可維護性的保證。6.2 常見問題速查表下面整理了一些 HCCL 貢獻過程中常見的問題和排查方向是我以及身邊同事實際踩過的坑供你參考。問題現(xiàn)象可能原因排查思路本地編譯失敗報缺少頭文件依賴庫路徑未配置檢查 CANN 或驅動環(huán)境變量確認 LD_LIBRARY_PATH 是否正確CI 失敗全部失敗在編譯階段拉取代碼時未同步子模塊檢查倉庫是否用 --recurse-submodules 拉取或手動更新子模塊CI 失敗失敗在靜態(tài)掃描代碼格式不符合規(guī)范本地運行 clang-format 等格式化工具后重新提交本地單測通過CI 單測失敗環(huán)境差異或測試數(shù)據(jù)不同對比本地與 CI 的環(huán)境變量、依賴版本必要時在 PR 中請求維護者獲取 CI 日志性能優(yōu)化數(shù)據(jù)不佳方案與硬件拓撲不匹配嘗試在不同卡數(shù)、不同數(shù)據(jù)量下進行基準測試分析是否引入了不必要的同步無法在本地復現(xiàn) Issue 中的崩潰缺少日志開關或特定環(huán)境變量按 Issue 中提供的信息逐項核對尤其是數(shù)據(jù)量、拓撲和驅動版本PR 長期無人 review維護者繁忙或描述不清晰在 PR 評論區(qū)禮貌 維護者或補充測試數(shù)據(jù)和復現(xiàn)步驟讓問題更清晰6.3 幾條值得謹記的避坑心得做了一段時間 HCCL 貢獻之后有幾個踩過的坑讓我印象很深這里集中說一下。第一不要在 issue 里只問“怎么解決”而不提供任何上下文。一個好的問題應該讓人感覺你已經讀過代碼、有自己的猜測只需要別人幫你確認方向。我在社區(qū)里看到過的最高效的一次提問是一個貢獻者直接貼出了他定位到的代碼行號并附上了他對問題的分析維護者只回了一句“你的判斷是對的修吧”這比來回追問五六輪高效太多。第二不要在一個 PR 里同時修多個不相關的問題。多個問題混在一起reviewer 很難評估風險。一個 PR 解決一個問題是開源協(xié)作的基本契約。如果你發(fā)現(xiàn)代碼里另外有一個 bug請新建一個 Issue 或者再開一個 PR不要塞到當前這個里。第三不要忽視文檔的力量。代碼改動如果涉及對外行為的變化比如環(huán)境變量語義變更、接口參數(shù)調整、日志輸出變化一定同步更新相關文檔。你維護的不只是代碼還有這個項目的可理解性。很多 PR 因為文檔沒有同步更新而被要求返工這種事情完全可以提前避免。第四不要在 rebase 的過程中引入重復的改動。很多新手在 rebase 主分支時因為沖突解決不當把主分支的代碼又復制了一份到自己分支里導致 diff 里出現(xiàn)大量無關改動。遇到這種情況建議用 git diff 對比主分支和自己分支的差異檢查是否只保留了你想要改動的文件。最后再說一點參與開源項目不是一個零和博弈。你可能提交的第一個 PR 會被拒絕會被告知設計欠妥甚至會被人說“這個思路根本不對”。這些都很正常很多資深開發(fā)者當年的第一個 PR 也是被反復打回來的。關鍵是你能從反饋里學到東西而不是被打擊之后就放棄。如果你手頭有昇騰設備又有興趣深入了解分布式訓練底層的通信邏輯可以試著從跑通官方 benchmark 開始然后自己設置一些異常數(shù)據(jù)或者異常環(huán)境變量看看會發(fā)生什么。好奇心是最好的入口而 Issue 和 PR 只是把你對問題的理解轉化成最終代碼的載體。只要你能把一件事寫清楚、說清楚、改清楚開源社區(qū)的大門對你就是敞開的。
返回列表
PREV
查看更多資訊
NEXT
返回資訊列表
国产午夜激片Av毛片不卡| 久久国语| 人人干人人搞人人摸| 老色鬼成人精品视频下载大在线观看| 久久美女国产| 久悠悠av| 日本国产亚洲一区在线观看| 91在线|亚| 欧美美女视频| 一区久久久二区| 亚洲AV麻豆Aⅴ无码电影一| 精品女人999| 中文字幕丰满人妻日本| av婷婷色网| 成年人网站在线免费观看| 日韩欧美中文字亚洲慕| 91人妻素女| 中文精品少妇天堂| 蜜桃传媒一区二区亚洲| 人人操人人操人人人操| 91精品久久久久久77777| 成人性爱av| 天天影视之亚洲综合网| 99色综合| 中文字幕久热视频在线| 高颜值美女口爆高潮浪叫| 67914在线兔费成人视频| 黑人嘿嘿嘿超爽免费视频| 久久久性少妇| 嗯嗯,好大,好爽,好骚| 亚洲午夜福利在线影院 | 国产欧美日韩精品中文| 蜜臀久久99精品久久久久久酒店 | 男人的天堂三级| 亚洲AV成人在线| 欧洲黄色网| 影音综合网| 欧美 亚洲 另类 综合| 思思视频免费看网站| 久久 久久国内精品亚洲 | 蜜臀av中字字幕网站| 日本性爱不卡视频| 成年人黄色视频免费| 校园春色宗合网| 97亚洲综合电影| 欧美熟女操屄| 国产成人一级av88| 亚洲综合欧美| 婷婷伊人网| 啊啊啊好舒服视频| 狠操91,com| 欧美一区二区日韩传媒搭讪精品| 久久综合九九| 亚洲综合在线视频| 五月丁香六月综合缴清无码| 久久久久久久久女黄| 97露脸精品丝袜| 人妻加勒比东京热| 翘臀vidoes| 99操碰| 日韩激情视频| 色月天AV导航| 少妇三P| 国产60区。| 日本九九久久99播| 大香蕉专区| 国产乱人妻精品入口| 日日躁夜夜躁狠狠躁超爽| 极品色www影院| 夜夜国产一区| 99自拍视频在线| 国产精品欧美在线观看| 大香蕉综合| 欧美日韩激情无码专区| 午夜亚洲WWW湿好大| 高清无码网址| 2017天天插| 日韩精品黄片免费观看| 青青操97| 高清在线偷拍自拍视频| xxx0国产在线播放| 久久男人精品| 欧美色综合| 偷拍欧美亚洲| 热热色色综合| 67194无码不卡| 精品国产一区二区三区四区在线看 | 999国产精品999久久久久久| 亚洲日本成人动漫| 日韩欧美中文字亚洲慕| 四虎在线播放| 欧美性色综合网| 日本中文字幕在线视频| 日韩一级免费性爱| 9色国产精品一区粉嫩| 91性片| 伊人91| 69人妻精品一区二区绯色| 天天热精品| 粉嫩在线一区二区懂色| 试看60秒 爽| 91在线页| 92性色国产午夜福利在线661| 蜜臀亚洲中文| 凹凸视频在线观看伊人| 97久久精品不卡| 久久99午夜精品一区人妻| 国产精品国产自产拍高清AV| 青青草色插素人| 久草这里只有精品| 久久久久9久久久久| aa片毛片| 美女极品一区二区三区| 久久久九九九九| 精品人妻一区二区视频| 亚洲国产精品久久久久婷婷老年| 九九亚洲视频| 日韩亚洲欧美中文字幕| 国产亚卅97| 久久人人爽爽人人爽人人片αV| 亚洲色图伊人网| 黄网色一区二区三区四区精品| 蜜臀99999| 伦伦成年午夜免费视频| 日曰骚久久精品| 四虎影视在线| 国产传媒操逼视频| 亚洲色婷婷综合久久久久中文| 涩五月婷婷| 日本淫乱女一区二区三区视频| 欧美夜色| 五月天色色网站| 天天操夜夜操| 91熟女.com| 丁香激情网| 成人午夜高潮av猛片| 精品久久久久久中文| 日产123区精品免费观看| 日本高清_区二区三区| 亚洲,欧美,综合网| 亚洲人在线成线成人| 搡老女人老妇女AAA一VU麻豆 | 久久亚洲人妻| 亚洲午夜AV| 久久久久久久强迫| 婷婷九月国产| 台湾佬中文娱乐自偷自拍| 岛国视频一二三区| 亚洲中文字幕av | 一起草av| 黄色小视频日本txt| 午夜超碰| 亚欧美综合| 97亚洲精品| 手机在线A片| 99热这里只有精| 中文字幕一区二区免费在线| 9 9精品一区二区三区| 亚洲 欧美 另类 日韩 人妻一区| 综合另类| 人妻蜜桃臀| 91 国产丝袜在线播放-百度| 日本狠狠干| 夜夜操夜夜高潮夜夜爽国产精品区| 国产精品视频白浆免费| Julia在线播放亚洲久久| 视频二区美腿制服人妻欧美| 激情av| 91亚洲欧美激情| 精品成人女人久久| 不卡中文字幕aⅴ在线| 91美女在线视频| 久久草在线综合视频| 粉嫩av平台| 久9爱精品| yazhousetuoumei| 九热视频| 熟女人妻一区二区三区| 免费又黄又裸乳的视频| 国产在线观看一区二区三区| 91久久久久| 欧美色图成人网一区二区| 婷婷五月天影院| 国产乱伦一二三区| 免费伦费视频在线观看| 黑人精品久久97| 嗯啊啊啊轻点视频 | com 首页 18岁 禁区 女优 免费 精选 同城 | 91是天天| 国产美女91| 午夜福利合集| 91av一区二区在线观看| 懂色综合久久久| 啊啊啊啊啊好舒服视频| 国产日韩色综合| 欧美性爱网97| 日韩偷拍一区二区三区| 日本熟人妻中文字幕在线|...久久国产精品-国产精品_日本一区二区三区中文字幕 | 无码一区二区三区四区五区六区七区八区九区十区视频 | 97超碰总站| 欧美三级免费伊人| 亚洲情色一区综合| 天天综合日韩网| 91狠狠色丁香婷婷综合久久精品| 久久激情网| 人人天天干干| 国产尹人在线视频免费| 男女一级A片大黄,一进一出| 久操网无码在线| 国产一区二区在线播放量| 九九免费影片| 国产区91柔拿会所技师| 蜜臀网址在线| 欧美九一精品久久久熟妇| 欧美A片中文字幕| 欧美性xxxxx狂欢| 亚欧美综合网| 日本久久超碰| 91精品人妻偷情| 国产97在线视频| 欧美亚洲今日在线| 高清无码人妻久久久一区二区三区aⅴ| 五月天日日操夜夜操| 玖色av| 啊啊啊啊好疼视频| 久久久久久中文| 色香网| 亚洲色欧| 天天92av| 蜜乳AV免费观看| 波多野结衣AV无码一区| www.久久制服糖| 蜜臀AV一区二区三区激情综合| 九九九热| 2018天天干在线视频| 国产精品一区二区校花| 国产一级αv免费看片| 天天做日日做天天欢。| 激情小说五月天| 人人操人人狠狠操| 国产精品肉丝自拍| 日本五十路在线| 四虎在线免费视频| 欧美宗合色| 欧美性爱第一页久久| 在线亚洲欧美| 日本1区2区不卡视频| 中文字幕久热视频在线| 婷婷激情综合网| 天美精品av| 婷婷色香| 大香交| 久久久久成人蜜桃精品| 黑人嘿嘿嘿超爽免费视频| 久久精品视| 久久东京国产精品视频| 伊人久久大香线综合无码| 操婷婷逼| 91性感在线| 日韩黄色小说| 97久久精品亚洲中六字幕| 久久精品国产97欧美精品亚洲| 久久丁香五月天| http://qxhbdz.com| 成人国产精品三级A片| 日韩三级一区| 亚洲Av噜噜一区二区三区妖精| 物业黑人 AV一区| 亚洲 欧美综合| 亚洲欧美国产va在线播放频| 成人七区| www.99在线| 色综合加勒比四四季| 1.igao73.com 加入收藏 免费专区 国产精品 中文字幕 日韩精品 欧美精品 精彩 | 日韩欧美成人大香蕉| 天堂精品小草| 久久久999国产| 天天夜躁日日躁狠狠2002| 国产三级日产三级韩国三级| 日本一区二区电影网站| 国产视频97| 免费岛国一级片| 1024人妻熟女一区二区三区| 亚洲 中文 女同| 操淫穴亚洲五月丁香 | 激情文学 国产一二三aV| 国产精品国产| 免费成人在线观看91| 午夜丁香| 大屁股国产在线视频| 男人的天堂com| 免费视频在线一区二区不卡| 超碰在线看| 亚洲少妇综合在线播放| 国产无遮挡| 大逼色网站| 日逼视频日本| 日本在线视频导航| 日本熟人妻中文字幕在线|...久久国产精品-国产精品_日本一区二区三区中文字幕 | 大香焦A片| 97视频在线看| 四虎精品永久在线播放| 天天射天天操天天干天天吃2018| 网页导航五月天免费一二三区| 日韩极品无码B| 丝袜加勒比| 老司机深夜18禁污污网站| 色999亚洲人成色| 亚洲欧洲中文日韩女优乱码| 91麻豆va国产精品| 91嫩草欧美| 国产欧洲精品亚洲午夜拍精品| 日日黄色三级网站| 91夜夜蜜桃臀1区2区3区| 一本色道人妻久久| 中文字幕av乱伦| 97在线无精品| WWW.操逼.COM| 免费观看欧美日韩操逼视频| 精品久操| 黄色大香焦1级‘′‘| 91天堂视频| 97在线播放 | 欧洲精品一级二级精品综合视频综合 | 高清无码一区二区三区| 亚洲中文字幕有码视频一区二区三区| www.99视频| 日韩色图 一区二区| 国产精品点击进入在线影院| 精品96久久| a片久久久久久久久久久久| 色五月婷婷麻豆在| 97久久久久| 人妻无一区二区三区| 精品免费1| 天天综合网网欲色| 特污免视频| 高清视频一区| 色噜噜婷婷| 欧日韩一二三f区| www.色99| 热热色中文无码| 色色操| 国产精品在线免费| 95人妻爽爽人人做人人澡| 久久久极品| 色情综合| 亚洲天堂资源网| 五月丁香成人网| 欧美一级二级三级| 91熟女熟妇视频网站| 粉嫩久久久极品| 人人摸人人干人人拍97| 五月婷婷六月丁香| 东京太热男人的天堂久久久| 夜夜爽33333| 天天综合97| 看看小穴| 国产精品原创巨作?v网站| 性爱欧美五月| 留下AⅤ黄色片| 国产欧美另类久久久精品课程| 五月激情天| 国产白丝精品在线观看| 大香蕉宅男伊人| 亚洲AV无码AV吞精久久久久| 97在线日韩中文字幕| 欧美极度丰满熟妇hd| 91热| 天堂资源欧美| 极品美女福利在线观看| 极品肉射| 国产男女无套97| 亚洲精品一二区| 免费AV播放| 亚洲丝袜二区在线| 天天操天天射青青草| 欧美色女人| 99RE在线视频精品,这里只有精品| 久久东京伊人一本到鬼色| 国产日韩中文字幕欧美| 国产乱码久久| 一级特黄aaa大片在线观看成人一级片在线观看 | 日韩操啪| 啊嗯嗯啊好大好爽| 日本天天人人狠狠在线日美女 | 亚洲中文字幕av| 国产sv美女内射| 人、人、摸,人、人、草| 操人妻丝袜高跟| 五十路六十路素人熟女| 久久国内| 亚洲色欧| 女人妻一区| 久操操AV电影| 国产又色又粗又黄又爽| 亚洲欧洲av影音| 大但人体久久久久| 九九久久综合| 色姑娘综合网| 99只有精品| 欧美热图99| 国产精品网站免费| 91精品国| 夜夜国产一区| 欧美亚洲性爱一区二区| 69精品久久久久中文字幕| av网站国产主播在线| 亚洲综合 欧美| 天天射夜夜| 91色色网站| 性爱视频久久| 久久久久亚洲Aⅴ无码| 一本大道青青| 色色色色色色色色综合| 中国一区二区亚洲人妻| 国产AV线| 久久欧洲| 国产丝袜视频| 欧美在线观看综合国产| 淫荡网址| 天天干夜夜操一区二区| 麻豆精品三区视频| 伊色综合天堂色97| 4tube欧美女厕所| 老司机福利青青草| 欧美极品少妇| 天天影视射综合网| 中文字幕丝袜美腿| 久久精品无码一区二区三区| 国产女同视频在线播放| 偷窥自拍亚洲天堂网爆| 青青草中文-久久青草精品一区二区三| 任你草| 亚洲无码99| 日本一级婬片试看三分钟| 蜜臀aV午夜一区二区三区| 天堂综合网| 国产第二页| 97超碰jingpin| 国产亚洲国产超碰| 欧美v亚洲v日韩v最新在线二区| 日日操免费视频| 99re视频在线播放青草| 不卡六六在线91| 欧美亚洲成人在线一区二区三区| 992这里有精品| 艹少妇网站| 中国AV美女| 四虎国产精品永久在线囯在线| julia国产在线| 欧美性Fer办公室秘书| 欧美国产有色电影| 亚洲情色在线| 五月天色五月| 欧美爱国产综合、| 操操操五月天婷婷丁香影院| 男女真人网18| 4tube欧美女厕所| 91综合熟女| 久久精品老司| AAA久久| 中文字幕一区二区无码成人| 中文字幕一区二区日韩网| 99ri在线视频| 精彩国产视频播放1区2区| 啊啊啊啊好大好硬啊啊啊啊啊 | 中韩中文字幕在线观看| 美女91网址| 天天综合色图| 无码一区免费在线不卡| 天天综合网91| 中英熟女操女| 国产精品麻豆视频网站| 999在线电影香蕉| 欧美亚洲自拍另类人妻| 在线视频 亚洲精品| 婷婷日韩一区二区三区中文字幕在线| 天天干天天爽| 夜夜操av亚洲一区二区| 亚洲高清欧美总合| 成人 日本A片无码8888| 91色女| 神马久久69| 青青欧美在线| 99爱精品| juliaann精品熟女一区| 97 国产一区| 330Dv国产女人终合视频极品人与兽| 欧美一二在线| 人妻天天爽夜夜爽2| 91天天综合在线| 校园春色AV天堂| 欧美一二三| 9国产超碰| 一级黄色视频网| 豆花视频操逼网址| 熟女字幕| 91N欧美| 97精品视频免费| 免费超碰97久久| 日韩久射综合| 午夜精品久久久久久久久久蜜桃| 婷婷激情五月天小说网| 超碰人妻97| 91肉丝| 岛国片在线播放| 秋霞曰韩R级| 91人人爽人人爽人人人,gav福利视频导航,日韩欧美亚洲国产字幕四区 | 日日A∨| 97超碰超欧美。| 超碰诱惑| 性饥渴少妇av无码毛片| 久久精品色欧美aⅴ一区二区| 五月丁香| 99国产精品久久久久久久成人热| 亚洲综合色在线| 大香蕉手机在线| AA级电影三区| 欧美 日韩 国产传媒| 五月天久久婷婷亚洲 | 99色在线视频| 日本丝袜美腿人妻九九| WWW美腿丝袜香蕉中文| 99re黄| 91人妻最真实刺激绿帽| 国产一区二区三区影片| 手机不卡视频不卡在线一二三区 | 五月天激情综合网| 青青草国产盗摄一二三区| 天天影视91看看| 在线观看亚洲成人精品| 午夜丁香婷婷| 新视频sss国产| 五月天春色激情网| 午夜精品久久久99热蜜桃的功能特点| 伊人九九九| 操逼国产免费| 嗯~啊~快点 死我视频| 亚洲影视第一页| 91精品国产91久久青草| 黄片在线免费在线观看| 欧美国产视频| 欧美91视频| 一区二区三区一亚洲中文字幕、综合区灬| 蜜臀一区二区三区亚洲最新章节在线观看 - 高清蜜臀一区二区三区亚洲全集播放 | 婷婷久久综合| 密臀视频一区二区三区| 丰满少妇一区二区三区免费看| 久久精品欧美一区二区三区不卡| 日韩午夜啪啪视频| 操死我干死我| 96麻豆精品一区二区三区| 韩国黄片aaaa| 99综合自拍| 国产精品噜噜噜日日日| 日韩无码三级影院| 97色插| 亚洲高潮影院| 美国aaaaa一级黄片| 超碰在线974| 色丁香五月婷婷| 一级A片女人高潮叫床| 97干97色| 国产精品午夜高潮呻吟久久av| 欲色影视综合吧| 亚洲在饯| 国产免费一区二区在线A片视频| 蜜桃久久久久久久久久久久| 玖玖爱在线视频免费观看| 99热| 久久久久久久久女黄| 欧美黄色大片在线观看| 伊人久久大香蕉线AV五月天| 91香蕉国产尤物视频| 性爱久久| 啊啊啊啊好多水| 亚洲AV无码国产成人| 试看60秒| 少妇厨房愉情理伦片bd在线观看| 久久久工口| 97免费在线观看| 欧美性爱五月天| 青青草国产一区二区三区| 国产中文大片资源中文字幕| av午夜玫瑰| 国产高清视频无码在线| 日本不卡三级网在线播放| 综合久久9| 啪啪啪综合网| 亚洲欧洲综合| 欧美色图天堂在线| 中出20p| 黄色毛片A片| 日本国产二线女色| 国产女人成人精品视频| 夜草欧美| 日韩人妻精品| 99国内精品| 黄页18禁| 婷婷国产精品九区| 免费作爱一级视频| 99热线麻豆 | 国产精品96| 国产精品久久久777| 少妇国产不卡| 国产 亚洲 一二三四| 小视频国产| 亚洲影院小综合| 国产中文字幕在线点播| 在线观看视频91| 高清成年美女黄网站免费大全 | 亚洲宗合网| 亚洲成a人在线观看久| 一区二区视频你懂的| 午夜国产乱伦视频| 天天情欲宗合网| 日本人妻A片成人免费看片| 久九九九九九九九热| 91狠| 日本黄大片在线观看视频| 日韩精品人妻中文字幕有码午| 日韩簧片免费看| 热热色色综合| www.狠狠操| 在线毛片片免费观看| 色综合99999| 99热超碰在线| 亚洲国产精品久久AV| 伊人久久大香线蕉亚洲五月天,青草青草欧美日本一区二区,欧美日产欧美日产国产 | 久久一级无码精品毛片6| 啊啊啊操死我了| 91爱综合| 操逼不卡中文字幕| 国产伦精品| 日韩97超碰中文字幕| 最新日日夜夜天天干干| 舔人妻中文免费视频| 国产精品女同| 精品国产人成在线| 国产精品操| 亚洲男人的天堂在线看| 国内精品伊人久久久久影院会| 狠狠爱大香蕉| 神马久久69| 九九九九九九九精品视频| 最新国内自拍av免费| 99热国产精品| 江都AV在线| av日韩在线观看电影| 尤物网站91| 狠狠操狠狠燥| 9999伦理视频| 久综合网| 日本日逼高清| 97在线观看免费视频| 久久久久久少妇| 日本最新免费韩国1区2区视频播放| 亚州综合| 中文字幕天天天天天| 尤物AV免费网站| 秋霞成人做爱| 青青操在线亚洲视频观看欧美在线| 亚洲色婷婷综合久久一区二区三区| 亚洲码专区| 日韩在线女优天天干| 九九九九九精品视频| 成人性爱全视频观看| 日韩国产精品人妻无码久久久| 欧美精品精品一区二区| 一区二区三区四区五区高清无码永久视频| 熟妇人妻精品一区二区视频色欲| 日韩黄色小说| 久久做97| 国产超碰国产97| 亚卅熟女乱色| 亚州操逼图| 在线毛片片免费观看| 久久久久久九九九九九| 黑人与人妻| 亚洲AV小说| 国产精品自拍欧美在线| av三级电影在线播放| 人妻激情视频| 人妻少妇久久| 人妻人妻天天碰| 日韩人体偷拍| 亚洲天堂电影精品一区| 国产欧美日韩在线不卡第一页| 日本三级一区二区 在线 | 成全动漫视频观看免费下载| juliaann丝袜| 久久99干一本高清| 精品乱子一区二区三区99| 日本女人操逼| 另类 日韩 熟女| 九九九久久久| 1区2区3区视频| 9丨久久九九九| 97欧美色综合| 精品中文一区二区| 任你干在线视频| 日韩少妇在线视频| 亚洲天天影视色综合| 熟女欧美日韩综合婷婷| 色狠人在线99| 啊啊啊用力在线观看| 久久人妻办公室视频| 五月天伊人| 丁香五月天啪啪| 在线播放中文字幕| 综合网色| 国产视频不卡在线观看| 最近2019中文字幕国语免费版| 26uuu性物| 久久东京伊人一本到鬼色| 亚洲精品三区在线观看| 国产日韩精品人妻久久久久色欲网站| 欧美gv在线观看| 蜜乳视频网站| 欧美色视频在线| 久久成人午夜精品影院| 黄片色区软件| 秋霞欧美性爰视频| 色婷婷成人| 亚洲男人天堂Av| 男人的天堂2018东京热啪啪啪| 青青11操操操操操操操操| 欧洲色| 色婷婷综合久久久久中文国产精品一区中文字幕,国产福利电影一区二区三区 | 日本欧美国内在线| 97色婷| 日本人体九九九九九九| 天天操女人| 久久最新视频免费观看| 欧美亚洲se91| 综合熟妇一区二区三区| 国语精品av| 中日韓欧美高清| 中文字幕天堂在线| 日韩欧美成人午夜福利| 青青久久手机线视频| 综合激情二| 精品人妻1区| 97九色| 校园春色亚洲| 欧美爱爱97| 天天综合网91| 久久精品国产Aⅴ| 天天看天天日天天操| 伊人专区一区二区三区| 伊人网免费视频| 一级岛国大片| 日本高清有码网址视频| 亚91网| 中国黄色特级精品一区二区三区片| 久久99草| 超碰综合97在线| 激情欧美日韩女同久久| 一区| av 模特一区了| 精品欧美乱码久| 国产精品视频91久久| 91c色| 亚洲精品日韩国产欧美| 性色一线| 久久久久一本一区二区青青蜜月| 自拍亚洲综合| 全国男人天堂网| 欧美Ⅴ性爱| 在线观看国产黄色| 久久色一区| 激情久久日韩精品中文字幕麻豆| 偷拍盗拍亚洲色图图片| 26uuu性物| 久碰视频| 91处女视频在线观看| 亚洲图片视频小说| 麻豆天美一区二区| 综合免费无码中文| 老女人爆菊| 岛国999| 操东北女人| 国产精品一二三在线看| 久久精品视频久久久| 999九九九九国产动| 91精品人| 国产日韩欧美三级片| 久久九九一区二区三区成人| 天天爽入口| 丁香九月 婷婷| 丁香激情网| 综合激情一一91| 美女天天干| 色婷婷成人| 99re6国产精品99re| 免费精品无码一级毛片牛牛影视 | 91熟女熟妇视频网站| 99久热精品99re6热| 免费视频一二三区| 久久香蕉国产线看观看猫咪av| av操操不卡| 日韩性色| 超碰人人超在线观看| 亚洲精品天天影视综合网| 特污精品女优骚货黄色视频在线免费观看| 视频黄色国产一级| 亚洲AO在线| 99热在线播放| 日本色色色| 亚洲精品久久一区二区三区蜜桃臀| 国产白丝av| 伊人久久88国产女| 美女91网址| 午夜福利精品| 中 文字幕一区二区三四 五 区日 日 骚 | 99re视频在线观看这里只有精品| 国产欧美后入| 欧美日韩性爱电影在线| 99热97| 性猛交| 狠狠干,狠狠操| 97 国产精品| 日本成人电影资源网| 久久香蕉超碰97国产精品| 九九九精品成人免费视频小说| 人妻激情另类| 日韩十八禁| 99热最新网址| 一区二区无码视频| 日韩,欧美,中文在线| 久久久久亚洲一区女同性恋中文字幕| 测评在线观看AV| 91亚州日韩高清| 久这精品中文在线观看视频| 99精品久久| 亚洲资源一区| 婷婷精品视频| 欧美精品激情| 久久性爱视频| 亚洲精品人体| 亚洲 综合 欧美| 天堂综合网| 东京太热久久久| 俄罗斯及免费在线看| 久久久精品国产亚洲伊人| 久久激情视频| 黄色电影观看久久9| 久久综合超碰| 大黄片做爱的大的| 欧美人人天天网| 尹人免费观看视频在线| 青青草十区九区爱夜| 在线毛片片免费观看| 色婷婷成人综合| se吧提供91精品国产91久久久久久| 欧美综合第一| 久久精品国产AV一区二区三区| 操香逼| 亚洲图片激情综合另类| 超碰97最新人妻| 天天干人人干天天日97| 中出人妻中文字幕91在线| 国产一区二区三区影片| 亚洲第一页色网| 东京太热久久久| 亚洲精品国产无码高清| 欧美玖玖爱免费玖玖| 高跟丝袜AV专区国产| 东京热,男人的天堂| a久久| 国产高清亚洲日韩一区| 神马久久久久久久久久| 大香蕉久| 日本二区不卡| 日本韩国一本产品小视频日本韩国一本产品久久久产品小视频日本韩国一本产品久 | 99re28在线观看| 少妇超碰在线| 男女性无套 免费九一| 自拍视频大全亚洲专媒视频/一区二区三区| 久久久99免费| 九九九九97| 天天综合网站| 日韩综合无码一区久久92| 最新精品久久蜜桃 | 日韩综合色图| 60秒试看最爽10分钟网站| 无码人妻一区二区三区色欲aⅴ | 人人干黄色| 国产精品不卡一区二区三区| 亚洲Av无码成人精品国产| 女生看匆91网站| 大香蕉免费中文| 久久久久亚洲三级电影| 加勒比综合a∨| 巨爆乳肉感一区二区三区竹菊影视| 一区二区影视| 熟妇艹鸡八| 日本日皮视频逼| 欧美亚洲综合高清在线| 校园春色中文字幕AV| 亚洲激情网| 欧美一区二区福利在线| 粉嫩AV一区二区夜夜| 久久精9| 超碰AV在线| 日韩熟女乱伦中出| 一区二区影视| 好爽免费视频,| 久久久工口| 玖玖爱免费观看视频| 天堂无码| 九九九九一区| 蜜臀久久在线视频| 日本狠狠干| 日韩精品 视频一区二区| 亚洲图片欧美色图| 久久久久久免费电影| 啪啪91| 国产 丝袜 欧美中文 另类| а√天堂资源官网在线资源| 成人资源中文字幕在线观看| 9 7超碰在线免费观看| 四虎精品亚洲| 欧美激情片一区二区| 五月婷视频| 性开放中文AV高清无码免费看| 亚洲一区二区在线观看91| 中文字幕AV片| 日韩紧密久久| 亚洲激情网一二三四区| 一区三区啪啪| 人人干黄色| 男人天堂电影院| 国内毛片四区| 97爱啪| 日夜干射色啊| 无码99| 九九综合| 五月婷婷基地| 探花一区在线| 在线欧美69V免费观看视频| 欧美91精品国产自产| 国产999精品久久久| 久久久久久裸体| 欧美视频激情久久久久久| 亚洲人妻一区二区三区| 国产一区二区在线电影| 操逼啊啊啊91| 又粗又长又爽在线观看| 中文字幕天堂在线| 97欧美综合| 大鸡巴久久| 啊啊啊慢点| 91模特在线观看| 2023天天操夜夜操| 天美传媒国产原创中文字幕亚洲欧美另类 | 国产成人免费观看在线视频| 国产特级毛片AAAAAA高潮流水 | 在线观看岛国有码| 正在播放国产精品一区| A级片日韩欧美国产欧美视频精选观看 | 久久人妻一区二区三区高清| 四虎在线播放| 欧美夜夜骑视频| 欧美aⅴ99久久黑人专区| 中文字幕乱碼在线| 久久久啊啊| 操人妻丝袜高跟| 亚洲欧美一区二区三区在钱蜜桃| 91校园春色长篇| 欧美色五月| 色色激情五月天| 五月婷丁香| Julia在线播放亚洲久久| 五月天色综合| 国产精品午夜高潮呻吟久久av| 久久久精品无码亚免费| 久久九九国产精品| 欧美日韩国内不卡| 亚洲欧美日韩夜夜| 亚洲精品人妻吞精av| 在线观看黄色电话| 日本中文字幕在线电影| 五月天婷婷基地| 天天干天天拍| 99精品视频在线观看| 亚洲 日韩 欧美 国产综合体| 五月激情综合网| 91蜜臀熟女| 久九干| 老熟女熟妇| 久久色一区二区| 欧美亚洲成人在线一区二区三区| 97干综合网| 亚洲人精品久久久| 夜夜做夜夜爽精品视频| 亚洲女优有码无码高清| 日本欧美不卡| 在线日韩日本亚洲国产| 日韩福利综合一区| 欧美v日韩v亚洲v最新在线| 熟女露脸激情自拍视频| 亞洲久久直播| 国产一区二区三区影片| 久久婷婷五月天| 国产精品麻豆成人AV艾秋| 天天看少妇| 中文97国产| 久久熟女久| 亚欧美综合| 操一对老熟妇爽上天视频| 久久精品一区二区三区四区五区| 国产无码久久高清| 国产精品亚洲天堂网址| 丁香五月综合| 国产精品国产拍高清AV| 这里只有精品视频| 久草婷婷| 国产成人啪一区二区| 啪啪啪综合| 岛国免费视频在线| 亚洲免费在线探花| 成人美女av| 亚洲精品视频二区| 九一精品牛牛一区二区| 中出91视频| 97亚洲欧美| 91精品久久久| 99日韩| 精品无码久久久| 中文字幕第23区| 久久综合97| 无码高清少妇久久| 欧美顶级黄片AAAAA在线免费看| 操狠狠| 欧美伦乱爱| 老司机天天操| 9Ⅰ超碰| 日日嗷| 男人的天堂日本东京热| 久久久com| 久久黄色性爱视频| 91无码西班牙视频在线| 亚洲日产专区婷婷| 久久人妻四季| 97碰在线视频| 九九碰九九爱97| 在线中文字幕极品av| 黑人美精品 A片| 91欧洲国产成人久久精品网站| 熟女熟妇伦久久影院毛片一区二区| 中文字幕视频2区| 亚洲色图20p| 日韩人体偷拍| 一级aaaaa欧美中文字幕录像片| 91N综合网| 蜜臀中文无码午夜| 日本久久999| 日本操逼视频免费| 大香蕉黄色一区| 亚洲精品久久一区二区三区蜜桃臀| 欧亚 另类 久| 最新岛国大片| 日韩中文字幕二区| 女人一区| 91丝袜在线播放| 五月丁香社区婷婷日韩欧美精品影院 | 大香蕉97久久| 国产女人91精品嗷嗷嗷嗷| 91久久国产综合久久| 啊啊啊好湿久久| 无人区高清电影免费观看一区二区三 www.qmcai2.com | 不卡九肏| 午夜精品人妻二区三区| 亚洲色欧美| 丁香五月性| 97chaopenrihan| 久久毛卡| 97精品久久久久久久| 日本色日夜干| 久久婷婷色| 97色操| 啊v视频在线观看| 在线五区| 国产精品无码AV网站| 亚洲日韩黑丝| 色情乱伦AV| 久久成人午夜狠狠| 免费观看国产小粉嫩喷水精品午| 欧美老熟另类| 五月亭亭六月丁香| 欧美日韩国产中文超碰| 日本幼女18+| 天天干天天操天天干天天操 | 欧美色道啊| 2024黄色视频| 人人操人人uiiiiiiiiiiiiiiiiiiiiiiiiiiiiiiiiiiiiiiiiiiiiiiiiiiiiiiiiiiiiii | 亚洲欧美综合图片| 中文字幕奈奈美被公侵犯| 天天摸夜夜摸| 玖草在线视频| 九九伊人网| 精品少妇高潮久久| 久草免费在线一区二区| 密臀AV在线| 日韩免费簧片| 欧美老熟另类| 午夜精品久久久| 熟女丰满人妻一区| juliaann欧美丝袜办公室| 国产精品一级毛片不卡视| 欧美国产成人在线| 国产无码高清操逼视频| 九九英色视频| 国产av激情无码久久天堂| 成人老鸭窝人人在线视频| 97国产人人| 91爽啪| 蜜臀99久久| 人妻精品综合中文字幕在线 | 伊人9| 日韩午夜精品一区二区三区电影| 欧美亚洲丝袜美女电影| 亚洲学生妹高清av| 高清不卡视频| 久久超碰国产一区二区三区| 九九视品黄色| 97这里有精品| 91在线色综合| 欧美综合天天| 欧美少妇熟女| 日产操逼| 91国产大片| 五月婷婷六月丁香网址| 91麻豆天美国产| 亚洲综合图片在线| 欧美日韩在线国产在线| 超碰97导航| 无码乱人伦中文视频| 日本精品九九九| 岛国成人av在线播放网址| 久久三区四区| 乱人伦 国语对白:视频直接看| 大色综合| 国产传媒1234区| 国产内射爽爽大片| 中文字幕版| 欧美日韩日产免费网站看| 天天综合麻豆视频| 丁香五月性爱| 久热一区二区| 久久综合女优| 超碰在线观看av不卡| 日韩97视频| 久久五月综合| 黑人娇小av在线播放| 久久999久| 国产aⅴ无码片毛片一级网站| 亚洲区小说|