日韩精品一区二区三区在线视频放-无码中文字幕V?一区二区-成年片免费观看视频-国内少妇人妻丰满av-国产精品中文字幕免费观看-亚洲成人久久一区二区三区-国内少妇偷人精品视频无缓冲-一区二区国产精品日本一区二区三区在线网

ARTICLE DETAIL

資訊詳情

深耕商務(wù)建站與企業(yè)官網(wǎng)運(yùn)營(yíng)的一線實(shí)戰(zhàn)洞察。

研發(fā)數(shù)字中樞落地復(fù)盤:從工具堆疊走向軟件工業(yè)化的底層重構(gòu)

研發(fā)數(shù)字中樞落地復(fù)盤:從工具堆疊走向軟件工業(yè)化的底層重構(gòu) 前兩年我接手了一個(gè)“研發(fā)效能提升”的項(xiàng)目。剛開(kāi)始我特別反感這個(gè)命名因?yàn)檫^(guò)去我們公司已經(jīng)上過(guò)不少類似的平臺(tái)項(xiàng)目最后不是成了沒(méi)人用的報(bào)表工具就是變成了各自為政的工具堆疊。但真正把需求、代碼、流水線、測(cè)試環(huán)境、發(fā)布審批和線上觀測(cè)這六塊核心數(shù)據(jù)全部打通并沉淀出一個(gè)統(tǒng)一的研發(fā)數(shù)字中樞之后我對(duì)“軟件工業(yè)化”這件事的看法發(fā)生了根本轉(zhuǎn)變。它不是一個(gè)趕時(shí)髦的概念而是軟件生產(chǎn)方式從手工作坊走向流水線裝配時(shí)必然要經(jīng)歷的一次底層重構(gòu)。這篇文章是我在設(shè)計(jì)和落地整個(gè)研發(fā)數(shù)字中樞過(guò)程中的完整復(fù)盤。我會(huì)講清楚它到底解決了什么問(wèn)題、如何定義自己的能力邊界、技術(shù)選型時(shí)為什么堅(jiān)持“開(kāi)源基座自研擴(kuò)展”的路線、核心流程閉環(huán)怎么搭建以及這三年里我們踩過(guò)哪些值得警惕的坑。如果你也正在推動(dòng)類似的研發(fā)效能建設(shè)、工程生產(chǎn)力平臺(tái)整合或者只是想搞明白“工業(yè)化研發(fā)”和“上幾個(gè)工具”之間的本質(zhì)差別這篇文章應(yīng)該能給你一些可落地的參考。1. 軟件工業(yè)化到底在解決什么問(wèn)題從作坊式研發(fā)到流水線生產(chǎn)的范式切換很多團(tuán)隊(duì)把軟件工業(yè)化理解成“上自動(dòng)化工具”這是我認(rèn)為最大的誤讀。工業(yè)化的核心不是自動(dòng)化而是可復(fù)制、可度量、可治理。手工做一把椅子匠人可以用五年時(shí)間打磨出藝術(shù)品但沒(méi)法保證第二把、第三把還能保持同樣的水準(zhǔn)。流水線的價(jià)值在于任何一個(gè)熟練工按照標(biāo)準(zhǔn)作業(yè)指導(dǎo)書操作都能做出品質(zhì)穩(wěn)定、符合規(guī)格的產(chǎn)品。這個(gè)邏輯映射到軟件行業(yè)就是我們常說(shuō)的“研發(fā)數(shù)字化”。1.1 作坊式研發(fā)的三個(gè)典型痛點(diǎn)我復(fù)盤了過(guò)去項(xiàng)目里反復(fù)出現(xiàn)的三類問(wèn)題它們幾乎在每個(gè)轉(zhuǎn)型初期的團(tuán)隊(duì)都存在。第一個(gè)痛點(diǎn)是“信息孤島”。需求在項(xiàng)目管理工具里代碼在代碼倉(cāng)庫(kù)里測(cè)試用例在另一個(gè)系統(tǒng)里線上監(jiān)控又在別的地方。每次要做一次完整的變更影響分析都需要人工去五個(gè)系統(tǒng)分別查一遍再憑個(gè)人經(jīng)驗(yàn)拼湊結(jié)論。這種模式下人的記憶力成了最高優(yōu)先級(jí)的基礎(chǔ)設(shè)施一旦核心人員請(qǐng)假或離職整個(gè)變更的上下文就斷了。第二個(gè)痛點(diǎn)是“過(guò)程不可見(jiàn)”。代碼提交了沒(méi)有測(cè)試跑了沒(méi)有部署到哪個(gè)環(huán)境了版本對(duì)不對(duì)這些信息散落在各個(gè)工具的日志和通知里管理層看到的是團(tuán)隊(duì)每周匯報(bào)的PPT聽(tīng)不到系統(tǒng)的真實(shí)聲音。第三個(gè)痛點(diǎn)是“質(zhì)量靠英雄”。在一個(gè)沒(méi)有標(biāo)準(zhǔn)化流程的團(tuán)隊(duì)里高質(zhì)量的交付往往來(lái)自個(gè)別資深工程師的個(gè)人習(xí)慣——有人習(xí)慣寫單測(cè)有人寫完代碼會(huì)自己先走查一遍有人會(huì)在合并前手動(dòng)檢查依賴。但個(gè)人的好習(xí)慣如果不能沉淀為團(tuán)隊(duì)的標(biāo)準(zhǔn)動(dòng)作整個(gè)組織的交付質(zhì)量就會(huì)像水波紋一樣起伏不定。這三個(gè)痛點(diǎn)讓我確定了一件事研發(fā)數(shù)字中樞的核心價(jià)值不是多做一個(gè)系統(tǒng)而是把已經(jīng)存在的系統(tǒng)和數(shù)據(jù)串成一個(gè)可以被統(tǒng)一治理的整體。1.2 工業(yè)化的核心詞是“可復(fù)制”而非“自動(dòng)化”很多人一談工業(yè)化就想到自動(dòng)化率比如CI/CD是否全自動(dòng)、測(cè)試是否自動(dòng)跑。但自動(dòng)化只是手段不是目的。一個(gè)全自動(dòng)但口徑混亂、結(jié)果不可信的流水線只會(huì)更快地把錯(cuò)誤推向生產(chǎn)環(huán)境。我更喜歡用制造業(yè)的“工藝路線”來(lái)類比。在工廠里一個(gè)零件從毛坯到成品要走哪幾道工序、每道工序用什么設(shè)備、加工到什么尺寸、用什么樣的檢驗(yàn)標(biāo)準(zhǔn)這些都有明確的定義。軟件研發(fā)中也應(yīng)該有同樣的東西一個(gè)需求從提出到上線要走哪些狀態(tài)、每個(gè)狀態(tài)需要什么條件才能進(jìn)入下一階段、每個(gè)階段產(chǎn)出什么產(chǎn)物、用什么樣的標(biāo)準(zhǔn)來(lái)判定“完成”。這些標(biāo)準(zhǔn)一旦被固化到研發(fā)數(shù)字中樞里團(tuán)隊(duì)得到的就不只是效率而是確定性。所以我在設(shè)計(jì)中樞的時(shí)候首要目標(biāo)不是把流水線做得“快”而是把流程定義得“一致”。只要流程一致后續(xù)的度量、質(zhì)量分析、瓶頸識(shí)別全部有了數(shù)據(jù)基礎(chǔ)。這一步走扎實(shí)后面的技術(shù)選型和架構(gòu)設(shè)計(jì)才有意義。2. 研發(fā)數(shù)字中樞的定位設(shè)計(jì)它包含什么以及它拒絕了什么項(xiàng)目啟動(dòng)時(shí)我們面臨的最尖銳問(wèn)題是這個(gè)中樞到底要做什么最初討論會(huì)上產(chǎn)品經(jīng)理列了兩百多條功能需求研發(fā)團(tuán)隊(duì)提出要統(tǒng)一六個(gè)工具的登錄認(rèn)證管理層希望一個(gè)看板看到所有項(xiàng)目的進(jìn)度和風(fēng)險(xiǎn)。如果都滿足這個(gè)項(xiàng)目三年都交付不了。我后來(lái)用了一個(gè)很樸素的判斷標(biāo)準(zhǔn)來(lái)收斂需求凡是只解決“點(diǎn)”上效率的不做凡是能沉淀為“面”上能力的優(yōu)先做。研發(fā)數(shù)字中樞定位為全鏈路數(shù)據(jù)的治理與流轉(zhuǎn)平臺(tái)而不是業(yè)務(wù)工具本身。它不替代代碼倉(cāng)庫(kù)、不替代CI系統(tǒng)、不替代監(jiān)控系統(tǒng)而是作為它們之上的統(tǒng)一編排與數(shù)據(jù)通道。2.1 中樞的能力邊界六類核心數(shù)據(jù)的治理我最終把中樞的能力邊界收斂在六類數(shù)據(jù)的統(tǒng)一治理上分別是需求數(shù)據(jù)、代碼數(shù)據(jù)、制品數(shù)據(jù)、環(huán)境數(shù)據(jù)、發(fā)布數(shù)據(jù)和觀測(cè)數(shù)據(jù)。需求數(shù)據(jù)指的是從需求提出、評(píng)審、排期到最終驗(yàn)收的完整狀態(tài)流代碼數(shù)據(jù)包括代碼倉(cāng)庫(kù)元數(shù)據(jù)、分支信息、提交記錄、代碼評(píng)審記錄等制品數(shù)據(jù)指構(gòu)建產(chǎn)物、鏡像、依賴包及其版本和簽名信息環(huán)境數(shù)據(jù)描述開(kāi)發(fā)、測(cè)試、預(yù)發(fā)、生產(chǎn)等各環(huán)境的狀態(tài)和部署關(guān)系發(fā)布數(shù)據(jù)記錄每一次變更的審批、執(zhí)行、回滾全過(guò)程觀測(cè)數(shù)據(jù)則匯聚線上監(jiān)控、日志、告警和調(diào)用鏈信息。這六類數(shù)據(jù)的共同特點(diǎn)是沒(méi)有業(yè)務(wù)領(lǐng)域?qū)傩允侨魏渭夹g(shù)團(tuán)隊(duì)都通用的研發(fā)過(guò)程資產(chǎn)。把它們治理好了團(tuán)隊(duì)就可以回答幾個(gè)以前很難回答的問(wèn)題某個(gè)需求到底合入到哪個(gè)版本了線上運(yùn)行的鏡像包含哪幾個(gè) commit告警對(duì)應(yīng)的那次變更是誰(shuí)在什么時(shí)候?qū)徟倪@些問(wèn)題的答案一旦能自動(dòng)給出研發(fā)和運(yùn)維協(xié)作的信任成本會(huì)立刻下降。2.2 拆掉重造和工具堆疊之間的中間路線在落地路徑上我們很清楚自己不會(huì)走兩條極端的路。第一條是拆掉重造所有東西都自研。這需要極強(qiáng)的研發(fā)資源和長(zhǎng)期投入收益期太晚對(duì)大部分公司來(lái)說(shuō)不現(xiàn)實(shí)。第二條是工具堆疊買來(lái)或接入一批現(xiàn)成系統(tǒng)用一個(gè)頁(yè)面聚合入口就對(duì)外宣稱是“平臺(tái)”這是最容易出現(xiàn)的結(jié)果也是最沒(méi)價(jià)值的。兩條路之間的中間路線是保留成熟工具的核心能力在其之上做統(tǒng)一的數(shù)據(jù)模型、統(tǒng)一的流程編排、統(tǒng)一的門戶展示。核心資產(chǎn)自己控制非核心能力讓專業(yè)工具發(fā)揮專業(yè)價(jià)值。這種定位帶來(lái)的最大好處是我們不需要去和已有的系統(tǒng)競(jìng)爭(zhēng)而是成為它們之間的連接器和規(guī)則引擎。整個(gè)項(xiàng)目始終是“減法優(yōu)先”而不是“加法優(yōu)先”每加一個(gè)功能模塊之前都要先回答一個(gè)問(wèn)題它是否在為六類數(shù)據(jù)的完整流動(dòng)服務(wù)如果答案是“體驗(yàn)優(yōu)化”或“展示美觀”我就把它排到后置。3. 自主可控的技術(shù)選型與架構(gòu)落地細(xì)節(jié)自主可控這個(gè)提法在研發(fā)數(shù)字中樞的語(yǔ)境下不是一句口號(hào)而是一系列非常具體的技術(shù)決策。我的理解是系統(tǒng)必須保證全鏈路的技術(shù)可解釋、可維護(hù)、可替換不讓任何一環(huán)被供應(yīng)商鎖定也不讓核心邏輯變成誰(shuí)都不懂的黑盒。3.1 為什么堅(jiān)持“開(kāi)源基座自研插件統(tǒng)一門戶”技術(shù)選型階段我們?cè)u(píng)估過(guò)一個(gè)龐大的商業(yè)研發(fā)效能平臺(tái)功能確實(shí)全但有兩個(gè)問(wèn)題我們接受不了一是核心代碼在供應(yīng)商手里個(gè)性化需求必須走漫長(zhǎng)的排期二是數(shù)據(jù)模型不開(kāi)放未來(lái)如果我們想基于這些數(shù)據(jù)做更深入的算法分析會(huì)非常被動(dòng)。最終我們選擇了“開(kāi)源基座自研插件統(tǒng)一門戶”三層結(jié)構(gòu)。開(kāi)源基座提供穩(wěn)定的基礎(chǔ)能力比如代碼倉(cāng)庫(kù)我們用GitLabCI/CD用Jenkins和GitLab CI混合制品管理用Nexus監(jiān)控體系用Prometheus和Grafana。自研插件解決關(guān)鍵路徑上的訴求包括需求到代碼的自動(dòng)關(guān)聯(lián)、發(fā)布審批的流程編排、跨系統(tǒng)數(shù)據(jù)同步等。統(tǒng)一門戶則是一個(gè)自研的前端容器把所有系統(tǒng)的常用操作做成了統(tǒng)一體驗(yàn)的入口底層卻仍然調(diào)用各系統(tǒng)的原生API。這個(gè)結(jié)構(gòu)的核心優(yōu)勢(shì)是每一層都可替換。如果未來(lái)某個(gè)開(kāi)源基座無(wú)法滿足需求我們只需要替換對(duì)應(yīng)的適配層不需要重寫中樞的邏輯。這種“可替換性”正是自主可控最容易落地的一種形態(tài)。3.2 技術(shù)棧和部署架構(gòu)的穩(wěn)定基線中樞本身我們分為接入層、流程層和數(shù)據(jù)層。接入層負(fù)責(zé)對(duì)接各類外部系統(tǒng)的API所有調(diào)用統(tǒng)一走一個(gè)獨(dú)立的網(wǎng)關(guān)在網(wǎng)關(guān)層完成鑒權(quán)、限流和敏感字段脫敏。流程層是中樞的大腦采用微服務(wù)架構(gòu)按領(lǐng)域拆分成需求服務(wù)、流水線服務(wù)、發(fā)布服務(wù)、度量服務(wù)等模塊服務(wù)之間通過(guò)事件總線異步通信。數(shù)據(jù)層使用MySQL存儲(chǔ)核心流程數(shù)據(jù)用Elasticsearch存儲(chǔ)全量審計(jì)日志和度量數(shù)據(jù)用Redis緩存熱點(diǎn)狀態(tài)。部署上我們沒(méi)有追求復(fù)雜的容器集群初期就采用單Kubernetes集群多命名空間的方式把不同模塊軟隔離。每個(gè)服務(wù)設(shè)置資源上限避免某個(gè)模塊的異常流量拖垮整個(gè)中樞。數(shù)據(jù)庫(kù)主從同步從庫(kù)承擔(dān)所有查詢和分析類任務(wù)主庫(kù)只寫高一致性的狀態(tài)變更大幅降低了鎖沖突。這里有一個(gè)容易被忽略的細(xì)節(jié)各系統(tǒng)之間的同步不能直接強(qiáng)依賴定時(shí)任務(wù)拉輪詢而要優(yōu)先使用Webhook事件驅(qū)動(dòng)。GitLab的Push事件、Jenkins的構(gòu)建完成事件、Prometheus的告警事件都以消息形式進(jìn)入我們的事件總線再由流程層的消費(fèi)者來(lái)決定觸發(fā)什么動(dòng)作。這種設(shè)計(jì)讓全鏈路的響應(yīng)時(shí)間從分鐘級(jí)降低到秒級(jí)這才是數(shù)字化中樞該有的體感。4. 從需求到發(fā)布核心流程的數(shù)字化閉環(huán)實(shí)現(xiàn)研發(fā)數(shù)字中樞如果只做一個(gè)數(shù)據(jù)倉(cāng)庫(kù)價(jià)值會(huì)大打折扣。真正的價(jià)值體現(xiàn)在流程閉環(huán)上一條需求從進(jìn)入系統(tǒng)到最終上線產(chǎn)生觀測(cè)反饋全鏈路都在中樞的控制和監(jiān)視之下任何環(huán)節(jié)出現(xiàn)偏差都能被及時(shí)暴露。4.1 需求到代碼關(guān)聯(lián)強(qiáng)制卡片流轉(zhuǎn)第一個(gè)閉環(huán)是需求和代碼的關(guān)聯(lián)。過(guò)去經(jīng)常出現(xiàn)一種情況產(chǎn)品經(jīng)理統(tǒng)計(jì)需求完成率時(shí)發(fā)現(xiàn)80%的需求都顯示“待驗(yàn)收”但代碼已經(jīng)上線了。原因是代碼提交信息里根本沒(méi)有關(guān)聯(lián)到需求ID兩者在數(shù)據(jù)層就斷裂了。我們做了一個(gè)強(qiáng)制規(guī)則所有功能分支必須從主分支拉出分支名必須包含需求編號(hào)所有合并請(qǐng)求的描述里必須關(guān)聯(lián)需求卡片否則CI的第一階段校驗(yàn)直接失敗阻斷合并。同時(shí)當(dāng)合并請(qǐng)求被合入主分支后中樞會(huì)自動(dòng)更新對(duì)應(yīng)需求的狀態(tài)為“已實(shí)現(xiàn)”并記錄這次需求量變更涉及的提交哈希和代碼文件列表。這個(gè)規(guī)則的推行阻力不小最初兩周幾乎每天都有人在群里抱怨“流程太重”。但堅(jiān)持跑了一個(gè)月后產(chǎn)品經(jīng)理、測(cè)試和研發(fā)的數(shù)據(jù)口徑完全統(tǒng)一了一個(gè)需求關(guān)聯(lián)了幾個(gè)提交、改動(dòng)了哪些文件、對(duì)應(yīng)哪個(gè)合并請(qǐng)求、測(cè)試通過(guò)沒(méi)有全部可以在一個(gè)界面里看到。跨部門協(xié)作的爭(zhēng)吵明顯減少因?yàn)榇蠹铱吹氖峭惶资聦?shí)。4.2 可重復(fù)的流水線模板與制品管理流水線的建設(shè)我們同樣遵循“模板化”而非“靈活自由”的理念。研發(fā)團(tuán)隊(duì)可以自定義自己的構(gòu)建步驟但沒(méi)有權(quán)限直接編寫不受控的Shell腳本。所有語(yǔ)言類型Java、Go、Node等的默認(rèn)流水線都從中樞提供的標(biāo)準(zhǔn)模板中生成模板里包含了版本號(hào)自動(dòng)生成、依賴安全檢查、單元測(cè)試、制品歸檔等一系列默認(rèn)動(dòng)作。版本號(hào)規(guī)則是我們很早定下來(lái)的Git的短提交哈希構(gòu)建序號(hào)。例如release-1.4.2-a1b2c3d-78。這樣的好處是每個(gè)制品都同時(shí)對(duì)應(yīng)到一個(gè)明確的代碼版本和一個(gè)構(gòu)建批次回滾時(shí)可以準(zhǔn)確無(wú)誤地找到上一個(gè)可用的制品而不是重新構(gòu)建一份新鏡像。制品管理采用不刪除策略所有鏡像和jar包都保留可追溯的記錄磁盤不夠就定期歸檔到冷存儲(chǔ)。這套機(jī)制幫我們解決了一個(gè)非常實(shí)際的痛點(diǎn)環(huán)境差異導(dǎo)致“在我機(jī)器上能跑”的問(wèn)題。通過(guò)模板化的流水線每個(gè)環(huán)境的部署制品完全一樣區(qū)別只是配置注入不同。研發(fā)和生產(chǎn)環(huán)境用的是同一個(gè)構(gòu)建產(chǎn)物這從根本上消除了“測(cè)試通過(guò)但上線失敗”的常見(jiàn)根源之一。4.3 上線審批與變更數(shù)據(jù)的沉淀發(fā)布是研發(fā)流程里風(fēng)險(xiǎn)最高的環(huán)節(jié)所以我把它設(shè)計(jì)成了流程層的核心場(chǎng)景。在中樞里發(fā)布和變更不再是直接在Kubernetes集群上執(zhí)行命令而是一條受控的審批流水線。每一次正式環(huán)境發(fā)布系統(tǒng)會(huì)在前端頁(yè)面把這次發(fā)布涉及的代碼變更、關(guān)聯(lián)需求、測(cè)試報(bào)告、制品信息、之前同類變更的歷史告警情況匯總到一張“變更說(shuō)明書”頁(yè)面上。審批人不再憑感覺(jué)點(diǎn)“同意”而是先看變更影響面和測(cè)試證據(jù)。審批通過(guò)后系統(tǒng)調(diào)用底層發(fā)布工具執(zhí)行部署并在部署完成后拉取一段時(shí)間窗口內(nèi)的監(jiān)控?cái)?shù)據(jù)做自動(dòng)比對(duì)如果發(fā)現(xiàn)錯(cuò)誤率上升或延遲增加立即觸發(fā)回滾預(yù)案。這些變更記錄全部進(jìn)入了我們的ES索引形成持續(xù)積累的變更知識(shí)庫(kù)。后續(xù)每當(dāng)有類似模塊的變更申請(qǐng)時(shí)系統(tǒng)會(huì)自動(dòng)提示歷史上同模塊的變更頻率和故障率幫助審批人更精準(zhǔn)地識(shí)別風(fēng)險(xiǎn)。這是我認(rèn)為“數(shù)據(jù)資產(chǎn)”最有價(jià)值的地方它把每一次事故都轉(zhuǎn)化成了下一次決策的參考依據(jù)。5. 構(gòu)建過(guò)程中的典型故障與避坑記錄承接中樞這個(gè)項(xiàng)目最不缺的就是踩坑。我在這里記錄三個(gè)最典型的教訓(xùn)它們分別出現(xiàn)在權(quán)限模型、數(shù)據(jù)同步和度量口徑三個(gè)方向每一個(gè)都曾經(jīng)讓項(xiàng)目停滯過(guò)一兩周以上。5.1 權(quán)限模型設(shè)計(jì)失誤從“功能權(quán)限”轉(zhuǎn)向“數(shù)據(jù)權(quán)限”項(xiàng)目初期我們模仿很多后臺(tái)系統(tǒng)的做法設(shè)計(jì)了基于角色的功能權(quán)限每個(gè)用戶可以訪問(wèn)哪些頁(yè)面、點(diǎn)擊哪些按鈕。但上線兩周后就出了問(wèn)題測(cè)試部門的小李可以進(jìn)入項(xiàng)目A的需求列表修改狀態(tài)因?yàn)樗麚碛械慕巧恰皽y(cè)試工程師”而角色定義沒(méi)有細(xì)化到項(xiàng)目維度。這個(gè)bug在項(xiàng)目初期直接被忽略直到一次跨部門審計(jì)時(shí)才發(fā)現(xiàn)一位研發(fā)可以隨意查看所有項(xiàng)目群的生產(chǎn)環(huán)境密鑰。問(wèn)題本質(zhì)在于研發(fā)數(shù)字中樞的訪問(wèn)控制粒度必須是“數(shù)據(jù)權(quán)限”而不是“功能權(quán)限”。我們重構(gòu)為以“項(xiàng)目群-環(huán)境-資源”為維度的授權(quán)模型用戶能看到的每一個(gè)環(huán)境、每一個(gè)制品、每一條流水線日志都通過(guò)底層接口做數(shù)據(jù)級(jí)校驗(yàn)前端按鈕隱藏只是交互優(yōu)化真正可靠的是服務(wù)端的數(shù)據(jù)過(guò)濾。重構(gòu)之后我們形成了一個(gè)規(guī)范任何涉及其他系統(tǒng)數(shù)據(jù)的請(qǐng)求都必須帶上用戶在數(shù)據(jù)域的授權(quán)上下文第三方工具自己的權(quán)限系統(tǒng)只作為第二道防線。這個(gè)設(shè)計(jì)最終幫我們?cè)诎踩弦?guī)評(píng)審上省了不少時(shí)間。5.2 同步鏈路的數(shù)據(jù)一致性消息重復(fù)與亂序因?yàn)槲覀儾捎檬录?qū)動(dòng)架構(gòu)各系統(tǒng)之間靠Webhook和消息隊(duì)列同步很快遇到了消息的重復(fù)消費(fèi)和亂序處理問(wèn)題。舉個(gè)具體例子GitLab的Merge Request更新事件在評(píng)論或者狀態(tài)變更頻繁時(shí)Webhook可能重復(fù)推送也可能先推updated再推opened導(dǎo)致中樞里的MR狀態(tài)和實(shí)際GitLab狀態(tài)不一致。第一版解決思路很粗暴在數(shù)據(jù)庫(kù)表加唯一索引重復(fù)消息直接丟棄。但這并沒(méi)有解決亂序問(wèn)題反而造成狀態(tài)倒掛比如一個(gè)MR已經(jīng)被合并后續(xù)一條兩秒前的“已關(guān)閉”事件才被處理系統(tǒng)就把狀態(tài)錯(cuò)誤地更新成關(guān)閉。后來(lái)我們引入了兩個(gè)機(jī)制。一是“事件冪等表”接受到事件后先在冪等表里比較事件ID和事件產(chǎn)生時(shí)間戳如果當(dāng)前處理的事件時(shí)間戳早于已處理事件的最后時(shí)間戳就直接跳過(guò)。二是“狀態(tài)機(jī)校驗(yàn)”每個(gè)聚合根在狀態(tài)流轉(zhuǎn)時(shí)只接受合法的前序狀態(tài)非法轉(zhuǎn)換一律拒絕并進(jìn)入告警隊(duì)列。這個(gè)組合方案把同步準(zhǔn)確率從99.2%提升到了99.98%剩下的萬(wàn)分之二則通過(guò)每小時(shí)的核對(duì)任務(wù)兜底。5.3 指標(biāo)口徑不統(tǒng)一引發(fā)的信任危機(jī)研發(fā)數(shù)字中樞上線后我們做了一個(gè)“研發(fā)效率看板”展示需求交付周期、部署頻率、變更失敗率等指標(biāo)。結(jié)果上線第一周就有兩個(gè)團(tuán)隊(duì)反饋數(shù)據(jù)完全對(duì)不上研發(fā)團(tuán)隊(duì)說(shuō)交付周期平均是14天而測(cè)試團(tuán)隊(duì)說(shuō)從提測(cè)到上線怎么算都要20天。排查后發(fā)現(xiàn)原因是兩個(gè)團(tuán)隊(duì)對(duì)“交付周期”的起止定義不一樣。研發(fā)團(tuán)隊(duì)認(rèn)為應(yīng)從創(chuàng)建需求到代碼合入主分支計(jì)算測(cè)試團(tuán)隊(duì)認(rèn)為應(yīng)從提測(cè)到生產(chǎn)環(huán)境部署成功計(jì)算。兩個(gè)口徑各有道理但放在同一個(gè)看板上就成了互相矛盾的數(shù)字。這個(gè)坑給了我們一個(gè)很重要的啟示研發(fā)數(shù)字中樞的度量模塊必須把每一個(gè)指標(biāo)的定義、計(jì)算邏輯、數(shù)據(jù)來(lái)源、刷新頻率固化為元數(shù)據(jù)可視化用戶在查看數(shù)據(jù)時(shí)可以一鍵展開(kāi)口徑解釋而不是只看到一個(gè)孤零零的百分比。指標(biāo)口徑是一個(gè)組織級(jí)的約束問(wèn)題不是技術(shù)問(wèn)題但沒(méi)有系統(tǒng)層面的“強(qiáng)制透明”這個(gè)問(wèn)題永遠(yuǎn)無(wú)法收斂。6. 落地三年后的經(jīng)驗(yàn)復(fù)盤與后續(xù)演進(jìn)方向項(xiàng)目走到今天我最大的體會(huì)是研發(fā)數(shù)字中樞的建設(shè)不是一次性的項(xiàng)目交付而是一個(gè)長(zhǎng)期演進(jìn)的“軟件工業(yè)化底座”。如果你剛開(kāi)始推動(dòng)類似建設(shè)下面這些判斷可能對(duì)你有用。6.1 什么情況下這個(gè)模式不適用我需要先說(shuō)清楚邊界。如果你的團(tuán)隊(duì)規(guī)模在十人以下需求變化極快產(chǎn)品處于探索期那么投入資源建設(shè)這樣一個(gè)中樞可能并不劃算。小團(tuán)隊(duì)的核心優(yōu)勢(shì)是溝通成本極低一個(gè)優(yōu)秀的工程師可以一個(gè)人完成需求、開(kāi)發(fā)、測(cè)試、部署的全部動(dòng)作硬塞一套標(biāo)準(zhǔn)流程反而會(huì)拖慢節(jié)奏。還有一類情況也不適用組織本身對(duì)數(shù)據(jù)共享和流程透明沒(méi)有強(qiáng)烈意愿各部門把工具和數(shù)據(jù)視作部門私有領(lǐng)地。在這種情況下中樞建設(shè)最大的障礙不在技術(shù)而在組織本位主義。我曾經(jīng)在一個(gè)內(nèi)部溝通會(huì)上提議統(tǒng)一各團(tuán)隊(duì)的CI/CD規(guī)范結(jié)果被三個(gè)不同團(tuán)隊(duì)以“我們的場(chǎng)景特殊”為由拒絕。如果高層沒(méi)有下決心推動(dòng)統(tǒng)一的流程標(biāo)準(zhǔn)中樞項(xiàng)目很容易變成一個(gè)無(wú)人使用的數(shù)據(jù)空殼。所以我的建議是先評(píng)估組織的“工業(yè)化意愿”再評(píng)估“工業(yè)化能力”。意愿不統(tǒng)一時(shí)先做局部標(biāo)桿讓率先使用中樞的團(tuán)隊(duì)跑出效果再逐步向外滲透這比自上而下地強(qiáng)推有效得多。6.2 后續(xù)演進(jìn)的方向從流程數(shù)字化到數(shù)據(jù)智能當(dāng)六類數(shù)據(jù)都能穩(wěn)定流轉(zhuǎn)后我們開(kāi)始把一部分精力從“流程”轉(zhuǎn)向“智能”。最直接的變化是很多以前需要人工判斷的事情系統(tǒng)開(kāi)始能做輔助決策了。比如故障定位。過(guò)去線上告警后運(yùn)維需要先查部署時(shí)間線再查代碼變更記錄再通過(guò)日志反推根因整個(gè)過(guò)程可能耗時(shí)半小時(shí)。現(xiàn)在中樞把發(fā)布事件和告警事件關(guān)聯(lián)起來(lái)一旦監(jiān)控指標(biāo)異常系統(tǒng)自動(dòng)展示最近一次發(fā)布變更的明細(xì)、對(duì)應(yīng)需求背景、相關(guān)代碼提交把這些信息聚合到同一個(gè)告警卡片上給值班工程師節(jié)省了很多跨系統(tǒng)切換的時(shí)間。下一步我們計(jì)劃把歷史變更數(shù)據(jù)、測(cè)試覆蓋數(shù)據(jù)和線上質(zhì)量數(shù)據(jù)匯總起來(lái)構(gòu)建一個(gè)“變更風(fēng)險(xiǎn)預(yù)測(cè)”的模型。簡(jiǎn)單來(lái)說(shuō)就是當(dāng)一個(gè)合并請(qǐng)求進(jìn)入準(zhǔn)備發(fā)布階段時(shí)系統(tǒng)根據(jù)歷史相似模塊的變更規(guī)律給出一個(gè)風(fēng)險(xiǎn)評(píng)分分?jǐn)?shù)過(guò)高的變更會(huì)被自動(dòng)標(biāo)記為需要人工重點(diǎn)復(fù)核。這個(gè)方向我很看好因?yàn)樗蜒邪l(fā)數(shù)字中樞從被動(dòng)記錄工具變成了主動(dòng)的風(fēng)險(xiǎn)防控體系這也是我認(rèn)為軟件工業(yè)化繼標(biāo)準(zhǔn)化、自動(dòng)化之后的第三層價(jià)值——智能化。回看整個(gè)項(xiàng)目過(guò)程我覺(jué)得最有成就感的一件事不是系統(tǒng)上線時(shí)有多少人在用而是某天深夜一個(gè)值班同事在群里說(shuō)了一句“現(xiàn)在處理線上問(wèn)題比以前快多了因?yàn)樗斜尘岸荚谝粋€(gè)屏幕上不用到處問(wèn)人了?!毖邪l(fā)數(shù)字中樞聽(tīng)起來(lái)是個(gè)很大的詞但它落到每個(gè)人每天的工作里其實(shí)就是讓團(tuán)隊(duì)少做點(diǎn)無(wú)意義的重復(fù)溝通多獲得一些高質(zhì)量的數(shù)據(jù)支持。所謂軟件工業(yè)化我現(xiàn)在的理解很簡(jiǎn)單把偶然的聰明變成必然的穩(wěn)定把個(gè)人的經(jīng)驗(yàn)變成組織的資產(chǎn)。這條路沒(méi)有終點(diǎn)每往前走一步團(tuán)隊(duì)就離低效的過(guò)去更遠(yuǎn)一點(diǎn)。
返回列表
PREV
查看更多資訊
NEXT
返回資訊列表
人人妻人射| 久久九九久精品国产尤物|国产精品爽黄69天堂A片潘金莲,国产亚洲精品第一综合 | 日韩欧美女求操每天更新| 成人欧美一区二区三区黑人一| 一区二区精品更新提醒| 成人性爱美曰韩| 亚洲欧美日韩不卡人妻| 伊人久久蜜月| 精品一区96| 久久久久9| 高清不卡 中文 人妻| 亚洲另类电影| 91精品91久久久中77777| 精品久久大胆人体| 亚洲日韩青青草色月| 欧美AB在线| 欧美亚洲| 噜噜噜亚洲精| 久久水蜜臀亚洲AV无码精品| 992这里有精品| 久久六六| 爱妃国产亚洲视频中文字幕| 欧美亚洲日本激情在线| 成人免费看吃奶视频网站| 婷婷五月天福利| 久久riav中文精品| 久久av无码| 易易A毛视频| 91性高| 婷婷导航| www99热| 羞涩视频| 久久久久久久九九九九| 果冻传媒A片一二三区| 亚洲人精| 亚州少妇| 国产亚洲日韩在线三区黑人| 100啪啪视频大全| 国产夜夜艹| 久久丁香| 嗯嗯嗯嗯啊啊啊好紧好大| 天天碰久久入| 欧美人妻制服| 欧美三级免费伊人| 熟女乱伦A| 中文字幕精品乱码| 97 国产一区| 亚洲男人的天堂一区二区| 留下AⅤ黄色片| 亚洲密乳AV| 激情婷婷综合久久| 男女无套 免费网站| 人人模人人看| 97在线播放| 天天操福利视频综合网站| 日本男人插女人的逼黄色| 蜜桃久久久久久久| 日日日啊啊啊| 亚洲第91页| 天天射夜夜| 狠狠穞A片一區二區三區| 中文字幕交换人妻| 国产懂色精品国产av| 91成人在线免费视频| 国产第25页在线观看| 亚洲在线网站| 中日韩熟女| 国产熟女免费观看久久| www.yw尤物| 2024人人操人人摸| 色牛牛AV| 亚洲春色一区二区三区| 婷婷丁香九月| 中亚av| 亚洲另类久操网| 8050无码八戒| 91视频观看网站| 97超碰在线资源网站| 素颜老阿姨乱情色| 少妇精品| 久久透逼视频| a片久久久久久久久久久久 | 在线欧美69V免费观看视频| 草草网站影院白丝内射| 99精品在线观看| 亚洲精品色| 少妇六月天| 天天超级碰碰碰| 97免费视频在线| 亚洲男人天堂2012| 好湿好紧视频| 在线啊v一区| 亚洲成人久久一区二区| 欧美综合91| 色色色日本| 在线欧美69V免费观看视频| 曰韩成人免费视频| 欧美日韩少妇色情| 天天操天天7| 伊人精品国产| 亚洲精品骚逼| 午夜啊啊| 精品国产无码中文| 东京热免费视频| 99天天超碰| AV一二区| 精品人妻无码一区二区三区不卡-精品人妻无码一区二区...|精品少妇一区二区三 | 偷拍 亚洲 欧美| 国产精品视频在线观看| 中文字幕一区二区三区视频播放| 91狠狠综合久久| 亚洲一区二区在线观看91| 一级A片女人高潮叫床| 国产丝袜视频| 久都青青视频| 果冻传媒A片一二三区| 少妇熟女视频一二三区| 欧美性爱中文字幕无线码| 九九久久一区二区三区| 久久久96| 蜜臀视频网站| 国产亚洲 中文欧美久久| 女人天堂网| 熟妇xxxxx性春色| 日韩Va亚洲va欧美Ⅴa久久| 九九AV| 国产三级中文字幕粉嫩 | 丝袜 亚洲 偷拍| 天天爽入口| 操逼网免费无码视频| 欧美成人国产精品| 国产精品一区二区久久精品| 麻豆国产尤物AV| 亚洲精品久久久久久| 四虎国产精品永久在线囯在线| 亚洲男人在线观看天堂| 操逼天美3区| 日韩无码服务区| 久久久无码av精| 亚洲免费97免费| 国产1727欧美| 五月婷婷六月激情| 99久久亚洲精品无码毛片潘甜甜| 热99这里有精品综合久久 | 另类小说综合网| 国产乱弄免费在线视频。 | 一区二区偷拍拍视频| 亚洲人妻精品一区二区| 精品无码一区二区| 操逼1区| 亚春色色| 日韩黄色片子| 亚洲天天艹| 亚洲丝袜色图| 久久久久精| 国产精品香蕉热久久新品| 亭亭在线资源| 色精品极品| 狠狠操夜夜| 99热在线播放| 97超碰欧美手机在线| 综合网,亚洲,欧美| 欧美性爱视频免费一区一A| 91操人| 巨爆乳肉感一区二区三区竹菊影视| 色婷婷99| 国产黄色av大片网站| 亚洲成人网站在线观看| 丁香五月影院| 日日妻色网| 久久国色天香香蕉| 人妻激情偷乱视频一区二区三区 | 五月婷在线| 国产成人久久精品蜜臀| 白嫩妹子国产骚| 淫妻综合网| 五月婷婷六月丁香| 亚洲无码99| 天堂а√在线最新版在线| 97超碰中文在线| 精品无av| 91丰满| 欧美色网络| 九九九九九九九| 黄色十八禁| 人人插人人搞人人操| 日韩无码视频黄色| 精品成人无码| 视频二区熟女人妻| 久九九九| 精品久久久久久中文字幕三区 | 91AV天堂| 亚洲日韩电影| 99热这里只有精| www.91色综合| 国内偷拍精品一区二区| 久久风骚城市| 久操网无码在线| 中出91| 五月天婷婷久久| 亚洲av无码成人精品国产| 国产成人+综合亚洲+天堂| 欧美一二在线| 乱色老一区二区三区的观看方式 | 国产精品大香蕉| 亚洲熟妇无码一区二区三区| 亚洲人精品久久久| 欧洲色综合| 9.1小视频| 日韩免费高清大片在线| 蜜臀亚洲综合一二三四区| 中文字幕av色| 欧美色网| 97综合在线观看| 色噜噜狠狠色综无码久久合欧美| 亚洲国产精品成人久久蜜臀| 99re免费| 日韩中文字幕视频| 久久啊啊| 操逼网站网站| 五月综合色| 女生看匆91网站| 日本高清免费一本视频在线观看| 国产精品国产自产高清AV| 男人天堂婷婷五月天校园春色| 伊人嫩草| 99热最新| 国产一区自拍欧美日韩| 黑人综合色| 能直接看AV的网站| 色五月AV| 亚洲色图 图片| 午夜120视频在线观看| 亚洲综合九| 亚洲国产综合视频| 嫩草影院永久在线制服丝袜| 久久亚洲不卡| 99热只有这里有精品| 久热大香蕉| 国产亚洲深夜激情| 午夜久久一区二区无码中出| 久久男人精品| 日日躁夜夜躁狠狠躁超爽| 青娱乐啪啪视频| 视频分类 国内精品| 97亚洲精品| 国产女人9999| 九九九久千久久激情蜜桃在线看| 日本 色 导航| 亚欧性爱无码| 91无遮挡| 久久这里只| 国产精品91一样| 俺去俺来也在线www| 91丨人妻丨国产丨丝袜| 亚热日本熟女| 九九夜精品九九在线| 国产午夜福利视频在线| 天天操天天干一区二区 | 狠狠超| 欧美熟妇精品黑人巨大91| 亚洲色图大香| 国产动漫操逼视频| 在线视频免费播放一区| 国产亚洲禁久一区二区| 欧美日本中字另类在线| 性开放中文AV高清无码免费看| 亚洲天堂久久久久久粉红视频| 丁香五月成人| 97超级久久强资源| 抽插无码高清一区| 九九探花视频在线观看| 国产AV毛片| 91啦人妻| 欧美性爱91| 制度丝袜99| 久久精品国产欧美日韩亚洲欧美日韩中文久久国产一区 | 蜜臀av网址| 色九九九九| 久久久9品一区二区三区| 国产女人高潮视频| 中文字幕片| 欧美精品 - 91爱爱| 色大师网站www永久网站视频| 色九九九九| 干B| 伊人网在线视频| 在线小视频| 免费精品AB| 久久无码一区二区二三区性色| 人人妻人射| 久草视频观看视频在线| 日日夜夜干| 97激情97激情| 欧美亚洲手机在线| 91人妻中文| 一区二区三区日韩欧美| 自拍二页| 91色交| 高潮精品| 成人一道本免费视频| 伊人激情五月天一区二区| 色婷婷视频| 玖玖大干人妻| 久久一区二区三区入口| 亚洲高潮少妇| 国产SV一线| 桑老女人九区| 巨爆乳一区二区爆乳区| 欧美色棕合| 91AV天美在线视频| 摸奶性爱视频网站在线免费播放| 999狠狠综合| 72av视频| 国产精品一区二区 尿失禁| 蜜臀亚洲中文| 日韩中文字幕视频| 97超久碰| 手机在线视频国内精品| 国产乱码久久久久久| 99久久久久久久久| 91av天美性媒精品视频| 欧美一级二级三级| 午夜福利免费精品视频| 青青草色情网站视频| 国内偷拍精品一区二区| 欧美色图天堂在线| 99久在线精品99re8a| 国产无码三级视频在线观看| 少妇第一页| 天堂无码精品国产久| 熟妇人妻一区二区三区| 精品对白久久不卡| 精品无码产区一区二| 骚逼高潮久久精品| 99在线精品观看99| 日本一区二区三区午夜观看| 97爱碰| 午夜精品一区二区三区三上悠亚| 久久久精品网| 亚洲综合 欧美| 99在线精品视频| 国产东北女人在线视频| 超清中文乱码字幕| 人人妻人人爽一区二区三区| 一直超碰| 二三四区精品| 欧美1727免费观看视频| 热热色中文无码| 亚洲天天影视综合网| 超AV色女| 色色五月天婷婷| 亚洲学生妹高清av| 九九九国产| 二级久久网| 国产区91柔拿会所技师| 97自拍一区| 黄污污污污| 毛片一区二区| 国产亚洲色停停久久99精品91| 日韩欧美~中文字| 青青草天天亲夜夜操网| 免费看久久久性性| 东亚亚洲无码高清| 2017人人操,人人摸| 国产一区二区二区按摩精品啪视频| 97操在线| 美女91在线观看| 久久国产精品91| 亚洲国产欧美日韩人妻日中文| 亚洲se91| 操逼天美3区| 中文色综合| 亚洲欧美综合区自拍另类| 97天天综合| 91美女精品| 国产精品久久久久久久久久久久久久吹 | 亚洲不卡三级手机播放| 日韩 人妻 精品| 澳门成人网站久国产日韩| 色综和网| 久久久久久十| 亚洲色天堂九9| 国产91 丝袜在线播放| 久久青青草原免费视频| 久久精品国产亚洲AV片多多| 综合一区中亚洲国产成人综合精品| 国产成人精品日本视频| 激情五月天丁香社区| 色欧美天天| 黄色一区三区| 深夜福利黄片| 夜夜操美女| 色欲久久综合| 大香蕉啪啪啪啪在线| 欧亚三区动漫| 家庭乱伦国产| 丝袜制服字幕在线| 97超碰色色| 欧美福利视频啊啊啊啊| 男人的天堂啪啪啪啪啪蜜桃不卡| 97视频在线免费| 操逼操逼逼操操逼91 | 77777亚洲蜜臀精品久久综合蜜臀| 国产精品丝袜久久亚洲不卡| 亚春色色| 老熟女乱子伦中文字幕一区二区| 快点操死我| 78m成人视线| 久久九九视频九九视频| 中国国产精品一区视频| GVH-003 母子姦 青木玲-麻豆视频,麻豆视传媒短视频网站入口,麻豆视传媒官网直 | 97亚洲中文| 一本一道久久综合久久| 97久久超碰日韩精品| 抽插亚洲无码| 婷婷午夜成人色中色| 操屄不卡视频| 免费国产视频| 澳门成人网站久国产日韩| 久久风骚城市人| 日韩精品一二三四| 96精品久久久久久久久久| 97精品国产97久久久久久户外免费| 青青草在线视频美女| 99热精品免费| 夜夜草天天| 91 丝袜在线| 五月丁香激情四射| 9久久9综合| 亚洲日韩人妻中文字幕一区| 欧美丝袜美女电影一二三四区| 丝袜美腿诱惑亚洲欧美视频在线观看| 亚洲AV无码AV吞精久久久久| 五十路熟女在线不卡观看一区二区| 天天干天天操天天干天天操| 亚洲日韩黑丝| 色香色香欲天天天影视综合网| 精品中文字幕一区二区| 亚洲高潮影院| av一区二区三区四区五区久草臀| 亚洲人妻av| 黄色操人| 国产aⅴ无码片毛片一级网站| 国产青视频| 国产 亚洲 丝袜 制服| 色色九区| 亚洲日产专区婷婷| 丁香五月天久久精品视频一区二区三区| 国产区性爱在线视频秋霞豆| 夜夜嗨视频| 97精品在线视频| 超碰在线1234区| 九九热九九| 97婷婷色| 男人的天堂不卡一区二区| 亚洲最大无码中文字幕网站| 亚洲97综| 国产精品原创巨作?v网站| 超碰99re| 亚洲吊色| 视频二区熟女人妻| 国产AV人人 夜夜人人澡| 91色久| 人人操人人狠狠操| 五月丁香综合| 婷婷成人五月天| 日韩精品人妻一| 东京热男人的天堂精品| 久久一级无码精品毛片6| 人人妻人人狠人人| 久久婷婷色| 日韩在线76| 成人天天看站长推荐| 亚洲色图国产另类| 91成人社区| 亚洲人妻熟妇三十三区| 夜夜骑日日| 男人的天堂网页| 男人的天堂午夜av| 久久激情视频| 精品人妻视频一区二区三区蜜桃视频| 北京美女一区二区| 97国产超碰| 亚洲人天堂| 色综合天天| 插入综合网| 中国的操老妇女| 综合另类| 3p国产色噜噜一区| 99热97| 婷婷九月丁香| 欧美日产国产在线成人第一区| 欧美性生活综合| 草久久久| 操操逼视频| 日本天堂网| 女同性恋中文字幕| 高清无码在线播放网站| 人妻天堂综合网| 欧洲精品一二三在线| 东北少妇高潮zzzz| 美女露胸露奶头| 欧美激情综合| 91人妻丝袜无码| 天天伊人| 日韩一级二级在线| 97超碰欧美手机在线| 黑丝自慰喷水网站| 极品色电影院| 亚洲Av无码成人精品国产| 精品女人999| 日韩精品 欧美激情| 久色网| 999精品女人| 五月婷色| 内射夫妻三片| 日韩人妻精品久久久久| 蜜臀久久99精品久久久久| 91蜜臀在线久久久久| 婷婷超| 在线黄色污污网站| 亚洲欧洲日韩国产自在线| 久久9精品网站| 大香蕉欧美伊| 久久久久久中文字幕中文字幕最新| 射 色综合| 91在线精品一区二区三区| 超碰天天操你比| 日本女人操逼| 性videos欧美熟妇hdx| 2019午夜福利视频| 开心五月婷婷激情| 日韩乱伦AⅤ| 亚州欧美在线| 老熟女91av| 国产精品久久久久久久黄无码| 99精品伊人| 91蜜桃婷婷狠狠久久综合9色| 亚洲女人毛茸茸91| 色色色欧美| www国产无码| 国产中文字幕在线观看| 免费操逼91| 日韩精品永久在线观看| 老女人91| 巨爆乳肉感一区二区三区竹菊影视 | 91人妻最真实刺激绿帽| 手机看片日韩人妻| 九色婷婷| 人妻在线大香蕉| 在线综合 亚洲 欧美中文字幕 | 一区 欧美 日韩 麻豆| 香蕉av一区二区三区| 九热久| 天天影视色香欲综合网小说| 鸥美极品| 天天综合网亚洲综合网| 欧美精品成人一区二区在线观看| 国模私拍一区二区三区神乳| 东京太热男人的天堂久久久| 麻豆AV一区二区天美传媒| 亚洲激情AV| 综合五月婷婷亚洲一区| 熟女这里只有精品6| 欧美青青视频| 俺去久久| 精品人妻一区二区免费蜜桃| 亚洲精品视频二区| 97色视频在线| 日韩三级av片| 亚洲AV成人无码一二三久久| 夜嗨影院| 久久国色天香香蕉| 无码精品人妻一区二区三区妖精| 色五月婷婷色| 亚洲成人综合在线| 欧美日韩大香蕉| 久久大黄片| 久草久日| 偷拍亚洲| 亚洲精品一二区| 黑人无码一区二区| 91狠婷| 婷婷精品国产一区二区三区日韩| 国产和美国毛片| 超碰97国产欧美| 操逼片国产| 99精品久久| 欧美 牲| 男人天堂最新手机版在线青青草| 亚洲自拍一区夜夜操| 婷婷激情五月| 欧美色自拍| 亚洲阿v天堂在线| 人妻人人操| 伊人操操| jk白丝没脱就开始啪啪| 黄页大片在线观看| 97在线欧| 亚洲精品日韩国产欧美| 人妻人人澡人人爽人人| 高清有码一区二区| 亚洲色图大香| 亚洲综合999| 狠狠干综合| 91痴汉| 免费A V在线播放| 884t在线| 中文字幕精品一区欧美| 老师充足的奶水小说| 99人妻| 日本护士高潮| 亚洲双插| 能看的AV| 国产精品对白自产拍| 欧美极度丰满熟妇hd| av橘色网站| 五月天婷婷色色| 友优传媒精品在线一区二区| 九九天堂| 亚洲av淫乱| 国产强奸乱伦无码视频| 二对二中文字幕。| 久久久国产亚洲精品系列| 超碰97在线中文| 色丁香五月婷婷| 日本一级真人黄色性爱视频| 色婷视频| 秋霞一集毛片观看| 久久9精品网站| 性色乱AV一区二区| 欧美性爱视频免费一区一A| 免费网色网站| 综合五月天| 三级AV入口| 九九九一二三| 大香蕉伊然在亚洲91| 久操大香蕉手机视频在线看| 亚洲啪啪视频免费| 九九九九九用不成了| 国产无套粉嫩白浆在| 无码不卡亚洲成?人片| 亚洲国产中文字幕| 涩爱AV在线| 天天插天天干| 久久精品中文字幕无码l| 七月婷婷综合| 精品久久久一本一道| 欧美老妇女内射网址| 中文字幕在线观看丝袜| 把腿张开老子CAO烂你| 欧美精品精品一区二区| 久久久96| 少妇熟女一区二区三区| 狠狠操狠狠燥| 九七毛片九九毛片| 亚洲性感丝袜诱惑在线观看| 日本伦理一区二区| 亚欧韩av| 粉嫩av在线一区二区| 中文字幕日韩人妻视频一区二区三区 | 色老汉色| 欧美72网页| 金典av| 97就爱干| 天天综合欧美综合| 中文字幕aⅴ在线视频| 黄色片,com| 曰本人妻人人澡人人夹| 中文字幕一区电影在线观看| 国产精品盗摄 偷窥盗摄| 一级片视频啪啪| 无码人妻精品一区二区中文| 国产精品福利资源在线尤物| 国产后入式在线观看| 性感女人网页在线观看视频| 久热伊人| 99热在线播放| 嫩呦国产一区二区三区AV| 视频在线观看免费一区二区三区| 久操精品网| 偷拍新久久| 女人午夜视频777| 中出后入| 操婷婷逼| 99re这里只有精品2| 女同性恋久久| 黑丝制服中文字幕 | 任我爽视频在线观看| 日本不卡一区二区三区| 日本激情免费大片| 97操综合| 中文字幕一区av| 丁香九月婷婷| 国产亚洲色婷婷99精品91| 18禁免费视频| 亚洲区限制级 99| 五月丁香综合啪啪| 欧美色图综合网| 97色欧州| 亚洲第一成人影院色播| 婷婷午夜清品久久久久久久性色视频观| 天堂岛av| 国产成人 综合亚洲 天堂| 色综合99999| 操碰91| 欧美1区二区三区公司| 亚洲影视高清第一页| 亚 欧 美 综合| 亚洲国产精品有声| 白嫩少妇| 亚州图片第一页| 久久久九97| 一类av片在线看| 91成人久久| 999日韩中文精品观看视频。| 日韩人妻一区二区| 丝袜色综合| 欧美成人亚洲精品| 六月丁香啪啪啪| 一区二区三区黄片免费观看| 大奶的诱惑| 超碰成人最新最好看| 亚洲色图超碰在线| julia ann久久| 少妇无码av专区线| 97超碰资源网| 香蕉热人人精品| 中文97国产| 草草影院日本第一页| 欧美久久婷婷| 开心五月激情网| 夜色97| 国产精品一区午夜福利| 操淫穴亚洲五月丁香 | 少妇高潮九九九九九九九| 欧姜老司机| 在线一道啪| 9997se| 91蜜桃婷婷狠狠久久综合9色| 中文字幕第23区| 无码日韩人妻av一| 四虎精品永久在线观看| 手机在线播放国产福利| 久久久青草青青国产亚洲免观精品高清完整版_97久久综合区小说区图片区,国精品 | 99rre在线精品99re8| 国产在线不卡导航| 亚洲丝袜二区| 激情av| 成人av动漫在线观看| 另类欧美综合| 97综合激情| 亚洲一区二区中文字幕| 日韩成人人妻网站| 亚洲s色图| 神马九九九| 999九九九九国产动| 日韩综合97P| 97干com| 97久久超碰国产网站| 午夜天天碰综合视频| 天天欧美色| 亚洲。日韩。欧美| 九九热超碰| 99久久久无码| 91网18| 夜夜夜夜爽| 色欲天香天天综合网-成年人三级片网站-欧美乱妇狂野-日韩国产专区-久久久久久 | 欧美日韩中文亚洲v在线综合| 欧美精品1区2区3区| 91蜜臀熟女| 97超碰欧美手机| 一起草精品人妻| 国产精品久久久九九九| 少妇久久久久久| 久久久久免费看少妇A片特黄| 青娱乐亚洲热| 天天综合网1| 99AV| 涩涩涩综合| 丁香激情五月天| 蜜臀th| 97天天日| 久久久久九九九| 午夜精品视频777| 丝袜视频一区二区在线播放国产中文 | 欧美人妻中出| 9久综合网| 成人日本精品九区| 78m啪啪啪| 大茄子熟女AV导航| 老司机射| 91国精产品| 五月丁香黄色网| 色综合色欲色综合色综合色综合| 密桃99999| 久久国产精品视频| 亚洲无线观看久久| 少妇高潮对白在线观看| 亚洲限制级| 久久婷婷电影网| 九九热AV| 另类图片五月天| 91色人| 亚洲精品乱码久久久久久蜜桃麻豆 | 嗯啊啊啊轻点视频 | 久久中文色图| 爆操无码| 国产精品老熟女一区二区| 97超碰国产亚洲精品资源| 精品国产乱子伦一区二区三区,精品一| 欧美在线干| 成人一道本免费视频| 黑人与人妻| 男人的天堂2010| 九九精品无码专区免费| 亚洲色图 综合| 亚洲不卡AV在线| 99色网| 校园春色之综合网| 国产AV久久野战精品| 久久超碰日韩精品| 精品9区| 男生女生啊啊啊啊| 男人夜色天堂ss| 日本二三四区| 俺去久久| 麻豆 亚洲 97| 欧美黄色片在线播放| 97综合在线观看| 啊啊啊久久| 97公开久久| 六月丁香婷| 午夜精品久久久久久久男人的天堂| 好看的91视频| 啊啊啊操死我| 九月婷婷综合| 欧美精品 - 91爱爱| 91综合熟女| 激情五月丁香五月| 97在线观看免费| 成年人网站在线免费观看| 久/久精品99看9| 蜜桃网熟妇| 永久免费发布性爱网| 密臀在线免费观看| 囯产精品久久久久久久久久梁医生 | 欧美色涩| 久久后入制服| 夜夜夜爽www精品视频| 欧美东京热青青草| 亚洲中文字幕久久人妻| 国产免费一区在线观看| 淫骚熟女一区二区三区| 我爱操| 国产精品又黄又猛又粗| 亚洲精品美女久久久久久久久| 在线女人91| 久久精品区| 岛国免费黄色网址| 久久人妻视频| 尤物视频网 刘玥| 日韩欧美亚洲自拍偷拍| 一区二区三区激情在线观看| 亚洲熟妇极品| 欧美在线干| 国产乱伦性爱区| 国产不卡精品91| 亚洲综合另类小说色区亚洲成av人片在www| 大香蕉99999| 在线观看av区| 天天日美女的B| 91精品国产日韩欧美综合| 日日干夜夜操视频h| 91综合网在线| 久久9精品视频| 中文字幕日韩精品久久| 老熟女区| 乱伦av.com| 国产精品69久久久久久久| 伊人色综合网电影| 国产精品扒开腿做爽爽爽视频| 99久久久久| 日本成人在线不卡一区二区三区 | 亚洲欧美清纯| 亚洲色图久久成人| 日语五十路和六十路亚洲国产精品| 婷婷国产精品九区| 93人人操人人| 试看60秒| 九九毛片这里只有精品| 国产精品人妻熟女aⅴ| 91无摭挡| 啊啊啊啊啊在线观看网址 | 欧洲精品一区二区三区| 日韩精品黄片免费观看| 78精品在线| 夜色97| 97日本超碰综合| 亚洲免费成人精品电影| 欧美黑人极品高潮喷吹熟女黑人性暴力日韩在线欧美极品一区二区老师黑人潮喷一 | 很黄很色的视频在线观看| 午夜福利一区二区三区四区五区色婷婷| 色丁香五月婷婷| 久久欲| 欧美综合第一页| 性欧美91| www. 男人天堂成人在线| 天天日天天插| 人妻精品视频一区二区| 成年人黄色视频免费| 亚洲自拍欧美色综合| 性色中出| 亚州操操穴网| 色婷婷六月| 人妻人人操| 国产92麻豆天美精品色欲5| 国产精品干干干| 13小男生GAY自慰脱裤子| 久久久久白虎| 久久国产乱子伦精品免费女,网站| 美女91色黄18| 九九精品美女高溯喷水| 97香焦色区| 嗯嗯啊啊操死我| 日韩专区数据列表-第3230页-精品国产一区二区三区香蕉 久久99熟女人妻中文字 | 国产无码精品无码| 操我无码| 亚洲精品国语在线播放| 国产精品又黄又猛又粗| 亚洲国产97| 中文字幕一二三| 亚洲图片欧美偷拍| 日本熟妇人妻一区二区三区| 欧美性第1页| 亚洲人精品久久久| 精品久久久中文字幕不| 麻豆国产原创AV色哟哟| 久久有碼| 久久人爽| 在线中文字幕视频| www熟女乱伦com| 国产极品精品美女视频| 天天谢天天干| 91精品国产高清久久久久久,亚洲成人| 色色色999| 亚洲精品一区二区三区新线路| 富二代亚洲精品99| 亚洲超碰综合网| 大香蕉狠狠爱| 日本丝袜人妻内射| 色色热| 后入式在线免费观看60秒| 超碰色美女| 好爽要喷了| 亚洲熟女乱色一区二区三区| 激情小说成人日本无码一| 亚洲一区二区性爱电影| 97超碰jingpin| 欧美少妇性乱| 97久久精品| 手机看片1025| 婷婷色香| 国产精品久久久久久久久久久久久久吹 | 99在线无码精品秘 入口黑人| 久久理论字幕视频| 日本一卡二区在线| 免费?级毛片无码?∨蜜芽试看| 久久99综合| 成人热久久精品| 天美精品原创av片国产| 最新日韩黄片| 亚洲 欧美 综合 91| 影音先锋每日最新资源在线观看 | 久久久久13| 亚洲激情在线| 日韩AV熟女乱伦| 青青操视频在线| 日韩在线一区二区| 新视频sss国产| 欧美一区二区福利在线| 内射黑人| 91影库| 精品二区三四区五电影 | 日韩欧洲操屄视频| 欧美日韩婷婷中文| 久久久亚洲高清不打码| 男人网站婷婷| 国产精品无码论坛| 97人人爱人人乐| 日本狠狠干| 97干在线| 亚洲性综合| 五月丁香综合网| 美女黄网| 中文字幕精品三级久久久| 欧美疯狂做爰xxxx| 97在线免费视频| 性色一线| 免费超碰97在线观看| 黄网站黄视频网站进入口| 国产精品美女久久久久AⅤ国产馆| 啊嗯嗯啊好大好爽| 日韩性爱网址| 免费一级性爱久久| 久久久久久久9| 久久夜嗨| 欧亚乱色熟女一区二区| 天天综合青苹果| 操东北女人| 婷婷五月天成人| 国产强奸乱伦xd| 啊啊啊啊无码| 97精品在线| 久都青青视频 | 蜜臀久久在线视频| 大香蕉啪啪啪| 国产AV久久久蜜爱影集| 台湾一区国产高清在线| 午夜在线播放| 欧美日韩97在线| 色综合超碰超| 做爱福利视频一区二区| 超碰97资源中文字幕| 丁香婷婷久久 | 亚洲人妻爽爽爽| 久久禁| 国产99999久久精品| 丝袜综合| 久久国模av| 超碰精品| 夜夜高潮夜夜爽| 一类av片在线看| 51国产午夜精品视频| 日本影视久久免费| 亚洲欧美天堂| 欧美一级黄色免费专区| 久久久新亚洲AV| 欧美真人抽搐一进一出gif| 26uuu最新| av天堂精品久久| 做爱A级亚欧| 最新中文字幕精品在线| 国产精品极品美女视频| 精品久久久久av影院| 天天色播亚洲综合网站| 亚洲四虎熟女精品| 一二三四免费视频| 人妻天天爽夜夜爽精品2| 久久熟女人| 日韩欧美偷拍美女视频| 秋霞福利网| 色偷偷超碰亚洲| 色www精品视频在线观看| 久久成人午夜狠狠| 99久在线精品99re8蜜桃| 中文字幕在线观| 91精品导航| 爽极品影院| 日本3级一区二区免费| 久久综合99| 久久久91福利姬| 羞涩视频| 一区操逼日比视频| 91大胆欧美| 最新9久久久9免费视频| 欧美色图欧美| 免费观看的黄色的网站| 中文字暮97| Julia Annxxxxx| 四虎午夜影院| 91粉嫩萝控精品福利网站_精品影音先锋国 | 一本大道不卡一二三区| 无码一区二区三区四区五区六区七区八区九区十区视频 | 久久这里只精品99re66图| 亚洲精品欧美专业| 日本精品999| 青娱乐国产盛宴视频| 97视频在线观看播放与子乱对白在线……| 欧美图片色五月天| www.yeyecao| 欧美日韩理论一区| 亚洲欧洲日本精品中文a∨| 粉嫩国产精品久久粉嫩| 懂色av中文字幕一区二区三区天美| 成人一道本免费视频| 欧美超碰96| 偷拍亚洲| 精品人人| 日韩一区二区精彩视频| 97硬碰| 变态乱伦伪娘灌肠一区二区| 久久久久国产亚洲一区欧美色图日韩| 91色射| 亚洲AV无码| 韩国三级一线观看久| 久草资源在线视频官方总站日韩丝袜美腿| 青青草国产欧美非洲黑人| 日韩欧美麻豆大片| 激情天天视频| 久久99精品九九久久久婷婷| 亚洲高清国产理伦片| 91在线国产后入风骚翘臀美女素人| 熟女突然公开看18禁影片| 美女啪欧美一区| 香蕉婷婷| 91啪啪| 神马久久久久久久久久| 国产曰批免费观看久久久| 国产欧美黑人丰满在线| 综合操逼| 国产综合久久久麻桃个| 欧美在线伊人色| 成人一级性爱| 激情久久日韩精品中文字幕麻豆| 日欧亚洲二三区大片不卡| 亚春色色| 亚州精品丝袜-不卡成人免费| 综合自拍| 性爱网站一区二区| 深夜激情| 97伪v| 久久综合精品一区二区三区| 久久五月婷| 久久首页| 97超碰精品图片| 夜夜国自区| 秋霞鲁丝午夜无码一区二区三| 91超级碰碰| 成人三一级一片aaa| 精品人妻一二三| 欧美姓爱综合网| 天天综合网~91综合网| 亚洲综合图色在线| 亚洲码和欧洲精品激情系列| 欧美午夜精品久久久久久超碰| 少妇一区二区三区高速| 免费a v| 久久黄片国产一区二区| 东北毛片| 丝袜足交视频| 亚欧操逼片在线观看| 欧美专利1区2区3区4区5区免费| 色噜噜人妻av 中文字幕| 久久欧美性爱视频| AV综合中文字幕干| 久久婷五月天| 大香蕉十区| 精品久久久中文字幕不| 亚洲……91| 九九久久99| 欧美极品少妇| 91欧美网| 五月天AV资源| 精品高潮| 精品人妻中文字幕4399| 强奸a片网| 伊人五月天| 中文字幕加勒比海高清无码免费视频|