日韩精品一区二区三区在线视频放-无码中文字幕V?一区二区-成年片免费观看视频-国内少妇人妻丰满av-国产精品中文字幕免费观看-亚洲成人久久一区二区三区-国内少妇偷人精品视频无缓冲-一区二区国产精品日本一区二区三区在线网

ARTICLE DETAIL

資訊詳情

深耕商務建站與企業(yè)官網運營的一線實戰(zhàn)洞察。

從Dockerfile到Compose與私有倉庫:容器交付鏈路避坑指南

從Dockerfile到Compose與私有倉庫:容器交付鏈路避坑指南 Dockerfile 自定義鏡像、Docker Compose 編排、Docker 鏡像倉庫這三件事幾乎是每個后端或運維同學繞不開的一組基礎能力。單看每一個都不難難的是把它們串成一條順滑的交付鏈路代碼改了鏡像能穩(wěn)定重建本地跑通換臺機器也能一鍵起來鏡像推到倉庫別人拉下來不會因為標簽亂飛而拉錯版本。我見過太多項目卡在中間某一環(huán)——Dockerfile 寫得像流水賬、Compose 文件復制粘貼改了三個月沒人敢動、私有倉庫起了一個卻因為證書問題全組改用別的方式傳鏡像。這篇就把這三塊按我實際踩過的順序拆開講從分層緩存的底層邏輯到 Compose 的健康檢查寫法再到私有倉庫的 TLS 配置和存儲回收每個環(huán)節(jié)都給出能直接抄的參數(shù)和命令也會說明我為什么這么選。剛接觸容器的新手可以照著做一遍已經在用但總覺得別扭的老手大概率能在避坑那幾節(jié)找到共鳴。1. 先把三個東西的邊界理清楚很多人上手就把這三樣東西混在一起學結果腦子里是一鍋粥。我用一句話概括它們的分工Dockerfile 負責造Compose 負責組倉庫負責存和分發(fā)。造出來的東西要能被組起來組起來的東西要能被別人拿到這三步是一條線上的三個節(jié)點任何一環(huán)偷懶后面都會加倍還回來。1.1 一條鏡像從代碼到運行的完整鏈路我把一次完整的交付拆成六步你對照自己的項目看看斷在哪一步。第一步開發(fā)者本地寫代碼改完提交第二步CI 或者本機執(zhí)行docker buildDockerfile 逐條指令生成一層層文件系統(tǒng)快照最終產出一個帶標簽的鏡像第三步docker push把鏡像分層推到倉庫注意只有本地不存在的層才會真正上傳這也是為什么第二次推送往往快得多第四步目標機器docker pull按 manifest 里的 digest 把各層拉下來組裝第五步Compose 讀取 yaml創(chuàng)建網絡、掛載卷、按依賴順序起容器第六步健康檢查通過流量切進來。這條鏈路上有三個時間點特別關鍵構建時的緩存命中率、拉取時的層復用率、啟動時的就緒判斷。緩存命中率高構建就從幾分鐘降到幾十秒層復用率高一次發(fā)布只傳改動的那幾十兆就緒判斷做對了滾動更新才不會出現(xiàn)新容器還沒連上數(shù)據(jù)庫老容器已經被干掉的尷尬。后面所有優(yōu)化本質上都是在摳這三個點。我見過一個典型的反面案例某團隊把COPY . .放在 Dockerfile 第二行緊接著才RUN npm install。結果每次改一行 README整個依賴安裝層全部失效構建時間穩(wěn)定在四分鐘以上。把這兩行的順序調過來配合.dockerignore構建時間直接掉到二十幾秒。改動量不到五行收益卻是幾十倍這就是理解鏈路順序的價值。1.2 為什么我勸你徹底放棄 docker commit新手最容易走的捷徑是起一個基礎容器進去apt install、改配置、裝依賴折騰滿意了docker commit一下鏡像就有了。第一次這么干會覺得特別爽但它埋的雷比省的時間多得多。最直接的問題是不可復現(xiàn)。三個月后你需要在這個鏡像上加一個包誰也不知道當初在容器里手敲過哪些命令是改了/etc/apt/sources.list還是臨時下過一個二進制。第二個問題是體積失控commit 會把容器運行期間產生的所有臨時文件、日志、緩存全部固化進去一個本該 200MB 的鏡像能做到 1.5GB。第三個問題是沒有分層每次 commit 都是一整層新的推一次倉庫傳幾百兆團隊網速直接被拖垮。Dockerfile 的價值不在于能構建鏡像而在于它是一份可審查、可版本控制、可被他人復現(xiàn)的構建說明書。誰改了什么、為什么加這個環(huán)境變量git blame一目了然。所以我的態(tài)度很明確除了臨時排查問題任何時候都不要用 commit 產出要交付的鏡像。真要臨時進容器調試用docker exec -it進去看完就退別把改動當成成果。1.3 Compose 的適用邊界什么時候該上什么時候別硬上Compose 解決的問題是一臺機器上多個容器的協(xié)作關系。典型場景是應用 數(shù)據(jù)庫 緩存 反向代理四五個服務本地開發(fā)、測試環(huán)境、小規(guī)模單機部署都用得上。它的好處是把docker run那一長串參數(shù)固化進文件端口、卷、環(huán)境變量、網絡別名全部聲明式表達新人克隆倉庫就能跑起來不用問你那個數(shù)據(jù)庫密碼是多少。但它有明確的邊界。第一只管單機。多節(jié)點調度、跨主機網絡、自動擴縮容這些不是它的職責硬要往上疊就得引入額外的編排系統(tǒng)。第二沒有內置的滾動更新和回滾docker compose up -d是停舊起新中間有短暫中斷對可用性要求高的服務得接受這點。第三配置漂移難發(fā)現(xiàn)如果有人docker exec進去手改了配置重啟就沒了這既是缺點也是優(yōu)點。我的判斷標準是單機、服務數(shù)量在十個以內、不需要跨節(jié)點容災Compose 完全夠用別為了顯得專業(yè)提前上重編排運維成本會反過來咬你。等真的出現(xiàn)多機需求了再遷移那時候你對服務間的依賴關系已經摸得很清楚遷移反而快。1.4 鏡像倉庫不只是存鏡像的地方很多人對倉庫的理解停留在能 push 能 pull 就行于是起個最簡陋的服務放內網。用著用著就出問題誰都能推 latest某天線上拉到的 latest 和昨天的不一樣磁盤漲到 100% 才發(fā)現(xiàn)沒人清理出了安全問題想查某個鏡像里到底裝了什么版本的基礎鏡像是哪天的無從下手。一個真正可用的倉庫至少要提供四件事訪問控制誰能推、誰能拉、按項目隔離、標簽規(guī)范配合 CI 強制約束不允許裸推 latest、存儲治理保留策略 垃圾回收、可追溯鏡像 digest、推送人、推送時間。前兩項靠流程和倉庫自身能力后兩項靠定時任務。這幾件事在單機 registry 上要自己搭在企業(yè)級方案里通常是現(xiàn)成的。選型的時候別只看能不能跑起來要看半年后誰來維護它。2. Dockerfile把鏡像當代碼寫寫 Dockerfile 的正確心態(tài)是寫代碼——它會被 review、會被 diff、會在半年后被修改。所以可讀性、層數(shù)控制、緩存友好度都得在寫的時候就考慮進去而不是等構建慢到受不了再回頭重構。2.1 分層緩存是理解一切優(yōu)化行為的鑰匙Docker 構建鏡像時每條指令生成一層每層帶一個基于父層 ID 指令內容算出來的哈希。構建時逐層比對一旦某層的哈希在本地緩存里存在就直接復用不再執(zhí)行。注意這里的關鍵哈希只跟指令文本和父層有關跟指令執(zhí)行的結果無關。這意味著只要指令字符串變了哪怕只是多一個空格這層和它之后的所有層全部失效。由此推導出的三條鐵律變化頻率低的指令放前面變化頻率高的放后面把安裝依賴和拷貝源碼徹底分開能用一條RUN干完的事別拆成三條。第三條的原理是每條RUN都是一層層數(shù)多了鏡像的元數(shù)據(jù)開銷變大而且中間產物沒法在同一條指令內清理。舉個最常見的 Node 項目寫法我會這樣排FROM node:20-alpine AS base WORKDIR /app # 只拷貝依賴清單源碼變化不影響這一層緩存 COPY package.json package-lock.json ./ RUN npm ci --omitdev npm cache clean --force # 源碼放在最后 COPY . . CMD [node, server.js]npm ci比npm install更適合構建場景它嚴格按 lock 文件安裝結果確定而且會先清空 node_modules避免上次殘留污染。--omitdev跳過開發(fā)依賴npm cache clean --force在同一層里清掉緩存兩者加起來通常能省一百多兆。對比一下 Java 項目邏輯完全一樣只是清單文件換成pom.xmlFROM maven:3.9-eclipse-temurin-17 AS builder WORKDIR /build COPY pom.xml . RUN mvn -B dependency:go-offline COPY src ./src RUN mvn -B clean package -DskipTestsdependency:go-offline這一句是精髓它把依賴提前拉到本地倉庫形成一個獨立緩存層。實測下來沒加這句時改一行 Java 代碼要重下全部依賴加了之后增量構建基本在十秒級。注意COPY . .之前一定要有.dockerignore否則node_modules、.git、target這些目錄會被打進構建上下文光是傳輸上下文就能耗掉幾十秒而且可能覆蓋掉容器內剛裝好的依賴。2.2 指令選擇的細節(jié)賬COPY和ADD的區(qū)別被講爛了但真正要緊的部分是ADD會偷偷解壓本地 tar 包、會去拉遠程 URL這兩個貼心功能會讓構建行為變得不可預測。遠程 URL 的下載不進緩存校驗內容變了也不會觸發(fā)重建。所以除非你確實需要解壓一個本地壓縮包否則一律用COPY。RUN的寫法有個流傳很久但其實是錯誤的做法把apt-get update和apt-get install分成兩條RUN。分開寫的話update 那層會被緩存很久等你半年后新增一個包時install 用的是半年前的索引輕則裝到舊版本重則 404 直接失敗。正確寫法是合并成一條并在末尾清理RUN apt-get update \ apt-get install -y --no-install-recommends curl tzdata \ rm -rf /var/lib/apt/lists/*--no-install-recommends能擋掉一大批推薦包rm -rf必須在同一條指令里執(zhí)行否則刪除動作在下一層上一層的大小照樣算進鏡像。ENV和ARG常被混用。ARG只在構建期有效構建完就消失適合傳版本號、鏡像源地址這類構建參數(shù)ENV會寫進鏡像的配置里容器運行時也能讀到適合傳時區(qū)、語言編碼、運行模式。這里有個安全提醒不要把密鑰、令牌通過ARG或ENV傳進去它們會留在鏡像歷史里docker history一條命令就能看見。CMD和ENTRYPOINT的 shell 形式與 exec 形式的差異是信號處理問題的根源。寫成CMD node server.jsshell 形式實際啟動的是/bin/sh -c node server.js你的應用是 sh 的子進程PID 1 是 sh。sh 不會轉發(fā) SIGTERMdocker stop發(fā)信號后應用收不到只能等十秒超時被 SIGKILL 強殺優(yōu)雅關閉邏輯全部失效。寫成CMD [node, server.js]exec 形式node 直接是 PID 1信號正常。EXPOSE只是文檔聲明不實際開放端口真正映射靠-p或 Compose 的ports。但它是很好的自描述信息建議寫上。HEALTHCHECK后面在 Compose 那節(jié)細說它在鏡像里定義一次所有用這個鏡像的地方都繼承。2.3 多階段構建一個 Java 服務的體積從 800MB 到 180MB多階段構建是 Dockerfile 里收益最大的一招。核心思想編譯環(huán)境臃腫但只在構建期需要運行環(huán)境要精簡。用多個FROM階段最后一個階段只COPY --from前一個階段的產物。以 Spring Boot 為例不用多階段時通常是把 jar 拷進一個帶 JDK 的鏡像動輒七八百兆。改成下面這樣FROM maven:3.9-eclipse-temurin-17 AS builder WORKDIR /build COPY pom.xml . RUN mvn -B dependency:go-offline COPY src ./src RUN mvn -B clean package -DskipTests FROM eclipse-temurin:17-jre-alpine WORKDIR /app RUN addgroup -S app adduser -S -G app app COPY --frombuilder /build/target/*.jar app.jar USER app EXPOSE 8080 ENTRYPOINT [java, -XX:MaxRAMPercentage75, -jar, app.jar]最終鏡像只有 JRE 加一個 jar實測一般在一百八到兩百二十兆之間取決于依賴多少。里面有幾點值得說MaxRAMPercentage75讓 JVM 按容器內存限制的百分比估算堆大小比寫死-Xmx更適應不同規(guī)格的部署adduser創(chuàng)建非 root 用戶USER切過去后面第 2.5 節(jié)細講COPY --frombuilder只搬 jarMaven 的本地倉庫、源碼、編譯中間件一概不帶。前端項目同理構建階段用 node 打包出靜態(tài)文件運行階段換成反向代理鏡像只把dist目錄拷過去鏡像能從 1GB 降到 50MB 左右。這種編譯環(huán)境和運行環(huán)境徹底分離的思路適用面比想象中廣任何需要編譯產物的語言都能用。2.4 基礎鏡像選型對照表與 musl 的坑基礎鏡像選錯后面要么體積下不來要么跑起來就崩。我按常見選項列個對照基礎鏡像類型體積量級優(yōu)點需要注意的地方alpine5–10MB極小攻擊面小用 musl libc某些預編譯二進制跑不了裝包用 apk命令和 apt 不同debian-slim25–40MB兼容性好glibc 完整比 alpine 大一圈包管理器是 apt完整發(fā)行版70–120MB工具齊全調試方便體積大無用包多distroless類20–60MB無 shell、無包管理器安全性高沒法進容器排查日志全靠應用輸出scratch0絕對最小完全空只適合靜態(tài)編譯的二進制Alpine 的坑值得單獨說因為我踩過。它的 C 運行庫是 musl不是廣泛使用的 glibc。純 Go 靜態(tài)編譯的程序、Python 的解釋器都沒問題但某些依賴 glibc 特性的預編譯二進制比如一些原生擴展、某些數(shù)據(jù)庫客戶端放進去會報not found或者奇怪的符號錯誤排查起來非常費勁因為報錯信息完全不指向根因。我的經驗是不確定就先上 debian-slim等確認沒問題再往 alpine 遷。為了省那二十兆搭進去半天排查時間不劃算。distroless適合安全要求高的生產環(huán)境但沒有 shell 意味著出問題時你沒法exec進去看進程、看文件只能靠完善的日志和監(jiān)控。團隊排查能力沒到那個水平之前別用。2.5 安全性收尾非 root、只讀、健康檢查鏡像默認以 root 運行容器內進程這在單機開發(fā)環(huán)境問題不大但在多租戶或者對外服務的場景里是明顯風險點。加一個普通用戶的成本極低RUN useradd -u 1000 -m -s /bin/bash appuser \ chown -R appuser:appuser /app USER appuser注意chown要在USER之前完成順序反了會因為沒有權限而失敗。另外創(chuàng)建用戶這一步盡量和后續(xù)的chown合并在同一條指令里避免多一層。時區(qū)是另一個高頻問題。容器默認 UTC日志時間比東八區(qū)差八小時排查問題時對時間戳能對到懷疑人生。做法是裝tzdata并設置環(huán)境變量ENV TZAsia/Shanghai LANGC.UTF-8 RUN ln -snf /usr/share/zoneinfo/$TZ /etc/localtime echo $TZ /etc/timezoneLANG也別漏某些應用在非 UTF-8 環(huán)境下處理中文會出亂碼尤其是日志輸出和文件讀寫。HEALTHCHECK健康檢查在鏡像里定義一次即可HEALTHCHECK --interval30s --timeout3s --start-period40s --retries3 \ CMD curl -fsS http://localhost:8080/actuator/health || exit 1start-period很關鍵它告訴 Docker 在這段時間內的失敗不算數(shù)給應用留足啟動時間。沒有這個參數(shù)啟動慢的 Java 服務會被反復判定為不健康。注意檢查命令用的工具必須在鏡像里存在alpine 下curl默認沒裝要么裝要么換成wget。2.6 .dockerignore 與構建上下文.dockerignore是被嚴重低估的文件。它的作用和.gitignore類似但影響的是發(fā)送給 Docker 守護進程的構建上下文。這個上下文在構建開始時會被整個打包傳輸一個帶node_modules的前端項目上下文輕松幾百兆每次構建光傳輸就要幾十秒。我常用的模板.git .gitignore node_modules target build dist *.log logs .env.local .idea .vscode README.md docker-compose*.yml兩個細節(jié)一是不要忽略package-lock.json或pom.xml那是構建必需的二是如果一個文件既在.dockerignore里又被COPY引用構建會直接失敗報file not found很多人排查半天以為是路徑寫錯了其實是忽略了。3. Docker Compose把一組容器當一臺機器用Compose 文件寫得好不好看一個標準就夠了新人克隆倉庫docker compose up -d一條命令所有服務起來并進入可用狀態(tài)不需要看任何文檔。達不到這個標準說明還有環(huán)境變量、依賴順序或者初始化數(shù)據(jù)沒聲明清楚。3.1 compose.yaml 的結構骨架新版 Compose 已經不需要頂層version字段寫了反而會收到一條廢棄警告?;竟羌苁沁@樣的services: api: build: context: . dockerfile: Dockerfile image: registry.internal.example.com/team/api:1.4.2 ports: - 8080:8080 environment: TZ: Asia/Shanghai SPRING_PROFILES_ACTIVE: docker env_file: - .env.docker volumes: - app-logs:/app/logs networks: - backend depends_on: db: condition: service_healthy restart: unless-stopped healthcheck: test: [CMD, curl, -fsS, http://localhost:8080/actuator/health] interval: 30s timeout: 3s retries: 3 start_period: 40s db: image: postgres:16-alpine environment: POSTGRES_PASSWORD: ${DB_PASSWORD} volumes: - db-data:/var/lib/postgresql/data networks: - backend healthcheck: test: [CMD-SHELL, pg_isready -U postgres] interval: 10s timeout: 5s retries: 5 volumes: app-logs: db-data: networks: backend: driver: bridge幾個點展開說。build和image同時存在時docker compose build會按 Dockerfile 構建并打上image指定的標簽docker compose pull則直接拉這個標簽。這個組合在開發(fā)和生產之間切換很方便本地改代碼就 build服務器上直接 pull。environment和env_file可以并存前者優(yōu)先級更高。密碼這類敏感信息放env_file里并把該文件加入.gitignore操作用${DB_PASSWORD}變量引用Compose 會自動從同目錄的.env里讀。restart: unless-stopped是我最常用的策略。always的問題是手動停了也會被拉起來調試時很煩on-failure遇到正常退出就不重啟有些場景不合適。unless-stopped兼顧兩者崩潰自動拉起手動停止后保持停止。3.2 depends_on 與 healthcheck 的正確組合這是 Compose 里被誤解最深的一處。很多人以為depends_on: [db]就代表等 db 啟動好了再起 api實際上它只保證容器啟動順序db 容器一創(chuàng)建api 容器立刻開始啟動此時數(shù)據(jù)庫進程可能還在初始化、端口根本沒監(jiān)聽。結果 api 連接失敗重試幾次后放棄日志里一堆連接拒絕。正確做法是配合健康檢查depends_on: db: condition: service_healthy配合 db 服務上的healthcheck定義Compose 會等到健康檢查通過才啟動依賴方。pg_isready這類專用探針比curl更準確因為它檢查的是數(shù)據(jù)庫真實可接受連接的狀態(tài)不只是端口開著。健康檢查的參數(shù)需要根據(jù)服務特性調。數(shù)據(jù)庫這種啟動快但初始化慢的interval: 10s、retries: 5大概夠Java 應用啟動慢start_period: 40s甚至更長。start_period內的失敗不計數(shù)這是給慢啟動服務的保護期設短了會誤判。還有一個常見誤解健康檢查通過只代表進程能響應探針不代表業(yè)務邏輯完全就緒。比如應用可能探針通了但緩存還沒預熱完。這種場景下更靠譜的做法是在應用里實現(xiàn)真正的就緒檢查接口把關鍵依賴數(shù)據(jù)庫連接池、配置加載、緩存連接都納入判斷探針打這個接口。健康檢查的質量直接決定編排的可靠性。3.3 網絡、卷與環(huán)境變量的三層隔離Compose 默認會創(chuàng)建一個以項目名命名的網絡所有服務自動加入服務之間可以直接用服務名當主機名互訪。這個默認行為很方便但也容易造成全都通的混亂。我的習慣是顯式定義網絡并分組networks: frontend: backend: internal: true把數(shù)據(jù)庫和緩存放backend應用同時加入兩個網絡反向代理只加入frontend。internal: true讓這個網絡無法訪問外網數(shù)據(jù)庫完全沒有對外出口安全性上一個臺階。卷分兩類命名卷和綁定掛載。命名卷由 Docker 管理存在/var/lib/docker/volumes/下適合數(shù)據(jù)庫數(shù)據(jù)、應用日志這類需要持久化但不方便直接編輯的內容。綁定掛載直接把宿主機目錄映射進去適合開發(fā)時掛載源碼實現(xiàn)熱更新volumes: - ./src:/app/src - ./config:/app/config:ro:ro只讀掛載配置目錄防止容器內誤改宿主機文件。這個細節(jié)在多人共用一臺開發(fā)機時尤其重要。環(huán)境變量我按三層管理鏡像內置默認值ENV寫在不敏感的配置上、Compose 聲明的環(huán)境變量區(qū)分不同環(huán)境的差異項、運行時注入密碼密鑰通過外部文件或編排平臺注入絕不進倉庫。三層各司其職不會出現(xiàn)改個數(shù)據(jù)庫地址要重新構建鏡像這種事。3.4 多環(huán)境覆蓋override 文件與 profilesCompose 支持文件合并compose.yaml加上compose.override.yaml會自動疊加后者優(yōu)先級更高。這個機制天然適合做環(huán)境差異化基礎文件寫通用配置override 寫本機特定的端口、卷、調試參數(shù)。# compose.override.yaml本地開發(fā)用加入 .gitignore services: api: volumes: - ./src:/app/src environment: LOG_LEVEL: debug ports: - 8080:8080 - 5005:5005 # 遠程調試端口服務器上不放這個文件就是生產配置本地開發(fā)放進去自動獲得熱更新和調試端口。也可以顯式指定多個文件docker compose -f compose.yaml -f compose.prod.yaml up -d后者覆蓋前者。profiles解決的是可選服務的問題。比如監(jiān)控組件、數(shù)據(jù)庫管理工具這些平時不需要的服務services: adminer: image: adminer:latest profiles: [tools] ports: - 8081:8080不帶--profile tools啟動時這個服務完全不會被創(chuàng)建不會浪費資源。需要時docker compose --profile tools up -d臨時拉起來。比起注釋掉再取消注釋這種方式干凈太多也不會因為忘記改回來而出事。3.5 我常用的命令清單與排查路徑命令不在多在于用對時機。下面這幾個是我每天都會碰的命令用途使用時機docker compose config展開并校驗最終配置改完 yaml 先跑一遍變量沒解析、語法錯都能立刻發(fā)現(xiàn)docker compose up -d --build重建鏡像并后臺啟動改了代碼或 Dockerfile 后docker compose ps查看服務狀態(tài)和健康情況起完之后確認是否全部 healthydocker compose logs -f --tail100 api跟蹤某個服務日志排查啟動失敗docker compose exec api sh進入運行中的容器需要看文件、驗證網絡連通性docker compose down -v停止并刪除容器與卷需要徹底清空環(huán)境重來docker compose up -d --force-recreate強制重建容器配置改了但沒生效時docker compose config這個命令被嚴重低估。它把變量替換后的最終配置整個打印出來很多時候配置明明改了為什么不生效跑一下就能看到真相——可能是變量名拼錯、可能是 override 文件覆蓋了、可能是.env文件位置不對。排查起不來的服務我的固定順序是先docker compose ps看狀態(tài)是 Exit 還是 Restarting再docker compose logs --tail200 服務名看報錯然后docker compose config確認配置沒被覆蓋最后才考慮進容器。絕大多數(shù)問題在前兩步就能定位直接鉆容器里翻往往是浪費時間。4. 私有鏡像倉庫從單機 registry 到團隊級方案鏡像倉庫這塊很多團隊吃過起步太簡陋、后來遷移成本高的虧。我的建議是先想清楚使用規(guī)模和治理需求再決定投入多少。4.1 先想清楚倉庫要解決什么問題三類需求對應三種方案。個人或小團隊內網共享幾十個鏡像兩三個人推拉一個單機 registry 就夠了十分鐘能跑起來維護成本幾乎為零。團隊級使用需要按項目隔離權限、需要知道誰推了什么、需要定期清理這時候得上帶管理界面的方案配置項多但也省心。有合規(guī)或審計要求需要鏡像簽名、漏洞掃描、拉取審計日志那就得選企業(yè)級套件前期投入大但后面省事。選型時我最看重的是存儲后端是否可替換。早期的倉庫把數(shù)據(jù)存在本地磁盤用著用著磁盤滿了擴容就得停機遷移。支持對象存儲的倉庫擴容只是改個配置。這一點在起步時容易被忽略等數(shù)據(jù)漲到幾百 GB 才發(fā)現(xiàn)遷移就是一次大工程。4.2 十分鐘起一個可用的私有倉庫單機方案起步極快services: registry: image: registry:2 ports: - 5000:5000 environment: REGISTRY_STORAGE_DELETE_ENABLED: true volumes: - ./registry-data:/var/lib/registry - ./config.yml:/etc/docker/registry/config.yml:ro restart: unless-stoppedREGISTRY_STORAGE_DELETE_ENABLED這個環(huán)境變量一定要開否則后面想刪鏡像標簽會直接被拒絕。配置文件里可以追加保留策略和存儲后端storage: filesystem: rootdirectory: /var/lib/registry delete: enabled: true cache: blobdescriptor: inmemory http: addr: :5000起來之后先給鏡像打上帶倉庫地址的完整標簽再推docker tag myapp:1.0.0 192.168.10.20:5000/team/myapp:1.0.0 docker push 192.168.10.20:5000/team/myapp:1.0.0標簽的完整格式是倉庫地址/命名空間/鏡像名:版本。這里最容易出的錯是忘了加倉庫地址前綴直接docker push myapp:1.0.0會被推到默認的公共倉庫本地私有倉庫里什么都沒有。4.3 TLS 與 insecure-registries 的正確姿勢默認情況下Docker 客戶端要求倉庫必須走 HTTPS。你用 HTTP 起在 5000 端口push 時會看到http: server gave HTTP response to HTTPS client意思很直白客戶端發(fā)的是 HTTPS 請求服務端回的是 HTTP 明文。兩種解法。生產環(huán)境必須用證書把 CA 證書放到/etc/docker/certs.d/倉庫地址:端口/ca.crt客戶端就會信任。自簽證書的關鍵是 SAN 字段必須包含你實際訪問用的地址——很多人簽證書時只填了域名實際訪問用的是 IP照樣報x509: certificate is valid for ...。開發(fā)和測試環(huán)境可以臨時把倉庫標記為不安全倉庫在/etc/docker/daemon.json里加{ insecure-registries: [192.168.10.20:5000] }改完必須重啟 Docker 服務生效。這里有個坑insecure-registries只對 HTTP 倉庫有效如果你的倉庫確實是 HTTPS 但證書不被信任加這個配置也沒用得老老實實放 CA 證書。我見過有人在這上面繞了兩小時一直在反復重啟 Docker 服務。注意不要為了圖省事把內網所有地址都塞進insecure-registries。一旦形成習慣某天真的需要走加密傳輸時排查范圍會大得離譜。4.4 命名、打標簽與保留策略標簽策略是我見過最混亂的一環(huán)。典型現(xiàn)場是倉庫里每個鏡像都有l(wèi)atest、test、v1、v1-new、v1-最終版、v1-真最終版沒人敢刪任何一個。半年后想回滾某個版本發(fā)現(xiàn)根本對不上哪次發(fā)布。我推行的規(guī)則只有三條。第一latest只在一個地方使用本地開發(fā)隨手構建時用CI 和發(fā)布流程嚴禁推latest。第二正式版本用語義化版本號1.4.2這種配合 git tag能精確對應到某次提交。第三額外打一個 git 短哈希標簽方便排查docker tag myapp:1.4.2 192.168.10.20:5000/team/myapp:1.4.2 docker tag myapp:1.4.2 192.168.10.20:5000/team/myapp:sha-a1b2c3d版本號給人看哈希給機器查。生產環(huán)境部署時用 digest 而不是標簽這是最穩(wěn)的方式docker pull 192.168.10.20:5000/team/myappsha256:xxxx因為標簽可以被移動同一個1.4.2今天推的和明天推的可能是兩個不同的鏡像digest 是內容哈希永遠指向同一份內容。這點在出故障回滾時特別關鍵——你確定拉回來的就是當初那個。4.5 存儲回收為什么刪了 tag 磁盤沒變小這個問題幾乎每個自建倉庫的人都會遇到。執(zhí)行了刪除標簽的命令curl也返回成功但du -sh一看磁盤占用紋絲不動。原因是 Registry 的刪除是兩段式的刪標簽只是刪掉了 manifest 的引用底層的 layer 文件blob還在因為可能被其他標簽共享。要真正回收得跑垃圾回收。Registry 自帶了一個命令在容器里執(zhí)行docker exec registry /bin/registry garbage-collect \ --delete-untagged /etc/docker/registry/config.yml在這之前必須先刪干凈所有指向無用 manifest 的標簽而且回收過程最好停寫或只讀因為并發(fā)推送可能導致新鏡像的層被誤判為無引用而清掉。我的做法是每天凌晨跑一次定時任務先停掉對外推送權限再執(zhí)行回收最后恢復。聽起來麻煩但比起某天磁盤滿了導致所有構建失敗這點麻煩值。保留策略建議按數(shù)量 時間雙維度控制每個倉庫保留最近 10 個版本同時刪除所有超過 90 天且非正式版本的標簽。只按數(shù)量控制低頻更新的倉庫會保留很久只按時間控制高頻更新的倉庫會積攢太多。5. 實戰(zhàn)問題速查與避坑記錄下面這些幾乎都是我或者身邊同事真實撞上過的按階段整理出問題時可以先掃一眼表格。5.1 構建階段高頻故障表現(xiàn)象根因處理方式COPY failed: file not found文件被.dockerignore排除或路徑超出構建上下文檢查.dockerignore確認context目錄包含該文件構建越來越慢改一行代碼就要幾分鐘COPY . .在依賴安裝之前緩存全失效調整指令順序依賴清單先拷源碼后拷鏡像體積遠超預期緩存文件、包管理器索引沒在同一層清理RUN合并清理命令用多階段構建not found或符號相關錯誤程序跑不起來Alpine 的 musl libc 與預編譯二進制不兼容換成debian-slim基礎鏡像時區(qū)不對日志差八小時容器默認 UTC沒設TZ裝tzdata設ENV TZ構建時報no space left on device本地鏡像和構建緩存占滿磁盤docker system prune -af配合--filter until72h磁盤那條多說一句docker system prune默認不清理正在被容器使用的鏡像加-a才會清掉所有未使用鏡像加-f免確認。執(zhí)行前確認沒有正在跑的重要容器用docker ps看一眼再動手。5.2 運行與編排階段高頻故障表現(xiàn)象根因處理方式應用啟動就連不上數(shù)據(jù)庫depends_on只保證啟動順序不等就緒加healthcheckcondition: service_healthydocker stop要等十秒才停CMD用了 shell 形式PID 1 是 sh信號沒轉發(fā)改成 exec 形式[node,server.js]非 root 用戶寫卷報permission denied宿主機目錄屬主與容器內 UID 不匹配構建時chown或啟動時用user: 1000:1000容器內訪問localhost連不上另一個服務每個容器有獨立網絡棧用服務名當主機名服務需在同一網絡exec format error鏡像架構與宿主機不一致構建時指定--platform linux/amd64改了配置重啟不生效容器被復用新配置沒進容器docker compose up -d --force-recreateport is already allocated端口被占用ss -lntp查占用進程或換端口exec format error這個在 M 系列芯片的機器上構建、部署到 x86 服務器時特別常見報錯信息很短容易誤判成鏡像損壞。構建時加--platform linux/amd64或者用buildx同時產出多架構鏡像能一次性解決。5.3 倉庫階段的三個經典報錯http: server gave HTTP response to HTTPS client——前面說過客戶端用 HTTPS 請求服務端是明文 HTTP。要么給倉庫配證書要么把地址加進insecure-registries并重啟服務。x509: certificate signed by unknown authority——客戶端不信任倉庫證書。把 CA 證書放到/etc/docker/certs.d/地址/ca.crt。注意目錄名要和訪問用的地址完全一致帶端口的話端口不能少192.168.10.20:5000和192.168.10.20是兩個不同的目錄。manifest unknown或not found——拉取時找不到對應的標簽。要么是標簽打錯了要么是推送失敗了但命令返回被忽略。用倉庫的 API 列一下現(xiàn)有標簽確認curl http://地址:5000/v2/命名空間/鏡像名/tags/list能直接看到實際存在哪些標簽比猜測快得多。5.4 幾條踩出來的經驗關于調試信息鏡像里裝curl和netstat這類工具體積會增加十幾兆但排查網絡問題時能省下大量時間。如果實在不想裝進生產鏡像可以在構建時開一個帶工具的 debug 階段出問題時臨時構建那個階段進去看。關于構建速度如果依賴下載慢是網絡層面的問題加構建參數(shù)換源比優(yōu)化 Dockerfile 更有效。另外--cache-from配合 CI 緩存能顯著加速把上一次構建的鏡像拉下來當緩存源遠程構建時效果明顯。關于Compose 文件的可維護性超過五個服務之后盡量按職責拆成多個文件用-f組合。一個兩百行的 yaml 沒人愿意改改成三個七十行的人人敢動。另外把公共部分網絡、時區(qū)、日志配置用x-開頭的錨點抽出來復用能減少大量重復。關于倉庫的可用性私有倉庫掛掉的時候如果所有機器都依賴它拉鏡像整個發(fā)布流程就停了。至少保證每臺機器本地緩存了最近幾個可用版本docker image ls里能看到緊急時可以直接用本地鏡像啟動不必等倉庫恢復。關于版本管理的心態(tài)我見過太多人覺得鏡像倉庫反正內網標簽隨便打沒關系等到要回滾某個兩周前的版本發(fā)現(xiàn)latest已經更新了七次根本找不回來。標簽規(guī)范這件事在只有三個人的時候建立成本幾乎為零在三十個人的時候推行的阻力大得離譜。早做比什么都強。最后分享一個我自己一直在用的小習慣每寫完一個 Dockerfile先用docker build跑兩遍。第一遍看不到什么特別第二遍觀察哪些層顯示CACHED如果只有最后一兩層命中說明指令順序還有優(yōu)化空間把變化最頻繁的內容再往后挪。這個動作花不到一分鐘但能讓你對每一層的邊界有肌肉記憶寫第三個 Dockerfile 的時候順序自然就對了。
返回列表
PREV
查看更多資訊
NEXT
返回資訊列表
久热超碰| 九九九成人| 免费日韩黄片| 九九九九九九免费视频| 丰满人妻-区二区三区免费| 中文字幕人妻色偷偷久久皮| 极品丝袜无码| 立川理惠无码一区二区| 亚洲综合欧美| 国产高清在线自在拍69| 女人爽到高潮潮喷18禁网站 | 亚洲麻豆精品二区三区| 国产一级高跟丝袜| 亚洲综合91| 豆1无夜无码| 午夜呻吟欧美| 野狼激情网| 国产精品无码论坛| 亚洲av无码国产精品字幕| 久热99999| 欧美成人9797| 一级免费啪啪片| 人妻精品免费一二三区| 免费精品无码一级毛片牛牛影视| 中文字幕AV片| 亚洲怡春院| 不卡九肏| 操操操操操操| 婷婷九月| 九一屌逼| 欧美图片偷拍| 日韩成人大片在线观看| 黄色电影观看久久9| 精品国产三级av韩国在线| 国产尤物在线三区| 中文视频在线观看| 人人操肉肉| 国产强奸AV在线| 欧美黑人极品高潮喷吹熟女黑人性暴力日韩在线欧美极品一区 | 91亚洲人| 欧美懂色综合网| 欧美专区17页| 人妻熟妇久草在线| 热久久无毒不卡| 96精品久久久久中文字幕| 中文字幕在线高清男人的天堂| 啊v在线观看视频| 无码精品啪啪啪一区二区三区三州| 好舒服视频| 色大师网站www永久网站视频| 大香蕉在线视频重口味毛片在线| 中文字幕精品乱码| 2017天天透天天通天天擦| 国产精品久久久久久久久久久久久久久久久久 | 少妇第一页| 神马久久久久久久久久| 欧美香蕉视xxx| 天天综合网久久ww| 亚洲 欧美 天天| 日本东京热加勒比久久| 日本一区二区不卡精品| 久久人妻视频| 丝袜制服字幕在线| 嗯~啊~轻一点 视频| 亚洲在饯| 色就色综合| 97极品无码| 97在线看| 女人天堂av在线播放| 亚洲超碰97| 日本一级特级毛片视频| 在线看的av| 日韩国产乱子伦App| 亚洲巨爆乳一区二区三区四季网| 欧美日韩国产三级黄色| 天天91~综合入口| 综合影院亚洲| 天天欧美| 熟妇xxxxx性春色| 中文日本免费高清| 久久东京国产精品视频| 亚欧高清v| 久久久9品一区二区三区| 久久伊人网视频一区二区三区| 东京热AV男人的天堂| 欧美夜色| 欧洲自拍第一页| 麻豆a'v电影| 亚洲男人天堂AV| 日欧操屄| 亚洲日产专区| 五十路熟女在线不卡观看一区二区| 国产视频一区二区在线观看| 少妇色综合| 最新制服中文第一页| 国产极品精品美女视频| 中文字幕黑人大片| 激情文学小说一区二区| 九色在线熟女国产黑人| 亚洲图片欧美制度| 亚洲在线综合| 乱伦3P视频| 超碰久久性爱| 丝袜亚洲综合| 久久久久久中文字幕中文字幕最新| 亚洲天堂人人妻| 99中文字幕| 男女真人网18| 少妇精品久久久八区九区| 91在线免费精品视频| 好属操| 国产精品嫩草影院免费| 一二三啪啪专区| 美女上床网站| 国产精品欧美日韩久久| 97在线资源| 亚洲欧美另类小说| 天天插天天射| 国产sv美女内射| 思思热国产在线视频| 在线天堂999| 成人三级片一区二区三区视频| 日韩兔费看黄片| 秋霞影音一区二区三区 | 九九九九热只有精品| 91搞逼视频| 真实高潮91| 黑人猛交| 国产又爽又黄| 色999人与兽| 久久黄人人爽视频| 婷婷香蕉欧美在线一区二区三区| 欧美日韩欧美| 99热免费| 精品天堂| 色yeye成人免费视频| 99黄页网站| 亚洲国产成人精品久久久国产成人一区二区 | 久久蜜桃一区二区| 色踪合AV| 夜色AV无码手机在线影院| 秋霞一区二区三区四区五区六区七区| 啊啊啊啊操死我| 婷婷色在线| 国产第二页| 老外又粗又长一晚做五次| av操操不卡| 欧美传媒| 91麻豆天美国产欧美高潮| 国产a片操逼| 97综合国产精品高潮久久| 在线播放中文字幕| 色婷婷av在线观看| 无码精品久久| 综合网少妇| 五月综合色| 天美传媒精品一区二区| 超碰欧美97资源| 屌逼传媒| 肏逼视频日本| 欧美日韩国产传媒在线精品| 99re国产精品视频| 老熟女综合网| 91狠| 在线欧美69V免费观看视频| 亚洲性猛交| 日韩成人大片在线观看| 亚洲色图综合网| 不卡一区二区日本视频| 国际精品久久久| 国产精品九9| 色在线综合| 国产熟女高潮一区二区三区| 一二三四日本视频高清| 日韩av在线精品观看| 新精精品久久精品| 狠狠狠狠狠| 欧美性第1页| 95精品在线| 久操97| 在线亚洲丝袜视频网站| 国产精品久久久亚洲一区| 亚洲无码国产精品久久| 丰满人妻一区二区三区| 九九九九精品一区| 综合色图,成人综合网| 超碰国产精品无码| 九九九九亚洲| 男人的天堂久久久| 99这里都是精品| 97综合日韩| 国产吞精a级片激情电影| 亚洲男人在线观看天堂| 久干网| 国产AV色黄看到爽| 男女性无套 免费九一| 欧美熟女妇同| 欧美在线官网| 免费视频无码| 久久久九九网站| 久久 国产 无码| 超碰人人干天天射| 国产精品白丝www| 九九热在线精品视频| 欧美专区第一页| 亚洲激情av| 欧美少妇性爱网站| 欧美综合网| 日日躁狠狠躁天天躁精品| 老女人碰碰在线碰碰视频| 中文一区二区婷婷视频| 亚洲中文字幕97久久精品少妇| 99久久久er直播网址| 超碰97 线线 在现| 人妻天天爽夜夜爽2| 白丝1区2区3区| 99色综合| 久久9 9 9精品| 静品嫩模一区二区| 黄色性爱网网| 超碰av在线| 免费毛片在线播放| 操碰91| 国产亚洲色婷婷久久99精品91葵花宝典 | 国内一级精品| 日韩天天综合| 美女久久久久久久久久久| 91超碰碰在线| 日本黄页视频在线观看| 五月婷色| 亚洲熟妇图片| 丝袜大香蕉| 天天天天天天天天天天干美女| 精品九九| 1769一区| 午夜偷拍久久熟女| 欧美色婷婷| 色婷婷在线视频| 天天爽天天| 偷拍 精品 另类 四区| 日日夜夜干| 丁香五月天视频| 一级久久性爱视频| 蜜乳av一区二区| 色就色综合| 女生91网站| 日韩无码人妻| 丰满人妻一区二区三区四区| 自拍大香蕉乱插| 亚洲乱熟女一区二区三区大香蕉| 人人操人人插人人摸人人干| 乱伦日本中文自拍| 日韩av性爱在线播放| 思思热在线视频免费| ji熟女.com| 亚洲免费人妻在| 囯产精品一区二区三区线|亚洲人成无码网WWW动漫|国产精品免费一级... | 国模不卡| 久久精品国产亚洲AV无码电影| 操婷婷逼| 亚洲天堂,男人| 97爱免费插| 五月丁香综合网| 三级片大波波| 婷婷五月天久久精品视频一区二区三区| 五月天综合网| 天天看特黄的免费网站| 无码粉嫩白虎一线天b区| 午夜福利1区2区3区| 精品中文字幕一区二区l - 百度| 亚洲 一区二区 自拍| 亚洲aV性爱| 五月天春色激情网| 亚洲青青草| 久久久月天| 日本人妻伦在线中文字幕| 天天干天天插| 2019亚洲男人天堂| 91香蕉视频在线观看免费| 日韩欧美一级特黄大片| 久久香蕉网| 欧美性爱一内片一区二区三区| 天天操福利视频综合网站| 91精品人妻偷情| 丁香五月久久| 综合激情97| 男人的天堂99| 99热婷婷| 精品久| 美國A片| 玖玖爱综合| 无码 黑人一区二区三区| 欧美精品宗合| 丁香五月婷婷基地| 亚洲色图日韩丝袜制服一区二区五月在线| 久久久成人免费av电影| 五月天黄色av| 日韩无限资源| 色综合色| 亚洲天堂电影网99999| 欧美伊人久久综合网| 亚洲丝袜色| 大香久久| 国产这里只有精品| 九九九不卡| 日本免费专区| 裸体美女久久久| 久久一二三四五六七八九区区区 | 超碰69| 天天干18禁| 日本理论在线| 91女色| 久久久夜夜嗨免费视频| 亚洲 欧美 日本 国内 首页| 第一高清av中文字幕| 超碰97首页| 欧美日韩大黄片| 蜜桃不卡一区二区| av天堂天堂av日韩| 加勒比东京热五月天天堂网| 乱伦熟妇一区二区| 91欧美偷拍| 日本一区二区三区免费观看| 综合97久久| 91精品人| 欧美久久久| www.av在线视频| 久久精品国产99国产精品亚洲| 黄色电影在线播放综合网站| 日本免费一区二区不卡 | 欧美劲爆视频一区二区| 人妻少妇无码| 小草精彩毛片| 欧美亚洲第一页| 丁香六月婷| 亚洲男人天堂网| 99热99在线| 久久久久久久九九九九| 亭亭丁香激情| 亚洲中文日韩精品| 思思热国产高清| 极品内射| 欧美亚洲中文字幕| 精品1区2区3区| 亚洲综合97中文网| 欧美黑人精品在线播放| 亚洲色图欧美色18直播在线| 婷婷伊人一区| 亚洲精品免费中文字幕| 亚洲素人综合| 欧美日韩淫加| 成人网站 免费观看| 精品美女少妇一区二区| 色婷婷在线视频精品导航| 深夜国产一区二区三区在线看| 强乱老妇中文字幕| 久久999久| 熟女人妻av在线资源,黄色的资源| 亚洲黄色| 人妻少妇久久| 天天欧美色| 欧美日韩性爱无码| 狠狠色伊人亚洲综合网站色| 国产超碰97| 老汉网| 国产毛片精品一区二区色欲黄A片| 性爱综合一区二区| 99re这里只有精品9| 天天射夜夜| 小草精彩毛片| 亚洲欧美在线观看2021 | 大香久久| 伊人久大| 好爽免费视频,| 人妻天天爽夜夜爽爽| 亚洲国产高清福利视频| 亚洲欧美综合| 婷婷五月天激情四射| 亚洲极品| 97视频新免费| 日欧毛片久久| 日产中文字幕2020| 日韩熟女精品无码专区一区二区 | 黄色性爱网网| 欧美成人四级在线播放| 啪啪性爱免费视频| 色欲天天综合久久久无码网中文| 综合亚洲欧美| 亚洲高清色综合| 精品九九九九九九九| 人人操天天爽| 男人天堂站| 九九热精品在线| 韩日精品四区| baisiav| 色婷婷99| 最新日产中文在线麻豆| 日韩人妻一二三区视频| 眼镜人妻101.com| 被男人吃奶很爽的毛片| 精品久久久久av影院| 国产精品亚洲天堂网址| 久草网站免费在线观看| 嫩草影院性色| A一区片| 人人贴人人摸| 人摸人人操人| 国产欧美日韩在线不卡第一页| 91女网站| 影视综合无码少妇| 精品国产丝袜一区二区三区乱码 | 九九九九九九综合| 欧美性爱超碰97| 欧美综合777| 亚洲色综网| 超碰美国| 粉嫩av久久一区二区三区| 黄片免费视频2019| 久久久免费的精品| 青青草日韩无码| 久久免费精品96| 五月婷婷五月天| 久久精品一区一起草| 丰满搜索结果 -第18页- 久久高清无码| 日韩成人性爱电影在线播放| 啊啊啊啊好大好硬啊啊啊啊啊| 四虎免费视频| 亚洲综人网| 日韩有码中文字幕女同性恋| 欧美最婬乱婬爆婬性视频 | WWW操逼| 久热精品色情| 香蕉99秘 一区精品蜜桃臀| 老司机射| 天天躁日日躁狠狠躁| 色爱亚洲| 91扒丝袜综合在线| 国产东北女人在线视频| 黄色电影观看久久9| 操逼网站地址| 东京热一区二区三区四区五区六区| 欧美视频激情久久久久久| yazhouzaixian| 人人妻人人爱人人玩| 国产日逼视频| 最新欧洲欧美日本激情网站| 97这里都是精品| 99久久久| 婷婷丁香九月| 久久大香蕉手机高清| 精品美女少妇一区二区三区| 天天网综合| 综合久久久久久久综合网| 日本午夜久久电影| 久久AV色| 尤物黄色在线观看网站| 中文字幕一区日韩精| 亚洲黄日韩无码专区| 日韩久射综合| 午夜精品五区| 蜜桃精久三区| 亚洲精品久久久久毛片A片拉屎| 思思性爱| 超碰天天操| 曰韩中文人妻视频| 色噜噜精品一区二区三| 91嫩草欧美| 日本 免费 一区二区三区 久久香蕉 | 一区在线精品中文字幕| 国内精品伊人久久久久影院会| 中文字幕免费观看| 亚州综合色| 99无码视频| 女人18精品一区二区三区| 亚洲国产成人福利在线观看| 亚洲精品欧洲精品| 人妻精品视频一区二区三区| 日韩无码嘿咻黑热久| 综合亚州欧美| 激情专区综合| 人人澡人人干| 美国aaaaa一级黄片| 啊啊啊不要好爽日韩无码一区| 欧美综合亚洲| 久久草在线综合视频| 偷拍片久久| 黄色网址在线免费观看| 天天日美女的B| 国产日韩区| 东京热不卡视频| 人妻少妇被猛烈进入中| 亚洲天堂资源| 丁香五月色| 国产精品乱码久久久久久| 久久久久13| 91欧美色| 亚洲国产欧美日韩人妻日中文| 色约约一区=区三区| 色色五月婷| 日韩本不卡视频在线观看| 五月丁香综合啪啪| 欧美精品庄| 中文字幕在线观看AV| 美女视频尤物网在线看| 久久精品高清无码一区| 国模精品一区二区三区苹果色戒 | 日韩成人精品| 天天综合网合集91| 综合色图,成人综合网| 九九九九热| 97青娱乐超碰久久| 亚洲国产精品9999在线观看| 青青草华人在线欧美在线| 日本99视频| 在线视频亚洲无码| 男人天堂综合| 中文字幕在线日亚州9| 免费操逼91| 性感女人网页在线观看视频| 亚欧无码在线| 十八禁啪啪视频| 99精品久久久久久| 久久女人一区二区三区| 国产精品一区av在线| 亚洲日韩资源| 91欧美成人色站| 亚洲少妇中文字幕网址| 一级AV性爱| 日日AAvv| 乱色视频中文字幕| 欧洲站一级二级三级h| 久久人妻办公室视频| 大象AV在线| 国产60区。| 中文字幕在线日亚洲9| 久久久影院| 夂久色| 91色综合激情| 亚洲人妻中文高清| 欧美成年人性爱视频免费观看| 一区二区三区四区五区高清无码永久视频 | 日韩欧美女求操每天更新| 天天摸夜夜摸| 人人摸人人干| 丁香六月东京热| 日韩三级在线观看网站| 天天摸天天操视频| 任你干在线视频| 久久久久久久久久久人妻| 五月丁香激情综合| 国产 日韩 欧美 中文 另类,国产 欧美 另类 制服 变态,高清 日韩 欧美 中文,高 | 亚洲天堂少妇| 丝袜av一区二区三区| 精品久久視頻在线| 久久九色| 91人妻Pr| 欧美日韩插逼视频| 91熟女视频网| 1204金沙人妻懂旧版免费| 五月丁香六月婷综合成人综合| 久肏视频字幕| 亚洲精品久久久久久久蜜桃臀| 国产操逼网站亚洲一级黄色| 97在线欧| 屌妞视频久久久久久久| 成人婷婷丁香| 99色在线观看| 国产 三级自拍| 午夜福利免费福利视频| 日本黄色大片一级视频免费麻豆| 激情天天视频| 超碰无码加勒比| 操逼视频国产无套| 强被迫伦姧在线观看无码网站| 天天做天天爱| 久久久久亚洲| 清纯唯美激情| 亚洲第二页| 加勒比海成人视频网| 五十路熟女工口 | 欧美一区91大爱| 超碰人人妻| 很很干很很操| 日韩欧美麻豆大片| 欧美性战999| 国产成人+综合亚洲+天堂| 日本道久久综合色色| 国产成人久久久精品免费AV| 亚洲欧美国产其他二区| 国产最新小视频在线播放下载 | 一个人在线看的黄色电影网站| 天天综合网国产| 99热97| 91电影色诱| 亚洲欧美日韩电影网站一区 | 涩五月婷婷| 亚洲中文制服诱惑| 天天看特黄的免费网站| 超碰到97情色| 大香蕉伊人75| 国产无马在线| 日本肉体xxxx裸交| 五月天婷婷欧美三区| 少妇国产不卡| 亚洲系列欧美| 天天看片青娱乐| 亚洲电影中字一区二区| 天堂中文日本在线观看| 九月婷婷| 一区二区三区蜜桃成人撸久久东京热 | 美女91网址| 97超碰欧美| 国产啊v在线免费播放| 久热大香蕉| 天天日日日射| 亚洲欧美啪啪| 1000部熟女视频在线观看| 欧美性爱1080p| 色噜噜综合在线| 青青草成人视频在线观看二区| 日韩青久久| 香伊人在线| 久碰视频| 久9久9精品| 91n处女在线观看| 俺去啦俺来也久久综合| 亚洲欧美经典一区二区| 亚洲欧洲另类| 99热这里只有精品9| 亚洲天堂另类小说男人| 国产性爱欧美性爱在线| 国产成人亚洲精品无| 大香蕉免费乱伦视频| 1区2区3区在线视频| 亚码激情| 97人肏| 一级二级在线观看| 九九久久久久久爱| 88在线一区二区三区| 色av中文字| 一级啊性爱在线视频| 丰满岳乱妇一区二区三区| 91丨豆花丨熟女| 老熟妇综合| 国产AV色黄看到爽| 狠狠入| 男女打扑克高清网站| 婷婷午夜成人色中色| 正在播放国产精品一区| 亚洲夜夜欢无码一区二区| 久久综合女优| 99999久久精| 全国男人天堂网| 偷拍欧美激情| 超碰av在线| 亚洲成a人在线观看久| 97超碰欧美| 亚洲国产丝袜熟女av| 国产激情av女片自拍| 精品三级在线专区| 97久久视频| 97精品视频在线播放| 91艹B视频| 六月婷婷一区二区三区| 久久久久久69国产一区二区| 国产60区。| 亚洲电影中字一区二区| 欧美少妇一区二区三区| 天天看天天日天天操| 玖玖人人爱| 熟妇人妻精品一区二区| 成人性爱av| 一级乱伦网站| 亚洲国产美女久久久久| 国产欧美精选自拍一区| 色五月婷婷麻豆在| 果冻传媒一区二区三区| 精品人妻一区二区蜜桃视频| 亚洲黄a三级三级三级看三级| 日逼97| 大香蕉啪啪网| 欧美aa一级片| 日本高清_区二区三区| 人人澡人人爽人人精品| 香蕉色网| PMv在线观看| 天天做日日爱夜夜爽| 天天天肏屄欧美| 蜜臀久久99精品久久久久电影| 日韩欧美一级特黄大片| 97欧美日韩精品| 亚洲清纯唯美| 天天操综合网| 久久精品国产亚洲AV嘿嘿| 国产原创自拍| 干干干天天| 婷婷激情五月天小说网| 免费超碰97久久| 久久男人天堂| 91天天日| 午夜欧美J进J出白浆流出久久久 | 激情专区综合| 青青草原狼av| 久久久亚洲Av| 一级免费啪啪片| 特色a在线上| 97碰碰日本乱偷人妻中文的| 亚洲精品成人| 亚洲日韩av专区无码| 另类专区加勒比| 日本Xx性爱| 97视频在线视频| 日人妻视频91| 97九色| 天天干1区2区在线| 九九这里只有精品| 日韩在线性爱免费视频| 欧美性爱超碰97| 精品视频专区| 五月丁香| 国产精品福利资源在线尤物| 殴洲老熟女| 成人无码在线视频网站| 欧成人在线| 97视频7| 一区二区三区免费岛国片| 国产美女高潮| 天天久久久久久| 久久久网一区| 色999人与兽| 狠狠夜色午夜久久综合在线| 性色生活片久久毛片婬片免费放女人一级毛片 | 99rre在线精品99re8| www.色五月| 亚洲人码13| 亚洲无码99| 特级特黄一级毛片免费| 中文字幕一区二区三区人妻不卡| 又大又黄国产| 中文字幕乱碼在线| 国产高清成人免费视频| 久久久久久久久久黄色网| 亚洲的天堂网| 久久伊人最新网址视频| 农村妇女精品一区二区| 九一屌逼| 最新日韩黄片| 98超碰欧美| 人人天天干干| 啊啊啊好大好深| 99xav| 亚洲九区| 精品国产一区二区三区四区在线看 | 中文字幕 av v| 艹少妇网站| 78m啪啪啪| 麻豆人妻少妇在线免费观看| 午夜福利久久久噜久噜久久综合 | 国产精品成人AV片免费看网站| 五月开心久久AV官网| 劲爆欧美人妖三区91| 麻豆视频test| 国产免费操逼| 久草新免费| 精品国模无码| 成年人黄色小视频网站| 啊啊啊好大好湿| 久久毛卡| 天堂无码精品国产久| 国产精品午夜福利亚洲综合网| 神马久久久久久| 风间由美日韩欧美久久| A级片一区| 国产精品第一页国产大屁股视频免费区| 9ⅰ久久久天天| 欧洲精品二区| av亚欧| AV和黑人在线播放| 婷婷五月天久久久| 综合 欧美 亚洲 日本| 最新日韩黄片| 日本三级中国三级99人妇网站| 超碰97在线 欧美 国产| 妇女乱色二区| 精品无码一区二区三区色欲| 欧美少妇人妻| 91高清无码下载| 大奶啊啊好爽| 欧美热图99| 超碰97首页| 欧美黑人极品高潮喷吹熟女黑人性暴力日韩在线欧美极品一区二区老师 | AV乱伦专区| 欧洲亚洲国产综合在线| 99热综合| 国产精品一区二区后入| 成人羞羞视频国产| 人妻精品一区二区在线| 狼人狠干| 欧美精品日韩一区二区| 国产农村妇女毛片精品久久| 精品一区二区三区18| 天天射天天操天天干天天吃2018| 国产视频一区二区三区在线免费观看 | 青青网三级视频| 日本999精品视频| 日本免费二区三区| 久久国产在线一区二区| 久操精品网| 蜜臀AV成人精品蜜臀AV久久| 九九九九一区| 国产人妖的免费的视频| 丁香五月电影| 欧美色图人妻| 欧美组图日韩亚洲中文字幕| 很很热性爱视频| 看日韩操逼| 夜夜高潮夜夜爽| 中文字幕av片| 中文字幕日韩专区精品系列| 亚洲激情久久| 啊啊啊好疼| 你懂的在线观看区国产| 综合色久| 午夜天堂精品久久| 欧美男人的天堂| 后入合集| 99re这里只有精品9| 激情啪啪拍91| 欧美夜色| 欧美精品成人一区二区在线观看| 凹凸视频特色日本特黄| 亚洲中文电影| 26uuu最新| 99精品在线| 亚洲色图 图片| 91岛国动作片| 中文字幕精品一区欧美| 天天欧美色| 97这里有精品| 一区二区三区激情在线观看| 日本超碰色精品| 中文字幕一区二区三区四区在线视频| 亚洲精品中文字幕一区在线视频| 亚欧中文字幕在线视频| 欧美狠狠操| 欧美国产精品久久九九| 久久男人的天堂国产| 中文字幕一区二区三区四五区| AAAAAAAAA黄片| 91处女视频在线观看| 亚洲天堂在线怕怕视频| 91在线美女| 亚洲蜜臀精品视频久久| 天天日天天干天天整| 91操熟女视频| 亚洲图片欧美日韩| jizz啪啪| 60秒免费视频| 高清无码 国产精品| AV丝袜少妇| 男人的天堂午夜av| 精品一区二区三区四区女 | 久久精品一区二区一8| 中文字幕 人妻不满 在线视频| 熟女91网| 天天躁日日躁AAAXX| 妇女乱色二区| 美女自卫慰黄网站免费| 超碰色美女| 亚洲AV操| 一区二区三区成人| 日韩欧洲操屄视频| 麻豆伊人网| 国产三级多多影院2022国产AA一级毛片无码 | 婷婷激情一区二区三区俺也去| 日本人妻丰满熟妇久久久久久| 日韩一级二级在线| 久久夜夜| 狠综合网| 自拍偷拍 高清无码| 欧美72网页| 久久婷婷电影网| 男人天堂2019亚洲| 国产强奸乱伦欧美| 欧美黑人极品高潮喷吹熟女黑人性暴力日韩在线欧美极品一区二区老师 | 欧美日韩国产色图在线| 一卡二卡三卡| 色综合潮| 久久‘黄片视频| 亚洲精品黄码久久久久| 丁香婷婷色五月| 日本一道在线播放高清| 久草新免费| 久久久久国产一区二| 亚洲成人妻日韩在线| 日本午夜福利影院| 久久大黄片| 好吊爽好吊爽在线视频,中文字幕精品一区二区日本,国产良妇出轨视频在线观看, | 日本护士高潮| 色牛牛AV| 骚逼一区二区| 精品亚洲俞拍视频一区| 久久精品视频28| 九九九精品一区二区无码| 成人网站 免费观看| 青青操在线视频| 成人日本精品九区| 1024人妻熟女一区二区三区| 老鸭窝日丰县女人| 久久久蜜桃一区二区三区| 吖在线不卡一区二区国产剧情| 成人在线视频一区| h在线看免费版在线看| 夜夜操美女| 国产又长又大又粗的视频| 综合久久婷婷| 四方色播| 国产农村一一级特黄毛片| 97日本超碰综合| 亚洲文学偷乱拍啪啪啪啪 | 在线不欧美| 青青欧洲黑| 久久是精品| 人妻天天爽夜夜爽精品2| 久久久国产亚洲精品系列| 国产精品国产精品国产| 久久久九九| 亚洲资源网| 亚洲男人天堂网久久| 久久亚洲AV成人精品无码| 日韩操逼性鲍| 91夜色| 十八禁电影伊人网| 金典av| 久久香蕉影院| 女性喷水高潮在线观看| 中文字幕免费在线观看| 国产性爱欧美性爱在线| 国产农村妇女精品1区二区| www.夜夜操| 日本污ww视频网站| 尤物一级在线免费观看| 久久久性| 色色毛片| 超碰在线人妻不卡| 欧美一区二区三区蜜桃| 日本性一区| 亚洲精品 大香蕉| 26uuu最新| 久操免费电影| 无码一区二区三区四区五区六区七区八区九区十区视频 | 欧美激情高清性猛交| 狠狠躁AV| 日本 欧美 亚中文字幕| 亚洲精品中文字幕一区在线视频| 国产av强奸美女| 国产成人在线观看网址| 日本在线999| 国产91 丝袜在线播放| 亚洲男人的天堂网| 操一区| 亚洲日产专区婷婷| WWW.加勒比人妻一区不卡.com| 麻豆视频test| 大香蕉伊人亚洲| 色色色色色色色色色色色色色色综合| 欧美精品1区2区3区| 最新国产精品久久精品| 亚洲激情深爱文学小说网站| 国产精品自产拍在线观看社区| 国产无码三级视频在线观看| 91男女| 丁香五月天久久精品视频一区二区三区| 婷婷色婷婷| 久操精品| 91欧美在线| 男人的天堂VA| 久久伊人在线五区| 亚洲激情 欧美色图| 97免费免费视频网| 青青操视频在线| 很黄很污的免费网站| 日韩超碰精品综合| 日本孕妇孕交| 日本顶级天天操狠狠操夜夜操中文字幕| 啊啊啊啊啊,啊啊啊啊好舒服,操我舒服啊啊啊| 久久麻豆一区二区| 日本97久久久精品| 啊啊啊不要嗯嗯在线观看| julia ann久久| 99热一区二区三区四区| 快灬快灬 一下爽蜜桃在线观看| 蜜臀99久久精品久久久久| 日语五十路和六十路亚洲国产精品| 亚洲综合另类小说色区亚洲成av人片在www | 另类欧美色| 99久久久无码国产精品性啊聊| 亚洲av国产av综合av卡| 夜间福利片1000无码| www.夜夜| 欧美天堂超碰97| 另类图片五月天| 色五月AV| 日韩三级伦理中文字幕| 久久东京伊人一本到鬼色| 日本午夜精品理论片A级APP发布| 一区二区三区机械有限公司| 91 国产丝袜在线放观看| 视频在线观看一二三区| 好爽免费视频,| 九九热九九| 手机看片日韩人妻| 中文字幕在线免费观看视频| 国产白嫩精品久久| 人人澡人人澡人人| 无码137片内射在线影院| 日韩美女操b| 亚洲 图片 综合91| 安微少妇操BBB| 亚洲人体视频在线观看| 99热这里是精品| 色在线69堂| 精品无码一区二区三区色欲| 日日碰狠狠添天天爽超| 97色色视频| 91欧美丝袜| 青青青国产手线观看视频2| 99久在线精品99re8热| 亚洲精品国产熟女久久久| 午夜男人av| 内射中出日韩在线观看视频| 亚洲丝袜综合| 99re视频在线观看这里只有精品| 欧美在线视频观看一二三四区高清| 69少妇一区二区| 日韩偷拍色图| 99re28在线观看| 色色五月天激情| 天天日熟妇| 亚洲 国产 精品一区| 少妇内射视频| 国产高清无码一区三区二区| 德国一二三不卡| 亚洲天天更新| 成年人一级黄色毛片大全在线观看| 99热免费| 九99久久| 东京热男人的天堂精品| 日日黄色三级网站| 日韩一级久久毛片| 亚洲AV小说| 久久精品操| 久久91精品国产9丨久久分亭| 91天天综合网,天天综合网| 男女无套 免费网站| 97超碰国产精品| 99999精品| 一区二区三区机械有限公司| 91网站视频在线观看| 国产精品久久久久久高清无码免费看| 亚洲 欧美 中文 日韩超碰 | 日韩亚洲Av人人夜夜澡人人爽| 91久久精品国产| a'v在线资源| 亚洲AV资源| 日韩成人私密一级精品av| 有码人妻系列| 精品欧美老熟女一二区| 性爱动态120秒| 97久久久久久久久久| 强奸国产在线| 自拍视频大全亚洲专媒视频/一区二区三区 | 乱人伦 国语对白:视频直接看| 欧美亚洲丝袜人妻制服中文99| 五月天玖玖资源站| 亚洲图片 欧美电影| 久久久免费一级黄片| 亚洲日韩AV视色| 国产精品永久免费10000| 欧美91精彩| 日本综合久久| 久久超碰国产一区二区三区| 91草草草| 色噜噜综合网| 一级性爱视频免费在线| 日韩钢筋无码高清啾啾啾| 色色色天美视频| 男人的天堂va在线| 亚洲美女精品| 午夜黄色免费在线观看| 搡老女人老熟女91| 亚洲大色堂| 亚洲操操| 黄色片,com| 怡红院亚洲怡春院av| 亚洲精品久| 国产激情av女片自拍| 神马久久久久久久| 天天综合网~91综合网| 婷婷五月天AV| 久久av一级av少妇av高潮| 97超碰9| 动漫av中文| 另类专区在线观看| 国产综合色精品在线观看| 加勒比性爱成人在线| 亚洲一二三精品久久网| 制度丝袜99| 中文字幕在线观| 日韩无码服务区| 色哟哟-国产专区| 五月丁香| 97欧美性爱| 亚洲在线欧美| 福利五区| 日韩美女,国产传媒,视频一区| 人人操人人操草草| 少妇久久久| 麻豆91熟妇人妻中文字幕茄子| 操少妞在线视频| 久久久艹艹艹| 午夜免费视频1000| 人人操人人叉人人插人人| 欧美天天综合| 欧美激情视频一区二区| 新91视频.cmp| 亚洲欧美setu| 欧美熟妇操操视频| 91 国产丝袜在线放观看| 天天日天天插| 免费啪啪一级视频| 午夜无遮挡男女啪啪视频| 一区二区乱码福利| 加勒比aⅴ| 蜜桃臀av一区二区| 国产蜜臀在线| 久久有码| 最新av在线| 操学生天天| 校园春色欧美色图| 91操操| 五月激情影院| 色色色欧美| 国产成人精品日本视频| 九九久久一区二区伦理| 综合操逼| 国产日韩精品人妻久久久久色欲网站| 亚洲熟妇一,二,三期| 久久久亚洲| 精品久久久av无码免费| juliaann欧美丝袜办公室| 亚洲三级网址久久最新| 婷婷九月国产| 亚洲熟妇丝袜在线观看| 亚洲熟妇自偷自拍另欧美| 大香樵伊人网| 蜜臀久久99精品久久综合| 三级三久久线久久99久目本WW| 丁香五月性| 国语人妻精彩刺激|