日韩精品一区二区三区在线视频放-无码中文字幕V?一区二区-成年片免费观看视频-国内少妇人妻丰满av-国产精品中文字幕免费观看-亚洲成人久久一区二区三区-国内少妇偷人精品视频无缓冲-一区二区国产精品日本一区二区三区在线网

ARTICLE DETAIL

資訊詳情

深耕商務(wù)建站與企業(yè)官網(wǎng)運營的一線實戰(zhàn)洞察。

openEuler 部署 Docker UI 全鏈路:選型、安裝調(diào)優(yōu)與安全收口

openEuler 部署 Docker UI 全鏈路:選型、安裝調(diào)優(yōu)與安全收口 Docker 容器與虛擬化技術(shù)這條線上的活我這幾年干得最多的不是“怎么把容器跑起來”而是“怎么讓一群人能安全地看見并管住跑起來的容器”。openEuler 部署 Docker UI 就是典型的后者機器裝好、引擎起來了不代表團隊能用得順手命令行敲得再熟交接給同事、交給值班同學(xué)、交給不常碰服務(wù)器的人效率立刻掉一半。所以這篇我想聊的是完整的落地鏈路——從容器和虛擬化的取舍開始到 openEuler 上的引擎安裝、參數(shù)調(diào)優(yōu)再到 Docker UI 的選型、部署、入口收口和后續(xù)的日常巡檢把我踩過的坑和調(diào)過的參數(shù)都攤開講。先說清楚這東西是什么。Docker UI 是給 Docker 引擎套的一層 Web 管理界面它本身也是一個容器通過掛載宿主機的容器運行時接口來讀取和操作容器、鏡像、網(wǎng)絡(luò)、數(shù)據(jù)卷。它能解決三件事第一把docker ps、docker logs、docker exec這些高頻動作變成點選第二讓多人協(xié)作時有賬號和權(quán)限的概念而不是所有人共用一個 root shell第三把“部署一套服務(wù)”沉淀成模板或編排文件減少口口相傳。適合的讀者范圍其實挺寬剛接手一臺 openEuler 服務(wù)器、想把容器管起來的新手能照著把流程走完已經(jīng)在用 Docker 但界面還停留在命令行的老手可以重點看參數(shù)調(diào)優(yōu)、安全收口和排查那幾節(jié)。1. 動手之前先想清楚為什么是 openEuler 加 Docker UI1.1 容器與虛擬化不是替代關(guān)系是兩把不同型號的刀很多人一上來就問“容器能不能完全取代虛擬機”這個問題本身就問偏了。虛擬化是在硬件之上插一層 Hypervisor給每臺虛擬機切出獨立的內(nèi)核、獨立的設(shè)備視圖隔離邊界在硬件抽象層容器是復(fù)用宿主機內(nèi)核靠 namespace 做視圖隔離、靠 cgroup 做資源限制隔離邊界在操作系統(tǒng)內(nèi)核里。這個差別決定了它們在啟動速度、資源密度、隔離強度上的全部差異也決定了你在 openEuler 上做選型時該怎么擺位置。我給一個自己常用的對照方便你直接對著業(yè)務(wù)場景挑對比維度虛擬機容器隔離層級硬件抽象層獨立內(nèi)核內(nèi)核級共享宿主內(nèi)核啟動耗時十幾秒到一分鐘毫秒到幾秒資源開銷需要預(yù)留固定內(nèi)存與 vCPU按需占用超賣空間大鏡像體積GB 級別幾十 MB 到幾百 MB單機密度十幾到幾十臺幾十到上百個典型用途強隔離、異構(gòu)系統(tǒng)、遺留應(yīng)用微服務(wù)、持續(xù)集成、灰度發(fā)布看這張表你會發(fā)現(xiàn)一個規(guī)律需要“內(nèi)核級隔離”和“跑不同內(nèi)核版本”的場景虛擬機仍然是唯一答案需要“密度”和“交付速度”的場景容器優(yōu)勢壓倒性。我實際的做法是分層——底層用虛擬機切出資源池和故障域池子里跑 openEuler再用 Docker 在池子里切服務(wù)。UI 這一層就落在這個混合結(jié)構(gòu)的上半部分它管的是容器不管虛機所以定位一定要清楚別指望它替你把資源池也管了。提示如果你所在的環(huán)境里已經(jīng)有成熟的虛擬化平臺Docker UI 的定位應(yīng)該是“應(yīng)用側(cè)的可視化入口”不要試圖讓它承擔(dān)基礎(chǔ)設(shè)施層的編排職責(zé)職責(zé)一旦混了權(quán)限模型會變得很難收口。1.2 openEuler 作為宿主發(fā)行版特性帶來的真實影響openEuler 這幾年在服務(wù)器側(cè)的存在感越來越強它默認(rèn)內(nèi)核版本較新cgroup v2 支持完整安全加固策略也相對嚴(yán)格。這些特性對跑容器是好事但也帶來幾個必須在部署前確認(rèn)的點。第一是 cgroup 版本cgroup v1 和 v2 下容器引擎的資源限制行為不完全一樣docker info里能看到 Cgroup Driver 和 Cgroup Version裝完第一件事就該看這個。第二是 SELinux 的默認(rèn)狀態(tài)openEuler 上通常是 enforcing 或 permissive這兩個狀態(tài)對掛載宿主機 socket 文件的影響完全不同后面第三節(jié)我會專門講。第三是軟件源。openEuler 有自己的軟件倉庫體系社區(qū)也維護了一部分容器相關(guān)包但版本更新節(jié)奏和上游不完全同步。我在實際項目里遇到過 EPOL 倉庫里的引擎版本落后于業(yè)務(wù)需要的 API 版本導(dǎo)致某些 compose 特性用不了。這種情況下我一般優(yōu)先選擇“官方靜態(tài)二進制 自建 systemd 單元”的方式繞開發(fā)行版打包差異代價是要自己處理依賴和升級收益是版本完全可控、行為可預(yù)期。還有一個容易被忽略的點openEuler 默認(rèn)可能預(yù)裝了 podman 或 buildah 這類容器工具它們和 Docker 的命令行工具在部分路徑上會打架尤其是/usr/bin/docker這個位置。裝之前先確認(rèn)一下有沒有殘留比裝完再排查省事得多。這個我在第四節(jié)會給出檢查命令。1.3 UI 解決的是“人”的問題別把它當(dāng)技術(shù)方案我想強調(diào)一個觀點Docker UI 不提升任何技術(shù)指標(biāo)。它不會讓你的容器跑得更快不會讓鏡像變小也不會自動幫你做高可用。它解決的是協(xié)作成本——值班同學(xué)半夜要看日志不用再找人要 SSH 權(quán)限新人接手項目能直觀看到有哪些容器、映射了什么端口、掛在哪個卷上交接時不用再寫“這臺機器上跑了什么”的文檔界面本身就是文檔。理解了這一點你在部署時的取舍就會清楚很多。既然是給人用的那么訪問入口、賬號體系、審計記錄就比“功能多不多”更重要既然是內(nèi)部工具就不要把它暴露在公網(wǎng)也不要用默認(rèn)端口和默認(rèn)密碼。我見過太多把管理面板直接映射到 0.0.0.0 上、跑了半年沒人管的例子這類資產(chǎn)一旦被掃到等于把整臺機器的 root 權(quán)限拱手讓人因為 UI 容器掛載了容器運行時接口它天然具備宿主機的等效權(quán)限。這句話不是危言聳聽后面講 socket 掛載時我會展開。2. 部署前的環(huán)境盤點三個必須先確認(rèn)的硬條件2.1 系統(tǒng)版本、內(nèi)核與磁盤的規(guī)劃方法動手前先跑幾條命令把底摸清比裝到一半發(fā)現(xiàn)問題強。系統(tǒng)版本用cat /etc/openEuler-release內(nèi)核用uname -r架構(gòu)用uname -m。openEuler 主流在用的是 22.03 LTS 和 24.03 LTS 兩個系列前者內(nèi)核 5.10后者更新一些兩者都完整支持 Docker 需要的 namespace 和 cgroup 特性不需要額外編譯內(nèi)核模塊。磁盤是重點。Docker 的默認(rèn)數(shù)據(jù)目錄在/var/lib/docker這里會同時存放鏡像層、容器可寫層、數(shù)據(jù)卷和構(gòu)建緩存。我的經(jīng)驗值是只跑幾個輕量服務(wù)給 40GB 起步跑十幾個中等規(guī)模服務(wù)100GB 比較踏實如果涉及數(shù)據(jù)庫容器或者構(gòu)建流水線單獨掛一塊盤給/var/lib/docker是必須的。原因很直接——鏡像層是共享的刪了標(biāo)簽數(shù)據(jù)層未必馬上釋放加上日志默認(rèn)不限制大小一臺跑了三個月的機器被日志撐爆根分區(qū)是極常見的事故。這里給一個可以照著算的公式用來估日志占用上限單容器日志上限等于max-size乘以max-file。假設(shè)你設(shè)置成 50MB 和 3 個文件那么單個容器最多占 150MB機器上跑 50 個容器最壞情況就是 7.5GB。這個數(shù)字必須在磁盤規(guī)劃里預(yù)留出來而不是等它漲到把根分區(qū)吃滿再去清理。我在第六節(jié)會給出對應(yīng)的daemon.json配置。內(nèi)存方面引擎本身加 UI 的常駐開銷并不大Docker 守護進程通常在 100MB 到 200MB 量級Portainer 這類面板容器也差不多在 100MB 上下真正吃內(nèi)存的是業(yè)務(wù)容器。所以規(guī)劃時別把 UI 當(dāng)成負(fù)擔(dān)它幾乎可以忽略不計。不過有一點要注意如果宿主機內(nèi)存比較緊張務(wù)必給容器設(shè)置內(nèi)存上限否則單個容器內(nèi)存泄漏會觸發(fā)宿主機 OOM Killer它挑誰下手是隨機的殺掉引擎進程導(dǎo)致整機容器全掛的情況我遇到過不止一次。2.2 軟件源、依賴與舊組件的清理順序裝 Docker 之前有一輪清理工作順序錯了會很麻煩。第一步查殘留rpm -qa | grep -Ei docker|podman|buildah|containerd|runc把結(jié)果看一眼。如果存在 podman 和 buildah它們和 Docker 共享runc和部分容器運行時組件同時裝可能引發(fā)依賴沖突實踐中最省事的處理是先卸載它們裝完 Docker 需要的話再單獨裝回來。第二步處理倉庫。openEuler 上可以走社區(qū)維護的容器相關(guān)倉庫也可以直接配置上游的軟件源。走上游源時有個坑必須提前說上游倉庫路徑里通常帶$releasever變量而 openEuler 的$releasever值是22.03這種格式拼出來的路徑在上游并不存在dnf makecache會直接報 404。解決辦法是把倉庫文件里的變量寫死成對應(yīng)的主版本號比如按兼容性填8或9或者干脆不用倉庫走靜態(tài)二進制。這個細節(jié)網(wǎng)上很多教程不會提但它確實是新手卡住時間最長的一步。第三步是基礎(chǔ)依賴。靜態(tài)二進制方案需要iptables、iproute、libcgroup、systemd這些openEuler 默認(rèn)基本都齊了只需要確認(rèn)iptables是 nft 還是 legacy 后端。新版 Docker 默認(rèn)走 nft 后端如果系統(tǒng)里只有 legacy 的iptables引擎啟動后創(chuàng)建規(guī)則會失敗表現(xiàn)為容器端口映射不生效但容器本身是運行狀態(tài)。檢查命令是iptables --version如果輸出里沒有nf_tables字樣就需要額外裝iptables-nft包讓兩個后端并存。注意清理和卸載動作一定要在業(yè)務(wù)低峰做并要求有回滾手段。刪除包的同時如果帶走了配置文件重建所需的時間往往比預(yù)想的長。2.3 網(wǎng)絡(luò)、時間與安全基線的三件小事第一件是時間同步。容器里跑的東西一旦涉及證書、令牌、日志時間戳宿主時間漂移就是災(zāi)難。timedatectl status看一眼有沒有同步源chronyc tracking看偏差。我一般要求偏差控制在秒級以內(nèi)因為 TLS 證書校驗對時間很敏感差出幾分鐘就會報證書未生效或已過期而這個報錯在容器里往往被翻譯成“連接失敗”排查方向會被帶偏。第二件是防火墻。openEuler 默認(rèn)可能啟用 firewalld這里有一個非常經(jīng)典的坑Docker 啟動時會自己往 iptables 的nat表和filter表里寫規(guī)則而這些規(guī)則位于 firewalld 管理鏈的下游導(dǎo)致你通過 firewalld 關(guān)掉的端口只要被容器映射了仍然能從外部訪問。也就是說firewall-cmd --remove-port對容器端口是無效的。正確的做法有兩種要么把容器端口綁定到127.0.0.1上只讓本機的 Nginx 轉(zhuǎn)發(fā)要么把限制規(guī)則寫進DOCKER-USER鏈這個鏈?zhǔn)?Docker 專門留給用戶自定義規(guī)則的入口位置在容器規(guī)則之前優(yōu)先級正確。第三件是主機名和 DNS。給機器起一個能看懂的名字比如docker-ui-01后續(xù)在界面里看到節(jié)點名字時不會一臉懵。DNS 方面建議確認(rèn)/etc/resolv.conf里沒有指向127.0.0.53這類只有本機 systemd-resolved 才認(rèn)的地址因為容器默認(rèn)繼承宿主 DNS 配置而127.0.0.53在容器網(wǎng)絡(luò)命名空間里是不可達的結(jié)果就是容器能啟動、能 ping 通 IP但域名解析全部失敗。這個問題在第六節(jié)還會詳細講。3. 引擎安裝的完整實操兩條路線與參數(shù)調(diào)優(yōu)3.1 路線選擇倉庫安裝還是靜態(tài)二進制我把兩條路線的差異攤開方便你按場景選。倉庫安裝的優(yōu)點是省事dnf install一條命令依賴自動處理升級也走dnf upgrade缺點是版本受限于倉庫遇到上游打包滯后時沒轍。靜態(tài)二進制的優(yōu)點是版本完全由你決定解壓即用遷移方便缺點是需要自己寫 systemd 單元升級要手動替換二進制并重啟而且出問題時沒有包管理器的完整性校驗兜底。我的選擇邏輯是如果是個人實驗或者小規(guī)模環(huán)境倉庫安裝足夠如果是團隊共用、需要長期維護、對版本有明確要求走靜態(tài)二進制更省心。下面兩條路線我都會給出關(guān)鍵步驟倉庫那條我會寫清變量替換的坑靜態(tài)那條我會寫全單元文件。3.2 路線一配置軟件源后安裝倉庫配置文件放在/etc/yum.repos.d/下名字隨意后綴必須是.repo。內(nèi)容的關(guān)鍵是baseurl里的版本號不能留變量gpgcheck保持開啟gpgkey指向?qū)?yīng)的密鑰地址。寫完執(zhí)行dnf clean all dnf makecache能正常拉到元數(shù)據(jù)說明配置對了。安裝時我習(xí)慣顯式帶上--allowerasing原因是如果系統(tǒng)里還有舊的運行時組件不加這個參數(shù)會因為文件沖突直接失敗報錯信息里一堆file /usr/bin/xxx conflicts新手看了容易懵。帶上之后 dnf 會自動把沖突的包換掉代價是你得確認(rèn)被換掉的包不是業(yè)務(wù)依賴。裝完之后立刻驗證docker version看客戶端和服務(wù)端是否都返回只出來客戶端說明服務(wù)端沒起docker info看Server Version、Storage Driver、Cgroup Version、Kernel Version四項這四項是后續(xù)所有問題的判斷依據(jù)。還需要處理用戶組。把日常運維賬號加進docker組避免每條命令都sudousermod -aG docker your_user newgrp docker這里必須說一句實話加入docker組等價于拿到 root 權(quán)限因為你可以直接docker run -v /:/host把宿主機根目錄掛進容器再改文件。這不是設(shè)計缺陷是機制使然。所以我的做法是只給確實需要的人開同時把 UI 的權(quán)限體系用起來讓大部分人通過 UI 操作而不是直接上 SSH。3.3 路線二靜態(tài)二進制安裝與 systemd 單元下載對應(yīng)架構(gòu)的壓縮包解壓后把docker/目錄下的可執(zhí)行文件復(fù)制到/usr/bin/然后在/etc/systemd/system/docker.service寫單元文件。核心配置如下[Unit] DescriptionDocker Application Container Engine Afternetwork-online.target firewalld.service Wantsnetwork-online.target [Service] Typenotify ExecStart/usr/bin/dockerd ExecReload/bin/kill -s HUP $MAINPID TimeoutStartSec0 Restartalways RestartSec2 LimitNOFILEinfinity LimitNPROCinfinity Delegateyes KillModeprocess OOMScoreAdjust-500 [Install] WantedBymulti-user.target幾個參數(shù)值得解釋。Typenotify讓 systemd 等引擎真正就緒后才認(rèn)為啟動完成避免服務(wù)狀態(tài)顯示 running 但實際還在初始化。LimitNOFILEinfinity是因為容器密集場景下文件句柄消耗很大默認(rèn)的 1024 遠遠不夠容器數(shù)一多就會出現(xiàn)too many open files。OOMScoreAdjust-500降低引擎被內(nèi)核優(yōu)先殺掉的概率這個在內(nèi)存緊張時能救命。Restartalways配合RestartSec2提供基礎(chǔ)的自動拉起能力但注意它不是萬能的如果引擎是因為配置錯誤反復(fù)崩潰你會看到不斷重啟的循環(huán)要結(jié)合journalctl -u docker -n 100看具體原因。寫完之后systemctl daemon-reload systemctl enable --now docker再跑一次docker info驗證。靜態(tài)二進制方案下 containerd 會由 dockerd 自己拉起不需要額外啟用 containerd 服務(wù)這一點和包管理器方案不同別多此一舉去啟兩個 containerd 搶同一個 socket 目錄會直接報錯。3.4 daemon.json五個真正影響長期運行的參數(shù)配置文件放在/etc/docker/daemon.json改完必須重啟引擎systemctl reload docker只對部分參數(shù)生效圖省事用 reload 結(jié)果參數(shù)沒生效、排查半天的情況我見過。下面這份是我在多數(shù)環(huán)境里會用的基線{ data-root: /data/docker, log-driver: json-file, log-opts: { max-size: 50m, max-file: 3 }, live-restore: true, default-address-pools: [ { base: 172.30.0.0/16, size: 24 } ], exec-opts: [native.cgroupdriversystemd] }>docker volume create portainer_data docker run -d \ --name portainer \ --restartalways \ -p 127.0.0.1:9443:9443 \ -p 127.0.0.1:8000:8000 \ -v /var/run/docker.sock:/var/run/docker.sock \ -v portainer_data:/data \ portainer/portainer-ce:lts-p前面的127.0.0.1是我強烈建議加的。不加的話端口監(jiān)聽在0.0.0.0等于把管理面板直接暴露出去后面再加 Nginx 也擋不住——別人可以直接打容器端口。加上綁定之后外部只能通過本機的轉(zhuǎn)發(fā)層訪問攻擊面立刻收窄了一大截。8000端口是邊緣計算代理用的單機環(huán)境其實用不上我保留它是因為某些版本的界面會用到這個端口做節(jié)點注冊去掉也能跑屬于可選項。9443是默認(rèn)的 HTTPS 端口新版 UI 默認(rèn)只走 HTTPS早期版本還提供過一個 HTTP 端口現(xiàn)在需要顯式打開才有我傾向于不開 HTTP直接走 HTTPS 更省心。-v /var/run/docker.sock:/var/run/docker.sock這一行是整個部署里最需要理解的。它把宿主機上的容器運行時接口以 Unix socket 文件的形式掛進容器UI 通過這個文件發(fā) HTTP 請求來操作引擎。這意味著容器里的進程實際擁有和宿主機 root 同等的容器管理權(quán)限。所以這個掛載不能給任意鏡像用只能給自己審查過的 UI 鏡像用而且一旦 UI 本身被攻破宿主機也就失守了。如果你對這點比較介意有一個中間方案在前面加一層 socket 白名單網(wǎng)關(guān)只放行讀操作和有限的寫操作UI 連網(wǎng)關(guān)不連原始 socket。這個方案會增加一個容器和一份配置但能把“UI 被攻破等于宿主機失守”降級成“只能做允許的動作”。規(guī)模不大時可以先不做但要清楚這個風(fēng)險存在。portainer/portainer-ce:lts這個標(biāo)簽我建議在生產(chǎn)上換成具體版本號比如明確寫死到某個小版本。浮動標(biāo)簽在升級時可能帶來非預(yù)期變更管理面組件尤其不該這樣因為界面結(jié)構(gòu)變化會影響值班同學(xué)的操作習(xí)慣。4.3 首次初始化與安全收口容器起來之后先看日志確認(rèn)沒有報錯docker logs portainer里如果出現(xiàn)權(quán)限相關(guān)的錯誤基本都是 socket 掛載或 SELinux 的問題第六節(jié)有排查表。然后瀏覽器訪問https://服務(wù)器IP:9443此時是自簽證書瀏覽器會告警點繼續(xù)即可反正后面會用 Nginx 接管。第一件事是設(shè)置管理員密碼第二件事是選環(huán)境類型單機選 Docker 就行。初始化完成后有幾個收口動作建議立刻做把默認(rèn)的admin用戶名改掉開啟雙因素認(rèn)證如果環(huán)境支持給團隊成員建普通賬號而不是共用管理員把“允許外部加載應(yīng)用模板”這類用不到的功能關(guān)掉。管理面的原則是能關(guān)就關(guān)留下的每一個入口都會成為后續(xù)審計的負(fù)擔(dān)。還有一個細節(jié)初始化有個時間窗口如果容器起來后超過幾分鐘沒人訪問某些版本會要求重啟容器才能繼續(xù)初始化。這不是故障是安全設(shè)計。我遇到過同事以為部署失敗反復(fù)重建容器其實是沒在窗口內(nèi)完成初始化白折騰。4.4 用編排文件管理 UI 自身UI 自己也是容器用編排文件管它升級和遷移會舒服很多services: portainer: image: portainer/portainer-ce:2.20.3 container_name: portainer restart: always ports: - 127.0.0.1:9443:9443 volumes: - /var/run/docker.sock:/var/run/docker.sock - portainer_data:/data volumes: portainer_data: external: true注意數(shù)據(jù)卷聲明成external因為你已經(jīng)用命令建過了編排文件如果自己再建一個同名卷會沖突。把文件放在/opt/stacks/portainer/這類固定路徑下和業(yè)務(wù)編排文件分開避免哪天誤刪業(yè)務(wù)目錄把管理面一起帶走。升級時改鏡像版本號docker compose up -d就完成替換回滾就把版本號改回去比記命令靠譜。5. 訪問入口收口Nginx 前置與證書配置5.1 為什么建議再套一層UI 自帶的 HTTPS 用的是容器內(nèi)置的自簽證書每次重建容器證書都可能變?yōu)g覽器告警會反復(fù)出現(xiàn)值班同學(xué)點“繼續(xù)訪問”點多了就麻木了這恰恰是安全習(xí)慣被磨掉的過程。套一層 Nginx 的好處有三個證書統(tǒng)一管理換證書不用動容器可以加訪問控制比如只允許內(nèi)網(wǎng)段訪問、加基礎(chǔ)認(rèn)證做二次校驗可以做統(tǒng)一入口多個管理面板掛在不同路徑下對外只暴露一個域名和端口。這一層的定位就是轉(zhuǎn)發(fā)不做緩存不做改寫配置越簡單越好因為它是所有管理流量的必經(jīng)之路多一條規(guī)則就多一個故障點。5.2 配置示例與證書生成先出證書內(nèi)網(wǎng)用自簽就夠了關(guān)鍵是把它固定下來mkdir -p /etc/nginx/certs openssl req -x509 -nodes -days 3650 -newkey rsa:2048 \ -keyout /etc/nginx/certs/docker.key \ -out /etc/nginx/certs/docker.crt \ -subj /CNdocker-ui.internal有效期給到 3650 天內(nèi)網(wǎng)自簽沒必要頻繁換但要在日歷上記一筆到期提醒我吃過證書過期導(dǎo)致整個面板打不開、排查半天以為是服務(wù)掛了的虧。如果內(nèi)網(wǎng)有統(tǒng)一的證書簽發(fā)設(shè)施優(yōu)先用統(tǒng)一簽發(fā)省掉信任導(dǎo)入的麻煩。Nginx 配置的關(guān)鍵點在于后端是 HTTPS需要關(guān)掉后端證書校驗同時要把長連接的升級頭帶上否則界面里某些實時刷新的功能會失效server { listen 443 ssl; server_name docker-ui.internal; ssl_certificate /etc/nginx/certs/docker.crt; ssl_certificate_key /etc/nginx/certs/docker.key; client_max_body_size 0; location / { proxy_pass https://127.0.0.1:9443; proxy_ssl_verify off; proxy_http_version 1.1; proxy_set_header Host $host; proxy_set_header X-Real-IP $remote_addr; proxy_set_header X-Forwarded-For $proxy_add_x_forwarded_for; proxy_set_header X-Forwarded-Proto $scheme; proxy_set_header Upgrade $http_upgrade; proxy_set_header Connection upgrade; proxy_read_timeout 3600s; } }client_max_body_size 0是必須的因為通過界面上傳鏡像或?qū)刖幣盼募r請求體可能很大默認(rèn)的 1MB 限制會直接返回 413而界面上只會顯示一個含糊的失敗提示。proxy_read_timeout拉長到一小時是因為查看日志流這類長連接會被默認(rèn) 60 秒掐斷表現(xiàn)為日志看一會兒就不動了容易誤判成服務(wù)卡死。proxy_ssl_verify off只在這個內(nèi)網(wǎng)回環(huán)場景下可以接受因為后端就在本機不存在被中間人截獲的路徑。配完nginx -t驗證語法再systemctl reload nginx。驗證方式是訪問域名看證書是不是 Nginx 那張同時確認(rèn)界面能正常加載、日志能持續(xù)刷新。6. 踩過的坑排查思路與速查表6.1 鏡像拉不下來先分層排除再動手這個問題我被問得最多排查順序錯了會浪費大量時間。正確的順序是從外到內(nèi)先在宿主機上curl -I目標(biāo)倉庫地址確認(rèn)網(wǎng)絡(luò)可達和證書鏈正常再docker pull一個極小的公共鏡像做對照排除是單個鏡像的問題還是全局問題再看journalctl -u docker -n 200里的具體錯誤碼。常見的三種錯誤對應(yīng)三種原因。報 TLS 握手超時多半是宿主時間偏差或者中間有設(shè)備做了證書攔截報no such host或者解析超時是 DNS 問題容器內(nèi)繼承的resolv.conf指向了本機回環(huán)地址的解析服務(wù)在容器命名空間里根本連不上解決辦法是在daemon.json里顯式指定dns字段或者把宿主機的解析配置改成容器可訪問的地址報i/o timeout但curl正常很可能是 MTU 不匹配鏈路上存在隧道或者 overlay 封裝時默認(rèn) 1500 的 MTU 會讓大包被丟棄小包正常大包卡住表現(xiàn)就是拉取進度條走到一半停住。MTU 的處理方法是在daemon.json里加mtu: 1450然后重啟引擎并重建網(wǎng)絡(luò)。這個值不是固定的1400 到 1450 之間試判斷標(biāo)準(zhǔn)是ping -M do -s 1472這類不分片探測能不能通。我給的這個排查法雖然土但比翻日志快。6.2 端口不通與權(quán)限拒絕兩類完全不同的原因容器跑了但端口訪問不了第一步看docker port 容器名確認(rèn)映射關(guān)系第二步在宿主機curl 127.0.0.1:端口繞開防火墻測試第三步從另一臺機器測。這三步能把問題定位到“映射錯”“本機防火墻”“鏈路防火墻”三個層面之一。如果本機通、外部不通八成是前面說的 firewalld 與 Docker 規(guī)則順序問題。驗證方法很直接iptables -t nat -L -n看有沒有對應(yīng)的 DNAT 規(guī)則有規(guī)則但外部不通就去DOCKER-USER鏈里找有沒有被攔截。解決辦法是把放行規(guī)則插到DOCKER-USER鏈?zhǔn)譱ptables -I DOCKER-USER -s 內(nèi)網(wǎng)段 -j ACCEPT再補一條默認(rèn)拒絕。注意這些規(guī)則重啟會丟要寫進開機腳本或者用iptables-save持久化。另一類問題是 SELinux 拒絕。表現(xiàn)是容器啟動失敗日志里有permission deniedausearch -m avc -ts recent能看到具體的拒絕記錄。UI 掛載 socket 時最容易碰到處理辦法有兩種給掛載加:z標(biāo)簽讓 SELinux 重打上下文或者針對容器相關(guān)布爾值做定向放行。我不建議直接把 SELinux 設(shè)成 disabled那等于放棄了最后一道防線而且改回來很麻煩。定向放行雖然要多花十分鐘但長期看是值得的。6.3 磁盤告急與數(shù)據(jù)目錄遷移根分區(qū)被吃滿的現(xiàn)場通常是這樣的df -h顯示 100%du -sh /var/lib/docker/*一看overlay2占了絕大部分再進去看是某個容器的日志文件幾個 G。這時候別急著刪目錄先按前面說的給daemon.json加日志上限并重啟引擎新日志會按新策略滾動老的大文件再單獨清理。直接rm正在被進程打開的文件空間不會立刻釋放因為文件句柄還在lsof | grep deleted能看到這類懸空文件。數(shù)據(jù)目錄遷移要按順序來停業(yè)務(wù)容器、停引擎、用rsync -aHAX同步、確認(rèn)新目錄權(quán)限、改daemon.json、啟引擎、驗證docker info里的 Root Dir 已指向新路徑、再啟業(yè)務(wù)容器。中間任何一步跳過都可能出現(xiàn)“容器還在但數(shù)據(jù)沒了”的情況。我一般會在遷移前把docker ps -a和docker volume ls的輸出存一份遷移后逐項核對雖然土但有效。6.4 UI 打不開或報 500 的速查路徑這類問題的排查我整理成了一張表按命中率排序現(xiàn)象最可能原因驗證方式處理頁面 500日志報連接 socket 失敗socket 掛載路徑錯或權(quán)限不足ls -l /var/run/docker.sock確認(rèn)掛載路徑檢查 SELinux 上下文頁面能開但容器列表為空UI 連的是別的引擎或環(huán)境配錯看 UI 里的環(huán)境配置重新指向本機 socket上傳編排文件報 413轉(zhuǎn)發(fā)層請求體限制看 Nginx 錯誤日志調(diào)整client_max_body_size日志界面幾秒后停止刷新轉(zhuǎn)發(fā)層讀超時觀察停止的固定間隔調(diào)大proxy_read_timeout界面操作全部超時引擎無響應(yīng)或磁盤滿docker info是否卡住先救引擎再查 UI證書告警反復(fù)出現(xiàn)用了容器內(nèi)置自簽證書看證書簽發(fā)者用 Nginx 統(tǒng)一證書6.5 三條來自現(xiàn)場的經(jīng)驗第一條出問題先看引擎再看 UI。UI 只是殼它所有的能力都來自引擎接口引擎不健康的時候 UI 的表現(xiàn)五花八門容易把人引向錯誤方向。養(yǎng)成先跑docker info的習(xí)慣能省掉一半排查時間。第二條任何變更前先留證據(jù)。docker ps -a、docker images、docker volume ls、daemon.json備份四樣?xùn)|西存一份出問題時對照著看比憑記憶靠譜得多。第三條別在生產(chǎn)上試新版本 UI。管理面的界面變更會影響操作習(xí)慣而操作習(xí)慣在應(yīng)急時就是肌肉記憶。要升級先在測試環(huán)境用一周確認(rèn)常用路徑?jīng)]變再推。7. 長期可用備份、升級與日常巡檢7.1 備份策略備份的是配置不是數(shù)據(jù)管理面的備份重點在于數(shù)據(jù)卷和編排文件不在鏡像。數(shù)據(jù)卷里存的是用戶、環(huán)境、模板、設(shè)置這些信息丟了就得重建一套重新配權(quán)限很煩。備份方式很直接停容器用臨時容器把卷打包成 tar 落到宿主機再傳到備份目錄最后啟容器。整個過程對業(yè)務(wù)容器沒有影響因為停的只是管理面。編排文件和證書目錄要一起備份因為它們和卷里的配置是配套的。我習(xí)慣把這三樣?xùn)|西卷歸檔、編排文件、證書放在同一個帶日期的目錄下恢復(fù)時整體解壓不會漏。備份頻率看團隊規(guī)模賬號體系變化不頻繁的話一周一次加上變更前手動一次就夠。7.2 升級與回滾的具體動作升級前先看新版本的變更說明里有沒有涉及認(rèn)證方式、數(shù)據(jù)結(jié)構(gòu)的調(diào)整有的話必須先備份再動。動作順序是改編排文件里的鏡像版本、docker compose pull、docker compose up -d、看日志確認(rèn)遷移完成、登錄驗證核心功能。如果驗證不通過把版本號改回舊值再up -d因為數(shù)據(jù)卷通常做了向后兼容遷移回滾到舊版本多數(shù)情況下能正常讀取但有極小概率舊版本讀不了新結(jié)構(gòu)所以備份是回滾的前提。引擎本身的升級我建議和 UI 升級錯開至少一周。兩個組件同時變更出問題時無法判斷是誰引起的排查成本翻倍。7.3 巡檢清單每周花十分鐘我給自己定的巡檢項很樸素docker system df看鏡像和卷的占用趨勢漲得太快說明有東西在堆積df -h看磁盤水位超過 80% 就提前處理docker ps --filter healthunhealthy看有沒有不健康的容器journalctl -u docker --since 7 days ago | grep -i error看引擎有沒有反復(fù)報錯最后登錄 UI 掃一眼確認(rèn)賬號沒有多余的、模板沒有被亂改。這套動作十分鐘能做完但能擋住絕大多數(shù)“突然全線崩”的場景因為所有大故障在發(fā)生前都會有小征兆只是沒人看。我在實際使用中最大的體會是容器這套東西的上手門檻很低但長期可用性完全取決于這些瑣碎的日常動作裝的時候花的心思只是開頭后面每周十分鐘才是真正決定它能不能撐住的部分。最后分享一個小技巧給 UI 加一個只讀賬號專門給不常操作但需要看狀態(tài)的同事用然后把這個賬號的登錄方式寫進值班手冊第一頁。既省了開權(quán)限的溝通成本也把誤操作的可能性壓到了最低。
返回列表
PREV
查看更多資訊
NEXT
返回資訊列表
亚洲欧美电影| 91真人天天在线| 国产无码精品久久久久久| 啊啊啊97视频| 亚洲激情网一二三四区| 国产日逼视频| 欧美黄页| 久久线上视频免费看| 日欧美色| 伊人综合色网| 国产精品久久久久综合| 国产东北女人在线视频| 凹凸精品熟女在线观看| 一本大道久| se吧提供国产乱老熟视频胖女人| 老熟女综合网| 天天操天天日天天干| 加勒比在线视频| 综合欧美日本三级| 97干在线视频| 亚洲午夜福利视频| 亚洲色 国产 欧美 日韩| 翔田千里A片一区二区| 高精欧美色| 都市激情人妻一区二区青青操视频 | 欧成人在线| 97天天弄| 麻豆成人av| 色呦呦、国产精品| 久久天天性久久伊人| 激情五月综合| 伊人AAA| 久久久精品国产亚洲AV无码| 久久久 国产精品| 欧美激情性爱视频网站| 综合av社区| 东京热天堂网| 香港澳门日本三级网站| 日韩人妻播放| 国产精品久久久久久久毛片1| 国产女同在线观看视频| 欧美自拍偷拍综合图片| 亚洲1区2区三区高清中文字幕| 成人精品一区二区三区| 久草精品一区 | 五月综合视频| 偷拍网站久久男女男| 国语人妻精彩刺激| 成人色女网| 丰满人妻一区二区三区在线| 亚洲国产综合久久久性感熟妇| 综合熟女| 亚洲国产一级中文综合久久天堂在线免费观看 | 在免费jIzzjIzz在线视频| 不卡av在线中文字幕| 国产熟女完整版中字| 亚洲最新中文字幕免费| 在线精品福利免费播放| 夜夜爽33333| 婷婷久草一区二区三区| 免费看污网站| 亚洲综合射| 青青草国产一区二区三区| 久久6热精品99视频| 蜜桃臀一区二区aV| 99色网| 思思视频免费看网站| 亚洲欧洲日韩天堂av| 国产精品激情久久久久久久| 啪啪91| 超碰 另类 欧美| 亚洲九九爱| 亚洲自拍小说| 高清无码久操视频| 亚洲欧美激情在线视频| 亚洲AO在线| 亚洲色图自拍| 97视频免费在线观看| 亚洲一区二区久久久久| 伊人天堂在线| 欧美在线综合| 热思思免费视频| 亚洲视频小说| 久草资源在线| 国产精品久久久久亚洲av| 亚洲欧美成人在线| 午夜福利在线合集| 三久久久四久久久久| 成人性爱视频在线看| 亚洲欧美日韩精品久久久一区二区| www色婷婷| 午夜欧美J进J出白浆流出久久久 | 国产日逼视频| 亚洲不卡不卡中文字幕不卡| 亚洲精品熟妇1区2区3区。| 久久精品国产欧美日韩亚洲欧美日韩中文久久国产一区 | 精品成人av一区二区三区在线| 亚洲s在线观看| 伦理日韩国产久久| 亚洲黄网在哪免费看| 日韩另类色图| 91亚洲人| 开心五月婷婷激情| 欧美日韩国产人人| 日日噜噜夜夜狠狠视频无| 亚洲午夜AV| 伊人96在线| 搡老熟女免费视频| 99re6国产精品99re在线| 99热99re6国产在线播放| 国产精品麻豆成人av| 亚洲五月丁香花狠狠干一区二区三区| 天操天操夜操夜月月年年操操 | 久久国产对白激情浪潮| 91网九色蝌蚪操熟女| 婷婷久久综合久| 美國A片| 日韩二级| 精品国产Av无码久久久亚洲| 久久人妻97久久久久久久| 一本大道久| 爱做久久久久久| 欧美一二级| 国产福利av精彩对白| 日日做夜狠狠爱欧美黑人| 屁股久久久久久| 91视频国品一二三区| 国产九九九九九九| 国内三级自拍小视频在线观看| 亚洲日韩久久精品一区| 亚洲一区二区三区AV无码| 99re热| 国产大学生口爆吞精合集| 亚州久久9| 日韩在线地址一| 神马午夜久久久| 亚洲?V无码专区在线电影| 久久精品视频28| 亚洲熟女乱色一区二区三区| 久久亚洲色图中文字幕| 国产九九九九九九九九| 亚洲人妻精品一区二区| 久久久精品日本一道| 日本色日夜干| 国产白嫩精品久久| 3p国产欧美99热| 亚洲图片 欧美电影| 99热日本| 国产乱伦视频污| 久久久久国产精品久久久| 综合色图,成人综合网| 福利视频香蕉免费一区二区在线| 香港成人一级视频在线青青草| 伊人久久综合影院| 91精品国| 国产精品网站免费 | 国产天美传媒精品| 天天做天天爱天天爽| 97干色| 国产超碰在线一区| 99精品在线观看| 欧洲综合视频| 91chinese在线| 亚洲男人天堂av| 天美国产精品| 成人a大片在线观看| 亚洲情色在线| 欧美AB在线观看| 亚洲成人一区二区精品| 蜜臀久久99精品久久久久久婷婷| 另类亚洲图色| 嗯嗯啊操我| 在线观看成人性爱免费小视频| 老熟妇一区二区三区| 久久,精品一二三| 国产日韩无码一区二区三区久久区| 日韩资源网| 亚洲色吧网| 欧美性爱一级操| 中文字幕在线观| 夜夜免费视频| 九九热精彩视频| 无码免费一区二区三区啪啪| 九月色婷婷| 萌白酱自拍视频| 91综合网在线| 中文字幕无码不卡啪啪| 青草精品视频一日本久久久久网站| 久插综合| 欧美97日韩| 久久国产三区| 综合色图,成人综合网| 91在线视频观看国产| 97欧美视频| 日韩91网站| 2017超碰| 欧洲精品区| 日韩超碰精品综合| 日本久久久久久久久| 秋霞欧美性爰视频| 国产三级日产三级韩国三级| 为用户提供免费看黄网址在线观看| 久九色| 亚洲欧美变态| 欧美在线第五页| 日韩一区二区熟女| 中文字幕丝袜人妻| 久久m| 情色av电影| 男人的天堂VA| 精品国产乱码久久久久久久久久毛片| 久久女女| 91色插| 97色97干| 亚洲本色精品一区二区久久| 五月丁香黄色网| 91狠狠| 9久久久久| 97亚洲中文| 亚洲 欧美 色图| www亚洲欧美| 欧美 亚洲精品首页| 噜噜瑟| 超碰99re| www.99色| 婷婷五月成人| 日欧毛片久久| 99这里只有精品| 久久久天堂| 大香蕉手机在线| 久久嫩草| www久久国产精品| 天天懆天天日| 日韩成人大片在线观看| 大香蕉伊人色偷偷在线| 大香蕉在线视频15| 久草电影网| 蜜臀久久99精品久久久久| www.av家庭乱伦| 成人av福利在线观看| 370p日韩欧美亚洲精品| 玖色AV| 淫骚熟女一区二区三区| 亚洲熟女少妇免费视频| yaouchengrenav| 青青操综合网| 91视频国品一二三区| 国产传媒日本欧美专区| 欧美综合自拍亚洲综合图| 国产日韩怡红院| 日韩欧美亚洲自拍偷拍| 夜夜嗨老熟女AV一区二区三区| 天堂av最新电影网| 无遮挡又黄又刺激的视频| www亚洲免费| 久久99人妖视频国产| 大奶啊啊好爽| 超碰99在线| 欧美一级美片在线观看免费| 制服乱伦| 国产高清不卡视频| 丰满人妻-区二区三区免费看 | 亚洲国产剧情少妇激情| 怡红院亚洲怡春院av| 男人天堂2017| 久久人妻视频网| 一区麻豆 高清中文字幕| 台湾佬中文娱乐网久久久久久久久久com | 午夜福利在线视频1000| 亚洲欧美黄| 国产Aα| 啊啊啊啊嗯嗯嗯用力好爽 | 色综合美国| 欧美草草| 老熟女乱子伦中文字幕一区二区| 亚洲AV无码天美传媒一区| 色天堂在线观看| 欧美 精品国产制服第一页| 亚洲av无码成人精品国产| 天天综合网入口~91| 天天天干977| 久久精品国产亚洲AV无码做| 黄呦呦在线| 狠狠干91| 男人天堂日日夜夜| 一起草三级AV电影在线观看| 97 超碰 人人做 人人爱| 九九九九精| 欧美色九九| 欧美日本一区二区a人| 99精品丰满人妻无| 大香蕉欧美| 欧美日不卡| 超碰97久| 亚洲九区| 久久久久99精品成人片蜜臀 | 97精品中文字幕| 四虎国产精品永久入口| 少妇500双飞99| 韩三级a视频在线观看| 日韩乱码Av| 亚洲无码日韩电影| 人妻天天夜夜爽一区二区| 久久久久密| 欧美人妻制服| 青青操青娱乐| 国产97亚洲| 夜色五月天| 亚洲影视高清第一页| 波多野42部无码喷潮在线观看| 色综合中文字幕不卡| 精品少妇99| 五月丁香婷婷啪啪| 亚洲图片另类| 97久精品| 日韩三级在线观看网站| 亚洲AV乱码专区国产噜噜亚洲 | 成人一二| 91精品人妻一区二区-全集完整版免费正片国语-B02AV | 亚洲不卡av在线| 加勒比伊人| 泰国AV在线观看| 免费观看成人www精品视频| 91爱综合| 97超碰欧美精品| 久久人人爽人人爽人人片Ⅴ| 黄页av| 久操综合在线| 精品人妻中文字幕高清| 97色妞| japan日本高清乱xxxx| 亚洲欧美综合网站| caopeng97| 亚洲无码太久| 中出在线视频| 久久天天摸| 成人26uuu| 亚欧美天堂在线| 八人操人人摸人人看| 天美久久久久| 尤物av网站| 久艾草在线精品视频在线观看| 激情黄色五月天| 99色色网| 无码一区二区精品视频久久久春药 | 人妻少妇色综合| 3p国产色噜噜一区| 久久丁香久草综合网| 碰超人人在线一区二区三区| 婷婷九月色| 久操网视频| 亚洲欧洲日韩中文字幕一区| 91精品老女人| 九九超碰综合网| 91久久婷婷| 熟妇综合一区二区三区| 中文一区二区| 97在线免费看| a级理论午夜日本| 欧美 精品国产制服第一页| 肉丝无码中文高清| 一区二区三区 丝袜高跟| 人妻日日干| 搡老女人老91妇女老熟女| 久久原创中文| 亚洲第一色页夜| 日本三级大片| 国产精品久久久久久无码红治院| 100啪啪视频大全| 丝袜视频网国产90| 嫩草影院永久在线制服丝袜| 99热这里只有精| 国产18精品亚洲精品| 一区二区精品日韩欧美在线观看 | 亚洲 日韩 丝袜 熟女 变态| 亚洲三区视频| A级片日韩欧美国产欧美视频精选观看| 欧洲自拍第一页| 伊人991| 青青操少妇| Julia在线播放亚洲久久| 在线观看AV片| 国产最新小视频在线播放下载| 啊啊啊爽爽| 一区二区视频在看| 最新AV在线| 久草成人影片| 亚洲欧洲激情| 超碰久草| 91高清日| 蜜臀99久久精品久久久久久| 97天天插| 91无码人妻精品一区二区三区蜜桃| 久久爱超碰网| 九九九九精品一区| 欧美少妇高潮久久91| 开心六月色| 国产偷仑| 色综和网| 大香蕉青青9| 操淫穴亚洲五月丁香| 超碰免费欧美7| 欧美性天天影院| 亚洲综合校园春色| 青青草玖玖爱| 久久九九精品一区二区| 欧综合网| 国产精品不卡高清在线观看| www男人天堂| 五月天九九日国产精品一区二区三区| 青青草原香蕉日本Ap| 96国产污污污丝袜| 尤物视频新赏网鲜网色诱网| 天天色图| 视频国产精品未满十八禁止在线观看| 99精品久久久久久久婷婷| 中文字幕免费看大片| 色色色天美视频| 日韩性爱电影一区| 久久一二三四五六七八九区区区 | 九九九精品色乱九九九| 后入合集| 99无码狠狠久久| 天天操天天干一区二区 | 98福利在线视频| 午夜精品久久久久久久99| 久久精品操| 性猛交| 国产色综合亚洲色综合吹潮| 婷婷中文网| 精品国产乱码久久久久久久久1| 91在线免费观看处女| 美欧老女人97| 欧美 亚洲 在线| 亚洲精品白浆高清久久久久久| 国产成人一级av88| 不卡在线一区,精品一区二区三区中| 熟妇亚洲一区二区三区| 亚洲素人综合| 久久久久久99AV无码免费网站| 操逼啊啊啊91| 国产欧美伊人| 智利AV在线网| 中文操逼字幕| 大香蕉黄色一区| 中文字幕一区二区三区蜜臀| 亚洲AV色图一区| 亚洲无992tv| 亚洲黄色网址视频| 韩国轻伦国内自拍一区| 男人的天堂VA| 日本三级一区二区 在线| 欧美日韩99| 白 大 人妻 区 在线| 玖玖久久久| 播播亚洲小说亚洲| 一道本东京热加勒比一区二区三区| 韩国毛片一区二区三区| 天天综合亚洲综合| 亚洲欧美中文日韩视频中国语| 校园春色综合色| 亚洲毛片久久| 日本性爱欧美性爱| 色鬼在线综合| 青春草莓视频在线观看网址| 任你爽视频| 东北女人操比视频| 国产精品探花色| 性色一线| 神马麻豆福利院| 国产超碰| 欧美色图片色哟哟| 欧美成人一区二区三区在线播放| 日韩天天本| 男人天堂2017| 色色色网站| 噜噜噜亚洲精| 性做久久久久久免费观看软件| 热的中文 热的有码 热的国产| 人妻一区二区三区视频 | 绯色AV粉色AV蜜臀AV| 天啪| 18一区二区三区| 亚洲精品97久久| 色综合色色| 国产又粗又长的视频| 91在线精品| 蜜桃臀一区二区三区久久| 久久riav中文精品| 大香蕉伊然在亚洲91| 白天啪啪晚上啪啪视频| 欧美91网站| 中文字幕一区二区三区高清| 欧美自拍网| www色色色com| 超碰色老头| 一区二区 韩日AV| 久久超碰com| 国产欧美日韩女同性恋ww喷水精品| 欧美人妻制服| 九九九久千久久激情蜜桃在线看| 97资源视频| 中文久久96| 岛国黄色大片网站| 日韩有码专区| a人欧美综合天堂麻豆| 四虎影视永久在线免费| 好吊爽好吊爽在线视频,中文字幕精品一区二区日本,国产良妇出轨视频在线观看, | 91啦人妻| 熟女熟妇伦久久影院毛片一区二区| 熟女乱伦二区| 97超碰久久| 9久久美女首页| 黄片色区软件| 国产精品诱惑| WWW.加勒比人妻一区不卡.com| 亚洲中文日韩欧美大香蕉视频| AV男人天堂网| 天天天肏屄欧美| 四虎影视永久在线免费| 久久精品国产亚洲粉嫩| 色天使大香蕉| 大香蕉啪啪啪| 国产亚洲性生活视频播放| 国产麻豆一区二三区| 婷婷情色综合网| 乱论91| 日韩97P| 伊人伊人LD| 五月天激情网图片| 黄片色区软件| 无码一区免费在线不卡| 亚洲久久天堂| 欧美暴力猛交| 蜜臀久久99精品久久久老,,| 国产亚州精品美女久久久免费| 国产又粗又大硬免费色网视频| 人人噜夜夜操| 日韩av熟女一区二区三区成人| 亚洲国产精品无码AV在线| 91狠狠综| 四虎av在线| 国产AV人人 夜夜人人澡| 色五月婷婷麻豆在| 亚洲精品日日夜夜52| 91综合在线| 久久老熟女| 亚洲蜜臀视频精品久久| 色欲人妻一区二区在线| 欧美色棕合| 国产精品制服丝袜清纯唯美| 操B视频日韩无码| 久久一区二区三区四区五区| 色噜噜日韩精品| 久久9精品网站| 超碰精品| 欧美最婬乱婬爆婬性视频 | 九九热精品视频六| 亚洲区限制级 99| 中文伊人大香蕉视频| 校园春色制服丝袜中文字亚洲| 国产 v乱码一区二| 人妻81p| 久久久久亚洲?V片无码V| 蜜乳AV免费观看| 老熟女91| 翔田千里AV无码秘 三区| 另类天堂| 97久久精品亚洲| 亚洲欧美性生活| 五月丁香久久| 插入综合网| 五月丁香啪啪| 中文字幕成人| 九九热精品| 加勒比无码一区二区三区| 看一级黄色视频| 日本Xx性爱| 玖玖资源综合在线视频| 国产AV高清AV无码| 国产免费一区二区在线A片视频| 色五月激情网| 东京热亚洲一区二区| 裸体美女免费看网站青草| 狠狠狠狠狠狠| 少妇国产不卡| 国产农村妇女精品1区二区| 国产农村妇女精品一二区| 牛牛久久国产精品视频一二三| 少妇69中文| 98超碰日本| 久插不卡| 97国产中文| 婷婷激情四射| 天堂v无码免费视频| 国产91av在线播放| 黑人操一区二区| av片在线观看免费播放| 久久久999日本大片| 亚洲s在线观看| 二级久久网| 色香伊人| 日韩性爱小视频| 操逼片国产| 国产精品青草综合久久| 天天综合网91入口| 欧美日韩中国x| 性高潮久久久久久久久久久| 91在线精品一区二区三区| 狼狼色丁香久久婷婷综合五月| 黄片无码在线制服| 天天色悠悠激情| 久久精品高清无码一区| 97免费在线观看| a'v在线资源| 日韩精品1区2区中文字幕| 久久色情| h色99999| 久久久亚洲| 国产黄片在线免费观看| 私色综合网| 国产精品3| 2019天天干| 操一区| 中文字幕免费观看| 欧美成人精品欧美一级乱黄一区二…| 免费一级a毛片久久久久久鸭绿欲| 黄色av一区二区在线| 日本不卡三级网在线播放| 亚洲三级网址久久最新| 啊啊啊啊啊好多水| 黄片aaaaa一区| 久草久热| 久热这里只有精品9| 国产成人午夜视频网址| 无码99| 欧美色图20P| 欧美日本一区二区a人| 九一综合精品视品av| 欧美春色| 日本午夜福利影院| 欧美91网站| 国产日韩手机视频在线| 又黑又大又粗 | 91久久婷婷| 久久av一级av少妇av高潮| 日本美女性生活久久久久久久 | 国语对白在线播放视频| 人妻人人澡人人爽人人| 強姦亂倫a| 后入人妻一区| 91综合色噜噜| 91人妻视频在线| 9118禁| 色播五月婷婷| 亚洲美女精品九九视频| 丁香色色网| 欧美综合色图片| 婷婷久久五月| 蜜臀99久| 久久人妻办公室视频| 清纯唯美综合| 亚洲欧美精品一区天堂久久 | 5278欧美一区二区三区| 日韩青久久| 欧美顶级黄色大片免费| 嗯嗯啊啊视频一区二区三区| 一区二区三区视频国产免费| 一区,二区,三区视频| 美女诱惑久久| 久久人妻97久久久久久久| 亚洲欧美综合| 欧洲中文字幕| 亚洲欧美自拍偷拍| 亚洲综合伊人| 色综合色色| 女性91网站| 一区二区三区网站日日骚| 久久男人天堂| 97碰碰日本乱偷人妻中文的| 太久视频| 日韩综合97p| 7月婷婷综合| 人人看黄色视频| 热久日综合| 天天操天天舔| 啊啊啊啊操死我| 99热综合| 乱伦av麻豆| 精品视频一区二区| 日本三级韩三级99久久| 探花视频免费观看国产专区| 97自拍一区| 亚洲?V无码专区在线电影| 99热国产精品| 亚洲五月丁香花狠狠干一区二区三区| 男啪女色黄无遮挡免费观看| 亚洲人人夜夜澡人人爽| 视频二区美腿丝袜制服人妻欧美| 欧美日韩国产高清在线一二三区| 变态另类专区| 日本女厕偷拍| 蜜乳Av成人片网站| 91国产丝袜白虎| 天色综合网| 国产9 9在线 | 亚洲| 亚洲精品蜜桃久久久| 韩国女主播青草福利视频| 人妻一区二区三区熟女| 蜜桃臀一区二区aV | 欧美翘臀视频网站一区二区三区| 国产精品欧美激在线| 91精品国产高清久久久久久,亚洲成人| 啊啊啊好想要| 欧美偷偷网| 91精品久久久久久综合五月天| wwwxxx日本爽| 久久精品一区二区| 日本不卡免费二区| 嗯嗯嗯,草死我| 欧美视频边做饭边橾| 日本色色视频网站| 一区二区视频在看| 国模91| www.高清无码诱惑一区.com| 九九热在线视频| 大黄片做爱的大的| 国产精品嫩草影院午夜两性| 国产精品一区二区三区四区五区| 天堂射| 一区二区不卡| 黄色大片一区二区密桃丝袜| 中文字幕乱在线伦视频中文字幕乱码在线| 91性情| 久久熟女嫩草成人片免费| 国产久久日韩网站导航| 久久大香蕉| 国产伦精品一区二区三区在线观| 人人操人人操人人操人人操人人操人人人11.CM| 偷拍亚洲情色| 91老熟女91老女人| 激情四射熟女丝袜| 男人把坤坤插入女人的下体| 激情图片亚洲色图| 国产久久一区二区午夜| 大香蕉宗合网在线| 日日干日日| 日本一级性爱| 91超级碰| 久久综合婷婷| 人妻久久久| 激情专区综合| 久操精品网| 色噜噜狠狠色综合日日| 色婷亚洲五月在线观看| 久久亚洲AV无码专区首页| 日本 色 导航| 亚洲av综合色区无码一| 户外裸露刺激视频第一区| 天天操夜夜操狠很操| 黄视频免费| 丰满人妻无码一区二区三区| 精品国产91av一区二区三区| 人妻 丝袜美腿 中文字幕| 99精品欧美一区二区三区桃色| 伊人精品久久网站| 日本黄大片在线观看视频| 婷婷av在线中文字幕| 乱操乱伦AV| 3028国产精品| 婷婷五月天激情网| 五月丁香综合网| 国产欧美伊人| 屌妞视频久久久久久久久久久久| 后入式视频国产自| 玖玖爱伊人玖玖爱| 东京热,男人的天堂| 91欧美大片| 狠狠色噜噜狠狠狠狠2018| 欧美一级在线观看成人| 超碰成人公开| 大香蕉久| 亚洲一区二区三区麻豆传媒| 色眯眯av| 日日夜夜骑| 国产成人精品必看| 欧美视频一区二区在线| 中文字幕第页| n1038 一二三区| yy少妇精品久久| 天天干嫩逼网| 日韩激情毛片一级久久久| 第一高清av中文字幕| 狠狠操夜夜操蜜桃视频三区| 中文字幕片| 婷婷激情五月综合| 欧美后进式| 欧美少妇大量自拍视频在线观看| 色九九综合AV| 欧美亚洲91| 无码聚合| 天天综合网91入口| 偷拍新久久| 亚洲一区在线观看欧洲| 色欲日韩欧美在线一区| 少妇一区二区三区在线观看| 伊人午夜福利视频| 黄片www视频免费| 亚洲av淫乱| 开心六月色| 少妇熟女一区二区三区| 中日亚韩免费视频| 极品色社| 久久伊人东京热| αⅴ天堂| 伊人久久国产免费观看视频| 亚洲中文字幕av | 玖玖蜜臀资源网| 在线观看啊啊啊啊啊| 日韩人妻一二三区视频| 夜夜爽爽爽| 校园春色宗合网| 久久产精品一区二区三区电影 | av影院十区| 欧美偷拍区| 亚洲最大黄网| 91综合天天看| 精品国产91av一区二区三区| 麻豆国产尤物AV| 超碰人人干天天射| 国产精品自拍xxxx| 超碰夫妻97| 国产毛片片精品天天看视频| 99激情视频| 激情文学亚洲| 中文字幕丝袜国产第一页不卡| 亚洲三级网址久久最新| 精品对白久久不卡| 在线播放中文字幕| 哈哈操 大香蕉| 亚洲成人福利电影免费| 亚洲999综合| 国产美女自拍AV| 婷婷五月天网| 夜色91| 99精品免费| 国产精品丝袜在线| 色婷婷小说| 91丝袜视频在线观看| 国产99 中文字幕日韩小视频| 无毛精品| 国产99久久99热这里只有精品15 | 欧美日韩理论一区| 91综合在线| 欧美亚洲中文字幕| 中日韩欧美精品无码AⅤ一区二区| 久久精品天美| 国产无码三级视频在线观看| 亚洲欧洲无码97久久精品| 88xx成人精品视频| 老师充足的奶水小说| 成人97人人超碰人人| 成人老鸭窝人人在线视频| 樱花蜜乳av| 97伪v| 国产一区自拍欧美日韩| 国产成人天堂| 亚洲欧美在线观看2021| 91精品导航| 一区二区 韩日AV| 欧美人体性爱互联网第一页婷婷日本| 老色69| 九九九色| 97超碰中文| 欧美黄片视频在线观看免费 | 97超久碰| 亚洲精品乱码线路中文字幕 | 亚洲成人AB| www.婷婷五月天| 久久永久无码人妻视频| 东北老女人的激情视频| 日本女优在线视频福利| 一本久久久精品| 欧美九九99久久精品| 亚洲欧美在线观看免费| 久久精品电影| 亚洲人成色9999精品久久| 国内精品a| 日日骚一区二区三区| 国内精品不卡无毒99999| 午夜福利av电影在线| 九久久精品| 超碰性爱97| 夜色AV无码手机在线影院| 麻豆91熟妇人妻中文字幕茄子| juliaann丝袜大战黑鬼| 99精品久久久久久久婷婷蜜桃| 欧美精品三级黄片| 超碰久久网| 天堂九九九九九九九九九| 日韩精品一区二区日韩| 欧美在线|亚洲| 天天弄欧美| 国产小u女在线观看| 性无码专区2020| 亚洲双插| 国产av热热色| 五月综合久久| 黄色欧美性爱视频| 久久久久97| 3级毛片一二| 操B久久| 五月花婷婷| 全免费a敌肛交毛片免费| 屁股久久久久久| 国产乱不卡| 伊人国产视频| 亚洲最大黄网| 久青草影院| 最新国产亚洲精品精品国产亚洲综合| 精品一级毛片在线观看| 男人的天堂久久| 久久久久久久久久久久九| 强奸a片网| 91动漫操逼视频| 国产精品午夜福利亚洲综合网| 天堂综合网| 狠狠干2020| 加勒比五月天| 四虎884a| 日韩午夜国产| 婷婷伊人一区| 国产免费大片| 国产av尤物| 欧美躁死她一区二区| 92午夜免费福利视频| 国产真实子伦对白| 大学生美女口爆| 欧美三级偷拍| 国产精品白丝AV| 物业黑人 AV一区| 免费97视频| 亚洲熟女一区| 97精品久久久久中文字幕| 成人无码专区精品视频| 青青草国产亚洲精品久久 | 综合熟妇一区二区三区| 牛牛久久国产精品视频一二三| 污到发麻的视频 国产| 久久精品视频久久久| 久久久爆乳翘臀一线天伦理视频| 女同在线视频一区| 六月丁香五月婷婷| 国产女人高潮视频| 丰满欧美少妇| 久久久不能久久久久| 青青色综合| 欧美少妇性乱| 午夜综合在线| 精品高清牛人盗摄一区二区三区中文字幕A片免费在线观看 | 日韩精品99久久久久久中文字幕| 夜夜狠狠躁日日躁色视频| 91色图片| 久久综合久色欧美综合狠狠 | 国产成人亚洲精品无码古代早漏男| 久久久久亚洲三级电影| 日韩在线观看三级电影| 国产精品麻豆成人av| 国产成人拍国产亚洲精品| 一级性爱啪啪视频| 色官网色综合| 99无码视频| 青青网三级视频| 中文字幕久久精品一区| 中文字幕人乱码中文字的预防方法 | 亚洲黄色视频在线观看视频| 樱花蜜乳av| 国产女人成人精品视频| 亚洲 日本 一 二 三| 另类亚洲图色| 国产欧美后入| 野狼福利社区| 欧美激情性久久久久久| 成人性爱电影一区二区| 天天添天天干电影| 青青伊人久久| 久操免费电影| 日本性交操一区二区不卡系列| 欧美日韩国产高清在线一二三区 | 狠狠狠狠狠狠| 久久久久久久久久黄色网| 日韩大香蕉精品在线视频| 91精品人妻| 亚洲无码太久| 99热超碰在线| 久久久婷婷| 久久国产精品一区二区| 欧美日韩*字幕一区| 久久久五月天| 大香伊人在线一区| 99999久久精| 久久久久久久久久久免费精品| 日韩成人综合网| 六月丁操逼| 老熟妇91| 国产午夜无码片在线观看影视| 日本免费一区二| 后入式五六区| 国产无码精品高清| 在线日韩视频| 夜夜免费视频| 大香蕉一级黄色片久久| 婷婷丁香五月激情啪啪| 午夜性| 天天噜| 亚洲一区二区精品福利| aaa淫乱视频| 欧美性爱一区二区三区| 中日韩熟女| 老熟女91av| 国产熟女无套内射| 国产熟女免费观看久久| 五月天色电影| 色香综合| 五月天精品| 另类专区加勒比| 日韩激情啪啪啪| 男人的天堂在线2| 国产91 丝袜在线播放00-百度| 国产熟女乱论| 国产第二页| 伦激情人妻另类人妻| 91小视频| 色老牛| 日韩国产欧美伦理在线| 欧美熟妇乱码在线一区| 国产60页| 久热婷婷| 男同专区一区二区三区在线| 日韩精品永久在线观看| 亭亭在线资源| 欧美性爱91| 97一区二区三区视频| 日韩黄片影院| 亚洲射综合网| 日韩国产精品人妻无码久久久| 国产精品第一页国产大屁股视频免费区 | 日韩精品在线视频在线观看| 欧美一二三区四五区| 国语对白露脸XXXXXX| 少妇二级| 亚洲综合欧美| 亚洲……91| 2024年最新色情网站在线观看| 麻豆人妻精品一区二区| 亚州男人天堂| 淮穴色AV| 日本操逼aaaaa| 嗯嗯啊啊用力视频免费| WWW啪啪的com| 色噜噜人妻丝袜AV资源| 午夜AV人气不卡| 91中文精品日韩欧美在线| gogogo免费高清看中国国语| 欧洲精品久久| 秋霞蝌科网日本一区| 黄色成年| 俺去也婷婷| 精品久久久久久中文字幕视频免费| 天天操av懂色| 亚洲激情在线观看一区| 色男人色天堂东京热| 色综合网1| 中文字幕精品专区搜索结果91| 91超碰人人操| 欧美成人一级麻豆| 日日夜夜青青草母狗| 欧美三级中文字幕hd| 日本国产二线女色| 男人亚洲91首页在线| 精品美女久久久久| 亚洲色图第一页| 国产伦精品一区二区三区在线观| 97欧美精品| 久久一区无码| 超碰成人最新最好看| 国产三级片在线观看| 色好看av| 大香蕉综合| 一级性爱网| 精品美女人人干| 成人资源中文字幕在线观看天天| 国产多人在线观看视频| 99re99在线视频| 欧美大香蕉在线观看| 久久免费精品视频免一| 密臀在线一区尤物| 另类图片亚洲加勒比另类图片亚洲加勒比另类图片亚洲加勒比 | 中文字幕免费观看| 精品婷婷| 国产精品第一区第一页| 国产精品久久久久久久久久二区三区| 色色婷| 熟女五十路一区二区三| 亚欧美综合网| 亚洲天堂日本| 久久25| 欧美黄色片AAAAA| 亚洲图片日本AⅤ欧美在线| 日日躁天天躁狠狠躁| 国产精品不卡一区二区三区| 99热最新| 国产男人又猛又粗又爽| 98人妻精品一区二区色欲| 妇女乱色二区| 亚洲淫色网中文| 夜夜中出国产| 操99| 一本大道不卡一二三区| 国产 日韩,欧美 自拍| 激情小说激情视频| 亚州中文字幕超碰97| 久久这里都是精品| 天天做日日爱夜夜爽| 人人摸.人人色| 蜜汁欧美| 伊人在线大香蕉视频久久| 91久久堂| 日本天堂网| 亚州色交| 亚洲精品三| 色久桃花影院在线观看| 97免费在线视频| 男人的天堂2018.| 欧美国产日韩清纯唯美| 国产女乱淫真高清免费视频| 在线观看一级α片刺激高潮视频| 激情欧美97| 久9综合在线| 久偷拍欧美日韩三区| 欧美色图片91| 欧美精品在线观看| 免费在线观看AV无码网站| 午夜福利无毒不卡| 日婷婷| 午夜精品久久一区二区| 97超碰色色| 欧美亚洲宗合色性图| 天美欧美国产| 久草热制服丝袜在线观看| 97久久精品亚洲中六字幕| 丝袜狠狠草尤物人妻av91| 五月天婷婷色| 蜜臀国产AV中文字幕| 亚洲男人天堂Av| 五月丁香婷婷色| 人人色人人操在线| 4399成人黄A片| 91狠狠综合久久久久久| 97人人射|