日韩精品一区二区三区在线视频放-无码中文字幕V?一区二区-成年片免费观看视频-国内少妇人妻丰满av-国产精品中文字幕免费观看-亚洲成人久久一区二区三区-国内少妇偷人精品视频无缓冲-一区二区国产精品日本一区二区三区在线网

ARTICLE DETAIL

資訊詳情

深耕商務(wù)建站與企業(yè)官網(wǎng)運(yùn)營的一線實(shí)戰(zhàn)洞察。

KVM嵌套虛擬化下FusionCompute 6.5.0部署與排錯

KVM嵌套虛擬化下FusionCompute 6.5.0部署與排錯 簡介《FusionCompute實(shí)驗(yàn)手冊1》是華為HCIP-Cloud Computing V4.0認(rèn)證培訓(xùn)中FusionCompute部分的實(shí)驗(yàn)指導(dǎo)材料面向備考該認(rèn)證的學(xué)員以及希望系統(tǒng)掌握華為服務(wù)器虛擬化平臺日常運(yùn)營與運(yùn)維的技術(shù)人員。內(nèi)容按7個實(shí)驗(yàn)、四大模塊組織從KVM嵌套環(huán)境下安裝CNA到部署VRM理解FusionCompute基礎(chǔ)架構(gòu)再練習(xí)計算、存儲、網(wǎng)絡(luò)三類虛擬資源管理體會計算虛擬化、存儲虛擬化與網(wǎng)絡(luò)虛擬化的資源調(diào)度優(yōu)勢隨后進(jìn)入虛擬機(jī)發(fā)放與管理涵蓋虛擬機(jī)創(chuàng)建、Tools安裝、模板封裝、快照、規(guī)格調(diào)整、HA、熱遷移、安全組和規(guī)則組等操作最后通過用戶管理、管理數(shù)據(jù)備份與時間管理熟悉日常運(yùn)維。資源包共1個docx文件約10.53MB內(nèi)容集中、便于按實(shí)驗(yàn)查閱。已有227人學(xué)習(xí)適合用作搭建實(shí)驗(yàn)環(huán)境、復(fù)盤操作流程和查漏補(bǔ)缺的參考。1. 從 KVM 嵌套起步FusionCompute 6.5.0 裝之前先想清楚三件事在 KVM 里嵌套裝一套 FusionCompute 6.5.0最先勸退人的往往不是安裝向?qū)в卸嚅L而是 CNA 引導(dǎo)到分區(qū)那一步就黑屏重啟。CPU 沒做透傳前面鏡像下載、網(wǎng)段規(guī)劃、虛擬機(jī)創(chuàng)建全部變成白工。這套環(huán)境在虛擬化與桌面云方向的認(rèn)證實(shí)驗(yàn)里出現(xiàn)頻率極高V4.0 的實(shí)驗(yàn)手冊把 7 個實(shí)驗(yàn)壓在四大部分里從 CNA、VRM 安裝一路排到虛擬機(jī)發(fā)放、存儲網(wǎng)絡(luò)接入和日常運(yùn)維幾乎每個動手環(huán)節(jié)都要求一個能正常登錄的管理面。裝不好會怎樣CNA 起來了 VRM 部署卡在進(jìn)度條或者存儲接口沒綁對掃描設(shè)備永遠(yuǎn)掃不出盤。這篇按我自己的落地順序?qū)戇m合第一次搭 FusionCompute 實(shí)驗(yàn)環(huán)境、手上只有兩臺機(jī)器甚至只有一臺物理機(jī)做嵌套的人。2. 實(shí)驗(yàn)環(huán)境先落地嵌套虛擬化、網(wǎng)段規(guī)劃與安裝介質(zhì)動手之前需要先把“能不能裝”和“裝完能不能通”這件事想清楚。這套實(shí)驗(yàn)的設(shè)計前提是兩臺硬件服務(wù)器跑 CNAVRM 獨(dú)立部署管理和存儲分兩個網(wǎng)段如果是在一臺物理機(jī)上做嵌套這兩臺“服務(wù)器”就是你創(chuàng)建出來的兩臺虛擬機(jī)物理機(jī)只是宿主機(jī)。我見過最常見的返工是虛擬機(jī)建好、ISO 掛上、裝到一半發(fā)現(xiàn) CPU 不帶 VMX或者管理網(wǎng)和存儲網(wǎng)全塞進(jìn)一個網(wǎng)段最后 VRM 能登錄但主機(jī)加不上。下面三塊內(nèi)容建議在創(chuàng)建第一臺虛擬機(jī)之前全部確認(rèn)完。2.1 嵌套環(huán)境里 CPU 透傳不開CNA 裝到一半就會黑屏FusionCompute 的 CNA 本身就是一層虛擬化系統(tǒng)它對 VT-x 或 AMD-V 有硬性依賴。在物理機(jī)的 KVM 上再跑一層 CNA屬于二級嵌套宿主機(jī)的 KVM 模塊必須顯式打開嵌套支持否則客戶機(jī)里看不到硬件虛擬化標(biāo)志。先查宿主機(jī)參數(shù)輸出為 N 就是沒開。# 查 Intel 平臺嵌套開關(guān)輸出 Y 表示已開啟 cat /sys/module/kvm_intel/parameters/nested # 現(xiàn)場臨時打開重啟后失效 sudo modprobe -r kvm_intel sudo modprobe kvm_intel nested1 cat /sys/module/kvm_intel/parameters/nested # 永久生效寫進(jìn)模塊配置 echo options kvm_intel nested1 | sudo tee /etc/modprobe.d/kvm.conf第一條命令是判斷依據(jù)Y表示宿主機(jī)允許把虛擬化能力繼續(xù)向下傳遞N時后面兩步才需要做。modprobe -r會卸載模塊執(zhí)行前要確認(rèn)宿主機(jī)上沒有正在運(yùn)行的 KVM 虛擬機(jī)否則卸載會失敗。寫/etc/modprobe.d/kvm.conf是為了重啟后依然生效避免下次開機(jī)又回到 N。模塊開了還不夠虛擬機(jī)的 CPU 模式也得配合。默認(rèn)的host-model有時會把 vmx 特性過濾掉我一般直接改成host-passthrough再顯式要求 vmx。改 XML 比在圖形化工具里點(diǎn)選項(xiàng)可靠得多。!-- 虛擬機(jī) XML 中的 CPU 配置片段 -- cpu modehost-passthrough checknone migratableoff !-- 強(qiáng)制把 vmx 特性透傳給客戶機(jī)CNA 才能起得來 -- feature policyrequire namevmx/ /cpumodehost-passthrough表示客戶機(jī) CPU 直接對齊宿主機(jī)型號犧牲的是跨宿主機(jī)的遷移能力實(shí)驗(yàn)環(huán)境完全不需要考慮這一點(diǎn)。feature policyrequire是硬性要求宿主機(jī)若不支持會直接報錯而不是靜默降級這正好幫你提前發(fā)現(xiàn)問題。migratableoff是為了讓透傳更徹底避免 libvirt 為了遷移兼容性裁剪指令集。磁盤和內(nèi)存按 CNA 的角色給別摳。我一般給每臺 CNA 8 vCPU、16 GB 內(nèi)存系統(tǒng)盤 120 GB再掛一塊 200 GB 的數(shù)據(jù)盤留給后面做存儲實(shí)驗(yàn)。VRM 那臺給 4 vCPU、8 GB 就夠。磁盤用 qcow2 方便打快照做壞了直接回滾這就是實(shí)驗(yàn)環(huán)境最便宜的后悔藥。# 預(yù)分配兩塊盤qcow2 格式便于快照回滾 qemu-img create -f qcow2 /var/lib/libvirt/images/cna01.qcow2 120G qemu-img create -f qcow2 /var/lib/libvirt/images/cna01-data.qcow2 200G-f qcow2指定格式不寫會按 raw 創(chuàng)建占滿實(shí)際空間且沒法做快照。文件路徑按你宿主機(jī)的存儲池來改兩塊盤分別對應(yīng)系統(tǒng)盤和數(shù)據(jù)盤命名上帶主機(jī)名后面掛錯盤的概率會低很多。2.2 管理與存儲分網(wǎng)段IP 一次規(guī)劃到底實(shí)驗(yàn)拓?fù)淅锕芾砭W(wǎng)是 192.168.201.0/24存儲網(wǎng)是 192.168.202.0/24存儲走 VLAN 202。這個劃分不是形式主義管理網(wǎng)跑 CNA 與 VRM 之間的心跳、Web 登錄、虛擬機(jī)管理流量存儲網(wǎng)跑 iSCSI 數(shù)據(jù)混在一起最典型的后果是虛擬機(jī)一開機(jī)管理面就轉(zhuǎn)圈或者存儲掃描超時。地址規(guī)劃建議在表格里一次定死后面每個界面照著填別臨場發(fā)揮。網(wǎng)元管理 IP存儲 IP所屬 VLAN說明CNA01192.168.201.101192.168.202.101管理 201 / 存儲 202第一臺計算節(jié)點(diǎn)CNA02192.168.201.102192.168.202.102管理 201 / 存儲 202第二臺計算節(jié)點(diǎn)VRM192.168.201.100192.168.202.100管理 201 / 存儲 202管理面獨(dú)立部署網(wǎng)關(guān)192.168.201.1——管理網(wǎng)默認(rèn)網(wǎng)關(guān)存儲設(shè)備—192.168.202.10存儲 202IP-SAN 目標(biāo)端端口 3260規(guī)劃時有兩個細(xì)節(jié)容易被忽略。第一VRM 的地址要在安裝 CNA 之前就留出來因?yàn)?VRM 部署向?qū)Ю镆钐铄e只能在管理面里改中間還得重啟服務(wù)。第二存儲網(wǎng)的地址段不要和宿主機(jī)上已有的網(wǎng)橋沖突嵌套環(huán)境里宿主機(jī)往往已經(jīng)占了 192.168.122.0/24 這類默認(rèn)網(wǎng)段撞上之后現(xiàn)象是 CNA 能 ping 通自己但 ping 不通存儲排查起來非常玄學(xué)。2.3 安裝介質(zhì)與客戶端工具缺一樣都會卡在中途實(shí)驗(yàn)手冊里列出的軟件清單不長但每一樣都有明確用途提前下齊比裝到一半再找要省事。文件 / 工具用途備注FusionCompute 6.5.0_Installer.zipCNA 安裝鏡像來源引導(dǎo)安裝 CNA 用FusionCompute 6.5.0_VRM.zipVRM 軟件包VRM 部署階段使用CentOS-7-x86_64-DVD-1810.iso實(shí)驗(yàn)用 Linux 虛擬機(jī)鏡像后面發(fā)虛擬機(jī)、裝 Tools 用Windows 10 專業(yè)版鏡像實(shí)驗(yàn)用 Windows 虛擬機(jī)鏡像模板制作場景PuttySSH 登錄 CNA 與 Linux 虛擬機(jī)命令行排查主力WinSCP文件上傳下載傳 ISO、導(dǎo)模板VNC Viewer連 KVM 虛擬機(jī)的控制臺圖形界面操作時用介質(zhì)版本建議和手冊保持一致6.5.0 這套組合里的 CNA、VRM、Tools 是配套的混用不同小版本的 VRM 包部署向?qū)Э赡苤苯泳芙^或者裝完管理面打不開。另外宿主機(jī)上要留足空間兩個 CNA 加一個 VRM系統(tǒng)盤加油漆盤算下來至少 700 GB 起步空間不夠會在安裝中途報寫入失敗而這個報錯通常只給一行很容易誤判成鏡像損壞。3. 安裝 CNA從 ISO 引導(dǎo)到兩臺節(jié)點(diǎn) SSH 可達(dá)CNA 的安裝過程本身不難難的是幾個界面一旦選錯后面要么起不來要么加不進(jìn)集群。這一章按單臺節(jié)點(diǎn)的完整安裝走一遍再說明第二臺怎么裝才不撞車最后用 SSH 確認(rèn)底層真的通了再往下走。3.1 引導(dǎo)之后的幾個界面值得停下來多看兩眼把 Installer 里的 CNA 鏡像掛到虛擬機(jī)光驅(qū)設(shè)置從光驅(qū)引導(dǎo)進(jìn)入安裝向?qū)Ш蟠笾聲?jīng)歷語言與時區(qū)、磁盤選擇、網(wǎng)絡(luò)配置、密碼設(shè)置這幾步。每一步的具體選項(xiàng)在不同小版本里措辭略有差異但需要你決策的點(diǎn)是固定的。語言與鍵盤選英文或簡體中文都行鍵盤默認(rèn) US選錯后面輸密碼會出現(xiàn)字符對不上的情況。時區(qū)選 Asia/Shanghai時間不對會導(dǎo)致后面 VRM 與 CNA 心跳異常這類問題排查成本極高。安裝磁盤選那塊 120 GB 的系統(tǒng)盤別選到數(shù)據(jù)盤選錯只能重裝。管理網(wǎng)口選規(guī)劃中對應(yīng)管理網(wǎng)的那塊網(wǎng)卡通常就是第一塊。管理 IP、掩碼、網(wǎng)關(guān)按 2.2 的表格填CNA01 是 192.168.201.101網(wǎng)關(guān) 192.168.201.1。主機(jī)名CNA01兩臺節(jié)點(diǎn)必須不同。root 密碼記牢后面加主機(jī)、SSH 排查全靠它。有一點(diǎn)要提前說明安裝向?qū)Ю镏慌涔芾砭W(wǎng)存儲網(wǎng)是在 CNA 裝好、進(jìn)入管理面之后通過“存儲接口”配的別在安裝階段找存儲 IP 的輸入框找不到是正常的。我第一次裝的時候就因?yàn)樵谙驅(qū)Ю锓磸?fù)翻頁找存儲配置白白重裝了一遍。安裝完成后系統(tǒng)會自動重啟此時拔掉 ISO 或改回硬盤引導(dǎo)否則會又進(jìn)一遍安裝程序。重啟后如果看到登錄提示符說明 CNA 本體裝完了接下來驗(yàn)證網(wǎng)絡(luò)。3.2 第二臺 CNA 怎么裝才不撞車第二臺的流程和第一臺完全一樣但有三處必須改否則加集群時會失敗或者出現(xiàn)更隱蔽的問題。第一處是主機(jī)名兩臺都叫 localhost 或 CNA01VRM 添加主機(jī)時會提示名稱沖突有些版本干脆加不上。第二處是管理 IP這個不用說。第三處是 iSCSI 啟動器名稱CNA 默認(rèn)生成的 IQN 里帶有節(jié)點(diǎn)標(biāo)識如果兩臺機(jī)器是從同一塊盤克隆出來的IQN 可能一模一樣現(xiàn)象是存儲側(cè)只能看到一個發(fā)起端另一臺永遠(yuǎn)掃不到盤。這個問題在后面第 5 章還會展開。如果為了省時間用克隆的方式做第二臺克隆完務(wù)必進(jìn)系統(tǒng)改主機(jī)名和 IP并重新生成機(jī)器標(biāo)識。我一般的做法是不克隆直接按向?qū)г傺b一遍多花二十分鐘省掉后面一堆“為什么只有一臺能連存儲”的排查。3.3 用 SSH 和 ping 先把底層確認(rèn)掉兩臺 CNA 裝完先別急著開瀏覽器。從一臺跳板機(jī)可以是宿主機(jī)也可以是實(shí)驗(yàn)用的 Windows 虛擬機(jī)確認(rèn)管理面可達(dá)再 SSH 進(jìn)去看幾個關(guān)鍵信息。# 從跳板機(jī)確認(rèn)兩臺 CNA 管理面可達(dá) ping -c 4 192.168.201.101 ping -c 4 192.168.201.102 # SSH 登錄第一臺首次連接要確認(rèn)指紋 ssh root192.168.201.101 # 登錄后核對主機(jī)名和網(wǎng)卡地址 cat /etc/hostname ip addr show | grep -E inet |state UP # 看系統(tǒng)盤與數(shù)據(jù)盤是否都識別到了 lsblk df -hping -c 4只發(fā)四個包快速判斷鏈路和 ARP 是否正常通不了先查虛擬機(jī)的網(wǎng)卡是不是橋到了正確的網(wǎng)橋。ip addr show用來確認(rèn)管理 IP 真的落在預(yù)期網(wǎng)卡上嵌套環(huán)境里經(jīng)常出現(xiàn)網(wǎng)卡順序變化向?qū)Ю镞x了 eth0結(jié)果 IP 落到 eth1。lsblk是看數(shù)據(jù)盤有沒有被識別如果只看到系統(tǒng)盤說明虛擬機(jī)掛的第二塊盤沒生效需要回去檢查磁盤配置。這幾步都通了再打開瀏覽器訪問https://192.168.201.101:8443能看到 CNA 的登錄頁就說明安裝階段結(jié)束。瀏覽器提示證書不受信任是正常的實(shí)驗(yàn)環(huán)境直接繼續(xù)訪問即可。4. 部署 VRM 并接入存儲與網(wǎng)絡(luò)讓資源池真正可用CNA 只是計算節(jié)點(diǎn)沒有 VRM 就沒有統(tǒng)一管理面也沒法建集群、加主機(jī)。這一章把 VRM 部署、集群納管、存儲接口和分布式交換機(jī)一次串完順序不要打亂先有管理面才能配后面的東西。4.1 VRM 部署向?qū)Ю锶齻€必須一次填對的項(xiàng)VRM 的部署入口在 CNA 的 Web 界面里用瀏覽器登錄https://192.168.201.101:8443找到 VRM 部署相關(guān)入口按向?qū)ё?。整個向?qū)Ю镎嬲枰O聛硐氲氖侨?xiàng)。第一項(xiàng)是 VRM 的管理 IP、掩碼和網(wǎng)關(guān)填 192.168.201.100 / 255.255.255.0 / 192.168.201.1。這個地址一旦填錯VRM 裝完你連不上管理面只能在 CNA 上重裝 VRM。第二項(xiàng)是 VRM 部署在哪臺 CNA 上選 CNA01。VRM 是以虛擬機(jī)的形式跑在 CNA 上的后面 CNA01 重啟會帶著 VRM 一起重啟實(shí)驗(yàn)階段無所謂生產(chǎn)上不會這么干。第三項(xiàng)是 VRM 的系統(tǒng)盤大小和 root 密碼。系統(tǒng)盤給 120 GB 足夠密碼單獨(dú)記一份它和 CNA 的 root 密碼不是一回事我見過不止一個人拿 CNA 密碼去登 VRM登到懷疑人生。向?qū)芡陼崾静渴鸪晒Υ藭r用瀏覽器訪問https://192.168.201.100:8443能看到 FusionCompute 的登錄頁。首次登錄用默認(rèn)管理員賬號登錄后立刻改密碼這一步別省后面所有實(shí)驗(yàn)都用這個賬號。4.2 建集群、加主機(jī)確認(rèn)狀態(tài)是“正?!钡卿浌芾砻嬷蟮牡谝患虏皇前l(fā)虛擬機(jī)而是把兩臺 CNA 納管進(jìn)來。流程是創(chuàng)建集群給集群起個名字比如 Cluster01然后在集群下添加主機(jī)填入 CNA01 的 192.168.201.101 和 root 密碼再加 CNA02。添加完成后不要只看“添加成功”的提示要回到主機(jī)列表看狀態(tài)列。狀態(tài)顯示“正?!辈潘阏嬲尤腼@示“離線”或者一直轉(zhuǎn)圈八成是管理網(wǎng)不通或者密碼錯。這一步如果卡住先回到 3.3 用 SSH 確認(rèn) CNA 本身沒問題再檢查 VRM 到 CNA 的 8443 端口是否可達(dá)。集群建好之后可以順手看一眼集群策略HA 和電源管理這些默認(rèn)開著就行。實(shí)驗(yàn)里后面要做主機(jī)故障模擬和熱遷移HA 打開是前提現(xiàn)在不勾做到那一節(jié)還得回來補(bǔ)。4.3 iSCSI 啟動器號、端口綁定與 IP-SAN 添加存儲這塊是整套環(huán)境里最容易翻車的部分因?yàn)樗瑫r依賴三樣?xùn)|西存儲網(wǎng)的連通性、iSCSI 啟動器的唯一性、存儲接口的綁定關(guān)系。順序上我一般這么走。先配存儲接口。在管理面找到對應(yīng) CNA 的存儲接口配置添加一個存儲接口IP 填 192.168.202.101對應(yīng) CNA01CNA02 填 192.168.202.102。這一步相當(dāng)于告訴 CNA“存儲流量從哪個口走”。再改 iSCSI 啟動器名稱。兩臺 CNA 必須不同命名上帶節(jié)點(diǎn)標(biāo)識最直觀。節(jié)點(diǎn)iSCSI 啟動器名稱示例存儲接口 IPCNA01iqn.2024-01.local.cna:cna01192.168.202.101CNA02iqn.2024-01.local.cna:cna02192.168.202.102名稱格式只要符合 IQN 規(guī)范、全局唯一即可重點(diǎn)是兩臺不能重復(fù)。改完之后在存儲設(shè)備側(cè)刷新發(fā)起端列表應(yīng)該能看到兩個不同的名稱。然后配端口綁定。如果 CNA 上的存儲網(wǎng)口做了綁定要在管理面里把存儲接口和綁定后的邏輯口對應(yīng)上綁錯的現(xiàn)象是接口顯示正常但流量走不出去。綁定關(guān)系確認(rèn)后從 CNA 上直接驗(yàn)證存儲網(wǎng)連通性。# 登錄 CNA01驗(yàn)證存儲平面到存儲設(shè)備的連通 ssh root192.168.201.101 ping -c 4 192.168.202.10 # 確認(rèn) iSCSI 服務(wù)在監(jiān)聽 3260 ss -lntp | grep 3260 # 查看當(dāng)前的 iSCSI 會話添加存儲后應(yīng)該能看到目標(biāo)端 iscsiadm -m sessionping這一步不通后面的掃描一定失敗先查存儲接口 IP 和 VLAN。ss -lntp | grep 3260是確認(rèn)本端 iSCSI 服務(wù)正常監(jiān)聽端口沒起來說明服務(wù)異常。iscsiadm -m session用來驗(yàn)證會話是否建立添加存儲資源并掃描成功后這里會多出一條目標(biāo)端記錄這是最直接的證據(jù)。最后回到管理面添加存儲資源類型選 IP-SAN填存儲設(shè)備的 192.168.202.10 和端口 3260然后掃描存儲設(shè)備。掃描出來的 LUN 添加到數(shù)據(jù)存儲命名成 Datastore01 之類后面發(fā)虛擬機(jī)才有地方放磁盤。4.4 分布式交換機(jī)、上行鏈路與 VLAN 池網(wǎng)絡(luò)資源的配置順序是創(chuàng)建分布式交換機(jī)把主機(jī)加進(jìn)去添加上行鏈路劃 VLAN 池最后建端口組。這個順序顛倒會出各種奇怪的問題比如先建端口組再添上行鏈路端口組狀態(tài)一直不對。創(chuàng)建分布式交換機(jī)時給個名字比如 DVS01然后把 CNA01 和 CNA02 都添加進(jìn)來。上行鏈路選物理網(wǎng)口管理網(wǎng)和存儲網(wǎng)對應(yīng)的網(wǎng)口分別綁上去。VLAN 池按規(guī)劃加 201 和 202如果實(shí)驗(yàn)里還要給虛擬機(jī)劃業(yè)務(wù) VLAN也在這里一起加。端口組按用途建管理口組、存儲口組、業(yè)務(wù)口組各一個VLAN ID 對應(yīng)填好。建完之后在虛擬機(jī)的網(wǎng)絡(luò)配置里就能選到這些端口組發(fā)虛擬機(jī)的時候選業(yè)務(wù)口組虛擬機(jī)之間才能按 VLAN 隔離。5. 裝這套環(huán)境最容易翻車的五個地方這一章是我自己踩過、也見過別人踩的五條記錄按“現(xiàn)象、原因、解決”寫。每條都對應(yīng)前面某個步驟做完前面再回頭看會更有感覺。5.1 CNA 裝完瀏覽器打不開 8443現(xiàn)象SSH 能登進(jìn)去ping也通但瀏覽器訪問https://192.168.201.101:8443一直轉(zhuǎn)圈或者直接連接被拒。原因多數(shù)是瀏覽器對自簽名證書的處理策略變了或者本機(jī)防火墻攔了出站少數(shù)情況是 CNA 的 Web 服務(wù)沒起來。解決先換一個瀏覽器或者用隱私窗口試排除緩存和證書策略再從跳板機(jī)用curl -k https://192.168.201.101:8443看是否有響應(yīng)有響應(yīng)就是瀏覽器問題沒響應(yīng)就 SSH 進(jìn)去查服務(wù)狀態(tài)并重啟相關(guān)服務(wù)。嵌套環(huán)境里還要確認(rèn)虛擬機(jī)的網(wǎng)卡橋接在能通 192.168.201.0/24 的網(wǎng)橋上。5.2 VRM 部署卡在進(jìn)度條不動現(xiàn)象VRM 部署向?qū)ё叩揭话脒M(jìn)度條長時間停在某個百分比最后提示失敗。原因常見的是 CNA 與宿主機(jī)的時鐘偏差過大或者部署過程中管理網(wǎng)出現(xiàn)短暫中斷。解決先把兩臺 CNA 和宿主機(jī)的時間對齊再重新部署。重裝之前把上一次失敗的 VRM 殘留清掉否則可能提示地址被占用。部署期間不要動虛擬機(jī)的網(wǎng)絡(luò)配置也不要在宿主機(jī)上做重負(fù)載操作。5.3 掃描存儲設(shè)備什么都掃不出來現(xiàn)象IP-SAN 添加完成點(diǎn)掃描列表是空的日志里也沒有明顯報錯。原因三種可能iSCSI 啟動器名稱兩臺重復(fù)、存儲網(wǎng)不通、存儲設(shè)備側(cè)沒放行新發(fā)起端。解決按 4.3 的順序倒查。先ping存儲設(shè)備確認(rèn)網(wǎng)絡(luò)再核對兩臺 CNA 的 IQN 是否不同最后去存儲設(shè)備側(cè)刷新發(fā)起端白名單。三步里任何一步?jīng)]過掃描都不會有結(jié)果。5.4 主機(jī)加進(jìn)集群后狀態(tài)一直是離線現(xiàn)象添加主機(jī)時提示成功但列表里狀態(tài)顯示離線點(diǎn)進(jìn)去也看不到詳細(xì)信息。原因VRM 到 CNA 的 8443 端口不通或者添加時填的 root 密碼有誤。解決從 VRM 所在節(jié)點(diǎn)本質(zhì)是 CNA01 上的虛擬機(jī)去curlCNA 的管理地址確認(rèn)端口可達(dá)密碼錯就刪掉主機(jī)重新添加別在離線狀態(tài)上反復(fù)點(diǎn)“刷新”刷不出結(jié)果。5.5 虛擬機(jī)創(chuàng)建成功但起不來現(xiàn)象按模板發(fā)了一臺虛擬機(jī)任務(wù)顯示成功但電源打不開或者開了立刻關(guān)機(jī)。原因集群資源不足、鏡像文件路徑不可達(dá)、虛擬機(jī)網(wǎng)卡選的端口組不存在。解決先看集群剩余內(nèi)存和存儲容量再看虛擬機(jī)的磁盤所在數(shù)據(jù)存儲是否正常最后核對網(wǎng)卡綁定的端口組。嵌套環(huán)境里還有一種情況是 CPU 特性沒透傳虛擬機(jī)一開就報指令集錯誤回到 2.1 檢查 CPU 配置即可。6. 裝完怎么驗(yàn)證發(fā)一臺虛擬機(jī)、裝 Tools、跑一次熱遷移環(huán)境裝完不能只看管理面能登錄就算完真正能證明這套 FusionCompute 跑通的是三件事能發(fā)虛擬機(jī)、能裝 Tools、能熱遷移。我一般按這個順序驗(yàn)證每一步都有明確的觀察點(diǎn)。第一步從 CentOS 模板發(fā)一臺虛擬機(jī)。選業(yè)務(wù)端口組磁盤放 Datastore01規(guī)格 2 vCPU / 4 GB。任務(wù)完成后不要只看“成功”進(jìn)虛擬機(jī)控制臺確認(rèn)能引導(dǎo)到登錄界面這一步驗(yàn)證的是計算、存儲、網(wǎng)絡(luò)三條鏈路同時正常。第二步裝 Tools。掛載 Tools 鏡像到虛擬機(jī)的光驅(qū)進(jìn)系統(tǒng)掛載光驅(qū)并執(zhí)行安裝腳本。裝完重啟管理面里虛擬機(jī)的 Tools 狀態(tài)應(yīng)該從“未安裝”變成“已運(yùn)行”。這個狀態(tài)是判斷 Tools 裝沒裝好的唯一標(biāo)準(zhǔn)別只看腳本有沒有跑完。驗(yàn)證項(xiàng)操作通過標(biāo)準(zhǔn)虛擬機(jī)發(fā)放從模板部署一臺 CentOS 虛擬機(jī)能引導(dǎo)到登錄界面Tools 安裝掛載 Tools 鏡像并安裝后重啟管理面狀態(tài)顯示“已運(yùn)行”快照對虛擬機(jī)打一個快照并恢復(fù)恢復(fù)后系統(tǒng)正常啟動熱遷移把運(yùn)行中的虛擬機(jī)從 CNA01 遷到 CNA02遷移完成業(yè)務(wù)不中斷HA模擬一臺 CNA 宕機(jī)虛擬機(jī)在另一臺自動拉起第三步打快照再恢復(fù)??煺漳艽蚰芑謴?fù)說明存儲側(cè)的讀寫和元數(shù)據(jù)都正常這一步在實(shí)驗(yàn)里經(jīng)常被跳過但它是后面做模板封裝和回滾的基礎(chǔ)。第四步熱遷移。虛擬機(jī)保持開機(jī)從 CNA01 遷到 CNA02觀察遷移任務(wù)和虛擬機(jī)內(nèi)部是否有明顯中斷。遷移失敗最常見的原因是兩臺主機(jī)的 CPU 特性不一致嵌套環(huán)境里尤其明顯如果遷不過去回到 2.1 把兩臺虛擬機(jī)的 CPU 配置改成完全一致再試。這套驗(yàn)證跑完實(shí)驗(yàn)手冊里第一部分的安裝目標(biāo)就算真正達(dá)成了后面計算資源、存儲資源、虛擬機(jī)管理那些實(shí)驗(yàn)才有穩(wěn)定的底座。從那以后我每次搭這套環(huán)境都會在裝 CNA 之前先把嵌套開關(guān)和 IP 規(guī)劃表過一遍哪怕時間再緊也不跳過因?yàn)檫@兩步省下來的十分鐘通常要用兩個小時去排查。希望幫到你。本文還有配套的精品資源點(diǎn)擊獲取
返回列表
PREV
查看更多資訊
NEXT
返回資訊列表
国产亚洲色婷婷久久99精品91葵花宝典| 老司机深夜18禁污污网站| 芊芊操逼视频无码| 特色a在线上| 天天天天天超碰| 99国产精品人妻人伦| 亚洲天堂一区二区久久| 99999精品视频| 女人久久久| 97资源超碰| 约操熟妇| 婷婷五月天激情小说| 狠狠躁伊人中文字幕| www.激情| 97日视频| 日韩一性一交一A片俄罗斯| 五月黑AⅤ| 最新av网站在线观看| 色网亚洲人| 白丝少妇一区二区| 99国产精品人妻人伦| 国产精品免费美女视频| 婷婷丁香九月| 密乳AV免费观看| 人人妻人人爱人人玩| 久久久国产护士丝袜美腿一| 图色综合网| 日本三级久| 亚洲激情四射| 99性爱视频| 欧美日韩国产中文精品字幕自在自线| 久久五月天婷婷丁香中文字幕| 丝袜人妻av一区二区| 日日躁夜夜躁狠狠躁超爽| 亚洲drav色图| 午夜男女爽爽大片免费观看| 久久久久成人蜜桃精品| 1024精品在线| 99999re| 综合av影片| 欧美亚州色的图| 天天操天天射青青草| 国产精品老熟女一区二区| 色999;丁香五月| 每日更新AV| 中文日本免费高清| 天天色播亚洲综合网站| 男人夜色天堂ss| 免费黄色视频网址| 五月天色图影视| 亚洲欧洲偷拍一区| 色女综合| 久久人妻无码毛片A片麻豆| 欧美国产一区二区三区麻豆传媒 | 91美腿丝袜在线观看| 欧美综合骚| 国产污视频麻豆传媒一区二区| 国产农村妇女精品1区二区| 91九久| 91美女视屏| 欧美亚综合色图| 男人的天堂成人的社区| 美女让帅哥通她小鸡鸡| 日夜精品| 日韩人妻免费精品| 九九九九九九精品| 九月丁香综合网| 久久大线蕉一区| 欧美人人曰人人操人人射射| 97精品国产97久久久久久免费| 97操综合| 男人天堂网站| 成人97人人超碰人人| 综合国产影视三级| 久久香蕉国产传媒一区剧情天美| 妇女视频网站| 精品天堂| 久久精品国产96精品亚洲拳交| 五月婷在线| 日韩亚洲美女一区久久| 青青草综合在线| 青娱乐国产剧情av一区| 国产成人一级av88| 天天综合网站| 日韩欧美~中文字| 好吊色青靑草| 3d成人精品一区二区| 99综合网| 欧美 综合 亚洲| 久久婷婷成人综合色怡春院| 强奸乱伦中文字幕AV| 五月天激情小说网| 欧美色图在线视频少妇| 91综合色噜噜| 97人人中文网| 嗯嗯啊啊操我| 久久99精品视频| 九九玖玖精品| 男人久久天堂| 7777欧美成是人在线观看| 看看小穴| 无马一区二区| 91欧美| 久草精品一区 | 蜜臀中文字幕| 插欧洲美女欧美精品| 精品国产网站| 粉嫩av久久一区二区三区| 欧美亚洲玖玖玖| 97丝袜亚洲在线播放| 黄片视频观看| 国产女人高潮视频| 九久久精| 人人看人人摸人人色| 97色色国产视频| 国产传媒av天美传媒在线| 无码抄逼网| 亚洲视频二区 | 亚洲欧美小说| 视频二区美腿丝袜制服人妻欧美| 欧美日韩另类激情图片| 色狠狠色| 久久久精品九| 久久久久久久久久久六六| 91男人综合| 国产精品香蕉热久久新品| 性性欧美| 久久久久久久久成人av解说| 桑老女人九区| 欧美丝袜激情| 日韩操逼性鲍| 亚洲怡春院| 欧美东京热精品A∨| 黄片国产精品一区二区| 91无码中出人妻视频| 澳门成人网站久国产日韩| 亚洲一二三四区| 日韩97超碰中文字幕| 大香久久| 偷拍色图| 色啪网| 91宗合网| 免费农村成人少妇人妻Aa一区二区视频| 亚洲成a人v欧美综合天堂下载| 9久超碰| 日韩熟女精一区二区三区不卡| 97色婷婷| 九月激情婷婷| 日天天九九天堂666| 狼人久草| 亚洲无码太久| 精品久久久久成人码免| 欧日韩不卡视.频| 另类图片综合| 97超碰中文| 91亚洲黑人| 一级黄色性爱裸体视频| 超碰97首页| 熟妇在线视频一区二区| 色黄污美女啪啪啪免费网站| 中文字幕欧洲有码| 婷婷色香| 大香蕉五月天婷婷| 日韩熟女乱伦中出| 日天天九九天堂666| 校园春色欧美色图| 4399成人黄A片| 国产无吗在线播放| 精品国模无码| 狠狠入| 色婷婷综合久久中文字幕雪峰| 涩涩这里只有精品视频| 玖草在线视频| 91男人综合| 亚洲成人精品久久久| 亚洲 欧美 手机在线观看| 农村女一级毛卡片| 怡红院久久老司机| 日韩人妻丝袜美腿中文| 日本 免费 一区二区三区 久久香蕉| 欧美精品99久久久**| 午夜啊啊| 啪啪资源网| 国产精品com| 欧美瑟综合| 久久大陆| 91 国产丝袜在线放观看 | 艹我哪美一区无码| 黄片免费看黄片免费看| 亚洲AV麻豆Aⅴ无码电影一 | 丁香五月电影| 最新日产中文在线麻豆| 国产精品4p在线观看| 蜜区区视频79| 精品人妻一区二区蜜桃视频 | 免费成人自拍视频在线| 日日摸日日碰夜夜爽视频| 午夜后入| 乱码熟妇人妻久久久| 99热精品在线| 啊a一区在线| 婷婷丁香六月| 色综合网1| 午夜超爽| 国产丝袜欧美在线视频| 网友自拍第一页| 久久久久久性爱免费视频| 不卡六六在线91| 久久骚少妇| 日韩99999色| 97九色人妻| 亚洲色图91欧美日韩| 久操热| 日韩女模中文造逼| 99成人| 国产精品久久久久久久久AV大片 | 在线亚洲精品久久久| 天天操女人| oumeisetu综合| 91 在线亚洲| 久久婷婷色综合一区二区三区| 国产67194| 国产精品午夜高潮呻吟久久av| 99re国产精品视频| 日韩 欧美 另类 人妻| 国产三级在线现体验区| 这里只有精品97| xxxx网站亚洲精品| www四虎| 久久久久久九九九九九九| 日韩成年人性爱视频| 国产精品96久久久久久| 夜夜嗨老熟女AV一区二区三区| 97超碰在线资源网站| 东北老女人的激情视频| 神马影院午夜福利久久久| 九九九九日本 | a天堂视频| 精品国产乱码久久久久久久久久毛片| 久久婷婷苹果| 日韩综合色图| 青娱乐欧美激情一区二区| 国产 v乱码一区二| 欧美|91色综合| 蜜桃臀 后入 一区 二区 三区 在线| 91oumei| 午夜性| 亚洲性综合| 91精品国| 两女互慰AV高潮喷水在线观看| 免费精品人妻一区二区三| 国产一区二区啪啪视频| 夜夜操夜夜爽夜夜高潮| 日韩BBN| 我要色综合网| 精品亚洲国产成人av网站| 无码伊人久久大杳蕉中文无码| 日本三级久| 美日韩在线不卡人妻| 日日97| 日韩日本欧美在线观看| 99操碰| 嗯嗯嗯啊啊啊操的我好爽| 久久大陆| 91色花堂| 偷看洗澡一二三区美女| 牛牛久久国产精品视频一二三| 日产精品久久久一区二区| 欧美精品三区| 六月丁丁香| 18禁久极品美女久久哦哟呀!| 少妇熟女视频一二三区| 精品中文字幕一区二区| 欧美性战999| 清纯唯美综合| 国内毛片无码一级毛片| 亚洲限制级| 夜夜精品视频| 欧美性生活综合| 久久亚洲熟妇在线视频| 国产精品爆乳懂色蜜乳| 中文字幕成人| 亚洲精品97p| 乱伦色图网址是多少| av东京热男人的天堂| 综合视频91| 日本欧美一区二区三区免费| 26uuu国产免费观看| 亚洲国产欧美另类自拍| 久久天堂婷婷网| 九9热伊人| 国产在线能看的你懂的| 啊啊啊啊一区| 青青青在线高清视频在线一二三四区| 亚洲色 国产 欧美 日韩| 国产精品小视频一区二区三区| 夜夜无码| 久操不卡视频| 激情婷婷黑人91| 日本国产欧美高清在线| 高清不卡 中文 人妻| 性爱乱伦视频免费| 精品无码久久久久| AV污污污污| 亚洲日韩熟女人妻高清在线| 国产高清吃奶免费视频网站| 亚洲精品1区| 亚洲性爱电影| 人妻熟女一区二区三区在线| 色综合V| 人人妻人人操人人乐| 超碰97丝袜| 亚洲人成网www| 大逼色网站| 亚洲五月婷婷| 欧美综合亚洲综合| 人妻出轨一区二区三区| 国产精品高清2021在线| m欧洲一级午老| 日韩性爱视频在线免费观看| 色眯眯av| · —级AA伦aa坐爱午夜极速ⅴA一区天天噪天天噪天天噪 | 国产精品久久久久久久黄无码| 亚洲第91页| 91影库| 久久久99999久网站| 中文字幕国产| 欧美色蜜桃97| 色婷婷aV一区二区三区麻豆综合| 日韩免费看在线黄色片| 人妻素股| 天天爽爽爽爽| 强奸乱伦AV网址| 日韩色女精品| 95精品在线| aaa一级黄片| 青青青草原| 亚洲啪啪啪啪视香蕉| 中文字幕精品区先锋资源| 久久有码视频| 九九十八精品| 乱伦熟女区| 97超碰色情| 国产久久日韩网站导航| 国产精品久久伊人| 黄片视频观看| 欧美天天在线| 天无日色综合| 伊人女女资源在线观看| 12一15性XXXX粉嫩国产| 日韩性色| 少妇内射www在线观看视频| 国产日韩在线播放| 国内偷自视频区视频综合 | 综合网 欧美| 天天舔九色婷婷| 国产精品秘 福利姬在线观看| 人人摸人人入| 97超碰公开| 久久久久久久久久久久黄色| 黄色AV影视| 唐山老熟妇露脸啪啪叫| 高清无码一区二区三区| 啊啊啊啊啊啊好多水| 亚洲日韩欧美一区二区| 欧美激情亚洲色图| 欧美黄色图片| 啊啊啊好爽快点啊啊啊嗯嗯| 亚州操逼网| 亚洲无线码欧洲精品区别| 少妇贴图| 久久久久久免费电影| 97色色,97综合| 成人影 天天操 亚洲| 91free福利| 91在线精品| 狼狼色丁香久久婷婷综合五月| 亚洲色图欧美色图另类图片| 91精片| a啊啊啊啊啊啊啊啊一区二区| 大香蕉欧美国产日韩高潮| 97爱亚洲综合色| 鲁鲁色综合网| 天天日老熟妇| 艳美熟妇先锋一二三区| 一本正道久久熟女| 成人熟女视频一区二区三区| 嫩草 人人网精品| 蜜桃精品一区二区三区ww| 五月丁香六月| 高树玛利亚无码流出| 欧美人妻精品| 久湿久久 | 中文字幕后石码三区四区| 久久老熟女| 色欧美色交综合| 中文字幕精品三级久久久| 九九九九欧美| 91综合天天看| 伊香蕉综合久久久久久久噜噜噜| 一本色道人妻久久| 亚洲在线91| 精品人妻一二三| 91 欧美| 日本操逼无码| 国产亚洲精品农村妇女| 成人三一级一片aaa| 女人双腿搬开让男人桶| 婷婷中文字幕| 超碰亚洲97| 双插在线| 99re视频在线播放青草| 国产1024在线播放| 国产精品宅男免费| 丁香五月激情综合| 免费看污网址| 欧美亚洲在线| 国产一级高跟丝袜| 欧美精品1区2区3区| 亚洲中文字幕精品久久久久久直播| 九九热精品在线| 嗯啊啊啊轻点视频| 欧美日动态视频| 这里都是精品| 日韩操逼性鲍| 日本久久天堂| 亚洲资源站| 91丝袜激情在线| 日韩精品国模| 人人妻人人爱人人玩| 思思视频免费看网站| 午夜福利精品| 毛片中心9视频99| 91精品国产乱码| 日本女人久久久| 99e久久国产精品| 99热99在线| 四虎884a| 无码人妻精品酒店| 国产精品成人在线| 91n免费处女| 中文字幕熟女人妻丝袜| 无码人妻丰满热妇又大又粗| 欧美成不卡网| 超碰4A| 黄片免费视频2019| 欧美在线官网| 97中文综合| 亚洲综合另类小说色区亚洲成av人片在www | 日韩av电影网站| 国产精品99999| 深夜激情无码| 日本黄色天堂| 亚洲图片日本AⅤ欧美在线| 五月丁香激情综合| 超碰97资源网亚洲| 中文字幕一区二区日韩网| 精品四五区| 男人的天堂com| 午夜爽爽爽在线观看永久入口姬片| Julia在线播放亚洲久久| 97就爱干| 日韩性爱1级片视频| 性感女人网页在线观看视频| 99热这里只有精品18| 蜜臀AV网站| 欧美久久久| 国产精品第一区第一页| 激情文学网伊人| 久艹免费| 99精品无码| 蜜汁欧美| 亚洲经典啪啪| 精品无人区麻豆乱码1区2区图片 | 中文字暮97| 亚洲深夜福利| 内射白嫩美女| 2017av无码免费无线播| 久久久久久大| 操婢日韩| 欧美男人亚洲天堂| 欧美操逼熟女| 啊啊啊在线看| 柠檬AV导航| 国产精品久久久午夜夜伦鲁鲁| 国产男人又猛又粗又爽| 日本一卡二区在线| 激情婷婷| 欧美成人免费在线观看| 欧美视频第二页| 国产女同视频在线播放| 好吊爽好吊爽在线视频,中文字幕精品一区二区日本,国产良妇出轨视频在线观看, | 伊人久久婷婷| 97免费在线观看| 日韩专区数据列表-第3230页-精品国产一区二区三区香蕉 久久99熟女人妻中文字 | 97超碰9| 欧美嗯啊……在线观看视频免费| 东京热一区二区中文字幕| 欧美激情亚洲色图| 国产精品无码av| 大香蕉日韩欧美| 丁香五月影院| 日韩电影在线观看网址| 国产天美传媒精品| 五月天激情国产综合婷婷婷| 97干在线看| 欧美区亚洲区偷拍区| 一区二区视频你懂的| 色欲蜜臀AV| 国产白丝网站| 美女淫穴| 激情看片网站| 无码免费在线观看黄色片| 97爱碰| 婷婷五月天在线观看| 日本东京热久久久电影| 呻吟 欧美 日本 中出| oumeisetu综合| 人干人人人操人人摸| 久久成人东京热人妻| 久视频在线观看| 在线看片国产精品每日更新| 日本欧美中文字幕| 骚鸭AV| 97硬碰| 91丝袜美腿片| 九九热精品在线| 欧美日本成人一区二区| 5月婷婷6月六月丁香| 蜜臀99久久精品| 欧美成人精品一区二区三区| 日韩人妻一区二区精品| 一区操逼| 酒色综合网| 粉嫩久久久极品| 91偷拍欧美亚洲| 丰满的三级少妇欧美久久久| 亚洲国产精品有声| av一区二区三区不卡| 麻豆色99999| 很很很很操| 99.色网| 欧美在线播放aaaa| 久久综合资源一区二区| 日韩无码精品综合久久| 神马久久久久久| 久久9久久| 国产诱惑| 操逼999| 蜜臀AV成人精品蜜臀AV久久| 老女人爆菊| 五月天综合| 日本一级性爱| 一级久久久久久久久久久| 国内毛片无遮挡国产| 中文字幕一区二区三区50路| 久久黄人人爽视频| 99re这里只有精品2| 老熟妇一区二区三区| 一区二区国产视频在线观看| A啊啊在线观看| 日韩AV中文字幕电影| 性欧美另类高清| 久久超碰爱| 亚欧精品久久久久久久久久久| 91人妻Pr| 久久伊人大香蕉| 天天爽天天| 99无码视频| A V少妇特黄三级| 黑丝少妇| 内射中出日韩在线观看视频| 精品人妻一区二区三区-国产精品| 97爱爱爱综合| 五月天伊人| 天堂国产AV| 级品肉射| 91热色| 欧美人妖内射| 97视频在线免费观看| 人人操人人色网| 国产偷拍网站| 能在线播放的国产三级| 精品成人av一区二区三区在线| 人人做人人妻人人夜视频| 岛国片在线观看视频亚洲| 色五月丁香五月| 欧美日韩色图片| 狠狠搞 亚洲91| 欧美大色交| 日曰骚久久精品| 综合另类| 成人免费在线网站| 亚洲日本加勒比在线| 级品肉射| 国产精品午夜成人福利| 久久在线观看免费视频| 精品久久久久,69国产成人精| 国产日韩色综合| 一个色导综合| 欧美第一页| 一区二区三区看视频| 丰满人妻aA一区二区三区| 91在线秘 男同| 8050无码八戒| 亚洲人精| 噜噜噜亚洲精品| 超碰在线日韩一区| 99re免费视频精品全部| 欧美日本国产日韩激情视频| 91在线欧色| 二三四区精品| 青青草国产欧美非洲黑人| 日韩欧美成人性爱在线| 一色网男人的天堂| 东京热不卡视频| 91久久青青草原精品| 蜜乳AV一区二区三区四| 有码免费观看| 亚州欧美在线| 国产AV激情无码久久无码| 国产乱码久久| 9.1小视频| 欧美伊人久久综合网| 啊啊啊啊嗯嗯嗯用力好爽| 鸥美极品| 狠狠色噜噜狠狠狠狠2018| 九九av| 亚洲日韩欧美一区二区| 国产无码久久高清| 亚洲,欧美,春色,另类| 嗯嗯啊啊日韩精品| 九月激情婷婷| 亚洲国成人情色好看电影| 欧美黑人极品高潮喷吹熟女黑人性暴力日韩在线欧美极品一区 | 人妻激情偷乱视频一区二区三区| 午夜福利在线合集| 国产精品干干干| 99国产天美| 亚洲啪啪综合?v一区综合精品区| 乱老女人一区二区视频| 97久久国产亚洲精品超碰热| 变态乱伦伪娘灌肠一区二区| 美女啪欧美一区| 久久久久久精| 天天淫人人妻日日色| 人人妻人人澡人人爽人人精品浪潮| 午夜福利免费精品视频| 少妇专区一二三四五| 日本日逼高清| 中文字幕十五区| 91成人高清在线观看| 九九英色视频| 国产成年女人免费视频播放a| 超碰 另类 欧美| 黄片免费日韩| 久久国产视频专区一二三| 精品人妻中文字幕高清| 九九热免费国产视频婷婷伊人五月 | 哈哈操 大香蕉| 插欧洲美女欧美精品| 夜夜国自区| 亚洲天堂99| 91综合天天| 亚洲第一页色| 超碰午夜| 精品小视频在线| 黄在线| 亚洲脚交| 亚洲男人天堂Av| 亚洲av噜噜噜噜噜噜| 青青草视频在线观看一区二区| 激情小说图片亚洲首页| 欧美日韩大陆黑人少妇99| 日韩激情小说一区二区| 日韩精彩视频| 国产精品一二三区福利| 国产呦精品系列在线观看| 久久国产视频专区一二三| 高潮的A片激情扒开一区| 97超碰超欧美。| www狠狠| 国产品精品自在在线午夜免费| 第四色亚洲色图| 久草免费福利在线播放| 色欧美在线| 蜜桃传媒一区二区亚洲| 一级aaaaa欧美中文字幕录像片| 羞答答AV中文字| Julia在线播放亚洲久久| 美国日韩黄片| 干妹子| 黄页大片在线观看| AV污污污污| 久久久久久九九九| 中文久久96| 少妇超碰在线| 午夜120视频在线观看| 亚洲男人的天堂va亚洲男人社| 一区二区三区四区五区高清无码永久视频 | 99久久精品无码一区二区毛片免费| 久久视频,这里只有精品 | 伊人宅男大香蕉| 夜夜操夜夜爽夜夜高潮| 人人扣人人操| 精品九九国产无码| 亚洲精品97久久| 四虎在线免费视频| 免费看污网站| 开心五月婷婷激情| 乱伦1色页| dy888午夜老子影视达达兔| 久久视频,这里只有精品 | 欧美国产欧美在线观看| 国产精品福利视频| 99视频这有这里有精品| 国产亚洲精品美女久久久久久2021| 91老熟女老女人国产老太| 久久男人的天堂国产| 国产一区二区欧美日本| 精品国产91内射久久| 超碰99re| 亚洲欧洲日韩中文字幕一区| 加勒比伊人影院| 久久天天躁日日躁狠狠躁| 99精品视频在线观看| 熟女字幕| 熟女乱伦A| 国产丝袜美女在线一区| 人妻少妇精品| 97神马久久| 国产超碰欧美| 四虎影视永久在线观看精品免费网站 | 天天天天天天天天天天干美女| 日本一区二区三区午夜观看| 97干在线| 四虎在线观看视频| 97av在线观看| 亚洲综合在线第一页| 久9爱精品| 久久天堂网| 日本性一区| 亚洲色图自拍| 欧美日韩人妻婷婷一区| 好舒服视频| 欧美日动态视频| 精品国产国产AV| 大香网伊人久久综合网eew| 屌妞视频久久久久久久 | 久久国产精品m码| 超碰精品在线| 亚洲欧美综合图片| 性感美女91影视| 国产人妻久久精品一区二区三区| 久久噜噜噜精品国产亚洲综合| 国产乱不卡| 一本大道久| 国产白丝网站| 亚洲开心网| 囯产精品久久久久久久久久梁医生| 在线a亚洲视频播放在线| 97在线免费观看视频| 国产在线播放成人免费| 亚洲熟妇一,二,三期| 一级做a爰片性色毛片久久| 人人做,人人操,人人摸| av在线观看不卡网站| 青娱乐国产盛宴视频| 国产一区二区三区影片| 色婷婷综合久久久久中文国产精品一区中文字幕,国产福利电影一区二区三区 | 综合天天。| 无马一区二区| 精品无码欧美三级| 波多野42部无码喷潮在线观看| 久久av成人无码免费| av一区二区三区 中文| 又黄又爽在线观看视频| 超碰精品| 久久成年片色大黄全免费网站| 熟女高潮合集-永久久久-成人AV| 欧美亚洲宗合色性图| 欧美日韩小说| 人人人摸人人| 久久久久久AV无码免费网站| 91视频国品一二三区| 日han少妇无码| 亚洲色欧| 人人看人人插| www.色婷婷色综合| 日日日啊啊啊| 长长久久曰曰夜夜成人网| 日韩一卡二卡三卡| 熟女这里只有精品6| 久久精品色欧美aⅴ一区二区| 伊人97超碰| 粉嫩久久久久| 国产熟妇 码视频户外直播| 久久91视频| 青青欧美在线| 亚洲诱惑天堂 | 精品少妇人妻av久久免费| 国产亚洲综合欧美一区| 亚洲精品欧洲精品| 操熟女91| 极品美女福利在线观看| 中文有码第五页| 欧美激情 一区| 国产中文字幕在线点播| 欧洲色| 试看60秒| 超碰精品国产无码| 婷婷五月天成人| 另类成人首页一区| 日韩在线电影| 国产三级中文有码在线视频| 国产精品久久久久久夜夜夜| 在线有码中文字幕| 亚洲a色| 亚洲第一狼人丝袜美女另类 | 亚洲啪啪性视频| 啊啊啊啊啊啊啊啊啊啊在线观看| 97欧美| 国模精品娜娜一二三区| 亚洲色图 图片| 人妻二区| 999日韩中文精品观看视频。| 亚洲在线A| 天天视频黄网站| 伊人国产视频| 国产内射爽爽大片| 九九九九久久久| 91老司机精品| 免費黃色視頻觀看一| 国产精品在线一区二区| 性爱视频啪啪啪啪| 欧美亚洲一区二区久久久婷精品大包诱| 日日躁夜夜躁狠狠躁超爽| 97任你吞精| 999九九九九国产动| 温婉少妇玩3p| 天天日美女的B| 视频黄色国产一级| 蜜桃一区二区三区| 日本熟女中文字幕一区| 我中文字幕6区| 日韩欧美中文| 日本天堂在线播放| 国产成人自拍视频在线| 爱丝福利| 亚洲欧美日韩综合在线尤物| 欧美性第1页| 静品嫩模一区二区| 九九热国产| 久久久久国产精品喷潮免费观看臀 | 人人操人人狠狠操| 国产精品人妻熟女aⅴ| 国产精品人妻一区二区| 91在线精品一区二区三区| 97精品在线视频| 无人区高清电影免费观看一区二区三 www.qmcai2.com | 久热无码| 91性网| 国产精品一区二区三区在线密挑| 亚洲色图一区二区三区| 国产久久视频| 日本免费一级AAA大片器| 亚洲熟女乱综合一区二区三区| 日本操逼视频导航| 好一吊区二区| 亚洲色吧网| 国产亚洲色停停久久99精品91| 九九英色视频| 日韩精品碰碰| 91N综合网| 久久理论字幕视频| 久久国产免费激情视频| 91青青在线视频| 中文字幕成人| 女性喷水高潮在线观看| 欧美日韩另类字幕中文| 国产精品大香蕉| 一中国女人毛片水真多| 久草精品一区| 人妻丝袜无 码视频专区| 国产在线综合福利网站| 91久久久久久久| 五月天激情网站| 一级二级三级黑人无码| 亚洲色图欧美色图综合| av婷婷色网| 啪一啪免费视频| 久久中文字幕在线观看| 国产丰满少妇久久久精品影院| 亚欧高清v| 成年人黄色视频免费| 韩国毛片一区二区三区| 99热亚洲天堂| 人妻熟女av国产网站| 国产精品不卡av免费在线观看| 久操影视| 久久久9品一区二区三区| 亚洲四虎熟女精品| 国产v片在线免费观看| 5252色欧美在线男人的天堂| 国产超碰在线一区| www色色色com| 激情网色| 日韩一级欧美一级国产一级台湾| 欧美啪啪天堂| 欧美A√综合网| 淮穴色AV| 天美麻花大全视频| 在线a v| 天天综合亚洲综合| 国产午夜精品一区二区三区牛牛| 欧美A√综合网| 高清不卡视频| AA丁香综合激情| 亚洲αv一区二区三区| 国产粉嫩蜜臀av一区二区三区| 黑人精品欧美一区二区蜜桃| 大香蕉欧美国产日韩高潮| 91女在线观看| 91狠狠色丁香婷婷综合久久精品| 夜嗨影院| 熟女乱伦A| 综合伊人激情| 久久在线观看免费视频| 欧美激情内射| 久久男人| 日韩成人人妻网站| 超碰一区二区| 小骚逼被操的爽不爽| 蜜臀99999| 99re69综合| 色诱中文字幕| 宅男午夜在线视频| 美女啊啊啊啊pc| www.97在线| 67914亚洲精品| 六月丁香五月婷婷| 激情丁香婷婷| 丁香五月色情| 丁香五月偷拍| 日本超碰在线国产一区| 伊人91| 精品超碰中文在线| 欧美天天插| 国产女上位好爽在线| 色色色色色色色色色色色色色色综合 | 色情综合| 九九香蕉网| 精品成人av一区二区三区在线| 丰满的三级少妇欧美久久久| 午夜男人一级A片7777| 国产福利精品最新在线| 日韩中文字幕视频在线观看| 欧美很很操视频| 无码自拍SM| 亚洲无码色| 美国美女AV在线| 婷婷色香| 亚洲宗合网| 少妇人妻在线| 久久啊啊| 国产欧美日本亚洲精品| 香蕉久久AⅤ...| 殴美大黄片| 色综合99999| 一类无码操逼视频| 日本性爱少妇| 久久久久9| 1956日韩精品| 91精品婷婷国产综合久久竹菊| 亚洲视频,小说| 97在线播放| 60秒不遮不挡| 久久久精品视频欧州站| 国产 日韩 欧美 人妻 熟女 中文 69人妻精品一区二区绯色 | 麻豆三极片| 成人小说视频在线精品欧美| 粉嫩不卡一区二区性爱| www.婷婷六月天| 久久成年精品| 国产丝袜高跟美女av免费观看| 凌辱美少妇久久aV| 日韩一级性爱无码| 国产精品亚洲美女久久久久| 亚洲国产一区二区三区在线| 激情四射熟女丝袜| 啪啪自拍九九综合| 一类无码操逼视频| 中文字幕 人妻不满 在线视频| 亚洲中文电影| 中文字幕视频在线观看| 91超碰丝袜制服| 4399成人黄A片| 超碰午夜在线| 欧美色图99| 国产精品午夜福利亚洲综合网| 亚洲少妇综合在线播放| 91丨九色丨大屁股| 丝袜美女诱惑 91 视频| 国产丝袜高跟美女av免费观看| 青青草综合在线| 白丝被操91| 亚洲无码99| 9999亚洲精品| 日语五十路和六十路亚洲国产精品| 中国zzijzzijzzwww精品| 日韩三级一区| 后入式五六区| 成人av性爱电影在线观看| 91一起操| 美女91色黄18| 26uuu成人影片| 久久久久人妻| 欧美综合亚洲| 欧美极品性爱天天射| 国产天天骚| 国产综合久| 人妻aa| 麻豆人妻少妇在线免费观看| 97网色| 久久久久9| 九一性生活免费视频| 干我久操| 怡红院视频在线| 蜜臀99久久国产| 日韩无码成人电影| 在线色资源| 日本性爱不卡视频| 亚洲情色一区二区三区| 日韩欧美大片免费高清啪啪| 婷婷五月丁香五月| 色悠悠伊人网五月天| av婷婷色婷婷色六月| 九九九九欧美| 欧美一级久久久久久久大片动画| 精品久久久久黄少妇| 曰韩人妻中文字幕在线| 亚洲国产精品久久久久久久久久| 色路综合| 婷婷在线视频| 99超碰碰| 天堂岛av| 91性感在线| 夜夜中出国产| 亚洲精品97久久| 亚洲国产第一页综合视频| 日韩99999| 亚洲日韩AV视色| 欧美黄业| 暖暖精品二区三区观看| 亚洲国产精品无码AV久久| 天堂av2019| 日韩成人无码| 国产女同性恋视频| 99国产在线 精品 视频| 97精品97久久| 中国一区二区亚洲人妻| 欧美97免费| 黄色AV影视| 91精品人妻偷情| 超碰精品| 亚洲乱码国产乱码精网站| 青青草中出视频| 香蕉综合网| 亚洲欧美另类激情小说| 欧美图片色综合| 欧美日韩在线国产在线| 天天综合,91入口| 人妻丰满熟妇一区二区三| 超碰欧美COM| 国产高清MV操逼视频| 欧美亚洲国产91在线| 亚洲熟久久| 欧美黑人精品一区二区| 亚洲国产97在线精品一区| 天天日天天舔| 久久69| 久热99999| 亚洲涩涩| 超碰色综合| 天堂v无码免费视频| 草久久久| 国产美女高潮叫床视频| 91欧美亚洲| 97爱b| 婷婷五月天网| 国产女同视频在线播放| 亚洲综合色图欧美| 日本淫色网| 九九探花视频在线观看| 91色狼| 久久婷婷欧美| 日韩素人无码一区二区三区三州| 日韩免费高清大片在线| 亚州黄站| 乱码熟妇人妻久久久| 国产福利精品最新在线| 亚洲学生妹高清av| 综合情欲网| 欧美最婬乱婬爆婬性视频| 天天日B夜夜干B时时操B| 国产自制av蜜乳| 青青青草伊人精品| 大香蕉免| 丁香五月性| 色黄色美女大长腿午夜视频| 丝袜综合网| 无码人妻系列少妇| 97高清啪啪| 日本狠狠干| 亚洲啪啪视频一区二区| aa片毛片| 国产美女高潮视频| 欧洲精品久久| 97超碰无码网| 精品一区二区啪啪啪| 网页导航五月天免费一二三区 | 国产区91柔拿会所技师| 欧美成人一级麻豆| 久久久精品,3| 亚洲性感丝袜诱惑在线观看| 青青草密桃在线播放| 色五月首页| 久久久无码av精| 熟妇xxxxx性春色| 亚洲精品久久久久毛片A片拉屎 | 91成人久久| 午夜福利区| 国产一区二区三区不卡手机在线| 人人操AV| 爱我干综合| 国产精品久久久久久久久AV大片| 亚洲无码太久| 国产精品久久久吖| 久操电影| 偷拍 亚洲 欧美| 亚洲国产欧美日韩精品一区二区三区,国产一区二区三区在线看片,欧美性猛交 XXX | 五月天欧美色图| 人妻少妇色综合| 操美女人妻| 欧美综合色站| 亚洲av总站| 精品一区96| 97亚洲性爱| 精品久久99| 大香蕉十区| 精品久久久久黄少妇| 超碰在线974| 久久的网站啊啊啊啊啊| sss视频华人在线| 亚洲AV乱码专区国产噜噜亚洲 | 欧洲性爱无码区| 成年无码动漫av片无尽在线| 少妇久久久久久| 天天躁日日躁狠狠躁| 国产成人欧美精品在线|