日韩精品一区二区三区在线视频放-无码中文字幕V?一区二区-成年片免费观看视频-国内少妇人妻丰满av-国产精品中文字幕免费观看-亚洲成人久久一区二区三区-国内少妇偷人精品视频无缓冲-一区二区国产精品日本一区二区三区在线网

ARTICLE DETAIL

資訊詳情

深耕商務建站與企業(yè)官網(wǎng)運營的一線實戰(zhàn)洞察。

CANN ops-transformer QuantLightningIndexer 算子深度解析:稀疏 Attention 前處理與量化索引技術實戰(zhàn)指南

CANN ops-transformer QuantLightningIndexer 算子深度解析:稀疏 Attention 前處理與量化索引技術實戰(zhàn)指南 CANN ops-transformer QuantLightningIndexer 算子深度解析稀疏 Attention 前處理與量化索引技術實戰(zhàn)指南【免費下載鏈接】ops-transformer本項目是CANN提供的transformer類大模型算子庫實現(xiàn)網(wǎng)絡在NPU上加速計算。項目地址: https://gitcode.com/cann/ops-transformer本文以 CANN ops-transformer 開源倉庫中 experimental/attention/quant_lightning_indexer/README.md 為骨架結合算子 Host 側(cè)定義、Tiling、InferShape 與 Kernel 側(cè)源碼系統(tǒng)講解 QuantLightningIndexer下文簡稱 QLI算子的功能原理、計算公式、參數(shù)語義、硬件適配約束以及單算子與 aclgraph 兩種調(diào)用方式。讀者讀完后將掌握如何在 Atlas A3 與 Ascend 950 系列產(chǎn)品上正確配置并調(diào)用該算子理解其稀疏選擇 存8算8的量化索引機制并能結合倉庫源碼定位實現(xiàn)細節(jié)。一、算子定位與功能概述QuantLightningIndexer 是 CANN ops-transformer 倉庫中面向推理場景的稀疏 Attention 前處理算子。它的核心職責有兩項稀疏 Token 選擇在長序列推理中從大量前序 Key 中高效選出與當前 Query 相關性最強的 Top-k 個稀疏 Token作為后續(xù)稀疏 Attention 計算的輸入索引量化索引存8算8輸入 Query 與 Key 以 INT8 或 FLOAT8 等低精度格式存儲存8在計算相關性分數(shù)時通過反量化系數(shù)還原精度算8在保證精度的前提下降低存儲與帶寬開銷獲取最大收益。從代碼定位看該算子同時存在于 experimental/attention/quant_lightning_indexer實驗分支本指南關聯(lián)文檔所在位置與 attention/quant_lightning_indexer正式目錄含 aclnn 接口與 examples 示例兩個目錄中二者共享相同的算子原型、Tiling 與 Kernel 設計后者額外提供了 aclnnQuantLightningIndexer.md 接口文檔與 test_npu_quant_lightning_indexer.py 示例腳本。在 算子原型定義 中該算子注冊的 AICore 配置覆蓋ascend910b、ascend910_93與ascend950三類 SoC并聲明了動態(tài)編譯、動態(tài) Format、動態(tài) Rank、動態(tài) Shape 支持以及PrecisionReduceFlag(true)精度降低標志說明其本身即是為低精度量化計算而設計。二、計算公式與算法流程QLI 算子的計算公式如下$$out \text{Top-}k\left{[1]{1\times g}\left[(W[1]{1\times S_{k}})\odot\text{ReLU}\left(\left(Scale_QScale_K^T\right)\odot\left(Q_{index}^{Quant}{\left(K_{index}^{Quant}\right)}^T\right)\right)\right]\right}$$其中各符號含義為符號對應入?yún)⒕S度含義$Q_{index}^{Quant}$query$\mathbb{R}^{g\times d}$當前 Token 的量化 Index Query$K_{index}^{Quant}$key$\mathbb{R}^{S_{k}\times d}$壓縮后的量化 Index Key$Scale_Q$query_dequant_scale-Index Query 的反量化系數(shù)$Scale_K^T$key_dequant_scale-Index Key 的反量化系數(shù)$W$weights-權重系數(shù)$g$--Group 數(shù)N1/N2算法分為三個主要計算步驟相關性計算將當前 Token 對應的輸入 Query 乘以給定上下文 Key得到二者間的相關性即量化域內(nèi)的 $QK^T$ 矩陣乘反量化與激活過濾相關性結果與 Query、Key 對應的反量化系數(shù) $Scale_Q$、$Scale_K^T$ 相乘完成反量化再經(jīng)過ReLU激活函數(shù)過濾無效的負相關信號得到當前 Token 與所有前序 Token 的相關性分數(shù)向量加權選 Top-k將分數(shù)向量與權重系數(shù) $W$ 相乘后沿 g 方向即 Query 的 Head 方向選取前 Top-k 個索引值得到輸出sparse_indices作為后續(xù) Attention 的輸入。從 Kernel 實現(xiàn)看該流程在 quant_lightning_indexer.cpp 中通過QLIPreload模板類完成內(nèi)部由QLIMatmulCube 側(cè)矩陣乘與QLIVectorVector 側(cè)激活、加權與 Topk兩個服務模塊協(xié)同并按KERNEL_TYPE_MIX_AIC_1_2采用 AICCube AIVVector混合核架構執(zhí)行。三、參數(shù)說明QLI 算子的完整參數(shù)如下表所示。其中輸入/輸出/屬性列區(qū)分了該參數(shù)在算子圖中的角色數(shù)據(jù)格式列中 ND 表示按維度順序連續(xù)排布。參數(shù)名輸入/輸出/屬性描述數(shù)據(jù)類型數(shù)據(jù)格式query輸入公式中的 $Q_{index}^{Quant}\in\mathbb{R}^{g\times d}$表示輸入 Index Query不支持非連續(xù)。INT8、FLOAT8_e4m3fn、HIFLOAT8NDkey輸入公式中的 $K_{index}^{Quant}\in\mathbb{R}^{S_{k}\times d}$表示壓縮后的輸入 Index Key支持 0 軸非連續(xù)。INT8、FLOAT8_e4m3fn、HIFLOAT8NDweights輸入公式中的 $W$表示權重系數(shù)不支持非連續(xù)。FLOAT16、FLOAT32NDquery_dequant_scale輸入公式中的 $Scale_Q$表示 Index Query 的反量化系數(shù)不支持非連續(xù)。FLOAT16、FLOAT32NDkey_dequant_scale輸入公式中的 $Scale_K$表示 Index Key 的反量化系數(shù)不支持非連續(xù)。FLOAT16、FLOAT32NDactual_seq_lengths_query可選輸入表示不同 Batch 中query的有效 Token 數(shù)。INT32NDactual_seq_lengths_key可選輸入表示不同 Batch 中key的有效 Token 數(shù)。INT32NDblock_table可選輸入表示 PageAttention 中 KV 存儲使用的 block 映射表。INT32NDmetadata可選輸入QuantLightningIndexerMetadata 算子傳入的分核信息包含使用核數(shù)、分塊大小以及每個核處理數(shù)據(jù)的起始點等內(nèi)容shape 大小為 [1024]當前不支持傳空。INT32NDquery_quant_mode屬性用于標識輸入query的量化模式當前支持 Per-Token-Head 量化模式當前僅支持傳入 0。INT32-key_quant_mode屬性用于標識輸入key的量化模式當前支持 Per-Token-Head 量化模式當前僅支持傳入 0。INT32-layout_query可選屬性用于標識輸入query的數(shù)據(jù)排布格式當前支持 BSND、TND默認值 BSND。STRING-layout_key可選屬性用于標識輸入key的數(shù)據(jù)排布格式當前僅支持傳入 PA_BSND默認值 PA_BSND。STRING-sparse_count可選屬性代表 topK 階段需要保留的 block 數(shù)量支持 [1, 2048]默認值 2048。INT32-sparse_mode可選屬性表示 sparse 的模式支持 0/3。sparse_mode 為 0 時代表 defaultMask 模式為 3 時代表 rightDownCausal 模式的 mask對應以右頂點為劃分的下三角場景。INT32-pre_tokens可選屬性預留參數(shù)表示 attention 需要和前幾個 Token 計算關聯(lián)僅支持默認值 2^63-1。INT64-next_tokens可選屬性預留參數(shù)表示 attention 需要和后面幾個 Token 計算關聯(lián)僅支持默認值 2^63-1。INT64-cmp_ratio可選屬性用于稀疏計算表示 key 的壓縮倍數(shù)。Atlas A3 推理系列產(chǎn)品支持 1/2/4/8/16/32/64/128Ascend 950PR/Ascend 950DT 支持 1/4/128默認值 1。INT32-return_value可選屬性表示是否輸出sparse_values。True 表示輸出False 表示不輸出僅支持默認值 False。BOOL-sparse_indices輸出公式中的輸出 Out參與稀疏 Attention 計算的 Token 索引值。INT32NDsparse_values輸出公式中 Indices 輸出對應的 value 值目前暫不支持返回 sparse_values。FLOAT32ND不同硬件平臺的數(shù)據(jù)類型差異Ascend 950PR/Ascend 950DTquery、key不支持 INT8weights、query_dequant_scale和key_dequant_scale不支持 FLOAT16。對應源碼中ascend950配置僅注冊DT_FLOAT8_E4M3FN、DT_HIFLOAT8輸入與DT_FLOAT權重/反量化系數(shù)。Atlas A3 訓練系列產(chǎn)品/Atlas A3 推理系列產(chǎn)品、Atlas A2 訓練系列產(chǎn)品/Atlas A2 推理系列產(chǎn)品query、key不支持 FLOAT8_e4m3fn 和 HIFLOAT8weights、query_dequant_scale和key_dequant_scale不支持 FLOAT32。該平臺差異在 Tiling 源碼 的GetAndCheckInOutDataType()中有嚴格校驗ASCEND910B/910_93 分支強制 query/key 為 INT8、scale 為 FLOAT16、weights 為 FLOAT16ASCEND950 分支強制 query/key 為 FLOAT8_E4M3FN 或 HIFLOAT8、scale 與 weights 為 FLOAT。由源碼確認的參數(shù)校驗規(guī)則從 quant_lightning_indexer_tiling.cpp 的CheckAttrParaInfo()與 shape 校驗邏輯可以進一步確認以下規(guī)則sparse_count必須滿足0 sparse_count 2048常量SPARSE_LIMITASCEND910B/910_93 上cmp_ratio必須為 2 的冪且0 cmp_ratio 128ASCEND950 上僅允許 1、4、128layout_key僅支持PA_BSNDlayout_query僅支持BSND或TNDPA 場景外layout_query與layout_key必須一致sparse_mode僅支持 0 或 3pre_tokens/next_tokens僅支持9223372036854775807即 int64 最大值2^63-1query_quant_mode/key_quant_mode僅支持 0return_values僅支持 Falsequery與key數(shù)據(jù)類型必須一致兩個 dequant_scale 數(shù)據(jù)類型必須一致query的 N 軸N1與key的 N 軸N2之比 g 必須等于 64即 N164、N21常量G_SIZE_LIMITD 軸head_dim必須等于 128常量HEAD_DIM_LIMITblock_size必須是 16 的整數(shù)倍且屬于 (0, 1024]常量BLOCK_SIZE_FACTOR/BLOCK_SIZE_LIMITmetadata的 shape 必須為 [1024]常量METADATA_LIMIT。四、約束說明該接口支持圖模式。該接口要求 $W \odot Scale_Q$ 的結果在float16Atlas A3/float32Ascend 950PR/Ascend 950DT的表示范圍內(nèi)否則計算精度無法保證。該接口的 TopK 過程對 NAN 排序是未定義行為輸入數(shù)據(jù)中不應包含 NAN。參數(shù)query中的 D 軸和參數(shù)key中的 D 軸值相等為 128。參數(shù)query和key中的 N 軸分別僅支持 64 和 1。當layout_query為 TND 時actual_seq_lengths_query必須傳入且以該入?yún)⒃氐臄?shù)量作為 B 值該入?yún)⒅忻總€元素的值表示當前 batch 與之前所有 batch 的 Token 數(shù)總和即前綴和因此后一個元素的值必須大于等于前一個元素的值不能出現(xiàn)負值。當layout_key為 PA_BSND 時actual_seq_lengths_key該入?yún)⒈仨殏魅?。注意其語義與actual_seq_lengths_query不同在 PageAttention 場景下它表示每個 batch 的實際 Token 數(shù)非前綴和這在測試參數(shù)文件 test_quant_lightning_indexer_paramset.py 的注釋PA場景非前綴和表示每個batch_size的實際token數(shù)中也有明確標注。PageAttention 場景下block_table必須為二維第一維長度需要等于 B第二維長度不能小于maxBlockNumPerSeq每個 batch 中最大actual_seq_lengths_key對應的 block 數(shù)量支持 block_size 取值為 16 的整數(shù)倍最大支持到 1024。query、key、weights、query_dequant_scale、key_dequant_scale數(shù)據(jù)排布格式支持從多種維度解讀其中BBatch Size表示輸入樣本批量大小、SSequence Length表示輸入樣本序列長度、HHead Size表示 hidden 層的大小、NHead Num表示多頭數(shù)、DHead Dim表示 hidden 層最小的單元尺寸且滿足 DH/NT 表示所有 Batch 輸入樣本序列長度的累加和。Layout 與 Shape 的對應關系從 InferShape 實現(xiàn) 與 Tiling 的 shape 校驗ValidateInputShapesMatch()中的注釋可以得出各 Layout 下輸入輸出的 shape 約定場景querykeyweightsblock_tableoutBSND[B, S1, N1, D][BlockNum, BlockSize, N2, D][B, S1, N1][B, MaxBlockNumPerBatch][B, S1, N2, TopK]TND[T, N1, D][BlockNum, BlockSize, N2, D][T, N1][B, MaxBlockNumPerBatch][T, N2, TopK]其中S2 block_table.dim1 * block_sizePageAttention 場景即參與比較的 Key 序列長度由 block 表換算而來。sparse_values輸出在return_valueFalse時 shape 為 [0]空若開啟返回則與sparse_indices形狀一致。五、Atlas A3 推理系列產(chǎn)品調(diào)用說明5.1 單算子模式調(diào)用單算子直調(diào)模式通過torch.ops.custom.npu_quant_lightning_indexer直接執(zhí)行算子。完整可運行示例import torch import torch_npu import numpy as np import torch.nn as nn import math import custom_ops n1 64 n2 1 d 128 block_size 128 layout_key PA_BSND layout_query BSND query_quant_mode 0 key_quant_mode 0 np.random.seed(0) # ------------- b 24 t None s1 4 s2 512 act_seq_q None act_seq_k None sparse_mode 0 sparse_count 512 cmp_ratio 1 max_block_table_num (s2 block_size - 1) // block_size block_table torch.tensor([range(b * max_block_table_num)], dtype torch.int32).reshape(b, -1) key torch.tensor(np.random.uniform(-128, 127, (b * max_block_table_num, block_size, n2, d))).to(torch.int8) key_dequant_scale torch.tensor(np.random.uniform(0, 10, (b * max_block_table_num, block_size, n2))) key_dequant_scale key_dequant_scale.to(torch.float16) query torch.tensor(np.random.uniform(-128, 127, (b, s1, n1, d))).to(torch.int8) query_dequant_scale torch.tensor(np.random.uniform(0, 10, (b, s1, n1))).to(torch.float16) weights torch.tensor(np.random.uniform(0, 0.01, (b, s1, n1))).to(torch.float16) actual_seq_lengths_query torch.tensor(np.random.uniform(s1, s1, (b))).to(torch.int32) \ if act_seq_q is None else torch.tensor(act_seq_q).to(torch.int32) actual_seq_lengths_key torch.tensor(np.random.uniform(s2, s2, (b))).to(torch.int32) \ if act_seq_k is None else torch.tensor(act_seq_k).to(torch.int32) max_seqlen_q actual_seq_lengths_query.max().item() max_seqlen_k actual_seq_lengths_key.max().item() metadata torch.ops.custom.npu_quant_lightning_indexer_metadata ( actual_seq_lengths_query actual_seq_lengths_query.npu(), actual_seq_lengths_key actual_seq_lengths_key.npu(), num_heads_q n1, num_heads_k n2, head_dim d, query_quant_mode query_quant_mode, key_quant_mode key_quant_mode, batch_size b, max_seqlen_q max_seqlen_q, max_seqlen_k max_seqlen_k, layout_query layout_query, layout_key layout_key, sparse_count sparse_count, sparse_mode sparse_mode, pre_tokens (163)-1, next_tokens (163)-1, cmp_ratio cmp_ratio, device npu:0) sparse_indices, sparse_values torch.ops.custom.npu_quant_lightning_indexer(query.npu(), key.npu(), weights.npu(), query_dequant_scale.npu(), key_dequant_scale.npu(), actual_seq_lengths_queryactual_seq_lengths_query.npu(), actual_seq_lengths_keyactual_seq_lengths_key.npu(), block_tableblock_table.npu(), metadata metadata, query_quant_modequery_quant_mode, key_quant_modekey_quant_mode, layout_querylayout_query, layout_keylayout_key, sparse_countsparse_count, sparse_modesparse_mode, pre_tokens(163)-1, next_tokens(163)-1, cmp_ratiocmp_ratio)關鍵點說明必須先調(diào)用 Metadata 算子npu_quant_lightning_indexer_metadata生成 shape 為 [1024] 的分核信息使用核數(shù)、分塊大小、每核處理數(shù)據(jù)的起始點等該結果作為metadata入?yún)鹘o主算子且當前不支持傳空Tensor 需先.npu()上板所有輸入張量在傳入前均需移到 NPU 設備上量化模式與 Layout示例中query_quant_mode0、key_quant_mode0Per-Token-Headlayout_queryBSND、layout_keyPA_BSND返回值為二元組sparse_indices與sparse_values其中sparse_values目前固定不返回有效內(nèi)容。5.2 aclgraph 調(diào)用aclgraphtorchair 圖編譯模式通過torch.compile配合torchair.get_npu_backend將網(wǎng)絡整體編譯后執(zhí)行適合將 QLI 算子嵌入完整推理圖。完整可運行示例import torch import torch_npu import numpy as np import torch.nn as nn import math import torchair import custom_ops from torchair.configs.compiler_config import CompilerConfig n1 64 n2 1 d 128 block_size 128 layout_key PA_BSND layout_query BSND query_quant_mode 0 key_quant_mode 0 np.random.seed(0) # ------------- b 24 t None s1 4 s2 512 act_seq_q None act_seq_k None sparse_mode 3 sparse_count 512 pre_tokens(163)-1 next_tokens(163)-1 cmp_ratio 4 max_block_table_num (s2 block_size - 1) // block_size block_table torch.tensor([range(b * max_block_table_num)], dtype torch.int32).reshape(b, -1).npu() key torch.tensor(np.random.uniform(-128, 127, (b * max_block_table_num, block_size, n2, d))).to(torch.int8).npu() key_dequant_scale torch.tensor(np.random.uniform(0, 10, (b * max_block_table_num, block_size, n2))).npu() key_dequant_scale key_dequant_scale.to(torch.float16).npu() query torch.tensor(np.random.uniform(-128, 127, (b, s1, n1, d))).to(torch.int8).npu() query_dequant_scale torch.tensor(np.random.uniform(0, 10, (b, s1, n1))).to(torch.float16).npu() weights torch.tensor(np.random.uniform(0, 0.01, (b, s1, n1))).to(torch.float16).npu() actual_seq_lengths_query torch.tensor(np.random.uniform(s1, s1, (b))).to(torch.int32).npu() \ if act_seq_q is None else torch.tensor(act_seq_q).to(torch.int32).npu() actual_seq_lengths_key torch.tensor(np.random.uniform(s2, s2, (b))).to(torch.int32).npu() \ if act_seq_k is None else torch.tensor(act_seq_k).to(torch.int32).npu() max_seqlen_q actual_seq_lengths_query.max().item() max_seqlen_k actual_seq_lengths_key.max().item() class QLINetwork(nn.Module): def __init__(self): super(QLINetwork, self).__init__() def forward(self, query, key, weights, q_scale, k_scale, query_quant_mode, key_quant_mode, batch_size, num_heads_q, num_heads_k, head_dim, actual_seq_lengths_queryNone, actual_seq_lengths_keyNone, block_tableNone, layout_queryBSND, layout_keyBSND, sparse_count512, sparse_mode3, pre_tokens(163)-1, next_tokens(163)-1, cmp_ratiocmp_ratio, return_valueFalse): metadata torch.ops.custom.npu_quant_lightning_indexer_metadata( actual_seq_lengths_query actual_seq_lengths_query, actual_seq_lengths_key actual_seq_lengths_key, num_heads_q num_heads_q, num_heads_k num_heads_k, head_dim head_dim, query_quant_mode query_quant_mode, key_quant_mode key_quant_mode, batch_size batch_size, max_seqlen_q max_seqlen_q, max_seqlen_k max_seqlen_k, layout_query layout_query, layout_key layout_key, sparse_count sparse_count, sparse_mode sparse_mode, pre_tokens (163)-1, next_tokens (163)-1, cmp_ratio cmp_ratio, device npu:0) sparse_indices, sparse_values torch.ops.custom.npu_quant_lightning_indexer(query, key, weights, q_scale, k_scale, actual_seq_lengths_queryactual_seq_lengths_query, actual_seq_lengths_keyactual_seq_lengths_key, block_tableblock_table, metadatametadata, query_quant_modequery_quant_mode, key_quant_modekey_quant_mode, layout_querylayout_query, layout_keylayout_key, sparse_countsparse_count, sparse_modesparse_mode,pre_tokenspre_tokens, next_tokensnext_tokens, cmp_ratiocmp_ratio, return_valuereturn_value) return sparse_indices config CompilerConfig() config.mode reduce-overhead npu_backend torchair.get_npu_backend(compiler_configconfig) torch._dynamo.reset() npu_mode torch.compile(QLINetwork().npu(), fullgraphTrue, backendnpu_backend, dynamicFalse) sparse_indices npu_mode( query, key, weights, query_dequant_scale, key_dequant_scale, query_quant_mode, key_quant_mode, b, n1, n2, d, actual_seq_lengths_queryactual_seq_lengths_query, actual_seq_lengths_keyactual_seq_lengths_key, block_tableblock_table, layout_querylayout_query, layout_keylayout_key, sparse_countsparse_count, sparse_modesparse_mode, pre_tokenspre_tokens, next_tokensnext_tokens, cmp_ratiocmp_ratio, return_valueFalse)與單算子模式相比aclgraph 模式的關鍵差異需要額外導入torchair與CompilerConfig通過定義nn.Module網(wǎng)絡并配合torch.compile(..., fullgraphTrue, backendnpu_backend, dynamicFalse)將算子整體編譯為圖執(zhí)行CompilerConfig的mode設置為reduce-overhead以減少圖執(zhí)行開銷示例中使用了sparse_mode3rightDownCausal 下三角 mask與cmp_ratio4Key 壓縮 4 倍可作為稀疏 Attention 長序列場景的參考配置。六、Metadata 算子與分核機制metadata入?yún)⒂膳涮姿阕觧pu_quant_lightning_indexer_metadata生成是 QLI 算子正確執(zhí)行的前提。其底層布局定義位于 quant_lightning_indexer_metadata.hMetadata 總大小固定為1024 個 int32 元素QLI_META_SIZE 1024對應入?yún)?shape [1024]內(nèi)部包含兩類分核信息LI Metadata大小為 8共AIC_CORE_NUM 36組記錄每個 Cube 核的使能標志、BN2/M/S2 的起始與結束索引、首個 LD 數(shù)據(jù)的 workspace 索引等見常量LI_CORE_ENABLE_INDEX至LI_FIRST_LD_DATA_WORKSPACE_IDX_INDEXLD Metadata大小為 8共AIV_CORE_NUM 72組記錄每個 Vector 核的使能標志、BN2/M 索引、workspace 索引與數(shù)量、M 起始位置與數(shù)量等見常量LD_CORE_ENABLE_INDEX至LD_M_NUM_INDEX通過GetAttrAbsIndex(coreIdx, metaIdx, isAIV)計算屬性在 1024 元素中的絕對偏移非 AIV 數(shù)據(jù)位于LI_METADATA_SIZE * coreIdx metaIdxAIV 數(shù)據(jù)位于LI_METADATA_SIZE * AIC_CORE_NUM LD_METADATA_SIZE * coreIdx metaIdx。從 Tiling 實現(xiàn) 看Tiling 階段會通過CalcTschBlockDim(aivNum, aicNum, aivNum)計算 blockDim并按M_BASE_SIZE 512、S2_BASE_SIZE 512arch22或s1BaseSize 4、s2BaseSize 128arch35/DAV_3510等基本塊規(guī)格為各核分配 S2 循環(huán)與 DecodeLD中間結果的 workspace臨時存儲索引/值與參數(shù)信息最終以tilingData與tilingKey由數(shù)據(jù)類型、PA 標志、Q/K Layout 組合而成下發(fā)給 Kernel。七、Kernel 實現(xiàn)要點Kernel 入口 quant_lightning_indexer.cpp 通過編譯期宏區(qū)分兩套架構實現(xiàn)arch22ASCEND910B / ASCEND910_93即 Atlas A3模板參數(shù)為int8_t, int8_t, int32_t即 Query/Key 走 INT8、反量化輸出 INT32對應KERNEL_TYPE_MIX_AIC_1_2混合核arch35ASCEND950根據(jù)原始數(shù)據(jù)類型選擇hifloat8或fp8_e4m3fn_t模板輸出類型為float反量化系數(shù)為uint16_t編碼的 FLOAT8 相關格式對應 FLOAT8 存算方案。在 arch22 Kernel 頭文件 中可以看到關鍵設計常量M_BASE_SIZE 256、S2_BASE_SIZE 2048S2 循環(huán)的基本分塊大小HEAD_DIM 128、K_HEAD_NUM 1與約束Query N64、Key N1、D128對應MM1_OUT_T floatQK^T 矩陣乘的中間累加精度為 FP32WS_DOUBLE 2workspace 采用雙緩沖LD_PREFETCH_LEN 2Decode 預取深度為 2TempLoopInfo結構體記錄了 B/N/S1/S2 方向的循環(huán)邊界、實際有效長度actS1Size/actS2Size、是否需要 LDisNeedLD以及尾塊大小等運行時信息用于驅(qū)動主循環(huán)。Kernel 的 Process 流程按照Cube 計算相關性 → Vector 反量化/ReLU/加權 → TopK 選索引的流水線組織Cube 與 Vector 之間通過同步標志SYNC_C1_V1_FLAG 4、SYNC_V1_C1_FLAG 5實現(xiàn)跨核同步。八、測試框架與驗證方法關聯(lián)目錄提供了基于 pytest 的完整測試框架說明文檔見 tests/pytest/README.md。其驗證思路為CPU 側(cè)通過 quant_lightning_indexer_golden.py 復現(xiàn)算子功能生成 golden 數(shù)據(jù)NPU 側(cè)通過 TorchNPU 直調(diào)算子獲取實際輸出精度對比由 result_compare_method.py 完成 CPU 與 NPU 結果比對。使用方法單用例調(diào)測在experimental/attention/quant_lightning_indexer/tests/pytest目錄下手動配置 test_quant_lightning_indexer_paramset.py 中的參數(shù)然后執(zhí)行bash test_run.sh single批量生成與測試在 excel 路徑下放置用例表格在test_run.sh中設置 excel 路徑與 pt 文件存放路徑然后執(zhí)行bash test_run.sh batch在 test_quant_lightning_indexer_paramset.py 中可以看到覆蓋三類硬件場景的典型用例quant_li_default_a5qk_dtype torch.float8_e4m3fn、dequant_dtype torch.float32、layout_query BSND、layout_key PA_BSND對應 Ascend 950 場景quant_li_default_hifp8_a5qk_dtype torch.uint8HIFLOAT8 載體、dequant_dtype torch.float32同樣對應 Ascend 950 場景quant_li_default_a3qk_dtype torch.int8、dequant_dtype torch.float16、layout_query TND、layout_key PA_BSND對應 Atlas A3 場景。其中act_seq_k的取值如[28,24,80,96,47,76,0,111]與PA 場景非前綴和表示每個 batch_size 的實際 token 數(shù)的注釋相印證同時block_size512、block_num8也對應了 block 表維度的設計約定。正式目錄 attention/quant_lightning_indexer/tests 下還提供了對應的 test_quant_lightning_indexer_acl_graph.py 圖模式用例與 Host 側(cè) tiling/infershape 的 UT見 tests/ut可作為回歸驗證的參考。九、總結與適用場景QuantLightningIndexer 是 CANN ops-transformer 中面向推理場景的稀疏 Attention 前處理算子通過存8算8的量化索引與 Top-k 稀疏選擇將長序列 Attention 的計算范圍收斂到與當前 Query 最相關的 Key 子集從而降低存儲帶寬與計算開銷。在使用時需注意先元數(shù)據(jù)后主算子metadata必須由配套的npu_quant_lightning_indexer_metadata算子生成并傳入shape 固定為 [1024]按硬件選擇數(shù)據(jù)類型Atlas A3 使用 INT8 FLOAT16Ascend 950PR/950DT 使用 FLOAT8_e4m3fn/HIFLOAT8 FLOAT32嚴格遵守 shape 約束N164、N21、D128、block_size 為 16 的整數(shù)倍且不超過 1024區(qū)分兩種 seq 語義TND 下actual_seq_lengths_query為前綴和PA_BSND 下actual_seq_lengths_key為各 batch 實際 Token 數(shù)兩種調(diào)用方式單算子直調(diào)適合調(diào)試驗證aclgraph 圖編譯適合嵌入完整推理鏈路。如需深入源碼可繼續(xù)閱讀 算子原型定義、Tiling 實現(xiàn)、InferShape 以及 Kernel 入口 與兩套架構的 Kernel 頭文件arch22 / arch35?!久赓M下載鏈接】ops-transformer本項目是CANN提供的transformer類大模型算子庫實現(xiàn)網(wǎng)絡在NPU上加速計算。項目地址: https://gitcode.com/cann/ops-transformer創(chuàng)作聲明:本文部分內(nèi)容由AI輔助生成(AIGC),僅供參考
返回列表
PREV
查看更多資訊
NEXT
返回資訊列表
精品人妻视频入口| 综合久久久久久久综合网| 欧美另类色图片| 欧美狠狠弄| 亚洲av综合伊人久久| 日韩97视频!在线| 人妻超碰青青草98| 99色在线| 综合国产影视三级| 伊人久久大香线综合无码| 两女互慰AV高潮喷水在线观看| 久久6热精品99视频| 成人精品在线| 尤物视频一区| 欧美综合1性辶| 九九精品美女高溯喷水| 99ri精品| 日韩Va亚洲va欧美Ⅴa久久| 怡红院网站在线视频| 国产精品自产拍在线观看社区| 搡老女人老熟女91| 久伊人网78| 高潮嗯啊性感美女久久久| 国内精品嫩模A∨私拍小视频| 亚洲91综合| 久草免费福利在线播放| 欧美十八禁视频| 久久青娱乐| 校园春色五月天| 蜜桃久久一区二区三区| 日本三级R| 96爱综合| 91操操| 色偷综合| 综合网亚洲1| 久久一二三四五六七八九区区区 | 中文字幕一区二区三区人妻少妇在线| 国产精品秘 福利姬在线观看| 秋霞久久亚洲精品成人| 无遮挡一级毛片视频免费的| 青青青青操国内视频在线| 激情文学亚洲| 欧美第一页| 九九九九九九九九九五码| 四月丁香婷婷| 97色色色综合网站| 国产精品高潮久久AV| 狠肏骚人妻| 大香蕉免| 大乔未久88一区| 日日干夜夜欢| 99少妇| 激情人妻另类| 久久国产视频性吧| 狠狠 91| 久久久久骚| 欧美久久久15P| 免费A V在线播放| 色情五月综合婷婷| 免费看污网站| 91美女精品| 9色国产精品一区粉嫩| 在线播放免费av福利片| 女同在线视频一区| 99热日| 91亚洲在线| 亚洲乱色熟女一区| 亚州情色j区| 久偷拍欧美日韩三区| 精品国产乱码久久久久久久| 青娱乐国产精品| 又黑又大又粗| 久夜操| av在线免费一区二区| 操少妇很爽av| 中文字幕乱妇免费视频| 在线观看综合精品亚洲| 国精综合一二三区影视| 精品78| 日韩一级片在线看| 青青草无码视频| 亚洲乱色熟女一区| 91九九九馒头| 69精品| 五月天开心网| 亚洲欧美综合图片| 亚欧性爱在线无码| 九九九只有精品| 91天天日| 久久亚洲熟妇在线视频| 91欧美| 熟女精品一区二区三区| 青草香蕉网| 伊人网在线观看| 人人妻人人爽人人精品| 无码高清国产AV| 亚洲五月丁香花狠狠干一区二区三区| 91久久精品蜜臀| 亚洲情色1区| 麻豆精品天美| 男人午夜天堂| 国产小u女在线观看| 怡红院视频在线| 欧美熟妇亚洲版| 成人青青草原伊人| 国产精品久久久久久照片| 操逼日韩无码| 精人妻无码一区二区三区伊人直播| 2019天天干| 国产精品无码AV网站| 婷婷五月天久久精品视频一区二区三区| 成人区人妻精品一| 1禁看欧美黄片免费看| 久久久久久中文字幕中文字幕最新| 久久亚州高清| 天天干夜夜鈤| 国产精品久久久久久 百度| 91人妻少妇| 干婷婷综合网| 综合性视频99| 国产区性爱在线视频秋霞豆| 日本999精品视频| 中文字幕视频二区| 中国亚洲呦女专区| 亚洲drav色图| 国产a片操逼| 综合日韩激情另类图片| 一级日本牲交大片好爽在线看| 99精品在线| 国产后入清纯| 国产亚洲禁久一区二区| 人妻少妇久久中文| 久久伊人大香蕉| 亚洲精品蜜桃久久久| 亚洲欧美日韩夜夜| 91欧美丝袜| 欧美中文字幕日韩在线| 国产精品国产自产拍高清AV| 性色AV网站| 欧美九九99久久精品| 国产精品片| 欧美性天天影视| 一区在线精品中文字幕| 五月天伊人| 激情五月综合开心五月| 亚洲一二三四区在线免费看视频| 五月婷在线| 人妻精品视频一区二区三区 | 免费中文在线| 亚洲天堂男人天堂网| 青青国产精品在线| 亚洲天堂五月天国产| 日韩不卡网操逼中文字幕日韩| 亚洲精品一区二区精品| 自拍欧美| 思思热免费视频观看| 91亚洲黄色网| 99青青草国产视频| 激情五月天社区| 丝袜 中出 制服 人妻 美腿 中文字幕| julia在线观看久久| 精品偷拍13p欧美dodk视频| 成熟熟女国产精品一区二区| 你懂得91| 欧美性爱日韩高清| 天天性射网| 人妻在线臀日韩| 亚洲精品影视老司机| 国产精品另类| 99综合自拍| 日本午夜久久电影| 手机在线视频国内精品| 色吧5亚洲| 人人操人人摸超碰| 极品少妇久久久久| 国产一区二区在线看| 91美乳| 中文一区在线视频| 三久久久四久久久久| 神马午夜久久久| 5278欧美一区二区三区| 日韩欧美日韩| 91精品国产一区三一| 成人在线视频一区| 殴美综合色88| 亚洲高清欧美总合| 日本潮催一卡操| 国产欧美另类久久久精品课程| 综合激情五月天| 丝袜亚洲综合| 免费男人的天堂| 欧美在线视频播放| 99国内精品| 国产三级电影免费观看| 91精品久久久久五月天精品| www欧美91| 成年人免费观看网站| 天操老女人| 后入人妻一区| 天美麻豆黄色录像| 无码九九九九| 91女优在线观看| 亚洲Av噜噜一区二区三区妖精| 激情四射婷婷四五月天| 日本韩国一本产品小视频日本韩国一本产品久久久产品小视频日本韩国一本产品久 | 一本色道熟妇| 日韩青久久| 亚州国产成人精品女人久久 | 国产一区二区三区影片| 成人在线日韩| 精品人妻久久久| 久久久97| 欧美熟妇乱码在线一区| 亚洲综合性网址| 97天天综合网| 亚洲淫乱骚妇AV| 99re69综合| 一区二区三区四区五区高清无码永久视频 | 久久成人东京热人妻| 国产一二三福利视频网| 综合网少妇| 亚州欧美在线| 久久国产精品m码| 丰满熟女一区二区三区在线播放| 久久精品人妻一区| 约操熟妇| 女人双腿搬开让男人桶| 91九色精品熟女内射| 欧美一区91大爱| 97超碰巨乳| 色婷婷丁香五月| 一区二区首页| 99999国产精品| 国产精品极品美女视频| 日本三级日本三级99| 在线观看十八禁| 色色99| 亚洲资源一区| 久久亚洲欧美一区二区三区-亚洲国产精品第一区二区 | 9久超碰| 中出91视频| 精品中文一区二区| 欧美碰碰综合色| 久综合国内精品自在自线| 手机看av网站在线看| 日韩人妻大香蕉| 久久精品视| 欧美伊人电影| 中国一区二区亚洲人妻| 九九九九九九成人| 婷婷色色五月天福利| 午夜男人一级A片7777| 亚州人妻| 国产路线专区| 强奸乱伦av电影| 日本欧美韩国日产片片在线看免| 色婷婷一区二区三区久久午夜成人不| 久久久久久一日韩字幕无码| 超碰国产情侣自拍网| 夫妻日逼| 狠狠干狠狠干| 久久αⅴ| 欧美久久草熟女| 精品97久久| 人妻99p| 青青草吊丝| 一级免费精品| 人人操人人色人人摸| 91伊人影视综合| 婷婷超| 日韩 欧美 另类 人妻| 91中文精品日韩欧美在线| 蜜臀久久99精品久久久久久无删减 | 久热99| 日韩欧美蜜桃精品久久中文字幕久久 | 91欧美色| 激情五月综合网| 超碰精品97| 操逼网站视频漫画国产| 久久九九久精品国产尤物|国产精品爽黄69天堂A片潘金莲,国产亚洲精品第一综合 | 伊人991| 我要去看2个日本美女.com曹逼| 看看小穴| 天天躁日日躁狠狠躁| 久热色情精品| 久艾草在线精品视频在线观看| 国产乱婷婷精品二区三区| 加勒比99999| 91无人区卡一卡二卡三乱码入口最新版:能让用户有更多选择的选择-经典说说-爱 | 欧美黑人熟妇精品91| 熟妇人妻精品一区二区视频色欲| 人妻熟女一区二区在线视频| 欧美日韩第一页| 日韩有码专区| 玖玖爱影院| 俺去也婷婷| 精品无码久久久久久久久果冻糖心| 欧美熟妇人体| 天天日天天插| 国产精品久久久久久久久久梁医生| 国产美女91视频| 人人爱人人操人人性| 97超碰欧美手机| 麻豆AV96熟妇人妻| 九月丁香| 成人免费在线网站| 亚洲成人激情小说视频| 国产情色在线| 九一亚洲国产免费| 5月婷婷6月六月丁香| 69视频入口| 亚州欧美另类| 久久视频少妇美女| 国产农村妇女精品一| 熟妇操花| www.99中文字幕| 91欧洲国产成人久久精品网站| 91校园春色长篇| 精品人妻美妇91job| 老外又粗又长一晚做五次| 毛片麻豆91糖心精品毛情片| 久久9久9久99久9久9| 啪啪一区| 欧美精品自慰系列寂寞少妇| 亚欧成人综合影院| 国产操逼网站亚洲一级黄色| 91情色在线| 97超碰久久色| 97在线资源| 蜜桃久久精品一区二区三区| 干B视频伊人网| 亚洲国产精品久久久久婷婷青年| 久久女人一区二区三区| 国产精品视频精品一二| 国产欧美精选自拍一区| 18禁止看精品中文字幕| 美女黄网| 国产精品福利资源在线尤物| 天天澡天天狠天天天做| 青青草国产欧美非洲黑人 | 国产精品电| 97精品97久久| 蜜臀av中文字幕| 999熟女精品| 国产后入清纯| 精品视频专区| 亚洲天堂电影网| 97欧美色综合| 欧美色图片色哟哟| 国产精品伦理| 青娱乐淫乱1314| 92久久| 天天上日日上日韩精品| 国产亚洲福利第一页丝袜| 亚洲激情深爱文学小说网站| 欧美日韩m| 欧美熟妇视频 | 五月丁香六月激情| 91久久精品国产| 国产久久视频| 91九九九逼| 91爱看| 91大香蕉伊人| 看全色黄大色大片免费视频| 豆花视频操逼网址| 国产亚洲美日韩Aⅴ中文字幕无码成人| 亚洲精品亚洲人成在线麻豆| 九九亚洲视频| 福利大香蕉| 蜜臀久久99精品久久久久久酒店 | 极品少妇久久久| 欧美一级在线观看成人| 久久性爱精品一区| 亚洲aV性爱| 国产亚洲在线观看| 热久久99999| 久久精品老司| 欧美日韩制服| 隔壁邻居波多野结衣中文字幕 | 啊灬啊灬啊灬好深灬快高潮了动漫-国产字幕国产在线观看-B049AV | 精品无码一区二区三区| 五月天黄色激情视频| 久久久久久久一级黄色打同平台| 老鸭窝日丰县女人| 性色生活片久久毛片婬片免费放女人一级毛片| 国产精品露脸在线观看| 久操视频免费在线观看| 久久香蕉超碰97国产精品| 一区二区视频在看| 美国一区二区免费视频| 九九热五区| 亚洲av资源| 久久国内| 夜夜免费视频| 国产日韩无码一区二区三区久久区| 五月婷婷AV| 好好的日:com久久九九| 久久亚洲精品成人av| 欧美中文字幕男人天堂久久精品 | 99热这里只有精品18| 一区二区三区激情在线观看| 九九热男人天堂| com 首页 18岁 禁区 女优 免费 精选 同城 | 亚欧美色图| 国产精品原创巨作?v网站| 日韩视频中文字幕| 97色婷| 色欲久久99精品久久| 一区二区三区黄片免费观看| 久久e6只有精品| 国产精品嫩草影院午夜两性| 亚洲欧美日韩有码| 女人被男人桶爽视频网站| 中文字幕97色| 国产精品视频播放| 免费?级毛片无码?∨蜜芽试看| 亚洲综合影视| 手机在线中文字幕国产| av午夜玫瑰| 一级@啪啪视频| 亚州熟妇精品| 五月色网| 国内精品a| 日本性一区| 性爱av在线免费观看| 亚洲有薄码区久久在线一区| 三级三级三级日本99| 亚洲成人贴图| 国产成人主播| 国产精品色色| 18禁在线视频| 精品妇操一区二区三区| 激情干在线| 成人五级久久| 国产蜜臀在线| 97超碰色五月| 韩国一级婬片A片无码天美| 日韩精品操少妇| 久久久久国产精品片区无码直播| 日韩无码一区二区三区| 97精品国产精品免费观看| 日本三级日本三级99| 亚洲图片激情综合另类| 91综合熟女| 九九热视频这里只有精品| 家庭乱伦性爱av| 另类专区在线观看| A片大香蕉在线| 欧美综合网1| 成人av免费观看| 99在线免费公开视频| 91综合网在线| 日韩丨制服丨中文|在线| 殴美综合色88| 亚洲激情网一二三四区| 国产av又色又爽又黄| 久久久青青草| 欧美亚洲特P| 精品一区二区三区四区外站 | 美国久久一二三四| 高清不卡 中文 人妻| 美国美女AV在线| 秋霞无码av鲁丝片一区| 99久久久无码国产精品性啊聊| 超碰97在线中文| 这里是精品| 五月婷在线| 波多野结衣被操50分钟免费视频 | 伊香蕉综合久久久久久久噜噜噜| 久久久久921| 99色婷婷中文字幕乱色| www.AV有限公司一区| 蜜臀亚洲中文| 青青欧美在线| 高清视频一区| 啊啊啊 在线| 午夜福利区| 亚洲官网在线| 国产亚洲欧洲在线观看| 4141514逼喷水三级片| 荡小穴在线观看| 情侣开房子拍 日韩无码 女的很漂亮| 五月天婷婷欧美三区| 九九热九九热| 97精品一二区| 天天欧美色| 色噜噜人妻av 中文字幕| 91av熟女人妻| 亚洲美女AV无码| 欧美日韩国产中文精品字幕自在自线,| 91丨九色丨43老版熟女| 国产极品美女高潮无套在线观看| 久久久久久中文版| 久久天天艹| 91亚洲电影| 久草成人| 国产精品极品美女视频| 亚洲乱码尤物193YW| 丁香五月婷婷基地| 欧美嫩性色| 日韩中字av一区| 午夜福利在线视频1000| 啊啊啊啊好疼视频| 大香蕉色欲AV| 久久久久久无码人妻中文字幕| 五月丁香| 粉嫩国产精品久久久| 一区二区首页| 九九九九九九九| 東南亚性呦成人伦理资源在线视频| 东京热综合久久一区二区| 亚洲丝袜综合| 国产精品久久久久久照片| 久久女婷| 国产一区二区在线播放,久久亚洲精品中文字幕第一区,亚洲精品在线中文字幕视频 | 欧美性爱十八禁| 97操操| 91啪9色| 九九九九97| 热久久无毒不卡| 好色综合| 思思热在线观看| 9 7超碰在线免费观看| 97天天弄| 91亚洲色图| 2019天天干天天操| 自拍丝袜美腿人妻| 婷婷丁香人妻 | 久久婷婷电影网| 日韩激情啪啪| 欧美色图亚洲色图成人在在线| 亚洲天堂久| 97超碰免费生活| 在线亚洲欧美| 99re6久热只有精品6在线直播| 天天影视网综合少妇| 操淫穴亚洲五月丁香| 中文AV制服乱伦| 婷婷色五月激情| 闷骚老熟女15P| 久久AV无码AV| 91大胆欧美| 91 天天综合| 男人的天堂一区三区| 久久一二三四五六七八九区区| V A在线| 久久久噜噜噜久久久| 欧洲视频在线| 啊灬啊灬啊灬好深灬快高潮了动漫-国产字幕国产在线观看-B049AV | 亚洲Av无码成人精品国产| 久久综合av| 天天草天天日| 天天看人人操屄犊摸阴| 黄色视频高清无码网站| av操操不卡| 国产在线观看一区二区三区| 少妇二级| 人人操人人爽人人操人人| 亚洲熟女乱色| 飘花国产午夜精品不卡| 中国的操老妇女| 国产99精品一区二区三区免费| 日日摸夜夜夜夜爽| 人妻内射一区二区在线视频| 999亚洲国产视频| 乱操9999| 91在线|亚| 久久免费少妇| 男生女生啊啊啊啊| 逼逼逼逼操操操操操操操操操午夜剧场| 欧美韩国你懂得在线 | 超碰碰碰碰| 色欧洲| 一区二区 电影 亚洲| 婷婷五月天激情网| 超碰 欧美| 97亚洲国产影视| 亚洲精品乱码线路中文字幕| 久久中文字幕女同性恋一区| 免费观看欧美日韩操逼视频| 精品久久久久久中文字幕三区| 26uuu偷拍亚洲欧洲综合| 91老熟女91老女人| 人妻熟女午夜精品在线| 国产又黄又爽又刺激久久久久久| 五十路熟女,国产欧美精品区一区二区三区| 国产一区二区三区影片| 放黄片放3级黄片没穿衣服| 激情五月天校园春色网| 午夜乱轮操逼视频免费看| 精品国产乱码久久久久久久| 久久精9| 久/久精品99看9| 人妻二区| 少妇久久久久| 日韩欧美中文字亚洲慕| 国产熟女| 在线免费观看日韩一区| 国产综合久| 亚洲性少妇| 亚洲情色五月天 | 私人尤物在线精品不卡| 欧洲亚洲人妻无码久久三区四区| 久久同城AV| 精品美女在线视频| 99热亚洲| 国产精品久久久三级无码| 久久超碰国产一区二区三区| 91麻豆天美国产欧美高潮| 天美传媒av在线| 亚洲综合图色在线| 超碰调教97| 欧美综合骚| A V少妇特黄三级| 亚洲av强奸乱伦| 亚洲av淫乱| 91成人精品在线播放| 午夜欧美女人操逼| 亚洲天堂 视频你懂的| 高清国产成人无码| 久久久久成人亚洲国产| 思思在线免费视频| 国产精品视频麻豆入口| 久久9精品网站| 久久九精品| 97少妇人妻中文字幕久久 | 亚洲AV色图一区| 国产精品午夜福利| 国产农村妇女毛片精品久久| 国产久9| 老鸭窝在线视频播放| 97网色| 9118禁| 国产精品原创巨作?v网站| 日本黄大片在线观看视频| 欧美日韩国产黄色片| 在线a v| 综合色色婷婷| 中文字幕人妻丝袜| 亚洲欧美另类少妇精品| 综合激情一一91| 啊啊啊爽爽| 欧美大香蕉久| 色嗨嗨在线| 九月婷婷| 91影库| 亚洲欧美日韩精品久| 亚洲一区二区三区久久 亚洲一区二区| 亚洲自拍另类丝袜综合| 超碰69| 久久在肏| 超碰色综合| 久草视频在线视频在线视频在线观看| 色婷婷综合网站| 中出789在线视频| 99re9| 无码高清国产AV| 大香蕉操久久| 综合性视频99| 欧美精品三区| 人人看人人摸人人色| 黄页大片在线观看| 在线电影亚洲色图| 色大师网站www永久网站视频| 人妻喷水| 欧美性爱www免费版| 探花精品视频| 欧美综合网1| 69视频入口| 91oumei| 尤物视频新赏网鲜网色诱网| 网站A V在线| 婷婷亚洲综合| 天天热精品| 色哟哟AⅤ| 有码人妻系列| 成人午夜高潮av猛片| 亚洲超碰在线| 精品无码一二三四区| 日本一区二区电影网站| 精品高清牛人盗摄一区二区三区中文字幕A片免费在线观看 | 国产午夜无码片在线观看影视| 一品道视频一区二区三区| 日韩色女精品| 天天操夜夜操狠很操| 丰满少妇一区二区三区专区| 欧美劲爆第一页| a在线视频免费观看| 941超碰| 乱欲一区二区| 久久国模av| 日B操| 日欧操屄| 东北老女人的激情视频| 免费视频在线一区二区不卡| 色婷婷视频| 免费亚洲国产精品久久一区| 亚乱色| 亚洲图片偷拍欧美| 中文字幕中文字幕一区二区| 色欲人妻一区二区在线| 激情黄色片在线观看| 最新av在线| 囯产乱伦一区二区三女| 色臀AV| www鬼畜国产男人的天堂| 99热婷婷一区二区三| 国产又操| 夜夜免费视频| 五月天偷拍| 欧美性爱18观看| 欧美成人综合| 午夜电影在线观看无码专区| 久久久久久久久女黄| 丁香激情五月天| 91美女在线视频| 国产第25页在线观看| 欧美色乱| 国产欧美成人精品| 99性爱在线观看| 91激情国产| 99热9| 国产精品 久久久精品一牛| 久久九九热| 久久极品伊人| 色综合国产在线观看| 亚洲国成人情色好看电影| 国语对白在线播放视频| 亚州熟女乱伦| 精品国产乱码久久久影院| 久久一区,青青青青草视频在线播放| 亚洲欧美在线观看无码| 欧美综合 站| 伊人影院综合是一个与深夜成人在线| 日韩15p| 国产中文字幕曰本毛片| 东京热男人的天堂| 加勒比综合a∨| 3571色综合一区二区二区| 成人亚欧免费视频| 日韩福利综合一区| 97干97色| 精品国产AV一区天美传媒| 乱色老一区二区三区的观看方式| 欧美熟女妇同| 涩涩五月天| 人人干人人操人人..com| av一区二区三区不卡| 热热色中文无码| 亚洲毛片久久| 久草精品一区| 91中文精品日韩欧美在线| 青青草色AV| 91欧美美女日韩国产婷婷| 99久久久无码| xxx亚洲午夜天堂| 丝袜 亚洲 偷拍| 色婷婷综合视频| 久久久夜夜嗨免费视频| 玖玖玖玖精品国产剧情| 亚洲色图亚洲无码强奸乱伦| 1024人妻熟女一区二区三区| 午夜超爽| 中文字幕日韩人妻视频| 一本精品日本在线视频精品| 日韩少妇在线视频| 好看的久久不射无码影视影院| 国产精品网站www| 欧美丝袜激情| 午夜无码熟妇丰满人妻| 精品久久久久成人码免| 国内精品久9| 91爱剪切久久| 久久69| 欧美夜夜草视频| 99re热有精品视频国产| 8050午夜少妇无码| 麻豆天美电影一区二区| 日韩国语字幕| 爱欲AV| 婷婷影院入口| www.久久爱| 中文字幕一区二区三区人妻少妇在线| 国产九九久久久精品| 高树玛利亚无码流出| 青草视频人妻在线观看| 国产精品久久久午夜夜伦鲁鲁| 清纯唯美综合| 日语五十路和六十路亚洲国产精品| 国产高清午夜成人在线观看| 久久久精品电影| aaa一级黄片| 久草精品热视| 天天日美女的B| 四虎影视国产精品| 亚洲国产精品无码AV久久| 中文字幕人成乱码熟女香港| 人人干人人搞人人摸| 色哟哟国产精品免费网址| 中国熟女91| 91操操操操| 亚洲精品中文字幕一区在线视频| 久久理论字幕视频| 激情视屏国产乱伦强奸| 伊人久久国产免费观看视频| 亚洲精品 欧美精品| 69精品| 秋霞曰韩R级| 区一二区日韩亚洲乱码av电影| 欧美亚洲宗合色性图| 久久久久久久9| 日韩中文字幕人妻视频| 天天爽天天操| 久久精品中文字幕女同| 国内精品久久人妻性色av| 精品久一区免费| 欧美啪啪天堂| 国产精品无码在线| 97欧美精品综合| 九七超碰| 免费看污网站| 九九九九九精品视频| 999岛国大片| 日韩情色AV| 亚洲 欧美 色图| 99爱在线视频| 日韩中文字幕二区| 中日无幕一二三四区| 黑丝制服中文字幕| 国产欧美一区激情交| 91高清欧美| 九九香蕉网| 亚洲自拍小说| 大香蕉AV在线| 啊v在线观看视频| 97色爱| 性色AV网站| 日韩精品三区四区| 日日操免费视频| 人人超碰在线观看黄| 大香蕉乱级| 国产一级久久久| 中英熟女操女| 91嫩草在线| 老司机射| 嗯嗯不要 视频| 婷婷五月成人| 超碰97护士| 安徽熟妇视频| 日韩精品电影| 一区二区三区探花在线观看| 亚洲电影91| 日韩婷婷| 超碰在线一区二区三区| 天天操女人| 精品高清av中文字幕| 日日干夜夜骑| www色色色com| 色吧5亚洲| 国产麻豆91欧美一区二区久久婷婷国产精品 | 国产操伦| 啊啊啊操死我| 欧美91色| 久久啊哟| 亚洲黄网在哪免费看| 人人妻人人澡人人爽人人精品浪潮| 色综合中文字幕不卡| 日韩精品在线观看观看| 91中文字幕在线观看| 九九热男人天堂| 人妻 中文 日韩| 99久久99久久免费精品蜜臀| 国模无码人体一区二区三| 熟女91网| 色大香蕉97N| 婷婷五月天丁香| 精品成人亚洲午夜电影| 国产精品丝袜在线| 伊人久久大香线蕉亚洲五月天,青草青草欧美日本一区二区,欧美日产欧美日产国产 | 中文字幕福利视频一区二区三区在线观看| 婷婷久久五月| www熟女乱伦com| 日韩人妻无码不卡网站| 香伊人在线| 蜜臀Av一区二区三区| 97er欧美性| 口爆欧美91| 激情五月激情综合网| 99色热国产视频精品| 久久超碰97| 99re热| 伊人久久大香线蕉亚洲五月天,青草青草欧美日本一区二区,欧美日产欧美日产国产 | 高清无码久操视频| 2021国产成人精品久久| 亚洲怡春院| 熟妇人妻一区二区三区| 亚洲,欧美,春色,另类| 国产精品免费视频不卡| 亚洲 欧美 制服 另类 自拍| 草草电影院| 中出在线视频| 九九这里只有精品| 久久99干一本高清| 蜜乳AV一区二区三区四| 为用户提供免费看黄网址在线观看| 亚洲美女av无码| 另类TS人妖一区二区三区| 久久久性| 欧美亚洲自拍另类人妻| 韩国三级一线观看久| 亚洲无码太久| 日韩免费看在线黄色片| 国产精品久久久久久久无码AV| 无码高清操逼| 亚欧成人综合影院| 蜜乳AV网址| 久热9| 天天干少妇| 天天日B狠狠操| 婷婷色香| 亚洲人在线成线成人| 殴美牲| 欧美日韩国产电影| 神马久久免费电影观看| 国产精品禁久久久精品| 思思热一热婷婷热一热| 97超碰久久色| 亚洲人人夜夜澡人人爽| 人妻熟女一区二区三区视频| 日本精品999| 人妻乱仑一区二区三区| 99热超碰| 在线 欧美 亚洲| 欲香欲色天天天综合和网| 91久久久久| 久久久久久久唑| 2025年A片视频精品| 国产亚洲精品农村妇女| www.狠狠干.coom| 1024午夜激情男人的天堂| 好吊色青靑草| 18禁无码永久免费无限制| 人人妻人人狠人人| 殴美牲| 天天综合站| 国产又猛又粗又爽又黄| 欧美性爱18观看| 超碰综合97在线| 日本97久久| 思思视频免费看网站| 午夜男女爽爽爽在线视频| 亚洲欧美色综合| 怡红院成人视频| 大香网站| 少妇诱惑视频| 性色亚洲| 欧日a| 老鸭窝亚洲毛片| 欧洲亚洲人人爽爽视频| 欧亚性爱在线视频| 丰满人妻一区二区三区| 天美一二三在线观看Av| AV女优男人的天堂| 色欲日韩欧美在线一区| 欧美乱妇狂野欧美在线视频| 色五月AV| 欧美精品第3页| 校园春色 亚洲| 黄色欧美性爱视频| 91成人国产综合久久精品蜜月| 婷婷色综合欧美日韩| 台湾佬中文娱乐自偷自拍| 九九九九精品九九九九| 精品妇女一区二区三区| 大香蕉手机在线| 91人妻素女| 久射吧| 亚洲丝袜色| 东京热伊久| 图片区小说区| 91国模| 成人日韩中文字幕| 美日韩男女操屄视频| 久久精品免费| 综合欧美激情网| 色偷偷综合91久久噜噜| 亚洲欧美一区二区三区一猛片| 欧美一区二区三区黄色影视| 桃色六月天| 伊人网青青| 亚洲午夜免费狠狠干| 91精品亚洲内射孕妇| 日韩国产十八禁| AV不卡在线| 91 天天综合| 女一区二区| 国产精品一区午夜福利| 91N综合网在线| 免费啪啪啪网站18岁| 亚洲综合97| 久久超碰98| 亚洲.欧美.丝袜.中文.综合| 青娱乐999| 中文精品少妇天堂| 婷婷五月花| 无遮挡又黄又刺激的视频| 久久m| 人人手机欧洲亚洲国产人妻| av爱爱爱| 性高潮久久久久久久久久久| 91久久久视| 色情成人五月天| 天天躁日日躁成人字幕aⅴ| 久久一区二区蜜桃| 久热精品色情| 国产激情久久久| 91成人久久| 亚洲无码偷拍| 久久αⅴ| 亚洲国产中文字幕| 国产青一二三| 久久婷婷热| 色哟哟AⅤ| 国产久9| 香蕉国产精品麻豆亚洲欧美日韩 | 91neishe| 亚洲天堂中文字幕无码男同| 日韩无码黄色片| 亚洲日韩人妻中文字幕一区| 美欧色综合| 舔人妻中文免费视频| 色情亚洲日本成人| 四月丁香婷婷| 久操操| 毛片电影一区二区三区| 加勒比久久综合网高清| 肉动漫无遮挡h在线观看| 国语精品av| 久久久久九九九九九| wwe 天天干.com| 留下AⅤ黄色片| 人、人、摸,人、人、草| 97在线精品观看视频| 91成人无码| 最新日本中文字幕| 日本精品中文字幕视频| 少妇熟女1区2区3区| 国产成人91一区二区三区| 后入日本1234| 91 国产丝袜在线播放-百度| 国产大片精久久久久久| 神马视频久久久久久| 黑丝内射一区二区三区| 熟妇熟女视频一区二区三区| 色五91| 日韩欧美视频青青| 中文一区二区婷婷视频| 极品色社| 国产馆极品诱惑| 热热色中文无码| 日韩精品人妻一区二区| 超碰免费人妻在线| 久草精品国产99| 涩综合导航| 午夜寂寞欧美| 欧美熟妇视频| 99热这里都是精品| 91艹逼精品| 毛片99-全集电影手机免费观看完整-B029AV | 亚洲最大成人a毛毛片| 熟女六十路| 曰韩精品九九无码| 中文乱码99| 国产精品3| 欧美天天射| 91AV入口| αⅴ天堂| 三级三久久线久久99久目本WW| 日本有码久久| 日韩视频小说在线观看| 夜夜免费视频| 日日骚中文字幕| 2018天天干在线视频| 十八禁成人网站在线观看| 亚洲第一页色| 另类专区加勒比| 亚洲黄色| 日韩av在线免费网站| 凹凸视频特色日本特黄| 欧美成人亚洲精品| 亚洲精品91| 台湾成人无码AV| 任我爽视频在线观看| 国模吧 一区二区三区| 哈哈操电影AV| 91第一页| 日本三级日本三级99| 老女人碰碰在线碰碰视频| 色综合加勒比| 五月色网| 久操视频在线| 国产乱伦视频污| 黄色片大香蕉| 精品美女久久一二三| 亚洲?V高清一区二区三区尤物| 亚洲女毛多水多21P| 欧美日本天堂| 日韩成年人性爱视频| 亚洲天堂区| 欧美性夜| 丁香激情五月天| 久九九九九九九九热| 国产女人和拘做爰视频| 不卡人妻少妇精品毛片一区23区视频| 天美传媒麻豆一区二区三区国产精| 97欧美性爱| 99热这里只有是精品10| 亚洲天堂一区二区久久| 久久精品视频久久久| 色噜噜人妻丝袜AV资源| 飘花国产午夜精品不卡| 国产一区二区欧美日本| 国产午夜激片Av毛片不卡| 骚女高跟AV在线| 人人操,操人人| 久久精品男人的天堂| 人人操人人摸人人看人人干| 夜夜嗨一区二区| 国产成人久久精品蜜臀| 91n美女视频| 亚洲无码超碰免费| 91丝袜激情在线| 国产女人和拘做爰视频 | 97人人模人人爽人人| 亚洲AV在线资源| 色999五月色| 人妻精品视频一区二区三区| 欧美色图天堂网m| 日本无码1| 男人天堂资源| 日韩三级一区| 变态乱伦伪娘灌肠一区二区| 日本不卡三级网在线播放| 91成人高清在线观看| 亚洲骚男同com| 亚洲夜色在线| 久久精品国产亚洲AV无码做| 蜜桃狠狠色伊人亚洲综合 | 国模精品一区二区三区苹果色戒 | 操婢日韩| 一本一道久久综合久久| 91美女中出| 国产女同视频在线播放| 日本一线产区和二线产区伦理片| 97精彩视频网站| 亚洲AV成人无码一二三久久| 浪人综合网| TS人妖另类精品视频系列| 乱老熟女一区二区三区| 久久久九九网站|