日韩精品一区二区三区在线视频放-无码中文字幕V?一区二区-成年片免费观看视频-国内少妇人妻丰满av-国产精品中文字幕免费观看-亚洲成人久久一区二区三区-国内少妇偷人精品视频无缓冲-一区二区国产精品日本一区二区三区在线网

ARTICLE DETAIL

資訊詳情

深耕商務(wù)建站與企業(yè)官網(wǎng)運營的一線實戰(zhàn)洞察。

大模型三維度解析:MoE、推理與多模態(tài)的真相

大模型三維度解析:MoE、推理與多模態(tài)的真相 八個字就能說明白MoE是骨架推理是腦子多模態(tài)是五官。這不是什么嚴謹?shù)慕炭茣x而是我做了這么多年模型應(yīng)用之后覺得最不容易把人繞暈的類比。但問題恰恰出在——大多數(shù)人對這三個詞的認知是割裂的甚至把它們當成互斥的選項來討論。這個是MoE架構(gòu)所以它不是多模態(tài)那個模型會推理所以它一定不是稀疏架構(gòu)這種話我在不少技術(shù)群里見過每次看到都想嘆氣。今天這篇就把這事徹底捋清楚大模型的分類不是一個維度而是至少三個互相獨立的坐標系。搞懂這個你再去選型、讀論文、看各種模型榜單思路會清晰非常多。1. 三個概念各自回答一個不同的問題1.1 亂象的根源分類維度不同卻放在同一個天平上先做一個最簡單的思想實驗。你去問一個路人蘋果和橘子哪個更好吃他可能會猶豫。但你去問蘋果和水果刀哪個更好用他一定覺得你瘋了——因為一個能吃、一個能用根本不在同一個類比維度上?,F(xiàn)在很多人討論大模型干的就是這種蘋果對比水果刀的事情。MoE、推理模型、多模態(tài)這三個詞經(jīng)常出現(xiàn)在同一個投票帖、同一個選型表格、同一個評測榜單里好像它們是并列選項。但稍微想一下就知道MoE回答的是模型的內(nèi)部結(jié)構(gòu)長什么樣、參數(shù)怎么組織、算力怎么分配推理模型回答的是模型在回答問題之前要不要多想一會兒、能不能處理復(fù)雜邏輯任務(wù)多模態(tài)回答的是模型能吃進去什么類型的輸入、能吐出什么類型的輸出。一個是結(jié)構(gòu)問題一個是能力問題一個是接口問題。你說它們怎么并列之所以會有這種混亂是因為過去幾年模型的演進節(jié)奏太快。兩年前市面上絕大多數(shù)模型都是稠密結(jié)構(gòu)的通用文本模型一個詞就能概括全部特征到了現(xiàn)在DeepSeek V3是MoE但通用、DeepSeek R1是MoE且會推理、Qwen2.5-VL可能是稠密結(jié)構(gòu)但是多模態(tài)、Kimi k1.5又可能是多模態(tài)加推理的混合體。每個模型身上同時背著多個標簽如果底層分類邏輯不清楚看什么都像一鍋粥。1.2 一個簡單的分析框架從三個正交軸去看模型我在實際做技術(shù)選型和方案設(shè)計的時候習(xí)慣用三個獨立的軸去拆解任何一個大模型。這個方法沒有任何學(xué)術(shù)門檻就是一個工程判斷工具分類軸核心問題典型取值關(guān)注對象結(jié)構(gòu)軸模型內(nèi)部是全員激活還是部分專家激活稠密Dense、稀疏MoE顯存占用、推理吞吐、部署成本能力軸模型是否具備深度推理能力通用模型、推理模型復(fù)雜任務(wù)的準確率、思維鏈長度、錯誤修正能力模態(tài)軸模型支持哪些輸入輸出類型純文本、視覺語言、全模態(tài)業(yè)務(wù)場景的數(shù)據(jù)形態(tài)、接口設(shè)計這三個軸是正交的。意思是說你在任何一個軸上取了一個值都不影響你在其他軸上取值。一個模型可以同時是MoE結(jié)構(gòu) 推理能力 純文本輸入也可以同時是稠密結(jié)構(gòu) 普通能力 多模態(tài)輸入。這些組合都是真實存在的不是理論上硬湊的。這樣一拆你會發(fā)現(xiàn)以前很多糾結(jié)的問題變得特別簡單。比如我想部署一個本地多模態(tài)模型但顯存只有16G該選哪個本質(zhì)上是在「模態(tài)軸」上選多模態(tài)在「結(jié)構(gòu)軸」上盡量選參數(shù)量小的稠密模型或者小MoE模型兩個軸各查各的答案自然就出來了。接下來我按照結(jié)構(gòu)軸 → 能力軸 → 模態(tài)軸的順序把每個維度單獨講透最后再放到一起看真實世界里的組合案例。2. MoE模型內(nèi)部結(jié)構(gòu)的稀疏化改造2.1 稠密模型與稀疏模型的分界線先回到最基礎(chǔ)的概念。傳統(tǒng)的Transformer模型無論是GPT-3、Llama 2還是早期的ChatGLM它們的核心特點是前饋網(wǎng)絡(luò)FFN這一層里的所有參數(shù)在處理每個token時都會被激活。這種結(jié)構(gòu)叫稠密模型Dense Model。打個比方就像一家公司無論來的是什么需求所有員工都得參與處理一遍。稠密模型的優(yōu)點是想都不用想的——訓(xùn)練穩(wěn)定、推理邏輯簡單、生態(tài)工具成熟。但缺點也明擺著參數(shù)量一上去推理成本跟著爆炸。70B的稠密模型光權(quán)重就占140GB左右的顯存FP16精度每次前向傳播都要把全部參數(shù)過一遍。這就是為什么很長一段時間里開源社區(qū)能做7B、13B但能做70B以上的個人或小團隊屈指可數(shù)。MoEMixture of Experts混合專家把這個問題換了個解法。它的思路是我不需要所有參數(shù)同時參與計算我只需要讓一部分專家去處理特定的token。還是那家公司的類比MoE相當于把公司拆成了多個專業(yè)小組來了一個需求門控路由器Router先看一眼然后只把需求派給兩三個對口的專家組其他專家照常休息。什么是專家在MoE模型里一般就是把Transformer的FFN層復(fù)制若干份每一份就是一個專家前饋網(wǎng)絡(luò)。原來的一個FFN層變成了一組FFN層每個token只激活其中少數(shù)幾個。這樣做的直接效果是總參數(shù)量可以做得非常大但每次推理的實際計算量FLOPs只和激活的專家數(shù)量相關(guān)。2.2 路由機制、專家分工與負載均衡MoE聽起來簡單但讓它在工程上真正work有無數(shù)細節(jié)。最關(guān)鍵的是路由Routing機制。路由器的本質(zhì)是一個輕量級的線性層輸入是token的隱層表示輸出是每個專家的得分。在訓(xùn)練和推理的時候我們需要從這個得分分布里選出Top-K個專家通常K取1到4之間。但這個選擇是離散的沒法直接做梯度回傳所以主流做法是在訓(xùn)練時用軟路由所有專家都參與梯度計算來指導(dǎo)硬路由推理時只激活Top-K個的逐步逼近。然后是負載均衡。這絕對是MoE訓(xùn)練里最頭疼的問題之一。因為路由器完全自主學(xué)的話很快會發(fā)現(xiàn)某些專家特別強、用途廣于是大量token都往那幾個專家身上堆其他專家變成擺設(shè)。這就好比公司里兩三個骨干累到死其他人天天閑著——整體效率反而下降。業(yè)界應(yīng)對手段主要有幾個負載均衡損失在訓(xùn)練目標函數(shù)里加入一項懲罰讓路由器給每個專家的分配概率盡量均勻?qū)<胰萘肯拗平o每個專家設(shè)定一個最大token處理上限超出部分走殘差連接跳過路由噪聲訓(xùn)練時給路由得分加一點高斯噪聲增加探索性讓模型不至于過早陷入少數(shù)專家壟斷的局面。還有一個在工程里容易被忽略的點共享專家Shared Expert的設(shè)計。像DeepSeek V3的MoE結(jié)構(gòu)里除了被路由的細粒度專家之外還加了一個始終被激活的共享專家負責(zé)吸收通用知識。這個設(shè)計明顯緩解了一個問題——如果沒有共享專家通用知識和專用知識都要靠路由去分配路由壓力大且容易導(dǎo)致專家職責(zé)重疊。你實際部署的時候不需要關(guān)心這些但理解它有助于你判斷一個MoE模型的參數(shù)量、激活量這些指標到底意味著什么。2.3 主流MoE模型與幾點選型心得現(xiàn)在開源生態(tài)里的MoE模型已經(jīng)不少了我列幾個有代表性的模型總參數(shù)量激活參數(shù)量專家數(shù)量說明Mixtral 8x7B46.7B12.9B8Top-2開源MoE的先行者DeepSeek V3671B37B256細粒度1共享Top-8當前開源MoE的性價比標桿Qwen3 MoE系列多檔位約1/4總參量各版本不同中文生態(tài)友好Grok系列數(shù)百B級約1/5總參量多專家閉源但公開了部分信息從使用者的角度MoE帶來的實際影響非常直接顯存占用看總參數(shù)因為所有專家權(quán)重都要加載到內(nèi)存里即使推理時只激活一部分。用FP16精度的DeepSeek V3權(quán)重也要1.3TB左右不是單卡能玩的必須上多機多卡或量化。推理速度看激活參數(shù)因為實際計算的FLOPs由激活參數(shù)決定。這就是為什么MoE模型總參數(shù)量很大但推理吞吐不一定比同級別稠密模型差的原因。量化MoE要小心專家之間有負載不均衡問題量化誤差在某些專家上可能被放大最好用針對MoE設(shè)計的量化方案而不是直接套稠密模型的量化腳本。3. 推理模型從快答到慢想的范式轉(zhuǎn)變3.1 推理模型到底改變了什么如果說MoE是在模型骨架上做文章那么推理模型就是在使用范式上做文章。這兩者完全不沖突但經(jīng)常被放在一起比較——這是我看到的最常見的誤區(qū)之一。普通的大模型不管它是稠密還是MoE是怎么回答問題的你輸入一個問題模型看一眼然后立刻按照已經(jīng)學(xué)到的概率分布一個token一個token地把答案生成出來。這個過程中模型在第一直覺上做反應(yīng)生成的內(nèi)容是相當快的。對于給我寫一封請假郵件總結(jié)這段文字這類任務(wù)這種快很合理答案質(zhì)量也確實夠用。但碰到復(fù)雜問題呢比如數(shù)學(xué)競賽題、邏輯推理題、多步規(guī)劃的編程題第一直覺往往不夠用。人怎么解決復(fù)雜問題會先打個草稿列幾個思路發(fā)現(xiàn)路徑不對再折返最后正式作答。推理模型要做的就是把打草稿這件事也交給模型做。最核心的機制是推理時擴展Inference-Time Scaling。傳統(tǒng)的模型訓(xùn)練完成后你在推理時的計算量是固定的——生成多少token就是多少計算。而推理模型會在正式回答前內(nèi)部先生成一段很長的思維鏈Chain of Thought模型在這條思維鏈里嘗試多種解法、發(fā)現(xiàn)錯誤、自我修正最后才給出最終答案。代價是什么肉眼可見的是變慢。你問一個普通模型問題幾秒鐘出結(jié)果問推理模型可能十幾秒甚至幾分鐘。用戶感知的慢其實是模型在內(nèi)部悄悄做了大量額外推理。所以我也經(jīng)常跟團隊說不要把推理模型當默認選擇——只有任務(wù)復(fù)雜度配得上那段思維鏈的時候才值得為之付出延遲。3.2 推理能力是怎么訓(xùn)練出來的推理模型不是改一下推理階段的參數(shù)就能得到的它的關(guān)鍵在于訓(xùn)練方法的變革。目前業(yè)界主流路線可以分三個階段看第一個階段是冷啟動的SFT。為了讓模型產(chǎn)生高質(zhì)量的思維鏈先用人工標注或者用強模型蒸餾出的長思維鏈數(shù)據(jù)做監(jiān)督微調(diào)。這個階段解決的是模型會不會輸出思維鏈的問題。第二個階段是大規(guī)模強化學(xué)習(xí)。這是推理模型和普通模型最根本的分水嶺。普通模型微調(diào)終點通常是交叉熵損失盡可能低推理模型則在SFT之后繼續(xù)做強化學(xué)習(xí)獎勵信號不是一句接得好不好而是規(guī)則可驗證的結(jié)果——比如數(shù)學(xué)題答案是否數(shù)值正確、代碼能否通過測試用例。模型在強化學(xué)習(xí)中不斷試錯逐漸學(xué)會在復(fù)雜問題上花更多時間思考學(xué)會了自我糾錯。第三個階段是推理時策略的優(yōu)化。一些更新的模型開始引入以思考長度換取精度的動態(tài)機制模型可以根據(jù)問題難度自己決定要多長思維鏈。這就是慢思考的由來。了解這些之后你再看這個模型是不是推理模型就有了判斷依據(jù)推理模型一般都有專門的長思維鏈訓(xùn)練階段而且往往在數(shù)學(xué)、代碼等規(guī)則可驗證的任務(wù)上特別強。這不是隨便在普通模型上加個Lets think step by step提示詞能模擬的——提示詞只能喚起模型在預(yù)訓(xùn)練階段見過的一些推理樣例質(zhì)量和穩(wěn)定性都不如專門訓(xùn)練出來的推理模型。3.3 市面上常見的推理模型與辨別指南現(xiàn)在你能接觸到的推理模型已經(jīng)挺多了。OpenAI的o1、o3系列是最早帶火這個概念的產(chǎn)品開源社區(qū)里DeepSeek R1絕對是一個里程碑它證明了用強化學(xué)習(xí)讓開源模型獲得強推理能力是可行的之后QwQ、Kimi k1.5、GLM-Z1、以及各種基于R1蒸餾出來的小參數(shù)推理模型也層出不窮。如何辨別一個模型屬不屬于推理模型我的經(jīng)驗是看三個信號官方文檔或模型卡的訓(xùn)練說明。明確提到長思維鏈、強化學(xué)習(xí)、推理時擴展這些字眼的基本就是API的支持參數(shù)。推理模型一般都有控制思考長度的字段或者response中會額外返回reasoning_content這樣的字段普通模型沒有任務(wù)表現(xiàn)特征。在數(shù)學(xué)競賽、復(fù)雜代碼題上表現(xiàn)明顯好于同規(guī)模普通模型但簡單任務(wù)上速度反而偏慢。這里要特別提醒一下因DeepSeek R1走紅之后市面上出現(xiàn)了一堆蒸餾出來的推理模型。正規(guī)蒸餾當然是有效的——比如用R1生成大量思維鏈數(shù)據(jù)去微調(diào)一個小模型小模型確實能繼承一部分推理能力。但有些所謂的推理模型就是在普通模型之上套了個提示詞模板讓它假裝慢思考實際并沒有專門訓(xùn)練過。怎么區(qū)分看它生成的思維鏈是不是真的在自我糾錯還是只是在重復(fù)已知信息。前者會有這里可能有問題我重新檢查一下這樣的內(nèi)部對話后者一眼就能看出來是流水賬。4. 多模態(tài)輸入與輸出接口的擴展4.1 多模態(tài)的模態(tài)到底指什么第三個維度離普通用戶最近也最容易造成概念混亂。很多非技術(shù)背景的人一聽到多模態(tài)就以為是一個更高級的大模型——很多廠商也確實這么宣傳好像多模態(tài)是模型的某種超能力標簽。但從工程角度看多模態(tài)就是一件非常樸素的事情模型能處理的信號類型更多了。純文本模型能讀能寫的只有token。你給它一張圖片它看到的只是一串二進制字節(jié)無法理解圖片里的內(nèi)容。多模態(tài)模型做的事情本質(zhì)上是在輸入端加感官、在輸出端加表達方式。具體拆開看視覺-語言模型VLM能讀文字加圖片比如GPT-4V、Qwen-VL系列、Llama 3.2 Vision、InternVL音頻輸入模型能聽錄音、識別語音意圖比如Qwen-Audio、Gemini系列視頻理解模型能讀懂視頻幀序列的內(nèi)容這在當前多模態(tài)領(lǐng)域是推進最快的方向之一生成類多模態(tài)不僅讀多種模態(tài)還能輸出圖像、音頻、視頻比如Sora、可靈、Veo系列。注意多模態(tài)是一個接口范圍的描述不是模型能力的評價。一個支持圖片輸入的模型在純文本推理能力上未必比同規(guī)模的純文本模型強甚至因為視覺編碼器占用了參數(shù)空間文本能力可能被削弱。這也是為什么很多實際項目里寧可分別用一個純文本模型做復(fù)雜邏輯處理 一個視覺模型做OCR提取也不硬上一個多模態(tài)模型因為分工更明確、效果更可控。4.2 多模態(tài)模型的兩種主流技術(shù)路線理解多模態(tài)最重要的是理解它跟文本模型的關(guān)系。目前主流技術(shù)路線可以分成兩大類。拼接式Modular / Adapter-based。這種做法以LLaVA為代表保留一個完整的文本大模型作為大腦在前端接一個視覺編碼器比如CLIP的ViT把圖片編碼成視覺token再通過一個投影層Projector把視覺token映射到文本模型的語義空間里。圖片進來之后視覺token和文本token被拼接到一起文本模型照常做自回歸生成。這種路線的核心是讓模型學(xué)會看圖——訓(xùn)練時凍結(jié)文本模型的大部分參數(shù)只訓(xùn)練投影層和視覺編碼器通過大量圖文對數(shù)據(jù)把兩者的語義空間對齊。優(yōu)點是工程上簡單視覺部分和語言部分可以獨立迭代優(yōu)化實驗成本低。缺點是視覺信息經(jīng)過投影層的壓縮之后可能有損失模型對圖片細節(jié)的感知能力不如對文字的敏感度高。原生式Native / Unified。這種路線更激進它從一開始就不分文本engine和視覺engine而是把所有模態(tài)統(tǒng)一成一種token表示放進同一個Transformer里訓(xùn)練。Gemini系列的底層思路、以及各種以統(tǒng)一分詞器為核心的模型走的就是這條路線。優(yōu)點是模態(tài)間融合得更自然模型可以在視覺和文本交叉的任務(wù)上做更靈活的推理缺點是訓(xùn)練數(shù)據(jù)要求極高、工程復(fù)雜度大不是一般團隊能做到的。如果你只是調(diào)用API或者部署開源模型不需要關(guān)心內(nèi)部到底走哪條路。但如果你要做微調(diào)或者二次開發(fā)就必須搞清楚你的模型屬于哪一種因為微調(diào)策略完全不同拼接式模型微調(diào)時通常還是要凍結(jié)視覺編碼器只動投影層和語言層的LoRA原生式模型則可以嘗試在多模態(tài)數(shù)據(jù)上統(tǒng)一做LoRA。4.3 多模態(tài)與MoE、推理模型的關(guān)系我見過的最大誤區(qū)就是有人把多模態(tài)和MoE當成對立選項其實它們根本不是一個維度。多模態(tài)描述的是輸入輸出的接口范圍MoE描述的是模型的內(nèi)部結(jié)構(gòu)。一個多模態(tài)模型完全可以是MoE架構(gòu)——事實上目前很多主流產(chǎn)品就是比如Gemini 1.5 Pro采用了MoE架構(gòu)同時支持圖片、音頻、視頻輸入Qwen2.5-Omni也把多模態(tài)編碼器和MoE結(jié)構(gòu)結(jié)合在了一起。同樣多模態(tài)和推理模型也不沖突。新一代的推理模型已經(jīng)在往多模態(tài)方向擴展——比如能看圖解題的推理模型輸入一張幾何題圖片輸出一步一步的推導(dǎo)過程。這種模型同時占據(jù)了能力軸的推理位置和模態(tài)軸的多模態(tài)位置。別被市場上的標簽宣傳帶偏多模態(tài)不是模型等級的象征它只是一個能力維度的標記。5. 正交坐標系下的真實產(chǎn)品拆解5.1 用三維框架看幾個實際模型理論講了這么多現(xiàn)在放到真實世界的模型身上驗證一下。我用三個維度給幾個代表性模型打標簽?zāi)愀惺芤幌逻@種拆解方式有多清晰模型結(jié)構(gòu)軸能力軸模態(tài)軸Llama 3.1 8B稠密通用純文本Mixtral 8x7BMoE通用純文本Qwen2.5-VL 7B稠密通用視覺語言DeepSeek V3MoE通用純文本DeepSeek R1MoE推理純文本GPT-4o官方未公開推測含MoE通用全模態(tài)o1 / o3系列官方未公開推理純文本視覺輸入Gemini 2.0系列混合含MoE通用推理混合全模態(tài)Kimi k1.5官方未公開推理視覺語言推理這張表一下子就能說明問題每個模型其實是三維空間里的一個點標簽跟標簽之間是組合關(guān)系不是互斥關(guān)系。比如你在用DeepSeek R1你說它是MoE模型沒錯說它是個推理模型也對說它是個文本模型還是對——只是這三個判斷分別回答的是三個不同的問題。5.2 為什么同一款產(chǎn)品在不同榜單里定位完全不同理解了三維拆解你就能看穿很多宣傳話術(shù)和榜單排名的障眼法了。有些榜單測的是通用對話能力上榜的自然是結(jié)構(gòu)軸能力軸綜合評分高的通用模型有些榜單測的是數(shù)學(xué)推理那推理模型肯定名列前茅有些榜單測的是視覺理解那純文本模型再強也上不了榜。不是模型變強或變?nèi)趿耸前駟卧谀貌煌某咦恿俊_@就好比拿奔跑速度和游泳速度兩個指標去給運動員排名博爾特可能兩者都出色但你不能因為一個游泳健將沒進百米決賽就否定他。做選型的時候先搞清楚自己業(yè)務(wù)的核心瓶頸到底在哪個維度再去找對應(yīng)的尺子。5.3 三維拆解法在項目選型里的實際用法我在技術(shù)方案里經(jīng)常用一套非常樸素的選型流程分享出來供你參考。假設(shè)我要給一個實際業(yè)務(wù)選模型我會按下面順序走先確定模態(tài)軸。我的業(yè)務(wù)數(shù)據(jù)是什么形態(tài)是純文本、圖文混合、還是涉及音視頻這一步直接篩掉一大批不合適的模型縮小候選范圍。再確定能力軸。我的任務(wù)需要快答還是慢想如果90%的請求是簡單問答、信息抽取、格式整理通用模型就夠了硬上推理模型只會白白增加延遲和成本。如果任務(wù)涉及復(fù)雜數(shù)學(xué)運算、多步代碼生成、嚴謹邏輯推導(dǎo)再考慮推理模型。最后看結(jié)構(gòu)軸。這一步更多是部署層面的考量——我的GPU資源夠不夠需要的吞吐量多大如果是個人開發(fā)者、單卡16G顯存就別惦記數(shù)百B參數(shù)的大MoE了老老實實選個7B左右的稠密模型或者小規(guī)模的MoE量化版如果是企業(yè)級多卡集群則可以考慮大MoE用總參數(shù)換效果、用稀疏激活保吞吐。在剩余候選中做效果實測。這一步不能省榜單數(shù)據(jù)只能幫你初篩真實業(yè)務(wù)里的數(shù)據(jù)分布跟公開評測集往往差距很大。6. 常見誤區(qū)自查清單6.1 六個高頻誤區(qū)你現(xiàn)在中了幾個誤區(qū)一MoE不如稠密模型。有些人覺得MoE是偷懶的做法用一堆小專家湊數(shù)。實際訓(xùn)練得當?shù)腗oE效果是能超過同激活參數(shù)量的稠密模型的因為總參數(shù)量大了知識容量上限更高。誤區(qū)二推理模型就是更聰明的模型。推理模型在復(fù)雜任務(wù)上確實表現(xiàn)更強但在簡單任務(wù)上它可能因為想太多而答錯且延遲高、成本高。我實際測試過讓推理模型做11等于幾它有時候會因為過度懷疑自己而給出一個莫名其妙的答案。誤區(qū)三多模態(tài)模型的文本能力一定更強。完全相反很多多模態(tài)模型因為要在視覺數(shù)據(jù)上分配訓(xùn)練預(yù)算純文本能力反而不如同參數(shù)量的純文本模型。想用多模態(tài)模型做大段文本的深度分析很可能失望。誤區(qū)四本地部署大模型一定要選MoE。MoE省的是推理計算量不省顯存。你本地一臺16G顯存的機器跑7B稠密模型很舒服跑一個總參數(shù)量46B的Mixtral 8x7B就算量化到4bit也夠嗆。誤區(qū)五只要API支持傳圖片就是多模態(tài)模型。嚴格說很多文本模型是通過外部OCR工具把圖片轉(zhuǎn)成文字再處理的你傳圖片它也能看懂一些內(nèi)容但這不叫多模態(tài)。真正的多模態(tài)是圖片以視覺token形式進模型而不是圖片先被外部工具轉(zhuǎn)成文本。誤區(qū)六推理模型會逐漸取代通用模型。至少在成本和延遲大幅下降之前不會。實際業(yè)務(wù)里絕大多數(shù)請求都是低難度任務(wù)通用模型的性價比遠高于推理模型。未來的方向大概率是系統(tǒng)層面做路由——簡單問題走通用模型復(fù)雜問題走推理模型而不是單一模型通吃。6.2 拿一個新模型時我建議你先問自己五個問題你新拿到一個模型或者看到一篇新的模型發(fā)布公告不要急著跑benchmark。以下五個問題問完你對它的認知就已經(jīng)超過80%的圍觀群眾了它的總參數(shù)量和激活參數(shù)量分別是多少判斷結(jié)構(gòu)軸稠密還是MoE、規(guī)模多大它是否有專門的思維鏈/強化學(xué)習(xí)訓(xùn)練階段判斷能力軸通用還是推理它原生支持哪些輸入和輸出類型判斷模態(tài)軸純文本、視覺、音頻、視頻官方文檔里部署時的顯存推薦是多少倒推模型的真實部署成本它是從頭訓(xùn)練的還是從某個基座微調(diào)/蒸餾來的判斷創(chuàng)新含量蒸餾模型和基座模型差距很大6.3 一個我自己的踩坑經(jīng)歷最后講一個真實踩過的坑。之前接了一個項目客戶要求模型能讀合同截圖并給出風(fēng)險提示。我當時圖省事直接選了一個很火的全模態(tài)模型因為它宣傳圖片視頻音頻全能我心想既然圖片能讀那合同掃描件肯定沒問題。結(jié)果一到現(xiàn)場就翻車了。合同圖片里大量密集的小字號條款文字普通多模態(tài)模型的視覺編碼器根本認不全經(jīng)常漏字、錯字給出的風(fēng)險提示自然也不可靠。后來我換了個思路先用專門的OCR模型把合同圖片轉(zhuǎn)成結(jié)構(gòu)化文本再用一個純文本的通用模型做條款分析。效果立竿見影錯誤率直接降了一個數(shù)量級。這個案例完美說明了三維拆解法的重要性。我當時只盯著模態(tài)軸看覺得支持圖片輸入就夠了卻忽略了一個事實多模態(tài)支持的是看圖不等于識文。復(fù)雜場景里單模態(tài)的專業(yè)工具往往比多模態(tài)的通才更可靠。這也是我現(xiàn)在給所有團隊的建議選型的時候不要被全能兩個字沖昏頭腦先搞清楚三個軸各自的需求再把每個軸用最合適的方案填上最后組合起來。模型選型不是選一個最貴的而是選一個最匹配的。
返回列表
PREV
查看更多資訊
NEXT
返回資訊列表
wwe 天天干.com| 肉丝无码中文高清| 欧美一级久久久丰满| 激情四射五月天| 免费人成?大片在线播放| 男人的天堂va在线| 精品丰满熟妇人妻一区| 亚洲色9| 欧美日韩操操操| 日本布卡一区二三区| 五月激情天| 中文字幕av亚洲精品| 国产精品久久久777| 日韩欧美字幕亚洲一区二区| 美国一区二区三区视频| 91香蕉视频在线观看免费| 日日爽熟女| 新97国产超碰| 色欲日韩欧美在线一区| 欧美αv.com| 高清孕妇孕交 交| 超碰亚洲欧美日韩无| 欧美成人黄网色网站| 午夜性刺激视频免费观看| 亚洲999综合| 日韩av乱伦| 秋霞一级A片黄色视频| 97在线资源| 七久久久| 99re6久热只有精品6在线直播| 久草国产在线视频| 色婷婷激一区二区三区| 国产精品嫩草影院午夜两性| 91P0RNY大屁股人妻| 亚洲图片小说欧洲| 麻豆色约约| 国产风韵犹存熟妇三区| 丁香五月婷婷啪啪| 色婷视频| 92福利社视频| 中文字幕高清20页视频| 久久99综合| 欧美,日韩,亚洲视频| av一区二区三区不卡| 亚洲国产熟妇综合色专区| 亚洲在钱| 精品在线78| 超碰 国产熟女精品一区| 亚洲有薄码区日本系列中文字幕| 五月天玖玖资源站| 色小视频蜜乳| 精品一区二区三区蜜桃臀赵总 | 999亚洲国产视频| 日韩15p| GVH-003 母子姦 青木玲-麻豆视频,麻豆视传媒短视频网站入口,麻豆视传媒官网直 | 久久黄片国产一区二区| 欧美成人性活片| 人妻少妇精品无码专区二区密桃| 大香蕉中文在线| 欧美97se| 亚洲97精品| 蜜臀Av一区二区三区| 日韩毛片9| 精品视频一区二区| 夜夜欢天天干| 亚洲影院无码在线| 亚洲欧美在线观看无码| 熟妇操花| a在线观看| 夜夜爽33333| 国产乱伦性爱AV| 五月婷婷综合在线| 日韩精彩免费| 六月婷婷一区二区三区| 中文字幕精品三级久久久| 亚春色色| 国产在线播放成人免费| 黄页视频网站野外| 欧美1727免费观看视频| 久久人爽| 亚洲毛片久久| 豆花视频操逼网址| 黄片直播三级黄片两女一男| 五月丁香影视| WWW.加勒比人妻一区不卡.com| 99精品丰满人妻| 久久久久久99999国产精品| 天天欧美| 老外又粗又长一晚做五次| 日本一区二区不卡精品| 欧美制服另类丝袜| 精品人妻一区二区三区夜夜| 熟妇色99| 久久国产热视频97电影| 120分钟婬片免费看| 日夜啪电影| 伊人久久大香线综合无码| 亚洲和欧美裸体美女双飞视频| 夜夜无码| 色婷婷av在线观看| 97国产综合欧美| 大色综合| 亚洲成人无码影院| 久久久工口| 黄久在线| wwwxxx日本爽| 中文久久一区| 91亚洲在线| 国产成人欧美一区二区三区的国产| 精品黑人一区二区| 91处女视频在线观看| 亚洲一区中文字幕| 蜜乳AV一区二区三区四| 欧美亚洲se91| 国产精品久久久吖| 欧美日韩岛国大片在线观看| 久久99999| 91亚洲网站| 美女被艹尤物视频| 欧美成人国产精品| 蜜乳AV一区| 久久久9品一区二区三区| 91日产桃蜜| 亚洲中文国际强奸字幕| 激情视频一二三| 日本伦乱九九九综合| 狠狠色丁香| 美女网站黄页| 国产又大又硬又长又粗| 亚洲人综合19| 嗯啊不要啊在线 | 色婷婷在线视频精品导航| 91伊人久久在线| 变态乱伦伪娘灌肠一区二区| 一区二区三区四区久久视1| 操逼网站网站| 啊啊啊啊啊啊好湿好爽视频| 国产精品亚洲无码| 成人十八禁日韩欧美一二三| 亚洲一区二区三区不卡国产欧美| 顶级少妇BT天堂| 啊啊啊啊网站| 熟女色图在线| 91丨九色丨国产丨人妻在线 | 日日日日做夜夜夜夜做无码97| 一区不卡在线观看av| 国产农村妇女精品一| 久久国产熟女影院| 在线电影亚洲色图| 久久久啊啊| 亚洲黄片免费在线播放| 亚洲 欧美 另类 日韩 人妻一区| 人人操人人操人人人操| 五十路熟女,国产欧美精品区一区二区三区| wwwxxx日本爽| 男人天堂无码| 丁香五月婷婷基地| 国产综合在线视频网站| 国模91| 日韩av不卡在线观看| 亚洲se电影| 97久久超碰| 久一区久久蜜桃| 爆乳免费黄网站| 自怕偷自怕亚洲精品| 精品一区二区三区蜜桃臀www| 乱伦av麻豆| 久久久无码精品人妻二区| 五月天社区| 12一15性XXXX粉嫩国产| 欧美热图99| 六月婷激情福利天堂69| 亚洲AV麻豆Aⅴ无码电影一| 日韩人妻网站| 午夜精品探花| 亚洲欧美人妻| 丝袜狂射91| 婷婷99狠狠躁天天躁| 亚洲av国产av综合av卡| 久操视频在线| 久操视频免费观看| 日本一区二区三区精品| 麻豆视频国产一区二区| 精品十八在线观看| 九九九久久久久| 在线看免费无码AV天堂的| 超碰这里有精品| 真实高潮91| 色牛牛AV| 黄色区免费观看中文字幕| 国产馆| 另类图片亚洲加勒比另类图片亚洲加勒比另类图片亚洲加勒比 | 9美女超碰在线免费观看| 爽爽歪在线视频| 青青操综合网| 国产精品一区二区久久精品| 少妇九九九九| 婷婷激情五月综合| 九9精品| 国产白丝在线| 熟妇一区二区三区| 日本三级R| 伊人一区二区在线播放| 国产精品999aaa| 91操熟女视频 | 色9999日韩国产| 3P乱轮视频| 中文字幕一区二区日韩网| 一本色道综合久久欧美日韩精品| 九九九一二三| 久久久一二三四区| 国产人人干| 第45页一区二区| 操人妻丝袜高跟| 美女AV一区二区| 超碰久久性爱| 国产人妻精品久久久一区二区三区 | 一区二区三区看视频| 蘋果手機免費看成人Av| 大香蕉伊在线久草麻豆天堂故事| 亚洲情色婷婷五月天| 久久麻豆一区二区| 91蜜臀熟女| 精品久久久久久亚洲| 丁香婷婷啪啪| 精品超碰国产| 再深点灬舒服灬太大了添视频 | 精品制服美女中文一区二区三区| 久久的网站啊啊啊啊啊| 久久女人视频| 日韩AV色图| 久久久久久中文版| 91黑丝操| 亚洲欧美洲综合| 日本媚薬中文字幕在线| 韩国免费播放一级毛片| 亚洲精品尤物yw在线影院| 性饥渴少妇av无码毛片| 国产亚洲女v在线观看| 天天艹天天日| 婷色五月| 金典av| 观看视频图片一区二区三区| 操B久久| 丝袜狂射91| 少妇高潮喷水无套久久久久久| 超碰97欧美日韩| 青青草女人天天干| 国产偷拍网站| 欧美性爱十八禁| 噜噜噜狠狠色综合| 亚洲91网。| 亚洲欧美日韩国产丝袜自拍中文| 久久久无码精品人妻二区 | 97色欧洲| 中文字幕日韩专区精品系列| 亚洲中文国际强奸字幕| 这里只有精品久久| 99只有精品| 亚洲熟女乱综合一区二区在线-...亚洲国产日韩欧美一区二区三区,久久久久久精 | 久久久月天| 久久免费少妇| 人人摸人人干人人拍97| 亚洲色人妻综合| 黄日韩| 97超级久久| 天天影视色香欲综合网小说| 欧美一级黄片免费播放| n1038 一二三区| 91视频成人福利网站在线一区 | 九九精品无码专区免费| 97自拍视频在线| 亚洲国产欧美日韩精品一区二区三区,国产一区二区三区在线看片,欧美性猛交 XXX | 欧美性爱1080p| 高清无码网址| 色噜噜人妻av中文字幕| 成人自拍三级在线观看| 正在播放:深夜激情大战,自带黑丝袜全力输出骚穴 | 熟女视频久久| 亚洲官网在线| 日本不卡一区二区| 久久久 国产精品| 欧美精品第四五页中文字幕在线观看| 加勒比久久av| 亚洲春色欧美激情自拍| 人人手机欧洲亚洲国产人妻| 91热| 丰满的三级少妇欧美久久久| 台湾佬中文娱乐自偷自拍| 91男女| 免费的黄片有限公司| 97干在线视频| 天天综合网亚洲综合网| 色欲无码人妻日韩欧美精品| 日韩丨制服丨中文|在线| 亚洲av青草久久一区二区| 国产精品久久久久无码A√| 婷婷成人久久久精品| 欧美人妻一区二区| 国内精品伊人久久久久影院会| 97色诱| 日韩熟女精一区二区三区不卡| 国产精品爽爽va在线观看98| 手机av亚洲丝袜美腿日韩第一页二页| 综合激情二| 人人操天天爽| 日韩性爱啪啪视频| 97资源欧美| 一区二区三区美女超清| 美女网站黄页| 日韩精品区二区三区不卡| 中文字幕精品久久久久人妻红杏ⅰ| 白丝av| 91网站18在线观看| 热99这里有精品综合久久 | 色哟哟-国产专区| 乱欲一区二区| 国产视频第2页| 在线综合 亚洲 欧美中文字幕| 九九天堂| 欧亚无码视频| 啊啊啊啊二区好大| 美女操逼福利视频| 青青操在线视频| 色穴精品| 中文字幕性感少妇av| 婬女免费一二三区A片| 一级岛国大片| 人干人人人操人人摸| 国产极品美女高潮无套在线观看 | 天天操天天舔| 蜜臀亚洲综合一二三四区| 午夜啪| 超碰在线人妻中文字幕| 日韩一区二区三区四区五区| 亚洲涩图欧美| 搡老人老9丨女老熟人| 久热最新在线杭州| 色区久久| 中国AAAAAA黄色片| 久草毛片| 欧美躁死她一区二区| 天天噜| 69综合网| 91精品伊人久久久大香线蕉91| 91AV天堂| 亚洲色色色| 国产内射爽爽大片| 91激情综合| 亚洲夜夜欢无码一区二区| 超碰95| 美女黑人91神马| 九九九久久久久| 亚洲av影音先锋| 欧美后入式| 99国产在线绯色一区| 国产人妖视频一区在线观看| 丝袜美腿91| 国内精品不卡无毒99999| 成人性爱AV在线免费观看| 日本 情色 1区2区3区| 综合五月婷婷| 日逼视频日本| 91人人操| 久久精品国产97欧美精品亚洲 | 2017人人操,人人摸| 亚洲激情欧美色图| 国产一区二区三区,在线观看观看| 96久久精品一二三区色欲| 很很操在线| 成人草草视频| 日韩激情无码影院| 97超碰精品图片| 少妇色综合| 黄色乱论网站| 亚洲精品男人的天堂| 91成人久久| 国产精品久久久久久亚洲色欲| 国产九九九九九九| 欧美天天综合站| 欧美日韩222| 成人情色一区二区| 人人干人人搞人人摸| 精品久久久久久无码| 国产精品久久泡妞网站| 蜜桃香蕉久草精品在线| av草草在线电影| 91精品国久久久久久无码| 综合日韩激情另类图片| 少妇激情一区二区三区视频| 美女十八禁| 91n美女视频| 99自拍视频在线| 日逼国产| 欧美大香蕉专区网| 激情干在线| 日本熟女免费視颖| 精品久久久九九九孕妇| 久久九九99| 破苞ⅩXXX性无码动漫无码| 国产欧美一级在线观看| 亚洲最大网站av| 丝袜剧情| 欧美综合区| 国产精品宅男免费| 久久亚洲日韩国产欧| 精品v1区| 蜜桃中文字日产乱幕4区| www.夜夜| 欧美亚性天堂| 婷婷国产精品九区| 韩国国产欧美情侣视频在线| 99爱爱| 欧美成人色| 青青草日韩免费观看高清在线| 久久草视频污视频| 九九九九九九免费视频| 日韩在线电影| 无码久久国产| 中文字幕亚洲热播人妻| 在线国产一区二区av| 99ri视频| 男人的午夜天堂| 美女91AV| 一个色导综合| www成人啪啪18秘 免费| 欧美夜夜狠| 97大色网| 久久久青草青青国产亚洲免观精品高清完整版_97久久综合区小说区图片区,国精品 | 99蜜桃臀亚洲成人在线观看| 成人日本精品九区| 97在线欧| 97在线视频观看| 26UUU欧美激情一区二区| 涩涩涩综合| 日本黄 R色 成 人网站| 一区二区三区日韩欧美 | 久久二| 欧美日韩插逼视频| 久久一级无码精品毛片6| 久久久精品视频免费观看| 午夜福利精品| 99热99re超碰精品| 久久99草| 欧美亚洲天堂| 国产风韵犹存熟妇三区| 欧美翘臀视频网站一区二区三区| 国产精品白丝在线播放| 婷婷亚洲综合| 欧美亚洲成人在线一区二区三区| 97欧美超碰| 一个人免费HD91视频| www.色婷婷| 久久久免费懂色| 网友自拍第一页| 777奇米影视777四色| 富二代亚洲精品99| 一二区在线观看视频| 午夜福利一区二区影院| 中国东北熟女老太婆内谢| 少妇二级| 久久天堂网| 99久久久无码精品国产人| 九月丁香婷婷| 熟女91网| 超碰在线香蕉| 六月婷婷一区二区三区| 久久av无码| 看看小穴| 97久久久| 爱欲AV| 中文字幕在线免费观看 | 久久久久久性爱视频| 超碰4A| 黄片aaaaa一区| 亚洲精品97在线| 一起草视频在线| 婷婷色五月激情| 青青草原成人| 日韩成人综合网| 青青草依人大香蕉| 激情五月婷| 天天操狠狠日夜夜干超大胆开放com大香蕉视频在线观看 | 热99这里有精品综合久久 | 乱伦图av| 精品中文一区二区| 久久亚洲欧美中文字幕国语 | 日韩熟女精品无码专区一区二区| 亚洲91网。| 色噜噜人妻丝袜a∨先锋影| 91 手机在线播放 绯色| 欧美天堂第二区| 亚洲综合 欧美| 香蕉大久久久| 麻豆视频国产一区二区| 97干综合网| 天天爽天天操| 99精品伊人| 你懂的在线观看区国产| 91嫩草欧美| 人妻无一区二区三区| 日韩 人妻 精品| 毛片久久| 日韩电影天堂视频一区二区| 国产精品嫩草久久久久| 综合视频91| 97综合久久| 国产九月婷婷| 青娱乐福利99| 嗯嗯啊啊好大好爽| 亚洲色综合| 久久久蜜桃臀无码视频| 亚洲午夜精品久久久中文影院| 色综合色| 国产最火爆久久国产网站网站| 啊啊啊啊啊啊啊好爽不要| 黄在线| 五月天亚洲网| 青青草密桃在线播放| 日韩免费福利在线观看| 人妻黑丝袜电影| 久久五月天婷婷| 91网站18禁| 91麻豆天美传媒HD| 亚洲精品无码少妇久久| 亚洲图片另类| 四虎精品一区| 精品99999久久久久久| 亚洲春色欧美激情自拍| 女人天堂网| 在线人妻熟女一区二区三区四区五区| 日韩视频啪啪| 日韩字幕一区| 葡萄牙性视频一二区| 色九九九九| 五月丁香大香蕉| 国产精品网址| 中文字幕欧美日韩三级| 日本黄色裸日本黄色裸体| 色五月综合网| 欧美十八禁网站| 六九九九| 国产乱伦一二三区| 一级婬片120分钟试看| 99草精| 久久m| 国产伦精品免编号公布| 亚洲无线码一区国产欧美国| 老司机深夜18禁污污网站| 啊啊啊啊无码| 中字一区| 91爱欧美| 亚洲性少妇| 欧美白嫩女HD| 天天日天天舔东京热| 六月丁丁香| 中文字幕日韩人妻视频一区二区三区| 韩国免费播放一级毛片| 97久久久久| 在线小说视频一区| 色老久久| 熟女高潮合集-永久久久-成人AV| 人妻大相焦在线| 97色色国产视频| 九九热超碰97亚洲最新香蕉| 久草资源在线视频官方总站日韩丝袜美腿 | 亚洲综合113页| 狠狠干婷婷| 男人天堂毛片| 后入综合久久| 久久久性爱| 中文字幕精品码亚洲| 91爱| 欧美性爽xyxOOOO| 少妇厨房愉情理伦片bd在线观看| 天天操人人操狠狠插| 成人无码电影在线观看网| 欧美偷拍区| 国产熟女完整版中字| 午夜无码精品免费看性色| 中国一区二区亚洲人妻| 丁香五月综合| 亚洲精品一区二区三区新线路| av操操不卡| 久偷拍欧美日韩三区| 久久九九久精品国产尤物|国产精品爽黄69天堂A片潘金莲,国产亚洲精品第一综合 | 日本 欧美 亚中文字幕| 熟妇女人妻呻吟久久AV| 97er欧美性| AV在线播放网址| 99国产女人| 日韩人妻少妇中文字幕| 精品无吗久久| 久久久久96| 天天色图| 亚洲色图亚洲无码强奸乱伦| 色综合五月天| 日逼五月天| 日日嗷| 日产操逼| 国产免费一区在线观看| 英伦大奶子熟妇吊带| 日日妻色网| 国产精品白丝| 欧美日韩国产高清在线一二三区| 天天日天天爽| 91欧美性| 综合久久久久久久久91| 久久免费精品视频免一| 国内精品不卡无毒99999| 夜夜嗨绯色| 嗯嗯啊啊操我| 无码国产精品久久久久| 啊啊啊好湿久久| 国产精品69久久久久久久| 青娱乐休闲视频在线观看| 免费伦费视频在线观看| 久久久久久久少妇| 婷婷丁香人妻| 亚洲一级特黄大片在线播放91| 97精品国产97久久久久久| 九九九九一级| 国产 亚洲 一二三四| 亚洲成人综合在线| 狠狠躁日日躁夜夜躁A| 丁香色狠狠色综合久久小说| 亚欧性爱在线无码| 无毛精品| 波多野42部无码喷潮在线观看| 尹人大香蕉视频在线| 久久偷偷色综合蜜桃| 啊啊啊啊啊在线观看网址| 国产精品国产| 多毛小伙内射老太婆| 欧美亚洲丝袜美女电影| 91精品老女人| 亚洲性爱高潮影院| 久热这里只有精品9| 亚洲成?V人片在线观看福利| 欧美色图成人网一区二区 | 内射日韩大臀美女| 91亚洲在线| 人妻啊啊人妻啊| 伊色久人大在线| 97国产成人精品免费视频| 日韩一级二级三级免费看完整版国语版 | 久久精9| 中文字幕一区二区三区四区在线视频| 99热色这里只有精品| 麻豆 美女 丝袜 人妻 中文| 激情视频网址| 黑人在线91| 99热精品在线| 日韩超碰97| 人妻天天夜夜爽一区二区| 一区二区视频在看| 亚 欧 美 综合| 麻豆天美91| 色噜噜国产精品视频一区二区| 欧美99热| 美女91| 久久人妻四季| 亚洲无码国产精品久久| 九九九影院| 欧美亚洲| 日韩97超碰| 五月天婷婷欧美三区| 偷拍视频青青草在线视频| 午夜丁香婷婷| 青草成人免费视频一COm| 中文字幕日韩国产传媒欧美精品| 三级色影综合网| 大香蕉伊人亚洲| 视频一区二区三区精品| 我中文字幕6区| 新婚人妻扶着粗大强行坐下| 国产免费久久精品99re韩国| 婷婷AV一区二区三区| 成人草草视频| 荡小穴在线观看| 日韩精品资源专区二区| 动漫av中文| 久久AV无码网址| 国产精品视屏| 亚州精品丝袜-不卡成人免费| 亚洲蜜乳av| 色综合1991| 日韩AV一区二区三区四四| 成人性爱免费播放| 亚洲欧美日韩中文久久自慰| 精品人妻美妇91job| 日韩一级二级三级在线不卡观看完整| 丝袜制服字幕在线| 欧美日本一区二区a人| 亚洲色宗合| 日本久久综合| 91无人区卡一卡二卡三乱码入口最新版:能让用户有更多选择的选择-经典说说-爱 | 偷拍亚洲情色| 97欧美精品综合| 日日操丁香五月天| 超碰97中文| 欧美激情久久久久| 精品夜夜澡人妻无码| 亚洲,日韩,欧美,成人播放| 5252色欧美在线男人的天堂| 日本熟妇熟色97一本在线观看| 日本三级A片网站com| 欧美成97爱| 丝袜翘臀后入欧美校园亚洲自拍另类小说一区中文字幕少妇诱惑 | 午夜九九| 久久久久9999妇女| 97福利视频| 久久无码成人| 久操精品| 欧美性综合| 九九英色视频| 中文字幕国产精品1区| 在线A日本| 久久久9999| 亚洲少妇激情一区二区三区| 人妻精品4K4K4K4K4| 欧美成人午夜免费福利785| 一级人妻性爱视频| 性色A∨91| 性生活性生大爱77AV国产| 国产乱弄免费在线视频。| 鲁鲁色综合网| 日本三级日本三级99| 乱伦图一区| 超清福利精品视频在线| 91色综合| 好爽视频在线观看视频| 色约约一区=区三区| 超碰久在线天天做| 加勒比海成人视频网| 成人精品视频一区二区| 国产suv精品一区二区四区999| 亚洲午夜av| 久久综合激情| 97摸视频| 天堂8在线新版官网| 黄片免费看的| 做爱A级亚欧| 69av一区二区三区| 亚洲成人黄色在线观看| 综合久久少妇中文字幕| 97干色| 亚洲精品久久久久毛片A片拉屎 | 美骚妇av高清在线| 久久国产99精品72福利| julia高潮后不停追击中出| 国产福利影视| 亚欧Av| 久久黄片国产一区二区| 人人做,人人操,人人摸| 久久久久久久久久久免费精品| 久久草草亚洲蜜桃臀| 黄色免费网| 亚洲AV麻豆Aⅴ无码电影一| 少妇厨房愉情理伦片bd在线观看| 91久久免费视频互動交流| 亚洲无码太久| 男人高清无码一区二区| 日本精品第一视频在'| 天天日天天干天天整| www狠狠| 色五月av| 色婷婷成人综合| 日韩啪啪啪视频| 99国内熟女露脸视频| 欧美色图在线视频少妇| 欧美色图另类图片| 亚洲乱妇p22| 国产在线观看91精品一区| 亚洲免费成人在线高清无码视频| 國產尤物AV尤物在線觀看 | 91超碰丝袜制服| 人人操人人操人妻人| 大色综合| 天天操人人操狠狠插| 91精品国产高清久久久久久,亚洲成人 | 澳门黄片一香蕉视频| 天堂无码精品国产久| 亚洲欧美日韩综合在线尤物 | 欧美亚洲清纯| 97超碰人人模人人拍人人| 国产精品一级特黄aaa大片在线观看 | 9久久美女首页| 91大香蕉伊人| 亚洲一区中文精品| 丝袜美腿制服人妻二区中文字幕| 亚洲色图大香| 神马影院午夜福利久久久| 骚货操死你| A级片日韩欧美国产欧美视频精选观看| 久操com| 欧美黑人性猛交91| 激情终合网| 亚洲人妻精品一区二区| 久久精品国产99精品亚洲蜜...| 日本黄 R色 成 人网站| 91亚洲青青草原精品1区| 一二视频神马久久传媒| 成全动漫视频观看免费下载| 激情五月天丁香社区| 欧美色九九九| 粉嫩av一区二区三区天美传媒 | 久久99操天天日| 操淫穴亚洲五月丁香 | 嗯嗯嗯,草死我| 亚洲欧美综合网| 精品无码不卡视频| 婷婷日韩一区二区三区中文字幕在线| 欧美第二页午夜| 91久久免费视频互動交流| 狠狠干综合| 无毛精品| 日韩性爱人人爱人人操| 亚州操操穴网| 日韩丨制服丨中文|在线| 日本一道在线播放高清| 国产精品自产拍在线观看社区| 国产有码一区| 超碰色综合| 99热这里只有精品8| 大香交| 东北丰满熟女国产一区| 97精品久久久久久久| 久久久久久久9| 日本精品一区二区中文字幕| 亚洲熟女偷拍在线观看| 亚洲免费成人在线高清无码视频| 粉嫩国产精品久久久| 一区二区高清视频| 久久久久9999| 91狠狠综合久久| 久久98| 老色鬼成人精品视频下载大在线观看| 熟女五十路一区二区三| 91精品成人| 中文字幕一区二区三区字幕| 国产白领连续中出在线观看| 久久AV无码AV| 骚乳在线| 97综合激情| 丁香九月激情| 97在线公开视频| 九九在线精品| 九七超碰| 久久人妻四季| 久久久久久久久久久免费精品| 久久精品老司| 一本精品日本在线视频精品| 操死我了嗯嗯嗯| 一区二区影院| 性欧美| AV中文在线| 91春色| 啊啊啊不要啊啊受不了了视频在线| 久久青青草在线视频| 特污免视频| 奇米四色网| 在线一区| 黄片直播三级黄片两女一男| 中国91AV| 中文字幕一区 二 区 三 四 五 区日 日 骚 | 这里都是精品| 欧美制服网站美腿丝袜| 国产福利电影| 天天摸天天舔天天操| 美女自卫慰黄网站免费| 日本久久超碰| 天堂精品在线| 收看日本人日bb| 色哟哟av| 欧美最婬乱婬爆婬性视频| 亚洲av无码国产精品字幕| 亚洲综合骚逼| 青青网三级视频| 1769一区| 一区超碰一区| 精品妇女一区二区三区| 人人操人人摸人人看人人干| 在线情色电影 91大| 九九性视频| 亚洲无码超碰免费| 97网址97| 日韩精品.久久精品.AV女优.天美传媒| 国产精品露脸在线观看| 天天爱综合网| 红桃视频高潮| ?亚洲伊人伊成久久人综合网| 日本一区不卡| 亚洲系列欧美| 999狠狠综合| 伊人影院综合是一个与深夜成人在线 | 国产一区二区三区免费视频在性观看| 亚洲欧洲无码一区夜| 可以免费观看的AV| 久久欧美按摩999| 91成人无码| 日本免费一区二区不卡 | 任你爽视频| 不卡av在线中文字幕| 偷拍五区| 亚洲91色在线| 99热在线观看| 日韩欧美国产一区二区三区四区| 日韩97| 久久久精品九| 黄色片G G G| 粉嫩国产精品久久久| 中文字幕黄色片| 日韩色| 永久免费av无码网站国产app| 亚洲高清色综合| 精品二区三四区五电影 | 欧美日韩亚洲天堂网| 天天综合网~69| 免费视频a级毛片免费视频| 乱伦一二三区| 日韩啊V| 97香蕉网| 99精品人妻| 综合亚州欧美| 日韩欧美久久婷婷网站| 日本黄页视频在线观看| 91高跟美女在线播放| 精品免费一区二区三区在线亚洲人成| 六月色婷婷| 色婷婷电影网| 亚洲成人免费在线| 婷婷激情五月天小说网| 国产毛片片精品天天看视频| 欧综合网| 亚洲激情在线| 亚洲欧美激情小说| 精品制服美女中文一区二区三区| 韩日精品福利视频一区不卡在线免| 美日韩一卡二卡三卡免费人妻精品| 在线中文字幕极品av| 中文字幕国产| 亚洲日韩美国人妻| aaaa黄片| 精品v日韩欧美国产| 人人干人人搞人人摸| 91在线超高颜值国产| 欧美精品一区二区少妇免费A片| 五码视频在线观看| 欧洲综合无码| 国产精品麻豆视频网站| 国产99精品一区二区三区免费| 精品国产一区二区三区在线播出| 高清无码一区二区三区| 最新国内自拍av免费| 亚洲阿v天堂无码z2018| 国语av狠狠色丁香婷婷综合激情| 久久精品一区二区三区四区五区| 男人天堂网站| 99这里只有精品国产| 约操熟妇| 97人人超| 亚洲。日韩。欧美| 蜜桃色院一区久久 | 强被迫伦姧在线观看无码网站| 国产精品久久aV| 日本无码1| 一本精品日本在线视频精品| 国产一级特黄大片处女| 黄片直播三级黄片两女一男| 欧美亚洲国产91在线| 天天综合网日韩7799| 久久九九网| 欧美极品女人的天堂| 青青操在线亚洲视频观看欧美在线 | 欧亚不卡| 试看60秒| 色九久| A级国产欧美激情在线| 国产久久av| 99色在线| 美女淫穴| 久久久精选| 一本色道久久天天射天天干| caoni国产亚洲av| 嗯嗯啊啊视频在线看| 久久蜜桃综合网| 91久热| 很很操在线| 久久毛卡| 国产日本熟女顶级一区二区三区视频 | 午夜天堂精品久久久久91| 麻豆精品A片免费观看| 人人操超碰在线| 国内一区二区免费| 首页中文字幕中文字幕免费| 粉嫩国产精品久久粉嫩| 日本久久综合| 性色亚洲| 一区二区三区免费岛国片| 91久久精品国产| 国产精品97超碰| 91蜜桃婷婷狠狠久久综合9色| 99国产天美| 亚洲成成熟女人综合一区二区| 欧美日韩*字幕一区| 色五月激情网| 中文一区二区| 84YTCOM性无码| 丁香五月天堂网| 欧美成不卡网| 人人妻人人爽| 亚欧高清在线| 欧美精品91| 欧美色宗合| 久久综合婷婷| 91成人久久| 亚州性9| julia中文字幕在线观看| 91人人操| 日本九九九九| 国产自偷| 欧美一二三级精品在线| 天天综合日韩网| 99少妇| 中文字幕一区日韩精| 亚洲天堂资源| 久久首页| 精品96久久| 美女操逼A A| 日韩熟女精品无码专区一区二区 | 性夜影院爽黄A爽免费动漫| 99热这里是精品| 97伊人超碰| 欧美日韩中文亚洲v在线综合| 人妻在线大香蕉| 最新av中文字幕高清| 麻豆区99999| 超碰成人人人爽人人爽| 加勒比无码一区二区三区| 久久是精品| 中文字幕精品区先锋资源| 精品综合久久久久久97| 国产精品香蕉热久久新品| 后入福利视频| 国产一级137片内射麻豆| 日韩99999色| 蜜乳中文字幕a在线| 欧美狠狠弄| 玖玖爱在线视频免费观看| 嗯嗯嗯不要不要免费视频| 91国模| 99re3这里只有精品| 国产亚洲福利第一页丝袜| 日韩av熟女一区二区三区成人| 成人羞羞视频国产| 久久久久久大| 日韩黄片影院| 亚洲性猛| 柠檬AV导航| 久久二| 激情综合久久| 欧美日韩1234| 日韩欧亚太美不卡| 人妻干天天| 好舒服视频| 国产精品午夜高潮呻吟久久av| 97中文综合| 久久精品视-一级做a爰片性色毛片16美国-中国女与老外在线精品 | 后入式999| 黑操B| 日婷婷| 国产日韩中文字幕欧美| 五月丁香六月婷综合成人综合| JuliaAnn丝袜熟女系列| 欧美三级一级| 亚洲一级特黄大片在线播放91| 99热精品在线观看| AV 少妇 人妻 偷拍| 色色色日本| 欧美偷偷网| 九九热免费国产视频婷婷伊人 | 日本中文字幕一区| 日本肏逼视频在线观看| 淫荡网址| 欧美色图人妻| 一二三四免费视频| 国产精品久久久久无码A√| 天天操人人操狠狠插| 手机在线中文字幕国产| 亚洲不卡一| 麻豆国产原创AV色哟哟| 97人妻免费中文字幕| 激情内射| 久久综合精品一区二区三区| 欧洲一级性爱视频在线观看| 九九碰九九爱97超| Aa东京男人的天堂| 天天看综合网| 成人性爱高清视频免费看| 国产精品人妻无码久久久老鸭窝| 天操老女人| 亚洲色图久久精品蜜| 久久国产乱子伦精品免费女人| 日韩欧美女求操每天更新| 精品九九九九九九九| 91五月天| 不卡九肏| 五月婷婷爱六月丁香色| 人妻丰满熟妇一区二区三| 欧美色性情| 九99久久| 久久伊人青青草| 丁香五月性| 青娱乐国产精品| 超碰免费人妻人人| 91亚洲人| 久草色在线观看| 国产偷人妻精品一区二区在线| 五月天婷婷久久| 国产精品自在自拍视频| 亚洲高清无毛一区二区| 亚洲风情在线观看| 欧美后入式| 亚洲日本天堂| 麻豆国产第一| 宅男91视频在线播放| 久久乐| 久久激情视频| 欧美一级黄片免费播放| 国产精品免费日韩| 国产精品日韩在线一区| 精品三级在线专区| 久久久一区二区三区麻豆| 搡老女人老91妇女熟女| 欧美天堂超碰97| 久久天天躁日日躁狠狠躁 | 91黑丝露脚| 日韩成人电影AV| 福利在线观看一区二区| 久久久久久久伊人精品| 久久久内射良家| 男人的天堂欧美| 一区二区 日韩 欧美 国产 传媒| 精品久久久中文字幕不| 不卡超碰护士AV在线免费播放| 久久久无码国精品无码三区三区| 欧美成人午夜免费福利785| 影音先锋乱| 国内自拍 日韩激情 99| 日韩在线观看字幕精品| 日韩操逼性鲍| 色在线综合| 欧美自拍偷拍综合图片| 色综合一本| 色色色日本| 亚洲国产精品V?在线播放| 亚洲欲色| 日本不卡免费二区| 亚洲色棕合|