融合通路設(shè)計(jì)與調(diào)優(yōu))
去年下半年我接手了一個(gè)內(nèi)部系統(tǒng)的改造需求要把圖像、文本和一小段語(yǔ)音信號(hào)塞進(jìn)同一個(gè)模型里做聯(lián)合判斷。數(shù)據(jù)量不小標(biāo)注質(zhì)量也還行單模態(tài)的指標(biāo)都挺漂亮可一旦拼到一起整體效果反而比只用文本還差一截。排查了兩周最后發(fā)現(xiàn)問(wèn)題不在數(shù)據(jù)也不在模型大小而在“通路”上——模態(tài)信息從各自的編碼器出來(lái)之后走哪條路、在哪一層匯合、匯合之后還剩多少信息這條路徑的設(shè)計(jì)直接決定了模型能不能真正“看懂”多模態(tài)輸入。這篇要聊的Multimodal Pathway說(shuō)的就是這條路徑本身從各模態(tài)編碼、投影對(duì)齊、交互融合到最終任務(wù)頭的整條信息通道設(shè)計(jì)。它不是某個(gè)具體模型的名字而是一類(lèi)架構(gòu)決策的統(tǒng)稱。你在做圖像問(wèn)答、跨模態(tài)檢索、視頻內(nèi)容理解、工業(yè)質(zhì)檢里的圖文核對(duì)甚至多傳感器融合都會(huì)撞上它。適合兩類(lèi)人看一類(lèi)是剛要把第二個(gè)模態(tài)接進(jìn)現(xiàn)有模型的工程師另一類(lèi)是發(fā)現(xiàn)“融合了但沒(méi)變好”的算法同學(xué)。下面我按自己踩坑的順序把設(shè)計(jì)思路、參數(shù)取舍、代碼骨架和排查經(jīng)驗(yàn)完整攤開(kāi)講。1. 先把“通路”這兩個(gè)字拆開(kāi)看1.1 一條通路要經(jīng)過(guò)的四個(gè)關(guān)口很多人一上來(lái)就糾結(jié)“用什么融合模塊”其實(shí)通路是分段的每一段的失敗模式完全不同混在一起討論永遠(yuǎn)吵不出結(jié)論。我習(xí)慣把它拆成四個(gè)關(guān)口每個(gè)關(guān)口有自己的輸入輸出和驗(yàn)收標(biāo)準(zhǔn)。第一個(gè)關(guān)口是模態(tài)內(nèi)編碼。圖像走視覺(jué)編碼器文本走詞嵌入加編碼器語(yǔ)音走聲學(xué)前端。這一段的目標(biāo)是把原始信號(hào)變成一串定長(zhǎng)的向量序列。注意這里的“定長(zhǎng)”不是指數(shù)值定長(zhǎng)而是指 token 數(shù)量和維度要穩(wěn)定否則后面拼接時(shí)形狀對(duì)不上。視覺(jué)側(cè)通常是切 patch224×224 的圖按 14×14 切得到 16×16256 個(gè) token文本側(cè)按分詞后長(zhǎng)度算一般在幾十到幾百之間浮動(dòng)。第二個(gè)關(guān)口是投影對(duì)齊。不同編碼器輸出的維度往往不一樣視覺(jué)可能是 1024 維文本可能是 768 維投影層負(fù)責(zé)把它們映射到同一個(gè)寬度。這一步看著簡(jiǎn)單其實(shí)是整個(gè)通路里最容易偷懶也最容易出問(wèn)題的地方后面單獨(dú)展開(kāi)。第三個(gè)關(guān)口是交互融合。這是模態(tài)真正“見(jiàn)面”的地方?？梢允呛?jiǎn)單拼接后一起過(guò) Transformer也可以是用交叉注意力讓文本去查圖像還可以是到最后一層才做分?jǐn)?shù)加權(quán)。位置選錯(cuò)后面怎么調(diào)都補(bǔ)不回來(lái)。第四個(gè)關(guān)口是任務(wù)頭輸出。分類(lèi)頭、生成頭、檢索用的對(duì)比頭都算。這一段的問(wèn)題通常是“信息壓縮過(guò)頭”尤其是做生成任務(wù)時(shí)如果融合后的序列長(zhǎng)度被壓得太狠解碼端會(huì)明顯感覺(jué)到“細(xì)節(jié)沒(méi)了”。把這四段分開(kāi)看你會(huì)發(fā)現(xiàn)很多“融合效果不好”的案例其實(shí)是第一段就有問(wèn)題——比如視覺(jué) token 里混進(jìn)了大量背景 patch投影層再好也救不回來(lái)。1.2 三種融合位置的取舍別憑感覺(jué)選融合位置的選擇是通路設(shè)計(jì)里第一個(gè)大決策。我做過(guò)一個(gè)對(duì)比表是我們內(nèi)部實(shí)測(cè)之后整理的參數(shù)量和顯存是按單卡 80G、混合精度估算的融合方式交互發(fā)生位置顯存增幅訓(xùn)練難度適合的場(chǎng)景早期融合編碼后立即拼接低約 1.2 倍低模態(tài)對(duì)齊良好、序列都短中期融合中間若干層交叉注意力高約 2.5 到 3 倍中高需要細(xì)粒度對(duì)應(yīng)如圖文問(wèn)答晚期融合各模態(tài)獨(dú)立出分?jǐn)?shù)再合并極低低模態(tài)獨(dú)立性強(qiáng)、要求可解釋混合融合主路中期 旁路晚期中高高線上要降級(jí)兜底的生產(chǎn)系統(tǒng)早期融合最省事把視覺(jué) token 和文本 token 拼成一條長(zhǎng)序列直接喂給 Transformer。問(wèn)題在于圖像 token 動(dòng)輒兩三百個(gè)文本才幾十個(gè)拼完之后序列被視覺(jué)主導(dǎo)模型容易“看著圖忘了話”。我們最早那版就是早期融合圖文匹配任務(wù)還行一到需要精確讀文字的場(chǎng)合就崩因?yàn)槲谋?token 在注意力里被稀釋了。中期融合是我現(xiàn)在的主力方案。核心是保留兩條獨(dú)立的主干在中間某幾層插入交叉注意力讓文本 token 作為 query 去查視覺(jué) token 的 key/value。好處是文本序列長(zhǎng)度不變不會(huì)被稀釋代價(jià)是顯存漲得厲害交叉注意力的矩陣規(guī)模是文本長(zhǎng)度乘以視覺(jué)長(zhǎng)度雖然比全序列自注意力省但層數(shù)一多也頂不住。晚期融合最穩(wěn)各模態(tài)各自算分再加權(quán)線上降級(jí)特別方便——視覺(jué)服務(wù)掛了就只走文本。但它學(xué)不到細(xì)粒度對(duì)應(yīng)關(guān)系做“圖里第三行文字寫(xiě)了什么”這種任務(wù)基本沒(méi)戲。我們現(xiàn)在線上跑的是混合結(jié)構(gòu)主路用中期融合保證效果旁路保留一個(gè)晚期融合的輕量分支主路超時(shí)或異常時(shí)切旁路。這個(gè)設(shè)計(jì)不是一開(kāi)始就想好的是被線上事故逼出來(lái)的。2. 核心設(shè)計(jì)里最容易被低估的三件事2.1 投影層不是“降維那一下”它決定信息損失上限投影層最常見(jiàn)的寫(xiě)法就是一個(gè)線性層把視覺(jué)特征從 1024 維映射到 4096 維。參數(shù)量算下來(lái)是 1024×40964096大概 420 萬(wàn)占整體模型的比例很小所以很多人隨手就定了。但我實(shí)測(cè)下來(lái)這一層的設(shè)計(jì)對(duì)最終指標(biāo)的影響遠(yuǎn)超它的參數(shù)量占比。問(wèn)題出在 token 數(shù)量上。視覺(jué)編碼器輸出 256 個(gè) token如果全部保留并投到 4096 維光視覺(jué)部分就要占 256×4096 的激活空間再乘以 batch 和層數(shù)顯存很快就見(jiàn)底。于是有兩種常見(jiàn)處理一種是直接線性投影全保留另一種是先用查詢式重采樣把 256 個(gè) token 壓到 32 或 64 個(gè)再投影。我兩種都試過(guò)結(jié)論是看任務(wù)性質(zhì)分。如果任務(wù)需要定位細(xì)節(jié)比如“圖中左上角的儀表讀數(shù)是多少”壓縮 token 會(huì)直接丟掉空間分辨率指標(biāo)掉得很明顯如果任務(wù)是整體語(yǔ)義判斷比如“這張圖是不是戶外場(chǎng)景”壓縮到 64 個(gè) token 幾乎無(wú)損還能省下一大截顯存。重采樣器的寫(xiě)法不復(fù)雜核心是一組可學(xué)習(xí)的查詢向量去對(duì)視覺(jué) token 做注意力import torch import torch.nn as nn class QueryResampler(nn.Module): 把變長(zhǎng)的視覺(jué) token 壓縮成固定數(shù)量的語(yǔ)義 token def __init__(self, vis_dim, out_dim, num_query64, num_heads8, depth2): super().__init__() self.query nn.Parameter(torch.randn(1, num_query, out_dim) * 0.02) self.kv_proj nn.Linear(vis_dim, out_dim) self.layers nn.ModuleList([ nn.ModuleDict({ q_norm: nn.LayerNorm(out_dim), kv_norm: nn.LayerNorm(out_dim), attn: nn.MultiheadAttention(out_dim, num_heads, batch_firstTrue), ffn: nn.Sequential( nn.Linear(out_dim, out_dim * 4), nn.GELU(), nn.Linear(out_dim * 4, out_dim), ), ffn_norm: nn.LayerNorm(out_dim), }) for _ in range(depth) ]) def forward(self, vis_tokens, vis_maskNone): # vis_tokens: [B, N_vis, vis_dim] kv self.kv_proj(vis_tokens) # [B, N_vis, out_dim] q self.query.expand(kv.size(0), -1, -1) # [B, num_query, out_dim] key_padding None if vis_mask is None else ~vis_mask for layer in self.layers: q2 layer[q_norm](q) kv2 layer[kv_norm](kv) attn_out, _ layer[attn]( q2, kv2, kv2, key_padding_maskkey_padding, need_weightsFalse, ) q q attn_out q q layer[ffn](layer[ffn_norm](q)) return q # [B, num_query, out_dim]這段代碼有兩個(gè)細(xì)節(jié)值得說(shuō)。一是self.query的初始化標(biāo)準(zhǔn)差我用 0.02試過(guò) 0.5 那種大初始化訓(xùn)練前期梯度爆炸過(guò)一次loss 直接變 NaN。二是key_padding_mask的處理視覺(jué)側(cè)如果有 padding 的 token比如不同分辨率圖片拼成一個(gè) batch不做 mask 的話重采樣會(huì)去關(guān)注無(wú)意義的填充位訓(xùn)出來(lái)的 token 語(yǔ)義是臟的。這個(gè)坑我在第二批數(shù)據(jù)上才踩到因?yàn)榈谝慌鷪D片全是統(tǒng)一尺寸根本沒(méi)有 padding。2.2 路由與門(mén)控讓信息自己選擇走哪條道當(dāng)模態(tài)數(shù)量超過(guò)兩個(gè)或者同一模態(tài)內(nèi)部有不同來(lái)源比如攝像頭圖像和雷達(dá)圖像簡(jiǎn)單拼接就不夠用了。這時(shí)候可以做模態(tài)級(jí)路由給每個(gè) token 算一個(gè)權(quán)重決定它更多地流向哪個(gè)專(zhuān)家分支。思路參考混合專(zhuān)家的做法但不要照搬到模態(tài)上。我最初的實(shí)現(xiàn)是給每個(gè)模態(tài)一個(gè)標(biāo)量門(mén)控結(jié)果訓(xùn)完之后門(mén)控全塌縮到某一個(gè)模態(tài)上等于白做。后來(lái)改成 token 級(jí)路由才正常class ModalRouter(nn.Module): token 級(jí)門(mén)控為每個(gè) token 分配專(zhuān)家權(quán)重 def __init__(self, dim, num_experts4, top_k2, temperature1.0): super().__init__() self.gate nn.Linear(dim, num_experts, biasFalse) self.num_experts num_experts self.top_k top_k self.temperature temperature def forward(self, x, modality_ids): # x: [B, L, dim]; modality_ids: [B, L] 每個(gè) token 屬于哪個(gè)模態(tài) logits self.gate(x) / self.temperature # [B, L, E] # 重要路由權(quán)重按模態(tài)做歸一化防止某個(gè)模態(tài) token 多就占優(yōu) mask torch.zeros_like(logits) for m in modality_ids.unique(): sel (modality_ids m) mask[sel] 1.0 logits logits.masked_fill(mask 0, float(-inf)) weights torch.softmax(logits, dim-1) topv, topi weights.topk(self.top_k, dim-1) topv topv / topv.sum(dim-1, keepdimTrue) return topv, topimodality_ids這個(gè)參數(shù)看著多余其實(shí)是我踩坑之后加的。第一版沒(méi)有它路由權(quán)重的歸一化是在整個(gè) batch 的所有 token 上做的結(jié)果視覺(jué) token 數(shù)量是文本的五六倍softmax 之后視覺(jué)專(zhuān)家被分到的權(quán)重天然就高路由形同虛設(shè)。加上模態(tài)掩碼之后每個(gè)模態(tài)內(nèi)部獨(dú)立競(jìng)爭(zhēng)負(fù)載才均衡。另外必須配一個(gè)負(fù)載均衡損失否則專(zhuān)家利用率會(huì)嚴(yán)重傾斜。我用的形式是各專(zhuān)家被選中概率的平方和乘以專(zhuān)家數(shù)$$ L_{bal} E \cdot \sum_{i1}^{E} f_i^2 $$其中f_i是第 i 個(gè)專(zhuān)家在當(dāng)前 batch 里被選中的頻率。這個(gè)損失權(quán)重我設(shè)在 0.01 量級(jí)太大了會(huì)影響主任務(wù)收斂太小了沒(méi)效果。調(diào)這個(gè)系數(shù)的那幾天日志里專(zhuān)家命中率的曲線一會(huì)兒接近均勻一會(huì)兒全打到一個(gè)專(zhuān)家上來(lái)回試了七八個(gè)值才穩(wěn)定下來(lái)。2.3 訓(xùn)練階段怎么切分決定通路能不能學(xué)起來(lái)通路結(jié)構(gòu)搭好之后訓(xùn)練策略比結(jié)構(gòu)本身更影響結(jié)果。我的做法是分三段每段的凍結(jié)范圍不同階段編碼器投影層融合層任務(wù)頭典型步數(shù)對(duì)齊預(yù)熱凍結(jié)訓(xùn)練凍結(jié)訓(xùn)練2k 到 5k通路放開(kāi)凍結(jié)訓(xùn)練訓(xùn)練訓(xùn)練10k 到 20k聯(lián)合微調(diào)部分解凍訓(xùn)練訓(xùn)練訓(xùn)練5k 到 10k第一階段只訓(xùn)投影層和任務(wù)頭目的是讓兩個(gè)模態(tài)的表示先落到一個(gè)大致兼容的空間里。這一步學(xué)習(xí)率可以給大一點(diǎn)我用 1e-3因?yàn)橥队皩邮请S機(jī)初始化的太小的學(xué)習(xí)率根本挪不動(dòng)。如果跳過(guò)這一步直接聯(lián)合訓(xùn)練我遇到過(guò)投影層梯度被編碼器傳來(lái)的大梯度沖垮的情況loss 前兩千步劇烈震蕩。第二階段放開(kāi)融合層學(xué)習(xí)率降到 1e-4編碼器繼續(xù)凍結(jié)。這一步是真正學(xué)“跨模態(tài)對(duì)應(yīng)關(guān)系”的階段耗時(shí)最長(zhǎng)。有個(gè)細(xì)節(jié)融合層里的交叉注意力key/value 側(cè)的權(quán)重可以給更小的學(xué)習(xí)率因?yàn)樗薪拥氖且呀?jīng)訓(xùn)好的視覺(jué)表示動(dòng)太快會(huì)破壞原有語(yǔ)義。第三階段才解凍編碼器的高層學(xué)習(xí)率壓到 1e-5 到 2e-5。這一步收益不大但風(fēng)險(xiǎn)不小我的經(jīng)驗(yàn)是只在數(shù)據(jù)量足夠十萬(wàn)級(jí)以上的時(shí)候做小數(shù)據(jù)集上解凍編碼器幾乎必然過(guò)擬合驗(yàn)證集指標(biāo)第二 epoch 就開(kāi)始往下走。3. 一條完整通路的具體實(shí)現(xiàn)與參數(shù)核算3.1 先把張量形狀和序列布局約定死寫(xiě)代碼之前我強(qiáng)制自己做了一件事把所有張量的形狀、含義、mask 約定寫(xiě)在一張表里貼在旁邊。這個(gè)習(xí)慣是被一次 debug 折磨出來(lái)的——某次訓(xùn)練一切正常但推理時(shí)結(jié)果全亂查了一晚上發(fā)現(xiàn)是訓(xùn)練時(shí)視覺(jué) token 在前文本在后推理腳本里順序反了因?yàn)槟Ｐ蜎](méi)報(bào)錯(cuò)形狀完全兼容。我們的約定是這樣的張量形狀含義vis_tokens[B, Nv, Dv]視覺(jué)編碼器輸出Nv 一般 256 或 576vis_mask[B, Nv]True 表示有效 tokentxt_ids[B, Lt]文本 token idLt 為 padding 后長(zhǎng)度txt_tokens[B, Lt, Dt]文本編碼器輸出modality_ids[B, NvLt]拼接后每個(gè)位置屬于哪個(gè)模態(tài)0 視覺(jué) 1 文本fused[B, NvLt, D]融合后序列D 為統(tǒng)一寬度序列拼接順序我固定成“視覺(jué)在前、文本在后”并且在融合層之后加一個(gè)可學(xué)習(xí)的位置偏置讓模型知道兩段的分界在哪。這個(gè)偏置聽(tīng)起來(lái)可有可無(wú)但實(shí)測(cè)去掉之后做需要精確定位的任務(wù)會(huì)掉一到兩個(gè)點(diǎn)因?yàn)榧兾恢镁幋a區(qū)分不出“這里是模態(tài)邊界”這件事。3.2 融合塊的代碼骨架融合塊我寫(xiě)成了一個(gè)獨(dú)立模塊方便按需插入到主干的不同層。核心是雙向的交叉注意力加上殘差class FusionBlock(nn.Module): def __init__(self, dim, num_heads16, dropout0.1, use_gateTrue): super().__init__() self.txt2vis nn.MultiheadAttention(dim, num_heads, dropoutdropout, batch_firstTrue) self.vis2txt nn.MultiheadAttention(dim, num_heads, dropoutdropout, batch_firstTrue) self.norm1 nn.LayerNorm(dim) self.norm2 nn.LayerNorm(dim) self.ffn nn.Sequential( nn.Linear(dim, dim * 4), nn.GELU(), nn.Dropout(dropout), nn.Linear(dim * 4, dim), ) self.norm3 nn.LayerNorm(dim) self.use_gate use_gate if use_gate: # 門(mén)控初值偏小讓訓(xùn)練初期以恒等映射為主避免破壞預(yù)訓(xùn)練表示 self.gate nn.Parameter(torch.full((dim,), -2.0)) def forward(self, vis, txt, vis_maskNone, txt_maskNone): kv_pad None if vis_mask is None else ~vis_mask q_pad None if txt_mask is None else ~txt_mask t2v, _ self.txt2vis(self.norm1(txt), vis, vis, key_padding_maskkv_pad, need_weightsFalse) v2t, _ self.vis2txt(self.norm2(vis), txt, txt, key_padding_maskq_pad, need_weightsFalse) if self.use_gate: g torch.sigmoid(self.gate) txt txt g * t2v vis vis g * v2t else: txt txt t2v vis vis v2t txt txt self.ffn(self.norm3(txt)) return vis, txt門(mén)控的初值我設(shè)成 -2.0sigmoid 之后大約 0.12意思是訓(xùn)練剛開(kāi)始時(shí)融合分支只貢獻(xiàn)一成多的信息主體還是各模態(tài)自己的表示。這個(gè)技巧是從殘差連接的思想里變通過(guò)來(lái)的融合層是隨機(jī)初始化的如果一開(kāi)始就全量注入會(huì)把編碼器辛苦學(xué)到的表示沖散。實(shí)測(cè)帶門(mén)控的版本第一階段 loss 下降明顯更平滑。3.3 顯存和吞吐的核算別等 OOM 才想?yún)?shù)量的賬好算激活的賬不好算但必須算。以 batch8、視覺(jué) token 256、文本 token 512、融合寬度 4096、主干 32 層為例我按混合精度粗算一遍單樣本單層的 token 激活大約是 768×4096×2 字節(jié)約 6.3MB。32 層乘 8 個(gè)樣本光這一項(xiàng)就是 1.6GB 左右還不算 FFN 里的 4 倍擴(kuò)展實(shí)際要乘 4 到 5就是 6 到 8GB。真正吃顯存的是注意力矩陣。768 個(gè) token 的自注意力矩陣規(guī)模 768×76816 個(gè)頭混合精度下是 768×768×16×2 字節(jié)約 18.9MB 每樣本每層。乘 32 層乘 8 個(gè)樣本差不多 4.8GB如果頭數(shù)翻倍或者序列變長(zhǎng)這塊會(huì)迅速失控。我實(shí)際跑下來(lái)單卡 80G 上這個(gè)配置能跑 batch 6 左右。想上到 batch 16 就得開(kāi)梯度檢查點(diǎn)代價(jià)是訓(xùn)練速度慢四成左右。這個(gè)取舍我的做法是預(yù)訓(xùn)練階段不開(kāi)檢查點(diǎn)用大 batch 保證梯度穩(wěn)定微調(diào)階段開(kāi)檢查點(diǎn)用更大 batch 換更少的步數(shù)因?yàn)槲⒄{(diào)階段本來(lái)就步數(shù)少。還有個(gè)容易被忽略的點(diǎn)交叉注意力的顯存要看兩邊長(zhǎng)度的乘積。文本 512、視覺(jué) 256交叉注意力的矩陣是 256×512比 768×768 的自注意力小三倍多所以中期融合的顯存開(kāi)銷(xiāo)其實(shí)主要來(lái)自主干自注意力不是融合本身。這個(gè)認(rèn)知幫我在優(yōu)化時(shí)找對(duì)了方向——一開(kāi)始我以為是融合層太重去砍融合層數(shù)結(jié)果指標(biāo)掉了顯存沒(méi)省多少。3.4 訓(xùn)練日志里必須盯的四個(gè)指標(biāo)跑起來(lái)之后光看總 loss 是不夠的。我固定盯四個(gè)數(shù)第一個(gè)是各模態(tài) token 的梯度范數(shù)。如果文本側(cè)梯度范數(shù)是視覺(jué)側(cè)的十分之一說(shuō)明通路嚴(yán)重偏向視覺(jué)后面調(diào)多久都沒(méi)用得回去查投影層的初始化尺度。第二個(gè)是專(zhuān)家或門(mén)控的命中分布。上面提過(guò)塌縮是最常見(jiàn)的問(wèn)題我一開(kāi)始每 200 步打一次直方圖現(xiàn)在設(shè)成自動(dòng)告警某個(gè)專(zhuān)家占比超過(guò) 60% 就打印警告。第三個(gè)是驗(yàn)證集上單模態(tài)和融合的差值。理想情況融合明顯更好如果融合反而不如最好的單模態(tài)說(shuō)明通路上有信息被破壞了通常是融合層過(guò)早注入或者門(mén)控沒(méi)起作用。第四個(gè)是投影層輸出的數(shù)值范圍。這一項(xiàng)很少有人看但我吃過(guò)虧某次投影層輸出均值偏移越來(lái)越大訓(xùn)到一半激活值到了幾千的量級(jí)后面接的 LayerNorm 直接被撐爆。加上輸出端的歸一化和權(quán)重衰減之后穩(wěn)住了。4. 實(shí)際跑下來(lái)遇到的坑和排查方法4.1 故障速查表這些問(wèn)題我基本都親自遇到過(guò)按癥狀整理出來(lái)方便對(duì)照癥狀最可能的原因排查動(dòng)作處理方式融合后指標(biāo)不如單模態(tài)融合層注入過(guò)早破壞預(yù)訓(xùn)練表示看融合層門(mén)控值分布門(mén)控初值調(diào)小或延后融合層插入位置loss 前期劇烈震蕩投影層隨機(jī)初始化 學(xué)習(xí)率過(guò)大打印投影層梯度范數(shù)先凍結(jié)主干單訓(xùn)投影層學(xué)習(xí)率 1e-3 起訓(xùn)練正常推理全亂序列拼接順序或 mask 約定不一致對(duì)齊訓(xùn)練與推理的張量布局把約定寫(xiě)成文檔并加斷言檢查門(mén)控全塌縮到一個(gè)分支缺少負(fù)載均衡或歸一化范圍錯(cuò)誤打印路由權(quán)重直方圖加模態(tài)掩碼 均衡損失權(quán)重 0.01生成任務(wù)細(xì)節(jié)丟失視覺(jué) token 壓縮過(guò)度對(duì)比壓縮前后定位類(lèi)指標(biāo)提高查詢數(shù)量或關(guān)鍵任務(wù)不壓縮顯存 OOM 但參數(shù)量不大注意力矩陣隨序列平方增長(zhǎng)按公式手算矩陣顯存開(kāi)梯度檢查點(diǎn)或降 token 數(shù)驗(yàn)證指標(biāo)第二 epoch 就下降解凍范圍過(guò)大數(shù)據(jù)量不夠看訓(xùn)練/驗(yàn)證 loss 分叉點(diǎn)回退到只訓(xùn)融合層表格里第一行那個(gè)問(wèn)題最隱蔽。我們有一版結(jié)構(gòu)融合層從第一層就開(kāi)始插入結(jié)果模型在圖文匹配上還行一到需要語(yǔ)言理解的子任務(wù)就崩。后來(lái)把融合層挪到主干的后三分之一同樣的數(shù)據(jù)同樣的超參語(yǔ)言類(lèi)子任務(wù)直接漲了四個(gè)點(diǎn)。原因不難理解淺層的表示還很“局部”視覺(jué) token 和文本 token 在這個(gè)階段語(yǔ)義空間差得遠(yuǎn)強(qiáng)行交互等于讓兩個(gè)說(shuō)不同語(yǔ)言的人在還沒(méi)學(xué)會(huì)共同詞匯時(shí)就對(duì)話只會(huì)互相干擾。4.2 幾條我認(rèn)為最值錢(qián)的避坑經(jīng)驗(yàn)第一條永遠(yuǎn)先跑一個(gè)“只拼不融”的基線。就是把兩個(gè)模態(tài)的表示直接拼接或者相加不做任何交叉注意力跑一遍看指標(biāo)。這個(gè)基線看起來(lái)簡(jiǎn)陋但它告訴你數(shù)據(jù)本身能撐到什么程度。我后來(lái)所有的融合改進(jìn)都是跟這個(gè)基線比而不是跟單模態(tài)比。跟單模態(tài)比容易得出“融合有效”的錯(cuò)覺(jué)其實(shí)可能只是多參數(shù)帶來(lái)的收益。第二條mask 一定要在最早的地方處理。我見(jiàn)過(guò)太多實(shí)現(xiàn)是在融合之后才處理 padding那時(shí)候無(wú)效 token 已經(jīng)參與了注意力計(jì)算污染已經(jīng)發(fā)生了。正確做法是編碼器輸出后立刻 mask重采樣和交叉注意力全程帶著 mask。這個(gè)改動(dòng)沒(méi)有任何性能代價(jià)但對(duì)小 batch、變長(zhǎng)輸入的場(chǎng)景影響巨大我們的短文本樣本指標(biāo)因此漲了將近三個(gè)點(diǎn)。第三條別迷信“層數(shù)越多融合越充分”。我試過(guò)在 24 層主干里插 12 個(gè)融合塊結(jié)果訓(xùn)練時(shí)間翻倍指標(biāo)反而比插 4 個(gè)差。原因是每次融合都會(huì)引入一次信息重排插得太密各模態(tài)自己的表示還沒(méi)來(lái)得及在層內(nèi)充分演化就被反復(fù)混合最終學(xué)到的是一種“糊在一起”的表示區(qū)分度下降。我現(xiàn)在的經(jīng)驗(yàn)值是融合塊占主干層數(shù)的 15% 到 25%插在中后段。第四條模態(tài)不平衡要在損失層面處理不要在數(shù)據(jù)層面硬湊。視覺(jué) token 遠(yuǎn)多于文本 token 是常態(tài)有人靠復(fù)制文本 token 來(lái)平衡這是錯(cuò)的復(fù)制出來(lái)的 token 梯度會(huì)疊加等于給文本加了額外權(quán)重。正確做法是在注意力 mask 和路由歸一化里按模態(tài)處理讓每個(gè)模態(tài)內(nèi)部獨(dú)立競(jìng)爭(zhēng)這樣數(shù)量差異不影響權(quán)重分配。第五條推理鏈路上留一條旁路。這個(gè)不是算法問(wèn)題是工程問(wèn)題。多模態(tài)通路意味著多個(gè)服務(wù)串聯(lián)任何一個(gè)環(huán)節(jié)超時(shí)都會(huì)拖垮整體。我們現(xiàn)在的主路走中期融合旁路保留一個(gè)只用文本的輕量分支主路響應(yīng)超過(guò)閾值就切旁路雖然精度降一些但可用性保住了。這個(gè)設(shè)計(jì)上線后P99 延遲從原來(lái)的接近兩秒降到了六百毫秒以內(nèi)。第六條把投影層的輸出范圍當(dāng)成一個(gè)監(jiān)控指標(biāo)。前面提過(guò)這個(gè)數(shù)不看會(huì)出事。我的做法是在訓(xùn)練腳本里每 500 步統(tǒng)計(jì)一次投影層輸出的均值和 99 分位數(shù)均值偏移超過(guò)初始值的三倍就告警。這個(gè)小監(jiān)控幫我在一次結(jié)構(gòu)調(diào)整中提前發(fā)現(xiàn)了初始化尺度的問(wèn)題省了至少兩天的排查時(shí)間。5. 關(guān)于通路設(shè)計(jì)的一點(diǎn)個(gè)人體會(huì)做這類(lèi)結(jié)構(gòu)改造做久了我越來(lái)越覺(jué)得“多模態(tài)通路”這個(gè)說(shuō)法其實(shí)挺準(zhǔn)確的——它強(qiáng)調(diào)的是路徑不是模塊。很多人包括最早的我習(xí)慣去找一個(gè)“更好的融合模塊”仿佛換個(gè)注意力變體就能解決問(wèn)題。但實(shí)際調(diào)試下來(lái)絕大部分收益來(lái)自路徑上的位置選擇和訓(xùn)練階段的切分模塊本身用的是最標(biāo)準(zhǔn)的交叉注意力沒(méi)什么花哨的。還有一個(gè)感受是多模態(tài)的調(diào)試比單模態(tài)難難在問(wèn)題不報(bào)錯(cuò)。形狀對(duì)得上、loss 在下降、指標(biāo)不算難看但就是沒(méi)達(dá)到預(yù)期你得靠一堆中間統(tǒng)計(jì)去定位到底是哪一段通路在漏信息。我現(xiàn)在養(yǎng)成了一個(gè)習(xí)慣每加一個(gè)新模態(tài)或者改一次通路結(jié)構(gòu)先把四個(gè)關(guān)口的中間輸出各存一份小樣本人眼看一遍。視覺(jué) token 里是不是全是背景、投影后有沒(méi)有數(shù)值異常、融合后的表示和融合前差多少這些看一眼就有感覺(jué)比盲調(diào)超參高效得多。最后分享一個(gè)我最近在試的擴(kuò)展方向把通路的“寬度”也做成可學(xué)習(xí)的?，F(xiàn)在的做法是每個(gè)模態(tài)固定走一條路徑我在想能不能讓模型自己決定某個(gè)樣本要不要走完整的融合鏈路簡(jiǎn)單的樣本走淺通路復(fù)雜的走深通路。初步試驗(yàn)里用路由權(quán)重做樣本難度估計(jì)把三成左右的簡(jiǎn)單樣本分流到淺通路整體吞吐提升了四成精度只掉了零點(diǎn)幾。這條線還在跑等數(shù)據(jù)穩(wěn)定了再細(xì)聊。 Multimodal Pathway：多模態(tài)融合通路設(shè)計(jì)與調(diào)優(yōu)
去年下半年我接手了一個(gè)內(nèi)部系統(tǒng)的改造需求要把圖像、文本和一小段語(yǔ)音信號(hào)塞進(jìn)同一個(gè)模型里做聯(lián)合判斷。數(shù)據(jù)量不小標(biāo)注質(zhì)量也還行單模態(tài)的指標(biāo)都挺漂亮可一旦拼到一起整體效果反而比只用文本還差一截。排查了兩周最后發(fā)現(xiàn)問(wèn)題不在數(shù)據(jù)也不在模型大小而在“通路”上——模態(tài)信息從各自的編碼器出來(lái)之后走哪條路、在哪一層匯合、匯合之后還剩多少信息這條路徑的設(shè)計(jì)直接決定了模型能不能真正“看懂”多模態(tài)輸入。這篇要聊的Multimodal Pathway說(shuō)的就是這條路徑本身從各模態(tài)編碼、投影對(duì)齊、交互融合到最終任務(wù)頭的整條信息通道設(shè)計(jì)。它不是某個(gè)具體模型的名字而是一類(lèi)架構(gòu)決策的統(tǒng)稱。你在做圖像問(wèn)答、跨模態(tài)檢索、視頻內(nèi)容理解、工業(yè)質(zhì)檢里的圖文核對(duì)甚至多傳感器融合都會(huì)撞上它。適合兩類(lèi)人看一類(lèi)是剛要把第二個(gè)模態(tài)接進(jìn)現(xiàn)有模型的工程師另一類(lèi)是發(fā)現(xiàn)“融合了但沒(méi)變好”的算法同學(xué)。下面我按自己踩坑的順序把設(shè)計(jì)思路、參數(shù)取舍、代碼骨架和排查經(jīng)驗(yàn)完整攤開(kāi)講。1. 先把“通路”這兩個(gè)字拆開(kāi)看1.1 一條通路要經(jīng)過(guò)的四個(gè)關(guān)口很多人一上來(lái)就糾結(jié)“用什么融合模塊”其實(shí)通路是分段的每一段的失敗模式完全不同混在一起討論永遠(yuǎn)吵不出結(jié)論。我習(xí)慣把它拆成四個(gè)關(guān)口每個(gè)關(guān)口有自己的輸入輸出和驗(yàn)收標(biāo)準(zhǔn)。第一個(gè)關(guān)口是模態(tài)內(nèi)編碼。圖像走視覺(jué)編碼器文本走詞嵌入加編碼器語(yǔ)音走聲學(xué)前端。這一段的目標(biāo)是把原始信號(hào)變成一串定長(zhǎng)的向量序列。注意這里的“定長(zhǎng)”不是指數(shù)值定長(zhǎng)而是指 token 數(shù)量和維度要穩(wěn)定否則后面拼接時(shí)形狀對(duì)不上。視覺(jué)側(cè)通常是切 patch224×224 的圖按 14×14 切得到 16×16256 個(gè) token文本側(cè)按分詞后長(zhǎng)度算一般在幾十到幾百之間浮動(dòng)。第二個(gè)關(guān)口是投影對(duì)齊。不同編碼器輸出的維度往往不一樣視覺(jué)可能是 1024 維文本可能是 768 維投影層負(fù)責(zé)把它們映射到同一個(gè)寬度。這一步看著簡(jiǎn)單其實(shí)是整個(gè)通路里最容易偷懶也最容易出問(wèn)題的地方后面單獨(dú)展開(kāi)。第三個(gè)關(guān)口是交互融合。這是模態(tài)真正“見(jiàn)面”的地方?？梢允呛?jiǎn)單拼接后一起過(guò) Transformer也可以是用交叉注意力讓文本去查圖像還可以是到最后一層才做分?jǐn)?shù)加權(quán)。位置選錯(cuò)后面怎么調(diào)都補(bǔ)不回來(lái)。第四個(gè)關(guān)口是任務(wù)頭輸出。分類(lèi)頭、生成頭、檢索用的對(duì)比頭都算。這一段的問(wèn)題通常是“信息壓縮過(guò)頭”尤其是做生成任務(wù)時(shí)如果融合后的序列長(zhǎng)度被壓得太狠解碼端會(huì)明顯感覺(jué)到“細(xì)節(jié)沒(méi)了”。把這四段分開(kāi)看你會(huì)發(fā)現(xiàn)很多“融合效果不好”的案例其實(shí)是第一段就有問(wèn)題——比如視覺(jué) token 里混進(jìn)了大量背景 patch投影層再好也救不回來(lái)。1.2 三種融合位置的取舍別憑感覺(jué)選融合位置的選擇是通路設(shè)計(jì)里第一個(gè)大決策。我做過(guò)一個(gè)對(duì)比表是我們內(nèi)部實(shí)測(cè)之后整理的參數(shù)量和顯存是按單卡 80G、混合精度估算的融合方式交互發(fā)生位置顯存增幅訓(xùn)練難度適合的場(chǎng)景早期融合編碼后立即拼接低約 1.2 倍低模態(tài)對(duì)齊良好、序列都短中期融合中間若干層交叉注意力高約 2.5 到 3 倍中高需要細(xì)粒度對(duì)應(yīng)如圖文問(wèn)答晚期融合各模態(tài)獨(dú)立出分?jǐn)?shù)再合并極低低模態(tài)獨(dú)立性強(qiáng)、要求可解釋混合融合主路中期 旁路晚期中高高線上要降級(jí)兜底的生產(chǎn)系統(tǒng)早期融合最省事把視覺(jué) token 和文本 token 拼成一條長(zhǎng)序列直接喂給 Transformer。問(wèn)題在于圖像 token 動(dòng)輒兩三百個(gè)文本才幾十個(gè)拼完之后序列被視覺(jué)主導(dǎo)模型容易“看著圖忘了話”。我們最早那版就是早期融合圖文匹配任務(wù)還行一到需要精確讀文字的場(chǎng)合就崩因?yàn)槲谋?token 在注意力里被稀釋了。中期融合是我現(xiàn)在的主力方案。核心是保留兩條獨(dú)立的主干在中間某幾層插入交叉注意力讓文本 token 作為 query 去查視覺(jué) token 的 key/value。好處是文本序列長(zhǎng)度不變不會(huì)被稀釋代價(jià)是顯存漲得厲害交叉注意力的矩陣規(guī)模是文本長(zhǎng)度乘以視覺(jué)長(zhǎng)度雖然比全序列自注意力省但層數(shù)一多也頂不住。晚期融合最穩(wěn)各模態(tài)各自算分再加權(quán)線上降級(jí)特別方便——視覺(jué)服務(wù)掛了就只走文本。但它學(xué)不到細(xì)粒度對(duì)應(yīng)關(guān)系做“圖里第三行文字寫(xiě)了什么”這種任務(wù)基本沒(méi)戲。我們現(xiàn)在線上跑的是混合結(jié)構(gòu)主路用中期融合保證效果旁路保留一個(gè)晚期融合的輕量分支主路超時(shí)或異常時(shí)切旁路。這個(gè)設(shè)計(jì)不是一開(kāi)始就想好的是被線上事故逼出來(lái)的。2. 核心設(shè)計(jì)里最容易被低估的三件事2.1 投影層不是“降維那一下”它決定信息損失上限投影層最常見(jiàn)的寫(xiě)法就是一個(gè)線性層把視覺(jué)特征從 1024 維映射到 4096 維。參數(shù)量算下來(lái)是 1024×40964096大概 420 萬(wàn)占整體模型的比例很小所以很多人隨手就定了。但我實(shí)測(cè)下來(lái)這一層的設(shè)計(jì)對(duì)最終指標(biāo)的影響遠(yuǎn)超它的參數(shù)量占比。問(wèn)題出在 token 數(shù)量上。視覺(jué)編碼器輸出 256 個(gè) token如果全部保留并投到 4096 維光視覺(jué)部分就要占 256×4096 的激活空間再乘以 batch 和層數(shù)顯存很快就見(jiàn)底。于是有兩種常見(jiàn)處理一種是直接線性投影全保留另一種是先用查詢式重采樣把 256 個(gè) token 壓到 32 或 64 個(gè)再投影。我兩種都試過(guò)結(jié)論是看任務(wù)性質(zhì)分。如果任務(wù)需要定位細(xì)節(jié)比如“圖中左上角的儀表讀數(shù)是多少”壓縮 token 會(huì)直接丟掉空間分辨率指標(biāo)掉得很明顯如果任務(wù)是整體語(yǔ)義判斷比如“這張圖是不是戶外場(chǎng)景”壓縮到 64 個(gè) token 幾乎無(wú)損還能省下一大截顯存。重采樣器的寫(xiě)法不復(fù)雜核心是一組可學(xué)習(xí)的查詢向量去對(duì)視覺(jué) token 做注意力import torch import torch.nn as nn class QueryResampler(nn.Module): 把變長(zhǎng)的視覺(jué) token 壓縮成固定數(shù)量的語(yǔ)義 token def __init__(self, vis_dim, out_dim, num_query64, num_heads8, depth2): super().__init__() self.query nn.Parameter(torch.randn(1, num_query, out_dim) * 0.02) self.kv_proj nn.Linear(vis_dim, out_dim) self.layers nn.ModuleList([ nn.ModuleDict({ q_norm: nn.LayerNorm(out_dim), kv_norm: nn.LayerNorm(out_dim), attn: nn.MultiheadAttention(out_dim, num_heads, batch_firstTrue), ffn: nn.Sequential( nn.Linear(out_dim, out_dim * 4), nn.GELU(), nn.Linear(out_dim * 4, out_dim), ), ffn_norm: nn.LayerNorm(out_dim), }) for _ in range(depth) ]) def forward(self, vis_tokens, vis_maskNone): # vis_tokens: [B, N_vis, vis_dim] kv self.kv_proj(vis_tokens) # [B, N_vis, out_dim] q self.query.expand(kv.size(0), -1, -1) # [B, num_query, out_dim] key_padding None if vis_mask is None else ~vis_mask for layer in self.layers: q2 layer[q_norm](q) kv2 layer[kv_norm](kv) attn_out, _ layer[attn]( q2, kv2, kv2, key_padding_maskkey_padding, need_weightsFalse, ) q q attn_out q q layer[ffn](layer[ffn_norm](q)) return q # [B, num_query, out_dim]這段代碼有兩個(gè)細(xì)節(jié)值得說(shuō)。一是self.query的初始化標(biāo)準(zhǔn)差我用 0.02試過(guò) 0.5 那種大初始化訓(xùn)練前期梯度爆炸過(guò)一次loss 直接變 NaN。二是key_padding_mask的處理視覺(jué)側(cè)如果有 padding 的 token比如不同分辨率圖片拼成一個(gè) batch不做 mask 的話重采樣會(huì)去關(guān)注無(wú)意義的填充位訓(xùn)出來(lái)的 token 語(yǔ)義是臟的。這個(gè)坑我在第二批數(shù)據(jù)上才踩到因?yàn)榈谝慌鷪D片全是統(tǒng)一尺寸根本沒(méi)有 padding。2.2 路由與門(mén)控讓信息自己選擇走哪條道當(dāng)模態(tài)數(shù)量超過(guò)兩個(gè)或者同一模態(tài)內(nèi)部有不同來(lái)源比如攝像頭圖像和雷達(dá)圖像簡(jiǎn)單拼接就不夠用了。這時(shí)候可以做模態(tài)級(jí)路由給每個(gè) token 算一個(gè)權(quán)重決定它更多地流向哪個(gè)專(zhuān)家分支。思路參考混合專(zhuān)家的做法但不要照搬到模態(tài)上。我最初的實(shí)現(xiàn)是給每個(gè)模態(tài)一個(gè)標(biāo)量門(mén)控結(jié)果訓(xùn)完之后門(mén)控全塌縮到某一個(gè)模態(tài)上等于白做。后來(lái)改成 token 級(jí)路由才正常class ModalRouter(nn.Module): token 級(jí)門(mén)控為每個(gè) token 分配專(zhuān)家權(quán)重 def __init__(self, dim, num_experts4, top_k2, temperature1.0): super().__init__() self.gate nn.Linear(dim, num_experts, biasFalse) self.num_experts num_experts self.top_k top_k self.temperature temperature def forward(self, x, modality_ids): # x: [B, L, dim]; modality_ids: [B, L] 每個(gè) token 屬于哪個(gè)模態(tài) logits self.gate(x) / self.temperature # [B, L, E] # 重要路由權(quán)重按模態(tài)做歸一化防止某個(gè)模態(tài) token 多就占優(yōu) mask torch.zeros_like(logits) for m in modality_ids.unique(): sel (modality_ids m) mask[sel] 1.0 logits logits.masked_fill(mask 0, float(-inf)) weights torch.softmax(logits, dim-1) topv, topi weights.topk(self.top_k, dim-1) topv topv / topv.sum(dim-1, keepdimTrue) return topv, topimodality_ids這個(gè)參數(shù)看著多余其實(shí)是我踩坑之后加的。第一版沒(méi)有它路由權(quán)重的歸一化是在整個(gè) batch 的所有 token 上做的結(jié)果視覺(jué) token 數(shù)量是文本的五六倍softmax 之后視覺(jué)專(zhuān)家被分到的權(quán)重天然就高路由形同虛設(shè)。加上模態(tài)掩碼之后每個(gè)模態(tài)內(nèi)部獨(dú)立競(jìng)爭(zhēng)負(fù)載才均衡。另外必須配一個(gè)負(fù)載均衡損失否則專(zhuān)家利用率會(huì)嚴(yán)重傾斜。我用的形式是各專(zhuān)家被選中概率的平方和乘以專(zhuān)家數(shù)$$ L_{bal} E \cdot \sum_{i1}^{E} f_i^2 $$其中f_i是第 i 個(gè)專(zhuān)家在當(dāng)前 batch 里被選中的頻率。這個(gè)損失權(quán)重我設(shè)在 0.01 量級(jí)太大了會(huì)影響主任務(wù)收斂太小了沒(méi)效果。調(diào)這個(gè)系數(shù)的那幾天日志里專(zhuān)家命中率的曲線一會(huì)兒接近均勻一會(huì)兒全打到一個(gè)專(zhuān)家上來(lái)回試了七八個(gè)值才穩(wěn)定下來(lái)。2.3 訓(xùn)練階段怎么切分決定通路能不能學(xué)起來(lái)通路結(jié)構(gòu)搭好之后訓(xùn)練策略比結(jié)構(gòu)本身更影響結(jié)果。我的做法是分三段每段的凍結(jié)范圍不同階段編碼器投影層融合層任務(wù)頭典型步數(shù)對(duì)齊預(yù)熱凍結(jié)訓(xùn)練凍結(jié)訓(xùn)練2k 到 5k通路放開(kāi)凍結(jié)訓(xùn)練訓(xùn)練訓(xùn)練10k 到 20k聯(lián)合微調(diào)部分解凍訓(xùn)練訓(xùn)練訓(xùn)練5k 到 10k第一階段只訓(xùn)投影層和任務(wù)頭目的是讓兩個(gè)模態(tài)的表示先落到一個(gè)大致兼容的空間里。這一步學(xué)習(xí)率可以給大一點(diǎn)我用 1e-3因?yàn)橥队皩邮请S機(jī)初始化的太小的學(xué)習(xí)率根本挪不動(dòng)。如果跳過(guò)這一步直接聯(lián)合訓(xùn)練我遇到過(guò)投影層梯度被編碼器傳來(lái)的大梯度沖垮的情況loss 前兩千步劇烈震蕩。第二階段放開(kāi)融合層學(xué)習(xí)率降到 1e-4編碼器繼續(xù)凍結(jié)。這一步是真正學(xué)“跨模態(tài)對(duì)應(yīng)關(guān)系”的階段耗時(shí)最長(zhǎng)。有個(gè)細(xì)節(jié)融合層里的交叉注意力key/value 側(cè)的權(quán)重可以給更小的學(xué)習(xí)率因?yàn)樗薪拥氖且呀?jīng)訓(xùn)好的視覺(jué)表示動(dòng)太快會(huì)破壞原有語(yǔ)義。第三階段才解凍編碼器的高層學(xué)習(xí)率壓到 1e-5 到 2e-5。這一步收益不大但風(fēng)險(xiǎn)不小我的經(jīng)驗(yàn)是只在數(shù)據(jù)量足夠十萬(wàn)級(jí)以上的時(shí)候做小數(shù)據(jù)集上解凍編碼器幾乎必然過(guò)擬合驗(yàn)證集指標(biāo)第二 epoch 就開(kāi)始往下走。3. 一條完整通路的具體實(shí)現(xiàn)與參數(shù)核算3.1 先把張量形狀和序列布局約定死寫(xiě)代碼之前我強(qiáng)制自己做了一件事把所有張量的形狀、含義、mask 約定寫(xiě)在一張表里貼在旁邊。這個(gè)習(xí)慣是被一次 debug 折磨出來(lái)的——某次訓(xùn)練一切正常但推理時(shí)結(jié)果全亂查了一晚上發(fā)現(xiàn)是訓(xùn)練時(shí)視覺(jué) token 在前文本在后推理腳本里順序反了因?yàn)槟Ｐ蜎](méi)報(bào)錯(cuò)形狀完全兼容。我們的約定是這樣的張量形狀含義vis_tokens[B, Nv, Dv]視覺(jué)編碼器輸出Nv 一般 256 或 576vis_mask[B, Nv]True 表示有效 tokentxt_ids[B, Lt]文本 token idLt 為 padding 后長(zhǎng)度txt_tokens[B, Lt, Dt]文本編碼器輸出modality_ids[B, NvLt]拼接后每個(gè)位置屬于哪個(gè)模態(tài)0 視覺(jué) 1 文本fused[B, NvLt, D]融合后序列D 為統(tǒng)一寬度序列拼接順序我固定成“視覺(jué)在前、文本在后”并且在融合層之后加一個(gè)可學(xué)習(xí)的位置偏置讓模型知道兩段的分界在哪。這個(gè)偏置聽(tīng)起來(lái)可有可無(wú)但實(shí)測(cè)去掉之后做需要精確定位的任務(wù)會(huì)掉一到兩個(gè)點(diǎn)因?yàn)榧兾恢镁幋a區(qū)分不出“這里是模態(tài)邊界”這件事。3.2 融合塊的代碼骨架融合塊我寫(xiě)成了一個(gè)獨(dú)立模塊方便按需插入到主干的不同層。核心是雙向的交叉注意力加上殘差class FusionBlock(nn.Module): def __init__(self, dim, num_heads16, dropout0.1, use_gateTrue): super().__init__() self.txt2vis nn.MultiheadAttention(dim, num_heads, dropoutdropout, batch_firstTrue) self.vis2txt nn.MultiheadAttention(dim, num_heads, dropoutdropout, batch_firstTrue) self.norm1 nn.LayerNorm(dim) self.norm2 nn.LayerNorm(dim) self.ffn nn.Sequential( nn.Linear(dim, dim * 4), nn.GELU(), nn.Dropout(dropout), nn.Linear(dim * 4, dim), ) self.norm3 nn.LayerNorm(dim) self.use_gate use_gate if use_gate: # 門(mén)控初值偏小讓訓(xùn)練初期以恒等映射為主避免破壞預(yù)訓(xùn)練表示 self.gate nn.Parameter(torch.full((dim,), -2.0)) def forward(self, vis, txt, vis_maskNone, txt_maskNone): kv_pad None if vis_mask is None else ~vis_mask q_pad None if txt_mask is None else ~txt_mask t2v, _ self.txt2vis(self.norm1(txt), vis, vis, key_padding_maskkv_pad, need_weightsFalse) v2t, _ self.vis2txt(self.norm2(vis), txt, txt, key_padding_maskq_pad, need_weightsFalse) if self.use_gate: g torch.sigmoid(self.gate) txt txt g * t2v vis vis g * v2t else: txt txt t2v vis vis v2t txt txt self.ffn(self.norm3(txt)) return vis, txt門(mén)控的初值我設(shè)成 -2.0sigmoid 之后大約 0.12意思是訓(xùn)練剛開(kāi)始時(shí)融合分支只貢獻(xiàn)一成多的信息主體還是各模態(tài)自己的表示。這個(gè)技巧是從殘差連接的思想里變通過(guò)來(lái)的融合層是隨機(jī)初始化的如果一開(kāi)始就全量注入會(huì)把編碼器辛苦學(xué)到的表示沖散。實(shí)測(cè)帶門(mén)控的版本第一階段 loss 下降明顯更平滑。3.3 顯存和吞吐的核算別等 OOM 才想?yún)?shù)量的賬好算激活的賬不好算但必須算。以 batch8、視覺(jué) token 256、文本 token 512、融合寬度 4096、主干 32 層為例我按混合精度粗算一遍單樣本單層的 token 激活大約是 768×4096×2 字節(jié)約 6.3MB。32 層乘 8 個(gè)樣本光這一項(xiàng)就是 1.6GB 左右還不算 FFN 里的 4 倍擴(kuò)展實(shí)際要乘 4 到 5就是 6 到 8GB。真正吃顯存的是注意力矩陣。768 個(gè) token 的自注意力矩陣規(guī)模 768×76816 個(gè)頭混合精度下是 768×768×16×2 字節(jié)約 18.9MB 每樣本每層。乘 32 層乘 8 個(gè)樣本差不多 4.8GB如果頭數(shù)翻倍或者序列變長(zhǎng)這塊會(huì)迅速失控。我實(shí)際跑下來(lái)單卡 80G 上這個(gè)配置能跑 batch 6 左右。想上到 batch 16 就得開(kāi)梯度檢查點(diǎn)代價(jià)是訓(xùn)練速度慢四成左右。這個(gè)取舍我的做法是預(yù)訓(xùn)練階段不開(kāi)檢查點(diǎn)用大 batch 保證梯度穩(wěn)定微調(diào)階段開(kāi)檢查點(diǎn)用更大 batch 換更少的步數(shù)因?yàn)槲⒄{(diào)階段本來(lái)就步數(shù)少。還有個(gè)容易被忽略的點(diǎn)交叉注意力的顯存要看兩邊長(zhǎng)度的乘積。文本 512、視覺(jué) 256交叉注意力的矩陣是 256×512比 768×768 的自注意力小三倍多所以中期融合的顯存開(kāi)銷(xiāo)其實(shí)主要來(lái)自主干自注意力不是融合本身。這個(gè)認(rèn)知幫我在優(yōu)化時(shí)找對(duì)了方向——一開(kāi)始我以為是融合層太重去砍融合層數(shù)結(jié)果指標(biāo)掉了顯存沒(méi)省多少。3.4 訓(xùn)練日志里必須盯的四個(gè)指標(biāo)跑起來(lái)之后光看總 loss 是不夠的。我固定盯四個(gè)數(shù)第一個(gè)是各模態(tài) token 的梯度范數(shù)。如果文本側(cè)梯度范數(shù)是視覺(jué)側(cè)的十分之一說(shuō)明通路嚴(yán)重偏向視覺(jué)后面調(diào)多久都沒(méi)用得回去查投影層的初始化尺度。第二個(gè)是專(zhuān)家或門(mén)控的命中分布。上面提過(guò)塌縮是最常見(jiàn)的問(wèn)題我一開(kāi)始每 200 步打一次直方圖現(xiàn)在設(shè)成自動(dòng)告警某個(gè)專(zhuān)家占比超過(guò) 60% 就打印警告。第三個(gè)是驗(yàn)證集上單模態(tài)和融合的差值。理想情況融合明顯更好如果融合反而不如最好的單模態(tài)說(shuō)明通路上有信息被破壞了通常是融合層過(guò)早注入或者門(mén)控沒(méi)起作用。第四個(gè)是投影層輸出的數(shù)值范圍。這一項(xiàng)很少有人看但我吃過(guò)虧某次投影層輸出均值偏移越來(lái)越大訓(xùn)到一半激活值到了幾千的量級(jí)后面接的 LayerNorm 直接被撐爆。加上輸出端的歸一化和權(quán)重衰減之后穩(wěn)住了。4. 實(shí)際跑下來(lái)遇到的坑和排查方法4.1 故障速查表這些問(wèn)題我基本都親自遇到過(guò)按癥狀整理出來(lái)方便對(duì)照癥狀最可能的原因排查動(dòng)作處理方式融合后指標(biāo)不如單模態(tài)融合層注入過(guò)早破壞預(yù)訓(xùn)練表示看融合層門(mén)控值分布門(mén)控初值調(diào)小或延后融合層插入位置loss 前期劇烈震蕩投影層隨機(jī)初始化 學(xué)習(xí)率過(guò)大打印投影層梯度范數(shù)先凍結(jié)主干單訓(xùn)投影層學(xué)習(xí)率 1e-3 起訓(xùn)練正常推理全亂序列拼接順序或 mask 約定不一致對(duì)齊訓(xùn)練與推理的張量布局把約定寫(xiě)成文檔并加斷言檢查門(mén)控全塌縮到一個(gè)分支缺少負(fù)載均衡或歸一化范圍錯(cuò)誤打印路由權(quán)重直方圖加模態(tài)掩碼 均衡損失權(quán)重 0.01生成任務(wù)細(xì)節(jié)丟失視覺(jué) token 壓縮過(guò)度對(duì)比壓縮前后定位類(lèi)指標(biāo)提高查詢數(shù)量或關(guān)鍵任務(wù)不壓縮顯存 OOM 但參數(shù)量不大注意力矩陣隨序列平方增長(zhǎng)按公式手算矩陣顯存開(kāi)梯度檢查點(diǎn)或降 token 數(shù)驗(yàn)證指標(biāo)第二 epoch 就下降解凍范圍過(guò)大數(shù)據(jù)量不夠看訓(xùn)練/驗(yàn)證 loss 分叉點(diǎn)回退到只訓(xùn)融合層表格里第一行那個(gè)問(wèn)題最隱蔽。我們有一版結(jié)構(gòu)融合層從第一層就開(kāi)始插入結(jié)果模型在圖文匹配上還行一到需要語(yǔ)言理解的子任務(wù)就崩。后來(lái)把融合層挪到主干的后三分之一同樣的數(shù)據(jù)同樣的超參語(yǔ)言類(lèi)子任務(wù)直接漲了四個(gè)點(diǎn)。原因不難理解淺層的表示還很“局部”視覺(jué) token 和文本 token 在這個(gè)階段語(yǔ)義空間差得遠(yuǎn)強(qiáng)行交互等于讓兩個(gè)說(shuō)不同語(yǔ)言的人在還沒(méi)學(xué)會(huì)共同詞匯時(shí)就對(duì)話只會(huì)互相干擾。4.2 幾條我認(rèn)為最值錢(qián)的避坑經(jīng)驗(yàn)第一條永遠(yuǎn)先跑一個(gè)“只拼不融”的基線。就是把兩個(gè)模態(tài)的表示直接拼接或者相加不做任何交叉注意力跑一遍看指標(biāo)。這個(gè)基線看起來(lái)簡(jiǎn)陋但它告訴你數(shù)據(jù)本身能撐到什么程度。我后來(lái)所有的融合改進(jìn)都是跟這個(gè)基線比而不是跟單模態(tài)比。跟單模態(tài)比容易得出“融合有效”的錯(cuò)覺(jué)其實(shí)可能只是多參數(shù)帶來(lái)的收益。第二條mask 一定要在最早的地方處理。我見(jiàn)過(guò)太多實(shí)現(xiàn)是在融合之后才處理 padding那時(shí)候無(wú)效 token 已經(jīng)參與了注意力計(jì)算污染已經(jīng)發(fā)生了。正確做法是編碼器輸出后立刻 mask重采樣和交叉注意力全程帶著 mask。這個(gè)改動(dòng)沒(méi)有任何性能代價(jià)但對(duì)小 batch、變長(zhǎng)輸入的場(chǎng)景影響巨大我們的短文本樣本指標(biāo)因此漲了將近三個(gè)點(diǎn)。第三條別迷信“層數(shù)越多融合越充分”。我試過(guò)在 24 層主干里插 12 個(gè)融合塊結(jié)果訓(xùn)練時(shí)間翻倍指標(biāo)反而比插 4 個(gè)差。原因是每次融合都會(huì)引入一次信息重排插得太密各模態(tài)自己的表示還沒(méi)來(lái)得及在層內(nèi)充分演化就被反復(fù)混合最終學(xué)到的是一種“糊在一起”的表示區(qū)分度下降。我現(xiàn)在的經(jīng)驗(yàn)值是融合塊占主干層數(shù)的 15% 到 25%插在中后段。第四條模態(tài)不平衡要在損失層面處理不要在數(shù)據(jù)層面硬湊。視覺(jué) token 遠(yuǎn)多于文本 token 是常態(tài)有人靠復(fù)制文本 token 來(lái)平衡這是錯(cuò)的復(fù)制出來(lái)的 token 梯度會(huì)疊加等于給文本加了額外權(quán)重。正確做法是在注意力 mask 和路由歸一化里按模態(tài)處理讓每個(gè)模態(tài)內(nèi)部獨(dú)立競(jìng)爭(zhēng)這樣數(shù)量差異不影響權(quán)重分配。第五條推理鏈路上留一條旁路。這個(gè)不是算法問(wèn)題是工程問(wèn)題。多模態(tài)通路意味著多個(gè)服務(wù)串聯(lián)任何一個(gè)環(huán)節(jié)超時(shí)都會(huì)拖垮整體。我們現(xiàn)在的主路走中期融合旁路保留一個(gè)只用文本的輕量分支主路響應(yīng)超過(guò)閾值就切旁路雖然精度降一些但可用性保住了。這個(gè)設(shè)計(jì)上線后P99 延遲從原來(lái)的接近兩秒降到了六百毫秒以內(nèi)。第六條把投影層的輸出范圍當(dāng)成一個(gè)監(jiān)控指標(biāo)。前面提過(guò)這個(gè)數(shù)不看會(huì)出事。我的做法是在訓(xùn)練腳本里每 500 步統(tǒng)計(jì)一次投影層輸出的均值和 99 分位數(shù)均值偏移超過(guò)初始值的三倍就告警。這個(gè)小監(jiān)控幫我在一次結(jié)構(gòu)調(diào)整中提前發(fā)現(xiàn)了初始化尺度的問(wèn)題省了至少兩天的排查時(shí)間。5. 關(guān)于通路設(shè)計(jì)的一點(diǎn)個(gè)人體會(huì)做這類(lèi)結(jié)構(gòu)改造做久了我越來(lái)越覺(jué)得“多模態(tài)通路”這個(gè)說(shuō)法其實(shí)挺準(zhǔn)確的——它強(qiáng)調(diào)的是路徑不是模塊。很多人包括最早的我習(xí)慣去找一個(gè)“更好的融合模塊”仿佛換個(gè)注意力變體就能解決問(wèn)題。但實(shí)際調(diào)試下來(lái)絕大部分收益來(lái)自路徑上的位置選擇和訓(xùn)練階段的切分模塊本身用的是最標(biāo)準(zhǔn)的交叉注意力沒(méi)什么花哨的。還有一個(gè)感受是多模態(tài)的調(diào)試比單模態(tài)難難在問(wèn)題不報(bào)錯(cuò)。形狀對(duì)得上、loss 在下降、指標(biāo)不算難看但就是沒(méi)達(dá)到預(yù)期你得靠一堆中間統(tǒng)計(jì)去定位到底是哪一段通路在漏信息。我現(xiàn)在養(yǎng)成了一個(gè)習(xí)慣每加一個(gè)新模態(tài)或者改一次通路結(jié)構(gòu)先把四個(gè)關(guān)口的中間輸出各存一份小樣本人眼看一遍。視覺(jué) token 里是不是全是背景、投影后有沒(méi)有數(shù)值異常、融合后的表示和融合前差多少這些看一眼就有感覺(jué)比盲調(diào)超參高效得多。最后分享一個(gè)我最近在試的擴(kuò)展方向把通路的“寬度”也做成可學(xué)習(xí)的?，F(xiàn)在的做法是每個(gè)模態(tài)固定走一條路徑我在想能不能讓模型自己決定某個(gè)樣本要不要走完整的融合鏈路簡(jiǎn)單的樣本走淺通路復(fù)雜的走深通路。初步試驗(yàn)里用路由權(quán)重做樣本難度估計(jì)把三成左右的簡(jiǎn)單樣本分流到淺通路整體吞吐提升了四成精度只掉了零點(diǎn)幾。這條線還在跑等數(shù)據(jù)穩(wěn)定了再細(xì)聊。