如何用 8 維向量檢索對齊 2048 維精度)
Funnel Retrieval 深度拆解MRL 五級重排級聯(lián)如何用 8 維向量檢索對齊 2048 維精度【免費下載鏈接】MRLCode repository for the paper - Matryoshka Representation Learning項目地址: https://gitcode.com/gh_mirrors/mrl/MRLMRL 套娃表示為什么向量可以一層層剝開MRLMatryoshka Representation Learning套娃表示學習解決了一個經(jīng)典矛盾圖像檢索要高精度就得用 2048 維的完整向量要省算力就得砍到低維——傳統(tǒng)做法二選一。MRL 的思路是讓一個 2048 維向量的前 8 維、前 16 維……前 2048 維各自都是可用的完整表示像套娃一樣層層嵌套。實現(xiàn)上只需把分類頭換成MRL_Linear_Layer它對嵌套尺寸[8, 16, 32, 64, 128, 256, 512, 1024, 2048]分別施加交叉熵損失再求和核心代碼見 MRL.py。這樣訓出來的 ResNet50 只需一次前向就能輸出任意尺寸的截斷表示。如上圖ImageNet-1K 檢索實驗MRL 在所有維度下都顯著超過 SVD、SlimeNet、隨機投影等傳統(tǒng)降維基線——8 維表示就能拿到 56% 以上的 mAP10這是漏斗檢索敢于從 8 維起步的前提。Funnel Retrieval五級重排級聯(lián)的完整流程Funnel Retrieval漏斗檢索的目標是用遠低于 2048 維的計算量達到接近 2048 維直接檢索的精度。整個流程分1 次粗檢索 5 級重排候選集像漏斗一樣逐級收窄階段向量維度候選集長度操作① 粗檢索FAISS82048對全庫約 128 萬張圖做精確 L2 k-NN② 第 1 級重排16200截取前 200按 16 維距離重排③ 第 2 級重排32100截取前 100按 32 維距離重排④ 第 3 級重排6450截取前 50按 64 維距離重排⑤ 第 4 級重排12825截取前 25按 128 維距離重排⑥ 第 5 級重排204810截取前 10按完整 2048 維距離定序兩條級聯(lián)序列重排維度rerank_dim遞增 候選集shortlist遞減在 retrieval/reranking.ipynb 中定義rerank_dim [16, 32, 64, 128, 2048] # rerank cascade shortlist_set [[200, 100, 50, 25, 10], ...] # shortlist cascade它的巧妙之處在于重排只發(fā)生在候選集內部第 5 級雖然用 2048 維計算距離但只對 10 個候選做而非全庫 128 萬次比較。每一級都是維度升一檔、候選砍一半最終輸出 Top-10。相比需要人工挑D_r/D_s組合的單次自適應檢索漏斗策略免除了對兩個超參的調優(yōu)且?guī)缀醪粨p失精度。效果如何128× 理論加速精度幾乎無損上圖給出 ImageNet-1K 與分布外數(shù)據(jù)集 ImageNet-4K 上 mAP10 對 MFLOPs/Query 的權衡曲線。Funnel 點紅色漏斗標記緊貼 2048 維基線的精度水平ImageNet-1K約128× 理論加速真實部署中14× 加速ImageNet-4KOOD 場景6× 真實加速、32× 理論加速精度依然對齊也就是說一個 8 維起步的檢索請求經(jīng)過五級級聯(lián)后拿到了與 2048 維全精度檢索幾乎相同的 Top-1 表現(xiàn)而計算量只剩原來的零頭。相關文件導讀如何在項目里復現(xiàn)嵌套分類層與損失函數(shù)MRL.py檢索流水線說明retrieval/README.md生成庫/查詢向量inference/pytorch_inference.py加--retrieval --mrl參數(shù)FAISS 建庫與 8 維粗檢索retrieval/faiss_nn.ipynb漏斗重排核心實現(xiàn)retrieval/reranking.ipynbmAPk / Recallk 指標計算retrieval/compute_metrics.ipynb分布外評測集 ImageNet-4K 說明imagenet-4k/README.md總結Funnel Retrieval 是 MRL 嵌套表示的最佳打開方式8 維粗篩全庫 → 五級重排逐級提精度 → 2048 維只給最終 10 個候選算距離。它以 128× 的理論計算節(jié)省對齊了滿精度檢索效果為大規(guī)模圖像檢索、以圖搜圖等場景提供了一條低成本、高精度的落地路徑?！久赓M下載鏈接】MRLCode repository for the paper - Matryoshka Representation Learning項目地址: https://gitcode.com/gh_mirrors/mrl/MRL創(chuàng)作聲明：本文部分內容由AI輔助生成（AIGC），僅供參考 Funnel Retrieval 深度拆解：MRL 五級重排級聯(lián)如何用 8 維向量檢索對齊 2048 維精度
Funnel Retrieval 深度拆解MRL 五級重排級聯(lián)如何用 8 維向量檢索對齊 2048 維精度【免費下載鏈接】MRLCode repository for the paper - Matryoshka Representation Learning項目地址: https://gitcode.com/gh_mirrors/mrl/MRLMRL 套娃表示為什么向量可以一層層剝開MRLMatryoshka Representation Learning套娃表示學習解決了一個經(jīng)典矛盾圖像檢索要高精度就得用 2048 維的完整向量要省算力就得砍到低維——傳統(tǒng)做法二選一。MRL 的思路是讓一個 2048 維向量的前 8 維、前 16 維……前 2048 維各自都是可用的完整表示像套娃一樣層層嵌套。實現(xiàn)上只需把分類頭換成MRL_Linear_Layer它對嵌套尺寸[8, 16, 32, 64, 128, 256, 512, 1024, 2048]分別施加交叉熵損失再求和核心代碼見 MRL.py。這樣訓出來的 ResNet50 只需一次前向就能輸出任意尺寸的截斷表示。如上圖ImageNet-1K 檢索實驗MRL 在所有維度下都顯著超過 SVD、SlimeNet、隨機投影等傳統(tǒng)降維基線——8 維表示就能拿到 56% 以上的 mAP10這是漏斗檢索敢于從 8 維起步的前提。Funnel Retrieval五級重排級聯(lián)的完整流程Funnel Retrieval漏斗檢索的目標是用遠低于 2048 維的計算量達到接近 2048 維直接檢索的精度。整個流程分1 次粗檢索 5 級重排候選集像漏斗一樣逐級收窄階段向量維度候選集長度操作① 粗檢索FAISS82048對全庫約 128 萬張圖做精確 L2 k-NN② 第 1 級重排16200截取前 200按 16 維距離重排③ 第 2 級重排32100截取前 100按 32 維距離重排④ 第 3 級重排6450截取前 50按 64 維距離重排⑤ 第 4 級重排12825截取前 25按 128 維距離重排⑥ 第 5 級重排204810截取前 10按完整 2048 維距離定序兩條級聯(lián)序列重排維度rerank_dim遞增 候選集shortlist遞減在 retrieval/reranking.ipynb 中定義rerank_dim [16, 32, 64, 128, 2048] # rerank cascade shortlist_set [[200, 100, 50, 25, 10], ...] # shortlist cascade它的巧妙之處在于重排只發(fā)生在候選集內部第 5 級雖然用 2048 維計算距離但只對 10 個候選做而非全庫 128 萬次比較。每一級都是維度升一檔、候選砍一半最終輸出 Top-10。相比需要人工挑D_r/D_s組合的單次自適應檢索漏斗策略免除了對兩個超參的調優(yōu)且?guī)缀醪粨p失精度。效果如何128× 理論加速精度幾乎無損上圖給出 ImageNet-1K 與分布外數(shù)據(jù)集 ImageNet-4K 上 mAP10 對 MFLOPs/Query 的權衡曲線。Funnel 點紅色漏斗標記緊貼 2048 維基線的精度水平ImageNet-1K約128× 理論加速真實部署中14× 加速ImageNet-4KOOD 場景6× 真實加速、32× 理論加速精度依然對齊也就是說一個 8 維起步的檢索請求經(jīng)過五級級聯(lián)后拿到了與 2048 維全精度檢索幾乎相同的 Top-1 表現(xiàn)而計算量只剩原來的零頭。相關文件導讀如何在項目里復現(xiàn)嵌套分類層與損失函數(shù)MRL.py檢索流水線說明retrieval/README.md生成庫/查詢向量inference/pytorch_inference.py加--retrieval --mrl參數(shù)FAISS 建庫與 8 維粗檢索retrieval/faiss_nn.ipynb漏斗重排核心實現(xiàn)retrieval/reranking.ipynbmAPk / Recallk 指標計算retrieval/compute_metrics.ipynb分布外評測集 ImageNet-4K 說明imagenet-4k/README.md總結Funnel Retrieval 是 MRL 嵌套表示的最佳打開方式8 維粗篩全庫 → 五級重排逐級提精度 → 2048 維只給最終 10 個候選算距離。它以 128× 的理論計算節(jié)省對齊了滿精度檢索效果為大規(guī)模圖像檢索、以圖搜圖等場景提供了一條低成本、高精度的落地路徑?！久赓M下載鏈接】MRLCode repository for the paper - Matryoshka Representation Learning項目地址: https://gitcode.com/gh_mirrors/mrl/MRL創(chuàng)作聲明：本文部分內容由AI輔助生成（AIGC），僅供參考