文章核心總結與翻譯一、主要內(nèi)容該研究針對大型語言模型（LLMs）的機器學習遺忘問題，提出了一種名為RapidUn的高效遺忘框架。核心目標是在保留模型通用知識的前提下，選擇性地消除特定訓練數(shù)據(jù)（如敏感信息、惡意內(nèi)容）的影響，以滿足隱私法規(guī)（如“被遺忘權”）和安全部署需求。關鍵背景與挑戰(zhàn)現(xiàn)有LLM遺忘方法存在缺陷：全量重訓練計算成本極高，而梯度上升、Fisher矩陣校正等近似方法缺乏針對性，對遺忘樣本處理均勻化，導致遺忘不徹底或損害模型正常性能，尤其在遺忘集小且不平衡時問題突出。核心挑戰(zhàn)包括：監(jiān)督信號稀疏且嘈雜、優(yōu)化不穩(wěn)定、需兼顧效率與可解釋性?？蚣芎诵脑O計RapidUn采用基于影響力驅(qū)動的參數(shù)高效遺忘策略，分為三個階段：快速影響力估計：通過RapidIn模塊計算token級梯度交互，量化遺忘集與保留集樣本間的四向影響力（遺忘→遺忘、遺忘→保留、保留→遺忘、保留→保留）。方向融合：將四向影響力聚合為可解釋的樣本級分數(shù)，區(qū)分有害模式與有用知識的貢獻。自適應權重映射：將影響力分數(shù)轉(zhuǎn)換為有界權重，指導LoRA適配器的梯度更新（遺忘集梯度上升、保留集梯度下降），實現(xiàn)精準遺忘與知識保留的平衡。實驗結果在Llama-3-8