Transformer架構的情境學習泛化能力
背景
大型語言模型（LLMs）如GPT-4和LLaMA-3憑借Transformer架構的強大情境學習（In-Context Learning, ICL）能力，能夠從有限的示例中快速學習并適應新任務。然而，ICL的泛化邊界和脆弱性一直缺乏系統性的理解，這限制了其在實際應用中的潛力發揮。清華大學的研究團隊通過定義一個以任務為中心的框架，從三個維度系統地研究了Transformer架構在ICL下的泛化能力，并提出了優化訓練數據設計的重要指導原則。
研究框架：三維泛化能力分析
研究團隊提出了一個任務中心框架，將ICL的泛化能力分為三個維度：
- 跨問題泛化（Inter-problem Generalization）模型能否將在一類問題上學到的知識遷移到全新的問題類型上。
- 問題內泛化（Intra-problem Generalization）模型在接觸了問題類型的部分實例后，能否泛化到同類問題的其他實例。
- 任務內泛化（Intra-task Generalization）模型在特定任務上學習后，能否在相似測試樣本上表現良好。
這一框架使研究者能夠系統地評估Transformer模型在不同泛化場景下的表現，從而揭示ICL能力的本質和局限。
函數擬合實驗：泛化能力的基礎驗證
研究首先通過函數擬合任務建立了一個可控的實驗環境。研究者將基礎函數（如正弦、余弦函數）定義為基本問題，將這些函數的組合（加法、乘法、復合）定義為復合問題，通過比較不同訓練策略下模型的表現來評估其泛化能力。
實驗設計
研究采用了兩種主要模型配置：
- Baseline模型僅在基礎函數上訓練
- ComFuncLearner模型在基礎函數和部分組合函數上訓練
通過比較這兩種模型在未見過的函數組合上的表現，研究者能夠評估模型的跨問題和問題內泛化能力。
關鍵發現
- 凸組合泛化：當測試模型對基礎函數的凸組合進行擬合時，ComFuncLearner模型表現顯著優于Baseline模型，即使ComFuncLearner只在訓練中接觸過一種特定的凸組合。這表明Transformer模型具有強大的問題內泛化能力。
- 乘積組合泛化：在函數乘積組合的測試中，隨著ComFuncLearner在訓練中接觸的組合模式數量增加，其在未見過的乘積組合上的表現持續提升，進一步證實了問題內泛化能力的存在。
- 復合函數泛化：在更復雜的函數復合測試中，模型表現出類似的泛化模式，但由于復合操作的復雜性，泛化難度明顯增加。
- 預訓練模型的影響：研究還發現，即使是經過大規模預訓練的LLaMA-3模型，在沒有接觸過特定組合形式的情況下，也難以實現跨問題泛化，但在問題內和任務內泛化方面表現出色。
這些實驗結果一致表明，Transformer模型在ICL范式下缺乏跨問題泛化能力，但具有出色的問題內和任務內泛化能力。
實際應用場景驗證
為了驗證函數擬合實驗的發現在實際應用中的有效性，研究團隊進一步在工具調用和翻譯任務上進行了實驗。
工具調用實驗
研究者將單API調用定義為基本問題，多API調用定義為復合問題，在LLaMA-2模型上進行了實驗。結果顯示：
- 在ComFuncLearner模型（訓練包含多API調用示例）上應用ICL，顯著提升了模型在多API任務上的表現。
- 有趣的是，ComFuncLearner模型在簡單的單API任務上的表現也優于Baseline模型，表明訓練數據的多樣性不僅提升了復雜任務的表現，還能提高簡單任務的上限。
翻譯任務實驗
研究者使用Qwen2-1.5B架構的模型，在英語和德語翻譯任務上進行了實驗，將單語言到單語言翻譯定義為基本問題，混合語言輸入的翻譯定義為復合問題。結果表明：
- 在復雜的混合語言輸入任務上，ComFuncLearner模型明顯優于Baseline模型，且ICL帶來的提升更為顯著。
- 在簡單的單語言翻譯任務上，針對特定任務微調的Baseline模型表現最佳，表明ICL的問題內和跨問題泛化能力仍低于任務內泛化能力。
- 當將測試集分為簡單和困難樣本時，發現在復雜樣本上，ComFuncLearner模型通過ICL獲得的提升更為顯著，而Baseline模型的提升有限。
這些實際應用實驗進一步證實，當模型在訓練階段接觸更廣泛的問題類型時，能顯著提高其通過ICL實現的泛化能力上限，尤其是在復雜任務上。
分布偏移下的泛化能力
研究還探討了當ICL示例與測試樣本之間存在分布偏移時，模型的泛化能力如何受影響。實驗考察了三種關鍵場景：
- 標簽噪聲：在ICL示例中引入標簽噪聲，發現即使只有少量噪聲樣本（如39個示例中的10個），也會顯著影響模型的泛化能力。
- 輸入偏差：當ICL示例包含測試范圍之外的輸入時，模型在測試樣本上的表現顯著下降，即使這些額外樣本的輸出仍遵循真實函數。
- 輸入和輸出偏差：當ICL示例同時包含范圍外的輸入和偏移的輸出時，模型的泛化能力進一步惡化。
這些發現表明，ICL對示例分布的偏移非常敏感，這在實際應用中需要特別注意。
研究結論與指導原則
通過這一系列實驗，研究團隊得出了幾個關鍵結論：
- Transformer模型在ICL中缺乏跨問題泛化能力，但在問題內和任務內泛化方面表現出色。
- 即使經過大規模預訓練的模型，如果沒有在微調階段接觸特定的問題組合形式，也難以通過ICL實現跨問題泛化。
- 在訓練數據中包含更多樣化的任務類型，不僅能提高模型在未見任務上的ICL泛化能力，還能提升其在已知簡單任務上的表現。
- 訓練數據中任務多樣性的增加，能顯著放大ICL在復雜任務上帶來的改進效果。
這些發現為大型語言模型的訓練數據設計提供了重要指導：應當最大化覆蓋任務的多樣性，并在可能的情況下結合不同任務，而不是僅關注特定的目標任務。這種策略不僅能提高模型的跨問題泛化能力，還能增強其在原本簡單任務上的表現。
研究意義與未來方向
這項研究系統地揭示了Transformer架構在ICL下的泛化邊界，為理解大型語言模型的能力與局限提供了重要見解。研究結果表明，雖然當前模型在跨問題泛化方面存在局限，但通過優化訓練數據的多樣性，可以顯著提升其泛化能力。
未來研究可以進一步探索：
- 如何設計更有效的訓練數據組合，最大化模型的泛化能力
- 改進模型架構，增強其跨問題泛化能力
- 開發更魯棒的ICL方法，減少對示例分布偏移的敏感性
這項研究不僅深化了我們對Transformer架構和ICL機制的理解，也為大型語言模型的實際應用提供了寶貴的指導原則，有助于釋放這些模型的全部潛力。
論文：???https://arxiv.org/abs/2503.15579???
代碼：????https://github.com/UbeCc/Generalization-of-Transformers???
本文轉載自??頓數AI??，作者：蔥蔥
