不做數值運算、純靠嘴炮也能機器學習？基于自然語言的全新ML范式來了

作者：機器之心 2024-06-21 13:15:27

與其用數值，我們是否能用自然語言來表示一個模型？這種基于自然語言的非數值模型又該如何做推理和訓練？

本文作者肖鎮中是德國馬克思普朗克-智能系統研究所和圖賓根大學的博士生，Robert Bamler 是圖賓根大學機器學習方向的教授，Bernhard Sch?lkopf 是馬克思普朗克-智能系統研究所的所長，劉威楊是馬普所劍橋大學聯合項目的研究員。

論文地址：https://arxiv.org/abs/2406.04344

在傳統的機器學習場景如分類和回歸問題中，給定訓練數據，我們通過優化參數學到一個函數模型來準確描述訓練集和測試集中和的關系。其中是基于數值的函數，它的參數通常是連續空間中的數值向量或矩陣，優化算法通過計算數值梯度迭代更新從而達到學習的效果。

與其用數值，我們是否能用自然語言來表示一個模型？這種基于自然語言的非數值模型又該如何做推理和訓練？

Verbalized Machine Learning (VML；言語化的機器學習) 回答了這些問題，并提出了一種基于自然語言的機器學習全新范式。VML 把大語言模型 (LLM) 當作自然語言空間中的通用近似函數 (universial function approximator)，數據和參數都是自然語言空間中的字符串。在做推理時，我們可以將給定的輸入數據和參數提交給 LLM，LLM 的回答就是推理的答案。

對于任意任務和數據，我們如何得到？在基于數值的傳統機器學習中，我們通過計算損失函數的梯度，將現有的模型參數往損失下降的方向更新，從而得到的優化函數:

其中和分別為學習率和損失函數。

在 VML 的設定中，由于數據和參數都是字符串且 LLM 被當作是黑箱的推理引擎，所以我們無法通過數值計算來優化。但既然我們已經將 LLM 用作自然語言空間中的通用近似函數去近似模型函數，而的優化器也是一個函數，我們為何不也用 LLM 去近似它？因此，言語化的優化函數可寫作

其中為一個數量為的批次的訓練數據和模型預測結果，為優化函數的參數（同為自然語言）。

圖 1：VML 的訓練算法。

圖 2：VML 中模型和優化器的自然語言模版樣例。

圖 1 顯示了 VML 的完整算法。可以看見其跟傳統機器學習算法基本相同，唯一的區別是數據和參數是在自然語言空間里的字符串，以及模型和優化器都是通過 LLM 在自然語言空間中進行推理。圖 2 為回歸任務中模型和優化器的具體模板樣例。

跟傳統機器學習比，VML 的優勢包括：（1）用自然語言簡單的描述就可以對模型加入歸納偏置 (inductive bias)；（2）由于不需要預設模型的函數族 (function family)，優化器可以在訓練過程中自動對模型的函數族進行選擇；（3）優化函數對模型參數的每一步更新都會提供自然語言的解釋，同時模型的描述和推理也是自然語言且可解釋的。

實驗展示

多項式回歸

如圖 3 所示，模型的初始參數為線性回歸的定義。在第一步優化時，優化器說它發現比有更大的值域，且它們似乎存在正相關性，所以它決定將模型更新為簡單的線性回歸模型。

在第二步優化時，優化器說當前模型的不良表現讓它意識到線性模型的假設過于簡單了，同時它發現和之間存在非線性關系，因此它決定將模型更新為二次函數。

第三步優化時，優化器的關注點從函數族選擇轉換成二次函數的參數修改。最終模型學到了真實函數很接近的結果。

圖 3: VML 在多項式回歸任務中的訓練過程記錄。

非線性二維平面分類

如圖 4 所示，模型的初始參數為二維平面二分類的定義，同時用了一句話「決策邊界是個圓」加入歸納偏置。在第一步優化中，優化器說它基于提供的先驗，將模型更新為了一個圓方程。接下來的優化步驟中，優化器都在根據訓練數據調整圓方程的圓心和半徑。直到第四十一步，優化器說當前模型似乎擬合得很好了，于是停止了對模型的更新。