OpenAI開放GPT-3微調功能,一行命令就能實現!正確率最高提升四倍
本文經AI新媒體量子位(公眾號ID:QbitAI)授權轉載,轉載請聯系出處。
OpenAI剛剛宣布,允許用戶創建自定義版的GPT-3。
而且步驟非常簡單,只需一行命令就能實現!

經過微調(fine-tuned),定制版的GPT-3在不同應用中的提升非常明顯。
OpenAI表示,它可以讓不同應用的準確度能直接從83%提升到95%、錯誤率可降低50%。
解小學數學題目的正確率也能提高2-4倍。

這樣一來,踩在巨人的肩膀上、直接在1750億參數的大模型上微調,不少研發人員都可以不用再重頭訓練自己的AI模型了。
這讓網友們大呼:
現在我能直接訓練我的聊天機器人了,這可節省太多時間和費用了!

比如這個稅收應用——Keeper Tax。
顯然,在把GPT-3開放給更多人用這件事上,OpenAI真的是不遺余力。
微調好處多
微調好處多,這一點OpenAI早有證明。
今年6月,他們就曾只用80個文本的數據集進行訓練,讓GPT-3說話的危險性大幅降低,而且表達也更有人情味。
(下圖中藍線表示訓練后模型,紅線表示基礎模型,分數越高意味著表現越好)

事實上,已經有不少應用已經用上了定制版的GPT-3,并且表現都不錯。
比如這個稅收應用——Keeper Tax。
它能通過定制版的GPT-3來識別賬單上的各種數據,以幫助用戶找到可以免稅的費用。
Keeper Tax表示,在用上微調后的GPT-3后,應用識別的準確率每周都會提高約1%,準確率已經從過去的85%提升到了93%。

再來看這個人工智能檢索工具——Elicit。
它可以根據用戶搜索的問題來智能給出結果。
在用上定制版GPT-3后,Elicit給出的結果在易懂性上提高了24%、準確性上提高了17%、整體方面則提升了33%。

還有這個可智能讀取用戶評論的應用——Viable。
它能夠從大量評論中讀取用戶的重要建議,比如投訴、疑問等。
定制化GPT-3使該應用在識別用戶反饋的準確率上從66%提升到了90%。

事實上,不只是準確率上的提升。
在輸出結果的用時、多樣性上,定制化GPT-3都有著更明顯的優勢。
如何食用?
OpenAI表示,想要微調GPT-3大致需要3個步驟:
準備和上傳訓練數據;訓練微調模型;最后使用。
其中,訓練數據必須是JSONL文檔,這一步是讓GPT-3在哪方面表現突出的關鍵。
創建微調模型是在OpenAI CLI上進行,步驟也很簡單,只需上傳數據文件、創建微調作業、再等待幾分鐘或幾小時等待作業完成。
最后,使用微調模型時,只需將命令行中fine_tuned_model字段換成模型名稱即可。

具體步驟OpenAI已在官方網頁上給出,可參看文末鏈接2。
當然,想要用更加強大的GPT-3,所需費用也會有些提升。
微調后模型每1K token的費用,將比基礎版高出50%。
OpenAI技術人員在采訪時表示:“我們開發此功能時,希望能夠讓沒有AI研究背景的人也能使用它。
不少網友也紛紛留言表示,自己用GPT-3寫出了很多有意思的應用。
比如有人就寫了一個睡眠播客,可以講童話故事的那種:
