OpenAI突發(fā)新模型，GPT-3.5退役，大模型成本2年驟降99%

作者：量子位 2024-07-19 09:26:12

人工智能新聞

CEO奧特曼表示，僅僅兩年前，世界上最好的模型還是GPT-3的text-davinci-003版本。

OpenAI突發(fā)新模型，全面取代老去的GPT-3.5。

GPT-4o mini，能力接近原版GPT-4，價(jià)格卻要便宜一個(gè)數(shù)量級(jí)：

每百萬輸入tokens，15美分（約1.09元人民幣）
每百萬輸出tokens，60美分（約4.36元人民幣）

在ChatGPT應(yīng)用中，GPT-3.5已經(jīng)完全退役，免費(fèi)用戶已可使用GPT-4o mini模型。

對(duì)應(yīng)的API也已經(jīng)開放，支持128k輸入tokens（圖像和文本），更令人矚目的是支持16k輸出tokens。

相比之下，隔壁Claude 3.5 Sonnet幾天前剛剛升級(jí)8k輸出tokens。

以其低成本和低延遲特性，官方推薦用于多種場(chǎng)景：

鏈?zhǔn)交虿⑿谢鄠€(gè)模型調(diào)用
將大量上下文輸入給模型（如完整的代碼庫(kù)或?qū)υ挌v史記錄）
或通過快速、實(shí)時(shí)的文本響應(yīng)交互（如客服）

在未來幾天內(nèi)，將開放GPT-4o mini微調(diào)。

CEO奧特曼表示，僅僅兩年前，世界上最好的模型還是GPT-3的text-davinci-003版本。

與今天相比表現(xiàn)差得多，還要貴上100倍。

或者換另一個(gè)說法，大模型成本在兩年內(nèi)下降了99%。

GPT-4級(jí)別小模型，便宜一個(gè)數(shù)量級(jí)

ChatGPT首發(fā)震撼世界，原版GPT-3.5模型功不可沒。

但盡管經(jīng)過一系列升級(jí)降價(jià)，系列最新型號(hào)GPT-3.5 Turbo也漸漸落后了。

競(jìng)爭(zhēng)對(duì)手新出的小模型，以Anthropic的Claude 3 Haiku和谷歌Gemini Flash為代表，開始搶占市場(chǎng)。

GPT-4o mini就是專門來找回場(chǎng)子的。

在多項(xiàng)文本和多模態(tài)推理學(xué)術(shù)基準(zhǔn)測(cè)試中，GPT-4o mini都超過了其他小模型。

特別是在數(shù)學(xué)（MGSM、MATH）和代碼能力（HumanEval）上優(yōu)勢(shì)明顯，與其他小模型拉開一個(gè)檔次，只比GPT-4o完整版稍弱。

此外，它還在函數(shù)調(diào)用方面表現(xiàn)出強(qiáng)大的性能。

價(jià)格方面，也比Claude 3 Haiku和Gemini Flash要更便宜40%-60%。

作為模型開發(fā)的一部分，OpenAI與Ramp和Superhuman等公司合作，已將GPT-4o mini用于實(shí)際應(yīng)用，在“從文件中提取結(jié)構(gòu)化數(shù)據(jù)”和“對(duì)郵件通信記錄生成高質(zhì)量回復(fù)”等任務(wù)明顯優(yōu)GPT于 -3.5 Turbo。

此外幾周之前，新模型還化名GPT-mini登上大模型競(jìng)技場(chǎng)供廣大網(wǎng)友測(cè)試檢驗(yàn)。

目前收集到6000+用戶投票，與GPT-4 Turbo表現(xiàn)相當(dāng)。