Vercel 最近在 v0.dev 和 API 里都上了新的 AI 模型：v0-1.5-md、v0-1.5-lg 和 v0-1.0-md。

今天，他們把 v0 模型背后的"復(fù)合模型架構(gòu)"給扒了。

簡(jiǎn)單說(shuō)，這套架構(gòu)就是把 RAG (檢索增強(qiáng)生成) 的專(zhuān)業(yè)知識(shí)、SOTA 大模型的推理能力、再加上一個(gè)定制的流式后處理模型來(lái)修 bug，給縫合到了一起。

Vercel 說(shuō)，這么搞能讓 v0 生成代碼的質(zhì)量高出一大截。而且，以后基礎(chǔ)大模型升級(jí)了，他們也能快速換上最新的，其他部分保持穩(wěn)定。

?? v0 為啥要搞這么一套"復(fù)合模型架構(gòu)"？不直接用現(xiàn)成大模型嗎？

現(xiàn)在市面上的 AI 模型，基本就兩種：要么是頭部廠商的閉源大模型，要么是第三方托管的開(kāi)源模型。

Vercel 在做 v0 和 AI SDK 這些產(chǎn)品時(shí)發(fā)現(xiàn)，這兩種路子都有坑：

• 模型知識(shí)過(guò)時(shí)快：特別是對(duì)那些快速迭代的技術(shù)，大模型很快就跟不上了。
• 當(dāng)然以前也聊過(guò)一些解決方法：
  ???AI 寫(xiě)代碼總是翻車(chē)？Upstash 創(chuàng)始人怒推 Context7：給 LLM 喂上最新鮮的官方文檔。???
  ???DeepWiki MCP：免費(fèi)、遠(yuǎn)程、一行命令，Agent即刻擁有Github代碼庫(kù)知識(shí)！??
• 頭部廠商不care特定場(chǎng)景：人家沒(méi)那么多精力也沒(méi)那心思去專(zhuān)門(mén)優(yōu)化"寫(xiě) Web 應(yīng)用"這種具體場(chǎng)景。

v0 是專(zhuān)門(mén)搞快速、漂亮的全棧 Web 應(yīng)用的。這就得用上 React、Next.js 這些 不斷 進(jìn)化的框架。閉源大模型幾乎是一出來(lái)就落后于框架更新了。

開(kāi)源模型微調(diào)倒是靈活點(diǎn)，但目前來(lái)看，在 v0 關(guān)心的任務(wù)上 (尤其是帶多模態(tài)輸入的代碼生成)，閉源大模型還是吊打開(kāi)源模型。

而且，頭部大模型也沒(méi)啥動(dòng)力去專(zhuān)門(mén)優(yōu)化像"自動(dòng)修 bug"、"快速編輯代碼"這種 Web 應(yīng)用開(kāi)發(fā)特有的需求。結(jié)果就是，就算改個(gè)小地方，你也得把需求仔仔細(xì)細(xì)地喂給它。

Vercel 這套"復(fù)合模型架構(gòu)"，就是要把這些活兒從基礎(chǔ)模型里拆出來(lái)。

他們能把一個(gè) SOTA 基礎(chǔ)模型，跟專(zhuān)門(mén)的數(shù)據(jù)檢索、優(yōu)化的快速編輯流程、還有定制的 AutoFix 模型組合起來(lái)，提升輸出質(zhì)量。

這樣一來(lái)，就算基礎(chǔ)大模型換代了，他們也能無(wú)縫升級(jí)，不用把整個(gè)流程推倒重來(lái)。用戶(hù)通過(guò) API 用 v0 模型，實(shí)際上就是在用這整套流水線。

(v0 復(fù)合模型架構(gòu)圖)

?? v0 的"復(fù)合模型"具體咋工作的？

1. 預(yù)處理 (Pre-processing)

你給 v0 發(fā)消息后，它會(huì)先做好幾步準(zhǔn)備工作：

• 系統(tǒng)提示 (System Prompt)：定義 v0 的響應(yīng)格式和能力范圍。
• 上下文維護(hù)：把最近的聊天記錄帶上，保證對(duì)話連貫。老的聊天記錄會(huì)做個(gè)總結(jié)，優(yōu)化上下文窗口。
• RAG 檢索：根據(jù)你的問(wèn)題，從 Vercel 自己的數(shù)據(jù)集里撈相關(guān)信息 (文檔、UI 示例、你上傳的項(xiàng)目代碼、內(nèi)部知識(shí)庫(kù)等等) 來(lái)增強(qiáng)輸出。

2. SOTA 基礎(chǔ)模型 (State of the art base models)

新內(nèi)容生成或者大改動(dòng)，就靠基礎(chǔ)模型了。這一般是從當(dāng)前最頂尖的那波大模型里挑一個(gè)，具體用哪個(gè)看你選的 v0 模型型號(hào)。

小修小改，比如改文字、修語(yǔ)法錯(cuò)誤、調(diào)整組件順序，會(huì)交給專(zhuān)門(mén)優(yōu)化過(guò)速度的 Quick Edit 模型 處理。

因?yàn)槭菑?fù)合架構(gòu)，基礎(chǔ)模型可以隨時(shí)升級(jí)替換，整個(gè)流程不用重構(gòu)。比如，v0-1.0-md 現(xiàn)在用的是 Anthropic 的 Sonnet 3.7，而 v0-1.5-md 用的是 Sonnet 4。

3. 定制 AutoFix 模型 (Custom AutoFix model)

基礎(chǔ)模型輸出代碼的時(shí)候，v0 會(huì)實(shí)時(shí)檢查有沒(méi)有錯(cuò)誤、不一致或者不符合最佳實(shí)踐的地方。Vercel 定制的 AutoFix 模型 會(huì)在輸出過(guò)程中就把很多這類(lèi)問(wèn)題給修了，進(jìn)一步提升質(zhì)量。

等模型輸出完了，還會(huì)再過(guò)一遍，把之前沒(méi)發(fā)現(xiàn)的問(wèn)題也給逮出來(lái)。最后還會(huì)跑個(gè) linter，修復(fù)風(fēng)格不一致和小錯(cuò)誤。

?? v0 模型表現(xiàn)到底怎么樣？

Vercel 主要看模型生成代碼的出錯(cuò)率。他們搞了套針對(duì)常見(jiàn) Web 開(kāi)發(fā)任務(wù)的評(píng)估集，測(cè)下來(lái)，v0 模型比它們用的那些基礎(chǔ)模型出錯(cuò)率低得多。

                                           (模型錯(cuò)誤率對(duì)比)

v0-1.5-lg 雖然比 v0-1.5-md 模型更大，但有時(shí)候犯錯(cuò)會(huì)更多點(diǎn)，這是 AI 模型規(guī)?；Ｒ?jiàn)的取舍。

不過(guò)，雖然它倆錯(cuò)誤率差不多，但 Vercel 發(fā)現(xiàn) v0-1.5-lg 在處理一些超專(zhuān)業(yè)領(lǐng)域 (比如 three.js 里的物理引擎) 和多步驟任務(wù) (比如數(shù)據(jù)庫(kù)遷移) 時(shí)，推理能力更強(qiáng)。而且 v0-1.5-lg 支持的上下文窗口也大得多。

?? 訓(xùn)練自己的 AutoFix 模型

大模型都有些自己的小毛病，有的喜歡過(guò)度用 Markdown 格式化，有的會(huì)搞錯(cuò)文件位置或者引入一些隱蔽的 bug。Vercel 用一套全面的評(píng)估集，加上 v0.dev 用戶(hù)的反饋，來(lái)追蹤這些問(wèn)題，找到輸出需要改進(jìn)的地方。

所以他們搞了個(gè)流水線，把確定性規(guī)則和基于 AI 的修正結(jié)合起來(lái)，在生成過(guò)程中就修復(fù)常見(jiàn)錯(cuò)誤。早期這套流水線用的是 Gemini Flash 2.0。

為了速度和可靠性，他們跟 Fireworks AI 一起，用強(qiáng)化微調(diào) (RFT) 的方法，訓(xùn)練了自家的定制 AutoFix 模型：vercel-autofixer-01。經(jīng)過(guò)多輪迭代優(yōu)化，這個(gè)模型在各種錯(cuò)誤類(lèi)型上的出錯(cuò)率都降到了最低。

                                  (AutoFix 模型訓(xùn)練迭代過(guò)程中的性能優(yōu)化)

vercel-autofixer-01 的設(shè)計(jì)目標(biāo)就是快速修復(fù)錯(cuò)誤，同時(shí)降低整體出錯(cuò)率。在錯(cuò)誤發(fā)生率評(píng)估中，它的表現(xiàn)跟 gpt-4o-mini 和 gemini-2.5-flash 差不多，但速度快了 10 到 40 倍。

(AutoFix 模型與其他模型性能對(duì)比)

?? 下一步呢？

v0 模型家族現(xiàn)在可以通過(guò) API 和 v0.dev 使用。你可以把 v0 模型用到你喜歡的編輯器里，或者構(gòu)建自定義工作流。比如，用 v0 寫(xiě)自動(dòng)化代碼遷移腳本。

Vercel 表示，他們會(huì)繼續(xù)改進(jìn)模型輸出，未來(lái)幾個(gè)月還會(huì)發(fā)布新的模型類(lèi)別。

本文轉(zhuǎn)載自????AI進(jìn)修生????，作者：Aitrainee