霸榜數(shù)天的神秘文生圖模型 Mogao，什么來頭？

這兩天，不少業(yè)內(nèi)人已在詢問「這個魔法般模型」的出處。

有人對模型效果頗為認可，好奇如何體驗。

神秘模型 Mogao 的橫空出世，始于近期它在盲測打分的 Artificial Analysis 文生圖排行榜上迅速躥升，一度排名第一，位列 GPT-4o、Recraft V3、Imagen 3、Midjourney v6.1 等模型之前。

從社交媒體也能看到，網(wǎng)友對該模型近乎一水的好評。

昨晚，Mogao 的神秘面紗終于被揭下。

它背后是圖像生成基礎(chǔ)模型 Seedream 3.0，來自字節(jié)跳動 Seed 團隊。

在 Artificial Analysis 文生圖榜單上，除了拿下總榜第一，Seedream 3.0 在真實、圖形設(shè)計與數(shù)字渲染、動漫、卡通與插圖、復(fù)古風(fēng)、傳統(tǒng)藝術(shù)等不同風(fēng)格，以及文字、商務(wù)、人像、自然、幻想等不同維度均表現(xiàn)領(lǐng)先。

圖片從左至右展示了在真實感、動漫、人像這三個細分項上的前 10 名。

尤其海報設(shè)計方面，Seedream 3.0 表現(xiàn)尤為突出，不僅小字崩壞率低，輸出圖像的設(shè)計感也很強。

眾所周知，Seedream 3.0 已于 4 月初在字節(jié)自家的即夢和豆包平臺上線，其在文字生成和排版上的出色能力備受關(guān)注。

而就在今天，字節(jié)跳動 Seed 團隊也對外發(fā)布了 Seedream 3.0 技術(shù)報告，詳細披露了模型的性能表現(xiàn)和技術(shù)細節(jié)。

機器之心帶大家一睹為快。

• 技術(shù)報告：https://team.doubao.com/zh/tech/seedream3_0
• arXiv：https://arxiv.org/abs/2504.11346

定性定量評估俱佳，文生圖 SOTA 實至名歸

Seedream 3.0 不久前開放使用時，我們已經(jīng)專門體驗了一番，參閱《實測完 Seedream 3.0，我后悔大學(xué)選了設(shè)計專業(yè)……》。

總結(jié)起來，相比于市面上其它同類產(chǎn)品，Seedream 3.0 優(yōu)勢體現(xiàn)在 —— 速度與質(zhì)量兼?zhèn)洹⑽淖譁是颐馈⒃С?2K 圖像輸出三個方面。

根據(jù)官方披露的技術(shù)報告也能發(fā)現(xiàn)，模型在結(jié)構(gòu)、指令遵循、美感、人像、文本可用性等多個維度均表現(xiàn)突出。

綜合能力之外，團隊還強調(diào)了密集文本渲染和逼真人像生成兩方面能力。

具體來說，在生成結(jié)果中，Seedream 3.0 中文和英文字符的文本可用率均達到 94%，基本讓文本渲染不再成為圖像生成的掣肘。

除了可用率的整體提升之外，相比 2.0 版本，Seedream 3.0 渲染密集文本的能力也有重大提升，同時其小字符生成的準確率和文本布局的自然度也顯著明顯進步。

在人像真實感方面，團隊為評估模型表現(xiàn)，專門構(gòu)建了一個采用 Elo 競賽機制、包含 100 個提示的人像評估新基準，囊括表情、姿勢、角度、發(fā)質(zhì)、膚質(zhì)、服飾、配飾等人像生成的方方面面。

經(jīng)過超過 50000 輪的公開評估，Seedream 3.0 與 Midjourney V6.1 同處第一梯隊，相比其他模型優(yōu)勢明顯。

從示例可以看到，Seedream 3.0 能有效消除人像生成的「AI 感」，可生成帶有皺紋、絨毛和疤痕等真實特征的皮膚質(zhì)感，逼真度已基本接近專業(yè)攝影水平。

機器之心還在實際評測發(fā)現(xiàn)，Seedream 3.0 不需要像之前一樣執(zhí)行超分辨率操作，而是可以一鍵直出 2K 分辨率圖像。

對比其他模型，Seedream 3.0 也展現(xiàn)出極快的生成效率。

根據(jù)實測體驗，Seedream 3.0 基本十幾秒左右就能生成 4 張 2K 分辨率待選圖像，生成高清圖像（1K）時長更是短至數(shù)秒。相較之下，業(yè)界同類模型生成一張高清內(nèi)容的耗時基本在 10 秒以上，而效果較好的 GPT-4o 生成一張高清圖耗時往往超過 1 分鐘。

從數(shù)據(jù)過濾到后訓(xùn)練，大量底層技術(shù)升級

Seedream 3.0 究竟是如何煉成的？在技術(shù)報告中，我們看到了 Seed 研究團隊在數(shù)據(jù)、預(yù)訓(xùn)練和后訓(xùn)練上的多項工作。

數(shù)據(jù)準備階段

在數(shù)據(jù)上，因之前偏保守的數(shù)據(jù)過濾策略會極大限制可用數(shù)據(jù)集大小，團隊引入了一種全新的缺陷感知型訓(xùn)練范式。

該范式包含一個專門的缺陷檢測器，可通過邊界框預(yù)測精確定位缺陷區(qū)域。當(dāng)檢測到的缺陷總面積小于圖像空間的 20%（可配置閾值）時，就會選擇保留這些樣本（之前會被丟棄），同時使用掩碼隱含空間優(yōu)化。

團隊認為，這種創(chuàng)新方法的效果很好：在保證模型穩(wěn)定性的同時，將有效訓(xùn)練數(shù)據(jù)集擴展了 21.7%。

為了優(yōu)化數(shù)據(jù)分布，他們提出了一個雙軸協(xié)同數(shù)據(jù)采樣框架，可從視覺形態(tài)和語義分布兩個維度進行聯(lián)合優(yōu)化。

團隊還自主研發(fā)了一套跨模態(tài)檢索系統(tǒng)，進一步增強數(shù)據(jù)生態(tài)系統(tǒng)的協(xié)調(diào)性，針對圖像 - 文本對，建立了一個聯(lián)合嵌入空間。該系統(tǒng)在所有基準測試中均取得了最佳性能。

預(yù)訓(xùn)練階段

Seedream 3.0 的基本架構(gòu)設(shè)計繼承自 2.0 版，采用 MMDiT 來處理圖像和文本 token ，并捕捉兩種模態(tài)之間的關(guān)系。不過，在 Seedream 3.0 中，團隊增加了基礎(chǔ)模型的總參數(shù)，并引入了多項關(guān)鍵改進，提高了模型的可擴展性、泛化能力和視覺語言對齊能力，其中包括：

混合分辨率訓(xùn)練：每個訓(xùn)練階段中，不同寬高比和分辨率的圖像會被打包在一起，首先在平均分辨率為 2562 的圖像上預(yù)訓(xùn)練模型，然后在更高分辨率的圖像（從 5122 到 20482）上對其進行微調(diào)。Seed 團隊還采用了尺寸嵌入作為另一個條件，使模型能夠感知目標分辨率。

跨模態(tài) RoPE：Seedream 2.0 中的 Scaling RoPE 被擴展成了跨模態(tài) RoPE，從而進一步增強了視覺文本 token 的對齊效果和文本渲染精度。其中，文本 token 被視為形狀為 [1, L] 的二維 token，并對文本 token 應(yīng)用二維 RoPE。

后訓(xùn)練階段

Seedream 3.0 后訓(xùn)練流程則包含以下幾個階段：持續(xù)訓(xùn)練（CT）、監(jiān)督微調(diào)（SFT）、人工反饋對齊（RLHF）和提示工程（PE）。各階段效果對比如下圖所示。

為進一步提升美感，在新模型上，團隊專門訓(xùn)練了多個版本的描述模型。

這些模型能在審美、風(fēng)格、排版等專業(yè)領(lǐng)域提供精準的描述，確保 Seedream 3.0 能夠更有效地響應(yīng)相關(guān)提示，不僅增強了模型的可控性，也提升了提示工程后模型的性能。

另外在獎勵模型上，Seedream 3.0 使用了 VLM 作為獎勵建模框架，而不再是 CLIP，并提升了其參數(shù)量。

團隊借鑒語言模型中生成式 RM 經(jīng)驗，進行獎勵建模，依靠 LLM 原本的 Scaling 能力，提升獎勵準確性與魯棒性；此外，團隊還將獎勵模型參數(shù)量從 0.8B 拓展至 20B 以上。

推理加速相關(guān)工作

為促使 Seedream 3.0 擁有更高生成效率，團隊專門針對推理加速進行了優(yōu)化。

框架方面，模型采用了 Hyper-SD 和 RayFlow。這使得生成路徑得到了優(yōu)化，每個數(shù)據(jù)點會被引導(dǎo)至特定實例的目標分布，從而實現(xiàn)每個樣本的軌跡定制。這可顯著減少路徑碰撞，并提高生成穩(wěn)定性和樣本多樣性。

該團隊還引入一種重要性采樣機制來提升效率，其可以學(xué)習(xí)在訓(xùn)練過程中關(guān)注最關(guān)鍵的時間步。此外，Seedream 3.0 的框架也支持高效的少步數(shù)采樣，且不會影響生成質(zhì)量。

打榜一時超越 4o ，就比它更強？

看到這，相信不少人也會提問，Seedream 3.0 比起 GPT-4o 如何？打榜超過就一定強么？

在技術(shù)報告中，我們發(fā)現(xiàn)團隊專門對比了 Seedream 3.0 與 GPT-4o 的表現(xiàn)。需要強調(diào)的是，GPT-4o 本質(zhì)上是一款文本 + 圖像的多模態(tài)模型，而這里的對比僅限于圖像生成能力。不過，通過一些案例比較，該團隊也找到了這兩個模型各自的優(yōu)勢和短板。

例如密集文本渲染方面，團隊發(fā)現(xiàn) GPT-4o 在小英文字符的準確性和某些 LaTeX 符號的渲染方面表現(xiàn)出色。然而， GPT-4o 在渲染中文字體方面表現(xiàn)相對不足，相比之下，Seedream 3.0 可以輕松生成密集的中文文本，并且在排版和構(gòu)圖美感方面優(yōu)于 GPT-4o。

下圖給出了一些示例，其中上列來自 Seedream 3.0，下列來自 GPT-4o。

此外，團隊還系統(tǒng)性地對比了包括顏色、紋理、清晰度和美觀度在內(nèi)的生成質(zhì)量。

下圖展示了多組示例，每組圖像的左圖來自 Seedream 3.0，右圖來自 GPT-4o。

在生成質(zhì)量方面，Seedream 系列模型色彩更為飽滿，GPT-4o 生成圖像部分伴有噪點。

值得一提的是，在連續(xù)性圖片生成（比如：漫畫、流程圖）方面，GPT-4o 的能力依然讓人感到驚艷，這也是 Seedream 3.0 需要進一步提升之處。

文生圖開卷，全面落地時代已來

最近，文生圖模型又開始卷到飛起，字節(jié) Seedream 3.0 正式亮相的同時，僅在國內(nèi)，就有好幾家 Artificial Analysis 上榜模型同期發(fā)布。

從多模態(tài)對齊到高分辨率輸出，再到密集文字渲染與人像真實感優(yōu)化， Seedream 3.0、GPT-4o 等模型在這一波集體躍遷，MJ、Flux 等曾經(jīng)的明星模型被逐漸淡忘。而背后的技術(shù)演進、系統(tǒng)設(shè)計哲學(xué)與產(chǎn)品化思路，也將越來越多地決定 AI 在真實世界中的落地路徑與生態(tài)潛力。

一輪新競賽已經(jīng)悄然開場，這些新模型在吸引關(guān)注的同時，也有望催生出全新的創(chuàng)作范式。