火山引擎總裁 譚待

企業(yè)要做好大模型落地，面臨模型效果、推理成本、落地難度的三大關(guān)鍵挑戰(zhàn)：既要有好的基礎(chǔ)大模型做支撐，解決復(fù)雜難題，也要有低成本的推理服務(wù)讓大模型被廣泛應(yīng)用，還要更多工具、平臺和應(yīng)用幫助企業(yè)做好場景落地。

——譚待  火山引擎總裁

01.

 豆包大模型首次亮相 

 大使用量打磨好模型 

模型效果是 AI 落地最關(guān)鍵的挑戰(zhàn)。譚待指出，只有大的使用量，才能打磨出好模型。目前，豆包大模型日均處理1,200億 tokens 文本、生成3,000萬張圖片。

為助力企業(yè)做好大模型場景落地，字節(jié)跳動自主研發(fā)的豆包大模型將通過火山引擎正式對外提供服務(wù)，企業(yè)可根據(jù)自身業(yè)務(wù)場景需求靈活選擇、快速落地：

• 豆包通用模型pro：字節(jié)跳動自研LLM模型專業(yè)版，支持 128k 長文本，全系列可精調(diào)，具備更強(qiáng)的理解、生成、邏輯等綜合能力，適配問答、總結(jié)、創(chuàng)作、分類等豐富場景；
• 豆包通用模型lite：字節(jié)跳動自研LLM模型輕量版，對比專業(yè)版提供更低 token 成本、更低延遲，為企業(yè)提供靈活經(jīng)濟(jì)的模型選擇；
• 豆包·角色扮演模型：個性化的角色創(chuàng)作能力，更強(qiáng)的上下文感知和劇情推動能力，滿足靈活的角色扮演需求；
• 豆包·語音合成模型：提供自然生動的語音合成能力，善于表達(dá)多種情緒，演繹多種場景；
• 豆包·聲音復(fù)刻模型：5秒即可實現(xiàn)聲音1:1克隆，對音色相似度和自然度進(jìn)行高度還原，支持聲音的跨語種遷移；
• 豆包·語音識別模型：更高的準(zhǔn)確率及靈敏度，更低的語音識別延遲，支持多語種的正確識別；
• 豆包·文生圖模型：更精準(zhǔn)的文字理解能力，圖文匹配更準(zhǔn)確，畫面效果更優(yōu)美，擅長對中國文化元素的創(chuàng)作；
• 豆包·Function call模型：提供更加準(zhǔn)確的功能識別和參數(shù)抽取能力，適合復(fù)雜工具調(diào)用的場景；
• 豆包·向量化模型：聚焦向量檢索的使用場景，為 LLM 知識庫提供核心理解能力，支持多語言。

譚待介紹，早在去年，豆包大模型（原名：云雀）就在字節(jié)跳動內(nèi)部完成了上線，也是首批通過大模型服務(wù)安全備案的大模型之一。字節(jié)跳動內(nèi)部50多個業(yè)務(wù)已經(jīng)大量使用豆包大模型進(jìn)行 AI 創(chuàng)新，包括抖音、頭條等數(shù)億 DAU 產(chǎn)品。基于豆包大模型同名打造的豆包 APP，在蘋果 APP Store 和各大安卓應(yīng)用市場，豆包 APP 的下載量在 AIGC 類應(yīng)用中排名第一*。

*數(shù)據(jù)來源：QuestMobile

字節(jié)跳動產(chǎn)品和戰(zhàn)略副總裁 朱駿

字節(jié)跳動產(chǎn)品和戰(zhàn)略副總裁朱駿介紹了字節(jié)跳動基于豆包大模型打造 AI 原生應(yīng)用的產(chǎn)品理念。他表示，技術(shù)在快速演化，但用戶核心的需求沒有改變，比如高效獲取信息的需求、工作提效的需求、自我表達(dá)的需求、社交娛樂的需求等。字節(jié)跳動做了很多學(xué)習(xí)和探索，希望找到適合的大模型應(yīng)用形態(tài)，以自然的交互形式服務(wù)用戶，走入更多人的生活和工作。

豆包 APP 是字節(jié)跳動重點投入的大模型應(yīng)用，據(jù)朱駿透露，豆包平臺月度活躍用戶達(dá)到2,600萬，已有超過800萬個智能體被創(chuàng)建。

豆包大模型在服務(wù)字節(jié)內(nèi)部的同時，也在與火山引擎的眾多企業(yè)客戶合作共創(chuàng)。譚待認(rèn)為，企業(yè)在不同業(yè)務(wù)場景中，需要不同特點的模型，從而實現(xiàn)最佳效果和性價比。為此，豆包大模型提供的是一個多模態(tài)模型家族，企業(yè)可根據(jù)自身業(yè)務(wù)場景需求靈活選擇，實現(xiàn)模型使用及成本控制的正循環(huán)。

02.

 人人用得起 

 才是好模型 

譚待認(rèn)為，降低成本是推動大模型快進(jìn)到“價值創(chuàng)造階段”的一個關(guān)鍵因素。豆包主力模型在企業(yè)市場的定價只有0.0008元/千 tokens，0.8厘就能處理1,500多個漢字，比行業(yè)便宜99.3%。

以豆包通用模型pro-32k 版為例，模型推理輸入價格僅為0.0008元/千 tokens。而市面上同規(guī)格模型的定價一般為0.12元/千 tokens，是豆包模型價格的150倍。大模型價格，進(jìn)入“厘時代”。

譚待表示，大模型“卷”價格，將助力企業(yè)以更低成本加速業(yè)務(wù)創(chuàng)新。

03.

 方舟2.0升級 

 推進(jìn)大模型價值創(chuàng)造 

去年，火山引擎發(fā)布了一站式大模型服務(wù)平臺火山方舟，希望通過模型即服務(wù)的理念，幫助企業(yè)在高效、安全的環(huán)境里應(yīng)用各類模型。今年，火山引擎對方舟平臺進(jìn)行了全面升級，升級后的火山方舟2.0將大幅提升模型效果、核心插件、系統(tǒng)性能以及平臺體驗，幫助企業(yè)推進(jìn)大模型的價值創(chuàng)造。

在插件和工具鏈上，方舟2.0升級了聯(lián)網(wǎng)插件，提供頭條抖音同款搜索能力，實時連接海量優(yōu)質(zhì)數(shù)據(jù)，同時使用文本、圖像、語音等多模態(tài)交互方式，并通過業(yè)內(nèi)領(lǐng)先的意圖識別能力，大幅提升模型的信息獲取能力；升級內(nèi)容插件，提供頭條抖音同源海量內(nèi)容，支持多模態(tài)交互，提供基于意圖的垂類內(nèi)容信息檢索，內(nèi)容時效檢索更強(qiáng)，幫助大模型深入理解、檢索和生成內(nèi)容；升級知識庫插件，提供毫秒級百億規(guī)模的高性能檢索，秒級流式知識庫索引更新，內(nèi)嵌豆包向量化模型，提高搜索的相關(guān)性和準(zhǔn)確性。

除以上核心插件升級之外，火山方舟2.0也全面升級了系統(tǒng)承載能力、安全防護(hù)能力和算法服務(wù)能力。在系統(tǒng)承載力上，提供充沛的 GPU 算力資源，分鐘級千卡擴(kuò)縮容的超強(qiáng)彈性，保障業(yè)務(wù)穩(wěn)定和成本可控；在安全防護(hù)上，通過安全沙箱構(gòu)建可信的執(zhí)行環(huán)境，多維度的安全架構(gòu)，保障數(shù)據(jù)安全；此外，火山引擎提供專業(yè)的算法團(tuán)隊服務(wù)，幫助客戶釋放獨有數(shù)據(jù)價值，讓企業(yè)大模型應(yīng)用輕松落地。

扣子產(chǎn)品經(jīng)理 潘宇揚

除了好的模型效果、便捷的插件、強(qiáng)勁的系統(tǒng)性能，還需要提供簡單易用開發(fā)平臺，才能讓所有人都能成為 AI 應(yīng)用的開發(fā)者。扣子產(chǎn)品經(jīng)理潘宇揚介紹，扣子（coze）作為字節(jié)跳動推出的新一代 AI 應(yīng)用開發(fā)平臺，具備低門檻、個性化、實時性、多模態(tài)等優(yōu)勢，并集合海量的 AI 資源、豐富的發(fā)布渠道、一鍵自定義 API 服務(wù)，幫助填補(bǔ)大模型到用戶場景的最后一公里。

火山引擎正式發(fā)布了扣子專業(yè)版。扣子專業(yè)版在扣子可視化靈活編排智能體的能力基礎(chǔ)上，進(jìn)一步提供企業(yè)級 SLA 和多種高級特性，使 AI 應(yīng)用更易落地，讓企業(yè)更專注于通過智能體創(chuàng)新，驅(qū)動業(yè)務(wù)增長。

譚待表示，火山引擎致力于成為 AI 時代最開放和領(lǐng)先的云服務(wù)平臺。全新升級的火山方舟2.0將通過更強(qiáng)性能、更優(yōu)插件、更好服務(wù)以及安全可信方案，助力大模型應(yīng)用落地。

04.

 廣泛落地實踐 

 多行業(yè)結(jié)出碩果 

豆包大模型和火山方舟2.0目前已經(jīng)在金融、汽車、智能終端、電商零售、教育科研等多個行業(yè)實踐落地。招商銀行、海底撈火鍋、超級猩猩、攜程旅游、飛常準(zhǔn)、獵聘等企業(yè)也已經(jīng)在扣子上搭建了智能體。復(fù)旦大學(xué)、浙江大學(xué)等名校也為課程和實驗搭建了 “AI 助教”。

招商銀行數(shù)字金融發(fā)展辦公室主任 高旭磊

作為金融行業(yè) AI 轉(zhuǎn)型的踐行者，招商銀行正在智能外呼、數(shù)字人、智能數(shù)據(jù)助理等上百個 AI 服務(wù)場景探索和投入。招商銀行數(shù)字金融發(fā)展辦公室主任高旭磊表示，大模型將為銀行全鏈條業(yè)務(wù)帶來改造和升級。攜手火山引擎，雙方將共建大模型應(yīng)用場景及高性能基礎(chǔ)設(shè)施，改造現(xiàn)有系統(tǒng)和產(chǎn)品，催生大量以 AI 為核心的智能體應(yīng)用。

蒙牛集團(tuán)副總裁、首席數(shù)智官 李琤潔

蒙牛集團(tuán)副總裁、集團(tuán)首席數(shù)智官李琤潔從生產(chǎn)工具進(jìn)化、生產(chǎn)方式進(jìn)化、組織方式進(jìn)化的三個方面介紹了蒙牛集團(tuán)的數(shù)智化歷程。蒙牛集團(tuán)正與火山引擎合作夯實技術(shù)底座，并構(gòu)建了 AI 營養(yǎng)專家、AI 育嬰師、AI 數(shù)據(jù)分析師、產(chǎn)品創(chuàng)新助手、熱點創(chuàng)意助手等智能體矩陣，提升前端消費者體驗，助力后端運營人員決策。

智能終端大模型聯(lián)盟發(fā)布

會上，火山引擎與 OPPO、vivo、榮耀、小米、三星、華碩宣布成立智能終端大模型聯(lián)盟。OPPO 小布助手、榮耀 MagicBook 的 YOYO 助理、小米“小愛同學(xué)”、華碩筆記本電腦的豆叮 AI 助手等應(yīng)用，均已接入火山引擎的大模型服務(wù)。

汽車大模型生態(tài)聯(lián)盟發(fā)布

同時，火山引擎聯(lián)合中國電動汽車百人會與吉利汽車、長城汽車、捷途汽車、賽力斯、智己汽車等20余家廠商，宣布成立汽車大模型生態(tài)聯(lián)盟，致力于探索新一代人車交互新形態(tài)，提升汽車全場景 AI 新體驗。

兩大聯(lián)盟企業(yè) OPPO 和捷途汽車也分別就自身的大模型實踐進(jìn)行了分享：

OPPO 智能助理部部長、小布助手首席架構(gòu)師 萬玉龍

OPPO 智能助理部部長，小布助手首席架構(gòu)師萬玉龍分享了 OPPO AI 手機(jī)的大模型應(yīng)用實踐，他表示，目前小布助手已經(jīng)覆蓋3.5億終端設(shè)備，月活躍用戶數(shù)超1.5億。在火山方舟上，OPPO 通過意圖識別大模型、聯(lián)網(wǎng)總結(jié)大模型、個性化人物大模型和豆包大模型構(gòu)建了通用問答、伶俐小妹、面試官等智能體，為終端用戶帶來了全新的 AI 體驗。

捷途汽車數(shù)字化負(fù)責(zé)人 劉航

捷途汽車數(shù)字化負(fù)責(zé)人劉航表示，捷途汽車希望通過大模型擴(kuò)大自身服務(wù)能力、洞察用戶真實需求，進(jìn)而提升銷售效率和能力。攜手火山引擎，雙方圍繞客服場景進(jìn)行了共創(chuàng)，所打造的智慧客服 AI 小捷，在節(jié)省人力的同時，還能幫助客服人員快速獲取信息，服務(wù)客戶。未來，捷途汽車還希望通過大模型進(jìn)一步實現(xiàn)座艙、決策、營銷的智能化升級。

05.

 多款 AI 應(yīng)用發(fā)布 

 快速落地開箱即用 

除大模型服務(wù)平臺以外，AI 應(yīng)用也是火山引擎全棧 AI 服務(wù)的關(guān)鍵組成。

去年，火山引擎提出了企業(yè)數(shù)智化升級新模式——數(shù)據(jù)飛輪，該模式以數(shù)據(jù)消費為核心驅(qū)動力，使企業(yè)數(shù)據(jù)流充分融入業(yè)務(wù)流，實現(xiàn)數(shù)據(jù)資產(chǎn)和業(yè)務(wù)應(yīng)用的飛輪效應(yīng)。為了讓企業(yè)數(shù)據(jù)消費更普惠、更便捷，火山引擎智能數(shù)據(jù)洞察 DataWind 正式發(fā)布 AI 助手 ChatBI，用戶可通過自然語言交互生成指標(biāo)，用于圖表制作、數(shù)據(jù)查詢，還可進(jìn)行深度數(shù)據(jù)分析，且 ChatBI 支持 IM 交互，可多端應(yīng)用，隨時隨地自助分析，這將大幅降低數(shù)據(jù)消費門檻，提升讀數(shù)、用數(shù)效率，為數(shù)據(jù)飛輪加速運轉(zhuǎn)提供動力。

面向營銷場景，火山引擎進(jìn)行了智能創(chuàng)作云2.0的升級，成為從內(nèi)容創(chuàng)作、矩陣分發(fā)、廣告投放到數(shù)據(jù)洞察一站式的企業(yè)內(nèi)容營銷增長方案；不僅提供多模態(tài)的理解與生成能力，助力視頻創(chuàng)作效率提升25倍，更上線抖音話題、POI、小程序等營銷工具，使門店頁面曝光提升600%。目前已經(jīng)有3,000+企業(yè)在火山引擎開啟 AIGC 視頻營銷增長。

面向銷售場景，火山引擎發(fā)布了銷售 AI 助手 Sales Copilot，能夠高效跟進(jìn)客戶需求，隨時輔助銷售解答復(fù)雜的產(chǎn)品問題。此外，它還能通過角色扮演的方式模擬不同風(fēng)格的對客演練，并提供優(yōu)秀話術(shù)學(xué)習(xí)，提升銷售溝通質(zhì)量。

火山引擎一直致力于構(gòu)建開放共享的生態(tài)理念，自2021年發(fā)布萬有計劃以來，已經(jīng)幫助100+家 SaaS 企業(yè)實現(xiàn)了業(yè)務(wù)增長，實現(xiàn)近萬單客戶簽約。豆包企服聯(lián)盟，是萬有計劃針對大模型落地的專項計劃。萬有計劃·豆包企服聯(lián)盟將提供一攬子支持規(guī)劃，幫助 SaaS 企業(yè)實現(xiàn) AI 升級，為行業(yè)客戶提供更多開箱即用的 AI 應(yīng)用。

06.

 AI 基礎(chǔ)設(shè)施再升維 

 云端算力可靠保障 

大模型時代，集群管理復(fù)雜度、網(wǎng)絡(luò)性能、穩(wěn)定性是云基礎(chǔ)的關(guān)鍵挑戰(zhàn)。為應(yīng)對上述挑戰(zhàn)，火山引擎基于內(nèi)外共池的資源規(guī)模優(yōu)勢和內(nèi)部實踐，圍繞大集群建設(shè)、管理、性能優(yōu)化、穩(wěn)定性保障提供了一套業(yè)界領(lǐng)先的解決方案。

NVIDIA 解決方案和工程副總裁 賴俊杰

會上，火山引擎正式發(fā)布 veOmniverse，基于 NVIDIA Omniverse 為企業(yè)、開發(fā)者提供全新的云上開發(fā)平臺，助力企業(yè)與開發(fā)者在互聯(lián)的虛擬世界中，圍繞工作流程展開高效的設(shè)計和協(xié)作，探索和打造智能逼真的虛擬世界。

除為客戶提供高穩(wěn)定性和高性能的云基礎(chǔ)設(shè)施外，面對本地部署需求，火山引擎也全新發(fā)布了混合云 veStack 智算版，具有萬卡集群組網(wǎng)，3.2T 高性能無損網(wǎng)絡(luò)的超大規(guī)模優(yōu)勢；端到端工程化所支撐的極致性能，能夠?qū)崿F(xiàn)97.78%訓(xùn)練加速比和分鐘級故障發(fā)現(xiàn)和自愈；擁有多元異構(gòu)能力，可適配十余種 GPU，支持主流國產(chǎn)化 GPU。

完整的 AI 應(yīng)用除 GPU 負(fù)責(zé)的密集計算外，存量 CPU 負(fù)載也需要持續(xù)降本增效，保障業(yè)務(wù)輕裝上陣，加速創(chuàng)新。從計算、存儲、網(wǎng)絡(luò)、運維4個層面，火山引擎全力支持客戶云上業(yè)務(wù)穩(wěn)定運營。

End

從技術(shù)創(chuàng)新到商業(yè)落地，大模型已經(jīng)為各行業(yè)的 AI 轉(zhuǎn)型提供了強(qiáng)大的動能。火山引擎基于字節(jié)跳動在大模型領(lǐng)域的實踐沉淀，通過大使用量打磨出好模型，以技術(shù)驅(qū)動的極致性價比讓大模型人人用得起，通過各行業(yè)豐富的落地經(jīng)驗與算法服務(wù)陪伴客戶一起成長。未來，火山引擎全棧 AI 服務(wù)將持續(xù)助力企業(yè) AI 轉(zhuǎn)型落地，激發(fā)業(yè)務(wù)增長潛能。