零一萬物發布API開放平臺
3月14日,零一萬物正式發布 Yi 大模型 API 開放平臺,為開發者提供通用 Chat、200k 超長上下文、多模態交互等模型。
同時,零一萬物表示,近期零一萬物將為開發者提供更多更強模型和 AI 開發框架。主要亮點包括:
- 推出一系列的模型 API,覆蓋更大的參數量、更強的多模態,更專業的代碼/數學推理模型等。
- 突破更長的上下文,目標 100萬 tokens;支持更快的推理速度,顯著降低推理成本。
- 基于超長上下文能力,構建向量數據庫、RAG、Agent 架構在內的全新開發者 AI 框架。旨在提供更加豐富和靈活的開發工具,以適應多樣化的應用場景。
Yi 系列模型 API
此次 API 開放平臺提供以下新版模型:
- ? Yi-34B-Chat-0205:支持通用聊天、問答、對話、寫作、翻譯等功能。
- ? Yi-34B-Chat-200K:200K 上下文,多文檔閱讀理解、超長知識庫構建小能手。
- ? Yi-VL-Plus: 多模態模型,支持文本、視覺多模態輸入,中文圖表體驗超過 GPT-4V。
API 相關亮點介紹
1.200k 模型支持輸入 30 萬漢字
- 加速大模型應用進入“長文本時代”。200K 支持處理約 30 萬個中英文字符,可以輕松處理整本《哈利?波特與魔法石》小說。適合用于多篇文檔內容理解、海量數據分析挖掘和跨領域知識融合等,為各行各業提供了極大的便利。例如,金融分析師可以用它快速閱讀報告并預測市場趨勢、律師可以用它精準解讀法律條文、科研人員可以用它高效提取論文要點、文學愛好者可以用它快速掌握作品精髓等,應用場景非常廣泛。
- 大海撈針評測升至99.8%。“大海撈針”測試的設計是:將一個目標句子(針)放進一個隨機文檔語料庫(大海),然后提出一個只能使用“針”(目標句子)中的信息才能回答的問題來測試模型的回憶能力。在“大海撈針”測試中,Yi-34B-Chat-200K的性能提高了10.5%,從89.3%提升到99.8%。
2.Yi-VL-Plus 多模態模型
零一萬物開發的多模態模型 Yi-VL-Plus,可支持文本、視覺多模態輸入,面向實際應用場景大幅增強:
- 增強Charts, Table, Inforgraphics, Screenshot 識別能力,支持復雜圖表理解、信息提取、問答以及推理。中文圖表體驗超過GPT4V。
- 在 Yi-VL 基礎上進一步提高了圖片分辨率,模型支持 1024*1024 分辨率輸入,顯著提高生產力場景中的文字、數字 OCR 的準確性。
- 保持了 LLM 通用語言、知識、推理、指令跟隨等能力。
圖說:在中文圖表識別功能評測中,Yi-VL-Plus模型能準確識別圖表對應數據,而 GPT-4V則識別錯3處數據。
圖說:Yi-VL-Plus模型在一些中文圖表理解場景,比GPT-4V準確率更高
3.推理速度快
- 為了提升 API 性能,我們在 API 側進行了推理優化,因此 Yi-34B-Chat 系列 API 具備較快的推理速度,這不僅縮短了處理時間,同時也保持了出色的模型效果。此外,優化的 API 接口顯著降低了模型回復的延遲,進一步提高了用戶體驗的流暢性和響應速度。
4.兼容 OpenAI API
- Yi 大模型 API 與 OpenAI API 完全兼容,你只需修改少量代碼,可以平滑遷移,即刻享受 Yi 大模型的超凡魅力。
200k + 多模態模型例子
- Yi-34B-Chat 200K + 多模態模型解讀 Yi-tech-report 論文
- Yi-34B-Chat-200K 對經典文學作品《呼嘯山莊》進行復雜角色和角色關系的歸納總結
該小說篇幅龐大(中文字數約 30 萬字),且人物關系錯綜復雜,但它仍能精準地梳理和總結出人物之間的關系,展示了它在處理超長上下文時出色的復雜內容理解和分析能力。
零一萬物大模型開放平臺發布,新用戶免費贈送60元
- ? 在全球多項權威評測榜單中,Yi 大模型表現優異,性能直追 GPT-4。此前,Yi 大模型 API 小范圍開放內測,全球已有不少開發者申請使用,并普遍反饋效果超出預期,且對 Yi-34B-Chat-200K API 有強烈需求。Yi-VL-Plus 多模態模型中文效果超過 GPT-4V。因此,我們也不斷加大研發力度,終于在今天推出了大家期待已久的 API!??
- ? 目前,Yi 大模型 API 名額限量開放中,新用戶贈送60元。 ??
零一萬物希望與有創造力的你并肩作戰,助力你加速開發 AI 2.0 應用生態,一同探索 LLM 的廣闊應用場景。
API 邀測公號文章
零一萬物API可以適用于哪些2B/2C場景
- 【2C】使用Yi Chat模型構建智能對話助手(類似ChatGPT)
- 【2C】使用Yi多模態模型,識別圖片中存在的表格,文字,并進行深層次的問答。(此次3.14發布版本新增加的模型)
- 【2B】將Yi系列模型整合到現有產品,實現類Copilot工具
- 【2B】使用Yi超長上下文模型構建知識庫問答,用于客服、培訓等特定知識的問答場景