國內首個!最火的MoE大模型APP來了,免費下載,人人可玩
MoE(混合專家)模型最近有多火,不用過多介紹了吧?
作為當下最頂尖、最前沿的大模型技術方向,MoE能在不增加推理成本的前提下,為大模型帶來性能激增。比如,在MoE的加持之下,GPT-4帶來的用戶體驗較之GPT-3.5有著革命性的飛升。
但普通用戶想要體驗MoE的神奇魅力,必須每個月交20美元申請賬號。
那么……有沒有免費的MoE讓我用用呢?
有!
超級無門檻、人人免費玩的MoE大模型來了!
昆侖萬維剛剛發布最新發布的天工2.0大模型,在千億參數規模基礎上采用和GPT-4同款的MoE混合專家結構,具備強大多模態能力,支持最高100K超長上下文窗口(超過15萬個漢字),應對復雜任務的能力更強,模型響應速度更快。
搭載天工2.0大模型的新版天工AI智能助手APP,現在就能在手機應用商店免費下載使用。
由此,天工AI智能助手也成為國內首個搭載MoE架構并面向全體C端用戶免費開放的AI應用。
先來看看效果:
上傳Excel,即可一鍵分析數據,并制作圖表。
女朋友生氣了不好哄,它也能幫你想到話術,還會提醒注意事項。
而且還會分析面相?AI奇怪の技能點增加了……
采用GPT-4同款架構
天工AI智能助手的升級,關鍵來自最新升級的天工2.0大模型。
它采用MoE(專家混合模型)架構,是GPT-4的同款,也被認為是GPT-4能力飛升的關鍵。
MoE是一個并行的前饋神經網絡,主要由門控模型/路由器(Gating Model/Router)和一組專家模型(Experts Models)構成,當數據輸入門控模型/路由器時,系統會根據任務類型將每個token分配給一個或多個專家模型,讓每個專家模型可以專注于處理該部分數據,從而提升模型整體性能。
△MoE架構示例(LIMoE)
業界猜測GPT-4可能包含1.76萬億個參數,包含16個專家模型,每個模型大約有1110億個參數。其中可能有Python專家、高級圖像解析專家、事實核查專家、安全和道德專家、情緒分析專家等。
這種精確的專家模型選擇和分工機制,讓大模型理解能力、靈活性、準確性、安全性都大幅提升,由此也成為最近一段時間以來幾乎最熱門的大模型趨勢,國內外大模型玩家都在紛紛跟進。
最新升級的天工大模型2.0也是采用了MoE架構。帶來的主要提升有三方面:
- 應對復雜任務能力更強
- 速度更快、效率更高
- 靈活多樣,可擴展性更強
應對復雜任務方面,天工2.0集成的多個專家模型都能夠針對不同的數據分布和構建模式進行搭建,提升大模型在各個細分領域的專業能力,然后再進一步整合各個專家模型的輸出結果,從而顯著提升復雜任務、多模態任務方面的表現。
同時,得益于MoE架構稀疏化的特點,模型在每次回答問題時只需激活對應部分的網絡,相較于同等參數規模的稠密模型,計算效率更高。
天工2.0呈現出的高稀疏性特點,使其能更快速響應用戶。
在靈活性方面,稀疏化模型使得天工2.0能夠在不增加計算量的前提下顯著擴展模型規模,在同等計算資源下獲得更強性能。并通過增加專家模型數量、調整專家模型的權重配比,天工2.0能夠極大豐富模型的可擴展性。
而除了最新發布的千億級天工2.0以外,在過去半年多時間里,天工還推出了百億級開源大模型“天工Skywork-13B”、AI Agent開發平臺“天工SkyAgents”、多模態大語言模型“天工Skywork-MM”等。
這些模型能力,如今在最新版天工AI智能助手上都有體現。主要包括:
- 多模態能力
- 超長上下文
- 準確理解關鍵詞語義
多模態方面,天工AI智能助手新增了圖文對話能力,能更好理解視覺素材,進行圖文對話、圖文創作等任務,并且提升了圖像生成質量。
同時還能生成圖文并茂的回答內容。
去年9月天工多模態大模型Sky-MMv1發布。
它由一個視覺編碼器、一個可學習采樣器模塊和一個經LoRA調優后的大語言模型組成。通過自研Mental Notes技術,模擬人類認知過程,天工多模態大模型顯著降低“幻覺”問題,增強中文指令追隨能力、中文相關場景的識別能力,降低了文化偏見對于多模態理解造成的限制。
超長上下文方面,天工AI智能助手現在可支持100K上下文(超過15萬漢字),通過擴展技術可支持200K超長文檔理解。
在InfiniteBench評測中,天工系列大模型10項指標平均分47.5分,超過Claude2,接近GPT-4 128k的52.6分。
在針對超長上下文的“大海撈針”測試中,天工大模型的正確率可以達到100%。
這項測試通過在海量文檔集中插入特定信息,然后對文檔集進行提問,測試模型能否從中找到正確的關鍵信息,以此可以驗證其長下文信息提取能力。
下圖是天工大模型在“大海撈針”測試中的實驗結果,橫軸表示token長度,縱軸表示埋入信息在文檔中的深度,天工大模型達到了100%正確率。
最后,天工AI智能助手還具備聯網智能搜索能力,這部分同樣調用了大模型作為底層基礎技術。
據了解,天工AI搜索在設計之初就在數據集與索引環節引入了大模型技術,能對互聯網上的海量內容進行識別和篩選,屏蔽虛假廣告內容,初步清洗出較為純凈、高質量的搜索結果。
△結果首先參考了央視網的鏈接
并且利用大模型來對用戶搜索指令做Query改寫,深入挖掘用戶真實意圖。
在搜索引擎核心的召回(Match)和排序(Rank)技術上,大模型能夠模仿人類的識別判斷能力,判斷搜索指令(Query)和被搜索文檔(Doc)是否具有相關性,并將這些匹配好的相關性樣本當做“教科書案例”讓搜索引擎學習,提升搜索引擎性能的同時實現模型側的端到端迭代。
比如很多時候用戶搜索時都只給出零星的信息,需要大模型對關鍵字有更好的理解力。
通過引入檢索增強技術(RAG),還能顯著提高大模型的回答質量,并為答案提供可解釋性,避免“胡言亂語”的傾向。
RAG的技術路徑為:用戶提問——在數據庫中檢索相關答案——系統將用戶的提問及檢索出的相關答案一起合成Prompt——將Prompt提交給大模型——大模型返回提問結果。
在如上一系列技術的加持下,天工AI智能助手也上線了一大波新功能。比如數據分析、熱梗百科、圖文對話等。
具體效果究竟如何?我們也來上手體驗了一把~
AI都懂科目三是啥了
新版天工AI智能助手新增了五項能力:
- 熱梗百科
- 數據分析
- 圖文對話
- 伴侶小華
- 星座運勢
它們之中很多都具備多模態能力。比如圖文對話里,可以上傳一張照片讓AI作詩。
它不僅能把握照片中的重點,如河流、高樓、車輛等,還把霧霾美化成了仙境白霧。
新增的數據分析功能,同樣具備多模態能力。
只需上傳相應文檔,給出指示,它就能快速繪制出對應圖表。
回答一些網絡熱梗時,天工AI智能助手也能夠圖文并茂。
比如提問“科目三是啥?”
模型能夠準確闡述這個梗的來龍去脈,最后還會附上視頻鏈接。
值得一提的是,AI面對相似的問題,回答也都很有針對性。
比如都是劉德華《恭喜發財》衍生出來的網絡用語,但是給出的回答很明確區分了它們的淵源。
除了以上新增能力,天工AI智能助手在AI畫畫方面,提升了對提示詞的理解力、畫面細節等。
這不,馬上就要過年了,在家無聊的話,天工AI智能助手里還有個“賺大錢”的機會!
從2月8日開始,天工AI智能助手還將開啟“巧繪龍年”AI繪畫大賽。
只要使用APP內“AI繪畫”功能繪制圖畫作品并投稿至活動專區,即可有機會獲得最高10萬元人民幣的現金大獎。
如何參賽?
在應用市場內搜索“天工”、點擊下載即可~
AGI讓每個人能更好表達自我
毫無疑問,昆侖萬維是國產大模型的一匹黑馬。
早在去年4月,昆侖萬維就發布了雙千億級大語言模型“天工”的1.0版本(黑馬入局!昆侖萬維版ChatGPT「天工」通過自家程序員面試,首發就敢現場演示)。去年8月,昆侖萬維更是推出了國內第一款搭載大模型能力的AI搜索(國內第一款AI搜索來了!首發實測:0廣告支持多輪追問,搜索結果自動總結成文)。
而在更早的2020年,昆侖萬維便已入局大模型賽道,累計已投入數億元人民幣研發。2022年,昆侖萬維在發布AIGC全系列算法模型的同時,就開源了百億級參數模型,積累了廣泛的開發者好評與社區共創。
除了“天工1.0”雙千億級大模型、“天工2.0”MoE大模型外,昆侖萬維還圍繞“天工”系列推出了百億級開源大語言模型系列“天工Skywork-13B”、AI Agent開發平臺“天工SkyAgents”、多模態大語言模型“天工Skywork-MM”等前沿AI產品,并已逐步構建起AI大模型、AI搜索、AI音樂、AI Story、AI游戲等AI業務矩陣,是國內模型技術與工程能力最強、布局最全面的人工智能大模型企業之一。
無論是“天工2.0”與新版“天工AI智能助手”作為國內首個搭載MoE架構并面向全體C端用戶免費開放的AI應用的推出,還是以上種種前沿大模型AI產品的開放,其背后都是昆侖萬維“天工”團隊在大模型領域的深耕與積累。
前沿技術研發從來不能一蹴而就,國產大模型的創新也始終道阻且長。
在問到“為什么要把大模型能力向所有C端用戶免費開放?”時,昆侖萬維回答道:
一直以來,昆侖萬維始終秉承著‘實現通用人工智能,讓每個人更好地塑造和表達自我’的公司使命。我們希望不斷降低大模型技術的應用與學習門檻,與廣大用戶攜手探索未知世界、共創科技未來。
如今,大模型應用落地趨勢已開啟。在可預見的方向中,以大模型為底座、面向所有人開放使用的超級APP是最被大家期待的成果之一。因為它能在短時間內盡可能讓更多人擁抱大模型趨勢,讓AI真的服務于自己。
整個趨勢也在向著這個方向演進。技術層面,多模態、MoE都是當下主流,它們從底層加強模型的性能,讓AI能夠在更大程度上理解世界。應用層面,各種爆火AI玩法層出不窮,也是為了能讓更多人感受到生成式AI的魅力,并從中探索挖掘人類和大模型更好的交互方式。
天工AI智能助手的升級,正是大模型玩家如何引領趨勢的直接體現。技術升級+玩法豐富,同時還面向所有人免費開放,把門檻打到最低……在春節前一炮打響今年的AI應用趨勢。
而更值得關注的是,當每個人都能參與到大模型趨勢之中,每個人也就有機會塑造趨勢。
打開APP體驗一把,說不定你喜歡的AI玩法就是下一個現象級爆款呢?