攜手亞馬遜云科技,北京靈奧科技助力企業無縫結合大模型與數據?
原創隨著生成式AI時代不斷發展,越來越多的企業開始關注、應用甚至訓練大模型,想要以此創造更大的業務價值。這一想法固然沒錯,大模型的出現必能為企業帶來創新和突破。不過,基礎模型依賴于大規模高質量數據集,想要借助生成式AI帶來企業差異化優勢的關鍵是企業的專有數據,數據是企業核心競爭力之一。
近日,亞馬遜云科技以“無數據不模型——生成式AI時代的數據基座”為主題召開了媒體溝通會。會上,北京靈奧科技CEO厲啟鵬介紹了Vanus如何幫助企業解決數據問題,從而與大模型無縫結合。
北京靈奧科技是一家快速成長的初創企業,致力于推動生成式AI技術的普及,從而加速企業的商業成功。北京靈奧科技堅信AI Agent會成為推動企業業務快速增長的關鍵力量,并先后推出Vanus Connect、Vanus AI和VanChat三款SaaS產品,為企業提供幫助構建AI Agent的SaaS平臺,累計服務全球30,000+用戶。
大模型與企業數據的無縫結合
為什么企業難以將自己的業務數據與大模型結合?
首先,對模型的學習能力要求高。企業數據的類型繁多、格式雜亂且來源無法統一,需要模型能夠深入理解企業多樣化的數據;
第二,對模型感知變化的要求高。業務數據隨著企業運營實時變化,模型需要不斷學習不同來源、持續變化的業務信息;
第三,模型合規問題。企業既要讓模型理解好數據,又需要做到安全合規,不能觸碰紅線;
第四,模型存在偏見。由于不同的大語言模型由于訓練數據來源不同,側重點有差異,導致模型會存在偏見。
所以厲啟鵬認為,數據是企業落地大模型的核心挑戰之一,如果有一個中間環節能夠幫助用戶承上啟下,或許就能解決這一痛點。而大模型中間件介于大模型和應用之間,是打通大模型企業端落地最后一公里,是企業構建AI應用的必備組件,更是能夠幫助企業解決數據問題的關鍵。
北京靈奧科技不僅能幫助企業解決數據方面的痛點,還能幫助企業將自己的業務數據與大模型無縫結合:在神經網絡層,Vanus Connect可以連接企業不同的數據源,實時感知企業業務事件的變化,并推送給神經中樞,然后接收神經中樞的指令去做執行,從而解決;在神經中樞層,Vanus AI結合知識庫(向量數據庫)和大模型,幫助企業做業務的決策。
同時,大模型中間件Vanus可以將大模型優勢和企業數據無縫結合,為用戶提供Claude 3等多模型選擇,實現商品數據自動同步,包括商品數據自動更新、Shopify數據自動接入等,還可與網站、釘釘、飛書、企業微信等第三方應用無縫集成。
亞馬遜云科技多方面賦能北京靈奧科技
北京靈奧科技幫助企業解決數據難題的背后,離不開亞馬遜云科技賦能。北京靈奧科技在成立之初就加入了亞馬遜云科技合作伙伴網絡(APN),不僅獲得了推薦客戶和合作伙伴等資源,獲得了技術賦能,加速生成式AI產品進入市場。對于一家有諸多不確定因素的初創企業來說,北京靈奧科技受益良多。
從技術方面來說,北京靈奧科技基于亞馬遜云科技的基礎云服務、大語言模型、數據存儲三類云服務,以及亞馬遜云科技產品的彈性可擴展、高可用性、低延時、推理能力強等特性構建了Vanus平臺。
具體來說,北京靈奧科技利用Amazon Elastic Kubernetes Service(Amazon EKS)基于網絡流量的彈性擴展能力,使Vanus AI構建的Agent能夠根據用戶業務流量平滑彈性伸縮。幫助企業平均成本降低30%,性價比提高20%;
通過Amazon DocumentDB 原生的3可用區、6副本的設計,北京靈奧科技不僅提高系統的可用性和可靠性,還實現了不低于99.99%正常運行時間的服務等級協議(SLA)。
同時,還借助Amazon Simple Storage Service(Amazon S3)及數據庫高并發數據查詢能力,提高了大模型上下文加載時間;而亞馬遜云科技全球網絡節點加速的能力使Agent回復系統延時降低40%,大大降低了延時。
通過Amazon Bedrock提供的Claude模型,為Vanus平臺的AI Agent提供非常強的語言理解和邏輯推理能力。
通過亞馬遜云科技提供的易用以及功能強大的云服務,Vanus遇到的絕大部分技術問題都能在亞馬遜云科技上找到答案。除此之外,亞馬遜云科技還提供全方位的技術服務,包括技術方案和架構師等,加速Vanus產品落地。
從推廣資源和支持角度來說,亞馬遜云科技幫助北京靈奧科技加速產品進入市場。厲啟鵬表示,由于北京靈奧科技是以技術為驅動的初創公司,所以在運營、市場等方面的資源并不豐富,而且用戶對于新品牌需要有認知和接受的過程,這對初創公司來說都是很大的挑戰。但是亞馬遜云科技合作伙伴網絡(APN)幫助北京靈奧科技的產品快速推向市場,得到更多的曝光,同時也認識了很多渠道合作伙伴。
厲啟鵬接受采訪時表示“特別感謝亞馬遜云科技為我們帶來確定性,幫助我們構建穩定、強健的數據基座,從而能夠輕松面對用戶業務的不確定性。”
在未來,亞馬遜云科技將持續引領數據基座構建必備的三大核心能力,即模型微調和預訓練所需的數據處理能力、利用專有數據與模型快速結合以產生獨特價值的能力,以及有效處理新數據以助推生成式AI應用持續快速發展的能力,助力企業在生成式AI時代取得成功,將更多的“不確定”轉變為“確定”。