GPT Store都開不下去,這家國產平臺怎么敢走這條路的?
注意看,這個男人把超1000種大模型接入,讓你可插拔無縫切換使用。
最近還上線了可視化的AI工作流:
給你一個直觀的拖放界面,拖拖、拉拉、拽拽,就能在無限畫布上編排自己個兒的Workflow。
正所謂兵貴神速,量子位聽說,這個AI Workflow上線不到48小時,就已經有用戶配出了100多個節點的個人工作流。
不賣關子,今天要聊的就是LLMOps公司Dify,及其CEO張路宇。
張路宇也是Dify的創始人。
投身創業前,有11年的互聯網從業經驗。搞產品設計,懂項目管理,也對SaaS有點自己的獨到見解。
后來他還在騰訊云CODING DevOps團隊負責產品和運營管理工作,服務超百萬開發者用戶的平臺產品。
投身創業后,Dify迅速在他和團隊的合力下成為“開源LLM應用程序開發平臺”領域絕對的佼佼者,迄今在GitHub坐擁超22k星標。
這一次,借著上新AI Workflow功能,我們專門找到張路宇,和這個幫20萬個AI應用接上大模型的男人聊了聊。
他說:
未來的編程,可能就是編flow。
拖放拽完成workflow設置
不久前,AI大牛吳恩達發表了一個引發廣泛討論的觀點。他斷言,AI agent workflow將在今年推動人工智能取得巨大進步,甚至可能超過下一代基礎模型。
吳恩達視workflow為一個重要趨勢,并呼吁所有從事AI工作的人都關注它。
于是Dify就趁熱打鐵地上線了AI workflow。(但其實Dify看到這個機會是在半年之前,這個我們待會說。)
正式上線后,它是醬嬸兒的:
核心是一個直觀的拖放界面。
用戶可以通過連接不同的節點,在一個無限的畫布上構建自己的Workflow。
沒錯,是“無限畫布”——目前版本允許不斷擴大可用節點的類型,且每個節點均可配置,用戶可以為每個節點定義輸入和輸出,確保workflow的工作邏輯和數據流動符合預期。
也就是說,你既可以端到端地測試你的Workflows,也可以單獨測試每個節點,快速定位問題所在。
值得注意的是,一些核心節點被優先支持,包括:
- LLM:選擇任意一個主流的大型語言模型,并定義它的輸入和輸出
- 工具:使用內置的和自定義的工具來擴展你的 workflow 能夠實現的功能。
- 意圖分類器:讓LLM對用戶的輸入自動分類,根據不同的類別進行工作流轉。
- 知識檢索:為你的LLMs掛載來自現有知識庫的上下文數據。
- 代碼:執行自定義的Python或Node.js代碼。
- If/Else塊:定義條件邏輯以創建分支的Workflows。
此外,AI workflow支持DSL的導入導出,張路宇稱其為“最酷的功能之一”。
簡單來說,用戶可以導出自己的workflows,然后導入到其它工作區,讓Workflows來去自如,同時還能根據需要再次自定義它們。
這個特性為社區內的合作、分享,以及在他人工作基礎上再構建,打開了一扇窗戶。
并且workflow中可以利用Dify平臺的全部能力,用戶已經設置好檢索方案的知識庫、平臺提供的第一方豐富工具、自定義的工具等,都能作為其中一個節點能力編排。
可以說是和Dify生態無縫適配了。
不會把門檻降到無限低
AI Workflow上線后,Dify就有了兩種應用模式。
一種是Workflow,一種則是傳統的Chatflow。
“絕大多數用戶會使用傳統的Chatbot類型,它背后沒有復雜的邏輯,基本上依靠接入的大模型的自我運作。”張路宇解釋道,相比之下,Workflow會強大很多,但這不代表不能用Workflow做出聊天機器人。
這下就明了了,“workflow”雖然翻譯為工作流,但其實代表的是Dify背后的運作機制。
而Dify之所以朝這樣一個方向進化,原因是團隊有自己的“信仰”。
我們認為,未來的編程,可能編的就是(work)flow。
據了解,Dify的下一步規劃,是上線RAG的Pipeline,以及prompt的協同范式。
那么,不斷給自己打補丁的Dify,到底把哪些群體視為自己的用戶和潛在用戶?
“假設全中國有1000萬名開發者,其中有50萬人現在有能力去創作、去影響別人,大模型對他們有天然的吸引力;剩下的人需要時間去理解和接納新事物。”
有價值的、有留存的、能充分產品化的,在自己行業或技能有豐富技能的人——張路宇這么來“界定”Dify服務的主要用戶群體,并稱其為“真正的我們認為的專業的開發者,或者說這個有極具創造力的創新者”。
這部分群體,在所有人群中占比不超過10%。
所以,張路宇也坦白,DIfy一直做的事是降低工具的使用門檻,但門檻不會低到沒有。
Dify更不會把使用門檻降為零。
我們還聊到了功能上線時間的選擇。
Dify上線AI Workflow的時間并不早,去年下半年起,借著Agent概念大熱的東風,不少創業公司就已經上線了類似功能。
但Dify稱這個時間是主動選擇的時機,在GPTs上線前,團隊就對Workflow的機會有所洞察。
既想觀察模型側和產品側的動態,又要交付完整能力,不打沒有準備好的仗,“我們其實節奏故意放慢了一些。”
出身大廠,“但我離經叛道”
Dify有自己的節奏,大約和團隊對自我技術的評估有關系。
當被問及是否擔心大廠下場擠壓市場空間時,得到的答案是正面的三個字:不害怕。
他們的理由是這樣的:
一來,市場競爭似乎并沒有那么緊迫與激烈。
去年5月Dify成立時,核心創始團隊一直擔心入場時間過晚,怕有團隊先聲奪人,“但事實是,沒有別的團隊做起來”。
二來,大廠往往是因為看到市場上有這么一個機會,供給推動,而選擇押注;Dify則是因為看到切實需求才驅動研發。
不僅不怕大廠,Dify也不懼同類創業公司的力量。
張路宇表示,雖然有許許多多的現在這一波創業者,大多還是十年前的那一波創業者。這群人身上的標簽,是在大廠進行過修煉。
“在打上大廠經歷標簽的同時,大廠部門之間寫作流程復雜等,也成為了這些人固有的思維模版。”
同樣在大廠呆過的張路宇,稱自己是“大廠叛逆者”,標榜著自己的離經叛道——
我不歸于(被思維掣肘)的那一類。我第一份工作在一個很大的游戲公司,21歲,當工程師。那時候只要我判斷我做的事有價值,產品很好,我會忽略一切流程,把產品弄上線,叫偷渡上線。
這在很多公司屬于違規,但我一定要做。為什么呢?如果按流程走,可能走不通;但我把它上線,用戶體驗后帶來的價值是顯著的。
這和創業一樣,需要接受風險。
創業有風險,下場需謹慎,好在有一些令張路宇高興的事情。
他說,過去一年最興奮的事情,就是有特別多的年輕人在涌入這個行業,有無數頂尖學校的應屆生愿意投身到里面來。
這群人不缺好的機會,畢業后輕松能拿下500強或大廠的高職級,但現在愿意拿非常少的錢來做大模型相關的事情。
“在以前,我們如果想招聘這樣的人是很難的,甚至不知道從哪里去找到這樣的簡歷,更別提說服他們來加入。”
“這樣的人在我們公司內部有很多嗎?”
“已經至少有1/3?但這個比例我認為還不夠高,這些人應該成為我們的主力。”