大模型時代,如何跟上節奏?
大模型時代已經到來,隨著基礎模型越來越卷,可預見的未來我們會看到 token 越來越便宜、性能越來越強、速度越來越快,甚至是端側運行的大模型。
就當下的時間節點,基礎模型的質量、速度和價格已經是完全可用的程度,正處于大模型應用爆發的前夜。
為什么是 JavaScript?
我們先從觀察者的視角來看:什么是大模型時代的語言?
我們打開 OpenAI API 的官方網站,其官方支持的 API 只有 Python 和 JavaScript,包括像大模型流行的應用框架 LangChain、dify 等等,都是只提供了 Python 和 JavaScript 版本,前者的地位不言而喻,但為何是 JavaScript?
因為隨著各種 SaaS/PaaS 平臺的建設,傳統開發中的服務器、數據庫等基礎設施的復雜度被隔離,通過簡單的 API 我們就能完成服務器和數據庫的全球部署。也就是,開發者可以將目光轉到真正對用戶有價值的領域,也就是直接跟用戶產生交互的前端部分。
這也就是為何全棧工程師越來越流行,借助 Node.js 和各種云服務,我們可以利用好前后端同構的優勢,迅速部署應用。
而大模型時代的到來更加速了這一趨勢,創意成為一個應用能否流行的核心,技術成為工具,我們可以迅速搭建有趣的大模型應用呈現給用戶,然后收集反饋、持續迭代,這都離不開唯一的全棧語言 —— JavaScript。
為什么是 LangChain?
首先是我們為什么需要一個大模型的應用框架?
因為 LLM 的 API 只是提供了一個非常基礎的調用方式,當我們要構建一個復雜的 Chat Bot 時,就需要考慮如何保存聊天的上下文、如何進行網絡搜索、如何加載 pdf 等等工程問題,這些都是應用框架可以幫助我們解決的。
那為什么是 LangChain?
首先是足夠的流行度和認可度,目前已經在 Github 獲得 83k star,并且其上升速度非常恐怖:
CleanShot 2024-04-25 at 22.49.57@2x.png
從 LangChain 一經推出,就成為大模型應用框架領域的明星,star 數多意味著生態活躍,我們需要的各種集成工具都能輕易獲得。
而 LangChain.js 并不是 Python 版本的套殼,而是一個完整的團隊從 0 開始構建的生態,足以看出官方對 JavaScript 生態的重視:
CleanShot 2024-04-25 at 22.57.47@2x.png
所以,作為前端程序員,我們想抓住大模型的浪潮,需要的就是動作夠快。
我們從熟悉的語言 JavaScript 入手,去使用大模型領域最流行的框架去構建應用,在第一線去感受大模型的發展和能力特點。從實戰中得到的經驗更有價值,我們不只是看技術文章對大模型應用的分析,而且直接參與到大模型應用的開發中,嘗試自己一些想法,落地一些應用,這可以讓我們跟上大模型時代的浪潮。
寫在最后
我希望大家在每一章的結束,不止局限于教程中的例子,可以去發散想象自己之前的開發中有哪些任務可以通過大模型來優化甚至是取代,動手去做一些 Toy Projects,并嘗試不同的 Prompts 方式去激發大模型的能力,可能就會迸發出下一個獨角獸級的 idea。
本文轉載自???愛學習的蝌蚪???,作者:hpstream
