AI.x社區
- 登錄/注冊
基于 DeepSeek R1 和 Ollama 開發 RAG 系統
原創今天，我們探討一下如何利用目前最受歡迎的開源推理工具DeepSeekR1和輕量級的本地AI模型執行框架Ollama，來構建一個功能強大的RAG（RetrievalAugmentedGeneration）系統。1、DeepSeekR1：RAG系統的卓越之選DeepSeekR1，被譽為開啟AI推理新時代的開源先鋒，在構建RAG系統方面表現卓越，擁有眾多引人注目的優勢，成為開發者不可或缺的利器。相較于OpenAI的o1模型，DeepSeekR1在性能上與之媲美，但成本卻大幅下降，僅占o1的5%，這...OllamaRAGDeepSeek 驚艷背后的技術架構創新剖析
原創 精華DeepSeekV3重磅登場！以110計算量實現對標Llama3405B的頂尖性能，三大硬核創新重塑大模型架構范式。技術團隊通過：1）首創多頭潛注意力機制（MLA），攻克長文本推理的顯存效率瓶頸；2）革新動態路由算法，突破MoE模型長期存在的專家選擇困境；3）創新性多令牌預測框架，實現推理吞吐量跨越式提升，完成對傳統Transformer架構的顛覆性改造。這場由DeepSeek引領的架構革命，不僅印證了中國團隊在AI基礎研究領域的深厚積累，更以突...DeepSeek深度學習的‘黃金法則’：為什么選擇ReLU？
ReLU（RectifiedLinearUnit）函數詳細講解ReLU（修正線性單元）是一種在深度學習中非常流行的激活函數，它主要用于神經網絡中的隱藏層。ReLU的設計簡單而高效，能夠有效地處理梯度消失問題，使深度神經網絡得以訓練。1.ReLU函數的定義ReLU的數學表達式非常簡潔：f(x)max?(0,x)意思是：當輸入值x大于0時，輸出值就是輸入值x。當輸入值x小于或等于0時，輸出值是0。2.ReLU函數的圖形ReLU函數的圖形形狀呈現為分段線性函數，在輸入...深度學習ReLUDNN炸裂！Deepseek-Janus-Pro能識別圖片地址、看圖講故事
一、JanusPro能做5種任務1.1圖片描述1.2地點識別1.3背景推理1.4OCR文字識別1.5文圖生成二、JanusPro原理JanusPro的核心設計原則采用自回歸框架，通過解耦視覺編碼，解決多模態理解和生成任務之間的沖突。通過獨立的編碼方法將原始輸入轉換為特征，然后由統一的自回歸變換器進行處理。對于多模態理解任務，使用SigLIP編碼器從圖像中提取高維語義特征，并將其展平為一維序列，通過理解適配器將圖像特征映射到語言模型的輸入空間。...Deepseek識別圖片手把手教你將本地部署的DeepSeek R1集成到Dify
今天，手把手教大家在本地部署DeepSeekR1，并將其集成到Dify中，實打實提升你的工作效率！一、本地部署模型本部分介紹在本地通過ollama部署DeepSeekR1。1、安裝ollama在ollama官網，選擇操作系統，下載ollama應用程序并安裝命令行輸入ollama，出現下面的提示，則說明安裝成功。2、部署deepseek模型在ollama官網，點擊「Models」，選擇第一個「DeepSeekR1」根據自己的顯存選擇對應的版本大小。模型名稱參數規模（b）顯存需求（FP...DeepSeek R1Dify模型2025年大模型與Transformer架構：技術前沿與未來趨勢報告
精華在人工智能的宏大版圖中，Transformer架構無疑是一顆璀璨的明星。它的出現，徹底改變了自然語言處理、計算機視覺等諸多領域的發展軌跡。《2025年大模型與Transformer架構：技術前沿與未來趨勢報告》深入剖析了Transformer架構的前世今生、優勢局限以及未來走向，為我們全面呈現了這一架構在AI領域的核心地位與無限潛力。一、Transformer架構誕生的靈感源泉Transformer架構的誕生深受人類大腦信息處理機制的啟發。人類大腦在漫長...大模型GPT-3GPT-4寫給大模型新人的經驗，刷到少走三年彎路！
大家好，我是丁師兄。這篇文章，我將結合自己在大模型領域的經驗，給大家詳細聊聊新人應該如何轉行大模型賽道？比如大模型都有哪些方向？各方向的能力要求和崗位匹配？新手轉行大模型常踩的坑和常見的誤區？以及入行大模型最順滑的路徑？如果你是正打算入行大模型的校招社招同學，請一定看完，可能會讓你在入行大模型的路上，少走很多彎路。1.大模型都有哪些方向？如果你在求職網站搜索"大模型"關鍵詞，看一下招聘JD，基本可以...AI算法RLHF三種文本相似計算方法：規則、向量與大模型裁判
文本相似計算介紹有一些工作需要評估出兩個字符串之間的相似程度。比如，要評估大模型生成的結果，與預設定的答案之間的相似程度。本文介紹三類方法用于評估兩個字符串的相似程度：規則、向量、大模型裁判。規則：基于字符ngram的相似計算，常用算法，ROUGE、BLEU;向量：使用熱門的嵌入模型(Jina)，把字符串編碼為向量，計算兩個向量之間的相似度；大模型裁判：使用大模型評估兩個字符串之間的相關性；摘要介紹了三種方法，評估...大模型規則向量YC合伙人警告：“僅僅在業務中調用OpenAI API，并不會改變創業公司的命運！”，建議創始人來灣區定居
原創編輯伊風出品51CTO技術棧（微信號：blog51cto）“創業者們仍然需要做的基本工作，才能讓技術為客戶創造價值。如果你不做這些，僅僅把你的想法轉向調用OpenAI的東西，并不會改變你作為創業公司的命運。”AI賦予了一個人進化成“超級個體”的機會，也讓許多“一人公司”等小團隊實現高收入神話。然而，YC合伙人Brad一針見血地戳到痛處：AI創業并不像想象中那么簡單，不是ChatGPT的套殼就是一個好產品！近期，YC的四位合伙人圍坐在...OpenAIAPIYC投資用Ray觀測和監控大語言模型工作負載
原創前言GPT4、PHI2、BERT和T5等大語言模型（LLM）的出現已徹底改變了自然語言處理，這些模型支持高端應用程序，包括聊天機器人、推薦系統和分析。然而，LLM中工作負載的規模和復雜性使得保證性能和可靠性成了一大挑戰。在這種情況下，在使用Ray等框架部署工作負載的同時進行監控和觀測顯得非常必要。Ray是一種分布式計算框架，提供了一個強大的平臺，可以跨集群有效地擴展LLM工作負載。因此，它成了托管、管理和觀測LLM的一種出色...大語言模型LLMRayKimik1.5、DeepSeek-V3 大戰 OpenAI o1，誰能笑到最后？
精華最近，國內大模型界可謂是“風起云涌”，kimik1.5和DeepSeekV3這兩位“大俠”橫空出世，一路“殺瘋了”，不斷向OpenAI和其他海外大模型的霸主地位發起挑戰。這不禁讓人想起了那句網絡梗：“一山更比一山高，一模更比一模強！”今天，咱們就來好好對比一下這兩位國內大模型界的“當紅炸子雞”，看看它們到底有何不同，順便再和海外頂尖的OpenAIo1對比一下，看看咱們離國際頂尖水平還有多遠。接下來，咱們就來詳細對比一下這三位...Kimik1.5OpenAI o1DeepSeekText2SQL 已過時？TAG 如何一統 AI 與數據庫江湖！
精華1.引言語言模型的發展使得用戶期望能通過自然語言對數據進行查詢，從而引發了Text2SQL和RAG等方法的大量研究。但在實際應用中，用戶的問題往往超出這些方法的能力范圍。例如，企業用戶的問題常涉及領域知識、世界知識、精確計算和語義推理的復雜組合。數據庫雖能提供領域知識和大規模精確計算能力，但在語義推理方面較弱；而語言模型雖擅長語義推理和利用世界知識，卻在精確計算和大規模數據處理效率上存在不足。像Text2SQL方法...Text2SQLAI數據庫一個強大的集成學習算法：隨機森林
一、算法介紹隨機森林屬于集成學習（EnsembleLearning）中的一種，它是通過構建多個決策樹，并綜合這些決策樹的預測結果來進行最終的預測。就好比一群經驗豐富的專家（各個決策樹）共同商討一件事，然后匯總大家的意見（預測結果）得出最終結論，往往這樣綜合考量后的結果會更加準確可靠。隨機森林可以用于解決分類問題，比如判斷一封郵件是垃圾郵件還是正常郵件；也能處理回歸問題，例如預測某地區的房價走勢等。它具有以下優...集成學習算法隨機森林爆！2024‘Meta 推出CTR集成框架 CETNet，多 CTR 模型集成大幅提升預測精度
1.Kimik1.5:ScalingReinforcementLearningwithLLMs語言模型預訓練時，通過預測下一個詞來提升計算量的方法效果不錯，可訓練數據量卻限制了它的進一步發展。強化學習（RL）的拓展則為人工智能持續進步提供了新途徑，讓大語言模型（LLMs）有機會通過學習探索擴充訓練數據。不過，之前相關研究成果都不太理想，沒有特別突出的?；谶@樣的情況，我們來分享Kimik1.5的訓練過程。這是我們新研發的多模態LLM，使用RL訓練。我們會講講R...RL框架OpenAI O12025年值得入坑AI Agent智能體的五大框架
原創1、五大AIAgent多智能體開發框架在AI大模型新時代，AIAgent多智能體系統（MultiAgent）技術正日益受到眾多科技巨頭的矚目。伴隨著OpenAI的Swarm、微軟的MagenticOne等框架的推出，這一領域的發展變得更為錯綜復雜。面對眾多的選項，選擇一個最匹配自身需求的MultiAgent框架成為了眾多開發者與企業需要解決的關鍵問題。本期我們將深入分析市場上最受歡迎的五款AIAgent多智能體框架，包括微軟的AutoGen、CrewAI、LangChain的LangG...AI Agent智能體兩個簡單技巧把 RAG 檢索正確率從 50% 提高到 95 %
原創在實際項目實施過程中，RAG（檢索增強生成）系統的關鍵在于其檢索階段，這一環節直接關系到生成效果的質量。RAG系統的運作流程主要涉及數據攝取和數據查詢兩個步驟，而檢索環節的重要性不言而喻。本文分享了一個案例，講述了團隊如何運用兩大關鍵策略，將RAG系統的檢索準確率從50%顯著提升至95%。1、RAG檢索召回率RAG系統的檢索召回率（Recall）是評估檢索系統在用戶查詢時能否有效檢索出所有相關文檔的標準。在RAG系統中，這一...RAG一文說清楚"知識蒸餾"（讓“小模型”也能擁有“大智慧”）
精華最近Distillation這個詞見的非常多。前兩天大火的DeepSeek團隊發布的DeepSeekR1，其670B參數的大模型通過強化學習與蒸餾技術，成功將能力遷移至7B參數的輕量模型中。蒸餾后的模型超越同規模傳統模型，甚至接近OpenAI的頂尖小模型OpenAIo1mini。在人工智能領域，大型語言模型（如GPT4、DeepSeekR1）憑借數千億級參數，展現出卓越的推理與生成能力。然而，其龐大的計算需求與高昂的部署成本，嚴重限制了其在移動設備、邊緣計算等...小模型知識蒸餾部署成本大模型生成內容靠譜嗎？CRAAP測試告訴你
截至2025年1月，ChatGPT仍然可能會一本正經地提供不準確或虛構的信息。例如，如果你向ChatGPT詢問“林黛玉倒拔垂楊柳”和“林黛玉三打白骨精”，他會編造看似合理但實際上并不存在的解釋，將《紅樓夢》中的林黛玉與《水滸傳》中的“倒拔垂楊柳”以及《西游記》中的“三打白骨精”錯誤地關聯在一起。這種現象被稱為“幻覺（Hallucination）”，即AI生成的內容雖然聽起來可信，但實際上并不符合事實或現實。ChatGPT講述林黛玉倒拔...大模型工具維度關于神經網絡的一些思考與感受
原創“神經網絡模型并不是通用模型，不同的問題需要設計不同的神經網絡模型，千萬不要想著一個模型打天下”神經網絡作為當前人工智能領域最炙手可熱的技術，其技術原理也相對比較復雜；而在學習神經網絡的過程中也面臨著很多問題和感受，因此這里就簡單記錄一下。關于神經網絡從本質上來說，所謂的神經網絡就是一個模擬人類大腦的數學模型；而為了解決不同的問題，技術專家們也設計了多種不同的神經網絡模型，比如RNN，CNN以及Trans...神經網絡AI大神Andrej Karpathy：OpenAI Operator預示著AI智能體的未來，但仍需突破！
各位小伙伴，最近OpenAI發布了Operator的研究預覽版，這是一個可以使用自己的瀏覽器為你執行任務的AI代理，引起了廣泛關注。今天，我們來聽聽AI大神AndrejKarpathy對此的看法。他不僅深度參與了OpenAI的早期項目，還對AI的發展有著深刻的見解。文章要點總結：?Operator的類比：Karpathy將OpenAI的Operator比作數字世界的人形機器人，兩者都是通用的系統，能夠通過接口（鍵盤鼠標或人體）執行各種任務。?混合自主的未來：這類A...AI智能體OpenAI
