AI.x社區
- 登錄/注冊
RegMix-用回歸任務解決大模型數據混合問題
寫在前面大型語言模型在預訓練過程中，如何選取數據的混合比例（利用較少的Tokens來實現較小的Loss從而加速預訓練過程）是一個復雜和關鍵的問題。手動確認數據集中各個組成的比例是不可擴展的，并且很可能不是最優選擇。今天給大家介紹一個用回歸任務解決大模型數據混合問題的方法RegMix。其核心思想是，利用不同的數據混合比例先訓練多個小模型并獲取其結果，在利用這些樣本訓練一個回歸模型，再遍歷所有比例利用回歸模型找到...大模型數據回歸任務優雅談大模型：揭開計算機視覺任務神秘面紗
原創人工智能在第四次工業革命發揮著至關重要的作用，它廣泛的融入日常生活，例如Google助手、Siri、智能手機攝像頭、社交媒體過濾器、自動標記、醫療成像、導航等，所有這些技術都切實的改進和增強日常活動的便利性和習慣。大模型技術發展到現在已經趨于穩定，而加入視覺的多模態大模型才開始興起，它除了日常生活，還會廣泛的融入到工業智造、無人駕駛和機器人等領域。這里計算機視覺就十分重要，它在捕獲實時圖像、提煉知識以及...模型計算機視覺深入理解思維樹 (ToT)策略提示詞設計
原創 精華Prompt的技巧策略應適應LLM大模型框架進行改進，主要框架包括鏈式思考、思維樹和檢索增強生成。本文將深入學習思維樹，探討如何建立解決通用問題的語言模型，并使LLM深思熟慮地解決問題。思維樹是進化版的提示策略，引入復雜思維結構，以引導模型生成準確、連貫的輸出。一、何為思維樹(ToT)想象一下，你正在駕駛一輛汽車，沒有地圖的情況下如何進入正確的路口，找到最佳的路徑？在這樣的場景下，思維樹就像是一張詳細的道路地圖...大模型思維樹簡化大模型微調門檻：運用Ludwig低代碼框架的平臺技術實戰
原創在人工智能的璀璨星河中，大型語言模型（LLMs）猶如引領方向的燈塔。但要讓這些燈塔照亮特定領域，微調技術成為了關鍵。今天，我們將深入探索Ludwig框架微調與預訓練技術，它們正以革新的方式，重塑AI模型微調的領域。一、Ludwig簡介在AI的世界里，簡單性和靈活性是構建強大模型的關鍵。Ludwig作為一個開源的低代碼框架，用于構建自定義AI模型，如LLM和其他深度神經網絡。讓這一過程變得像搭積木一樣簡單。倉庫地址：??https:...大模型Ludwig框架AI Agent LangGraph：LangChain - AI新時代的構建者
原創在探索人工智能的無限可能中，構建智能代理（Agents）已成為技術發展的新前沿。LangChain的最新擴展——LangGraph以其獨特的技術架構構建方式，為AI領域的創造帶來了前所未有的靈活性和控制力。一、LangGraph的架構之美LangGraph的誕生，不是偶然，它是在LangChain堅實基礎上的自然延伸。作為一個擴展庫，它與LangChain的現有組件水乳交融，共同繪制了AI發展的新藍圖工作流程：通過精確定義圖的節點與邊，LangGraph將復雜的基于...知識圖譜大模型李彥宏、王堅、傅盛、周伯文、徐立，AI界大佬、明星都釋放了哪些信號？
出品51CTO技術棧（微信號：blog51cto）2024年世界人工智能大會（WAIC）在上海開幕，為期三天的大會人頭攢動，人們對于人工智能的熱情猶如7月翻滾的熱浪。圍繞"以共商促共享，以善治促善智"的主題，此次大會強調對人工智能全球治理及國際合作的關注。國務院總理李強出席開幕式并致辭。李強指出，中國始終積極擁抱智能變革，大力推進人工智能創新發展，高度重視人工智能安全治理，實施了一系列務實舉措。會上，眾多的企業創始人、...李彥宏AI界馬斯克快手開源圖生視頻模型LivePortrait，等待生成時間僅需10秒，棄擴散改用隱式關鍵點框架技術，網友：強得可怕
原創編輯伊風出品51CTO技術棧（微信號：blog51cto）快手開源了LivePortrait模型！要知道，可靈的文生視頻和圖生視頻功能不僅備受關注，還一路火到了海外。這次開源的LivePortrait效果也十足驚艷！雖然驅動肖像生成視頻的技術并不算新鮮，但還是靠效果征服了觀眾。圖片網友直呼，“太可靈了”。根據推測，這個技術很可能已經在快影接入的可靈模型里應用了一段時間了。毫無疑問，此次開源大大降低了擁有自己數字人的門檻！更妙的是，...快手開源圖視頻模型揭秘YOLO-World：顛覆傳統，開啟實時開放詞匯檢測新時代
引言：在人工智能與計算機視覺的交叉領域，目標檢測一直是一個備受關注的研究熱點。然而，傳統的目標檢測方法往往受限于預定義的類別，無法應對復雜多變的現實場景。如今，騰訊人工智能實驗室推出的YOLOWorld模型，以其獨特的開放詞匯檢測能力，正引領著目標檢測領域的新一輪變革。本文將為您深入解析YOLOWorld的原理、特點以及應用場景，帶您領略這一創新技術的魅力。一、YOLOWorld：實時開放詞匯檢測的新星YOLOWorld，作為騰...人工智能計算機視覺哈佛、麻省推出面向醫學多模態助手—PathChat
哈佛醫學院、麻省理工學院、俄亥俄州立大學韋克斯納醫學等研究人員聯合推出了，面向醫學領域的多模態AI助手——PathChat。PathChat不僅能理解、分析復雜的醫學圖像，還能基于多輪文本對話，為臨床醫生、醫護人員提供精準和個性化的病理學指導。論文地址：https:www.nature.comarticless41586024076183為了提升PathChat的多功能處理能力，使用了一個多模態架構由視覺編碼器、多模態投影和大語言模型三大塊組成。視覺編碼器充當Pa...PathChatAI微軟開源GraphRAG：極大增強大模型問答、摘要、推理
7月3日，微軟在官網開源了基于圖的RAG（檢索增強生成）——GraphRAG。為了增強大模型的搜索、問答、摘要、推理等能力，RAG已經成為GPT4、Qwen2、文心一言、訊飛星火、Gemini等國內外知名大模型標配功能。傳統的RAG系統在處理外部數據源時，只是簡單地將文檔轉換為文本，將其分割為片段，然后嵌入到向量空間中，使得相似的語義對應相近的位置。但這種方法在處理需要全局理解的海量數據查詢時存在局限，因為它過度依賴局部文本片...模型開源科學美國人: 大模型永遠不會停止幻覺
去年夏天，一名聯邦法官對紐約市一家律師事務所處以5,000美元的罰款，原因是一名律師使用人工智能工具ChatGPT起草了一起人身傷害案件的摘要。文本中充滿了虛假信息，包括超過六個完全捏造的過去案例，旨在為人身傷害訴訟建立判例。斯坦福大學（StanfordUniversity）和耶魯大學（YaleUniversity）的研究人員在最近對三種流行的大語言模型（LLM）的研究預印本中發現，類似的錯誤在人工智能生成的法律輸出中非常普遍。當生成式AI模...模型人工智能生成器智能推理新路徑：組合優化在生成式AI中的前沿探索
盡管LLMs在生成自然語言文本方面表現出色，但在推理任務中的表現卻不盡如人意。推理任務需要模型具備更高層次的認知能力，包括邏輯推理、因果關系分析和戰略規劃等。然而現有的LLMs在這些方面的能力有限，主要表現在缺乏深度推理能力，LLMs在處理復雜推理任務時，往往依賴于簡單的模式匹配和統計規律，缺乏真正的邏輯推理能力。易受幻覺影響，LLMs在生成文本時，有時會產生與事實不符或無意義的內容，這被稱為“幻覺”現象。這...AI組合優化難倒吳恩達的LLM評估，有解嗎？
吳恩達提出LLMasaJudge的幾點困境吳恩達老師提出了大語言模型評估的兩種主要類型是非性評估（具備明確的非對即錯的響應）質量性評估（結果只存在好壞程度的標準）基于以上兩類的評估類型，吳恩達提出了使用如下幾點困境。創建用于測量LLM的有標記的測試集成本高昂在評估LLM性能時，創建一個有標記的測試集是非常必要的。然而，手動標記數據集不僅耗時，而且成本高昂。這對資源有限的團隊來說是一個巨大的挑戰。人類專家來評估改...吳恩達LLM技術時序預測Decoder中的時間步依賴問題
今天跟大家聊聊一個近期相對冷門的研究點：Decoder中的預測時間步依賴問題。目前主流的時間序列預測模型，Decoder一般采用一個簡單的MLP網絡，輸入Encoder的表征，映射到預測結果。但是，這種建模方法并沒有考慮到各個預測時間步之間的關系，可能導致在預測階段不滿足時間序列的平滑性。在更早的深度學習時間序列預測工作中，一般會將上一個時刻的預測結果或者真實結作為下一個時刻的輸入，自回歸的逐步進行預測。這種建模方法...Decoder依賴問題解碼Gptpdf：一個簡單巧妙的復雜Pdf解析工具，提升RAG效果
在構建RAG應用時，一個核心的工作就是構建知識庫，進而以便于在實際進行問答時能夠更準確地檢索到文檔內有關于問題的相關上下文信息。而知識庫文檔的一大來源來自于pdf格式文件，這類文件通常是富文本的，包含圖片，表格等，且無法直接解析，必須通過一些技術手段將其拆分識別形成可被后續處理的文本文件，如text或markdown。“Quilityin，QuilityOut”是構建高質量RAG的指導思想，因此，文檔處理流程第一步——加載解析就變得...解析工具RAG怎么在大模型之上構建應用？構建人工智能上層應用的框架——langchain
原創“langchain，在大模型之上構建應用的腳手架”在大模型之上構建應用需要很多的步驟，比如文檔加載，數據庫讀取，大模型加載，以及各個環節的連接等。因此，就有了langchain這個開發框架，它的功能就是把大模型開發過程中需要的常見問題整合在一塊，方便開發者。當然，不使用langchain是否能構建上層應用？答案是可以，但會很麻煩。langchain官網地址：https:www.langchain.com01、什么是langchain簡單來說，langchain是一款開發...langchain大模型大模型所謂的參數是什么？大模型為什么需要訓練？大模型訓練到底干了什么？
原創“大模型的本質是機器學習，機器學習的本質就是一種數學模型。”我們經常能聽到這樣的說法，某某大模型有多少參數，某某大模型參數量又提升了，這里所說的參數到底是什么？我們知道大模型是訓練出來的，那么哪些訓練數據都跑哪去了，大模型訓練的過程中都干了什么？為什么大模型需要訓練？01、大模型的參數到底是什么？我們知道大模型的發展從剛開始的幾百個參數，到現在的上千億個參數，比如GPT3就有一千七百多億個參數。而隨...大模型新RAG架構范式！DSPy將革命性改變RAG系統架構方式！！
原創1、什么是DSPy？DSPy（DeclarativeSelfimprovingLanguagePrograms(inPython)）是斯坦福大學NLP研究人員開發的"基礎模型編程"框架。它強調編程而非提示詞，旨在簡化復雜語言模型應用的構建過程。DSPy允許開發者專注于應用程序的高級邏輯，同時抽象掉許多低級細節。DSPy包含多種技術，可以提示詞和微調語言模型，改進其推理和檢索增強。使用DSPy構建基于語言模型的應用程序的工作流程如下所示：DSPy框架預示著構建檢索增強生成（R...RAGDSPyHippoRAG如何從大腦獲取線索以改進LLM檢索
原創譯者李睿審校重樓知識存儲和檢索正在成為大型語言模型(LLM)應用的重要組成部分。雖然檢索增強生成(RAG)在該領域取得了巨大進步，但一些局限性仍然沒有克服。俄亥俄州立大學和斯坦福大學的研究團隊推出了HippoRAG，這是一種創新性的檢索框架，其設計理念源于人類長期記憶系統中的海馬索引理論。HippoRAG的引入使大型語言模型（LLM）應用程序能夠更有效地集成動態知識，并更快、更準確地檢索重要信息。HippoRAG在多跳（multihop）...LLMHippoRAG精準開大招！商湯發布首個可控人物大模型！分鐘級、不失真，視頻制作門檻要被砍沒了！
原創編輯言征出品51CTO技術棧（微信號：blog51cto）視頻生成賽道，商湯今天精準“開大”了！Sora、Luma等模型留給業界驚艷的同時，也甩給了無數后期剪輯的噩夢：好好的一個人物，動不動臉部就變形了，這魔法有點離譜，有時候，不可控就意味著不可用。就好比之前小編用Luma，生成一段“牛頓被蘋果砸著頭”視頻，蘋果樹下的牛頓，遠景和特寫咋看都是兩個人。難怪有人說讓AI生成一張合適的人物表情，簡直就需要“歐皇”的運氣，抽到SSS...模型分鐘級商湯
