AI.x社區
- 登錄/注冊
淺談—領域模型訓練
今天給大家帶來知乎好友ybq一篇關于如何進行領域模型訓練的文章，主要內容是對postpretrain階段進行分析，后續的Alignment階段就先不提了，注意好老生常談的“數據質量”和“數據多樣性”即可。原文：https:zhuanlan.zhihu.comp711537210Qwen2：https:arxiv.orgabs2407.10671MiniCPM：https:shengdinghu.notion.siteMiniCPMc805a17c5c8046398914e47f0542095aLlama3.1：https:arxiv.orgabs2407.21783什么是領域模型？領域模型為...領域模型訓練Flux：Midjourney的新圖像模型挑戰者
原創BlackForestLabs是一家由前Stability.ai開發人員創立的AI初創公司，旨在為圖像和視頻創建尖端的生成式AI模型。這家初創公司聲稱，其第一個模型系列Flux.1為文本到圖像的生成設定新的標準。BlackForestLabs總部位于德國弗萊堡，由AI研究人員和開發人員組成，他們曾在Stability.ai從事StableDiffusion和其他生成式AI模型的工作。團隊在今年春季從Stability.ai離開，到目前為止已經籌集了3100萬美元的種子資金。本輪融資由Andreess...圖像模型Flux利用LlamaIndex和本地PDF文檔，輕松打造知識圖譜GraphRAG
檢索增強生成（RAG）技術通過引入外部知識源，增強了大型語言模型的回答準確性和上下文契合度。盡管RAG在處理復雜異構信息時可能會忽略實體間的結構和聯系，例如，向量數據庫可能錯誤地將“員工”與“雇主”關聯得更緊密，而非“信息”。知識圖譜的引入有效解決了這一局限。它采用節點和邊的三元組結構，如“雇主—提交—索賠”，清晰地表達了實體間的關系。這種結構化的方法讓知識圖譜在處理復雜數據搜索時更為精確和高效。1技...LlamaIndexPDFGraphRAGAgent planning大揭秘：記憶增強規劃能力！
如何讓LLM在規劃能力上變得更聰明，想象一下，如果我們的AI助手能夠記住過去的經歷，并且在需要的時候能夠回憶起來，那會是多么方便的事情啊！首先，我們要明白，對于AI來說，記憶是提升規劃能力的關鍵。目前，有兩種主要的方法可以通過記憶來增強LLMAgents的規劃能力：基于RAG的記憶和參數記憶。RAG，也就是檢索增強生成，它能夠用檢索到的信息來增強LLM的最新知識。想象一下，如果AI能夠把過去的經驗存儲在記憶中，并在需要的...AgentLLMRAG對企業來說大模型商業化的三種方式
原創“技術商業化，這是所有企業都需要思考的問題”技術的發展難免需要經過商業化的過程，這也是技術造福人類的根本所在。而具體怎么把技術與商業相結合，這就是一個哲學問題或者說是方法論。比如，互聯網剛出現時，很多人都意識到了互聯網的巨大商業價值，但卻不知道它的價值在哪；也不知道怎么把互聯網與商業相結合；最終產生了第一次互聯網泡沫。但經過那次互聯網泡沫之后，互聯網涅槃重生，直到今天。可以說互聯網成為當今社會...大模型大模型的發展趨勢預測——大模型會做的更小，還是做的更大
原創“大模型的發展，類似于計算機的發展由大到小”最近在抖音上看到360創始人——周鴻祎說他關于大模型的發展的四個趨勢，也就是開源，廉價，專業，小巧。開源就是以openAI為代表的閉源大模型和MetaGoogle為代表的開源大模型的模型大戰；廉價就是大模型的訓練成本會進一步降低，也就是意味著大模型會越來越便宜；專業即垂直領域的大模型會大放異彩；最后小巧是大模型在未來會被移植到手機上。雖然不知道周鴻祎的預測是否準確，開源...大模型AI畫家的「滑鐵盧」：為什么冰可樂不愿意住進茶杯里？
精華文章的第一作者是上海交通大學博士研究生趙峻圖（主頁：https:juntuzhao.run），他的研究方向包括計算機視覺和人工智能賦能的生命科學。此外，他還擔任上海交通大學校田徑隊隊長。文章的通訊作者為上海交通大學長聘教軌助理教授、博士生導師王德泉（主頁：https:dequan.wang）。設想一下，如果讓你畫一幅“茶杯中的冰可樂”的圖片，盡管茶杯與冰可樂的組合可能并不恰當，你仍然會很自然地先畫出一個茶杯，然后畫上冰塊與可樂。...AI圖片生成4090單卡可跑，6秒直出電影級畫質，智譜版Sora正式開源！
7月26日，智譜發布AI生視頻產品「清影」，30秒將任意文圖生成視頻，并上線在他們的AI助手「智譜清言」上，被譽為是國內首個人人可用的Sora。就在發布6天后，「清影」生成到視頻數便已突破了百萬量級。今天，智譜AI宣布將與「清影」同源的視頻生成模型——CogVideoX正式開源。團隊表示，希望每一位開發者、每一家企業都能自由地開發屬于自己的視頻生成模型，從而推動整個行業的快速迭代與創新發展。打開AI助手「智譜清言」即可體...視頻生成OpenAI版終結者降臨！地表最強機器人Figure 02問世，進寶馬狂飆20小時
號稱OpenAI二代機器人「Figure02」，真的來了！剛剛，FigureAI終于官宣了第二代人形機器人，完全換了一身新形象——黑色的外觀，更加靈活的五指。創始人BrettAdcock表示，「這是『地表最強』的人形機器人」！值得一提的是，Figure02的設計評審耗時18個月完成。據介紹，迭代后的Figure手部具有16個自由度，能夠承受與人類相當的力量。現在的它，已經進入寶馬車廠開始打工了，可以無休止地狂干20個小時。Figure02還可以與人類直接...AI機器人基于Llama 3的AI代理開發實戰演練
原創通過本文，您將學會基于開源的深度學習模型可視化工具Gradio構建一個具有Llama3模型函數調用功能的AI代理的完整過程。簡介想象一下，你想買點東西。于是，你訪問某個電子商務網站并使用搜索選項查找所需內容。也許你有很多東西要買，所以這個過程不是很有效。現在，請考慮一下這樣一個場景：打開一個應用程序，用簡單的英語描述一下你想要的東西，然后按下回車鍵。你不必擔心搜索和價格比較，因為應用程序會自動為你處理了。很...Llama 3AI代理深度學習別繳“對齊稅”了，未審查/對齊的模型更受歡迎！用戶：純粹版比受限版有用！
原創編輯言征出品51CTO技術棧（微信號：blog51cto）1.未經對齊的模型很重要審查模型的主要缺點之一是所謂的“對齊稅”。這是指當模型被過度調整以符合特定的道德準則時，性能會下降。但缺點遠不只是性能，經過了幾番教訓后，Nidum.AI聯合創始人ArjunReddy認為：“未經審查的模型沒有任何人為的偏見，當你在LLM的基礎上構建產品時，使用無偏見的模型非常重要。”（即，對齊審查≈新的偏見）Reddy進一步提到，由于偏見，該公司避免使...模型LLMsLLM美國國防部大刀闊斧，啟動AI項目：將老舊C代碼全部轉換為Rust
原創整理丨諾亞出品51CTO技術棧（微信號：blog51cto）為了加快向內存安全編程語言的遷移步伐，美國國防部高級研究計劃局（DARPA）正積極推動一項名為“TRACTOR”的創新項目。TRACTOR，即“TRanslatingAllCTORust”，是一個旨在利用先進的機器學習技術自動將老舊的C代碼轉換為Rust語言的工具。內存安全問題一直是軟件開發中的老大難，比如常見的緩沖區溢出漏洞，這些隱患常常潛伏在龐大的代碼庫中，成為安全威脅的主要來源。DARPA希...AI項目C代碼Rust模塊化RAG：RAG新范式，像樂高一樣搭建
精華1.RAG系統的發展歷史與問題RAG（檢索增強生成）通過訪問外部知識庫，檢索增強生成（RAG）為LLMs提供了關鍵的上下文信息，極大地提升了其在知識密集型任務上的表現。RAG作為一種增強手段，已在眾多實際應用場景中廣泛運用，涵蓋知識問答、推薦系統、客戶服務以及個人助手等領域。RAG技術的發展可歸結為三個階段：?起初，檢索增強技術被引入，提升預訓練語言模型在知識密集型任務上的表現。比如：Retro通過檢索增強優化了預訓練...RAG系統微調未來的智能戰場——多智能體系統的防御與生存之道
多智能體系統（MultiAgentSystems,MAS）近年來在各類任務中展現出卓越的能力，尤其是在代碼生成、數學問題解決、翻譯和文本評估等領域。通過多個專家智能體的協作，這些系統能夠將復雜任務分解為更小的子任務，由各個智能體分別處理，從而提高整體效率和準確性。然而隨著多智能體系統的廣泛應用，其安全性問題也日益凸顯。特別是當系統中存在惡意智能體時，這些智能體可能會生成錯誤或不相關的結果，進而破壞整個系統的協作效果...多智能體系統錯誤率斯坦福、Salesforce等開源1萬億tokens多模態數據集
華盛頓大學、斯坦福大學、Salesforce等研究人員聯合開源了多模態數據集MINT1T。據悉，MINT1T共包含了大約1萬億個文本標記和34億張圖像，是現有開源多模態數據集的10倍，同時還首次從ArXiv網站中爬取了專業論文，進一步提升了數據質量。這對于開源領域開發GPT4o、Gemini等多模態模型，提供了全面、多元化的數據集。開源地址：https:github.commlfoundationsMINT1TMINT1T數據集包含了多種來源，其中，HTML文檔的主要來源于CommonC...數據模型AI界的新寵：揭秘Llama 3.1如何革新AI合成技術
精華合成數據技術并不是創造全新的信息，而是通過轉換現有信息來生成不同的變體。在過去的十多年里，合成數據技術已被廣泛應用于提升各類模型的精確度——無論是通過變換圖像來優化物體檢測模型，還是加強信用卡欺詐檢測，亦或是提升BERT模型在自動問答方面的表現。隨著大型語言模型（LLMs）的出現，生成合成數據的動力和技術都得到了極大的加強。各行各業的企業正在利用合成數據來微調基礎LLMs，以滿足各種應用場景的需求，比如:金...AI合成技術Llama 3.1兩階段超長周期用戶行為序列建模方法總結
今天這篇文章介紹的主題是推薦系統中，基于兩階段的超長周期用戶興趣建模系列工作。主要介紹業內比較有代表性的由快手發表的3篇工作，從2020年最開始的SIM首次提出的兩階段行為序列建模方法，到2022年KDD上發表的TWIN對兩階段一致性的優化，再到2024年CIM上提出的在TWIN基礎上引入層次聚類進一步釋放長周期建模能力。1.背景在推薦系統的排序模型中，用戶行為序列建模部分的迭代一直是最核心的收益來源。用戶行為序列建模迭代，...序列建模方法Llamaindex推出workflow應對復雜LLM應用構建，以及技術實現從圖（Graph）轉向事件驅動（EDA）原因解析
同一天，LLM應用開發另一個代表產品Llamaindex也發布了其在此領域的新功能——workflow，進一步提升應用編排的能力。早在去年，Llamaindex在這方面已經有了動作，推出了QueryPipeline（詳見：???應用編排的未來是Pipeline，LlamaIndex開發預覽版推出QueryPipeline，提升應用開發的靈活性???），它是一個聲明式設計，可以自定義整個查詢流程為一個DAG（有向無環圖）流程，支持從簡單到復雜的不同服務流程。對于一般的RAG類...LLMEDAGraphMSRA古紓旸：2024年，視覺生成領域最重要的問題有哪些？
精華文章鏈接:https:arxiv.orgpdf2407.18290亮點直擊概述了視覺生成領域中的各種問題。這些問題的核心在于如何分解視覺信號，其他所有問題都與這一核心問題密切相關，并源于不適當的信號分解方法。本文旨在引起研究人員對視覺信號分解重要性的關注。問題1：生成模型的目標是什么？在作者看來，生成模型的設計目的是“創造人們所設想的”。數字信號的生成需要經過三個里程碑：第一個里程碑是將用戶的想法翻譯成計算機可以理解的格式...視覺生成為什么最新的LLM使用混合專家(MoE)架構
原創本文詳細介紹了混合專家(MoE)架構，該架構通過混合或融合不同的“專家”模型共同解決特定的問題。專業化的必要性醫院有很多具有不同專長的專家和醫生，他們擅長解決各自領域內的醫療難題。外科醫生、心臟病專家、兒科醫生等各類專家緊密合作，為患者提供了全面而個性化的醫療護理服務。同樣，人們也可以將這一合作模式應用于人工智能領域。人工智能中的混合專家(MoE)架構被定義為不同“專家”模型的混合或融合，能夠共同處理或...LLM人工智能大型語言模型
