1.背景1.1AI芯片設計的當前挑戰與新興計算范式概覽人工智能（AI）的飛速發展，特別是以Transformer為代表的深度學習模型的廣泛應用，對計算硬件提出了前所未有的要求。傳統的馮·諾依曼架構在處理這些大規模、高并行的AI負載時，其性能和效率日益受到“功耗墻”（powerwall）和“架構墻”（architecturewall）的根本性制約。隨著模型規模的持續膨脹，其計算復雜度和內存需求呈爆炸式增長，這迫使學術界和工業界必須跳出傳統思維...

在當今數字化時代，語言模型已經成為人工智能系統的核心組件，廣泛應用于多語言翻譯、虛擬助手和自動化推理等任務。然而，這些功能強大的模型通常需要強大的云端基礎設施來支持其訓練和推理過程。這種依賴不僅會導致延遲和高昂的成本，還會引發隱私問題，限制了它們在資源受限的邊緣設備上的部署。例如，像GPT和LLaMA這樣擁有數十億參數的模型，由于其龐大的體積和復雜的訓練推理過程，無法在本地硬件上高效運行。它們對大規模...

在檢索增強生成(RAG)技術成為企業級AI應用核心架構的2025年，阿里巴巴通義實驗室開源的Qwen3Embedding系列模型以70.58分登頂MTEB多語言排行榜，其80.68分的代碼檢索成績更超越GoogleGemini模型8.1%。這一技術突破背后蘊含著從模型架構到訓練范式的全面創新，本文將深入技術底層，解析Qwen3Embedding如何通過多維度技術創新重塑文本嵌入與重排序技術格局。一、簡介Qwen3Embedding是基于Qwen3基礎模型構建的新一代文本嵌入與重排...

在Qwen3Embedding的技術體系中，數據生成模塊通過大模型驅動的結構化合成框架突破了傳統文本嵌入模型的訓練數據瓶頸。這一創新不僅使模型在MTEB多語言排行榜以70.58分登頂，更在代碼檢索等專業領域實現80.68分的突破。以下結合官方技術報告與開源實踐，詳解數據生成的全流程技術細節。一、兩階段數據生成架構：從語義建模到查詢生成1.1配置階段：三維語義空間定義Qwen3采用Qwen332B大模型為文檔生成結構化語義配置，通過三大維...

前天深夜，MiniMax正式發布視頻生成模型Hailuo02（海螺02），憑借驚人的物理特效，為視頻生成領域帶來了新的突破。  在ArtificialAnalysisVideoArena最新排名中，Hailuo02一舉拿下全球第二，將谷歌Veo3、快手可靈2.0等巨頭甩在身后。  值得一提的是，榜單前五名中，中國AI就占了四席——字節跳動Seedance1.0、MiniMaxHailuo02、快手可靈、生數科技。 極限物理表現驚艷全網 官方發布的預覽視頻呈...

出品51CTO技術棧（微信號：blog51cto）軟件開發因AI有了根本性轉變？剛剛，帶火“VibeCoding”風潮的前OpenAI大佬AndrejKarpathy，在YC的演講刷屏出圈！這是一場足以改變你對編程、對大模型、對未來軟件形態理解的深度分享。Karpathy一開場就擲地有聲地說：“軟件正在再次發生根本性的變化。”這句話引爆了HackerNews社區熱議——哪怕最初發布的只是一份錯漏百出的轉錄稿，依舊擋不住大家的瘋狂轉發與評論。圖片而在X上，YC創始...

論文鏈接：https:arxiv.orgpdf2506.10975git地址：?https:chenwl20.github.ioGenWorld亮點直擊高質量真實場景數據集：GenWorld首次專注于現實世界場景（如自動駕駛），提供多樣化、高逼真度的生成視頻，彌補領域空白。物理合理性驅動檢測：提出通過3D多視角一致性（而非傳統像素瑕疵）區分生成視頻，適應生成技術快速發展的挑戰。簡單有效的模型設計：SpannDetector僅需結合立體重建和時序模塊即實現顯著性能提升，為可解釋檢...

“大模型只是一種可插拔組件，提示詞才是核心。”關于提示詞的重要性應該沒什么好說的了，可以說現在所有的基于大模型構建的應用都是以提示詞作為核心切入點；不管是RAG還是智能體，無外如是。對從事大模型應用的開發者來說，重要的不是大模型的部署和運維，其核心是怎么寫好提示詞；以目前市面上的開發框架或開源項目來看，大模型都是一個可插拔的組件，只要配置好模型參數，在業務場景中可以隨意切換不同的模型。模型只是可插...

2025年6月17日，谷歌正式宣布其Gemini2.5混合推理模型家族迎來重大更新，包括Gemini2.5Pro、Gemini2.5Flash以及全新輕量級模型Gemini2.5FlashLite。這一系列升級不僅強化了AI的推理能力，還在性能、成本與適用場景上進行了深度優化，標志著谷歌在多模態AI領域的進一步突破。Gemini2.5FlashLite基準測試表Gemini2.5Pro：復雜推理任務的終極選擇作為谷歌AI技術的旗艦產品，Gemini2.5Pro在多項基準測試中表現卓越，甚至超越OpenAI...

Claude現在擁有研究功能[1]，可以在網絡、GoogleWorkspace和任何集成中進行搜索，以完成復雜的任務。這個多智能體系統從原型到生產的旅程教會了我們關于系統架構，工具設計和prompt工程的關鍵教訓。多代理系統由多個代理（LLMs在循環中自主使用工具）組成。我們的研究功能涉及一個代理，它根據用戶查詢計劃研究過程，然后使用工具創建同時搜索信息的并行代理。具有多個代理的系統在代理協調、評估和可靠性方面引入了新的挑戰。...

人工智能(AI)正在改變軟件的開發方式。AI驅動的代碼生成器已成為重要的工具，幫助開發者更高效地編寫、調試和完成代碼。在這些新型智能助手中，DeepCoder14B不僅因其強大的技術能力，也因其開源性質而受到關注。與許多流行但封閉且專有的AI模型不同，DeepCoder14B公開分享其設計、訓練數據和源代碼。這種開放性有助于世界各地的開發者自由探索、改進和使用該模型。通過這樣做，DeepCoder14B正在為軟件開發開辟新的可能性，并鼓...

核心速覽多模態大型語言模型（MLLMs）在理解常見視覺元素（如風景、家居用品和公共事件）方面展現了令人印象深刻的能力，這主要歸功于其大規模數據集和先進的訓練策略。然而，由于醫學場景中的數據和任務與一般領域存在固有差異，它們在醫學應用中的有效性仍然有限。具體來說，現有的醫學MLLMs面臨以下關鍵限制：（1）對醫學知識（超出影像學范圍）的覆蓋有限；（2）由于數據策展流程不佳，容易產生幻覺；（3）缺乏針對復雜醫學...

大型語言模型（LLMs）在金融、醫療、法律、教育和科學發現等領域表現出色，但在專業金融任務中仍存在性能不足。本文提出FinLoRA基準，評估不同LoRA變體在復雜金融任務中的表現。創建19個金融數據集，包括4個新XBRL分析數據集，支持LoRA方法的評估。實施并比較五種LoRA方法，平均提高36%準確率，驗證低秩適應和量化的有效性。摘要FinLoRA項目基于LoRA方法，評估其在金融領域的應用，特別是CFA考試和SEC文件分析。研究中使用了19...

金融大語言模型（FinLLMs）在金融服務的某些領域顯示出巨大的潛力。多模態金融基礎模型（MFFMs）可以理解多模態金融數據，包括基礎數據、市場數據、數據分析、宏觀經濟和替代數據（例如，自然語言、音頻、圖像和視頻）。本文在MFFMWorkshop上介紹了多模態金融基礎模型（MFFMs）的進展、前景和挑戰，強調了哥倫比亞大學SecureFinAI實驗室的FinAgents研究。列出了多模態金融數據和數據中心方法，描述了多模態金融應用，展望AI代理...

函數調用（functioncalling）是一種機制，允許大語言模型（LLM）通過調用外部函數或API執行特定的、預定義的任務。可以將其視為一種功能，讓LLM將它無法獨立完成的工作“委托”出去。例如，假設您向LLM發送以下提示：“特斯拉當前的股價是多少？”沒有函數調用的基本LLM可能會根據其訓練數據中的模式“幻覺”出一個答案，例如“可能在200美元左右”。經過RLHF優化的模型可能會更誠實地說：“我沒有實時數據，所以無法告訴你。”...

2025年的RAG大反思我們的目標不是抨擊RAG（它仍有其用武之地！），而是通過一個實際案例來探索2025年的技術趨勢。我們將構建一個傳統上會使用RAG的系統，但采用一種完全不同的、越來越流行的方法。通過本文，你將了解：?為什么“直接訪問源數據”的方法（gotosource）因工具調用（toolcalling）和模型上下文協議（MCP）而逐漸受到關注。?RAG仍然適用的場景（劇透：比你想象的少）。?如何構建一個用戶喜愛的實用替代方案。?...

LSTM的關鍵在于它的“記憶單元”，能夠選擇性地記住或者忘記信息。其核心組件包括三個門和一個記憶單元：1.遺忘門（ForgetGate）：決定應該丟棄哪些信息。2.輸入門（InputGate）：決定更新哪些新的信息。3.輸出門（OutputGate）：決定當前狀態如何影響輸出。數學公式解釋遺忘門：ftσ(Wf?[ht?1,xt]+bf)遺忘門決定了上一時刻的狀態Ct?1中，哪些信息需要保留，哪些需要丟棄。值域為[0,1]，1表示完全保留，0表示完全丟棄。輸入...

XGBoost是華盛頓大學博士陳天奇創造的一個梯度提升（GradientBoosting）的開源框架。至今可以算是各種數據比賽中的大殺器，被大家廣泛地運用。接下來，就詳細介紹一下XGBoost的原理和公式推導。XGBoost其實是一個樹集成模型，他將K（樹的個數）個樹的結果進行求和，作為最終的預測值。好比接下來有兩顆決策樹：tree1和tree2。小男孩的回歸預測分數是tree1葉子結點的權重和tree2葉子結點的權重相加：2+0.92.9。爺爺的預測分數同...

一、多智能體系統的優點應對研究工作的不可預測性：研究工作通常面臨開放性問題，難以提前預知所需步驟。多智能體系統能夠根據調查過程中出現的新線索動態調整研究方向，與人類研究者類似，自主決策探索路徑，適應復雜多變的研究主題，避免了線性、一次性流程的局限性。促進信息壓縮與專注：子智能體通過并行處理不同問題方面，利用各自獨立的上下文窗口，同時探索問題的多個維度，之后提煉出重要信息傳遞給主研究智能體，實現...

一、多模態訓練的諸多難點多模態模型在處理不同模態數據時（如文本、圖像、音頻和視頻）需要面臨許多挑戰：模態間的表示差異：不同模態的數據在特征表示上存在顯著差異。例如，圖像數據通常是像素級的二維信息，而文本數據是離散的符號序列，音頻數據則是連續的時間序列。這種差異使得在單一模型中融合多種模態變得困難。訓練過程中的收斂速度不一致：不同模態的數據量和復雜度不同，導致模型在訓練過程中，各模態的收斂速度不...