如今，很多AI應用程序都采用了常見的聊天模式（"chat"UX）。盡管這種模式實現起來比較簡單，但它會帶來額外的交互成本，限制了人類通過AI擴展自身能力的潛力，也未能充分利用大型語言模型（LLMs）的優勢。在過去的六個月中，我們在LangChain一直在探索一種新方式：能夠響應環境信號的代理（AmbientAgents）。這些代理只會在發現重要機會或需要用戶反饋時才與用戶互動，避免了頻繁打斷用戶。此外，用戶不再需要進入新的聊天界面...

今天這篇文章給大家匯總市面上的各類LargeLanguageModel，從模型角結構的角度、模型類型的角度進行劃分，涵蓋了目前市面上主流的LLM，一文了解各個LLM的基本實現方法和關系。從基礎模型結構的角度，預訓練語言模型可以分為Encoderonly、Decoderonly、EncoderDecoder三種類型。從市面上的LLM類型來看，可以分為GPT、LLaMA、PaLM等3個最主要的類型。下面，將這6個類別的模型，以及其中各個模型之間的關系給大家詳細介紹一下。1.模...

2024年，vLLM完成了從專業推理引擎到開源AI生態系統標配解決方案的蛻變。這一年，項目在各個維度都實現了顯著增長：GitHub星標數從14,000增至32,600，貢獻者數量從190擴展到740，月下載量從6,000激增至27,000，近半年的GPU使用時長更是增長了約10倍。這些數據印證了vLLM在AI基礎設施領域的領先地位，已成功為亞馬遜Rufus和領英等大型產品提供核心支持。2024年重要成就社區建設與生態發展2024年，vLLM建立起了一個充滿活力的開源...

局部核重整化學習機制自然通訊2025年1月10日刊發一篇題為“局部核重整化作為超參數化卷積神經網絡中特征學習的機制”的文章【文獻1】，學者們稱“確定了一種完全不同的內核重整化形式：全連接架構的內核只是由單個標量參數全局重整化，而卷積核則經歷局部重整化，這意味著網絡可以選擇局部分量，這些分量將以數據依賴的方式為最終預測做出貢獻”。這一發現強調了一種簡單的特征學習機制，CNN的重整化內核表達式中展示的核重整化...

一、背景得物開放平臺是一個把得物能力進行開放，同時提供給開發者提供公告、應用控制臺、權限包申請、業務文檔等功能的平臺。面向商家：通過接入商家自研系統。可以實現自動化庫存、訂單、對賬等管理。面向ISV：接入得物開放平臺，能為其產品提供更完善的全平臺支持。面向內部應用：提供安全、可控的、快速支持的跨主體通訊。得物開放平臺目前提供了一系列的文檔以及工具去輔助開發者在實際調用API之前進行基礎的引導和查詢。...

編輯伊風出品51CTO技術棧（微信號：blog51cto）昨晚十點，Kimi彈了條推送。大晚上的，他們就這么波瀾不驚地發了一個SOTA模型出來！就是這個k1.5多模態思考模型，性能實現有多逆天呢：在shortCoT模式下，Kimik1.5的多項能力，大幅超越了全球范圍內短思考SOTA模型GPT4o和Claude3.5Sonnet的水平，領先達到550%；在longCoT模式下，Kimik1.5的數學、代碼、多模態推理能力，也達到長思考SOTA模型OpenAIo1滿血版的水平！而且，這是Kimi...

1.什么是人臉識別？人臉識別技術，是基于人的臉部特征信息進行身份識別的一種生物識別技術。用攝像機或攝像頭采集含有人臉的圖像或視頻流，并自動在圖像中檢測和跟蹤人臉，進而對檢測到的人臉進行臉部的一系列相關技術，通常也叫做人像識別、面部識別。人臉識別技術主要是通過人臉圖像特征的提取與對比來進行的。人臉識別系統將提取的人臉圖像的特征數據與數據庫中存儲的特征模板進行搜索匹配，通過設定一個閾值，當相似度超過...

研究背景與意義在當前的人工智能研究中，如何提升大型語言模型（LLM）的推理能力是一個重要的課題。傳統的推理方法往往依賴于明確的推理步驟和形式化的問題定義，但這在處理復雜的自然語言任務時顯得力不從心。本文提出了一種名為“MindEvolution”的進化搜索策略，旨在通過利用語言模型生成、重組和優化候選答案，以應對自然語言規劃任務中的推理挑戰。研究的意義在于，它不僅提供了一種新的思路來提升LLM的推理深度，還展示了...

前不久，國產大模型平臺DeepSeek開源的v3模型，受到了AndrejKarpathy等業內大神的盛贊，在算法、數據等方面非常棒。現在，DeepSeek又重磅開源了R1模型。根據其公布測試數據顯示，在美國AIME2024測試中R1拿下79.8分，超過了OpenAI的o1模型的79.2分；在MATH500，R1為97.3分，同樣超過了o1的96.4分；在SWEbenchVerified，R1為49.2分再次超過了o1的48.9分。而在代碼測試Codeforces中，R1僅比o1模型低0.3分；MMLU低1分；GPQA低4.2分...

文章鏈接：https:arxiv.orgpdf2412.04449項目鏈接：https:github.comMCGNJUpMoD亮點直擊MoD機制的引入：通過選擇性處理重要視覺token，顯著減少計算負擔，提升模型效率。創新的TanhNorm與STRing設計：解決了MoD模塊在多模態訓練中的穩定性和性能問題，即使在有限數據下也能精準評估token的重要性。PRD策略：通過逐層減少保留token的比例，針對視覺token的冗余問題提供了有效的解決方案，大幅提高計算效率。全面的實驗驗證：在多...

本文將和你探討量子擴展的基本概念，它在機器學習中的優勢，以及我們將如何從中獲益。現如今，機器學習的速度比以往任何時候都快得多，也能夠解決那些曾被認為完全無法解決的問題。將來，在量子計算潛力的驅動下，人工智能（AI）模型會越來越大、越來越強，甚至會超越我們對其訓練的工具。說到模型訓練，其計算和能源的消耗成本日趨高啟。GPT4及其繼任者的大規模訓練所消耗的電力已與一個城市相當。此外，據報道，OpenAI的GPT3...

“訓練數據集的質量是大模型的主要生命線之一，數據集質量直接影響到模型的性能和效果”訓練一個高性能且表現較好的模型是由多種因素決定的，比如模型的設計，損失函數與優化函數的實現，訓練方式的選擇；當然也包括高質量的訓練數據。那么，怎么才能得到一個高質量的訓練數據集呢？這個就是我們今天需要討論的問題。訓練數據集的準備機器學習和深度學習模型的性能高度依賴于訓練數據的質量和數量；訓練數據的準備工作對于構建...

編輯伊風程序員鍵盤敲冒煙，小紅書翻譯功能這不是就來了嗎！之前大家各種吐槽美國人用的翻譯機器不準確，導致大家交流起來“人機感很重”，一些美網友還需要額外用ChatGPT才能實現無縫交流。這翻譯功能一出來，語言障礙什么的都不存在了。官方聲明足足有十萬點贊，很多外國友人也在評論區直呼中國速度！圖片雖然官方聲明只介紹了中譯英和英譯中，但這波小紅書的翻譯已經說是“萬物皆可翻”也不過分。翻譯小語種：經網友測試，不...

01、概述近年來，人工智能技術突飛猛進，但在計算效率與靈活性之間的平衡仍然是一個巨大挑戰。像GPT4這樣的多模態模型，盡管具有前所未有的強大能力，但也需要龐大的計算資源，這使得它們只能在高端服務器上運行，導致普通用戶，尤其是智能手機、平板電腦等邊緣設備的用戶，無法充分體驗這些技術的魅力。此外，像視頻分析或語音轉文本這樣的實時處理任務仍然面臨技術上的諸多難題。這些問題凸顯了開發既高效又靈活的AI模型的迫...

01、概述在人工智能的世界里，RetrievalAugmentedGeneration(RAG)框架因其能夠結合檢索式與生成式模型的優勢而備受矚目。RAG模型通過從外部數據源檢索相關信息，并以此生成基于上下文的回答，不僅提升了生成內容的準確性，還讓模型能夠處理大量復雜的信息。RAG的發展衍生出多個變體，每種變體針對不同領域的需求和挑戰進行了優化。本文將詳細解析九種RAG框架：標準RAG、糾錯RAG、推測RAG、融合RAG、自主RAG、自反RAG、圖譜RAG、...

01、概述人工智能，已經滲透進我們生活的方方面面，改變了我們的工作方式、生活習慣，甚至人際交往的模式。然而，盡管AI取得了長足的進步，依舊面臨許多挑戰。許多AI系統過度依賴云端基礎設施，帶來了隱私泄露的風險；有些系統用戶控制能力較弱，難以根據需求進行個性化定制；更有甚者，調整AI行為以滿足特定需求的難度常常大于預期。而在眾多先進模型中，性能往往被置于易用性之上，這使得許多用戶在本地環境中難以部署這些模...

出品51CTO技術棧（微信號：blog51cto）驚天大瓜來了！去年年底OpenAI推出o3推理，在數學、編碼、通用AGI方面都取得了令人的難以置信的類人甚至超人的進展。但就在昨天，大洋彼岸的一眾人工智能專家開始對“o3”的這些數據表示嚴重的懷疑，甚至將之比作“Theranos”時刻（一家建立在巨大謊言之上的公司，項目參與人員被迫保密，外界卻被蒙在鼓里）。因為事實證明，o3的發布者OpenAI恰恰資助了FrontierMath，同時可以訪問大部分數...

一、研究背景與意義近年來，大語言模型(LLMs)在醫療領域的應用展現出巨大潛力，特別是在疾病診斷和治療規劃等方面。然而，現有的醫學大語言模型在處理復雜臨床場景時，往往難以進行深度推理，尤其是在差異化診斷和個性化治療建議等方面存在明顯短板。本研究提出的FineMedLMo1模型，通過創新性地結合高質量合成醫學數據和長格式推理數據，采用監督微調(SFT)和直接偏好優化(DPO)技術，顯著提升了模型的醫學推理能力。二、技術創新...

1、什么是位置編碼在語言中，一句話是由詞組成的，詞與詞之間是有順序的，如果順序亂了或者重排，其實整個句子的意思就變了，所以詞與詞之間是有順序的。在循環神經網絡中，序列與序列之間也是有順序的，所以循環神經網絡中，序列與序列之間也是有順序的，不需要處理這種問題。但是在Transformer中，每個詞是獨立的，所以需要將詞的位置信息添加到模型中，讓模型維護順序關系。位置編碼位置編碼就是將helloworld!的token和位置...

如何建立有效的智能體？來自anthropic的官方AIAgent構建指南一文了解大模型廠商眼中的智能體，來自anthropic的AIAgent年度性總結到底什么是智能體？一篇anthropic官方AIAgent綜述看明白工作流和Agent有何區別？應該什么時候用工作流和Agent？Anthropic官方指南來了構建AIAgent用框架還是用工作流？Anthropic年度綜述智能體構建指北大模型廠商視角的AIAgent綜述，Anthropic圖文并茂多個案例教你構建有效智能體最近兩個月，全球大...