近年來，以ChatGPT、GPT4為代表的大規(guī)模模型技術(shù)掀起了人工智能發(fā)展的新浪潮。這些參數(shù)量達千億級的智能系統(tǒng)展現(xiàn)了驚人的創(chuàng)造力，但其高昂的能源消耗和碳排放問題也引發(fā)了廣泛關(guān)注。在當(dāng)前氣候變化日益嚴峻的背景下，實現(xiàn)AI大模型的可持續(xù)發(fā)展已成為全球科技界亟待解決的核心議題。本文將聚焦于支撐這一目標(biāo)的五大關(guān)鍵研究方向，探討人工智能向綠色智能進化的可行路徑。一、理論創(chuàng)新：構(gòu)建高效能數(shù)學(xué)框架神經(jīng)網(wǎng)絡(luò)本質(zhì)上是通過微...

點擊查看更多AIforScience應(yīng)用案例：https:hyper.aicn北京時間3月18日，已經(jīng)升格為AI行業(yè)盛會的NVIDIAGTC2025拉開序幕，但或許是因為缺乏重磅產(chǎn)品的「炸場」，首日的線下論壇與展覽并未扭轉(zhuǎn)英偉達股價的頹勢，甚至仍出現(xiàn)了下跌。因此，本就萬眾矚目的「主題演講」更是被寄予了更多關(guān)注與期望。誠然，英偉達股價的波動除了與DeepSeek引發(fā)的「算力需求下降」猜想有關(guān)，也或多或少受到了美股大盤回調(diào)的影響。但無論是何原因，作為...

AMD在官網(wǎng)開源了最新小參數(shù)模型Instella3B。比較特別的是，這是一個基AMDInstinct?MI300XGPU從頭訓(xùn)練的模型。根據(jù)測試數(shù)據(jù)顯示，Instella3B的性能超過了Llama3.23B、Gemma22B，可以媲美阿里開源的Qwen2.53B，這也證明了AMD的GPU也能訓(xùn)練出高性能的大模型。開源地址：https:huggingface.coamdInstella3BInstella3BSFT是經(jīng)過監(jiān)督微調(diào)的模型，使用了89.02億tokens的數(shù)據(jù)，增強了遵循指令的能力。Instella3BInstruct則是經(jīng)過直接偏...

今天凌晨，全球AI領(lǐng)導(dǎo)者英偉達（Nvidia）在美國圣何塞舉辦了“GTC2025”全球產(chǎn)品、開發(fā)者大會，涵蓋大模型、AIAgent、實體機器人、AI專用芯片、量子計算等技術(shù)分享。其中，英偉達在官網(wǎng)宣布與Oracle（甲骨文）達成技術(shù)合作，提供160多種原生AI工具和100多個微服務(wù)，幫助企業(yè)構(gòu)建超復(fù)雜、無縫銜接的Agent應(yīng)用，將復(fù)雜、重復(fù)的數(shù)字業(yè)務(wù)實現(xiàn)自動化。還開源了一個專用于Agent的基礎(chǔ)模型LlamaNemotron，目前，微軟、埃森哲、德勤、SA...

文章鏈接:https:arxiv.orgpdf2503.13434項目鏈接:https:liyaoweistu.github.ioprojectBlobCtrl亮點直擊BlobCtrl，一個新穎的統(tǒng)一框架，首次通過元素級生成和編輯實現(xiàn)了對視覺元素的精確和靈活操控，同時有效保留了其內(nèi)在特性。設(shè)計了一種創(chuàng)新的雙分支架構(gòu)，結(jié)合精心設(shè)計的訓(xùn)練范式和策略，在保持外觀保真度和實現(xiàn)視覺操控中的創(chuàng)意多樣性之間達到了最佳平衡。引入了BlobData，這是一個專門為訓(xùn)練元素級視覺模型而策劃的大規(guī)模數(shù)...

01、為什么Instella值得全行業(yè)關(guān)注？2025年3月5日，AMD突然甩出一枚重磅炸彈——正式發(fā)布Instella系列30億參數(shù)開源模型。這個消息在AI圈掀起軒然大波，因為它不僅打破了"大模型天價"的固有認知，更重新定義了開源模型的性能天花板。三大顛覆性突破：?性能反殺閉源模型：在MMLU數(shù)學(xué)推理測試中，Instella3BInstruct以73.92%的準(zhǔn)確率力壓Llama3.23B的77.03%，在GSM8K數(shù)學(xué)題上更是把開源模型的平均成績從10%直接拉到59.82%！?訓(xùn)練...

在如今快節(jié)奏的數(shù)字時代，內(nèi)容創(chuàng)作的重要性不言而喻。無論是企業(yè)還是個人，都需要在各大平臺上持續(xù)輸出高質(zhì)量的內(nèi)容，以吸引關(guān)注、提升影響力。然而，從選題、調(diào)研到撰寫和優(yōu)化，這一系列流程往往耗費大量時間和精力。如果能有一個得力助手，幫助我們輕松搞定這些任務(wù)，那該多好啊！別急，n8n就是這樣一個強大的工具，它能讓你輕松搭建AI代理，實現(xiàn)內(nèi)容創(chuàng)作的自動化，而且完全不需要寫代碼！接下來，就讓我們一起深入了解n8n，...

一、AI智能體究竟是什么？AI智能體是一組復(fù)雜功能的集合，軟件代碼通過與大語言模型（LLMs）交互來執(zhí)行這些功能。這些功能涵蓋范圍極廣，從簡單的聊天、搜索，到復(fù)雜的針對某一主題進行深度研究并撰寫一篇經(jīng)過SEO優(yōu)化的博客文章等操作。AI智能體代表了人工智能領(lǐng)域的重大進步，讓大語言模型有了更具活力與多樣性的應(yīng)用方式。深入探究AI智能體的核心，會接觸到AI領(lǐng)域中的“函數(shù)調(diào)用”這一關(guān)鍵概念。ChatGPT的開發(fā)者OpenAI在2023...

編者按：模型在生成長序列文本時，鍵值緩存占用的顯存是否讓GPU不堪重負？如何在保持模型性能的同時有效降低大語言模型推理階段的內(nèi)存占用？每一次模型推理，大量重復(fù)計算和龐大的內(nèi)存占用不僅大幅增加了運營成本，還嚴重限制了模型的批處理能力和響應(yīng)速度。多查詢注意力機制（MQA）和分組查詢注意力機制（GQA）雖能部分緩解問題，但往往以犧牲模型性能為代價。DeepSeek團隊在模型優(yōu)化過程中開發(fā)的多頭潛在注意力機制（MLA）為...

出品51CTO技術(shù)棧（微信號：blog51cto）今年GTC大會，老黃的主題演講聊了很長時間，一個人撐起了相當(dāng)于一部電影哪吒2的時長，近140分鐘。用黃仁勛開場自己的話說：“沒有腳本，沒有提詞器，卻有很多令人難以置信的事情要跟大家談。”先說整體感受，老黃這次科普密度極大，可以說是最為賣力的一次演講。開場靈魂拷問：推動AI發(fā)展的三個問題跟去年不同的是，黃教主這次沒有上來就開大，而是在簡單介紹了感知AI、生成AI、代理AI、物...

最近關(guān)于MCP的介紹文章越來越多了，我也做了一個系統(tǒng)性的學(xué)習(xí)，并且寫了一些代碼。本文主要介紹核心概念，后面有機會做一些實操分享。隨著人工智能（AI）技術(shù)的飛速發(fā)展，各種大型語言模型（LLM）不斷涌現(xiàn)，如何讓這些模型更便捷、更高效地與外部世界連接，成為構(gòu)建強大AIAgent的關(guān)鍵命題。模型上下文協(xié)議(MCP)正是在這種背景下誕生的——它致力于為AIAgent和外部世界（數(shù)據(jù)庫、API、文件系統(tǒng)等）提供一個通用、標(biāo)準(zhǔn)化的交互方...

本文全面介紹用于檢索增強生成（RAG）開發(fā)管道的輕量級幻覺檢測器LettuceDetect，并探討如何利用ModernBERT模型的擴展上下文窗口構(gòu)建用于幻覺檢測的標(biāo)記級分類器。簡介最近，我們團隊推出了LettuceDetect框架，這是一款用于檢索增強生成（RAG）開發(fā)管道的輕量級幻覺檢測器。它是一種基于??ModernBERT??模型構(gòu)建的基于編碼器的模型，根據(jù)MIT許可證發(fā)布，帶有現(xiàn)成的Python包和預(yù)訓(xùn)練模型。?是什么：LettuceDetect是一個標(biāo)記...

你能想象嗎？未來，家里的機器人不僅能聽懂你的指令，幫你打掃衛(wèi)生、照顧老人小孩，還能像個貼心小助手一樣，根據(jù)你的心情和需求，主動提供合適的服務(wù)；游戲里的NPC不再是按部就班的“工具人”，而是能和你進行深度互動，給你帶來沉浸式的游戲體驗；在醫(yī)療領(lǐng)域，智能助手能快速準(zhǔn)確地輔助醫(yī)生診斷病情，讓醫(yī)療服務(wù)更加高效和便捷。這些看似科幻電影里的場景，正隨著智能體AI（AgentAI）的發(fā)展逐漸成為現(xiàn)實。今天，咱們就一起來...

研究背景是大語言模型雖然厲害，但在做復(fù)雜推理和獲取最新信息時不太給力。現(xiàn)有的和搜索引擎結(jié)合的方法，像檢索增強生成和把搜索引擎當(dāng)工具用，都有各自的問題。重要意義在于提出的SEARCHR1框架能讓大語言模型在推理的時候更好地利用搜索引擎，提高解決復(fù)雜問題的能力，而且還對相關(guān)訓(xùn)練策略有新的發(fā)現(xiàn)，對大語言模型的發(fā)展有很大幫助。文章針對大語言模型（LLMs）在復(fù)雜推理和獲取外部最新信息方面的不足，提出SEARCHR1強化學(xué)...

1.背景37.2%——這是AI在計算機與數(shù)學(xué)相關(guān)職業(yè)中的使用比例，遠高于其他任何行業(yè)。為什么軟件開發(fā)成為AI應(yīng)用的主戰(zhàn)場？近日，AI大模型公司Anthropic發(fā)布了一項重要研究論文《WhichEconomicTasksarePerformedwithAIEvidencefromMillionsofClaudeConversations》（哪些經(jīng)濟任務(wù)正在使用AI？來自數(shù)百萬Claude對話的證據(jù)）。這項研究于2024年第三季度完成，分析了超過400萬次真實的Claude.ai對話，通過美國勞工部ONET數(shù)據(jù)庫的任務(wù)和...

概述隨著人工智能技術(shù)的快速發(fā)展，AI測試工具正在成為提升軟件研發(fā)效能的關(guān)鍵。本文將介紹8款備受矚目的AI測試工具，幫助你提高測試效率、降低維護成本，并實現(xiàn)更全面的測試覆蓋。1.為什么需要AI測試工具？在軟件開發(fā)中，AI代碼編輯器（如Cursor、Windsurf等）已經(jīng)顯著提升了開發(fā)效率。然而，開發(fā)速度的提升并不等同于軟件質(zhì)量的提升。未經(jīng)充分測試的軟件可能隱藏著嚴重的缺陷，影響用戶體驗甚至造成經(jīng)濟損失。AI測試工具的核心...

現(xiàn)在AIAgent開發(fā)需求激增，F(xiàn)astGPT、Dify和字節(jié)跳動旗下的Coze成為市面上比較流行的三大工具。我從技術(shù)架構(gòu)、功能適配性、生態(tài)能力等維度進行對比分析，為自己整理的同時，給大家一些簡單參考。一、核心功能與技術(shù)對比維度FastGPTDifyCoze公司環(huán)界云計算語靈科技字節(jié)跳動定位開源知識庫問答系統(tǒng)開源LLM應(yīng)用開發(fā)平臺（BaaS+LLMOps）AI聊天機器人開發(fā)平臺核心能力Flow工作流編排、多格式知識庫多模型調(diào)度、可視化應(yīng)用編排插件生態(tài)...

一、Xinference簡介XorbitsInference（Xinference）是一個開源的分布式推理框架，專為大規(guī)模模型推理任務(wù)設(shè)計。它支持大語言模型（LLM）、多模態(tài)模型、語音識別模型等多種模型的推理，極大簡化了這些模型的部署過程。二、XinferenceDocker部署在部署Xinference時，選擇使用Docker容器可以帶來許多便利。首先，需要拉取Xinference的Docker鏡像文件，但請注意，該鏡像文件較大，約為17.7GB，拉取過程可能需要較長時間。拉取命令如...

軟件安裝總共需要安裝三個軟件，分別為Ollama、DockerDesktop、OpenWebUIOllama介紹：Ollama是一款開源工具，專注于簡化大型語言模型（LLM）在本地環(huán)境中的部署與運行。它支持多種主流模型（如Llama3、Mistral、Gemma等），提供跨平臺兼容性（macOSLinuxWindows），通過命令行實現(xiàn)快速安裝與交互。其核心優(yōu)勢在于隱私保護（數(shù)據(jù)無需上傳云端）和可定制性，允許用戶微調(diào)模型參數(shù)或加載自定義模型。開發(fā)者和研究者可借助其輕量化...

剛剛得到消息，阿里將很快推出一系列AI原生應(yīng)用，內(nèi)部知情人士表示：公司內(nèi)部相信“基于AI的殺手級應(yīng)用可能很快就出現(xiàn)，甚至?xí)榷兑舾軞g迎”。知情人士透露，阿里所有部門已被告知，他們2025年的績效將通過如何利用AI促進增長來評估。淘寶和天貓在內(nèi)的核心電子商務(wù)部門被鼓勵采用更多的AI技術(shù)。各團隊正在與通義千問的工程師密切合作，共同開發(fā)能夠提高效率和用戶體驗的功能。知情人士稱，該公司還在開發(fā)一系列AI原生應(yīng)用，...