研究背景與動機(jī)本文提出了一種新的低秩適應(yīng)(LoRA)變體GoRA(GradientdrivenAdaptiveLowRankAdaptation)，通過梯度信息來自適應(yīng)地分配秩和初始化低秩適配器的權(quán)重。該方法在保持LoRA高可用性和效率的同時顯著提升了模型性能。現(xiàn)有問題秩的選擇問題：LoRA的性能很大程度上取決于秩的選擇，但增加秩會導(dǎo)致內(nèi)存使用量上升。初始化策略局限：現(xiàn)有的非零初始化方法要么需要重置全部權(quán)重，要么需要保存額外的初始化結(jié)果。可用性與效率的...

論文鏈接：https:arxiv.orgpdf2502.12150Git鏈接：https:github.comlocuslabllmidiosyncrasies亮點(diǎn)直擊高準(zhǔn)確率的模型區(qū)分：通過簡單的文本嵌入模型微調(diào)，實(shí)現(xiàn)了高達(dá)97.1%的分類準(zhǔn)確率，顯著高于隨機(jī)猜測的20.0%。語義保留變換下的強(qiáng)魯棒性：即使對文本進(jìn)行重寫、翻譯或總結(jié)等語義保留變換，分類準(zhǔn)確率仍保持在90%以上，表明LLM的獨(dú)特性不僅體現(xiàn)在詞匯層面，還體現(xiàn)在語義層面。開放描述生成：利用LLM作為評判者，生成每個模型獨(dú)...

01、概述最近，Google推出了全新的Gemini2.0FlashThinkingExperimental，并將其從之前僅在GoogleAIStudio、GeminiAPI以及VertexAI上的使用，擴(kuò)展到了Gemini應(yīng)用的用戶。這一變化無疑是人工智能領(lǐng)域的一個重要節(jié)點(diǎn)，它不僅為推理型模型帶來了更強(qiáng)大的功能，也重新定義了我們與AI互動的方式。02、什么是Gemini2.0FlashThinking？Gemini2.0FlashThinking是Google推出的一款專注于推理的AI模型。與傳統(tǒng)的語言模型不同，它的最大特點(diǎn)...

編者按：在構(gòu)建基于大語言模型的應(yīng)用時，你是否遇到過這樣的困擾：多個AIAgent協(xié)同工作時，如何確保它們的表現(xiàn)符合預(yù)期？如何有效監(jiān)控它們之間的互動質(zhì)量？這些問題不僅影響著產(chǎn)品的性能，更直接關(guān)系到用戶體驗(yàn)的好壞。本文作者基于實(shí)際項(xiàng)目經(jīng)驗(yàn)，深入剖析了Agentneo、ArizePhoenix和TruLens這三款主流評估工具的特點(diǎn)和應(yīng)用場景。通過具體的代碼示例和實(shí)踐建議，展示了如何從對話記錄、執(zhí)行流程、提示詞效果等多個維度來評估和...

全球歷史最悠久、規(guī)模最大的投資銀行之一高盛，在官網(wǎng)發(fā)布了一篇深度文章《China’sadvancescouldboostAI’simpactonglobalGDP》。高盛認(rèn)為，DeepSeek等幾家中國公司開發(fā)出成本低于現(xiàn)有產(chǎn)品的先進(jìn)生成式AI大模型，這一進(jìn)展將促使AI更快得到應(yīng)用，有助于該技術(shù)對全球經(jīng)濟(jì)增長產(chǎn)生更大影響。高盛全球經(jīng)濟(jì)團(tuán)隊(duì)聯(lián)合負(fù)責(zé)人約JosephBriggs指出，盡管目前尚不清楚中國研究人員是如何降低這些AI模型的成本，但較低的成本結(jié)構(gòu)可能會加速A...

本文將介紹提升擴(kuò)散模型質(zhì)量的六種方法，從而幫助終端用戶達(dá)到畫家級的精準(zhǔn)作圖水平。簡介StableDiffusion模型1.52.02.1XL1.0版本、DALLE模型、Imagen模型……在過去幾年中，擴(kuò)散模型在圖像生成方面展現(xiàn)出了驚人的質(zhì)量。然而，雖然這些模型在通用概念上產(chǎn)生了高質(zhì)量的圖像，但它們卻難以為更專業(yè)的查詢生成高質(zhì)量的圖像，例如生成訓(xùn)練數(shù)據(jù)集中不常見的特定風(fēng)格的圖像。我們可以在大量圖像上重新訓(xùn)練整個模型，從頭開始解釋解決...

01、概述隨著人工智能的飛速發(fā)展，AI代理（AgenticAI）無疑是未來商業(yè)領(lǐng)域中最值得關(guān)注的趨勢之一。2025年，AI代理的市場將迎來大爆發(fā)，為各行各業(yè)帶來前所未有的機(jī)遇。如果你正在尋找有潛力的商業(yè)項(xiàng)目，那么AI代理將是你理想的選擇。02、什么是AI代理？簡單來說，AI代理是一種能夠自動執(zhí)行任務(wù)的智能應(yīng)用，它們能夠幫助企業(yè)和個人節(jié)省大量的時間、精力和成本。這些AI代理不再僅僅是輔助工具，而是可以獨(dú)立操作，完成復(fù)雜任務(wù)的...

最近微信接入了deepseek，但是還在灰度中，無法體驗(yàn)，但是我發(fā)現(xiàn)了一款很好用AI產(chǎn)品叫問小白，是由快手前MMU負(fù)責(zé)人李巖開發(fā)的產(chǎn)品，速度快、完全免費(fèi)圖片官網(wǎng)體驗(yàn)地址：https:www.wenxiaobai.com這里給大家看一下小編的實(shí)測，問小白的回復(fù)速度，真的是非常的絲滑，一點(diǎn)也不卡頓。圖片而且全面支持各類文檔的分析，比如pdf、doc、xlsx、pptx等多種格式文檔，問小白助你輕松處理各類文件。我們試一下，給它上傳一個excel的數(shù)據(jù)表...

在2月18日，馬斯克旗下的xAI公司推出新一代大語言模型Grok3。馬斯克在發(fā)布會上自信滿滿地表示：“Grok3比Grok2強(qiáng)大一個數(shù)量級。”這話聽起來有點(diǎn)夸張，但看看Grok3的表現(xiàn)，還真不是吹牛。根據(jù)xAI工程師的說法，Grok3的訓(xùn)練量是Grok2的10倍，推理能力更是直接碾壓了包括ChatGPT和DeepSeek在內(nèi)的其他AI模型。馬斯克甚至放話：“Grok3是地球上最聰明的人工智能。”Grok3到底有多強(qiáng)？咱們先來看一組數(shù)據(jù)。在數(shù)學(xué)能力測試（AIME'24）...

1??像點(diǎn)外賣一樣詳細(xì)?模糊："怎么健身？"?正確："我160cm65kg，每天只能晚上8點(diǎn)鍛煉30分鐘，求一份在家就能做的減肚子計(jì)劃（要具體到每天練什么動作，做幾組）"2??像和鄰居聊天一樣說背景?沒頭沒尾："怎么寫家長會發(fā)言？"?正確："孩子期中考試數(shù)學(xué)不及格，我要在家長會上發(fā)言（既要承認(rèn)不足，又要表達(dá)信心，最后感謝老師，200字左右）"3??像列購物清單一樣要格式?混亂："介紹防曬知識"?正確："用123列表寫出：①日...

Apifox增強(qiáng)的SSE功能提升開發(fā)AI應(yīng)用的能力，更加高效地調(diào)試AI接口，同時直觀地展示模型推理的過程，真的很強(qiáng)大，趕緊下載Apifox，現(xiàn)在就去試試吧！「??Apifox??最新版本」Deepseek流式調(diào)試步驟第一步：導(dǎo)入接口在Deepseek申請APIKey后，保存下來先，并在??開發(fā)者文檔??復(fù)制cURL。將Apifox更新到最新版本后，以將上面的cURL導(dǎo)入到??Apifox??，注意??stream???字段的值需要為??true???，其中可在??messag...

一、背景Deepseekr1模型的爆火標(biāo)志著本地部署大模型的需求日益增長。本文主要探討如何優(yōu)化本地部署大模型的性能，并結(jié)合我們的實(shí)踐進(jìn)行評測分析，文章最后我們將分享如何在本地高效部署滿血版Deepseekr1大模型。在生產(chǎn)環(huán)境中，我們已部署專用的大模型推理集群，并對其性能進(jìn)行了全面優(yōu)化。對于大模型推理來說，性能優(yōu)化主要聚焦于兩個關(guān)鍵指標(biāo)：吞吐量與響應(yīng)時間(RT)。吞吐量傳統(tǒng)上，我們用每秒請求數(shù)（QPS）來衡量吞吐量，即系...

編輯言征出品51CTO技術(shù)棧（微信號：blog51cto）開年，各大科技巨頭都被DeepSeek狠狠沖擊已經(jīng)近三周。本周將會迎來各大公司的2024的Q4財(cái)報(bào)會議。百度率先公開了過去三個月取得的成績。2月18日晚，李彥宏在百度2024年Q4及全年財(cái)報(bào)電話會上，一股腦將百度的近況、轉(zhuǎn)型產(chǎn)品、行業(yè)判斷、未來模型開源、股票回購、利潤率等重要事項(xiàng)的看法，全盤托出，信息密度非常之高。大家不妨來看看百度透露了哪些大動作，以及接下來的AI布局和打法...

圖片趨勢判斷2月5日筆者對大模型行業(yè)發(fā)展的判斷：“總結(jié)一句話：大模型全棧都應(yīng)圍繞DeepSeek做生態(tài)”。之后見證芯片企業(yè)一擁而上，設(shè)備商爭先恐后，大模型廠家被動跟隨，應(yīng)用集體嗨翻天。芯片>編譯器>設(shè)備>大模型>Agent智能體，過去兩周國內(nèi)全面擁抱DeepSeek形勢如海嘯一般。2月16日微信接入DeepSeek則是標(biāo)志性事件，靈珠魔丸合體，官媒助力，同仇敵愾的感覺。下一步，DeepSeek需要規(guī)劃好版本發(fā)行的節(jié)奏，創(chuàng)新參數(shù)融合機(jī)制，減...

近期，OpenAI推出的DeepResearch（深度研究）功能引發(fā)了廣泛關(guān)注。該功能通過整合大模型、超級搜索和研究助理于一體，使得金融機(jī)構(gòu)能夠一鍵生成報(bào)告，科研人員能夠一鍵撰寫綜述，極大提升了效率。然而，由于企業(yè)場景中私有化數(shù)據(jù)的敏感性和成本考慮，如何將DeepResearch進(jìn)行開源的本地化部署，成為許多人的關(guān)注焦點(diǎn)。在這篇文章中，我們將對市場上模仿DeepResearch的開源項(xiàng)目進(jìn)行簡要分析，并結(jié)合Deepseek等主流開源模型，Zilli...

隨著AI技術(shù)的快速發(fā)展，企業(yè)對大模型一體機(jī)的需求不斷增加，尤其是在私有化部署和數(shù)據(jù)安全方面。DeepSeek開源模型適配完成并上線后，云上訪問量和用量激增。除卻GPU云主機(jī)外，配套的其他產(chǎn)品也有相應(yīng)的增長，比如并行文件存儲UPFS、UModelVerse模型服務(wù)平臺、微調(diào)服務(wù)平臺等。DeepSeek大模型最大的優(yōu)勢在于開源與低成本，通過國產(chǎn)芯片算力，實(shí)現(xiàn)AI大模型的應(yīng)用，可以讓中國在更多領(lǐng)域、更多行業(yè)快速落地AI應(yīng)用，但仍需要應(yīng)用能...

AI從被大家飯前飯后提起，到現(xiàn)在大家似乎對AI已經(jīng)失去耐心，但AI的能力不可否認(rèn)給大家在效率、泛娛樂方面都帶了前所未有的新體驗(yàn)，我們也都認(rèn)同AI的潛力是巨大的。DeepSeek近期推出V3R1JanusPro等多款大模型，憑借卓越性能和創(chuàng)新技術(shù)，在行業(yè)內(nèi)引發(fā)強(qiáng)烈反響，效果顯著“出圈”。其中V3正式訓(xùn)練成本僅為557.6萬美元，約為GPT4預(yù)算的120；R1性能比肩OpenAIo1,但API服務(wù)定價(jià)為每百萬輸入tokens1元（緩存命中）4元（緩存未命中），...

出品51CTO技術(shù)棧（微信號：blog51cto）最近，民營企業(yè)家座談會成為關(guān)注的焦點(diǎn)。對科技圈來說，科技大佬們是此次座談會的“主力軍”，領(lǐng)域覆蓋了AI、新能源、半導(dǎo)體芯片、新能源汽車、機(jī)器人等代表新質(zhì)生產(chǎn)力。座談會后，雷軍在采訪中宣布，已經(jīng)在思考AI技術(shù)的終端落地問題了。“我們小米在創(chuàng)業(yè)的15年來，一直聚焦在手機(jī)、汽車、智能家居、智能制造這些領(lǐng)域。我們要下決心把AI這樣的技術(shù)怎么能夠落地到我們各個終端產(chǎn)品上，能夠...

最近在看一篇github上大佬的文章，從0開始訓(xùn)練llama3，覺得對于《從0開發(fā)大模型》有點(diǎn)幫助，于是翻譯一下，發(fā)現(xiàn)其中很多內(nèi)容當(dāng)前系列文章的知識點(diǎn)相似。原文：https:github.comnaklechallama3fromscratch其中metallamaMetaLlama38B文件地址：https:huggingface.cometallamaMetaLlama38Btreemainoriginal1、Tokenizer原始代碼沒有實(shí)現(xiàn)tokenizer，而是使用llama3的tokenizer.model，實(shí)現(xiàn)代碼如下：執(zhí)行：pipinstallblobfile執(zhí)行：...

DeepSeek大模型憑借卓越的性能和開源特性，引發(fā)了行業(yè)內(nèi)外的廣泛關(guān)注。自2025年1月20日推出DeepSeekR1以來，其下載量迅速攀升，僅20天內(nèi)日活用戶就突破了2000萬。目前，DeepSeek日活已經(jīng)突破3000萬。鑒于當(dāng)前用戶的使用熱情，以至于DeepSeek經(jīng)常出現(xiàn)繁忙的狀態(tài)。當(dāng)然隨著更多企業(yè)引入DeepSeek，現(xiàn)在已經(jīng)流出了的平替方案，可解用戶燃眉之急。只是隨著平替方案的出現(xiàn)，又引起了一場”真假滿血“之爭，自然更多用戶希望能體驗(yàn)滿血...