編輯言征出品51CTO技術(shù)棧（微信號：blog51cto）進(jìn)入下半年，國內(nèi)大模型廠商們都在忙什么？11月12日上午9點(diǎn)35分，百度世界大會如約而至。李彥宏身著白襯衫，信步走入在上海世博中心的主會場，用一個小時的時間為人們展示了大模型進(jìn)入2024年之后，百度最新取得的一些產(chǎn)品技術(shù)進(jìn)展。李彥宏全程一個小時的演講，回顧了過去24個月全球生成式人工智能變革帶來了的大爆發(fā)，激動地喊出了放眼業(yè)內(nèi)似乎還不太敢喊出的一句slogon：“AI應(yīng)用...

文章鏈接：https:arxiv.orgpdf2411.03286工程鏈接：https:github.comfkyyyyDiT4Edit（待開源）亮點(diǎn)直擊基于基于Transformer的擴(kuò)散模型在圖像編輯中的優(yōu)勢，提出了DiT4Edit，第一個不需要調(diào)優(yōu)的基于擴(kuò)散Transformer（DiT）的圖像編輯框架。為了適應(yīng)基于Transformer的去噪計(jì)算機(jī)制，首先提出了統(tǒng)一的注意力控制機(jī)制，以實(shí)現(xiàn)圖像編輯。引入了DPMSolver反演和圖像塊合并策略，以減少推理時間。大量定性和定量的實(shí)驗(yàn)結(jié)果證明了DiT4Ed...

文章鏈接：https:arxiv.orgpdf2411.00776項(xiàng)目鏈接：https:yucornetto.github.ioprojectsrar.html代碼&模型鏈接：https:github.combytedance1dtokenizer亮點(diǎn)直擊RAR（隨機(jī)排列自回歸訓(xùn)練策略），這是一種改進(jìn)的訓(xùn)練策略，使得標(biāo)準(zhǔn)的自回歸圖像生成器能夠?qū)崿F(xiàn)SOTA性能。引入雙向上下文學(xué)習(xí)：RAR通過最大化所有可能的分解順序的期望似然值，打破了自回歸模型在視覺任務(wù)中的單向上下文限制，使模型能夠在圖像生成中更有效地利用雙向...

TorchServe是PyTorch中將模型部署到生產(chǎn)環(huán)境的一個解決方案。它用HTTP或HTTPSAPI封裝模型，可以處理多種任務(wù)，包括為部署模型分配workers、負(fù)責(zé)客戶端和服務(wù)器之間通信等。10月份發(fā)布的TorchServe0.12增加了對GenAI的支持，簡化了大語言模型的部署，增加了對主流模型引擎的內(nèi)置支持，如vLLM和TRTLLM。vLLM引擎是目前執(zhí)行LLM的最佳方式之一，TorchServe為vLLM部署到生產(chǎn)環(huán)境中提供了必要的一些功能，比如自定義metric、模型版本...

本文將從早期的正弦算法跟蹤分析到當(dāng)前最新的RoPE和ALiBi算法，介紹如何通過先進(jìn)的位置編碼來克服LLM開發(fā)中轉(zhuǎn)換器的局限性。引言近年來開發(fā)出的機(jī)器學(xué)習(xí)模型的指數(shù)級進(jìn)步與轉(zhuǎn)換器架構(gòu)的出現(xiàn)密切相關(guān)。以前，人工智能科學(xué)家必須先為手頭的每項(xiàng)任務(wù)選擇架構(gòu)，然后再進(jìn)行超參數(shù)優(yōu)化以獲得最佳性能。限制科學(xué)家們潛力的另一個挑戰(zhàn)是難以處理數(shù)據(jù)的長期依賴性，難以解決梯度消失、長序列上下文丟失以及因局部約束而無法捕獲全局上下...

1.什么是BERT？在不斷發(fā)展的自然語言處理（NLP）領(lǐng)域，一項(xiàng)名為BERT的突破性創(chuàng)新已經(jīng)出現(xiàn)，改變了游戲規(guī)則。BERT代表BidirectionalEncoderRepresentationsfromTransformers，不僅僅是機(jī)器學(xué)習(xí)術(shù)語海洋中的另一個首字母縮略詞。它代表了機(jī)器理解語言方式的轉(zhuǎn)變，使它們能夠理解使人類交流豐富而有意義的錯綜復(fù)雜的細(xì)微差別和上下文依賴關(guān)系。2.為什么BERT很重要？想象一句話：“她拉小提琴的時候很漂亮。傳統(tǒng)的語言模型會從左到...

FASTFLOW:FlexibleAdaptiveCongestionControlforHighPerformanceDatacentersFASTFLOW：針對高性能數(shù)據(jù)中心的靈活自適應(yīng)擁塞控制??https:arxiv.orgabs2404.01630??發(fā)表時間：2024年9月20日一、問題背景現(xiàn)代數(shù)據(jù)中心，特別是運(yùn)行大規(guī)模AI訓(xùn)練和HPC應(yīng)用的數(shù)據(jù)中心，對網(wǎng)絡(luò)性能的要求越來越高。這些工作負(fù)載通常會產(chǎn)生突發(fā)性的、同步的流量，對傳統(tǒng)的擁塞控制算法提出了挑戰(zhàn)。現(xiàn)有擁塞控制算法的不足：基于延遲的算法：如Swift...

一、前言2022年底，OpenAI推出的聊天機(jī)器人ChatGPT一經(jīng)上線，便迅速引發(fā)了全球范圍內(nèi)的熱議與追捧。僅在上線五天內(nèi)，注冊用戶便突破了百萬大關(guān)。ChatGPT的成功不僅展示了大語言模型（LLM）的強(qiáng)大能力，也標(biāo)志著人類正式邁入了一個全新的人工智能時代。本文將以ChatGPT為切入點(diǎn)，回顧GPT模型的發(fā)展歷程，深入解析大語言模型（LLM）的構(gòu)成及其工作原理。同時，我們將涵蓋自然語言處理（NLP）、深度學(xué)習(xí)、Transformer等相關(guān)知識，...

最近，OpenAI的預(yù)訓(xùn)練模型ChatGPT給人工智能領(lǐng)域的研究人員留下了深刻的印象和啟發(fā)。毫無疑問，它又強(qiáng)又聰明，且跟它說話很好玩，還會寫代碼。它在多個方面的能力遠(yuǎn)遠(yuǎn)超過了自然語言處理研究者們的預(yù)期。于是我們自然就有一個問題：ChatGPT是怎么變得這么強(qiáng)的？它的各種強(qiáng)大的能力到底從何而來？本篇文章試圖剖析ChatGPT的突現(xiàn)能力（EmergentAbility），追溯這些能力的來源，希望能夠給出一個全面的技術(shù)路線圖，來說明GPT3.5模...

OpenAI的新戰(zhàn)略泄露，揭示了他們正在開發(fā)兩個強(qiáng)大的新模型：草莓和獵戶座，這兩者都將推動人工智能領(lǐng)域的巨大進(jìn)步。本文將深入分析OpenAI的戰(zhàn)略，解讀這些模型背后的技術(shù)，以及它們可能帶來的潛在影響。人工智能的困境：推理能力的缺失大型語言模型(LLM)的能力常常被描述為“黑魔法”，但實(shí)際上它們只是基于一個簡單的原理：模式匹配。它們只是在訓(xùn)練過程中學(xué)習(xí)了數(shù)據(jù)中的模式，并根據(jù)這些模式進(jìn)行預(yù)測。然而，這種模式匹配能力...

?“生成式AI或者說AIGC的本質(zhì)是一種基于概率分布的數(shù)據(jù)表征技術(shù)”最近一段時間一直在做AIGC(人工智能生成內(nèi)容)方面的應(yīng)用，而AIGC屬于生成式AI的范疇；剛開始只是把這些生成式AI拿過來用一下，但隨著對大模型了解的加深，突然發(fā)現(xiàn)生成式AI好像也沒有那么簡單。比如說，生成式AI是怎么實(shí)現(xiàn)的？可能有人會這么回答，是基于Transformer等架構(gòu)實(shí)現(xiàn)，基于概率分布的一種模型。當(dāng)然，這么說好像也沒錯，但非生成式AI又是怎么實(shí)現(xiàn)的呢...

?“打造一款模型是一件非常復(fù)雜的事情，設(shè)計(jì)的問題也非常非常多，因此大家要做好心理準(zhǔn)備”這段時間寫的文章主要都在講大模型的應(yīng)用問題，以及自己在工作中遇到的一些問題；而今天我們就從大模型服務(wù)的角度，來思考一下打造一款大模型需要經(jīng)過哪些步驟，也就是怎么打造一款大模型。怎么打造一款大模型？可能不同的人對大模型有不同的理解，不同的企業(yè)實(shí)現(xiàn)大模型的方式可能也不太一樣；但其大體上的步驟和過程還是差不多的。打...

01、概述在當(dāng)今人工智能的浪潮中，多模態(tài)模型的崛起為我們帶來了前所未有的創(chuàng)新可能性。最近，DeepSeekAI推出了其最新力作——Janus，這是一款具備強(qiáng)大圖像生成能力的多模態(tài)模型，擁有13億參數(shù)。這款模型的問世，將進(jìn)一步推動AI在多個領(lǐng)域的應(yīng)用，本文將帶您深入了解Janus的獨(dú)特之處及其廣泛的應(yīng)用前景。02、JanusJanus的命名靈感源于羅馬神話中的雙面神Janus，象征著過渡與共存。這一命名不僅體現(xiàn)了模型的雙重功能，還反映了其...

01、概述在過去的兩三年中，人工智能領(lǐng)域經(jīng)歷了令人矚目的發(fā)展，尤其是在大語言模型、擴(kuò)散模型和多模態(tài)技術(shù)等方面。其中，我對智能代理工作流產(chǎn)生了濃厚的興趣。今年初，Coursera的創(chuàng)始人、深度學(xué)習(xí)先鋒AndrewNg發(fā)了一條推特：“智能工作流將推動今年的AI巨大發(fā)展”。自那時起，智能代理領(lǐng)域的進(jìn)展令人驚嘆，許多人開始構(gòu)建自主代理和多代理架構(gòu)。02、什么是REAcT提示？REAcT代表Reasoning（推理）、Acting（行動）和Thinking（...

近年來，大型語言模型LargeLanguageModels（LLM）的研究取得了顯著的進(jìn)展（例如GPT3，LLaMa，ChatGPT，GPT4），這些模型在各項(xiàng)自然語言處理（NLP）任務(wù)上展現(xiàn)了出色的性能。通過在海量數(shù)據(jù)上預(yù)訓(xùn)練，LLM獲得了豐富的知識以及強(qiáng)大的推理能力。只需要輸入一些用戶指令，這些模型就可以解析指令、進(jìn)行推理并給出符合用戶預(yù)期的回答。這些能力背后蘊(yùn)含著眾多關(guān)鍵思想和技術(shù)，包括指令微調(diào)（InstructionTuning），上下文學(xué)習(xí)（InCont...

論文鏈接：https:arxiv.orgpdf2410.18035低秩適應(yīng)（LoRA）及其專家混合（MOE）變體是非常有效的參數(shù)高效微調(diào)（PEFT）方法。然而，由于在Transformer層中添加了LoRA模塊和MOErouters，這些方法在多租戶環(huán)境中引入了顯著的延遲。為了解決這個問題，本文提出了低秩適應(yīng)的混合（MiLoRA），一種新穎且高效的LoRA變體。MiLoRA與之前的MOE風(fēng)格LoRA方法不同之處在于將每個LoRA模塊視為一個專家，并采用了一種基于提示的router機(jī)制。該機(jī)...

編輯言征出品51CTO技術(shù)棧（微信號：blog51cto）2025，OpenAI會有哪些動作？SamAltman定下了哪些目標(biāo)？如何看待自“宮斗”后相創(chuàng)始員工離職潮，以及大模型創(chuàng)業(yè)公司的壁壘和未來在哪里？近日，YC總裁GarryTan與OpenAICEOSamAltman展開了一場創(chuàng)業(yè)對話，Sam回憶了自己當(dāng)年險(xiǎn)些被YC創(chuàng)始人拒之門外的那場趣談，強(qiáng)調(diào)了當(dāng)前AI技術(shù)的發(fā)展還遠(yuǎn)未達(dá)到頂峰，當(dāng)然也提及了當(dāng)下OpenAI正處于轉(zhuǎn)型過度期的陣痛，不過在Sam看來，OpenAI已經(jīng)找到了...

本文介紹了長短期記憶網(wǎng)絡(luò)（LSTM）和門控循環(huán)單元（GRU）這兩種流行的RNN變體的最小化版本——minLSTM和minGRU，這兩個模型在訓(xùn)練期間可以完全并行，并且使用的參數(shù)顯著減少，使它們成為Tansformer的快速和有效的替代方案。Transformer如今已經(jīng)成為大型語言模型（LLM）和其他序列處理應(yīng)用程序的主要架構(gòu)。然而，它們固有的二次方計(jì)算復(fù)雜性成為了將Transformer擴(kuò)展至超長序列時的巨大障礙，顯著增加了成本。這引發(fā)了人們對具有...

謝邀，人在美國，剛下飛機(jī)。最近讀到一篇很有價(jià)值的論文《ASimpleFrameworkforContrastiveLearningofVisualRepresentations》，下面就為大家詳細(xì)解讀一下這篇論文。一、論文背景與概述在計(jì)算機(jī)視覺領(lǐng)域，學(xué)習(xí)有效的視覺表示一直是一個核心問題。傳統(tǒng)的有監(jiān)督學(xué)習(xí)方法需要大量的標(biāo)注數(shù)據(jù)，而獲取標(biāo)注數(shù)據(jù)往往是昂貴和耗時的。對比學(xué)習(xí)作為一種無監(jiān)督學(xué)習(xí)方法，近年來受到了廣泛關(guān)注。本文提出了一個簡單的對比學(xué)習(xí)框架，旨在從大...

好久沒分享過綜述了，今天分享一個最新的RAG綜述，來自卡內(nèi)基梅隆大學(xué)。標(biāo)題：AComprehensiveSurveyofRetrievalAugmentedGeneration(RAG):Evolution,CurrentLandscapeandFutureDirections1.引言1.1RAG技術(shù)概述檢索增強(qiáng)生成技術(shù)（RAG）主要由兩個關(guān)鍵部分構(gòu)成：其一是檢索組件，主要職責(zé)是從外部數(shù)據(jù)庫（如維基百科或私有庫）中提取相關(guān)信息，通過密集向量表征進(jìn)行文檔識別；其二是生成組件，基于transformer結(jié)構(gòu)，對獲取的信息...