今天給大家介紹一篇最新的大模型+時(shí)間序列預(yù)測工作，由康涅狄格大學(xué)發(fā)表，提出了一種將時(shí)間序列在隱空間和NLP大模型對齊，并利用隱空間prompt提升時(shí)間序列預(yù)測效果的方法。論文標(biāo)題：S2IPLLM:SemanticSpaceInformedPromptLearningwithLLMforTimeSeriesForecasting下載地址：https:arxiv.orgpdf2403.05798v1.pdf1.問題背景大模型在時(shí)間序列上的應(yīng)用越來越多，主要分為兩類：第一類使用各類時(shí)間序列數(shù)據(jù)訓(xùn)練一個(gè)時(shí)間序列領(lǐng)域自己...

通過本文，你將了解如何借助開源庫AutoGloon成功勝出Kaggle競賽并學(xué)習(xí)擊敗其他對手的技巧。此外，你還會了解到基于AutoGloon框架僅需4行代碼足可以擊敗99%的數(shù)據(jù)科學(xué)家。引言在兩項(xiàng)受歡迎的Kaggle比賽中，AutoGloon僅在對原始數(shù)據(jù)進(jìn)行了4小時(shí)的訓(xùn)練后就擊敗了99%的參賽數(shù)據(jù)科學(xué)家(AutoGloon團(tuán)隊(duì)，《AutoGloon：將AutoML用于文本、圖像和表格數(shù)據(jù)》，2020年)。上面這句話摘自AutoGloon的研究論文(https:arxiv.orgabs2003.06505)...

傳統(tǒng)RAGLLM預(yù)訓(xùn)練和微調(diào)一般都是基于公開的互聯(lián)網(wǎng)數(shù)據(jù)，不可能包含公司內(nèi)部私有數(shù)據(jù)，如果你問有關(guān)某公司的運(yùn)營情況，直接基于模型參數(shù)生成的回答可能和胡說八道沒什么兩樣。RAG（RetrievalAugmentedGeneration）的思想就是將私有數(shù)據(jù)作為參考信息傳遞給LLM。這些私有數(shù)據(jù)除了作為一種補(bǔ)充信息，也可以作為一種限制，能避免LLM產(chǎn)生幻覺。參考信息一般以文本、圖片等非結(jié)構(gòu)化形式存在。RAG的流程是：1.首先要將文本劃分成片段，...

學(xué)習(xí)機(jī)器學(xué)習(xí)的人大部分都知道怎么設(shè)計(jì)并訓(xùn)練一個(gè)模型，但開發(fā)模型的目的是為了解決業(yè)務(wù)問題，所以怎么使用大模型也是重中之重。剛訓(xùn)練好的大模型事實(shí)上雖然可以用，但由于沒有用戶接口，所以只能自己用，無法對外提供服務(wù)；所以，剛訓(xùn)練好的大模型需要經(jīng)過一些處理才可以使用，包括數(shù)據(jù)預(yù)處理，接口開發(fā)等。huggingface官網(wǎng)地址：https:huggingface.comodels需科學(xué)上網(wǎng)01、大模型加載與保存訓(xùn)練一個(gè)大模型，在訓(xùn)練完成之后最重...

在數(shù)據(jù)安全和隱私保護(hù)日益受到重視的背景下，私有化部署大模型的需求日益增長。MintplexLabsInc.推出的開源項(xiàng)目AnythingLLM，為個(gè)人和企業(yè)提供了一種安全、高效且可定制的解決方案。該工具基于RAG（RetrievalAugmentedGeneration）模型，允許用戶將本地文檔轉(zhuǎn)換為可由大型語言模型（LLM）引用的格式，實(shí)現(xiàn)對話式問答和知識管理。一、AnythingLLM的主要功能多用戶支持與權(quán)限管理：支持多用戶同時(shí)訪問，并可設(shè)置不同權(quán)限。文檔管...

?1、論文的背景關(guān)于大型語言模型(LLM)的一個(gè)開放性問題是，這些模型從預(yù)訓(xùn)練數(shù)據(jù)中學(xué)習(xí)了哪些模式，以及這些模式是否能夠在下游任務(wù)和數(shù)據(jù)集中普遍適用。雖然先前的研究主要集中在生成質(zhì)量上，最近也開始關(guān)注文本生成的新穎性，但對LLM學(xué)習(xí)到的模式類型的特征描述還很有限。關(guān)于評估大型語言模型(LLM)生成文本多樣性的研究主要集中在詞級特征上。本文提供了一種句法特征分析方法，用以描述模型中的普遍重復(fù)現(xiàn)象，超越了ngram的...

本周三，亞馬遜網(wǎng)絡(luò)服務(wù)(AWS)宣布更新其生成式AI開發(fā)服務(wù)AmazonBedrock，增加了新的上下文基礎(chǔ)功能、檢索增強(qiáng)生成(RAG)的連接器以及其他大型語言模型(LLM)。據(jù)亞馬遜生成式人工智能副總裁瓦西·菲洛明(VasiPhilomin)稱，這些更新有望簡化企業(yè)基于生成式人工智能的應(yīng)用程序的開發(fā)。1.上下文基礎(chǔ)菲洛明表示，上下文基礎(chǔ)（contextualgrounding）是AmazonBedrockGuardrails的一個(gè)附加功能，旨在進(jìn)一步降低以LLM生成內(nèi)容出現(xiàn)幻覺反應(yīng)...

奧特曼大手一揮規(guī)劃了AI最新的分級系統(tǒng)！就像自動駕駛領(lǐng)域的L5一樣，OpenAI提出的AIL5是“完美打工人”——OpenAI稱之為組織者，即能夠完成組織工作的人工智能。其他14的等級分別是：1：聊天機(jī)器人，具有會話語言能力的人工智能2：推理者，人類水平的問題解決能力3：代理，能夠采取行動的系統(tǒng)4：創(chuàng)新者，能夠幫助發(fā)明的人工智能圖片從OpenAI內(nèi)部測試的前沿模型出發(fā)，奧特曼認(rèn)為OpenAI已經(jīng)非常接近第二階段了，模型將達(dá)到類似人...

大型語言模型帶來了操縱、網(wǎng)絡(luò)攻擊和無意的自我完善等風(fēng)險(xiǎn)，而保護(hù)措施正在開發(fā)中。大型語言模型(LLM)的快速發(fā)展激發(fā)了人們的廣泛興趣，也帶來了一些風(fēng)險(xiǎn)，雖然它們的潛力巨大，但濫用和意外后果的可能性也很大。了解這些強(qiáng)大的人工智能系統(tǒng)帶來的風(fēng)險(xiǎn)對于制定有效的保障措施至關(guān)重要。以下是人工智能和LLM可能失控的10種方式，重點(diǎn)介紹了風(fēng)險(xiǎn)、可能性、檢測方法和潛在的保護(hù)策略。1.操縱大師：說服和欺騙風(fēng)險(xiǎn)LLM可以通過復(fù)雜的...

文章鏈接：https:arxiv.orgabs2406.16260工程地址：https:videoinfinity.tanzhenxiong.com代碼地址：https:github.comYuanshi9815VideoInfinity雖然最近擴(kuò)散模型在視頻生成方面取得了顯著的成果，但生成的視頻通常僅限于少量幀，導(dǎo)致剪輯只持續(xù)幾秒鐘。生成較長視頻的主要挑戰(zhàn)包括顯著的內(nèi)存需求以及在單個(gè)GPU上所需的長時(shí)間處理。一個(gè)簡單的解決方案是將工作負(fù)載分散到多個(gè)GPU上，但這會導(dǎo)致兩個(gè)問題：確保所有GPU有效通信以共...

一、背景我們之前的文章中介紹了幾種模型增長的方案，然而針對LLM場景卻又缺乏足夠的數(shù)據(jù)支撐以及最佳實(shí)踐。比如說不知道在LLM場景中這些方案的差異有多大，是否和模型規(guī)模、數(shù)據(jù)量、以及訓(xùn)練FLOPs有關(guān)？本文中我們介紹來自香港大學(xué)、清華大學(xué)和香港科技大學(xué)的StackingYourTransformer，作者做了大量的實(shí)驗(yàn)來嘗試回答上述問題。對應(yīng)的論文為：[2405.15319]StackingYourTransformers:ACloserLookatModelGrowthforEfficientLLMPre...

“GPT4ALL，一個(gè)基于llama.cpp開源項(xiàng)目的本地大模型。”GPT4ALL是一款可以運(yùn)行在個(gè)人電腦上的大模型系統(tǒng)，不需要GPU即可運(yùn)行，目前支持mac，linux和windows系統(tǒng)。github地址：https:github.comnomicaigpt4all01、什么是GPT4ALL？不論學(xué)習(xí)任何東西，首先要明白它是個(gè)什么東西。OpensourcelargelanguagemodelsthatrunlocallyonyourCPUandnearlyanyGPU。這是GPT4ALLgithub上的介紹，翻譯過來就是可以運(yùn)行在CPU和GPU上的開源大模型...

寫在前面大家好，我是劉聰NLP。大模型時(shí)代，指令微調(diào)已經(jīng)成了算法工程師們必不可少的技能。而在指令微調(diào)過程中，我們往往會從數(shù)據(jù)數(shù)量和數(shù)據(jù)質(zhì)量兩個(gè)維度來對模型進(jìn)行調(diào)優(yōu)。今天給大家?guī)硪粋€(gè)新的方法MoDS，一種面向模型的指令數(shù)據(jù)選擇方法《MoDS:ModelorientedDataSelectionforInstructionTuning》，核心是從數(shù)據(jù)質(zhì)量、覆蓋范圍、必要性三個(gè)角度來對原始數(shù)據(jù)集進(jìn)行數(shù)據(jù)過濾，最終獲取對于不同模型的高質(zhì)量數(shù)據(jù)集。并且相較于...

?1.加速HopperGPU注意力機(jī)制是Transformer架構(gòu)的核心能力，也是大型語言模型和長上下文應(yīng)用的瓶頸。FlashAttention（和FlashAttention2）開創(chuàng)了一種通過最小化內(nèi)存讀寫來加速GPU注意力的方法，現(xiàn)在大多數(shù)庫都使用它來加速Transformer訓(xùn)練和推理。這導(dǎo)致了過去兩年上下文LLM長度的大幅增加，從24K（GPT3，OPT）增加到128K（GPT4），甚至1M（Llama3）。然而，盡管取得了成功，但FlashAttention尚未利用現(xiàn)代硬件中的新功能，F(xiàn)lash...

在數(shù)據(jù)泛濫的今天，如何高效地從海量信息中提取有價(jià)值的洞察，已成為開發(fā)者面臨的共同挑戰(zhàn)。本文介紹一個(gè)創(chuàng)新項(xiàng)目——基于Streamlit的應(yīng)用程序，它能夠理解自然語言并直接與SQL數(shù)據(jù)庫進(jìn)行交互，從而簡化數(shù)據(jù)分析流程。1環(huán)境設(shè)置在本項(xiàng)目中，我們選擇PostgreSQL作為后端數(shù)據(jù)庫。用戶需自行安裝并配置PostgreSQL，同時(shí)需要搭建Ollama環(huán)境以及OpenWebUI界面。具體的安裝和配置步驟，建議參考相應(yīng)的官方文檔或社區(qū)指南進(jìn)行操作。2創(chuàng)...

嘿，大家好！這里是一個(gè)專注于AI智能體的頻道！首先，讓我們來聊聊LLM。這些模型通過在海量數(shù)據(jù)集上預(yù)訓(xùn)練，已經(jīng)展現(xiàn)出了驚人的能力，無論是理解還是生成自然語言，它們都能做得很好。但問題來了，這些模型的規(guī)模和訓(xùn)練成本都很高，這讓它們在實(shí)際應(yīng)用中有點(diǎn)不切實(shí)際。這時(shí)候，MoA登場了！MoA通過利用多個(gè)LLM的集體優(yōu)勢，提供了一個(gè)創(chuàng)新的解決方案。想象一下，如果每個(gè)智能體都能貢獻(xiàn)自己的一份力量，那么最終的輸出結(jié)果將會多...

本文首先介紹Meta公司開發(fā)的開源圖像分割模型SAM的架構(gòu)，然后通過一個(gè)河流像素分割遙感任務(wù)的實(shí)戰(zhàn)案例展示SAM模型應(yīng)用開發(fā)涉及的關(guān)鍵技術(shù)與模型優(yōu)勢。引言當(dāng)前，許多強(qiáng)大的開源基礎(chǔ)模型的發(fā)布，加上微調(diào)技術(shù)的不斷進(jìn)步，已經(jīng)帶來了機(jī)器學(xué)習(xí)和人工智能的新范式。整體來看，這場革命的核心在于轉(zhuǎn)換器模型（https:arxiv.orgpdf1706.03762）。雖然除了資金充足的公司之外，所有公司都曾經(jīng)無法獲得高精度的特定領(lǐng)域模型；但是如今，...

摘要：語言模型正越來越多地用于廣泛任務(wù)中的一般問題解決，但在推理過程中，它們?nèi)匀痪窒抻谥鹱旨墑e、從左到右的決策過程。這意味著它們在需要探索、戰(zhàn)略性前瞻，或初始決策起關(guān)鍵作用的任務(wù)中可能表現(xiàn)不佳。為了解決這些挑戰(zhàn)，我們引入了一種新的語言模型推理框架——“思維樹”（TreeofThoughts，ToT），它推廣了流行的“鏈?zhǔn)剿季S”方法，通過提示語言模型并使其能夠探索作為解決問題中間步驟的連貫文本單元（“思想”）。To...

摘要:大型多模態(tài)模型（LargeMultimodalModels,LMMs）的出現(xiàn)引發(fā)了旨在利用其卓越推理能力的研究熱潮。然而，在理解富含文本的圖像方面，要充分發(fā)揮LMMs的潛力仍然存在挑戰(zhàn)，現(xiàn)有的方法在有效處理高分辨率圖像方面面臨困難。為此，我們提出了TextCoT，這是一種針對富含文本圖像理解的新穎連鎖思維（ChainofThought）框架。TextCoT利用LMMs的圖片標(biāo)注能力來把握圖像的整體情境，并利用其定位能力來檢查局部文本區(qū)域，從而實(shí)現(xiàn)全局...

摘要：在現(xiàn)實(shí)世界的應(yīng)用中，如引文網(wǎng)絡(luò)、社交網(wǎng)絡(luò)和生物數(shù)據(jù)等領(lǐng)域，圖（graph）在表示和分析復(fù)雜關(guān)系方面起著至關(guān)重要的作用。最近，大型語言模型（LargeLanguageModels,LLMs）在眾多領(lǐng)域取得了顯著成功，并且也被應(yīng)用于與圖相關(guān)的任務(wù)中，以超越傳統(tǒng)的基于圖神經(jīng)網(wǎng)絡(luò)（GraphNeuralNetworks,GNNs）的方法，并實(shí)現(xiàn)了最先進(jìn)的性能。本綜述首先對現(xiàn)有整合LLMs與圖的各類方法進(jìn)行了全面回顧與分析。首先，我們提出了一種新的分類法...