現(xiàn)有的大模型無法解決我的問題，于是我自己構(gòu)建了一個(gè)開源工具，用于高效地自動(dòng)生成提案。最近，我沒有像以前那樣頻繁地更新開源文章，倒不是由于我停止寫文章，而是由于開源商業(yè)化方面的進(jìn)展很大，沒完沒了地起草提案這項(xiàng)任務(wù)消耗了我的太多時(shí)間。作為一家本土的開源商業(yè)公司，WhaleOps雇傭的大多是工程師。要求這些開源貢獻(xiàn)者編寫提案浪費(fèi)了他們的開發(fā)時(shí)間，他們的提案并不總是符合質(zhì)量標(biāo)準(zhǔn)。與大公司的管理不同，身為初創(chuàng)公...

編輯伊風(fēng)出品51CTO技術(shù)棧（微信號(hào)：blog51cto）太炸裂了！一早上刷到OpenAI奧特曼和特朗普同框了！特朗普大手一揮，宣布了一個(gè)瘋狂燃燒經(jīng)費(fèi)的AI項(xiàng)目——星際之門計(jì)劃，將投資"至少"5000億美元！！由OpenAI主導(dǎo)運(yùn)營(yíng)，在美國(guó)大搞AI基建。這個(gè)數(shù)字啥概念呢？粗略估計(jì)下大概是建設(shè)1.5個(gè)三峽大壩這樣恐怖的工程量。圖片而且，這還不是一個(gè)簡(jiǎn)單的畫餅——"星際之門"立刻就要投入1000億美元。特朗普說，他計(jì)劃從德克薩斯州開始大規(guī)模建...

大家好，我是劉聰NLP。就在今晚，Kimi發(fā)布了最新模型k1.5，先來看榜單效果，簡(jiǎn)直爆炸。在長(zhǎng)推理上，k1.5在數(shù)學(xué)能力上，無論是純文本還是視覺多模態(tài)上，都遠(yuǎn)超openai的o1模型；在codeforces與其持平，LiveCode上略差，但相比于QVQ和QWQ有較大的優(yōu)勢(shì)。在短推理上，k1.5的數(shù)學(xué)能力真實(shí)遙遙領(lǐng)先，無論是gpt4o還是claude3.5sonnet都遠(yuǎn)不如k1.5，尤其是在AIME榜單上，k1.5有60.8，而最高的deepseekv3只有39.2，堪稱斷層式碾壓。這個(gè)應(yīng)...

摘要機(jī)器寫作通常依賴檢索增強(qiáng)生成技術(shù)，但這些方法受限于模型預(yù)定義的范圍，難以生成信息豐富的內(nèi)容。普通檢索的信息往往缺乏深度、實(shí)用性，且冗余問題嚴(yán)重，導(dǎo)致生成的文章內(nèi)容淺顯、重復(fù)且缺乏原創(chuàng)性。為此，我們提出了OmniThink框架，它模擬了人類迭代擴(kuò)展和反思的認(rèn)知過程。OmniThink的核心在于模擬學(xué)習(xí)者逐步深化對(duì)主題理解的認(rèn)知行為。實(shí)驗(yàn)表明，OmniThink在不犧牲連貫性和深度的前提下，顯著提升了生成文章的知識(shí)密度。...

一、背景最近“TikTok難民”涌入小紅書，“小紅書霸榜蘋果AppStore”等話題受到廣泛關(guān)注，字節(jié)跳動(dòng)的Lemon8也不相上下。當(dāng)然，作為一個(gè)技術(shù)公眾號(hào)，我們這里并不是要討論這一現(xiàn)象，而是要介紹小紅書的NoteLLM，其主要用于小紅書中的筆記推薦和標(biāo)簽生成。對(duì)應(yīng)的論文為：[2403.01744]NoteLLM:ARetrievableLargeLanguageModelforNoteRecommendation[1]有關(guān)LLM在搜廣推場(chǎng)景的應(yīng)用落地也可以參考我們之前的文章：???字節(jié)HLLM：大...

圖片1.問題：?jiǎn)我荒Ｐ妥晕姨嵘钠款i近年來，大語言模型（LLMs）如GPT4取得了顯著進(jìn)展，但這些模型的性能仍然受限于已有的訓(xùn)練數(shù)據(jù)。盡管通過生成合成數(shù)據(jù)進(jìn)行自我微調(diào)成為提升模型的主流方法，但隨著微調(diào)輪次的增加，性能提升會(huì)迅速進(jìn)入“收益遞減”狀態(tài)，模型的多樣性和推理能力難以進(jìn)一步提高。這種瓶頸限制了語言模型在復(fù)雜推理任務(wù)中的表現(xiàn)。圖片2.方法：多智能體協(xié)作微調(diào)（MultiagentFinetuning）論文提出了一種全新框架...

1.引言許多大語言模型成功的核心在于編碼器解碼器架構(gòu)，這一框架在機(jī)器翻譯、文本摘要和對(duì)話式人工智能等任務(wù)中取得了突破性進(jìn)展。編碼器解碼器架構(gòu)的提出是為了解決序列到序列（Seq2Seq）問題，這在處理順序數(shù)據(jù)方面是一個(gè)重大突破。1.1數(shù)據(jù)處理的主要發(fā)展表格數(shù)據(jù)最初，人們專注于利用人工神經(jīng)網(wǎng)絡(luò)（ANNs）來處理表格數(shù)據(jù)。通過增加網(wǎng)絡(luò)層數(shù)，這種方法逐漸演變?yōu)樯疃壬窠?jīng)網(wǎng)絡(luò)（DNNs），從而增強(qiáng)了模型捕捉數(shù)據(jù)中復(fù)雜模式的能...

大家好，我是HxShine今天分享一篇來自清華的一篇利用Agent合成數(shù)據(jù)的文章，標(biāo)題為《AgentHospital:ASimulacrumofHospitalwithEvolvableMedicalAgents》。這篇文章介紹了一種名為AgentHospital的仿醫(yī)院模擬系統(tǒng)，該系統(tǒng)中患者、護(hù)士和醫(yī)生都是由LLM驅(qū)動(dòng)。文章的核心目標(biāo)是使醫(yī)生Agent能夠在模擬環(huán)境中學(xué)習(xí)如何治療疾病，從而驗(yàn)證社會(huì)模擬過程是否可以提高LLMAgent在特定任務(wù)上的性能。實(shí)驗(yàn)表明，隨著在模擬過程中積累的樣本越來...

前言本文基于凱斯西儲(chǔ)大學(xué)（CWRU）軸承數(shù)據(jù)，先經(jīng)過數(shù)據(jù)預(yù)處理進(jìn)行數(shù)據(jù)集的制作和加載，最后通過Pytorch實(shí)現(xiàn)KNN+GCN模型對(duì)故障數(shù)據(jù)的分類。1.相關(guān)網(wǎng)絡(luò)介紹1.1圖卷積神經(jīng)網(wǎng)絡(luò)(GCN)論文地址：??https:arxiv.orgabs1609.02907??1.2圖注意力網(wǎng)絡(luò)(GAT)論文地址：??https:arxiv.orgabs1710.10903??1.3稀疏圖卷積網(wǎng)絡(luò)(SGCN)論文地址：???https:arxiv.orgabs2104.01528???1.4GIN圖同構(gòu)網(wǎng)絡(luò)論文地址：???https:arxiv.or...

Kimi發(fā)布新一代多模態(tài)思考模型k1.5，在競(jìng)賽數(shù)學(xué)、代碼能力及視覺思考等測(cè)試中，k1.5模型性能已達(dá)到全球領(lǐng)先模型OpenAIo1正式版水平，月之暗面也成為OpenAI之外，全球第二家到達(dá)該水平的人工智能企業(yè)。Kimi1.5longCoT評(píng)測(cè)結(jié)果longtoshort，用長(zhǎng)鏈?zhǔn)剿伎技夹g(shù)改進(jìn)短鏈?zhǔn)剿伎寄Ｐ停诙替準(zhǔn)酵评硇阅軠y(cè)試中，k1.5模型在數(shù)學(xué)、代碼、視覺多模態(tài)和通用能力等方面到達(dá)或超越GPT4o、ClaudeSonnet3.5等全球領(lǐng)先模型。Kimi1.5shortCoT評(píng)測(cè)...

論文鏈接：https:arxiv.orgpdf2501.09503項(xiàng)目鏈接：https:aigcdesigngroup.github.ioAnyStory亮點(diǎn)直擊提出了一種統(tǒng)一的單主體和多主體個(gè)性化框架，稱為AnyStory。該框架在個(gè)性化單主體和多主體時(shí)實(shí)現(xiàn)了一致性，同時(shí)遵循文本提示；引入了一種增強(qiáng)的主體表示編碼器，由簡(jiǎn)化的輕量級(jí)ReferenceNet和CLIP視覺編碼器組成，能夠?qū)σ话阒黧w進(jìn)行高保真細(xì)節(jié)編碼；提出了一種解耦的實(shí)例感知router模塊，能夠準(zhǔn)確感知和預(yù)測(cè)主體的隱空間條件...

早在去年11月25日，知名文生視頻模型平臺(tái)Runway首次展示了，全新文生圖片模型Frames。Frames不僅能夠保持風(fēng)格的一致性和可控性，還允許用戶進(jìn)行廣泛的創(chuàng)意探索，能生成復(fù)古、數(shù)碼、雜志、動(dòng)態(tài)、運(yùn)動(dòng)、拼圖等不同類型風(fēng)格的圖片。但那個(gè)時(shí)候Frames僅向高級(jí)用戶提供使用。現(xiàn)在，Runway已經(jīng)向所有用戶開放了Frames使用權(quán)，可以在其官網(wǎng)使用了。Runway聯(lián)合創(chuàng)始人兼首席執(zhí)行官CristóbalValenzuela表示，F(xiàn)rames專為創(chuàng)意領(lǐng)域打造，其...

近日，OpenAI推出了全新的AIAgent智能體FunctionCalling2.0使用指南，此次更新使得文檔篇幅縮減了一半，并且引入了一系列關(guān)鍵的最佳實(shí)踐。作為打造高效AIAgent智能體的核心技能之一，正確運(yùn)用FunctionCalling對(duì)于開發(fā)強(qiáng)大的AIAgent智能體應(yīng)用具有至關(guān)重要的作用。因此，今天我就來為大家揭秘這次更新的精華內(nèi)容！1、FunctionCalling的兩大核心應(yīng)用文章中清晰地闡述了FunctionCalling的兩個(gè)核心應(yīng)用場(chǎng)景：第一、數(shù)據(jù)獲取（Fetchi...

構(gòu)建一個(gè)高效運(yùn)作的AIAgent智能體系統(tǒng)有哪些關(guān)鍵步驟？在開發(fā)過程中，如何提前識(shí)別并解決那些可能在系統(tǒng)上線后帶來嚴(yán)重問題的隱患？為了解答這些問題，我們需要將AIAgent智能體系統(tǒng)拆分為三個(gè)核心模塊：工具、推理和執(zhí)行。每個(gè)模塊都面臨著獨(dú)特的挑戰(zhàn)。一個(gè)模塊的錯(cuò)誤可能會(huì)連鎖反應(yīng)，以不可預(yù)見的方式影響其他模塊，導(dǎo)致系統(tǒng)故障。例如，信息檢索可能拉取到無關(guān)數(shù)據(jù)；推理錯(cuò)誤可能導(dǎo)致工作流程不完整或陷入死循環(huán)；執(zhí)行環(huán)節(jié)在...

“提示詞的作用有兩個(gè)，一個(gè)是清楚表達(dá)自己的意思，二個(gè)是讓大模型能聽懂”關(guān)于提示詞，大部分人很多時(shí)候都把提示詞想的太復(fù)雜了；特別是一些沒怎么了解過大模型技術(shù)的，一些營(yíng)銷號(hào)或者培訓(xùn)班上來就告訴你一套提示詞模板，然后讓你按照這個(gè)模板來寫提示詞。你說他們提供的提示詞模板有沒有用？當(dāng)然是有用的，但有一個(gè)前提是在某些場(chǎng)景下是有用的。為什么這么說？因?yàn)椋崾驹~模板只是一種寫提示詞的套路，但這個(gè)套路并不是所有...

Meta發(fā)布的BLT架構(gòu)為大模型擴(kuò)展找到又一條出路，也開啟了用patch方法取代token的全新可能性。開篇先提問：我們?yōu)槭裁捶堑冒盐谋静鸱殖蓆oken？直接用原始字節(jié)怎么就不行？要回答這個(gè)問題，我們得先從大語言模型的文本處理方式入手。它們需要用關(guān)于常用詞塊的規(guī)則將文本拆分成一個(gè)個(gè)token，而這個(gè)標(biāo)記化過程也一直面臨質(zhì)疑。無論模型的其余部分在訓(xùn)練期間如何學(xué)習(xí)和適應(yīng)，標(biāo)記化階段的初始規(guī)則都始終保持不變。因此一旦相關(guān)語言的...

編輯伊風(fēng)出品51CTO技術(shù)棧（微信號(hào)：blog51cto）OpenAI15頁的經(jīng)濟(jì)藍(lán)圖刷爆了整個(gè)AI圈！??https:cdn.openai.comglobalaffairsaiinamericaoaieconomicblueprint20250113.pdf??讀后感是OpenAI的唯一營(yíng)銷真神奧特曼又發(fā)力了，給美國(guó)AI畫了好一張大餅啊！比較誘人的點(diǎn)包括：發(fā)展AI需要大搞基建，將拉動(dòng)經(jīng)濟(jì)帶來大量就業(yè)：“人工智能所帶來的經(jīng)濟(jì)機(jī)會(huì)又是如此誘人，不容放棄。共同繁榮與日俱近，它可以通過建立更多的人工智能基礎(chǔ)...

具身人工智能的目標(biāo)是使機(jī)器人或虛擬代理能夠像人類一樣理解和操作其所在的物理環(huán)境，而空間推理被視為實(shí)現(xiàn)具身任務(wù)規(guī)劃的關(guān)鍵能力。導(dǎo)航和操作任務(wù)是具身AI中常見的挑戰(zhàn)，依賴于模型對(duì)空間關(guān)系的理解和高效執(zhí)行復(fù)雜任務(wù)的能力，但現(xiàn)有方法在處理復(fù)雜空間推理任務(wù)時(shí)仍面臨諸多局限，難以滿足實(shí)際應(yīng)用的需求。現(xiàn)有方法大多通過補(bǔ)充空間數(shù)據(jù)和模型微調(diào)來提升空間推理能力，可是這些方法主要依賴于語言生成的粗粒度結(jié)果，難以在復(fù)...

如今，很多AI應(yīng)用程序都采用了常見的聊天模式（"chat"UX）。盡管這種模式實(shí)現(xiàn)起來比較簡(jiǎn)單，但它會(huì)帶來額外的交互成本，限制了人類通過AI擴(kuò)展自身能力的潛力，也未能充分利用大型語言模型（LLMs）的優(yōu)勢(shì)。在過去的六個(gè)月中，我們?cè)贚angChain一直在探索一種新方式：能夠響應(yīng)環(huán)境信號(hào)的代理（AmbientAgents）。這些代理只會(huì)在發(fā)現(xiàn)重要機(jī)會(huì)或需要用戶反饋時(shí)才與用戶互動(dòng)，避免了頻繁打斷用戶。此外，用戶不再需要進(jìn)入新的聊天界面...

今天這篇文章給大家匯總市面上的各類LargeLanguageModel，從模型角結(jié)構(gòu)的角度、模型類型的角度進(jìn)行劃分，涵蓋了目前市面上主流的LLM，一文了解各個(gè)LLM的基本實(shí)現(xiàn)方法和關(guān)系。從基礎(chǔ)模型結(jié)構(gòu)的角度，預(yù)訓(xùn)練語言模型可以分為Encoderonly、Decoderonly、EncoderDecoder三種類型。從市面上的LLM類型來看，可以分為GPT、LLaMA、PaLM等3個(gè)最主要的類型。下面，將這6個(gè)類別的模型，以及其中各個(gè)模型之間的關(guān)系給大家詳細(xì)介紹一下。1.模...