AI.x社區(qū)
- 登錄/注冊(cè)
新智能模型可能顛覆生物學(xué)、遺傳學(xué)、醫(yī)學(xué)和人工智能
精華一個(gè)新興的智能模型發(fā)現(xiàn)在細(xì)胞及其以上層次存在靈活的問(wèn)題解決能力，這不僅威脅到生物學(xué)和遺傳學(xué)，還涉及醫(yī)學(xué)、人工智能和意識(shí)研究等多個(gè)領(lǐng)域的顛覆。這可能是合法科學(xué)研究中最有趣、最具顛覆性和哲學(xué)深度的研究。MichaelLevin在細(xì)胞智能、生物電通訊和具身心智方面的工作“將顛覆一切”。這些想法確實(shí)非常瘋狂，所以在我們開(kāi)始之前，重要的是要知道MichaelLevin并不是民科或怪人。他是塔夫茨大學(xué)艾倫探索發(fā)現(xiàn)中心的主任，也是...模型人工智能AI全新發(fā)布：LangGraph開(kāi)啟認(rèn)知架構(gòu)新紀(jì)元
LangGraph：自定義認(rèn)知架構(gòu)的革新LangGraph是什么？它是一個(gè)用于構(gòu)建和管理復(fù)雜Agent的框架，允許開(kāi)發(fā)者通過(guò)直觀的編程接口控制Agent的行為。LangGraph的核心設(shè)計(jì)理念是幫助開(kāi)發(fā)者在Agent工作流中增加更好的精度和控制，以適用于現(xiàn)實(shí)世界系統(tǒng)的復(fù)雜性。LangGraph的核心優(yōu)勢(shì)在于：可控性：LangGraph提供了對(duì)代碼流、提示詞以及大型語(yǔ)言模型（LLM）調(diào)用的低級(jí)控制，賦予開(kāi)發(fā)者對(duì)認(rèn)知架構(gòu)的精細(xì)控制能力。可靠性：通過(guò)添加審核和質(zhì)...LangGraph架構(gòu)AI預(yù)訓(xùn)練大語(yǔ)言模型對(duì)時(shí)間序列預(yù)測(cè)真的有用嗎？去掉預(yù)訓(xùn)練LLM效果反而提升
今天給大家介紹一篇關(guān)于大模型在時(shí)間序列應(yīng)用探討的工作。這篇文章質(zhì)疑大語(yǔ)言模型在時(shí)間序列預(yù)測(cè)中是否有效，并對(duì)目前最先進(jìn)的3個(gè)基于大語(yǔ)言模型的時(shí)間序列預(yù)測(cè)模型進(jìn)行實(shí)驗(yàn)，發(fā)現(xiàn)去掉大語(yǔ)言模型部分，改成一個(gè)attention網(wǎng)絡(luò)，也能取得相同甚至更優(yōu)的效果。論文標(biāo)題：AreLanguageModelsActuallyUsefulforTimeSeriesForecasting下載地址：??https:arxiv.orgpdf2406.16964v1??1、背景隨著大語(yǔ)言模型的興起，一些工作也將其應(yīng)...語(yǔ)言模型預(yù)測(cè)LLMLLMs并非智能思考者：引入數(shù)學(xué)主題樹(shù)基準(zhǔn)來(lái)全面評(píng)估LLMs
原創(chuàng) 精華摘要：大型語(yǔ)言模型（LLMs）在數(shù)學(xué)推理方面展示了令人印象深刻的能力。然而，盡管取得了這些成就，當(dāng)前的評(píng)估主要限于特定的數(shù)學(xué)主題，尚不清楚LLMs是否真正參與了推理。為了解決這些問(wèn)題，我們提出了數(shù)學(xué)主題樹(shù)（MaTT）基準(zhǔn)，一個(gè)具有挑戰(zhàn)性和結(jié)構(gòu)化的基準(zhǔn)，涵蓋了廣泛的數(shù)學(xué)科目，提供了1958個(gè)問(wèn)題，每個(gè)問(wèn)題都配有詳細(xì)的分層主題鏈。在使用MaTT基準(zhǔn)評(píng)估不同的LLMs后，我們發(fā)現(xiàn)最先進(jìn)的模型GPT4在多項(xiàng)選擇題中僅取得了54%的準(zhǔn)...大模型多模態(tài)思維鏈推理在語(yǔ)言模型中的應(yīng)用
原創(chuàng)?摘要：大型語(yǔ)言模型(LLMs)通過(guò)利用思維鏈(CoT)提示生成中間推理鏈作為推斷答案的理由，在復(fù)雜推理方面展現(xiàn)出了令人印象深刻的表現(xiàn)。然而，現(xiàn)有的CoT研究一直專注于語(yǔ)言模態(tài)。我們提出了多模態(tài)CoT，它將語(yǔ)言(文本)和視覺(jué)(圖像)模態(tài)結(jié)合到一個(gè)兩階段框架中，該框架將理由生成和答案推斷分開(kāi)。通過(guò)這種方式，答案推斷可以利用基于多模態(tài)信息更好地生成的理由。使用多模態(tài)CoT，我們的模型在1億參數(shù)以下的情況下，比以前最先進(jìn)的LL...思維鏈大模型大模型的“手和腳”——連接外部應(yīng)用的通道函數(shù)調(diào)用(function calling)，AI Agent的實(shí)現(xiàn)方式之一
原創(chuàng)“AIAgent就是大模型通過(guò)外部接口構(gòu)建的手腳健全的智能體”怎么讓大模型像真正的人類一樣能夠獨(dú)立思考，使用外部工具；這是很多人都在考慮的問(wèn)題，而這就是AIAgent(AI代理)，一個(gè)類人的智能體。但怎么實(shí)現(xiàn)AIAgent又是一個(gè)值得思考的問(wèn)題，而今天就講解一下通過(guò)調(diào)用外部工具實(shí)現(xiàn)AIAgent的方式——函數(shù)調(diào)用(functioncalling)。01、什么是函數(shù)調(diào)用，為什么選擇函數(shù)調(diào)用？大模型作為人工智能最火的技術(shù)，從功能上來(lái)講它更像一個(gè)“大...AI Agent企業(yè)或個(gè)人構(gòu)建人工智能上層應(yīng)用的幾種方式，以及每種方式的優(yōu)劣
原創(chuàng)“人工智能技術(shù)是以技術(shù)服務(wù)的形式存在”在當(dāng)今人工智能技術(shù)飛速發(fā)展的時(shí)代，怎么快速且有效的搭建一個(gè)人工智能服務(wù)是每一家企業(yè)需要解決的問(wèn)題之一。搭建人工智能服務(wù)有哪幾種方式？人工智能是以網(wǎng)絡(luò)服務(wù)的形式存在的，而一家企業(yè)或個(gè)人想搭建人工智能服務(wù)有哪幾種實(shí)現(xiàn)的可能呢？在這里總結(jié)了幾種方式，每種方式都有自己的優(yōu)勢(shì)以及劣勢(shì)，而且?guī)追N方式并不是完全獨(dú)立的，也可以根據(jù)自己的情況把幾種方式進(jìn)行結(jié)合。下面的幾種方...大模型從零實(shí)現(xiàn)大模型-GPT2任務(wù)微調(diào)
原創(chuàng)??從零實(shí)現(xiàn)大模型BERT預(yù)訓(xùn)練????從零實(shí)現(xiàn)大模型BERT微調(diào)??我們?cè)贐ERT微調(diào)那篇文章中提到，許多NLP任務(wù)（如情感分析和問(wèn)答）都依賴于上下文理解能力。而像BERT這種雙向模型具有較強(qiáng)的上下文理解能力，因此非常適合用于任務(wù)微調(diào)，即針對(duì)某個(gè)具體任務(wù)進(jìn)行微調(diào)。??從零實(shí)現(xiàn)大模型GPT2預(yù)訓(xùn)練????從零實(shí)現(xiàn)大模型GPT2指令微調(diào)????從零實(shí)現(xiàn)大模型GPT2RLHF??而像GPT這種自回歸模型，在預(yù)訓(xùn)練完成后會(huì)進(jìn)行一個(gè)指令微...大模型RAG之PDF文件中多種格式數(shù)據(jù)解析實(shí)踐
原創(chuàng)RAG檢索增強(qiáng)生成由2部分構(gòu)成：一是離線對(duì)異構(gòu)的數(shù)據(jù)進(jìn)行數(shù)據(jù)工程處理成知識(shí)，并存儲(chǔ)在知識(shí)庫(kù)中，二是基于用戶的提問(wèn)進(jìn)行知識(shí)庫(kù)的檢索增強(qiáng)。如下圖所示：其中最關(guān)鍵的一個(gè)環(huán)節(jié)是PDF格式的文件如何提取成知識(shí)，下面詳細(xì)剖析。1、PDF文件中文本數(shù)據(jù)如何提取？能夠處理文本提取的Python庫(kù)有多個(gè)，其中較為知名的包括pdfminer.six、PyMuPDF、PyPDF2和pdfplumber。在這些庫(kù)中，PyMuPDF因其出色的文本提取能力而備受推崇。特別是在處理...RAGPDF檢索增強(qiáng)型多模態(tài)思維鏈推理用于大型語(yǔ)言模型
原創(chuàng) 精華?摘要：大型語(yǔ)言模型（LLMs）的進(jìn)步使得思維鏈（ChainofThought，CoT）方法受到了極大的關(guān)注，主要是因?yàn)樗軌蛟鰪?qiáng)LLMs在復(fù)雜推理任務(wù)上的能力。此外，CoT方法的重要性還擴(kuò)展到了將LLMs應(yīng)用于多模態(tài)任務(wù)。然而，由于多模態(tài)樣本固有的復(fù)雜性，為多模態(tài)推理選擇最優(yōu)CoT示例的問(wèn)題在LLMs中尚未得到充分探索。在本文中，我們介紹了一種新穎的方法，通過(guò)使用檢索機(jī)制來(lái)動(dòng)態(tài)且自動(dòng)地根據(jù)跨模態(tài)和內(nèi)模態(tài)相似性選擇示例，從而解決這一...大模型思維鏈CLUSTERLLM：將大型語(yǔ)言模型作為文本聚類的指南
原創(chuàng)摘要：我們介紹了CLUSTERLLM，這是一種利用經(jīng)過(guò)指令微調(diào)的大型語(yǔ)言模型（如ChatGPT）反饋的新型文本聚類框架。與建立在“小”嵌入器上的傳統(tǒng)無(wú)監(jiān)督方法相比，CLUSTERLLM具有兩個(gè)有趣的優(yōu)勢(shì)：（1）即使其嵌入不可訪問(wèn)，它也享有LLM的突現(xiàn)能力；（2）它通過(guò)文本指令和或少量標(biāo)注數(shù)據(jù)理解用戶對(duì)聚類的偏好。首先，我們通過(guò)構(gòu)建困難的三重問(wèn)題<是否A比C更對(duì)應(yīng)B>來(lái)提示ChatGPT，以獲取聚類視角的見(jiàn)解，其中A、B和C是根據(jù)小嵌入器屬于...大模型8B尺寸達(dá)到GPT-4級(jí)性能！北大等提出醫(yī)療專家模型訓(xùn)練方法
大規(guī)模語(yǔ)言模型（LLMs）的持續(xù)預(yù)訓(xùn)練是提升其在特定領(lǐng)域性能的重要方法。通過(guò)在新領(lǐng)域的語(yǔ)料庫(kù)上預(yù)訓(xùn)練大語(yǔ)言模型，這一過(guò)程能夠顯著增加模型的領(lǐng)域知識(shí)儲(chǔ)備和任務(wù)能力。然而，盡管已有許多研究探討了從頭預(yù)訓(xùn)練的LLMs的學(xué)習(xí)機(jī)制和性質(zhì)，關(guān)于持續(xù)預(yù)訓(xùn)練過(guò)程中LLMs行為的研究卻相對(duì)較少。最近北京大學(xué)、香港科技大學(xué)等開(kāi)源了一個(gè)8B醫(yī)學(xué)大模型，通過(guò)測(cè)試模型在連續(xù)預(yù)訓(xùn)練和指令微調(diào)實(shí)驗(yàn)過(guò)程中的表現(xiàn)變化，發(fā)現(xiàn)了許多有趣的現(xiàn)象。...LLM模型《奇點(diǎn)更近了》作者再預(yù)言：2045年，智能將擴(kuò)展到100萬(wàn)倍
美國(guó)計(jì)算機(jī)科學(xué)家和技術(shù)樂(lè)觀主義者雷·庫(kù)茲韋爾（RayKurzweil）是人工智能領(lǐng)域久負(fù)盛名的權(quán)威。他在2005年出版的暢銷書(shū)《奇點(diǎn)臨近》（TheSingularityIsNear）以科幻般的預(yù)測(cè)引發(fā)了人們的無(wú)盡遐想：計(jì)算機(jī)將在2029年達(dá)到人類水平的智能，而我們將在2045年左右與計(jì)算機(jī)融合，成為超人，他將此稱為「奇點(diǎn)」。如今，將近20年過(guò)去了，76歲的庫(kù)茲韋爾推出了續(xù)集《奇點(diǎn)更近了》（TheSingularityIsNearer）。在新作中，庫(kù)茲韋爾提出了5...AGI人工智能ICML 2024 Spotlight | 在解碼中重新對(duì)齊，讓語(yǔ)言模型更少幻覺(jué)、更符合人類偏好
本文介紹了一篇語(yǔ)言模型對(duì)齊研究的論文，由瑞士、英國(guó)、和法國(guó)的三所大學(xué)的博士生和GoogleDeepMind以及GoogleResearch的研究人員合作完成。其中，通訊作者TianlinLiu和MathieuBlondel分別來(lái)自瑞士巴塞爾大學(xué)和GoogleDeepMindParis。這篇論文已被ICML2024接收，并且入選為spotlightpresentation(僅占總投稿量的3.5%)。論文地址：https:openreview.netforumidn8g6WMxt09¬eIdE3VVDPVOPZ代碼地址：https:github.comliutianlin012...語(yǔ)言模型訓(xùn)練多模態(tài)大型語(yǔ)言模型（MLLM）綜述
原創(chuàng) 精華摘要—最近，以GPT4V為代表的多模態(tài)大型語(yǔ)言模型（MLLM）已成為新興的研究熱點(diǎn)，它使用強(qiáng)大的大型語(yǔ)言模型（LLMs）作為“大腦”來(lái)執(zhí)行多模態(tài)任務(wù)。MLLM出人意料的涌現(xiàn)能力，如基于圖像編寫(xiě)故事和無(wú)需OCR的數(shù)學(xué)推理，是傳統(tǒng)多模態(tài)方法中罕見(jiàn)的，這表明了一條通往人工通用智能的潛在路徑。為此，學(xué)術(shù)界和工業(yè)界都致力于開(kāi)發(fā)能夠與GPT4V競(jìng)爭(zhēng)甚至超越的MLLM，以驚人的速度推動(dòng)研究的極限。在本文中，我們旨在追蹤并總結(jié)MLLM的最新進(jìn)...大模型Cantor?：激發(fā)MLLM的多模態(tài)思維鏈
原創(chuàng)?摘要：隨著通過(guò)思維鏈（CoT）方法增強(qiáng)的大型語(yǔ)言模型（LLMs）的出現(xiàn)，視覺(jué)推理問(wèn)題通常被分解成可管理的子任務(wù)，并使用各種外部工具依次解決。然而，這種范式面臨決策中潛在的“確定性幻覺(jué)”的挑戰(zhàn)，這是由于視覺(jué)信息不足以及低級(jí)感知工具的限制，這些工具無(wú)法提供全面推理所需的抽象總結(jié)。我們認(rèn)為，視覺(jué)上下文獲取與邏輯推理的融合是解決視覺(jué)推理任務(wù)的關(guān)鍵。本文深入探討了多模態(tài)CoT的領(lǐng)域，使用多模態(tài)大型語(yǔ)言模型（MLLMs...多模態(tài)思維鏈大語(yǔ)言模型自動(dòng)思維鏈提示
原創(chuàng)摘要：大型語(yǔ)言模型（LLMs）可以通過(guò)生成中間推理步驟來(lái)執(zhí)行復(fù)雜推理。為提示演示提供這些步驟被稱為思維鏈（CoT）提示。CoT提示有兩種主要范式。一種利用簡(jiǎn)單的提示，如“讓我們一步一步地思考”，以促進(jìn)在回答問(wèn)題之前逐步思考。另一種使用一些手動(dòng)演示，每個(gè)演示由一個(gè)問(wèn)題和一個(gè)推理鏈組成，該鏈導(dǎo)致一個(gè)答案。第二種范式的優(yōu)越性能依賴于逐個(gè)手工制作任務(wù)特定的演示。我們展示了通過(guò)利用LLMs使用“讓我們一步一步地思考”...大模型思維鏈OlympicArena：為超級(jí)智能AI基準(zhǔn)測(cè)試多學(xué)科認(rèn)知推理能力
一、結(jié)論寫(xiě)在前面下面介紹的論文來(lái)自上海交大、上海AIlib。論文標(biāo)題：OlympicArena:BenchmarkingMultidisciplineCognitiveReasoningforSuperintelligentAI論文鏈接：??https:arxiv.orgpdf2406.12753??項(xiàng)目鏈接：??https:gairnlp.github.ioOlympicArena??圖1：AI從高考[57]現(xiàn)場(chǎng)參與奧運(yùn)會(huì)為了全面評(píng)估當(dāng)前模型在認(rèn)知推理能力方面的表現(xiàn)，論文引入了OlympicArena，這是一個(gè)包含11,163個(gè)雙語(yǔ)文本問(wèn)題的基準(zhǔn)，涵蓋純文本和...AI智能測(cè)試AI恐怖體操視頻腿腳亂飛、大變活人，LeCun：視頻生成模型根本不懂物理
一段AI生成的體操視頻，引發(fā)近百萬(wàn)網(wǎng)友圍觀，LeCun等一眾大佬還因?yàn)樗称饋?lái)了。體操表演，emmmm怎么不算呢？通過(guò)視頻右上角的水印，此段視頻正是由那個(gè)一度被認(rèn)為是“下一代”文生視頻的DreamMachine（來(lái)自LumaAI）生成的。大伙兒看后紛紛坐不住，圍繞此討論的，是AI視頻領(lǐng)域的一個(gè)熟悉的話題：AI是否理解物理規(guī)律。LeCun直接開(kāi)麥：視頻生成模型不理解基本物理知識(shí)。更不用說(shuō)人體了。華盛頓大學(xué)計(jì)算機(jī)科學(xué)教授PedroDomingos看...視頻生成高考志愿填報(bào)新潮流：AI是助攻還是大坑？
每年高考一結(jié)束，填報(bào)志愿就成了考生和家長(zhǎng)們最關(guān)心的大事。近年來(lái)，隨著人工智能的迅猛發(fā)展，不少人開(kāi)始依賴AI來(lái)幫忙填報(bào)高考志愿。輸入分?jǐn)?shù)、位次等信息，AI立馬給出一張?jiān)敿?xì)的選校方案，這樣的操作看起來(lái)是省時(shí)又省力，但究竟靠不靠譜呢？讓我們來(lái)一探究竟。輸入考生信息，瞬間生成志愿推薦列表湖南長(zhǎng)沙的鄒同學(xué)今年高考結(jié)束后，嘗試用AI智能系統(tǒng)來(lái)填報(bào)志愿。在一個(gè)“智能填報(bào)”頁(yè)面上，他只需要輸入高考總分、位次、選科等...高考志愿AI智能系統(tǒng)
