AI.x社區
- 登錄/注冊
聊聊 KAN、KAN 卷積結合注意力機制！
第一類基礎線性層替換KAN層替換線性層Linear：更新關于LSTM、TCN、Transformer模型中用KAN層替換線性層的故障分類模型。KAN的準確率要優于MLP，我們可以進一步嘗試在常規模型的最后一層線性層都替換為KAN層來進行對比；KAN卷積比常規卷積準確率有略微的提升！第二類并行融合模型KAN卷積、GRU并行：故障信號同時送入并行模型，分支一經過KAN卷積進行學習，分支二利用GRU提取故障時域特征，然后并行特征進行堆疊融合，來增強故障...KANKAN卷積斯坦福大學和倫敦大學學院聯合打造多智能體系統中的安全防線，應對大模型即時感染
精華在多智能體系統中，LLM的應用變得越來越普遍，通過多個LLM協作來解決復雜任務的需求日益增加。然而隨著這些技術的不斷進步，新的安全威脅也隨之而來。提示注入攻擊是一種利用惡意提示來劫持模型執行非預期操作的攻擊方式。在單智能體系統中，研究人員已經發現，這些攻擊可以通過嵌入惡意提示在外部文檔中，誘使模型執行未授權的指令，從而危及系統安全。但是在多智能體系統中，提示注入攻擊變得更加復雜且難以防范。通過代理之...多智能體系安全你對大模型認知的開始——大模型的能力問題
原創“大模型的能力是對大模型自身最好的詮釋”在此之前，一直不知道該怎么準確表達大模型，雖然一直在學習和使用大模型，但很多時候很難一句話說明白什么是大模型，也很難說明白大模型能干什么。但在昨天想問題的過程中，腦子里突然冒出一個詞——能力，大模型的能力。總之一句話，大模型能做什么，不能做什么就是大模型的能力問題。大模型的能力在過去的2023年，被稱為千模大戰的時代，無數大模型如雨后春筍般冒了出來，很多大模...大模型人工智能《解讀論文：Scaling Laws For Diffusion Transformers》
最近在學術圈發現了一篇很有價值的論文，題目為ScalingLawsForDiffusionTransformers，今天就來給大家詳細解讀一下這篇論文。一、論文背景與研究動機在當今的人工智能領域，尤其是圖像和視頻生成方面，盡管Diffusiontransformers（DiT）已經取得了一定的進展，但仍面臨著一些挑戰。例如，在確定最佳模型大小和數據需求時，往往缺乏精確的方法。本論文正是在這樣的背景下展開研究，旨在探索Diffusiontransformers(DiT)的規模化定...圖像生成基于PyTorch自動混合精度庫對ResNet50模型進行優化訓練
原創本文將通過一個實戰案例來展示如何借助于PyTorch自動混合精度庫對ResNet50模型進行優化，然后借助少許幾行代碼即可獲得超過兩倍速度的模型訓練效率。簡介你是否曾希望你的深度學習模型運行得更快？一方面，GPU很昂貴。另一方面，數據集龐大，訓練過程似乎永無止境；你可能有一百萬個實驗要進行，還有一個截止日期。所有這些需求都是期待特定形式的訓練加速的極好理由。但是，我們該選哪一種模型呢？??PyTorch???、??Hugg...PyTorchResNet50模型深度學習大模型工程化落地中面臨的問題
原創“大模型在某種程度上可以理解為是一個人”最近一直在做大模型應用落地，隨著對大模型應用的開發，對大模型的理解也更加的深刻；因此對大模型的認知也從剛開始的奉若神明，慢慢變成了一個能用的工具。在基于大模型做應用落地的過程中，目前來說發現幾個比較重要的問題，因此在這里記錄一下。大模型應用落地的問題大模型的能力問題大模型工程化落地過程中，首先要解決的一個問題就是大模型的能力問題，大模型發展到今天這個地步...大模型人工智能應用AI.x社區「技術團隊」認證申請指南
隨著AI.x社區的不斷發展，我們發現有越來越多的企業技術團隊參與到社區的內容建設中。在充分了解了各家企業團隊的訴求之后，社區推出了「技術團隊」的社區賬號認證服務，以滿足企業技術團隊的品牌塑造、優質內容傳播等需求。「技術團隊」定位為：AI.x社區官方認證的、由專業的技術團隊運營的賬號，是企業團隊展示技術實力、樹立技術品牌、持續影響社區開發者的重要陣地。一、「技術團隊」功能介紹「技術團隊」賬號為母賬號，具...AI.x社區技術團隊認證申請指南AI自動寫書神器，3個ChatGPT插件讓你輕松賺錢！
你是否想過，有一天，你可以只給一個主題，讓AI自動搜集資料并寫出一本電子書？你是否想過，有一天，你可以不用動筆，就能成為暢銷書作者？你是否想過，有一天，你可以利用AI的智慧和創造力，輕松賺取被動收入？如果你的答案是肯定的，那么恭喜你，你的夢想已經成為現實！今天，我要向你介紹一種最新的玩法，它可以讓你利用3個ChatGPT插件，實現AI自動寫書的神奇功能。這種玩法不僅簡單易用，而且效果驚人，你只需要花費很少的...AIChatGPT插件上交最新時空預測模型PredFormer，純Transformer架構，多個數據集取得SOTA效果
今天給大家介紹一篇時空預測最新模型PredFormer，由上海交大等多所高校發表，采用純Transformer模型結構，在多個數據集中取得SOTA效果。1.背景時空預測學習是一個擁有廣泛應用場景的領域，比如天氣預測，交通流預測，降水預測，自動駕駛，人體運動預測等。提起時空預測，不得不提到經典模型ConvLSTM和最經典的benchmarkmovingmnist，在ConvLSTM時代，對于MovingMNIST的預測存在肉眼可見的偽影和預測誤差。而在最新模型PredForme...PredFormer架構效果紅杉年度文章解讀：生成式AI進入第二階段，應用層價值凸顯以及商業模式將重塑
在紅杉資本在最新發布的文章《GenerativeAI'sActO1：TheAgenticReasoningEraBegins》中，討論了當下生成式AI正在從以訓練時計算的快思考，向以推理時計算的慢思考發展。OpenAI的新模型o1便是重要的標志。慢思考的到來也將會帶來新的機會，行業認知的重要性被高度重視起來，過去對于AI應用以及背后的商業理解也將被刷新。簡單說，過去以模型服務商作為絕對主角的時代將過去，大眾對通用基座模型抱著只要把它越訓越大，它就能無所...生成式AI應用層使用 Claude 3.5 和 Python 構建 ReAct AI Agent
Reason+Act(ReAct)Agent能夠通過將思維鏈推理與外部工具訪問和迭代求解能力相結合，來執行復雜的推理任務。ReActAgent的工作原理ReActAgent的核心組件是系統提示，它定義了Agent的整體行為（我們稍后將看到一個示例）。處理從用戶提示開始，用戶提示請求解決某個問題。系統提示指示Agent對問題進行推理，并在適當的時候選擇一個外部工具來幫助解決問題。Agent調用工具，并在收到響應后決定是否需要進一步處理。如果需要，它可以...Claude 3.5PythonAI現實再次給大模型帶來沉重打擊
論文筆記分享，標題：LLMSSTILLCAN’TPLAN;CANLRMSAPRELIMINARYEVALUATIONOFOPENAI’SO1ONPLANBENCH一個偏實驗性的文章，這篇文章的主要的結論是。LLMs不擅長規劃，LRMs看似有希望，但是希望不大當故事看把規劃簡單定義就是說，在面對一些較復雜的開放式問題時，需要進行一些搜索以確定最佳的解決方案。這個過程，不僅僅是思考可行的方向，還需要將問題分解成更簡單的任務。當使用目前最牛的LLM來測試這些能力時候，如下圖，對...大模型LLMo1 型號奧特曼準備用o1來訓練AI了？OpenAI最新論文驗證該方法可行性！
原創出品51CTO技術棧（微信號：blog51cto）誰更懂AI訓練，是人類還是AI自己？在OpenAI具有強推理功能的o1發布以后，AI訓練自己這件事，又被奧特曼進一步提上了日程。在OpenAI的開發者日活動中，奧特曼透露道："如果我們能制造出一個在人工智能研究方面比OpenAI所有系統都更出色的人工智能系統，那確實會讓人覺得這是一個重要的奇點......模型會變得如此之好，如此之快......計劃讓模型迅速變得更聰明"。好家伙，如果AI能日夜訓練AI...奧特曼o1OpenAI6.5億美元！AI智能體最大收購案產品之父Jake Keller采訪：垂域Agent是成為10億獨角獸的新機會
原創編譯伊風出品51CTO技術棧（微信號：blog51cto）YC最新的一期訪談，請來了創業大佬JakeKeller，圍繞他的創業之路來聊垂直領域AIAgents的掘金機會。為什么是JakeKeller，他的經歷有多牛呢？我們簡單看三點，就知道他的采訪含金量：Jake創建法律公司CaseText十余年之久，從AI1.0時代就在不斷嘗試新技術，與OpenAI等多家工作室保持合作。在ChatGPT上線之前，Jake的公司就拿到了秘密開發中的GPT4的訪問機會，并在48小時內決定AllinGP...AI智能體獨角獸探索 Ultralytics YOLO11 計算機視覺領域的關鍵突破
精華在計算機視覺領域，目標檢測、實例分割、圖像分類等任務一直是研究和應用的熱點。UltralyticsYOLO系列以其高效、準確的特點在該領域占據重要地位。YOLO11作為該系列的最新迭代版本，帶來了一系列的改進和創新，進一步提升了模型在各種計算機視覺任務中的性能。一、概述YOLO11是UltralyticsYOLO系列實時目標檢測器的最新版本，它基于之前YOLO版本的顯著進步進行構建，在架構和訓練方法上引入了重大改進，從而成為了廣泛計算機視...UltralyticsYOLO11適用性長動畫上色質量再創新高！首個基于參考線稿的動畫上色視頻擴散框架LVCD發布
文章鏈接：https:arxiv.orgpdf2409.12960項目鏈接：https:luckyhzt.github.iolvcd今天和大家分享的工作是香港城市大學、微信團隊、香港大學的研究人員提出的，首個基于參考線稿的動畫上色視頻擴散框架，效果非常好，往下有demo視頻展示。亮點直擊第一個基于參考的線稿動畫著色視頻擴散框架，利用預訓練視頻擴散模型的能力生成高質量、長時間一致的動畫。引入了用于SVD的參考注意力，增強了模型生成快速運動動畫的能力。設計了一...AI框架3D生成基礎模型來了！只需5秒，高質量3D資產規模化生成！南洋理工等重磅開源3DTopia-XL
精華文章鏈接：https:arxiv.orgpdf2409.12957項目鏈接：https:3dtopia.github.io3DTopiaXL今天AI生成未來和大家分享的是南洋理工、北大、上海AILab和港中文聯合發布的3DPBR資產生成最新工作3DTopiaXL。通過基于高效且表達力強的3D表示方法PrimX的擴散Transformer（DiT），實現高質量3D資產生成的規模化。去噪過程只需5秒鐘，就能從文本或圖像輸入生成可用于圖形pipeline的3DPBR（物理渲染）資產。關鍵思想是一種新穎的3D表示，即Pri...3D 模型采用RAG和知識圖譜克服人工智能幻覺問題
原創將RAG與知識圖譜相結合可以提高生成式人工智能應用程序的準確性，可以使用現有的數據庫來完成。生成式人工智能依賴于數據來構建對用戶查詢的響應。而訓練大型語言模型(LLM)需要使用大量數據，例如OpenAI公司的GPT3使用了CommonCrawl數據集進行訓練，該數據集擁有570GB字節的數據和4000億個令牌。雖然這些數據集的規模龐大，但都是時間快照，無法響應圍繞當前發生的事件的查詢。人工智能的反應也可能包括“幻覺”——提供看似合...RAG人工智能大型語言模型一個關于學習大模型技術的方法論
原創“知行合一，在行中知，在知中行”最近在公眾號分享關于一些學習大模型技術的基礎路線和進階方式，然后后臺就收到了一些留言，總體來說就是大模型學習難不難，需不需要一些基礎等。而今天我們就來討論一下關于大模型技術學校的方法論，或者說關于學習的方法論。關于學習大模型技術的方法論其實說是學習大模型技術的方法論，不如說是怎么學習的，也就是關于學習的方法，畢竟大模型也只是學習的一個方向而已。先來回答讀者比較感...大模型Multi-Stage Language Model Programs：提升語言模型程序的新策略
原創在自然語言處理（NLP）領域，語言模型程序（LanguageModelPrograms）正逐漸成為推動任務進展的關鍵力量。這些由多個模塊化語言模型（LM）調用組成的復雜管道，為解決復雜的NLP任務提供了新的思路和方法。然而，構建這些管道并非易事，其中一個關鍵挑戰就是如何優化提示（prompts），使得所有模塊都能高效協同工作。今天我們就來介紹一篇來自DSPy一作、斯坦福大學博士生、并且即將成為MIT助理教授的OmarKhattab領導的一項有意思...自然語言處理原創 不是小馬哥
