AI.x社區
- 登錄/注冊
殺瘋了！DeepSeek開源第3彈：DeepGEMM炸場，算力焦慮終結者？
?家人們誰懂啊?！DeepSeek連續兩天向AI圈扔出炸彈后，今天又甩出一個王炸——?DeepGEMM?！這玩意兒簡直可以稱作一鍵榨干顯卡性能，讓算法速度原地蕪湖起飛??。本摸魚小編帶你們盤一盤這個讓碼農狂喜、資本沉默的「算力永動機」！一、啥是DeepGEMM？先來給大家介紹一下，DeepGEMM是一款專注于FP8高效通用矩陣乘法（GEMM）的庫。咱都知道，矩陣乘法在深度學習里那可是家常便飯，就像是蓋房子時的磚頭，少了它啥都干不成。而De...DeepSeekDeepGEMM算力白嫖資源訓練 DeepSeek R1 推理模型
精華DeepSeek顛覆了AI領域，通過推出一系列全新高級推理模型挑戰OpenAI的主導地位。最棒的是？這些模型完全免費使用，沒有任何限制，每個人都可以使用。您可以在下面觀看有關如何微調DeepSeek的視頻教程。在本教程中，我們將在HuggingFace的醫療思維鏈數據集上對模型進行微調，微調的基礎模型為DeepSeekR1DistillLlama8B。這個精簡的DeepSeekR1模型是通過在使用DeepSeekR1生成的數據上對Llama3.18B模型進行微調而創建的。它展示了與...DeepSeek R1推理模型原來機器學習這么簡單—線性回歸
一、什么是線性回歸？線性回歸是一種基本但極為重要的監督學習算法，廣泛用于預測連續數值型數據。其主要目標是通過分析已知數據點之間的關系，找出一個能夠用來預測新數據點的函數模型。在最簡單的情況下，線性回歸嘗試找到一條直線，這條直線能夠最佳地通過數據點，并最小化預測值與實際值之間的差異。二、線性回歸的原理圖11維和2維輸入特征的線性模型2.4模型的評估在得到模型后，我們需要評估其效果，常用的評估指標包括：...機器學習線性回歸一文揭秘GPT：AI是如何徹底改變我們的？
你是否曾好奇，是什么讓手機助手能夠流暢對話，是什么驅動著智能翻譯的背后引擎？答案之一就是GPT。我們今天就來深入探討一下GPT，這個正在引領語言模型革命的AI工具。什么是GPT？——人工智能的語言大師GPT，全稱GenerativePreTrainingTransformer，是由OpenAI公司提出的一種先進的語言預訓練模型。自從OpenAI在2018年發布首款GPT模型以來，GPT系列已經迅速成為自然語言處理領域的標桿。最初，OpenAI在論文《ImprovingLanguage...GPTAI語言一文讀懂AI智能體的原理類型、功能優勢和最常見使用場景
原創在當代科技風潮中，AIAgent憑借其獨特能力嶄露頭角。其核心構造基于LLM，輔以記憶、任務規劃及工具使用等關鍵組件，共同構建出完整體系。作為掌控LLM的智能代理，AIAgent通過理解意圖與生成文本，展現卓越能力。尤其當學會利用工具時，其潛力無限放大，有望成為人類的得力助手。進入大語言模型時代，AIAgent以自治、知覺、反應、推理與決策、學習、通信及以目標為導向等特性脫穎而出。它不僅能自主執行任務，還能感知環境并作出...AI智能體人工智能沸騰了！新的推理模型編碼能力爆表！是的，那個王，他又回來了！
精華圣誕節在二月，Claude扔了個王炸！看來爆料者的信息還挺準的：明天：Claude4沒等到，Claude3.7要來了？不是嘛，哈哈哈。Anthropic官方有個毛病，他們通常不會做任何的預發布，大半夜他給你扔出來了個王炸：這次的新模型叫：Claude3.7Sonnet，它帶來了一種新的思維方式。它不再把快速回答和深度思考割裂開來，而是像人類大腦一樣，在同一個模型中實現兩種能力。Claude3.7Sonnet既能快速回答問題，也能在需要時進行深度思考，給用...推理模型編碼革命性升級！Claude 3.7 Sonnet 發布：首個混合推理模型，開發者效率翻倍！
Anthropic正式推出Claude3.7Sonnet，不僅是目前最智能的模型，更是全球首個支持混合推理的AI系統。它能像人類一樣在“秒回”與“深度思考”間無縫切換，還能通過命令行工具ClaudeCode直接接管復雜編程任務，被開發者稱為“效率核武器”！一、Claude3.7Sonnet的三大顛覆性突破混合推理模式：一腦兩用標準模式：響應速度與Claude3.5相當，但準確性全面提升。擴展思考模式：自我反思后輸出答案，數學、物理、代碼等任務性能飆升。A...混合推理模型DeepSeek開源周，第三彈， DeepGEMM來襲！
今天開源了deepseekv3中提到的的FP8GEMM內核。300行代碼的暴力cuda美學，看不太懂，但是每天都可以打個醬油支持普通的矩陣乘法以及MixofExperts分組矩陣乘法。使用CUDA編寫，安裝時無需編譯，所有內核在運行時通過輕量級的即時編譯（JIT）模塊動態編譯。DeepGEMM設計，避免了對CUTLASS和CuTe的過度依賴，采用了更簡潔的設計，核心代碼只有大約300行。整個庫就是非常“輕量化”，但同時性能又很強大，甚至超過了專家調優的庫。在...DeepSeekCUDA內核只需幾步！用 vLLM 快速上手 DeepSeek 大模型部署
大語言模型的落地應用離不開高效推理框架的支持，vLLM以其卓越的性能在眾多框架中脫穎而出。本文將帶你深入探索如何使用vLLM框架部署DeepSeekR1DistillQwen大語言模型，無論是深度學習新手還是有經驗的開發者，都能從中獲取實用的知識和技能。一、vLLM框架特性解析1、高效內存管理：vLLM的PagedAttention算法，通過動態分頁管理顯存，內存利用率提升24倍，顯著降低硬件門檻。2、吞吐量提升：支持連續批處理和異步推理，在A100GP...vLLMDeepSeek模型全自動駕駛真的來了！花6萬4才能用！馬斯克急忙上線閹割版!AI提醒駕駛員別走神，網友實測翻車：秒變移動路
原創千呼萬喚，特斯拉FSD真的來了！特斯拉已開始在中國向車主分批次推送FSD的軟件更新了，版本號2024.45.32.12，與北美版一致。不過，馬斯克急急慌慌入華的FSD，槽點好像真的有點多。首先，這波國內FSD的推送需要配備HW4.0硬件的汽車，大概是去年買到國產ModelY和Model3的新車主可以嘗鮮。至于其他車主，可能要繼續等待一段時間（特斯拉表示會進行車型的擴展）……其次，不是有了車就能體驗特斯拉的FSD，還需要再氪金才行！特斯拉所...自動駕駛馬斯克AIDeepSeek開源DeepEP，公開大模型訓練效率暴漲秘訣！
DeepSeek開啟了本周連續5天技術分享的第2天，開源了專為混合專家模型（MoE）訓練和推理設計的開源EP通信庫——DeepEP。值得一提的是，DeepSeek昨天開源的FlashMLA已經超過7000顆星，成為github霸榜項目。今天這個已經破1000顆星啦。開源地址：https:github.comdeepseekaiDeepEP通常在MoE模型中，不同的GPU節點往往需要分工合作處理數據，而AlltoAll通信是一種常見的模式，用來實現GPU之間數據的互相交換。DeepEP通過高效且優化...AI模型訓練GPU效率暴漲！DeepSeek開源DeepGEMM，僅300行代碼
精華今早9點，DeepSeek開啟了本周連續5天技術分享的第3天，開源了專用于執行高效FP8精度矩陣乘法運算庫——DeepGEMM。DeepGEMM的核心代碼僅300行，但在GPU上可實現高達每秒1350+FP8萬億次浮點運算性能。在大多數矩陣規模下性能超過了專家調優的內核，同時支持密集布局和兩種MoE布局，適配不同的運算場景。開源地址：https:github.comdeepseekaiDeepGEMM看到DeepSeek又發布高效訓練方法，網友表示，英偉達股票又要下跌了。在澳大利亞...DeepSeek開源代碼何愷明開辟分形圖像生成新范式！計算效率提高4000倍，首次實現高分辨率逐像素生成
何愷明再次開宗立派！開辟了生成模型的全新范式——分形生成模型FractalGenerativeModels，首次使逐像素生成高分辨率圖像成為可能，論文名字依舊延續以往的大道至簡風格。團隊將生成模型本身抽象為可復用的“原子模塊”。通過遞歸地在生成模型中調用這些原子生成模塊，可以構建出一種自相似的分形架構。其靈感源于數學中的分形思想。它相當于一個粗糙或零碎的幾何形狀分成數個部分，每一部分都（至少近似地）是整體縮小后的形狀...AI生成計算代理AI是AI發展的新前沿
原創代理人工智能可以利用多個代理的集體智能，來自動化決策過程，徹底改變行業，并推動產業的轉型。2022年11月30日，OpenAI通過發布ChatGPT，普及了生成式人工智能（GenAI），也引發了一場對于AI的追捧。最近，代理人工智能（AgenticAI）已悄然的興起，它雖然沒有遇到同樣的炒作，但是很可能會徹底改變不同行業，并推動產業的轉型。什么是代理AI？有人認為代理AI屬于人工智能發展??五層級??中的第三層級，即：夾在作為第一層級...生成式人工智能GenAIAgentic AI首個混合推理模型Claude 3.7重磅發布 ，AI 邊界在哪里？
今天，Anthropic搞出了個大動靜，推出首個混合推理模型、堪稱AI編程霸主的Claude3.7Sonnet，還連帶發布智能編碼命令行工具ClaudeCode。Claude3.7Sonnet作為混合推理模型，打破傳統AI單一模式，有標準和擴展思維兩種模式。標準模式下能秒回信息，擴展模式則擅長深度反思、分步思考，面對數學、編碼等復雜任務不在話下，給用戶更多使用場景選擇。和上一代比，它數學、編碼能力暴增10%以上，多項基準測試刷爆紀錄，實力碾壓同類。...Claude 3.7 Sonne混合推理模型算家云業界首個“混合AI推理模型”！快OpenAI一步Anthropic跳版本發布：Claude3.7 Sonnet可自行決定思考時長
原創整理星璇出品51CTO技術棧（微信號：blog51cto）就在OpenAI還在吊胃口之際，最強競對Anthropic深夜開大了！Anthropic直接把自家的“通用+推理”二合一的模型發布了，并把自家內部在用的AI編程工具也上線，直接可以終端執行任務的那種！這就帶大家看看這家公司在大模型以及AI產品上的不同打法！用戶不用再選擇模型了，業界首個混合AI模型Anthropic正在發布一款名為Claude3.7Sonnet的新型前沿AI模型，該模型被設計為能夠根據用戶的...AIOpenAIAnthropicDeepSeek R1 全系列模型部署指南
一、模型概述與架構分析DeepSeekR1是一款全新的大規模語言模型系列,支持復雜推理、多模態處理和技術文檔生成。其核心特點包括:1.架構特性?支持多種精度訓練和推理(FP8BF16INT8INT4)?采用MoE(MixtureofExperts)架構實現671B超大規模?支持混合精度訓練和推理優化2.模型系列規格模型名稱參數規模計算精度模型大小典型應用場景DeepSeekR1671BFP81,342GB超大規模科研計算DeepSeekR1DistillLlama70B70BBF1643GB大規模推理任務DeepS...DeepSeek模型部署推理模型+Multi-Agent，可能就是Deep Research的全貌！
繼谷歌、OpenAI和Perplexity相繼發布各自的DeepResearch后，牛津大學發布了一個“AgenticReasoning:ReasoningLLMswithToolsfortheDeepResearch”的工作，并且代碼開源了，今天咱們來詳細看看他們的deepresearch的玩法！這個框架，不僅在PhD級別的科學推理測試(GPQA)上超越了現有的RAG系統和閉源大模型，而且在金融、醫療和法律等領域的深度研究任務中，擊敗了谷歌的GeminiDeepResearch!為什么能做到這一點普通的推理模型只能依...MultiAgentGPQA從推理到編程，詳細比較DeepSeek 32B、70B、R1實踐性能
引言前段時間，AI圈被國產黑馬DeepSeekR1模型“霸屏”了！這匹開源領域的“潛力新星”，在推理能力上和OpenAI的o1不相上下，甚至在資源利用上更勝一籌，很“省資源”。它的橫空出世，不僅打破了大眾對國產AI的固有認知，更是讓世界看到了中國AI厚積薄發的硬核實力，這波操作簡直“殺瘋了”！DeepSeek乘勝追擊，基于R1模型又推出了更具針對性應用的DeepSeekR1DistillQwen32B和適合大規模數據處理的DeepSeekR1DistillLlama70B兩款...DeepSeek推理編程秒開率從 18% 到 64%，我們對小程序模擬器做了什么？
原創小程序是一種運行在快手生態內，無需下載安裝、即用即走的輕量級應用。其中，模擬器是快手開發者所使用的工具中最核心的模塊之一，但因性能問題收到開發者反饋。為此，24年Q2快手啟動了模擬器性能優化專項，從線上數據看：模擬器秒開率從18%提升至64%，FCPP90從4.4s提升至1.9s。本文詳細介紹優化措施和成效。一、問題背景小程序是快手開放平臺對外提供的開放能力之一，是一種運行在快手生態內，無需下載安裝、即用即走的輕量級...小程序
