AI.x社區
- 登錄/注冊
大模型部署框架Ollama和vLLM怎么選？一文講透兩大框架的優缺點和適用場景
原創
社區頭條Ollama在人工智能技術迅猛發展的今天，大型語言模型(LLM)的應用越來越廣泛。Ollama作為一款創新的開源框架，為開發者和研究者提供了在本地環境高效部署和運行LLM的全新解決方案?？缙脚_安裝指南Ollama支持主流操作系統，安裝過程極為簡便：?Linux用戶可通過終端一鍵安裝：wgetOhttps:setup.ollama.aibash?macOS用戶推薦使用Homebrew：brewtapollamaollama&&brewinstall?Windows用戶可通過WSL輕松部署模型快速啟動示例啟動預...大模型部署框架OllamavLLM谷歌 A2A （Agent2Agent）架構設計深度剖析
原創 社區頭條2025年4月9日，Google正式推出Agent2AgentProtocol（以下簡稱“A2A”）。這一協議為各類AIAgent之間的高效溝通與協作搭建了橋梁，無論是獨立Agent與獨立Agent、獨立Agent與企業Agent，還是企業Agent與企業Agent，都可以通過該協議實現通信交互和事務協作。下文詳細剖析之。1、A2A介紹A2A是一個開放協議，它為AIAgent之間提供了一種標準方式，無論底層開發框架或供應商如何，都可以進行協作，A2A充分考慮了Agent在與用戶和企業交...A2AAgent2Agent谷歌AI AgentMCP 和 A2A 架構設計剖析
原創Anthropic推出的MCP（模型上下文協議）取得了成功，這顯然激發了AI行業里的其他參與者，大家都想來定義一些開放協議，好用在AIAgent系統（AgenticSystems）的集成里。上周周，谷歌公開發布了一個叫A2A（Agent2Agent）的開放協議，目標是規范多AIAgent系統通信的實現方式。很多人（可能有點誤解）說這兩種協議是競爭關系，而不是互補關系。谷歌公開說A2A和MCP是互補的。這話挺合理的。但會不會有隱藏的長期競爭目標呢？我們會不...MCPA2AAI Agent大規模關于個人的創業想法——基于人工智能技術在垂直領域解決方案的探索
原創“敢于嘗試是一個好的開始，中間可能會存在各種各樣的問題和困難，但只要用心思考，一定能找到合適的解決方案。”從事人工智能領域方面的技術開發與應用已經差不多有兩年左右的時間了，作者也從一個對人工智能什么都不懂的小白勉強進階成為對人工智能行業有了初步了解的初級開發人員。因此，從今天開始作者希望從一個純粹的技術人員，向一個能夠提供完整行業解決方案的項目人員的轉變；簡單來說，就是想從事人工智能方面的創業...大模型應用人工智能創業垂直大模型關于大模型應用協議的發布——MCP和A2A協議的出現意味著什么？
原創“智能體是大模型應用的未來，而協議卻是決定大模型應用的行業標準。”2024年是大模型應用探索的元年，而隨著大家對大模型應用的探索，大模型被應用到越來越多的場景；但同時也面臨著各種各樣的問題。特別是在智能體方面的應用探索，面臨著各種各樣的問題；而其中目前最頭疼的無非就是各家大模型公司沒有統一的標準，關于智能體的技術實現也各式各樣；而這直接阻擋了大模型應用方面的進展。而解決這個問題最好的辦法是什么？那...大模型應用MCPA2A大模型數據預處理——關于復雜文檔在大模型應用中的解決方案
原創“復雜文檔的處理是人工智能應用的基礎，但同時也是一個門檻。”在這里先思考一個問題，哪種文檔格式最復雜？以我們經常使用的文檔為例，不同系統下有不同格式的文檔；不論是文本，圖片，還是視頻都有很多種格式；但要說比較復雜的還是文本類文檔。因為文本類文檔中包含著多種其它格式的文檔；以作者個人為例，我認為最復雜的文檔就是常用的wordpdf這種格式。原因就在于這種格式的文檔就像一張白紙，我們可以在上面寫畫任何我們...大模型應用RAG文檔預處理全球首場人形機器人格斗大賽要來了！宇樹科技炸場，人形機器人風口來了？
社區頭條最近，北京的一場人形機器人半程馬拉松，吸引了巨大關注量。人形機器人再次成為了討論的焦點。然而，這場馬拉松比賽的熱度還沒過去，另一場更為硬核的比賽已經在醞釀。2025年5月至6月，宇樹科技將舉辦全球首場“人形機器人格斗大賽”。這個曾經只存在于科幻電影中的場景，如今已成為檢驗人形機器人技術實力的擂臺。如果說馬拉松只是對機器人的耐力測試，那么格斗比賽則意味著機器人將走向會產生物理碰撞的擂臺實戰，這對算法與...機器人格斗大賽人形機器人具身智能機器人馬拉松北京租算力，到算家云讓數字人視頻告別"恐怖谷"！字節團隊最新DreamActor-M1實現人類表情動作像素級操控
論文鏈接：https:arxiv.orgpdf2504.01724項目鏈接：https:grisoon.github.ioDreamActorM1亮點直擊提出了一個整體的基于DiT的框架和一種漸進的訓練策略，用于支持靈活多尺度合成的人像動畫。設計了混合控制信號，結合了隱式面部表征、顯式3D頭部球體和身體骨架，以實現富有表現力的身體和面部動作合成，同時支持多樣化的角色風格。開發了互補的外觀引導，以緩解視頻片段之間未見區域的信息差距，從而實現長時間段內的一致視頻生...數字人視頻生成谷歌新型 AI 系統在復雜診斷中表現超越醫生
原創 社區頭條最近，《自然》雜志上的一篇新論文引發了關注。它展示了谷歌如何用AI改變醫療的未來：通過自動化技術降低成本、減輕醫生負擔，使他們能夠將更多精力投入到復雜病例的處理中。當你帶著疑難雜癥就醫時，自然希望得到準確的診斷。然而，即便經驗豐富的醫生，有時也會對疑難病情感到棘手。有些癥狀或許并無大礙，但有些則需要深入檢查。近年來，人工智能在醫療領域發展迅猛，尤其在模式識別類任務中表現突出。谷歌近期在“AI醫生”...大型語言模型LLM人工智能Anthropic開源Agentic Coding最佳實踐！
周末的時候，Anthropic發布了AgenticCoding的最佳實踐博客。今天給家人們分享一下具體的內容，先揭秘一個它背后有點“反直覺”的小把戲，看看“高端的AI”是如何用上“樸素的ifelse”的，最后再帶給大家一波官方總結的實戰干貨！“ultrathink”的魔法與樸素的ifelse在博客中提到，如果你想讓Claude在處理復雜問題時“多想想”，可以在指令里加上"think"這個詞。想讓它想得更深？那就用"thinkhard"或者"thinkharder"。甚至還有一...Anthropic模型AIAgent2Agent對比MCP，高效實現協作式AI
在AI迅猛發展的當下，各類新興工具與協議不斷涌現，為人工智能的能力提升注入強大動力。其中，Agent2Agent協議（A2A）和模型上下文協議（MCP）堪稱兩項重大創新，正深度重塑人工智能的發展版圖。這兩者乍看之下似乎相似，但其實際用途卻截然不同。本文用通俗易懂的方式詳細介紹這兩種協議，幫助讀者清晰把握二者之間的差異，把握其在AI領域的獨特價值。1Agent2Agent協議（A2A）：AI協作的“中樞引擎”Agent2Agent協議（A2A）支...Agent2MCPAI能源紅燈亮起，AI 算力焦慮如何突圍？（下篇）
一、ESG理念領航，指明發展方向在全球可持續發展浪潮下，ESG（環境、社會和企業治理）理念成為指引算力產業變革的燈塔。該理念強調在追求技術進步的同時，兼顧環境可持續性、社會公平性和企業治理優化，與算力產業低碳綠色轉型及可持續發展的需求高度契合。政策層面也積極響應，《算力基礎設施高質量發展行動計劃》《深入實施“東數西算”工程加快構建全國一體化算力網的實施意見》等一系列政策文件，明確提出推動資源高效調度...勁速云頂作AI能源紅燈亮起，AI 算力焦慮如何突圍？（上篇）
在數字經濟蓬勃發展的當下，人工智能（AI）以驚人的速度改變著世界。從爆火的ChatGPT，到文心一言、Kimi等生成式AI模型，AI技術正以前所未有的態勢進入生活的各個領域，重塑醫療、教育、金融等行業格局。然而，在AI野心勃勃拓展疆土的背后，能源天花板的限制卻引發了日益嚴重的算力焦慮，成為其進一步發展的巨大阻礙。一、AI算力需求暴增，能源供應捉襟見肘AI產業的迅猛發展，對算力的需求呈現出指數級增長。隨著深度學習、大數...勁速云頂作學會LLM思維：語料質量的自評估
原創日常工作中面對各類的作業，如何通過工程化的設計，充分利用LLM的邏輯推理能力，是AI思維的最直接體現。今天開始小編將帶著大家，遵循AI思維來解決日常作業中的各種問題。今天探討的實際場景是語料質量評估。在垂類應用或者RAG應用，將企業知識或者領域知識轉化為語料是最為關鍵的一環，但是如何來確定語料的質量作為關鍵。LLM的訓練過程中因為其預訓練能力與困惑度（PPL）相關，因此可以從不同的數據來源中分別提取困惑度排名...LLM語料質量AI谷歌陷入反壟斷風暴：OpenAI有意收購Chrome ，搜索市場要洗牌了？
社區頭條最近，一場谷歌反壟斷聽證會，因為OpenAI高管的一句話掀起驚濤駭浪——“若法院強制谷歌出售Chrome，我們將有意出手收購。”全球67%瀏覽器市場的掌控者Chrome，正處于美國司法部的反壟斷壓力下。去年，美國司法部在反壟斷訴訟中勝訴，聯邦法院判定谷歌利用Chrome與搜索服務的深度捆綁，構成非法壟斷。目前，美國司法部已請求法院裁定強制谷歌剝離Chrome瀏覽器。聯邦法庭正舉行為期三周的庭審，討論谷歌必須做出哪些改變。事實上...OpenAI谷歌反壟斷風暴Chrome或將被玻璃算家云租算力，到算家云LLM實戰系列 | 大模型的多Lora部署，將顯存節省到極致
下面是我前段時間跟一位群友的對話：群友：我最近有都需要進行模型微調，但是每個任務模型調完之后都對單一任務有明顯提高，但如果合在一起訓練的話，效果又達不到最佳。所以在使用階段，部署了多個模型，但是顯卡資源真的吃不消，有什么好的解決辦法嗎？我：你是Lora微調，還是全量參數微調的。群友：Lora微調，全量參數微調，也沒那么多訓練資源。我：你既然是Lora微調，那么你在部署的時候，可以只部署一個底座模型，然后多...LLMLora部署微軟亞洲研究院打造最強視覺元素定位模型
為什么需要GUI視覺定位技術？1.1數字時代的效率革命圖形用戶界面(GraphicalUserInterface,GUI)智能體正在重塑人機交互方式。這類智能體通過模仿人類的視覺感知能力，可以直接"看懂"屏幕內容并執行操作指令。微軟亞洲研究院團隊的研究表明，相比依賴HTML等GUI元數據的傳統方法（存在平臺依賴性和實現差異問題），基于視覺的方法具有更廣泛的適用性。例如，在跨平臺操作場景中，視覺智能體可以統一處理Windows、Web和移動端界面，...微軟視覺元素模型Hybrid-RRF：動態權重混合檢索RAG方案
社區頭條一、為什么需要混合檢索技術？1.1大語言模型的"幻覺"困境大語言模型（LLM,LargeLanguageModel）雖然在文本生成和理解方面表現出色，但存在一個致命缺陷——會產生"幻覺"（Hallucination），即生成看似合理但實際錯誤或無依據的內容。1.2檢索增強生成的技術革新檢索增強生成（RAG,RetrievalAugmentedGeneration）技術應運而生，它通過結合外部知識庫為LLM提供事實依據。傳統RAG系統主要采用兩種檢索方式：稀疏檢索（如BM25算法）...Hybrid-RRF混合檢索RAGMCP（Model Context Protocol） 的理解和快速實踐
精華 社區頭條一、背景此前筆者對AIAgent研究的涉獵比較少，也基本沒有系統介紹過與Agent相關的內容。然而，最近由Anthropic提出的MCP（ModelContextProtocol[1]，模型上下文協議）在社區中引發廣泛關注，筆者也趁此機會“蹭蹭熱度”，了解下MCP到底是什么，了解一下MCP的基本概念和工作機制。在最初接觸MCP時，也曾對其一些設計感到困惑。于是帶著這些疑問進行了進一步的調研，逐漸對MCP的組成及運作方式有了初步的認識，比如：MCP中的Resou...MCPAIAgent2025年最值得關注的十大多模態大語言模型！
原創 精華 社區頭條01、概述人工智能（AI）的發展速度，簡直比坐火箭還快！從最初的純文本處理，到如今能夠輕松駕馭文本、圖像、音頻、視頻的多模態大語言模型（MLLMs），AI的進步讓人瞠目結舌。2025年，多模態大語言模型已經成為AI領域的“頂流”，它們不僅能夠跨越不同數據模態的鴻溝，還能為我們提供更加豐富、更具情境化的見解。無論是科研、自動化客服，還是內容創作、數據分析，這些模型都在徹底改變各行各業的游戲規則。今天，我們就來盤點...多模態大語言模型AI模型
