編輯言征出品51CTO技術棧（微信號：blog51cto）10月最后一周，各大巨頭的秀成績的財報季。繼谷歌、微軟相繼大漲的Q3財報（毫無懸念的是，兩家把大漲的原因都指向對AI的投資）之后，作為開源AI界的扛把子，FaceBook母公司Meta也終于交卷了！圖片比較魔幻的是，Meta明明整體營收漲得很猛，甚至超出了業內分析師的預期，市值卻啪啪地被打臉，一直往下跌。圖片1.財報兩重天：Meta賺更多錢了，AI虧得像個無底洞話不多說，先來看財報...

全球最大開源平臺之一GitHub發布了最新AI大模型編程產品——GitHubSpark。據悉，Spark支持GPT4o、ClaudeSonnet3.5、o1preview和o1mini四款超強編程模型，用戶無需任何代碼和部署環境，通過桌面或移動端用自然語言方式就能輕松開發微應用程序。例如，想開發一款用于家庭預算的管理應用，只要把你的需求用普通語言向Spark描述，就能快速生成一個預覽頁面，并允許進一步定制程序的各種細節。對于很多人來說，編程是一個學習難度高...

今天凌晨，OpenAI開源了最新基準測試集SimpleQA，可以幫助開發者輕松檢測、校準大模型的真實性能力。目前，很多大模型會出現一本正經胡說八道的問題，例如，你提問NBA歷史上得分最多的是誰，它回答是邁克爾喬丹，實際上是勒布朗詹姆斯。包括OpenAI自己發布的GPT4o、o1preview、o1mini等前沿模型都有這些“幻覺”難題。所以，SimpleQA對于開發者來說，可以精準測試大模型能否輸出正確的答案，并對模型的說謊能力進行校準然后進行...

Python3.13版本近期發布，其中包含了多項重大更新。作為機器學習、數據科學和人工智能領域應用最廣泛的編程語言，Python一直在不斷發展以滿足這些領域日益增長的需求。最新版本Python3.13提供了多項旨在提升性能和效率的改進，對于從事機器學習和人工智能項目的開發者來說，這是一個重要的里程碑。Python在機器學習和人工智能領域的優勢主要在于其簡潔性、豐富的庫支持以及龐大的社區。然而，隨著人工智能領域的不斷擴展，對更...

今天我們要學習的是4G模組fskv開發示例，以低功耗4G模組Air780EP為例，從程序介紹，流程，問題等方面入手，讓我們更好掌握G模組fskv開發。1、簡介兼容fdb的函數使用fdb的flash空間,啟用時也會替代fdb庫功能上與EEPROM是類似的fskv與fdb的實現機制導致的差異功能fskvfdbvalue長度4096255key長度6364空間利用率(對比)較低較高讀取速度恒定臟數據影響速度,非恒定寫入數據恒定臟數據影響速度,非恒定均衡擦除自動自動2、環境準備2.1A...

論文筆記分享，標題BeyondText:OptimizingRAGwithMultimodalInputsforIndustrialApplications多模態VL模型很早的就進入了這個圈子，早的有LLava，近一點的gpt4o。這個內容的主要想論證一個事情，在工業界，同時包含文本和圖像的RAG系統，相比于單文本的RAG系統會提高整體性能？當然這個問題的結論是，會提高，所以還額外做了一些，優化多模態流程探索的工作。首先，多模態的結合，2種模式，一種是圖片保持不變，建立起圖片向量...

存儲系統在分布式LLM訓練中扮演著關鍵角色，需要滿足幾個關鍵要求。應與GPU的計算能力相匹配，以最大限度地利用其性能，避免因存儲瓶頸造成的資源浪費。應支持大規模結構化和非結構化訓練數據集的存儲，并在分布式處理環境中具備可擴展性。模型checkpoint的存儲和檢索在LLM訓練中也帶來了挑戰，需要系統滿足模型大小和訓練時長所決定的讀寫帶寬要求。滿足傳統企業級要求，例如數據保護、高可用性和安全性。本文參考了論文Llama3...

在當今人工智能快速發展的時代，語言模型的應用越來越廣泛。然而，要將預訓練的語言模型應用到具體的任務中，往往需要進行微調。Unsloth作為一個預訓練模型微調框架，因其出色的性能和獨特的技術特點，受到了眾多開發者的關注。本文將深入探討Unsloth的相關內容，幫助讀者全面了解這個強大的工具。一、Unsloth簡介Unsloth是一個專門為模型微調而設計的框架，它旨在解決模型微調過程中常見的訓練速度慢、顯存占用高等問題。通過...

1.引言部分今天要給大家分享一篇很有意思的論文。這篇論文主要解決的是什么問題呢？就是如何讓大語言模型在專業領域，比如醫療、科學領域表現得更好。你們有沒有想過，雖然現在的ChatGPT、Claude這些大模型很厲害，但在專業領域它們的表現還是不夠好，對吧？比如說，當我們問它一個關于"支氣管擴張"的專業問題時，它可能就答不太準確了。這是為什么呢？主要原因是這樣的這些專業領域有很多特殊的知識和術語，普通模型可能理解得...

ToolGen:UnifiedToolRetrievalandCallingviaGeneration隨著大型語言模型（LLMs）的發展，它們無法與外部工具直接交互以自主執行任務，這仍然是一個關鍵的限制。傳統方法依賴于將工具描述作為上下文進行輸入，這受到上下文長度的限制，并且需要單獨的、通常效率不高的檢索機制。我們引入了ToolGen，這是一種范式轉變，通過將每個工具表示為唯一的token，直接將工具知識集成到LLM的參數中。這使得LLM能夠生成工具調用和參數作為其...

LLama3.1有多種規模模型，從4050億參數的超大版到70B、8B的輕量級版。想試用70B和8B，可以直接在Groq平臺上體驗。由于需求旺盛，405B模型不常開放。本文教你如何免費使用405B，不用下載安裝。1在MetaAI上體驗Llama3.1405B訪問MetaAI網站（https:www.meta.ai）。登錄后，會看到試用Llama3.1405B的選項。如果一切順利，會看到相應的提示信息。MetaAI中的LLama3.1405B模型選項截圖此外，還可以通過將Meta賬戶與WhatsApp關聯來使用...

1.為什么要提出LightRAG？檢索增強生成（RetrievalAugmentedGeneration，RAG）通過整合外部知識源來增強大型語言模型，這種整合使LLM能夠生成更準確和與上下文相關的響應，顯著提高實際應用中的效用。?通過適應特定領域知識，RAG系統確保所提供的信息不僅相關，而且符合用戶的需求。?提供獲取最新信息的途徑，這種途徑在一些快速發展的領域非常重要。?分塊在促進檢索增強生成過程中起著至關重要的作用。通過將大型外部文本語...

出品51CTO技術棧（微信號：blog51cto）我們都知道，AI對電力的能源需求。相比之下，更少的人了解AI是如何耗水的。想象一下，煮兩包方便面可能只需要半升水。但如果告訴你，和AI工具如ChatGPT在線聊天一次，消耗的水量和煮面一樣多，你可能會覺得很驚訝。雖然這個量看起來很小，但當每天有數百萬人使用聊天機器人時，這就變成了一個龐大的數字，并增加了總水足跡（編者注：直接或間接消耗的淡水總量）。根據信息和通信技術（ICT...

?“世界就是一個巨大的草臺班子，而很多看起來高大上的場景，背后就是一個low的不能再low的處理方式”對大模型有過了解的人應該都知道，整體來說國外的大模型要比國內的強；但由于封禁的原因導致國內無法直接使用國外的大模型，因此對一些做大模型應用的人和企業來說，要想使用國外的大模型只有一個辦法，那就是找一些中間商，通過他們的轉發服務來調用國外大模型。如果是那種正常的國外大模型服務商還比較好對接，但其中有這...

01概述在不斷發展的機器學習和人工智能領域，開發者們愈發渴望能夠無縫集成到各種環境中的工具。然而，直接在瀏覽器中高效部署機器學習模型，而不依賴于大量的服務器資源或復雜的后端支持，依然是一個巨大的挑戰。雖然基于JavaScript的解決方案已經出現，但它們往往面臨性能有限、兼容性問題以及可有效運行的模型類型的限制。而Transformers.jsv3的發布，正是為了解決這些問題，為開發者社區帶來了顯著的進步。02讓機器學習觸手...

01概述在人工智能的世界里，每一輪技術革新都可能顛覆我們對未來的認知。今天，我們要探討的正是液態智能（LiquidAI）公司帶來的全新系列——液態基礎模型（LiquidFoundationModels，簡稱LFMs）。這不僅是一次簡單的產品迭代，更是一場關于AI模型性能與效率的革命。02LFMs液態基礎模型：性能與效率的新標桿液態智能公司推出的LFMs，涵蓋1B、3B和40B三種參數配置，立志成為新一代生成式AI模型的基準。這些模型以其卓越的性能和高...

01概述在這個由數據驅動的時代，人工智能（AI）正以其獨特的方式重塑我們的世界。AI不僅改變了我們獲取信息的方式，更在內容創作領域掀起了一場革命。隨著生成性AI工具逐漸成為主流，人類創作與AI生成文本的界限變得模糊，這既帶來了前所未有的機遇，也帶來了關于真實性、作者身份和錯誤信息的挑戰。如何區分人類創作的內容與AI生成的內容，尤其是在AI變得越來越自然的情況下，成為了一個亟待解決的關鍵問題。02SynthID開源的AI...

今天凌晨3點，OpenAI宣布ChatGPT新增重磅功能——聊天記錄搜索?，F在，用戶可以快速一鍵搜索自己的聊天記錄，或者從中斷的地方繼續聊天了。無論你開了多少個聊天頁面、這個聊天有多難找，都能通過一鍵搜索輕松把它找出來。也就是說，用戶可以輕松打造獨屬自己的聊天數據庫了。這對于寫作、教育、金融、醫療等，對聊天交互頻繁的行業來說幫助巨大。值得一提的是，這個是用戶期待已久的功能，向OpenAI反饋了很多次終于上線了，也...

文章鏈接：https:arxiv.orgpdf2410.15994項目鏈接：https:yygx.github.ioARCADE亮點直擊引入了一個從單一增強現實（AR）捕獲的演示生成大規模演示的新框架。在此框架內，開發了兩項創新技術：關鍵姿勢檢測器和自動驗證，旨在通過用戶提供的一個AR演示生成高質量的演示。在一個物理的Fetch機器人上對ARCADE進行了三項操作任務的評估。通過ARCADE生成的演示訓練出的BC策略在所有任務中表現出色。在更復雜的倒水任務中的進一步驗證...

GitHubCopilot、CodeRabbit和CodiumAI等人工智能代碼審查工具正變得越來越流行，但它們并不是在各個方面都優于人工審查者。人工智能（AI）正在進入各個行業，為軟件編碼和開發等領域提供了許多優勢。如今，許多開發團隊采用了人工智能代碼審查工具，并發現它們能夠更快地發現錯誤并提升代碼質量。然而，正如任何新興技術一樣，人工智能也伴隨著對其局限性的質疑，特別是在安全性和準確性方面。理解人工智能代碼審查工具人工智能...