AI.x社區
- 登錄/注冊
使用Prompty構建和管理LLM提示
原創譯者布加迪審校重樓將生成式AI加入到應用程序中遇到的一個問題是，沒有管理提示的標準方法。通常情況下，每個將AI加入到代碼中的團隊都采用不同的方法，以不同的方式管理數據。他們一次次地重新發明輪子，并未借鑒其他團隊和項目經驗。為每個應用程序構建新的AI交互模型，并采用不同的方式來存儲、使用和更新提示，這純屬浪費時間。AI開發人員的資源有限，經驗豐富的開發人員分散在多個項目中。對于記住每個應用程序的工作方式...人工智能PromptyLLM提示大模型的訓練與調優，SFT(監督微調)和RLHF(基于人類反饋的強化學習)到底是什么？
原創“大模型設計，訓練，微調，強化是一個系統性的過程”大模型的訓練和調優是一個系統性的，復雜性的過程；為此，研究人員為大模型的訓練和微調設計了詳細的方案。今天就是介紹一下大模型優化的兩個方法論，SFT——監督微調和RLHF——基于人類反饋的強化學習。什么是SFT和RLHF？下面是關于這兩個概念的簡單釋義：SFT中文釋義為：一種通過監督學習進行模型微調的方法。RLHF的釋義為：一種利用人類反饋進行強化學習的方法，該方法通...大模型微調關于大模型我又犯了一個想當然的錯誤，如霧里看花，終隔一層
原創“做到知行合一，在知中行，在行中知，才不會霧里看花”看過我文章的人應該都知道，最近一直在研究大模型的應用領域，也就是怎么應用大模型的強大功能，而且還開發了一個簡單的微信聊天機器人小程序；但是總有一種霧里看花的感覺，老是想不明白。這幾天在散步的時候滿腦子想的都是聊天機器人，內容生成；然后就在想，內容生成難道只能用來聊天嗎？然后回來就問了大模型，聊天機器人和內容生成的關系，然后得到了不一樣的結果，...人工智能應用大模型Meta發表的將系統2模型蒸餾至系統1模型
一、結論寫在前面論文標題：DistillingSystem2intoSystem1論文鏈接：??https:arxiv.orgpdf2407.06023v2??LLMs在推理過程中可以額外消耗計算資源來生成中間思維，這有助于產生更好的最終響應。自思維鏈以來，已經提出了許多此類系統2技術，例如重述與響應（RephraseandRespond）、系統2注意力（System2Attention）和分支解決合并（BranchSolveMerge）。論文研究了自監督方法(selfsupervised)，將系統2技術的高質量輸出“編譯...Meta模型系統庫克又整幺蛾子，蘋果AI功能“預產期”推遲
據內部人士透露，原定于9月隨iOS18一同發布的AI功能，可能要推遲到10月才能與用戶見面。iOS18要推遲的10月份才能面世這意味著，首批iPhone16用戶可能需要通過后續的軟件更新才能體驗到這一重磅功能。據知情人士透露，蘋果是出于對功能穩定性的考慮，以及為開發者預留充足的測試時間。iPhone16出廠前期無緣AI然而，蘋果并未完全按下暫停鍵。消息稱，公司最快將于本周向開發者推出iOS18.1和iPadOS18.1的首個測試版，讓AppleIntell...庫克蘋果AI超越GPT-4！香港科技大學破解Transformer算術難題，乘法準確率超99.9%
精華探索Transformer在算術問題中的局限性在近年來的自然語言處理領域，基于Transformer的大型語言模型（LLMs）取得了顯著的成就。然而，當這些模型被應用到看似簡單的算術問題上時，它們常常表現出意外的掙扎，尤其是在處理基本的整數乘法任務時。例如，盡管GPT4等現代LLM在多種任務中表現出色，但在執行簡單的整數乘法時卻遇到了困難。這種明顯的能力差異引發了人們對于這些模型安全和倫理使用的擔憂，并阻礙了它們的廣泛應用。本...GPT-4算術乘法準確率LLM工具調用破局：Few-shot Prompting
構建少量樣本提示的方法多種多樣，但目前還沒有統一的最佳實踐。我們進行了一些實驗，以探究不同技巧對模型和任務性能的影響，這些實驗結果表明，通過少量樣本提示，我們可以顯著提高模型的準確度，特別是在處理復雜任務時。接下來，我將分享我們是如何做到這一點的，以及實驗的結果。編輯注：本文經翻譯并二次整理自Fewshotpromptingtoimprovetoolcallingperformances一文。實驗過程我們基于兩個數據集進行了實驗。第一個數據...LLM工具調用只要一張圖就能「還原」繪畫過程，這篇論文比爆火的Paints-UNDO實現得更早
精華作者介紹：宋亦仁：新加坡國立大學ShowLab博士研究生，主要研究方向包括圖像和視頻生成，AI安全性。黃施捷：新加坡國立大學碩士二年級學生，目前在TiamatAI任算法工程師實習生，主要研究方向是視覺生成。目前在尋找2025fall博士入學機會。最近，lvmin帶來了最新模型PaintsUNDO。這款AI生成工具可以根據圖片還原整個繪畫過程，整個AIGC社區都為之震撼。PaintsUNDO的演示demo。早在1個月前，NUS，SJTU，Tiamat等機構聯合已經發布...文本生成圖片ECCV`24 | 首次解決文本到3D NeRFs分解問題！港中文等提出DreamDissector
論文鏈接：https:arxiv.orgabs2407.16260亮點直擊第一個解決文本到3DNeRFs分解問題的團隊。為了解決這個問題，本文引入了一個名為DreamDissector的新穎框架，包括一種新穎的神經類別場（NeCF）表示，可以將輸入的NeRF分解成獨立的子NeRF，一個深度概念挖掘（DCM）技術，通過個性化擴散模型促進子NeRF和概念之間的對齊，以及一個類別分數蒸餾采樣（CSDS）損失，利用DCM增強NeCF的學習。實驗結果展示了DreamDissector的有效性，額...模型2dECCV`24 | 比DragDiffusion快100倍！RegionDrag：快·準·好的圖像編輯方法！港大&牛津
文章鏈接：https:arxiv.orgpdf2407.18247git鏈接：https:github.comLuJingyiJohnRegionDrag?亮點直擊引入了一種基于區域的圖像編輯方法，以克服基于點拖拽方法的局限性，利用更豐富的輸入上下文來更好地對齊編輯結果與用戶的意圖。通過采用無梯度的復制粘貼操作，基于區域的圖像編輯比現有方法快得多（見上圖1），在一次迭代中完成拖拽。擴展了兩個基于點拖拽的數據集，添加了基于區域拖拽的指令，以驗證RegionDrag的有效性并...圖像框架基于Celery、Redis和Florence 2實戰異步機器學習推理
原創本文將通過一個最小但功能強大的實例教程，引導你進入異步機器學習推理開發領域。簡介大多數機器學習服務教程都專注于實時同步服務的介紹，這允許對預測請求做出即時響應。然而，這種方法可能難以應對流量激增，對于長時間運行的任務來說并不理想。因此，類似于這樣的任務還需要更強大的機器來快速響應；否則，一旦客戶端或服務器發生故障，預測結果通常會丟失。在本文中，我們將演示如何使用分布式任務調度框架Celery和開源分...機器學習Florence 2Celery簡單策略解決CTR模型訓練一輪過擬合問題
今天這篇文章給大家介紹一下推薦系統中預估模型的oneepoch問題，以及相應的解法。主要來源于兩項工作，一個是由阿里發表的論文TowardsUnderstandingtheOverfittingPhenomenonofDeepClickThroughRatePredictionModels（2022）中提出的oneepoch問題這一現象，另一是由快手發表的論文MultiEpochlearningwithDataAugmentationforDeepClickThroughRatePrediction（2024）中提出的oneepoch問題的解法。1.Oneepoch現象工業界的CTR預估...策略CTR模型訓練BabyAGI Agent：LLM如何實現？
嘿，大家好！這里是一個專注于AI智能體的頻道！今天我們來聊聊一個超酷的東西——BabyAGIagentwithTools。這貨是一個能跟數據庫打交道的智能體！這是這個系列的第3篇。首先，咱們得搭建一個向量存儲和嵌入模型。這里我們用的是開源的Chroma和OpenAI的嵌入模型。別急，這就給你們上代碼。fromlangchain.embeddings.openaiimportOpenAIEmbeddingsfromlangchain.vectorstoresimportChromaembeddingOpenAIEmbeddings()persistdirect...BabyAGILLMAgent動手實現GraphRAG，檢索效果大幅提升
1理解檢索增強生成（RAG）檢索增強生成（RAG）技術通過融合檢索得到的文檔和用戶輸入的查詢，為語言模型注入了額外的上下文信息。這種結合不僅豐富了模型的知識庫，還提升了其回答的準確性和相關性。例如，當用戶提出涉及特定個人信息或商業數據的問題時，RAG能夠從預設的數據源中提取關鍵信息，輔助模型給出更加精準的答復。簡而言之，RAG技術就像是給語言模型配備了一個智能的背景知識庫，使其在面對復雜問題時，能夠做出更加...GraphRAG檢索效果新版PyTorch：AI任務加速與Intel GPU集成
原創最近的Pytorch2.4推出AI任務加速，提供對IntelGPU的支持。為了進一步加速AI任務，PyTorch2.4現在為Intel數據中心GPUMax系列提供支持，該系列將IntelGPU和SYCL軟件堆棧集成到標準PyTorch堆棧中。<下圖為各個組件被引入到pytorch的各個版本信息。小編建議快速瀏覽，第二章節再仔細理解這些組件的內涵！>借助IntelGPU支持，讀者可以擁有更多GPU選擇，并可以使用相同的前后端GPU編程模型。現在可以在IntelGPU上部署和操作，幾乎不需...AIKinetoGPULlama3.1系列模型正式開源，最大405B，閉源模型的統治時代將迎來結束？
Meta開源了Llama3.1系列模型，最大參數規模為405B，開源也是好起來了，榜單指標直逼GPT4o。開源追上閉源模型不再是夢！Llama系列模型確實是開源界的頭部，真金白銀砸出來的就是不一樣。不過現在大家也都知道，榜單效果和真實使用效果也不是完全正比的，后面看看對lmsys戰榜單，還有大家的實測效果吧！HF:https:huggingface.cocollectionsmetallamallama31669fc079a0c406a149a5738fLlama3.1系列模型細節15TTokens預訓練；占比知...Llama3.1模型部署模型崩潰！泛濫的AI會反噬自身！牛津大學研究發現：用AI生成數據來二次訓練大模型會產生無意義的內容！
原創編輯星璇出品51CTO技術棧（微信號：blog51cto）研究人員發現，網絡上AI生成內容的積累將導致機器學習模型“崩潰”，除非該行業能夠緩解這一風險。牛津大學的研究團隊發現，使用AI生成的數據集來訓練未來的模型可能會產生無意義的內容，這一現象被稱為模型崩潰。在一個例子中，一個模型起初是關于中世紀歐洲建筑的文本，但到了第九代時，卻開始胡言亂語地談論野兔。在昨日發表于《自然》雜志的一篇論文中，由谷歌DeepMind和牛津...AI訓練模型Meta開源用于數學等復雜推理AI Agent—HUSKY
Meta、華盛頓大學和阿倫AI實驗室的研究人員聯合開源了，專用于數學、表格等復雜推理的AIAgent—HUSKY。與傳統AIAgent不同的是，HUSKY采用了一個統一的行動空間，無論是數值計算、表格分析還是基于知識的推理，都能夠通過一系列預定義的自動化行動來完成。這種統一性極大提升了AIAgent的泛化能力，使其能夠跨領域解決多種難題。此外，HUSKY還使用了一種迭代推理的方法，通過在行動生成和執行之間不斷迭代，可以像人類那樣分層次...開源模型OpenAI發布最新大模型安全對齊獎勵方法——RBR
隨著ChatGPT等產品的廣泛應用，確保其輸出的安全性成為場景化落地的關鍵。傳統方法是使用RLHF（人類反饋強化學習）來進行安全對齊，但有兩大局限性難以持續使用。1）收集和維護人類反饋數據不僅成本高昂，并且隨著大模型能力的提高以及用戶行為的變化，現有的數據很快就會過時失效；2）如果數據標注者存在個人偏見，會導致模型的輸出出現極大偏差，例如，標注人對黑人有歧視，就會在生成CEO等高端形象時偏向白人（這個情況真實...模型AI具身智能又進一步！卡內基梅隆&Meta&蘇黎世聯邦實現虛擬人超靈活抓取
論文鏈接：https:arxiv.orgpdf2407.11385github鏈接：https:www.zhengyiluo.comOmnigraspSite亮點直擊本文設計了一種靈巧且通用的人形機器人運動表示，這顯著提高了樣本效率，并使得通過簡單而有效的狀態和獎勵設計來學習抓取成為可能；本文展示了利用這一運動表示，可以在不使用配對的全身和物體運動數據的情況下，學習合成抓取姿勢和軌跡的抓取策略；本文證明了訓練人形控制器的可行性，該控制器能夠實現高成功率的抓取物體，...虛擬人智能
