出品51CTO技術棧（微信號：blog51cto）B站真的啥也能學到！11月B站的嗶哩嗶哩超級科學晚活動，竟然請來了OpenAI的研究副總裁（安全）——翁荔！她是OpenAI的華人科學家，也是ChatGPT的貢獻者之一。她畢業于北京大學信息管理系，即現在的北京大學數字人文實驗室，是2005級本科生。畢業后，她赴美攻讀博士學位，并曾在Facebook工作。自2018年起，翁荔加入了OpenAI，并在GPT4項目中主要參與預訓練、強化學習&對齊、模型安全等方面...

01概述在數字營銷的世界里，生成式人工智能（GenAI）的崛起正以前所未有的方式改變著搜索引擎優化（SEO）的格局。如今，越來越多的企業正在利用GenAI驅動的工具，迅速提升搜索排名，推動自然流量。根據seoClarity的調查，86%的公司已經將人工智能整合到他們的SEO策略中，而83%的公司表示由于AI的應用，SEO性能得到了顯著提升。本文將深入探討12種利用生成式AI提升SEO、增強內容創作以及改善整體網站性能的策略，同時介紹一些在S...

01概述在這個科技飛速發展的時代，人工智能（AI）正以前所未有的速度融入我們的日常生活。最近，AnthropicAI公司推出了一項革命性的創新——Claude3.5模型，它不僅能夠理解復雜的指令，還能在各種實際場景中提供幫助。今天，我們就來聊聊這個AI領域的新寵兒，看看它如何讓機器更懂你，如何讓我們的生活更加便捷。02Claude3.5的新技能想象一下，你的AI助手不僅能和你聊天，還能幫你處理電子郵件、瀏覽網頁、甚至生成報告。這聽起...

隨著人工智能技術的不斷進步，人們對能夠處理多種模態數據的模型需求日益增長。圖像、文本和視頻作為三種主要的信息載體，各自具有獨特的優勢和特點。然而，傳統的人工智能模型往往只能處理單一類型的數據，無法充分發揮多模態數據的潛力。為了打破這一局限，北京智源人工智能研究院的科研團隊經過不懈努力，成功研發出了Emu3原生多模態世界模型。一、Emu3的技術特點1.多模態統一理解與生成Emu3實現了視頻、圖像、文本三種模態...

今天，我們將把視野擴展到更廣闊的領域：多語言提示技術。在這個日益全球化的世界中，能夠處理和理解多種語言的AI系統變得越來越重要。讓我們一起探索如何利用提示工程來克服語言障礙，創建真正的多語言AI應用。1.多語言提示技術的重要性在開始深入技術細節之前，讓我們先理解為什么多語言提示技術如此重要：全球化需求：隨著企業和組織的全球化發展，需要能夠理解和生成多種語言的AI系統。知識共享：多語言AI可以幫助跨語言知...

嘿，大家好！這里是一個專注于AI智能體的頻道！今天我要跟大家分享一個超級棒的開源工具——Crawl4AI。這個工具簡直是構建AIAgent的福音，它自動化了網頁爬取和數據提取的過程，讓開發者們能更高效地構建智能Agent來收集和分析信息。首先，Crawl4AI是完全開源且免費的，這意味著開發者們可以無門檻地使用它。它的核心亮點是AI驅動，能夠自動識別和解析網頁元素，大大節省了我們的時間和精力。而且，Crawl4AI還能將提取的數據轉...

提升AI技能，動手實踐是最有效的途徑。很多人都執著于“新技術怎么用”，其實應該多想想“我能解決什么問題”。這樣做，你的技術就能變成實實在在的價值，面試時也能令人印象深刻。本文給大家推薦5個不同難度的AI項目，詳細說明每個項目的步驟和所需Python庫，能夠幫助你快速上手。這些項目都以解決問題為核心，讀者可以直接實施，或用來啟發自己解決問題。1簡歷優化（新手級）求職過程中，調整簡歷匹配不同職位是個費時費力的...

在最近的一項研究中，來自美國宇航局和IBM的一組研究人員合作開發了一種模型，該模型可應用于地球科學，天文學，物理學，天體物理學，太陽物理學，行星科學和生物學以及其他多學科學科。當前的模型，如SCIBERT、BIOBERT和SCHOLARBERT僅部分覆蓋了其中的一些領域。現有的模型沒有充分考慮所有這些相關領域。為了彌合這一差距，該團隊推出了INDUS，這是一套基于LLMs編碼器的專門針對這些特定領域的設備。由于INDUS是根據從各種來...

寫在前面前一陣子的開源和閉源之爭炒的比較火熱，之前一直想寫點什么，由于太懶就沒寫，但是最近開源模型真的太火爆了，前有Grok1、Mistral8x22、Llama3，后有Yi1.5、DeepseekV2、Qwen1.5110B，開源模型現在真的卷到飛起。今天簡單聊聊下面的幾點內容，歡迎大家拍磚，給出不同看法：開源模型有哪些優勢開源模型與閉源模型的差距會越大還是越小開源模型哪家強開源模型有哪些優勢個人認為，開源大模型是讓大模型行業卷起來的根源...

編輯伊風出品51CTO技術棧（微信號：blog51cto）谷歌不止Q3的財報很強勁。CEO“劈柴”更是在財報電話會議里曝了個猛料！圖片他指出：谷歌超過四分之一的新代碼都是由人工智能生成的！谷歌在內部推出了一個名為大鵝（Goose）的內部AI模型，以員工更高效地進行編碼和產品開發。據說該模型由25年的工程經驗訓練而來的，濃縮了無數程序員的智慧。這個大新聞一出，程序員失業論立馬卷土重來了！“AI徹底改變了谷歌”、“程序員行業岌...

在當今快節奏的工作環境中，人工智能（AI）正以前所未有的速度改變著我們的工作方式。AI助手作為新一代通用人工智能（GenAI）的代表，正在引領一場智能革命。它們不僅具備強大的思考和推理能力，還能自動化處理日常任務，從而提高工作效率。隨著AutoGen、CrewAI、LangChain等框架的不斷發展，AI助手的應用場景愈加廣泛。在本文中，我們將深入探討AI助手在日常工作中的五個真實用例，幫助你更好地理解如何利用這些工具節省時間、...

在訓練深度學習模型時，優化復雜的非凸損失函數是一個非常難的挑戰。目前廣泛使用的優化器是Adam、AdamW等，主要依賴于EMA（指數移動平均）來累積梯度信息，但這種方法存在一些局限性。例如，在訓練超大規模數據集和復雜架構模型時，EMA可能無法有效地捕捉到梯度的變化趨勢，可能會忽略掉一些重要的局部信息，導致模型在訓練過程中陷入局部優解，而無法找到全局最優解。為了解決這一難題，蘋果和瑞士洛桑聯邦理工學院的研究人員...

2024年大模型LLM還有哪些可研究的方向？前言純屬brainstorm，歡迎大家一起探討。想到哪里說到哪里，有遺漏的點歡迎大家在評論區中指出。個人認為現在LLM能做的點還很多，這個行業距離飽和還有一段距離。這里通過“輸入、模型范式、輸出、其他”幾個方面來展開，個人覺得比較看好的方向加粗標出：輸入數據優化RAG模型范式LLM+RoboticsAgent統一模態生成VisionLanguageModels架構設計輸出生成內容安全問題評測問題其他NLP經典任務...

文章鏈接：https:arxiv.orgpdf2406.17396項目鏈接：https:lslrh.github.iosyncnoise.github.io一句話亮點直擊SyncNoise能夠實現一致且高效的3D編輯，符合文本指令并保留編輯場景中的更多細節。今天和大家一起學習港理工、OPPO和StabilityAI聯合發的一篇關于3D場景編輯的工作，主打一個一致且高效，視頻demo非常贊，可以看看！基于文本的2D擴散模型在圖像生成和編輯方面展示了令人印象深刻的能力。同時，這些2D擴散模型在3D編輯...

本文將探討直接在關系數據庫上執行機器學習的新方法——關系型深度學習。本文示例項目數據集的關系模式（作者提供圖片）在本文中，我們將深入探討一種有趣的深度學習（DL）新方法，稱為關系型深度學習（RDL）。我們還將通過在一家電子商務公司的真實數據庫（不是數據集！）上做一些RDL來獲得一些實踐經驗。簡介在現實世界中，我們通常有一個關系數據庫，我們想在這個數據庫上運行一些機器學習任務。但是，有時候數據庫需要高度...

如果說2023年見證了大語言模型的“寒武紀大爆發”，那么2024年則是多模態大模型“元年”。GPT4o的出現讓大家見識到多模態能力引入，給下游應用生態帶來的巨大改變。隨之而來的，RAG技術也將逐漸從單語言模態的RAG進化到多模態RAG。本文將帶大家速覽多模態RAG技術的原理及實現。什么是RAG什么是RAG：RetrievalAugmentedGeneration，檢索增強生成。是一種結合了信息檢索技術和大型語言模型提示功能的框架。它通過從數據源檢索信息...

OpenGVLab新作：VisionModelPretrainingonInterleavedImageTextDataviaLatentCompressionLearningGithub:??https:github.comOpenGVLabLCL??Paper:https:arxiv.orgabs2406.07543視覺backbone的數據瓶頸CLIP是第一個連接圖像和文本的基礎模型，但在大模型時代，僅憑對比學習的監督，已經不足夠讓下游視覺語言模型（VLM）取得足夠好的性能，尤其是在OCR等細粒度、高分辨率視覺任務上。而且這類方法通常要求圖像和文本數據嚴格...

架構圖片上圖展示了本文的整體架構：結合了傳統的統計技術和大型語言模型驅動的多智能體系統。首先利用從簡單的規則、無監督學習和深度學習技術等現有手段，對金融表格數據中的異常進行識別。異常識別后，將數據傳到LLM多智能體系統中。整個系統包括：數據轉換Agent、數據專家Agent、報告整合Agent、管理層討論。其中數據專家Agent包括三個專家：?網絡調研專家：這位專家通過網絡資源的深入挖掘，如數據發布方的公告、頭條新聞...

一、背景本文中我們繼續介紹一個Intel最新的關于FP8訓練相關的工作，其在一定程度上分析并解決了FP8訓練中的不收斂問題，進一步推進了FP8訓練落地（尤其是在H100H800GPU上）的可行性。對應的論文：[2409.12517]ScalingFP8trainingtotrilliontokenLLMs[1]二、摘要本文中，作者首次在2TToken的數據集上使用FP8精度訓練了LLM，比以前的限制增加了20倍。通過這些擴展訓練實驗，作者發現了FP8訓練中的關鍵不確定性，這些不確定性在早...

大模型領域的發展日新月異，每天都有許多有趣的論文值得深入品讀。下面是本期覺得比較有意思的論文：1、LLM的"數數"能力有多弱？一個意想不到的"罪魁禍首"2、專家模型的潛在隱患：用戶提示被竊取的背后1、LLM的"數數"能力有多弱？一個意想不到的"罪魁禍首"你相信大型語言模型（LLM）連簡單的"數數"都可能做不好嗎？近期一篇震驚學術界的論文揭示了這個令人驚訝的事實：即便是號稱"無所不能"的AI模型，在面對基礎計數任務時也可...