通過將檢索增強生成和語義記憶納入 AI 編碼助手，提升開發人員的生產力、效率和準確性。

譯自Enhancing AI Coding Assistants with Context Using RAG and SEM-RAG，作者 Janakiram MSV。

基本 AI 編碼助手雖然有幫助，但由于依賴對軟件語言和編寫軟件最常見模式的總體理解，因此常常無法提供最相關和上下文準確的代碼建議。這些編碼助手生成的代碼適合解決他們負責解決的問題，但通常不符合各個團隊的編碼標準、慣例和風格。這通常會導致需要修改或完善其建議，以便將代碼接受到應用程序中。

AI 編碼助手通常通過依靠特定大型語言模型 (LLM)中包含的知識，并在各種場景中應用通用編碼原則來發揮作用。因此，典型的 AI 助手通常缺乏理解項目特定上下文的的能力，從而導致建議在語法上正確，但可能與團隊的獨特指南、預期方法或架構設計不一致。支持生成式 AI 系統的 LLM 基于一組固定的訓練數據運行，該數據不會隨著項目的進行而動態演變。這種靜態方法可能導致生成的代碼與項目的當前狀態或要求不匹配，從而需要開發人員進行進一步的手動調整。

使用 RAG 優化 LLM

有一種誤解，即 AI 助手只是與 LLM 交互以生成用戶正在尋找的結果。無論您是生成文本、圖像還是代碼，最好的 AI 助手都會使用一組復雜的準則來確保用戶要求的內容（例如，完成特定任務的軟件功能）和生成的內容（Java 函數，在正確的版本中，具有正確的應用程序參數）保持一致。

從任何 LLM 獲得最佳輸出的已驗證技術之一是使用提示提供附加上下文。這種方法稱為檢索增強生成 (RAG)，已成為聊天機器人、AI 助手和成功服務于企業用例的代理的關鍵組成部分。

“使用對現有代碼庫和編碼標準了解不足的 AI 編碼助手就像從街上雇用一名訓練有素的軟件工程師：樂于助人且用心良苦，但可能會創建需要修改才能適合您應用程序的代碼”

— Peter Guagenti，Tabnine

AI 編碼助手與所有生成式 AI 工具一樣，使用 LLM 作為代碼生成的基礎。為編碼助手帶來高度定制的 RAG 使他們能夠生成更高質量且與公司的現有代碼庫和工程標準更緊密對齊的代碼。

在聊天機器人的領域中，RAG 考慮了以結構化和非結構化格式提供的現有數據。通過全文或語義搜索，它僅檢索足夠多的上下文，并將其注入發送到 LLM 的提示中。

AI 編碼助手可以使用類似（盡管更復雜）的方法，通過集成開發環境從現有代碼庫中檢索上下文。高性能 AI 編碼助手可以抓取項目工作區以訪問當前文件、打開文件、Git 歷史記錄、日志、項目元數據甚至連接的 Git 存儲庫中的其他上下文。

RAG 賦能AI 編碼助手提供高度相關和精確的結果，方法是考慮項目的特定方面，例如現有的 API、框架和編碼模式。AI 助手不會提供通用解決方案，而是根據項目的既定實踐調整其指導，例如建議與當前實現一致的數據庫連接，或提供無縫集成私有 API 的代碼建議。通過利用 RAG，助手甚至可以生成反映現有測試的結構、樣式和語法的測試函數，確保代碼在上下文上準確且符合項目的需要。

這種方法可以帶來無與倫比的個性化，開發人員可以立即接受。

RAG 在編碼助手中的工作原理

讓我們來看看在編碼助手上實現 RAG 所涉及的步驟。

第一階段是索引和存儲。最初，當編碼助手安裝并集成到開發環境中時，它會執行搜索并識別所有可以添加上下文的相關文檔。然后，它將每個文檔拆分為塊，并將它們發送到嵌入模型。嵌入模型負責將每個塊轉換為向量，而不會丟失其語義表示。生成的向量存儲在向量數據庫中以供將來檢索。編碼助手可能會定期掃描工作區并將文檔添加到向量數據庫中。

第二階段是編碼。在下一階段（編碼）中，開發人員可能會創建注釋或使用聊天助手生成特定函數。助手使用提示對存儲在向量數據庫中的先前索引集合執行相似性搜索。檢索此搜索的結果并用于使用相關上下文擴充提示。當 LLM 收到增強提示和上下文時，它會生成與上下文中已有的代碼對齊的代碼片段。

圖片

將 RAG 應用于編碼助手可以提高 LLM 生成的代碼的性能、準確性和可接受性。它顯著增強了該工具的實用性，并減少了開發人員重寫或調整 AI 生成的代碼所花費的時間。與項目的現有代碼庫直接對齊，可以提高代碼建議的準確性，并極大地提高開發人員的生產力和代碼質量。

“使用一個對你的現有代碼庫和編碼標準不夠了解的 AI 編碼助手就像在街上雇用一個訓練有素的軟件工程師：樂于助人且用心良苦，但可能會創建需要修改才能適合你的應用程序的代碼。當你分層加入適當級別的上下文（包括本地文件、項目或公司的代碼庫以及相關的非代碼信息來源）時，就像讓一位在你的公司擁有多年經驗的高級工程師與你的開發人員坐在一起，”Tabnine總裁Peter Guagenti說。“數字證明了這一點。允許我們使用其現有代碼作為上下文的 Tabnine 用戶接受了多 40% 的代碼建議，而無需修改。當 Tabnine 連接到公司的整個存儲庫時，這個數字會更高。”

這是 RAG 解決阻礙傳統編碼助手的可擴展性和適應性限制的一種方式。隨著項目的增長和演變，配備 RAG 的工具會不斷學習和適應，根據從代碼庫中收集到的新模式和信息優化其建議。這種演變能力使 RAG 成為動態開發環境中非常強大的工具。

使用語義記憶增強 RAG

語義檢索增強生成 (SEM-RAG) 是 RAG 技術的高級迭代，旨在擴展 RAG 的準確性和語境化。它通過使用語義記憶而不是向量搜索來增強編碼助手，從而將語義理解集成到檢索過程中。

與主要依賴向量空間模型來檢索相關代碼片段的傳統 RAG 不同，SEM-RAG 采用了一種更細致的語義索引方法。此方法利用靜態分析來深入理解代碼庫的結構和語義，識別代碼元素中的關系和依賴性。

例如，SEM-RAG 可以分析 Java 和 TypeScript 等語言中的導入語句，使其能夠從庫中提取上下文相關的代碼元素，即使無法直接訪問源代碼。此功能允許 SEM-RAG 理解和利用導入庫的字節碼，有效地使用這些見解來豐富提供給語言模型的上下文。

雖然傳統的 RAG 通過將代碼片段的向量化表示與查詢進行匹配，極大地提高了代碼建議的相關性，但它有時缺乏完全掌握復雜軟件項目語義細微差別的深度。SEM-RAG 通過關注代碼中的語義關系來解決此限制，從而與項目的編碼實踐實現更精確的對齊。例如，通過理解項目架構中定義的關系和依賴性，SEM-RAG 可以提供不僅在上下文上準確，而且在架構上也一致的建議。這通過生成與現有系統無縫集成的代碼來增強性能，從而降低引入錯誤或不一致的可能性。

SEM-RAG 的方法是將代碼視為相互關聯的元素，而不是孤立的片段，這比傳統的 RAG 提供了更深入的語境化。這種理解深度促進了編碼任務中更高程度的自動化，尤其是在代碼庫中相互依賴性至關重要的復雜領域。因此，SEM-RAG 不僅保留了傳統 RAG 的所有優點，而且在理解代碼的更深層次語義和結構方面至關重要的環境中超越了它。這使得 SEM-RAG 成為大規模和企業級軟件開發的寶貴工具，其中維護架構完整性與代碼正確性一樣重要。

利用人工智能增強代碼質量和開發人員生產力

選擇通過 RAG 和 SEM-RAG 等高級技術融入上下文感知的人工智能編碼助手，標志著軟件開發工具演變中的變革性一步。通過嵌入對代碼庫上下文的深入理解，這些助手顯著提高了他們生成的代碼的準確性、相關性和性能。這種上下文集成有助于確保建議不僅在語法上正確，而且還符合您的特定編碼標準、架構框架和特定于項目的細微差別，從而有效縮小了人工智能生成代碼與人類專業知識之間的差距。

支持 RAG 的人工智能助手顯著提高了開發人員的生產力并提高了代碼質量。開發人員可以依靠這些增強的 AI 助手來生成不僅適合任務的代碼，而且無縫融入更大的項目上下文中，從而最大程度地減少修訂的需要并加速開發周期。通過以高度精確度自動化編碼的更多方面，這些具有上下文感知的編碼助手正在為軟件開發設定新標準，推動人工智能工具像開發人員自己一樣全面地理解和適應項目環境的復雜動態。