本周三，亞馬遜網絡服務 (AWS) 宣布更新其生成式 AI開發服務Amazon Bedrock，增加了新的上下文基礎功能、檢索增強生成 (RAG)的連接器以及其他大型語言模型 (LLM)。

據亞馬遜生成式人工智能副總裁瓦西·菲洛明 (Vasi Philomin) 稱，這些更新有望簡化企業基于生成式人工智能的應用程序的開發。

1.上下文基礎

菲洛明表示，上下文基礎（contextual grounding）是 Amazon Bedrock Guardrails 的一個附加功能，旨在進一步降低以LLM生成內容出現幻覺反應的可能性。

副總裁解釋說，情境基礎使用 RAG 和總結應用程序來檢測模型反應中的幻覺，檢查 LLM 反應是否基于正確的企業數據，并與用戶的查詢或指令保持一致。

其他主要云服務提供商，如 Google 和 Microsoft Azure，也已建立系統來評估 RAG 應用程序的可靠性，包括響應生成指標的映射。

微軟使用 Groundedness Detection API 來檢查 LLM 的文本響應是否基于用戶提供的源材料，而谷歌最近更新了 Vertex AI 內部的接地選項，增加了動態檢索和高保真模式等功能。

AWS 還在 Amazon Bedrock 中提供了 RAG 評估和可觀察性功能，這些功能使用忠實度、答案相關性和答案語義相似性等指標來對查詢響應進行基準測試。AWS 表示，它將為 Amazon Bedrock 提供 Guardrails 作為單獨的 API，供 Bedrock 之外的 LLM 使用。

Philomin 表示：“我們收到大量企業客戶的請求，他們希望在 Bedrock 之外的模型上使用獨立的 Guardrails API，因此我們發布了它。”

AWS 的舉措讓人想起IBM 今年 5 月通過工具包提供其 watsonx.governance產品的戰略。雖然 IBM 工具包與 Guardrails API 并不完全可比，但它可用于創建一個存儲庫，用于記錄模型整個生命周期的詳細信息。此類信息有助于評估某個模型選擇背后的理由，或確定哪些利益相關者參與了模型的生命周期。

2.新的 RAG 連接器和大型語言模型

作為其生成式 AI 服務更新的一部分，AWS 已向 Amazon Bedrock 添加了新的 RAG 連接器，以允許開發人員在更多種類的數據源上建立模型。

Philomin 表示，除了 Amazon S3 之外，開發人員現在還可以使用 Salesforce、Confluence 和 SharePoint for RAG 的連接器。他表示，SharePoint 連接器目前處于預覽階段。

AWS 還宣布，它將在 Bedrock 中添加微調Anthropic 的 Claude 3 Haiku 的功能。據 Philomin 稱，微調 Claude 3 Haiku 的功能目前處于預覽階段，目前尚未在任何其他云服務提供商上提供，并且受到企業客戶的熱烈追捧。

其他更新包括 Amazon MemoryDB 向量搜索的普遍可用性和 Agents for Bedrock 的新功能。

Philomin 表示：“現在，代理可以在多個交互中保留記憶，記住你上次離開的位置，并根據之前的交互提供更好的建議。”他指出，代理現在可以解釋代碼來處理復雜的數據驅動用例，例如數據分析、數據可視化、文本處理、求解方程式和優化問題。

3.Amazon App Studio 助力用自然語言開發應用程序

AWS 周三還展示了 AWS App Studio，這是一項基于生成式 AI 的托管服務，允許任何企業用戶使用自然語言提示構建和部署應用程序。

AWS 在一份聲明中表示：“使用 App Studio，用戶只需描述他們想要的應用程序、他們希望它做什么以及他們想要集成的數據源，App Studio 就可以在幾分鐘內構建一個應用程序，而專業開發人員可能需要幾天的時間才能從頭開始構建類似的應用程序。”該公司表示，App Studio 的生成式 AI 助手消除了學習任何低代碼工具的需要。

Amazon App Studio 可能會與 谷歌的 Vertex AI Studio 和 微軟的 Copilot Studio等競爭對手的產品展開競爭。

AWS 還宣布全面推出 Amazon Q Apps，這是 Amazon Q Business 中的一項功能，曾在去年的 AWS re:Invent 大會上展示過。

AWS 表示：“借助 Amazon Q Apps，企業用戶可以在幾秒鐘內從對話轉變為基于公司數據的生成式 AI 應用。用戶只需在提示中描述他們想要的應用程序，Amazon Q 就會立即生成它。”該公司補充說，Amazon Q 允許用戶從現有對話中生成應用程序。