出品 | 51CTO技術棧（微信號：blog51cto）
本周三，亞馬遜網絡服務 (AWS) 宣布更新其生成式 AI開發(fā)服務Amazon Bedrock，增加了新的上下文基礎功能、檢索增強生成 (RAG)的連接器以及其他大型語言模型 (LLM)。
據(jù)亞馬遜生成式人工智能副總裁瓦西·菲洛明 (Vasi Philomin) 稱，這些更新有望簡化企業(yè)基于生成式人工智能的應用程序的開發(fā)。
1.上下文基礎
菲洛明表示，上下文基礎（contextual grounding）是 Amazon Bedrock Guardrails 的一個附加功能，旨在進一步降低以LLM生成內容出現(xiàn)幻覺反應的可能性。
副總裁解釋說，情境基礎使用 RAG 和總結應用程序來檢測模型反應中的幻覺，檢查 LLM 反應是否基于正確的企業(yè)數(shù)據(jù)，并與用戶的查詢或指令保持一致。
其他主要云服務提供商，如 Google 和 Microsoft Azure，也已建立系統(tǒng)來評估 RAG 應用程序的可靠性，包括響應生成指標的映射。
微軟使用 Groundedness Detection API 來檢查 LLM 的文本響應是否基于用戶提供的源材料，而谷歌最近更新了 Vertex AI 內部的接地選項，增加了動態(tài)檢索和高保真模式等功能。
AWS 還在 Amazon Bedrock 中提供了 RAG 評估和可觀察性功能，這些功能使用忠實度、答案相關性和答案語義相似性等指標來對查詢響應進行基準測試。AWS 表示，它將為 Amazon Bedrock 提供 Guardrails 作為單獨的 API，供 Bedrock 之外的 LLM 使用。
Philomin 表示：“我們收到大量企業(yè)客戶的請求，他們希望在 Bedrock 之外的模型上使用獨立的 Guardrails API，因此我們發(fā)布了它。”
AWS 的舉措讓人想起IBM 今年 5 月通過工具包提供其 watsonx.governance產品的戰(zhàn)略。雖然 IBM 工具包與 Guardrails API 并不完全可比，但它可用于創(chuàng)建一個存儲庫，用于記錄模型整個生命周期的詳細信息。此類信息有助于評估某個模型選擇背后的理由，或確定哪些利益相關者參與了模型的生命周期。
2.新的 RAG 連接器和大型語言模型
作為其生成式 AI 服務更新的一部分，AWS 已向 Amazon Bedrock 添加了新的 RAG 連接器，以允許開發(fā)人員在更多種類的數(shù)據(jù)源上建立模型。
Philomin 表示，除了 Amazon S3 之外，開發(fā)人員現(xiàn)在還可以使用 Salesforce、Confluence 和 SharePoint for RAG 的連接器。他表示，SharePoint 連接器目前處于預覽階段。
AWS 還宣布，它將在 Bedrock 中添加微調Anthropic 的 Claude 3 Haiku 的功能。據(jù) Philomin 稱，微調 Claude 3 Haiku 的功能目前處于預覽階段，目前尚未在任何其他云服務提供商上提供，并且受到企業(yè)客戶的熱烈追捧。
其他更新包括 Amazon MemoryDB 向量搜索的普遍可用性和 Agents for Bedrock 的新功能。
Philomin 表示：“現(xiàn)在，代理可以在多個交互中保留記憶，記住你上次離開的位置，并根據(jù)之前的交互提供更好的建議。”他指出，代理現(xiàn)在可以解釋代碼來處理復雜的數(shù)據(jù)驅動用例，例如數(shù)據(jù)分析、數(shù)據(jù)可視化、文本處理、求解方程式和優(yōu)化問題。
3.Amazon App Studio 助力用自然語言開發(fā)應用程序
AWS 周三還展示了 AWS App Studio，這是一項基于生成式 AI 的托管服務，允許任何企業(yè)用戶使用自然語言提示構建和部署應用程序。
AWS 在一份聲明中表示：“使用 App Studio，用戶只需描述他們想要的應用程序、他們希望它做什么以及他們想要集成的數(shù)據(jù)源，App Studio 就可以在幾分鐘內構建一個應用程序，而專業(yè)開發(fā)人員可能需要幾天的時間才能從頭開始構建類似的應用程序。”該公司表示，App Studio 的生成式 AI 助手消除了學習任何低代碼工具的需要。
Amazon App Studio 可能會與 谷歌的 Vertex AI Studio 和 微軟的 Copilot Studio等競爭對手的產品展開競爭。
AWS 還宣布全面推出 Amazon Q Apps，這是 Amazon Q Business 中的一項功能，曾在去年的 AWS re:Invent 大會上展示過。
AWS 表示：“借助 Amazon Q Apps，企業(yè)用戶可以在幾秒鐘內從對話轉變?yōu)榛诠緮?shù)據(jù)的生成式 AI 應用。用戶只需在提示中描述他們想要的應用程序，Amazon Q 就會立即生成它。”該公司補充說，Amazon Q 允許用戶從現(xiàn)有對話中生成應用程序。
