为消弭幻觉 衔接器! 推出高低文基础和 RAG Amazon Bedrock开大招!

本周三,亚马逊网络服务 (AWS) 发表降级其生成式 AI开发服务Amazon Bedrock,参与了新的高低文基础配置、检索增强生成 (RAG)的衔接器以及其余大型言语模型 (LLM)。

据亚马逊生成式人工自动副总裁瓦西·菲洛明 (Vasi Philomin) 称,这些降级有望简化企业基于生成式人工自动的运行程序的开发。

1.高低文基础

菲洛明示意,高低文基础(contextual grounding)是 Amazon Bedrock Guardrails 的一个附加配置,旨在进一步降落以LLM生成内容产生幻觉反响的或者性。

副总裁解释说,情境基础经常使用 RAG 和总结运行程序来检测模型反响中的幻觉,审核 LLM 反响能否基于正确的企业数据,并与用户的查问或指令坚持分歧。

其余重要云服务提供商,如 Google 和Microsoft Azure,也已建设系统来评价 RAG 运行程序的牢靠性,包含照应生成目的的映射。

微软经常使用Groundedness Detection API来审核 LLM 的文本照应能否基于用户提供的源资料,而谷歌最近降级了 Vertex AI 外部的接地选项,参与了灵活检索和高保真形式等配置。

AWS 还在 Amazon Bedrock 中提供了 RAG 评价和可观察性配置,这些配置经常使用虔诚度、答案关系性和答案语义相似性等目的来对查问照应启动基准测试。AWS 示意,它将为 Amazon Bedrock 提供 Guardrails 作为独自的 API,供 Bedrock 之外的 LLM 经常使用。

Philomin 示意:“咱们收到少量企业客户的恳求,他们宿愿在 Bedrock 之外的模型上经常使用独立的 Guardrails API,因此咱们颁布了它。”

AWS 的动作让人想起IBM 往年 5 月经过工具包提供其watsonx.governance产品的策略。只管 IBM 工具包与 Guardrails API 并不齐全可比,但它可用于创立一个存储库,用于记载模型整个生命周期的具体消息。此类消息有助于评价某个模型选用面前的理由,或确定哪些利益关系者介入了模型的生命周期。

2.新的 RAG 衔接器和大型言语模型

作为其生成式 AI 服务降级的一局部,AWS 已向 Amazon Bedrock 参与了新的 RAG 衔接器,以准许开发人员在更多种类的数据源上建设模型。

Philomin 示意,除了 Amazon S3 之外,开发人员如今还可以经常使用 Salesforce、Confluence和 SharePoint for RAG 的衔接器。他示意,SharePoint 衔接器目前处于预览阶段。

AWS 还发表,它将在 Bedrock 中参与微调Anthropic 的 Claude 3 Haiku 的配置。据 Philomin 称,微调 Claude 3 Haiku 的配置目前处于预览阶段,目前尚未在任何其余云服务提供商上提供,并且遭到企业客户的热烈追捧。

其余降级包含 Amazon MemoryDB 向量搜查的广泛可用性和 Agents for Bedrock 的新配置。

Philomin 示意:“如今,代理可以在多个交互中保管记忆,记住你上次退出的位置,并依据之前的交互提供更好的倡导。”他指出,代理如今可以解释代码来解决复杂的数据驱动用例,例如数据剖析、数据可视化、文本解决、求解方程式和优化疑问。

3.Amazon App Studio 助力用人造言语开发运行程序

AWS 周三还展现了 AWS App Studio,这是一项基于生成式 AI 的托管服务,准许任何企业用户经常使用人造言语提醒构建和部署运行程序。

AWS 在一份申明中示意:“经常使用 App Studio,用户只无形容他们想要的运行程序、他们宿愿它做什么以及他们想要集成的数据源,App Studio 就可以在几分钟内构建一个运行程序,而专业开发人员或者须要几天的期间才干从头开局构建相似的运行程序。”该公司示意,App Studio 的生成式 AI 助手消弭了学习任何低代码工具的须要。

Amazon App Studio 或者会与谷歌的 Vertex AI Studio和微软的 Copilot Studio等竞争对手的产品倒退竞争。

AWS 还发表片面推出 Amazon Q Apps,这是 Amazon Q Business 中的一项配置,曾在去年的 AWS re:Invent 大会上展现过。

AWS 示意:“借助 Amazon Q Apps,企业用户可以在几秒钟内从对话转变为基于公司数据的生成式 AI 运行。用户只有在提醒中形容他们想要的运行程序,Amazon Q 就会立刻生成它。”该公司补充说,Amazon Q 准许用户从现有对话中生成运行程序。

您可能还会对下面的文章感兴趣: