在AWS re:Invent 大会上，NVIDIA 推出了NVIDIA NeMo Retriever，这是一种全新的生成式AI 微服务，有望通过实现自定义大语言模型(LLM) 与企业数据的集成来改善企业AI 格局。 NeMo Retriever 的目标是为企业中的人工智能应用提供前所未有的准确响应。

NVIDIA NeMo Retriever 是NeMo 系列的最新成员，以其先进的框架和工具而闻名，旨在构建、定制和部署尖端的生成式AI 模型。这种企业级语义检索微服务旨在通过强大的检索增强生成(RAG) 功能来增强生成式AI 应用程序。

NeMo Retriever 的与众不同之处在于它能够通过NVIDIA 优化的算法提供更准确的响应。该微服务允许开发人员将其人工智能应用程序无缝连接到不同的业务数据，无论其位置如何（跨云或数据中心）。它是NVIDIA AI Enterprise 软件平台的一部分，可在AWS Marketplace 上方便地获取。

NVIDIA NeMo 爬虫上线

Cadence、Dropbox、SAP 和ServiceNow 等行业领导者已经通过与NVIDIA 的合作感受到了这项技术的影响。他们正在将这项技术集成到定制的人工智能应用程序和服务中，突破商业智能的极限。

Cadence 总裁兼首席执行官Anirudh Devgan 表示：“生成式AI 引入了创新方法来满足客户需求，例如在设计过程早期发现潜在缺陷的工具。”

Cadence 是电子系统设计领域的全球领导者，它正在利用NeMo Retriever 为工业电子设计中的AI 应用开发RAG 功能。 Cadence 首席执行官Anirudh Devgan 强调了生成式人工智能在早期检测设计缺陷方面的潜力，从而加速高质量产品的开发。

与开源RAG 工具包不同，NeMo Retriever 以生产就绪的姿态进入市场，提供商业上可行的模型、API 稳定性、安全补丁和企业支持。其优化的嵌入模型是一项重大技术进步，可以捕获复杂的词关系，增强LLM的处理和分析能力。

NeMo Retriever 将法学硕士连接到多个数据源和知识库的能力非常出色。它使用户能够通过简单的对话提示与数据进行交互，并获得准确、最新的响应。此功能扩展到多种数据模式，包括文本、PDF、图像和视频，确保全面、安全地访问信息。

最令人兴奋的是，NVIDIA NeMo Retriever 承诺以更少的培训提供更准确的结果，加快上市时间，并在生成式AI 应用程序开发工作流程中实现能源效率。

这就是NeMo Retriever 真正的闪光点。通过将RAG 与LL.M. 相结合，NeMo Retriever 克服了传统模型的局限性。 RAG 将信息检索的能力与法学硕士结合起来，特别是对于开放领域问答应用程序，从而显着增强了法学硕士对大型可更新知识库的访问能力。

仔细观察RAG 管道

NeMo Retriever 通过对知识库进行编码，从离线阶段开始优化RAG 流程。在此阶段，深度学习模型用于对各种格式的文档进行分块和嵌入，以生成密集的向量表示。然后将它们存储在矢量数据库中，这对于后续的语义搜索至关重要。嵌入过程是关键，因为它捕获单词之间的关系，使法学硕士能够更准确地处理和分析文本数据。

幕后制作和回答问题是NeMo Retriever 真正的亮点。它涉及两个关键阶段：矢量数据库检索和响应生成。当用户输入查询时，NeMo Retriever 首先将查询嵌入到密集向量中，用于搜索向量数据库。然后，数据库检索与查询相关的最相关的文档块。在最后阶段，这些块被组合起来形成一个上下文，该上下文与用户的查询一起输入到LLM 中。此过程可确保生成的响应准确且与用户的查询高度相关。

借助NVIDIA NeMo 克服企业挑战

为企业应用程序构建RAG 管道是一项重大挑战。从现实世界查询的复杂性到多轮对话的需要，企业需要一种技术先进、合规且商业上可行的解决方案。 NeMo Retriever 旨在通过提供针对低延迟和高吞吐量进行优化的生产就绪组件来实现这一目标，并承诺企业可以在其人工智能应用程序中部署这些功能。

NVIDIA 对这项技术的承诺延伸到了对其模型和服务的持续改进，例如NVIDIA 问答检索嵌入模型。 NVIDIA 表示，作为Transformer 编码器，它已经过微调，可以使用私有和公共数据集为基于文本的问答提供最准确的嵌入。

用最先进的人工智能为企业赋能

NeMo Retriever 的实际应用广泛且多样。从IT 和人力资源帮助人员到研发研究人员，NeMo Retriever 将法学硕士连接到多个数据源和知识库，使企业能够以更加对话、直观的方式与数据交互。 NeMo Retriever 致力于增强用户体验并提高企业各业务职能部门的效率和生产力。

渴望利用这项革命性技术的开发人员可以注册抢先体验NVIDIA NeMo Retriever。

围绕这一版本的兴奋是显而易见的，因为它增强了当前的人工智能能力，并为企业部门采用法学硕士开辟了许多可能性。 “游戏规则改变者”这个词在最近的人工智能新闻中被频繁提及。尽管如此，NeMo Retriever 仍然是连接生成式AI 和可操作商业智能的基石，在高级AI 功能和现实企业应用程序之间架起了一座有形的桥梁。