我要投稿

NVIDIA 培训 | 学习使用 NVIDIA NIM 部署生产级 RAG 应用

发布日期：2024-07-10 19:46:19 浏览次数： 2649

作者：NVIDIA英伟达企业解决方案

微信搜一搜，关注“NVIDIA英伟达企业解决方案”

《使用 NVIDIA NIM 大规模部署 RAG 工作流》

新课发布

配有实战练习环境的在线自主培训

在现代企业商业智能化的发展中，检索增强生成（RAG）在大语言模型应用中的地位日益凸显。不仅能够显著提升企业内容创作与交互的智能化水平，还能在多个业务场景中实现精准信息抽取与高效内容生成。企业级的 RAG 应用需要应对巨大流量和大规模文档，从模型搭建到生产级部署具有很高的复杂度和参数量。

本课程探讨 RAG 工作流生产级部署的最佳实践。您将学习部署、监控、自动扩展、线上热更新的全工作流。为您在搭建部署过程中，降低试错成本，加速大模型应用落地。

课程时长：4 学时（课后 6 个月内可以继续访问课件，实验资源用量有限额）

课程语言：中文

工具、库、框架：NVIDIA NIMs、Kubernetes、Helm、Grafana、Prometheus

学习目标：

使用 Helm 和 NVIDIA RAG Operator 将 RAG 应用部署到 Kubernetes 集群上。
利用 NVIDIA NIM 实现可扩展的容器化 LLM 和嵌入模型。
连接、更新、添加和自动扩展应用组件。
使用 Prometheus 和 Grafana 监控应用性能。

课程大纲：

课程设置概述：熟悉课程的交互式环境、Kubernetes 设置，并了解课程所需的 Kubernetes 概念和命令。
基于 Kubernetes 的 RAG 应用部署：如何使用 Kubernetes 和 Helm 部署 RAG 工作流，以及如何在工作流中使用单个 NIM 服务。
监控：如何使用 DCGM 监控应用程序，以及如何配置和查看 Grafana 和 Prometheus。
自动扩展：基于自定义指标使用 HPA 自动扩展应用程序，并对应用程序进行负载测试。
自定义 RAG 工作流组件：替换应用组件，例如 LLM。

53AI，企业落地大模型首选服务商

产品：场景落地咨询+大模型应用平台+行业解决方案

承诺：免费POC验证，效果达标后再合作。零风险落地应用大模型，已交付160+中大型企业

相关资讯

2025-10-13

LightRAG × Yuxi-Know——「知识检索 + 知识图谱」实践案例

2025-10-13

PG用户福音｜一次性搞定RAG完整数据库套装

2025-10-12

任何格式RAG数据实现秒级转换！彻底解决RAG系统中最令人头疼的数据准备环节

2025-10-12

总结了 13 个顶级 RAG 技术

2025-10-11

企业级 RAG 系统实战（2万+文档）：10 个项目踩过的坑（附代码工程示例）

2025-10-09

RAG-Anything × Milvus：读PDF要集成20个工具的RAG时代结束了！

2025-10-09

RAGFlow 实践：公司研报深度研究智能体

2025-10-04

Embedding与Rerank：90%的RAG系统都搞错了！为什么单靠向量检索会毁了你的AI应用？

了解更多

了解更多

160+中大型企业正在使用53AI

立即咨询预约演示

把握AI发展的机遇，共同探索、共同进步

2025-01-22

如何打造基于GenAI的员工服务机器人

2025-01-22

热点资讯

RAG彻底爆了！一文掌握其效果优化的架构设计及核心要点

2025-09-15

响应速度提升300%、检索准确率90%：RAG如何让企业知识“活”起来赚钱？

2025-08-05

优化 GraphRAG：LightRAG的三大改进

2025-08-18

从原理到落地：RAG 技术全解析，手把手教你搭建专属知识库

2025-09-02

RAG系统全景：架构详解与落地实践指南

2025-08-25

高质量AI知识库应用的前提：选对向量数据库

2025-08-25

RAG实战：借助RAGFlow做一个员工智能助理

2025-07-21

一文搞懂大模型：何为深入理解RAG？

2025-08-25

DeepMind爆火论文：向量嵌入模型存在数学上限，Scaling laws放缓实锤？

2025-09-03

别再往AI的知识库塞奇怪的东西了，什么样的知识适合作为RAG知识库？

2025-08-20

大家都在问

Embedding与Rerank：90%的RAG系统都搞错了！为什么单靠向量检索会毁了你的AI应用？

2025-10-04

存算一体破局向量检索瓶颈，IBM放出王炸VSM：性能飙升100倍，能效碾压GPU千倍，RAG要变天？

2025-09-30

您应该为您的 RAG 系统使用哪种分块技术？

2025-09-10

关于多模态应用的几个疑问，以及多模态应该怎么应用于RAG？

2025-09-10

DeepMind爆火论文：向量嵌入模型存在数学上限，Scaling laws放缓实锤？

2025-09-03

RAG检索后如何应用更有效？

2025-08-28

一文搞懂大模型：何为深入理解RAG？

2025-08-25

别再往AI的知识库塞奇怪的东西了，什么样的知识适合作为RAG知识库？

2025-08-20

热门标签

内容创作大模型技术个人提效 langchain llamaindex 多模态技术 RAG技术智能客服知识图谱模型微调 RAGFlow coze Dify Fastgpt Bisheng Qanything AI+汽车 AI+金融 AI+工业 AI+培训 AI+SaaS 提示词框架提示词技巧 AI+电商 AI面试数字员工 ChatBI 知识管理开源大模型智能营销智能硬件智能化改造 AI+医疗 MaxKB

应聘简历请发送至： ceo@53ai.com

联系我们

售前咨询

预约演示

微信扫码

添加专属顾问

回到顶部