我要投稿
微信搜一搜，关注“NVIDIA英伟达企业解决方案”
《使用 NVIDIA NIM 大规模部署 RAG 工作流》
新课发布
配有实战练习环境的在线自主培训
在现代企业商业智能化的发展中，检索增强生成（RAG）在大语言模型应用中的地位日益凸显。不仅能够显著提升企业内容创作与交互的智能化水平，还能在多个业务场景中实现精准信息抽取与高效内容生成。企业级的 RAG 应用需要应对巨大流量和大规模文档，从模型搭建到生产级部署具有很高的复杂度和参数量。
本课程探讨 RAG 工作流生产级部署的最佳实践。您将学习部署、监控、自动扩展、线上热更新的全工作流。为您在搭建部署过程中，降低试错成本，加速大模型应用落地。
课程时长：4 学时（课后 6 个月内可以继续访问课件，实验资源用量有限额）
课程语言：中文
工具、库、框架：NVIDIA NIMs、Kubernetes、Helm、Grafana、Prometheus
学习目标：
使用 Helm 和 NVIDIA RAG Operator 将 RAG 应用部署到 Kubernetes 集群上。
利用 NVIDIA NIM 实现可扩展的容器化 LLM 和嵌入模型。
连接、更新、添加和自动扩展应用组件。
使用 Prometheus 和 Grafana 监控应用性能。
课程大纲：
课程设置概述：熟悉课程的交互式环境、Kubernetes 设置，并了解课程所需的 Kubernetes 概念和命令。
基于 Kubernetes 的 RAG 应用部署：如何使用 Kubernetes 和 Helm 部署 RAG 工作流，以及如何在工作流中使用单个 NIM 服务。
监控：如何使用 DCGM 监控应用程序，以及如何配置和查看 Grafana 和 Prometheus。
自动扩展：基于自定义指标使用 HPA 自动扩展应用程序，并对应用程序进行负载测试。
自定义 RAG 工作流组件：替换应用组件，例如 LLM。
53AI，企业落地大模型首选服务商
产品：场景落地咨询+大模型应用平台+行业解决方案
承诺：免费场景POC验证，效果验证后签署服务协议。零风险落地应用大模型，已交付160+中大型企业
2025-06-16
最新|Milvus_local_RAG，笔记本也能跑的本地知识库&RAG来了
2025-06-16
GraphRAG 在 CVTE 多业务场景下的探索与应用
2025-06-16
Dify+Firecrawl本地部署RAG知识库chatbot
2025-06-16
赢得企业RAG挑战赛的秘诀 —— 冠军方案剖析与感悟
2025-06-16
提升AI问答准确率：请在RAG前先做RAR，超越意图识别
2025-06-15
RAG不好用？试试MCP这个“知识库优化大师”
2025-06-15
RAG系统文本切分算法选型指南
2025-06-15
如何创建具有自我评估机制的Agent RAG
2025-03-21
2025-03-20
2025-03-24
2025-03-24
2025-03-24
2025-03-28
2025-04-01
2025-03-23
2025-04-13
2025-04-19
2025-06-13
2025-06-09
2025-06-06
2025-05-30
2025-05-29
2025-05-29
2025-05-23
2025-05-16
回到顶部
粤ICP备17114055号