推荐语
AI中台架构全解析,带你深入了解AI技术的实际应用场景和架构设计。核心内容:1. AI中台整体架构概览,涵盖自动化、AI技术、IoT等多个领域2. AI中台技术架构,从硬件基础设施到应用层的全面解析3. AI平台架构图,展示功能中心和模块的详细构成
杨芳贤
53A创始人/腾讯云(TVP)最具价值专家
左侧平台部分
-
RPA 流程自动化平台:可模拟人类执行指令,完成财务、人资、行政等领域重复、繁琐工作,涉及键盘、鼠标操作,以及网站访问、邮件处理、文档核对等任务。
-
虚拟现实 AR:如虚拟主播、虚拟客服等。还涉及机器学习、深度学习等底层技术。
-
IoT 物联平台:用于运行监控、故障诊断、预警报警、智能检修,依托网络、存储、计算资源池,以及智能、传感、边端、控制设备 。
右侧应用与解决方案部分
-
协同办公平台:具备即时通信、智能协同、语音助手、开放融合功能。
-
解决方案能力:可应用于医疗、工业、办公、教育、银行、煤炭、化工、电力等行业,打造智慧园区、智慧工厂、智慧医疗、智慧城市等场景。
AI 基础层(IaaS)
-
硬件基础设施:提供计算资源,如 NVIDIA 和 Ascend 的 GPU ,以及 CPU 资源。
-
软件计算架构:包含 NVIDIA CUDA、OpenCL、华为 CANN、AMD ROCm 等,用于支持硬件的软件计算环境。
-
数据资源:数据来源多样,有公共数据集、企业数据、社交媒体数据、科学研究数据、传感器数据等,是 AI 发展的基础。
AI 技术层(PaaS)
-
AI 框架:是开发 AI 应用的基础软件,像 TensorFlow、PyTorch、Caffe、昇思 MindSpore、mxnet ,提供编程接口和工具。
-
理论算法:虽图中未具体列出,但涵盖机器学习、深度学习等算法,是 AI 实现智能的核心逻辑。
-
开发平台:例如 ModelArts、之江天枢、飞桨、Tencent AI Lab ,为开发者提供从模型开发到部署的一站式环境。
-
AI 推理模型:针对语音处理、自然语言处理(NLP)、知识图谱、图像处理、文字处理、AR 虚拟现实等不同任务构建的模型,实现具体 AI 功能。
AI 应用层
-
AI 能力中心
-
App 应用:面向不同用户群体,分为 ToB(金融、政府、公安等行业解决方案 )和 ToC(互联网、教育、零售等生活场景应用 ),将 AI 技术落地到实际业务和生活场景中。
这是一个 AI 平台架构图 ,涵盖多个功能中心和模块:
左侧基础管控
中间功能中心
- 应用中心
- 包含金融、制造等行业应用样板间 ,提供行业化应用示例。
- 有自主规划 Agent 机制、人工编排 Workflow 机制等应用机制。
- 服务中心
- 分大模型运行(含服务管理、Prompt 工程等)和小模型运行(含服务运维、边端预测等)模块。
- 模型中心
- 有文心大模型(ERNIE - 3.5 等) ,也支持第三方大模型及通用、行业专用 AI 能力。
- 样本中心
- 涉及数据集成、特征工程、数据采集等数据处理流程 ,以及结构化和非结构化数据管理。
- 开发中心
- 支持白盒代码态和零代码低代码态的大小模型训练 ,有 notebook、作业建模等工具,以及实验管理等功能。
右侧 AI 资产共享平台(AIHub)
- 包含资产管理、资产共享、资产托管、资产交易、资产门户等模块 ,用于 AI 资产的全流程管理与流通。
底部框架 & 基础设施
-
底层框架:如 Pytorch、TensorFlow 等,提供开发框架支持。