AI中台整体架构图

新闻

作者：微信文章
一、AI中台整体架构图

左侧平台部分

RPA 流程自动化平台：可模拟人类执行指令，完成财务、人资、行政等领域重复、繁琐工作，涉及键盘、鼠标操作，以及网站访问、邮件处理、文档核对等任务。

AI 人工智能 ：包含多种技术方向。

语音处理：如语音识别、合成、转写、翻译等。

自然语言 NPL：涵盖语义理解、人机交互、声纹识别等。

知识图谱 KG：涉及实体建模、知识训练等。

图像处理：有文字识别、影像识别、人脸识别等。

文字处理：包括文字识别、翻译、智能分类等。

虚拟现实 AR：如虚拟主播、虚拟客服等。还涉及机器学习、深度学习等底层技术。

IoT 物联平台：用于运行监控、故障诊断、预警报警、智能检修，依托网络、存储、计算资源池，以及智能、传感、边端、控制设备 。

右侧应用与解决方案部分

应用能力

协同办公平台：具备即时通信、智能协同、语音助手、开放融合功能。

数字员工：涵盖智能会议、智慧财务、智慧合同等多种职能。

数字经营：有智能运营、智慧管理等系统。

安全生产：涉及工业听诊器、声学成像仪等设备。

解决方案能力：可应用于医疗、工业、办公、教育、银行、煤炭、化工、电力等行业，打造智慧园区、智慧工厂、智慧医疗、智慧城市等场景。

二、AI中台技术架构图

AI 基础层（IaaS）

硬件基础设施：提供计算资源，如 NVIDIA 和 Ascend 的 GPU ，以及 CPU 资源。 软件计算架构：包含 NVIDIA CUDA、OpenCL、华为 CANN、AMD ROCm 等，用于支持硬件的软件计算环境。 数据资源：数据来源多样，有公共数据集、企业数据、社交媒体数据、科学研究数据、传感器数据等，是 AI 发展的基础。

AI 技术层（PaaS）

AI 框架：是开发 AI 应用的基础软件，像 TensorFlow、PyTorch、Caffe、昇思 MindSpore、mxnet ，提供编程接口和工具。 理论算法：虽图中未具体列出，但涵盖机器学习、深度学习等算法，是 AI 实现智能的核心逻辑。 开发平台：例如 ModelArts、之江天枢、飞桨、Tencent AI Lab ，为开发者提供从模型开发到部署的一站式环境。 AI 推理模型：针对语音处理、自然语言处理（NLP）、知识图谱、图像处理、文字处理、AR 虚拟现实等不同任务构建的模型，实现具体 AI 功能。

AI 应用层

AI 能力中心：整合 AI 技术，提供通用能力。 App 应用：面向不同用户群体，分为 ToB（金融、政府、公安等行业解决方案 ）和 ToC（互联网、教育、零售等生活场景应用 ），将 AI 技术落地到实际业务和生活场景中。

三、AI平台架构图


这是一个 AI 平台架构图 ，涵盖多个功能中心和模块：
左侧基础管控

AI Base：作为基础支撑。

账号 & 权限：负责用户账号管理与权限分配。

资源调度：合理调配计算等资源。

存储管理：管理数据存储。

监控报警：实时监控并在异常时报警。

审计：对平台操作等进行审计。

中间功能中心

应用中心

包含金融、制造等行业应用样板间 ，提供行业化应用示例。

有自主规划 Agent 机制、人工编排 Workflow 机制等应用机制。

集成知识检索增强 RAG、代码解释器等功能组件。

服务中心

分大模型运行（含服务管理、Prompt 工程等）和小模型运行（含服务运维、边端预测等）模块。

模型中心

有文心大模型（ERNIE - 3.5 等） ，也支持第三方大模型及通用、行业专用 AI 能力。

涵盖模型管理、评估、压缩等全生命周期管理功能。

样本中心

涉及数据集成、特征工程、数据采集等数据处理流程 ，以及结构化和非结构化数据管理。

开发中心

支持白盒代码态和零代码低代码态的大小模型训练 ，有 notebook、作业建模等工具，以及实验管理等功能。

右侧 AI 资产共享平台（AIHub）

包含资产管理、资产共享、资产托管、资产交易、资产门户等模块 ，用于 AI 资产的全流程管理与流通。

底部框架 & 基础设施

底层框架：如 Pytorch、TensorFlow 等，提供开发框架支持。

异构芯片：如昆仑芯、英伟达等芯片 ，提供计算硬件支持。

高速网络 RDMA：保障数据高速传输。