过去十年,云原生(Cloud Native)重塑了应用架构的基石,它强调以容器、微服务为代表的基础设施能力,确保应用能够在云环境下具备敏捷性、可扩展性和可观测性。今天,AI成为新的需求放大器,给应用提出了智能优先的命题,促使全行业迈向 AI 原生。如果说,云原生解决的是如何高效地运行,那么 AI原生是在此基础上解决如何智能地运行。
当我们说 AI 原生应用的时候,并非抛弃云原生应用。相反,它建立在云原生的基础之上,依然会广泛使用容器化、容器编排和微服务等技术,来确保 AI原生应用能够实现弹性、可靠、高效地部署和运维。广义上讲,无论是云原生应用,还是 AI原生应用,都越来越依赖云这一基础设施,基于云来构建应用,两者都是云原生的应用。
应用架构是指导如何系统性地构建应用。在云原生应用架构中,我们讨论的是容器如何管理、服务如何拆分、流量如何治理。而在 AI 原生应用架构下,其目标是在满足可扩展、可观测、安全合规的同时,最大化释放大模型的智能潜力。
由此可见,AI 原生应用架构是一次智能化范式升级,让机器学会了思考。
3
什么是 AI 原生应用架构?
AI 原生应用是以大模型为认知基础,以 Agent 为编排和执行单元,以数据作为决策和个性化基础,通过工具感知和执行的智能应用。
AI 原生应用模式按照编排方式和单多个应用可以划分四个象限。早期简单智能体+提示词工程快速构建一个单智能体,后来大家通过 Worflow 编排业务流程解决相对复杂重复的任务。近期大家开始构建能够泛化解决复杂任务的多智能体。
当然随着业务复杂度,智能化程度不断提升,多 Agent 架构和微服务架构有更多相通之处,两边的链接也在加强。未来我们判断每个应用后面都是大量智能体和工具协作完成的,云原生和 AI 原生架构双轮驱动高速发展。
4
AI 原生应用平台
我们基于服务云上客户的实践,提供一些解题思路:
场景上大家要意识到 AI 更多是效率革命,未来多模态会陆续有场景和交互变革产生。大家需要在业务场景中找到高频&结构强(Coding),轻决策&重执行(外包)场景重构业务流程,提升整体效率。当大家突破了场景,竞争对手一定会跟上来,最终我们 AI 应用壁垒会在自己的数据上面,如何私域数据,沉淀数据,优化数据,就是 AI 应用的护城河。最后还是拼智价比。找到符合自己场景的模型,做一些强化学习,微调,训练垂类模型,巩固行业地位。
为了开发AI应用,我们需要构建一个简单、易用、专业的开发框架,提升研发效率。构建一个以数据为中心的 Agent 开发平台,通过 调试、观测、评估一体化解决 Dev 阶段调试效率和效果问题。构建 AI 原生应用开发平台(通过 AI 网关解决多模型超时重试、Failover、灰度、Token 流控和额度管理提升模型稳定性;通过 AI 网关接入安全护栏无侵入解决安全合规问题;通过 AI 网关语义缓存,智能路由,AI 消息解决成本问题;通过 Serverless平台解决极致弹性问题;通过端到端可观测&评估体系解决排查难,效果追踪问题)解决 Ops 阶段难以维护问题。