AI大模型与AI重塑软件的大趋势下，软件会发生哪些实质的变革？如果“所有软件都值得用AI重做一遍”，那么该如何重做？华为云aPaaS平台首席架构师马会彬从AI重塑软件的实质变革、AI原生的观点与内涵解剖，分享华为云AI原生运用引擎的架构设计和实践思考。

华为云aPaaS平台首席架构师马会彬在ArchSummit现场分享

AI重塑软件家当：变革与趋势

大模型正在推动历史性的技能革命，企业想要成为AI科技浪潮的赢家，须要回答是否要演习自己的行业大模型、如何探求或打造自己的ChatGPT时候、如何从既有的企业IT架构和组织能力上支撑落地这三个问题。

大模型的四大技能驱动力，使得AI重塑软件成为可见的未来

驱动力1：万物皆可Embedding，泛化万物的通用机器智能表示

Embedding办理了笔墨、图片、声音、视频转化为一个可打算的token的问题，使得纯文本NLP快速演进到多模态大模型，对全体大模型和AI技能浪潮产生根本性的影响。

驱动力2：Transformer架构催生Scaling Law，统一了模型架构

过去经典模型没有通用性能力，办理的都是个性化问题，Transformer架构目前被证明是最有效的大模型架构，模型参数规模、数据规模、演习打算量的规模都会显著提升大模型的智力能力，它的演进是有确定性方向的。

驱动力3：从智能摩尔定律到场景摩尔定律，大模型成为通用生产力引擎

算力的演进，模型智力能力和模型场景泛化能力的演进，都符合摩尔定律，乃至在一定程度上，演进的速率超过了摩尔定律；就模型而言，办理的问题和适用的场景，随着韶光就会自然得到，不须要在编程或者算法设计上做太多的处理。

驱动力4：LLM OS抽象了通用AI打算架构，使AI原生运用成为可能

LLM OS因此大模型为核心处理单元所布局的一种理论打算架构，业界基于此做了通用实现，证明了它有办理通用问题的能力。

AI重塑软件、赋能行业智能化业务视角的变革

大模型带来3大颠覆性技能创新，即创造能力、推理能力、自然交互能力，对全体软件行业产生重大影响，紧张表示在两大维度：（1）AI赋能人，在一定程度上仿照人、超越人，比如具身智能和AI Agent分别在物理天下、数字天下赞助人、替代人；（2）AI重塑存量软件及工具，显著提升人的效率及体验。

技能视角的变革

软件架构之变：传统程序或软件1.0是构成式架构，是精心设计的、确定性的，而AI原生软件或软件2.0因此大模型为底座的天生式架构。

软件工程之变：传统程序的软件工程因此人为本的协同式开拓，强调开拓流程、工具、人之间的协同合营，而以大模型为底座的软件开拓过程，因此数据为本的天生式开拓，对协同的哀求没有那么高。

软件体验之变：传统软件是通过键盘鼠标或触摸式交互，到了AI原生时期则变成了时空自然交互，不止是大略对话，AI能理解人所处的韶光和空间，这是一个非常大的改变。

软件商业之变：传统上是软件即做事，是把软件功能以做事的形式去交付，现在是做事即软件，不仅供应功能，而且直接供应操作软件完成业务的“做事”。

基于这4个变革，会涌现3种形态：第一种，这4个变革都采纳或屈服了的，便是新的AI原生运用（AI native）；第二种，程序或运用保持不变，但改变了软件跟用户交互的办法；第三种，程序或运用保持不变，但改变了软件开拓的工程和工具体系，后两类可以认为是AI重塑的传统软件（AI enabled）。

AI原生架构及AI原生运用新范式大模型催生新的AI原生运用新范式新架构：从构成式架构到天生式架构的变革；新体验：从键鼠与触摸到自然交互的变革；新工程：从以人为本的协作开拓到以数据为本的天生式开拓的变革；新商业：从软件即做事到做事即软件的变革。

基于这4点，AI原生运用新范式包括两层意思：第一是AI First新思想，想做以大模型为基座的软件或运用，紧张是转变思维模式；第二是AI Native新实践，是架构和工程方法的问题。
只有将这两者综合在一起，才能真正实现以大模型为驱动力的新运用和新软件家当的落地。

AI原生架构之变：从经典编程架构，进入天生式架构模式

传统软件强调算法、逻辑、数据，有确定的输入和确定的输出，大量的事情须要提前设计和开拓，天生式的软件架构跟之前有根本的差异。
模型是单独开拓的，功能或场景的开拓，即提示词输入，不是在大模型开拓过程中确定的，而是在任务的场景高下文里确定的。
全体事情办法完备发生变革，意味着全体软件开拓过程中的角色、办法发生了变革。
由于开拓阶段只是确定了模型或软件框架，在业务过程中有实时的软件功能或者结果的天生。

AI原生工程之变：从以人为本的协同开拓，到以数据为本的天生式开拓

以人为本的协同开拓，无论是瀑布模式还是敏捷模式，都可以归纳为因此人为本的，特殊强调项目管理和软件工程，迁移到大模型驱动的以数据为本的天生式开拓，产生了几个根本性的变革：

全流程数字化：意味着设计和需求都可以用文本、语音、视频办法记录，通过大模型去理解、天生，之前软件开拓的需求在通报过程中总有丢失，现在可能不会了，软件研发全面进入数字化时期。
AIGC：天生软件（software）的各种ware，代码、测试脚本、文档都是天生式的。
极致的持续交付：过程中对人的依赖性极大地降落了，交付周期极致缩短，真正实现持续交付。
人机交互智能：人机交互过程即开拓过程。
以数据和模型为本：研发职员做事于大模型和大数据平台。
AI原生体验之变： 从点击、触摸交互模式到新的自然交互模式

一个运用或一个软件可以分为两层，底层是记录系统，没有变革，上层是交互系统，交互办法因大模型发生很大变革，表示在三个方面：

自然空间交互：基于语音、姿态、眼神，乃至脑电波等更自然的交互形式，人的Prompt输入速率远远跟不上大模型token天生的速率，未来可能基于脑机接口来作为输入。
其余，不同于传统的桌面、App入口，转为场景式的智能时空入口，没有一个确定的入口办法，功能要求随时可以被触发。
系统嵌套触达：未来运用之间的边界会进一步肃清，不再彼此伶仃，而是可嵌套的系统级触达，所有的传统运用软件终极可能退化成背后的一个个业务工具。
全个性化体验：之前软件交付面临定制化问题，现在以大模型为驱动，一定因此用户、以任务为中央，本身便是个性化的，业务结果是实时天生的，在这种情形下，须要一种新的跨系统、跨平台的分布式自然人身份系统，不再可能用之前传统的账号模式。
AI原生商业之变： 从“软件即做事”到“做事即软件”的新商业模式当前家当界在软件、做事和雇员用度上的开支，软件占比还较低，以大模型为驱动的Agent在一定程度上能赞助人或者代替人，家当空间非常大。
以大模型为驱动的Agent跟人的本钱比拟，目前统计是1:80，未来比例可能会进一步放大。
人的知识、技能、履历如果被压缩进大模型，再以大模型为根本供应给业务场景，可以完美实现履历、技能的0本钱复制。
AI原生运用的架构演进与成熟度等级演进

将AI自主能力等级和AI成熟度等级作为两个象限去看，大概会经历5个阶段：运用+AI特性（低级阶段）、运用+Copilot（任务阶段）、运用+Agent（助手阶段）、Agent+运用（代理阶段，Agent为主、运用为辅）、超级智能体ASI（共生阶段，人、AI驱动的机器人、agent协同事情），目前每个阶段都有在考试测验，但运用的场景和范围都还有一定的限定。

华为云AI原生运用引擎的架构实践

华为基于内部实践以及跟客户、生态伙伴的互助打磨了一款AI原生运用引擎产品，旨在帮助企业从运用视角选好、用好、管好大模型，赋能AI原生运用创新，紧张包含Agent编排中央、知识中央、模型中央、AI可信管理和AI资产库5大模块，办理6个业务问题。

如何选择得当的大模型，目前模型种类繁多，哪些场景、哪些任务适用哪种模型？如何考虑BCM、考虑可演进性？如何提升大模型在业务场景中的能力和效果？由于模型是通用的，场景又是个性化的，两者如何去匹配？如何给模型和AI运用供应高质量数据？由于它不是一次性的，如何不断提升模型和运用的效果？如何建立AI安全机制，确保安全可信管理？比如大模型驱动的具身智能在物理天下可能会有环境和人身安全方面的问题。
如何降落运营本钱？技能投资一定要考虑本钱和收益之间的均衡。
如何快速创新，让更多的人参与到场景中快速创新？

AI原生运用落地企业生产场景要办理的关键寻衅安全性：数据安全、模型交互安全、运用安全；专业性、协作性：如何让大模型能够理解并办理繁芜的业务问题；任务性：AI赞助人或者代替人，任务怎么界定，它是否能承担这个任务。

详细来说，紧张有从5个方面来应对和解决：

1、企业词表：每个企业都有自己的术语表，要加载企业专业术语，让大模型准确理解，肃清歧义，提升准确率。

2、领域知识库：所有大模型落地一定要外挂知识库，由于模型的演习是有周期的，但是外部的实时数据和实时的知识更新很快，以是须要让模型跟知识库结合，担保知识的动态更新，办理知识的及时性及有效性。

3、场景范式：模型是通用的，业务场景是多变的，如何用通用的架构办理个性化或多变的场景问题？为此，华为云参照人办理问题的思考办法，构建了7大Agent场景范式（会话交互、内容理解、感知吸收、中枢决策、知识查询、设计天生、数据剖析），从而简化Agent开拓。

4、模型网关：基于大模型的运用开拓一定须要模型网关，有以下方面的缘故原由：（1）市情上的模型很多，对企业来说，包括自建的模型、外购的第三方模型，什么业务该当路由给哪一个模型，须要考虑业务路由问题。
（2）各模型在提示词输入输出的格式上有一些差异，须要一个统一的接口进行切换。
（3）大模型是个IT系统，也会涌现故障乃至宕机，基于网关制订Failover机制，可以提升大模型的运用可用性。
（4）模型天生的结果，真实效果或准确性如何，要有个掌握点来建立可不雅观测性，来持续度量推理性能、本钱及跟踪反馈的问题。

除了4个功能性的需求之外，还须要从企业CIO视角去做模型管理，由于模型是一个关键的IT根本举动步伐，如何引入、升级版本、退出，都要有管理规范和流程。

5、知识飞轮：如何持续提升模型能力，如何从企业现有运用和业务系统中提取高质量数据、把数据回流给影象和模型，须要建立知识、模型、数据回流的迭代机制，持续提升智能效果。

华为云AI原生运用引擎的案例实践场景案例1：基于AI Agent的智能化招聘

HR Agent帮忙HR进行招聘，在一定程度上是自然人与Agent协同的一种新的事情模式。
岗位描述、投放渠道推举、岗位发布、候选人搜索和推举、候选人沟通、预约口试与答疑、组织口试、记录天生、结果匹配和评估、任命关照等过程，都以Agent为主完成或独立完成，涉及到多轮口试、结果确认、任命决策、入职培训等业务决策则须要人工参与。

场景案例2：基于AI Agent的智能化、自动化客服

把大模型运用到客服场景，目前基本上是两种办法：第一种是在一些详细的环节，通过模型来办理业务问题，赞助天生结果，第二种是模型、Agent、人协同事情，当前客服、保险代理、保险理赔等环节都在用这种办法。
现在RAG的默认准确度，大概在50%，如果要提升到很高的等级，做莅临盆可以投产，至少要达到80%~90%以上，除了Prompt和垂域知识之外，还须要通过数据飞轮，业务产生高质量数据来对模型微调，提升高质量数据产生的过程，再通过建立数据回流机制，进一步提升效果。

华为内部实践：从RPA到AI Agent，在业务流程全面运用数智员工

华为All Intelligence实践从2019年就开始了，内部的零售、公共沟通、条约、工程、客服，员工各领域，有很多不同的岗位和角色，在这些流程中全面运用AI和大模型技能来赋能提升效率和改进体验，华为内部称之为知识和履历的一次革命！
之前所有的知识和履历都是通过流程规范和业务文档去传承，现在可以压缩到模型里面，以模型驱动的AI运用的办法，直接进入到业务流程里面去交付。

关注#华为云开拓者同盟# 点击下方，第一韶光理解华为云新鲜技能~

华为云博客_大数据博客_AI博客_云打算博客_开拓者中央-华为云