【DTSE Tech Talk 精选问答】NO.71丨0代码智能构建AI Agent——华为云AI原生应用引擎的架构与实践

大模型及生成式AI对应用和软件产业带来了哪些影响？从企业场景及应用开发视角，面向AI原生应用需要什么样的工具及平台能力？企业要如何选好、用好、管好大模型，使能AI原生应用快速创新？本期直播，华为云aPaaS DTSE技术布道师苏秦将基于华为云自身实践出发，深入浅出地介绍华为云AI原生应用引擎，通过分钟级智能生成Agent应用的方式帮助企业完成从传统应用到智能应用的竞争力转型，使能千行万业智能应用创新。
直播链接：https://bbs.huaweicloud.com/live/DTT_live/202411131630.html

Q：面对行业竞争加剧，华为云AI原生应用引擎如何不断优化算法以提升智能应用的精准度和效率，从而为企业在市场中赢得更大优势？

A:持续发展繁荣生态，接入业界主流大模型；通过项目经验和伙伴协同，沉淀行业资产；聚焦业界主流趋势和技术发展，落地多种编排方式和编排能力；通过模型能力+RAG工程能力+编排能力+知识循环机制+资产沉淀形成合力，共同助力AI应用效果最佳。

Q：对于那些对0代码构建AIAgent感兴趣的开发者，您有什么建议或资源推荐？

A:基于大模型的0代码开发更适用于业务人员或者初级开发者，理解工具、技能、插件、知识库、RAG能力、工作流、记忆等概念，关键是懂得业务流程和Know-How，通过技术与业务的组合，就可以实现最佳匹配业务场景的各类AI应用。

Q：华为云AI原生应用平台如何降低开发难度？

A:AI原生应用引擎平台提供开箱即用的工具、可自由灵活编排的工作流、知识库及其开放的、可编排的RAG工程能力、知识检索流、记忆能力等众多可视化，可编排的能力 ，让AI业务人员也可以通过这些可视化的工具能力，快速完成场景应用的编排开发。

Q：在设计AI原生应用引擎时，您是如何考虑系统的可扩展性和灵活性的？

A:整个系统是基于模块化构建的，每个模块功能相对解耦及可扩展，可独立进行技术演进和生态发展，各个模块通过业务流串联在一起，客户可方便快速地完成业务场景应用的构建。如果业务流上某一个节点要更新，也可以单独更新。

Q：随着企业数字化转型的深入，对于那些拥有众多历史悠久且复杂的遗留业务系统的大型企业，华为云AI原生应用引擎在整合和优化这些系统，实现与新的智能应用的无缝对接和协同工作方面，具备哪些独特的技术能力和解决方案？

A:AI原生应用引擎提供了API-Hub，不仅托管了数万+行业API，也支持企业托管私有场景API，这些API可以无缝集成到AI Agent应用中，实现存量应用于新智能应用的协同；API-Hub作为一站式API生命周期管理平台工具，提供了丰富的能力和可靠性。

Q：从实践角度看，0代码智能构建AIAgent的可扩展性如何？是否可以方便地根据业务的发展进行扩展和升级？

A:0代码构建AI Agent，仍然支持进行更复杂的功能业务的可视化编排，以集成更多的周边工具以及匹配复杂的业务场景。

Q：0代码构建AIAgent的技术原理是什么？

A:通过平台预置的大模型，根据用户的一句话输入进行Agent定义扩写，并自动为agent选择平台中合适的工具、知识库等，自动生成可用的Agent应用。当然，也支持通过LUI界面实现复杂的业务定义，而无需任何编码。

Q：在当前复杂多变的国际商业环境中，华为云AI原生应用引擎如何协助跨国企业应对不同国家和地区在数据主权、隐私法规、行业标准等方面的巨大差异，以确保其在全球范围内的应用开发和部署能够顺利进行并且完全合规？

A:可以参考华为云官网相关说明： https://www.huaweicloud.com/about/global-infrastructure.html AI原生应用引擎遵照华为云的全球布局及相关合规性遵从规定。

Q：华为云AI原生应用引擎如何处理大规模数据和复杂计算任务？

A:简单来说，AI原生应用引擎默认集成了华为云PaaS层的大数据服务以及函数计算等服务，可以处理非常大规模的数据及计算任务；这些底层组件对开发者是透明的、免维护的。

Q：华为云AI原生应用引擎支持哪些类型的AI应用开发？

A:政务、办公、金融、交通、煤矿、电商、医疗、教育等众多行业的复杂场景AI应用皆可支持。

Q：华为云AI原生应用引擎如何帮助企业在数字化转型过程中实现业务流程的优化和再造？

A:所有数据数字化，所有业务AI化，根据企业业务的具体场景，提供合理的解决方案，通过AI赋能人，AI赋能事，可以做到企业资产沉淀规划范化，业务效率提升，达到降本增效。

Q：华为云AI原生应用引擎在安全性和隐私保护方面有哪些措施？

A:针对数据安全、模型安全、内容风控、应用安全，建立四道防线，通过数据合规治理、模型安全对齐、安全评测、大模型安全护栏等AI安全可信治理策略，保障客户隐私数据安全。

Q：平台是否支持与现有的企业系统或第三方服务集成？

A:支持。资产中心可以上架所有三方的服务和资产，包含但不限于AI应用、数据集、工具、大模型、提示词模版等。

Q：华为云AI原生应用引擎在实际业务场景中的应用案例有哪些？

A:知识问答、电话咨询、病情筛查、数据查询、售后咨询、技术支持等。

Q：在保障应用的高可用性和容错性方面，华为云AI原生应用引擎采用了哪些创新的技术手段？

A:简单说分两层，一，AI原生应用引擎所依赖的华为云服务，都采用了多AZ、或者多Region的高可靠、高可用部署架构；二，AI原生应用引擎自身的微服务采用了双AZ的高可用架构；因此，无论是平台自身，还是托管的AI Agent应用，都可以获得高可用及高可靠的能力。

Q：华为云AI原生应用引擎如何促进企业内部不同团队（如开发、运维、业务）之间的高效协作？

A:通过不同团队、不同项目之间的架构设计和权限管理，可实现关键资产隔离，公共资产共享，所有业务流程数字化和智能化，高效协同。

Q：华为云AI原生应用引擎在哪些具体的行业和业务场景中得到了实践应用？

A:政务、办公、金融、交通、煤矿、电商、医疗、教育等众多行业中落地了知识问答、电话咨询、病情筛查、数据查询、售后咨询、技术支持等场景。

Q：对于没有编程背景的用户，如何快速上手使用这个平台？

A:不需要具备传统编程技能，但需要了解和掌握面向AI开发的工具、技能、插件、知识库、RAG能力、工作流、记忆等编排能力的使用，关键是了解业务场景的业务流程，就可以编排出契合实际业务场景的复杂AI应用。

Q：华为云AI原生应用引擎的技术架构是怎样的？它如何支持0代码开发？

A:通过平台预置的大模型，根据用户的一句话输入进行Agent定义扩写，并自动为agent选择平台中合适的工具、知识库等，自动生成可用的Agent应用。当然，也支持通过LUI界面实现复杂的业务定义，而无需任何编码。

Q：平台计划引入哪些新的功能或技术来进一步提升用户体验？

A:优化界面的使用体验，提升RAG工程能力，增加模型评测能力，增加Agent编排的技能。

Q：对于具有高度定制化需求的企业，华为云AI原生应用引擎如何实现个性化配置与规模化推广的平衡？

A:针对不同类型的客户，制定几套合理平衡的解决方案，满足客户需求，达成项目交付。

Q：在数据隐私法规日益严格的背景下，华为云AI原生应用引擎如何协助企业进行合规性审计和风险评估？

A:AI原生应用引擎目前集成了华为云终端安全风控能力，能够对Agent输出内容进行安全过滤。后续规划“3+1”AI应用安全体系，确保合规准入、安全生产

Q：在AIAgent的开发过程中，有哪些常见的性能瓶颈和解决方案？

A:AI Agent性能瓶颈分为两层，其中大模型侧的回答是关键因素，也是各大模型厂商的重要命题。作为AI Agent平台，AI原生应用引擎提供SLA级保障，通过Agent的独占资源部署，保证在大模型响应外能够做到随时扩缩容以保证性能。

Q：现在AI大多数文字方面的，有没有图片识别方面的AI。比如做智能货柜。能否通过华为的Aiagent通过摄像头来判断用户的价格

A:AI原生应用引擎目前已经接入了少量的多模态大模型，后续会接入更多主流多模态大模型，应用形态上也会考虑图片理解等多模态场景

Q：现在AIagent，除了问答，生成图片和声音。还有没有什么能完全代替人工完成某一项工作的具体应用，而不是单纯的辅助人工的工具。

A:目前和慧通差旅有做订酒店的Agent，能够自动根据差旅单帮助预定酒店，但过程中还是需要人的参与，譬如最终的确认阶段。

Q：开发者如何扩展或定制AIAgent的功能以满足特定需求？

A:开发者可以基于AI原生应用引擎提供的API和SDK，灵活定制。

Q：在模型训练过程中，如何利用华为云AI原生应用引擎的分布式架构提高效率?

A:AI原生应用引擎不涉及模型训练，而是提供模型之上的AI Agent应用的开发。

Q：华为云AI原生应用引擎如何确保用户数据的安全性和隐私保护？

A:AI原生应用引擎目前集成了华为云终端安全风控能力，能够对Agent输出内容进行安全过滤。后续规划“3+1”AI应用安全体系，确保合规准入、安全生产。

Q：对于行业新进入者，华为云AI原生应用引擎能提供怎样独特的支持来帮助他们快速适应市场？

A:首先提供极低门槛的Agent构建能力，其次提供开箱即用的问答问数服务，配合专业服务直接帮客户搞定场景。

Q：如何与合作伙伴共同推动AI原生应用的创新和发展，实现互利共赢？

A:不断扩展模型伙伴、Agent伙伴、数据伙伴及ISV伙伴，丰富生态的同时，制定完善的商业机制，保证伙伴能够获利。

Q：华为云AI原生应用引擎如何帮助企业提升用户体验和客户满意度？

A:通过赋能企业创建不同业务场景的助手，提升企业客户的体验和满意度

Q：华为在AI领域的未来发展规划都有什么，特别是在0代码智能构建方面？对于想要进入AI的企业和个人，华为能提供哪些服务帮助我们更好的使用AI，有哪些建议和指导？

A:AI原生应用引擎最主要的目标就是帮助企业和个人实现0代码智能构建Agent。对于想要进入AI的企业和个人，AI原生应用引擎同样提供多样的专业服务，手把手教学。

Q：对于数据量巨大且实时性要求高的应用，华为云AI原生应用引擎的优势在哪里？

A:AI原生应用引擎底层使用华为云数据库，天然具备巨大数据量的处理能力。同时AI原生应用引擎提供Agent的独享资源部署，提升Agent性能。

Q：华为云AI原生应用引擎如何确保在不同网络环境下的稳定运行和高效性能？

A:AI原生应用引擎当前支持华为公有云、华为云Stack等运行环境，未来也将支持云、边、端的协同分布式部署架构。

Q：华为AI原生应用引擎有哪些开放平台？如何选择合适的大模型？

A:支持API、SDK开放。AI原生应用引擎支持大模型调测，可以直观体验大模型的不同效果。目前正在集成华为内部使用的模型评测系统，帮助客户选好大模型。

Q：华为云AI原生应用引擎在未来发展中面临的挑战和机遇都有哪些？如何利用挑战和机遇更好的发挥华为云的优势？

A:任何产品在发展的过程中都会面临各种的挑战，且不同阶段对应的关键挑战也不一样，产品的迭代也是不断面临挑战和应对挑战的过程，当然面临挑战同时也伴随着机遇，当前AI原生应用引擎主要挑战是协同伙伴或客户找到AI价值场景并通过产品实现行业的ChatGPT时刻。华为云经过多年的行业耕耘，积累了大量的行业伙伴和客户，有丰富的行业Know-how，在当前AI这个浪潮之下，企业都将面临的一次重大的转型与升级的机遇，我们将持续协同伙伴和客户，通过AI重塑行业应用。

Q：华为云AI原生应用引擎如何支持企业进行敏捷开发和快速迭代？

A:AI原生引用引擎在产品设计上一直秉持做产品把困难留个自己，把方便留给客户的理念；产品定位就是AI应用的一站式开发平台，比如：模型的选择切换无感，开放的工具集成，便捷的工作流编排等等特性，未来还将持续构建Agent for Agents能力，更敏捷，更快速支持业务的应用创新与迭代。

Q：华为云AI原生应用引擎如何与其他云服务提供商的产品进行互操作和集成？

A:华为云AI原生应用引擎引擎产品架构就设计是开放的，如模型的统一汇聚与开放，工具接入与开放等，我们与其他云服务厂商的集成合作也是开放的态度，只要有利于业务，有利于客户都可以集成与开放。

Q：华为AI原生应用引擎中Loss曲线有什么作用？

A:loss曲线是评估模型训练效果

Q：华为AI原生应用引擎中ClickHouse有什么功能？

A:主要是大宽表多维聚合分析功能，实现亚秒级响应。

Q：企业应用大模型及生成式AI时，需要注意哪些安全问题？

A:安全是一个基础的必备能力，当前主要会面临内容安全（含提示词攻击），数据安全，模型安全，应用安全等问题。

Q：推理和训练的话，数据量过大，有什么好的解决办法？比如speech这样的，多卡910b有环境吗？

A:业界根据业务的实际情况有不同的解决办法，有的大力出奇迹，算力换时间，有的数据先转化为有效知识等，910b环境，可以与华为的昇腾云团队接洽。

Q：华为云AI原生应用引擎在促进企业间合作与生态建设方面发挥了怎样的作用？

A:华为云AI原生应用引擎一个关键使命就是生态建设，从应用视角出发，使能企业客户选好，用好和管好大模型，聚合生态，赋能企业，可以说起到了一个关键的桥梁作用。

Q：华为云AI原生应用引擎在处理大规模数据时的性能如何，如何保证高可靠性？

A:华为云AI原生应用引擎采用华为云大数据底座，具备多个行业海量数据的处理实践，在金融，政府等多个行业都有成功应用。

Q：在架构上是如何设计来确保不同模型之间的兼容性、高效调用以及资源分配的合理性？

A:基于微服务、Serverless等框架实现业务隔离，资源按需弹性伸缩等能力

Q：华为AI原生应用引擎能提供哪些模型管理服务？

A:AI原生应用引擎会汇聚业界主流的模型，年底会实现100+模型的汇聚，同时会提供部分模型的托管。

Q：大模型如何解决数据量有限带来的局限性呢

A:不可否认，数据是大模型应用的最关键的输入，所谓NO DATA，NO AI。如果有局限性需要考虑如何小步试跑，把知识飞轮构建起来。

Q：在使能千行万业智能应用创新方面，华为云AI原生应用引擎如何解决不同行业之间的差异和特殊需求？

A:我们一般把需求区分为产品需求和解决方案需求，产品需求一般是通用共性可复制的需求，解决方案需求一般跟贴近行业场景；不同的需求不同的处理策略，主要是做好开放性，产品客户适配各种特殊场景。

Q：华为AppStage与AI原生应用引擎平台有什么关系？

A:AppStage是云原生应用的开发平台，AI应用也是应用的一种形态，可以理解AI原生应用引擎是AppStage的一个产品模板。

Q：华为云AI原生应用引擎由哪些主要的组件或模块构成？这些组件之间是如何相互协作以实现整个引擎的功能的？

A:AI原生应用引擎主要包含5大功能模板，包括模型中心，知识中心，编排中心，资产中心和安全中心，五大模板基本涵盖了AI应用开发的全生命周期管理。

Q：大模型相关的训练需要哪些步骤才可以完成？

A:业界一般要区分基础模型，行业模型和领域模型三种场景的训练，对应的节奏和步骤都有不同。

Q：华为云AI原生应用引擎在助力企业转型过程中，如何平衡创新速度与应用稳定性之间的关系？

A:速度与稳定性一直是一个重要的权衡点，我们一般常用的处理方法是区分创新态与运行态，创新态速度优先，运行态稳定优先。

Q：请问老师哪些类型的应用亟需AI重构？或者说我们的机会在哪类应用？

A:未来所有的AI应用都值得用AI重构一遍，我们也总结归纳了选择价值应用的方法，从商业价值，场景成熟，可持续运营角度来分析，如果你有场景可以找我们的产品一起评估一下；当前普遍认为开发者在2B的场景应用机会很多。

想要了解 0代码智能构建AI Agent 更多相关知识，欢迎观看DTSE Tech Talk 系列技术直播