Java Agent场景性能测试分析优化经验分享

举报
华为云社区精选 发表于 2023/03/07 09:27:40 2023/03/07
【摘要】 Sermant 是一个主打服务治理领域的Java Agent框架,在服务治理中难免会有针对业务流量进行解析和处理的过程,此类服务治理能力将会对微服务的服务能力产生一定的性能影响,作为一个基于Java Agent技术做服务治理的框架,我们需要在保证服务治理能力生效的同时,极小的影响微服务原有的服务性能。

作者:栾文飞 高级软件工程师

一、背景介绍

Sermant 是一个主打服务治理领域的Java Agent框架,在服务治理中难免会有针对业务流量进行解析和处理的过程,此类服务治理能力将会对微服务的服务能力产生一定的性能影响,作为一个基于Java Agent技术做服务治理的框架,我们需要在保证服务治理能力生效的同时,极小的影响微服务原有的服务性能。

虽然基于Java Agent的服务治理和基于SDK的服务治理在其原理上有所不同,但也避免不了微服务治理过程中产生对微服务原有性能的影响,基于Java Agent服务治理方式的相较于SDK的服务治理方式免去了侵入式的代码开发,是一种运行时技术,所以还需要考虑更多方面性能优化问题,例如在启动时间,运行时增强性能开销等,本文将以Sermant SpringBoot 注册 插件的性能测试及优化过程为例,分享在Java Agent场景如何进行更好的性能测试优化及在Java Agent下需要着重注意的性能陷阱。

二、测试方案

众所周知,Java Agent程序和被增强应用运行时同进程,Java Agent程序最重要的是不能对被挂载的应用产生异常影响,导致应用不可用,所以Sermant在运行时的处理性能及稳定性等做多方面的测试量。在针对微服务进行测试的过程中,我们往往只需要关注该微服务的性能即可,通过压力测试来检验微服务的服务提供能力,由于服务治理能力并不直接提供服务,我们更多地需要关注在开启服务治理能力时,对微服务本身服务提供能力的影响,所以我们在测试方案中需要进行对比测试来评估服务治理能力的好坏。

本对照测试中,我们通过压力测试让系统达到极限场景(consumer端的CPU已经到达瓶颈),来分析携带Sermant并启用服务治理能力时,对应用原有服务提供能力的影响,此处采用两种部署方案

• 不携带Sermant,基于网关的场景,是架构改造前的运行模式

• 携带Sermant的场景,是迁移后的微服务架构运行模式

由于Java Agent程序和被增强应用处于统一进程,资源共享,基于上述两种部署方案进行测试,以不携带Java Agent程序作为测试分析的对照组,就可以很清晰的看出引入Java Agent程序后产生的影响,并可根据对照结果进行优化,应用于Sermant上,就可以很容易的分析出Sermant的服务治理能力对微服务本身服务提供能力带来的影响。

三、性能分析

由于需要针对应用发起的请求通过字节码增量的方式做域名的替换,SpringBoot 注册 插件通过对HttpClientOpenfeignOkhttphttp客户端进行了字节码增强,我们根据上一章节中的测试方案对该插件提供的服务治理能力进行了测试,下面我们以HttpClien为例通过CPU火焰图来讲述如何在Java Agent场景下分析性能瓶颈

分析步骤

1. 找到字节码增强逻辑的CPU占用

在分析过程中,首先需要找到字节码增强时选中的被增强方法(本文场景增强方法为InternalHttpClient::doExecute),字节码增强需要被增强程序的原有方法调用触发,所以也可以很清晰的在CPU火焰图中可以看到,Sermant实现的逻辑调用栈在被增强方法之上,在字节码增强逻辑执行结束后,被增强方法还会继续执行。

所以除被增强方法执行的调用栈及CPU时间片占用外,皆为字节码增强所引入逻辑,在性能优化中需着重关注。

2. 分析异常占用

根据CPU火焰图原理,找出字节码增强部分,找出异常占用CPU时间片的调用栈,并进行程序的优化,如下图所示红框选择部分,皆为字节码增强中引入的逻辑,占用了非常多的CPU时间片,由于字节码增强程序和被增强程序,这种异常的占用,将会严重影响原程序的性能,在针对Java Agent场景的优化中可着重优化

通过上述步骤,我们可以一目了然的看到我们通过Java Agent程序引入的CPU额外占用,具体占用原因本文就不一分析。

四、性能陷阱

基于上述两个章节的测试和分析方法,在本文的最后,列举出在Java Agent开发过程中经常会遇到的性能陷阱,这里也给出解决方式,可以在开发中注意:

减少反射使用

在字节码增强开发过程中,很多情况下,如果类加载器不同,针对被增强应用的类和方法往往需要通过反射去获取并使用,在我们的性能分析中,反射是一个CPU占用的巨大陷阱,在有些被BootstrapClassLoader加载的类增强时,甚至反射占用了一个方法调用30%以上的CPU事件片。

下图选中方法中,反射占用该方法调用中的大部分CPU时间片:

但是由于类加载器的限制,有些反射是必须要使用的,我们也可以通过一定的手段进行优化,比如缓存通过反射获取的类和方法,在字节码增强中,多次触发增强逻辑时减少反射占用CPU时间片非常有效。

1. Method method = METHOD_CACHE.get(methodKey);  

2. if (method != null) {  

3.     return Optional.of(method);  

4. }  

5. method = clazz.getDeclaredMethod(methodName, paramsType);  

6. METHOD_CACHE.put(methodKey, method);  

通过上述步骤优化后,通过火焰图来看,效果是非常显著的:

注意字节码增强插桩选择

在做字节码增强时的增强点选择很重要,字节码增强添加Transformer后运行时分为两种情况:

transform:针对尚未被类加载器加载的类,如果添加Transformer,在类被加载时就会触发字节码的转换。

retransform:针对已经被类加载器加载的类,如果添加了Transformer,则需要被重新加载后再进行字节码的转换。

Java中被BootstrapClassLoader加载的类,如果想要进行字节码增强,就需要使用第二种字节码转换的方式,可想而知,如果重新加载类再进行转换必然没有在类第一次加载时就进行转换的效率高。

除上述原因之外,在增强启动类加载器加载的类时,由于双亲委派机制的限制(只能向上委托,不能向下委托),往往都是需要大量使用反射(用于调用其他类加载器加载的类)来实现增强逻辑。

上文中也讲到,不加节制的使用反射将会通过Java Agent程序严重影响被增强应用的性能,所以在开发Java Agent时,需要谨慎选择增强的类,非必要不增强被启动类加载器加载的类。

上述两点是在Java Agent开发过程中最容易发生的向被增强应用引入的性能陷阱,除此之外,Java Agent也是由Java所开发,在开发过程中也需要注意不要引入常见的性能陷阱。

结束语

Sermant 作为专注于服务治理领域的字节码增强框架,致力于提供高性能、可扩展、易接入的服务治理体验,并会在每个版本中做好性能、功能、体验的看护,广泛欢迎大家的加入。


【版权声明】本文为华为云社区用户原创内容,转载时必须标注文章的来源(华为云社区)、文章链接、文章作者等基本信息, 否则作者和本社区有权追究责任。如果您发现本社区中有涉嫌抄袭的内容,欢迎发送邮件进行举报,并提供相关证据,一经查实,本社区将立刻删除涉嫌侵权内容,举报邮箱: cloudbbs@huaweicloud.com
  • 点赞
  • 收藏
  • 关注作者

评论(0

0/1000
抱歉,系统识别当前为高风险访问,暂不支持该操作

全部回复

上滑加载中

设置昵称

在此一键设置昵称,即可参与社区互动!

*长度不超过10个汉字或20个英文字符,设置后3个月内不可修改。

*长度不超过10个汉字或20个英文字符,设置后3个月内不可修改。