性能文章>记一次JVM OOM 实战优化>

记一次JVM OOM 实战优化原创

3年前
9994311

刚接手的服务,正常稳定运行了很长一段时间,在大家伙收拾东西准备回家过年时,突然就抽风了。

接口失败率居高不下?

看日志!

GC overhead limit exceeded
java.lang.OutOfMemoryError:GC overhead limit exceeded

看一下JVM堆栈

sudo jmap -heap port
#eg:sudo jmap -heap 9999

image.png

很明显,是内存不够了。

我当时的第一想法就是,应该是内存泄漏!我的思路如下:

1、先入为主,因为之前处理过一次因内存泄漏导致的JVM OOM问题,所以当时高度怀疑内存泄漏。

2、导出JVM堆数据,分析、定位问题。

3、fix bug,重新部署,finish!

我按照这个思路,分析堆栈后,发现堆中有大量对象,这些对象还没来得及回收,其他线程又在申请内存,从而导致了OOM。造成问题的直接原因是业务请求量增加了,而现有的机器资源不够用。至于间接原因,下一篇文章再详细描述。

在揭开问题的谜底后,回过头想一想,如果当时能够仔细分析一下问题,或许问题会被更快解决。

事后反思:服务已经稳定正常运行了一段时间,且一个月内未修改代码和更新服务。如果是代码有问题,那么问题极大可能会在新代码上线后的几天内出现。基于这一点,基本可以排除代码问题。

线上服务出现问题,首要的任务就是尽快恢复服务可用。如果下次出现类似问题,我会选择流程一,而非流程二。

image.png

image.png

造成服务不可用的直接原因是服务请求量上升,而根本原因是由于下游服务负载过高,导致微服务调用超时,从而引起连锁反应。

下图呈现了用户发起请求到响应完成的大致流程。

image.png

业务服务接口和算法服务接口使用eureka作为服务注册中心,整体来说,这个服务采用相对简单的微服务架构。

服务接口搭配feign来请求算法服务接口。

@FeignClient(value = "image-service")
public interface ImageService {
    
    @PostMapping(value = "/XXX")
    String XXX(@RequestParam("img_base64") String imgBase64);
}

上面的代码在执行请求的时候,会将请求参数进行拼接。

image-service/xxx?img_base64=fjsfdgldfgrwdfdmgfdglwefsl

当eureka真正确定请求的服务地址后,又会再做一次拼接处理。

127.0.0.1:5000/xxx?img_base64=fjsfdgldfgrwdfdmgfdglwefsl

算法服务接口的处理时间与图片的大小正相关,图片越大,处理时间越长。由于处理图片是一个相对耗时的操作,接口会出现超时的情况。如果请求失败(超时),那么feign会进行重试。

图片base64字符串的长度与图片大小呈正相关关系,图片越大,base64字符串长度越长。一张306K的图片,转成base64格式后,字符串长度为429196。

image.png

因此处理一次正常的请求消耗的内存比较大。图片越大,算法处理时间越久,超时失败后,feign重试,重试之后又失败,导致一个恶性循环(幸好有超时次数限制,否则如此递归下去,后果不堪设想)。

如图是JVM OOM后拿到堆栈的数据,最大的图片base64的大小有5M。

image.png

jdk1.8 JVM参数PretenureSizeThreshold的默认值是2M。

image.png

当base64字符串超过2M时,会直接分配到老年代,这无疑加大了JVM老年代的内存压力,导致频繁Full GC。

image.png

为何使用image base64传输图片?

1、历史原因。

2、开发相对简单。

该如何优化?

1、提高feign请求的超时时间。

2、提高机器配置。

3、将image base64放到请求体中,减少因feign框架对参数进行拼接带来的内存开销。

点赞收藏
猪杂汤饭
请先登录,查看3条精彩评论吧
快去登录吧,你将获得
  • 浏览更多精彩评论
  • 和开发者讨论交流,共同进步

为你推荐

随机一门技术分享之Netty

随机一门技术分享之Netty

从 Linux 内核角度探秘 JDK MappedByteBuffer

从 Linux 内核角度探秘 JDK MappedByteBuffer

MappedByteBuffer VS FileChannel:从内核层面对比两者的性能差异

MappedByteBuffer VS FileChannel:从内核层面对比两者的性能差异

11
3