百度360必应搜狗淘宝本站头条
当前位置:网站首页 > 热门文章 > 正文

MyBatis 在 JDK8 中的性能问题(mybatis对应jdbc类型)

bigegpt 2024-08-03 11:48 2 浏览

在一次客户使用 TiDB 适配批处理场景中,处理数据的性能和预期相差很多。处理相同的数据量,Oracle 耗时 15 分钟,TiDB 耗时 35 分钟

远程排查

登录客户集群,通过 grafana 发现程序运行时,集群的资源使用率非常低,判断应用发来的压力较小。将应用并发数从 40 提高到 100,资源使用率和QPS指标几乎没有变化。通过connection count监控看到,随着并发数的增加,连接数也同样增加了,确认并发数修改是生效的。但执行show processlist发现大部分连接是空闲状态。简单走查了下应用程序代码,是Spring batch + MyBatis结构。因为 Spring batch 设置并发的方式很傻瓜,考虑线程数的调整应该是生效且可以正常工作的。

虽然还没有搞清资源使用率低的问题,但还是有其他收获,ping应用和 TiDB 集群的网络延迟,达到了 2~3 ms。为了排除高网络延迟的干扰,将应用部署到 TiDB 集群内部运行,批处理耗时从 35 分钟下降到 27 分钟,但依然和 oracle 的耗时有较大差距。因为数据库本身没有压力,所以当时的情况调整数据库参数也没什么意义。

因为应用提高并发的效果不符合预期,所以考虑线程可能造成了阻塞,但也没有证据,于是想了这样的场景来简单验证到底是应用的问题还是数据库的问题: 在 TiDB 集群中创建两个完全相同的 database,d1 和 d2,使用两个完全相同的批处理应用分别对 d1,d2 中的数据进行处理,等同于双倍压力写入 TiDB 集群,预期结果是对于双倍的数据量,同样可以在 27 分钟处理完,同时数据库资源使用率应大于一个应用的。 测试结果符合预期,证明应用提高并发没有效果

客户反馈给我们可能的几种情况:

  1. 应用并发太高,CPU 繁忙导致应用性能瓶颈。
    应用服务器的 CPU 消耗只有 6%,不应该存在性能瓶颈。
  2. Spring batch 内部有一些元数据表,同时更新元数据表的同一条数据会造成阻塞。
    这种情况应该是阻塞在数据库造成锁等待或锁超时,不应该阻塞在应用端。

客户的解决思路:

  1. 多应用部署并发运行,性能随应用部署数线性提升。
    不能解决单机应用性能瓶颈问题,对于业务高峰时的拓展也很不方便。
  2. 采用异步处理的方案,提高应用吞吐。
    目前是有些异步访问数据库的技术,但成熟度低,强烈不建议使用。

现场排查

现场使用 JDBC 编写了一个 Demo 对问题集群进行压测,发现数据库资源使用率随着 demo 并发数提高而增长,证明提高并发数可以给数据库制造更高的压力,此时完全排除数据库问题的可能。 通过 VisualVM 发现,应用程序的大量线程处于阻塞状态,这种情况线程开的多其实也没用上,实锤性能瓶颈来自应用。走查应用代码,发现虽然有用到同步锁等逻辑,但应该不会造成严重的线程阻塞。通过 dump 发现线程都阻塞在了 MyBatis 的堆栈中,

Locked ownable synchronizers:
    - <0x000000008523ca00> (a java.util.concurrent.ThreadPoolExecutor$worker)

"taskExecutorForHb-197" #342 prio=5 os_prio=0 tid=0x0007f5d7c72f800 nid=0x182c waiting for monitor entry [0x00007f5ccd6d4000]
    java.lang.thread.State: BLOCKED (on  object monitor)
    - waiting to lock <0x0000000080a772d8> (a java.util.concurrent.ConcurrentHashMap$Node)
    at org.apache.ibatis.reflection.DefaultReflection.DefaultReflectorFactory.fineForClass(DefaultReflectorFactory.java:1674)

是在 MyBatis 源码中的这个位置,DefaultReflectorFactory.java

public Reflector findForClass(Class<?> type) {
    if (classCacheEnabled) {
        // synchronized (type) removed see issue #461
        return reflectorMap.computeIfAbsent(type, Reflector::new);
    } else {
        return new Reflector(type);
    }
}

这里大致是这样,MyBatis 在进行参数处理、结果映射等操作时,会涉及大量的反射操作。Java 中的反射虽然功能强大,但是代码编写起来比较复杂且容易出错,为了简化反射操作的相关代码, MyBatis 提供了专门的反射模块,它对常见的反射操作做了进一步封装,提供了更加简洁方便的反射 API 。DefaultReflectorFactory提供的findForClass()会为指定的Class创建Reflector对象,并将Reflector对象缓存到reflectorMap中,造成线程阻塞的就在对reflectorMap的操作上。 因为 MyBatis 支持对ReflectorFactory自定义实现,所以当时的思路是绕过缓存的步骤,也就是将classCacheEnabled设为false,走return new Reflector(type)的逻辑。但依然会在其他调用ConcurrentHashmap.computeIfAbsent的地方被阻塞。

到这看起来是一个通用问题,于是将注意力放到concurrentHashmap的computerIfAbsent上。computerIfAbsent是 JDK8 中为map提供的新方法,

public V computeIfAbsent(K key, Function<? super K,? extends V> mappingFunction)

它首先判断缓存map中是否存在指定key的值,如果不存在,会自动调用mappingFunction (key)计算key的value,然后将key = value放入到缓存map。ConcurrentHashMap重写了computeIfAbsent方法确保mappingFunction中的操作是线程安全的。

该方法在官方说明中一段:

The entire method invocation is performed atomically, so the function is applied at most once per key. Some attempted update operations on this map by other threads may be blocked while computation is in progress, so the computation should be short and simple, and must not attempt to update any other mappings of this map.

可以看到,为了保证原子性,当对相同key进行修改时,可能造成线程阻塞。显而易见这会造成比较严重的性能问题,在 Java 官方 Jira,也有用户提到了同样的问题。

JDK-8161372

总之,官方在 JDK9 中修复了这个问题。

验证

将现场 JDK 版本升级到 9 ,应用在 500 并发,并排除网络延迟干扰的情况下,批处理耗时 16 分钟 。应用服务器 CPU 达到 85% 左右使用率,出现性能瓶颈。理论上,提高应用服务器配置、优化数据库参数都可以进一步提升性能。

当时的结论

MyBatis 在缓存反射对象用到的computerIfAbsent方法在 JDK8 中性能不理想。需要升级 JDK9 及以上版本解决这个问题。对于 MyBatis 本身,没有针对 JDK8 中的computerIfAbsent性能问题进行特殊处理,所以升级 MyBatis 版本也不能解决问题。

现在的结论

MyBatis 官方在收到我们的反馈后,非常效率地 fix 了这个问题。手动点赞。

可以看到 MyBatis 官方对computerIfAbsent进行了一层封装,如果value已存在,则直接return,这样操作相同key的线程阻塞问题就被绕过去了。MyBatis 会在3.5.7版本中合入这个 PR。

public class MapUtil {
  /**
   * A temporary workaround for Java 8 specific performance issue JDK-8161372 .<br>
   * This class should be removed once we drop Java 8 support.
   *
   * @see <a href="https://bugs.openjdk.java.net/browse/JDK-8161372">https://bugs.openjdk.java.net/browse/JDK-8161372</a>
   */
  public static <K, V> V computeIfAbsent(Map<K, V> map, K key, Function<K, V> mappingFunction) {
    V value = map.get(key);
    if (value != null) {
      return value;
    }
    return map.computeIfAbsent(key, mappingFunction::apply);
  }

  private MapUtil() {
    super();
  }
}

作者:sev7n
链接:https://juejin.cn/post/6950174748567568392

相关推荐

得物可观测平台架构升级:基于GreptimeDB的全新监控体系实践

一、摘要在前端可观测分析场景中,需要实时观测并处理多地、多环境的运行情况,以保障Web应用和移动端的可用性与性能。传统方案往往依赖代理Agent→消息队列→流计算引擎→OLAP存储...

warm-flow新春版:网关直连和流程图重构

本期主要解决了网关直连和流程图重构,可以自此之后可支持各种复杂的网关混合、多网关直连使用。-新增Ruoyi-Vue-Plus优秀开源集成案例更新日志[feat]导入、导出和保存等新增json格式支持...

扣子空间体验报告

在数字化时代,智能工具的应用正不断拓展到我们工作和生活的各个角落。从任务规划到项目执行,再到任务管理,作者深入探讨了这款工具在不同场景下的表现和潜力。通过具体的应用实例,文章展示了扣子空间如何帮助用户...

spider-flow:开源的可视化方式定义爬虫方案

spider-flow简介spider-flow是一个爬虫平台,以可视化推拽方式定义爬取流程,无需代码即可实现一个爬虫服务。spider-flow特性支持css选择器、正则提取支持JSON/XML格式...

solon-flow 你好世界!

solon-flow是一个基础级的流处理引擎(可用于业务规则、决策处理、计算编排、流程审批等......)。提供有“开放式”驱动定制支持,像jdbc有mysql或pgsql等驱动,可...

新一代开源爬虫平台:SpiderFlow

SpiderFlow:新一代爬虫平台,以图形化方式定义爬虫流程,不写代码即可完成爬虫。-精选真开源,释放新价值。概览Spider-Flow是一个开源的、面向所有用户的Web端爬虫构建平台,它使用Ja...

通过 SQL 训练机器学习模型的引擎

关注薪资待遇的同学应该知道,机器学习相关的岗位工资普遍偏高啊。同时随着各种通用机器学习框架的出现,机器学习的门槛也在逐渐降低,训练一个简单的机器学习模型变得不那么难。但是不得不承认对于一些数据相关的工...

鼠须管输入法rime for Mac

鼠须管输入法forMac是一款十分新颖的跨平台输入法软件,全名是中州韵输入法引擎,鼠须管输入法mac版不仅仅是一个输入法,而是一个输入法算法框架。Rime的基础架构十分精良,一套算法支持了拼音、...

Go语言 1.20 版本正式发布:新版详细介绍

Go1.20简介最新的Go版本1.20在Go1.19发布六个月后发布。它的大部分更改都在工具链、运行时和库的实现中。一如既往,该版本保持了Go1的兼容性承诺。我们期望几乎所...

iOS 10平台SpriteKit新特性之Tile Maps(上)

简介苹果公司在WWDC2016大会上向人们展示了一大批新的好东西。其中之一就是SpriteKitTileEditor。这款工具易于上手,而且看起来速度特别快。在本教程中,你将了解关于TileE...

程序员简历例句—范例Java、Python、C++模板

个人简介通用简介:有良好的代码风格,通过添加注释提高代码可读性,注重代码质量,研读过XXX,XXX等多个开源项目源码从而学习增强代码的健壮性与扩展性。具备良好的代码编程习惯及文档编写能力,参与多个高...

Telerik UI for iOS Q3 2015正式发布

近日,TelerikUIforiOS正式发布了Q32015。新版本新增对XCode7、Swift2.0和iOS9的支持,同时还新增了对数轴、不连续的日期时间轴等;改进TKDataPoin...

ios使用ijkplayer+nginx进行视频直播

上两节,我们讲到使用nginx和ngixn的rtmp模块搭建直播的服务器,接着我们讲解了在Android使用ijkplayer来作为我们的视频直播播放器,整个过程中,需要注意的就是ijlplayer编...

IOS技术分享|iOS快速生成开发文档(一)

前言对于开发人员而言,文档的作用不言而喻。文档不仅可以提高软件开发效率,还能便于以后的软件开发、使用和维护。本文主要讲述Objective-C快速生成开发文档工具appledoc。简介apple...

macOS下配置VS Code C++开发环境

本文介绍在苹果macOS操作系统下,配置VisualStudioCode的C/C++开发环境的过程,本环境使用Clang/LLVM编译器和调试器。一、前置条件本文默认前置条件是,您的开发设备已...