百度360必应搜狗淘宝本站头条
当前位置:网站首页 > 热门文章 > 正文

线上问题之数据连接满了建立新连接失败

bigegpt 2025-04-26 16:59 5 浏览

前言:

前两天,作者晚上九点下班,打车回去,想着可以美美的睡上一觉啦(ps:由于最近项目比较忙,就加班到九点,作者是很讨厌加班的)。可谁想,在凌晨十二点手机铃声响了,我迷迷糊糊的在睡梦中醒来,接通了电话。。。果不其然,是现场问题,需要立即支撑并解决。

到底是什么问题呢?原来是数据连接满了,导致业务无法再次和数据库建立连接,程序报错。需要优化修改。

问题分析

我们用的是MySQL数据库,会连不上数据库既连接太多,要么减少连接,要么扩大最大可连接数,经过查询,MySQL 数据库 的默认最大连接数是经常设置在151的默认值,而最大连接数可以达到16384个

报错信息:

com.mysql.cj.jdbc.exceptions.CommunicationsException: Communications link failure
too many connections

分析过程

一:

查看数据库当前连接信息,可以看到连接数据库的进程id,ip,用户名,连接的数据库,连接状态,连接时长等如果发现有大量的sleep状态的连接进程,则说明该参数设置的过大,可以进行适当的调整小一些。

SHOW FULL processlist;

在MySQL中,使用 SHOW FULL PROCESSLIST; 命令可以显示系统中所有当前运行的线程,包括每个线程的状态、是否锁定等信息。

这个命令输出的表格中包含的字段具有以下含义:

  1. Id: 线程的唯一标识符。这个ID可以用来引用特定的线程,例如,在需要终止一个特定的线程时可以使用 KILL 命令。
  2. User: 启动线程的MySQL用户。
  3. Host: 用户连接到MySQL服务器的主机名和端口号,显示格式通常是 host_name:port。
  4. db: 当前线程所在的数据库。如果线程没有使用任何数据库,这一列可能显示为NULL。
  5. Command: 线程正在执行的命令类型,例如 Query、Sleep、Connect 等。
  6. Time: 命令执行的时间,以秒为单位。对于 Sleep 状态,这表示线程处于空闲状态的时长。
  7. State: 线程的当前状态,提供了正在执行的命令的额外信息。这可以是 Sending data、sorting result、Locked 等。
  8. Info: 如果线程正在执行查询,则这一列显示具体的SQL语句。对于其他类型的命令,这一列可能为空或显示为NULL。

当 Command 列显示为 Sleep 时,这意味着该线程当前没有执行任何查询,只是在连接池中等待下一个查询命令。通常,应用程序执行完一个查询后,连接可能会保持打开状态而不是立即关闭,以便可以重用该连接执行后续的查询。在这种状态下,线程不会使用服务器资源来处理任何数据,但仍占用一个连接槽。如果看到很多线程处于 Sleep 状态且持续时间较长,这可能是一个优化点,例如,通过调整应用逻辑或连接池设置来减少空闲连接的数量。

二:

查询当前最大连接数和超时时间

# 查看最大连接数
show variables like '%max_connections%';
# 查看非交互式超时时间 单位秒
show variables like 'wait_timeout';
# 查看交互式叫号时间 单位秒
show variables like 'interactive_timeout';
  • max_connections:
    1. max_connections 参数定义了数据库服务器能够同时接受的最大客户端连接数。当达到这个限制时,任何新的尝试连接的客户端将会收到一个错误,通常是“Too many connections”。
    2. 默认值通常基于系统的能力和配置,但经常设置在151的默认值。这个值可以根据服务器的硬件资源(如CPU和内存)和负载要求进行调整。
  • mysqlx_max_connections:
    1. mysqlx_max_connections 参数是专门为MySQL的X协议设定的最大连接数。X协议使得开发者能够使用NoSQL风格的接口与数据库交互。
    2. 默认值通常较小,因为X协议的使用还不如传统SQL协议普遍。这个参数允许你独立于max_connections控制通过X协议可能的连接数。
  • wait_timeout
    1. wait_timeout 设置的是非交互式(非控制台)客户端连接在变成非活动状态后,在被自动关闭之前等待的秒数。非交互式连接通常指的是通过网络或API等进行的数据库连接,如应用程序服务器到数据库的连接。
    2. 默认值通常较长,如8小时(28800秒),但这可以根据需要进行调整,特别是在连接数资源受限的环境中。
  • interactive_timeout
    1. interactive_timeout 适用于MySQL服务器与客户端进行交互式会话时的连接超时设置。交互式会话通常是指用户通过MySQL命令行客户端或类似工具直接连接并操作数据库。
    2. 这个超时值只会在MySQL服务器识别连接为交互式时应用。它的默认值也通常是8小时。

    三:

    修改最大连接数和超时时间

    SQL直接改:

    # 重启后失效 这里直接设置1000
    SET GLOBAL max_connections = 1000;
    # 设置全局 非交互连接 超时时间 单位秒
    SET GLOBAL wait_timeout = 300;

    配置文件改:
    MySQL的配置文件通常是 my.cnf(在Linux系统中)或 my.ini(在Windows系统中)。你应该在 [mysqld] 部分中设置这些参数

    在Linux系统上,MySQL的配置文件一般位于以下几个路径之一:

    1. /etc/my.cnf
    2. /etc/mysql/my.cnf
    3. /var/lib/mysql/my.cnf

    具体位置可能会根据不同的Linux发行版和MySQL安装方式有所不同。你可以使用 find 命令来搜索这个文件,例如:sudo find / -name my.cnf

    找到到文件后,将这些值修改为下列的值 这里直接设置1000

    [mysqld]
    max_connections = 1000
    
    wait_timeout = 300
    

    四:
    docker容器修改配置

    1. 使用Docker命令行参数
    2. 可以在运行MySQL容器时通过Docker命令行直接设置配置参数,例如:
    docker run -d \
      -p 3306:3306 \
      --name mysql \
      -e MYSQL_ROOT_PASSWORD=my-secret-pw \
      -e MYSQL_DATABASE=mydatabase \
      mysql:tag --max-connections=1000 --wait-timeout=300

    --max-connections=1000 是作为命令行参数传递给MySQL服务器的

    修改配置文件并挂载,修改完后再查一遍看看有没有改成功

    # 查看最大连接数
    show variables like '%max_connections%';
    # 查看非交互式超时时间
    SHOW GLOBAL VARIABLES LIKE 'wait_timeout';

    说明:

    wait_timeout 变量分为全局级别和会话级别:
    执行 SET GLOBAL wait_timeout = 300;后,

  • 使用执行 show variables like 'wait_timeout'; 发现并没有改变是因为在MySQL中,当你执行 SET GLOBAL wait_timeout = 300; 这条命令时,理论上应该是会设置全局的 wait_timeout 值为300秒。在查询 wait_timeout 时,没有指定是查询全局变量,可能会返回会话级的值。会话级的 wait_timeout 并没有被改变。尝试使用以下命令来查看全局设置:
  • # 查看全局变量
    SHOW GLOBAL VARIABLES LIKE 'wait_timeout';
    # 与之对应的,查看会话级别的变量可以使用:
    SHOW SESSION VARIABLES LIKE 'wait_timeout';

    全局变量和会话变量的区别:

    全局变量:

    1. 全局变量对服务器上所有当前会话和未来会话都有效。
    2. 当你设置一个全局变量时,它的值会影响所有新建的连接。然而,对于已经存在的连接,全局变量的更改通常不会影响它们,除非这些连接被重新启动或者明确地重新读取全局设置。
    3. 通过 SET GLOBAL 命令修改全局变量,或者在服务器的配置文件中设置并重新启动服务器。

    会话变量:

    1. 会话变量只对当前连接的会话有效,并且当会话结束时,会话变量的设置就会失效。
    2. 修改会话变量的命令是 SET SESSION 或者简单的 SET,它不会影响其他会话或连接。
    3. 每个新的会话都会从当前的全局设置中继承变量的值,但在会话中对这些变量的修改不会影响到其他会话。

    关于是否改变全局变量,这取决于你试图解决的具体问题:

    • 如果你需要修改的设置应该对所有新的连接生效,例如,修改 wait_timeout 来减少空闲连接超时,那么修改全局变量是合适的。这样,所有新建立的连接都会采用新的超时设置。
    • 然而,如果你需要立即影响当前活动的会话,你必须在每个会话中单独设置会话变量。这在某些操作中可能是必需的,比如调整当前事务的隔离级别或者调试中动态改变某些性能调优参数。
    • 改变是为了长期或持久的配置调整,修改全局变量通常是正确的做法。但如果需要对当前会话立即生效的改变,应该使用会话变量。

    总结

    以上是关于数据连接满了,通过修改最大连接数和超时时间等参数配置来应对连接满的情况问题。

    相关推荐

    得物可观测平台架构升级:基于GreptimeDB的全新监控体系实践

    一、摘要在前端可观测分析场景中,需要实时观测并处理多地、多环境的运行情况,以保障Web应用和移动端的可用性与性能。传统方案往往依赖代理Agent→消息队列→流计算引擎→OLAP存储...

    warm-flow新春版:网关直连和流程图重构

    本期主要解决了网关直连和流程图重构,可以自此之后可支持各种复杂的网关混合、多网关直连使用。-新增Ruoyi-Vue-Plus优秀开源集成案例更新日志[feat]导入、导出和保存等新增json格式支持...

    扣子空间体验报告

    在数字化时代,智能工具的应用正不断拓展到我们工作和生活的各个角落。从任务规划到项目执行,再到任务管理,作者深入探讨了这款工具在不同场景下的表现和潜力。通过具体的应用实例,文章展示了扣子空间如何帮助用户...

    spider-flow:开源的可视化方式定义爬虫方案

    spider-flow简介spider-flow是一个爬虫平台,以可视化推拽方式定义爬取流程,无需代码即可实现一个爬虫服务。spider-flow特性支持css选择器、正则提取支持JSON/XML格式...

    solon-flow 你好世界!

    solon-flow是一个基础级的流处理引擎(可用于业务规则、决策处理、计算编排、流程审批等......)。提供有“开放式”驱动定制支持,像jdbc有mysql或pgsql等驱动,可...

    新一代开源爬虫平台:SpiderFlow

    SpiderFlow:新一代爬虫平台,以图形化方式定义爬虫流程,不写代码即可完成爬虫。-精选真开源,释放新价值。概览Spider-Flow是一个开源的、面向所有用户的Web端爬虫构建平台,它使用Ja...

    通过 SQL 训练机器学习模型的引擎

    关注薪资待遇的同学应该知道,机器学习相关的岗位工资普遍偏高啊。同时随着各种通用机器学习框架的出现,机器学习的门槛也在逐渐降低,训练一个简单的机器学习模型变得不那么难。但是不得不承认对于一些数据相关的工...

    鼠须管输入法rime for Mac

    鼠须管输入法forMac是一款十分新颖的跨平台输入法软件,全名是中州韵输入法引擎,鼠须管输入法mac版不仅仅是一个输入法,而是一个输入法算法框架。Rime的基础架构十分精良,一套算法支持了拼音、...

    Go语言 1.20 版本正式发布:新版详细介绍

    Go1.20简介最新的Go版本1.20在Go1.19发布六个月后发布。它的大部分更改都在工具链、运行时和库的实现中。一如既往,该版本保持了Go1的兼容性承诺。我们期望几乎所...

    iOS 10平台SpriteKit新特性之Tile Maps(上)

    简介苹果公司在WWDC2016大会上向人们展示了一大批新的好东西。其中之一就是SpriteKitTileEditor。这款工具易于上手,而且看起来速度特别快。在本教程中,你将了解关于TileE...

    程序员简历例句—范例Java、Python、C++模板

    个人简介通用简介:有良好的代码风格,通过添加注释提高代码可读性,注重代码质量,研读过XXX,XXX等多个开源项目源码从而学习增强代码的健壮性与扩展性。具备良好的代码编程习惯及文档编写能力,参与多个高...

    Telerik UI for iOS Q3 2015正式发布

    近日,TelerikUIforiOS正式发布了Q32015。新版本新增对XCode7、Swift2.0和iOS9的支持,同时还新增了对数轴、不连续的日期时间轴等;改进TKDataPoin...

    ios使用ijkplayer+nginx进行视频直播

    上两节,我们讲到使用nginx和ngixn的rtmp模块搭建直播的服务器,接着我们讲解了在Android使用ijkplayer来作为我们的视频直播播放器,整个过程中,需要注意的就是ijlplayer编...

    IOS技术分享|iOS快速生成开发文档(一)

    前言对于开发人员而言,文档的作用不言而喻。文档不仅可以提高软件开发效率,还能便于以后的软件开发、使用和维护。本文主要讲述Objective-C快速生成开发文档工具appledoc。简介apple...

    macOS下配置VS Code C++开发环境

    本文介绍在苹果macOS操作系统下,配置VisualStudioCode的C/C++开发环境的过程,本环境使用Clang/LLVM编译器和调试器。一、前置条件本文默认前置条件是,您的开发设备已...