springboot+pgbouncer+postgres数据库连接池集成方案及问题解决

期望通过每一次分享,让技术的门槛变低,落地更容易。 —— around

前言

旨在解决微服务项目全是连接池并影响数据库并发连接,作者的环境是基于sprongboot微服务连接postgres数据库,每个微服务的DAO层配置都使用了连接池技术。后续微服务太多,导致连接到一个数据库上默认创建的连接太多(整体数据库连接数 = 微服务数量 x 连接池默认创建连接数量),因此在连接池上做处理,统一迁移至数据库端,同时为以后升级数据集群管理工具准备。

编写文本的最大原因是网上关于pgbouncer的文章质量太差,于是个人记录一下踩坑情况与实际解决方案。

作者环境:centos7 + postgres14 + pgbouncer1.18 + springboot2.4.5

目录

    1. 安装pgbouncer
    1. 错误收集
    1. springboot连接pgbouncer

正文

1.安装pgbouncer

使用yum直接安装

yum install pgbouncer -y

安装完毕后注意看几个目录是否存在

/etc/pgbouncer/
/var/log/pgbouncer/

接着打开pgbouncer.ini文件进行配置修改,关注以下几个参数项,建议按本文直接设置

vi /etc/pgbouncer/pgbouncer.ini

====begin======
[databases]
postgres = host=127.0.0.1 port=5432 dbname=postgres

listen_addr = *
listen_port = 6432

# 如果你安装的postgres是低于14版本,则使用auth_type = md5,否则请按我的设置
auth_type = scram-sha-256
auth_file = /etc/pgbouncer/userlist.txt

# 管理账号
admin_users = postgres
stats_users = postgres

# 支持session、transaction、statement三种模式,不明白去搜索
pool_mode = transaction

server_reset_query = DISCARD ALL

# 是否忽略jdbc连接参数
ignore_startup_parameters = extra_float_digits

server_check_query = select 1

server_check_delay = 30

# 最大连接池数量
max_client_conn = 400

# 默认连接池数量
default_pool_size = 36

reserve_pool_size = 5

dns_max_ttl = 15

修改完毕后直接保存文件,接着不要着急启动,启动肯定直接失败,以下内容就是我启动后造成的错误日志

LOG  (nodb)/[email protected]:33082 closing because: password authentication failed (age=0s)
WARNING (nodb)/[email protected]:33082 pooler error: password authentication failed

下面接着配置连接池与postgres的信任连接,既然连接自然需要数据库账号密码了,按照上述的配置文件,用户应该是在/etc/pgbouncer/userlist.txt中,但你肯定找不到这个文件,它需要我们自己去创建,提供2个方法:

  • 使用pgbouncer脚本:
    cd /etc/pgbouncer到这个目录,找到mkauth.py文件,直接对这个文件执行命令即可(注:通过yum安装方式才有依赖环境)

    # 字符串引号部分,空格不要处理,填写的内容实际上就是访问你postgres数据库的属性,请参考自己的设置修改
    /etc/pgbouncer/mkauth.py  /etc/pgbouncer/userlist.txt  "host=127.0.0.1 dbname=postgres port=5432 user=postgres password=postgres"
    

    生成完毕后请检查一下自己在/etc/pgbouncer目录下的userlist.txt文件,该文件包含你postgres所有的账号信息,请调整一下该文件的内容,主要是处理空引号的问题

    vi /etc/pgbouncer/userlist.txt
    
    # old
    "postgres" "SCRAM-SHA-256$4096:St3x1cVA+cTJDsiGEnqjoA==" "" 
    
    # new
    "postgres" "SCRAM-SHA-256$4096:St3x1cVA+cTJDsiGEnqjoA=="
    

    最后请记得给该文件授权一下,避免后续缺权限无法使用。

    chmod -R 755 /etc/pgbouncer/userlist.txt
    
  • 使用postgres数据库表:
    在数据库安装的服务器上直接登录数据库

    # 请修改成自己的数据库访问地址和账号
    psql -p 5432 postgres -h 127.0.0.1 -U postgres
    
    # 登录后直接查询pg_shadow获取账号密码信息
    select usename, passwd from pg_shadow;
    

    对上述查到的数据库账号信息,自己直接复制出来,不需要全部复制,只复制自己希望暴露出来通过pgbouncer方式登录系统的账号。
    复制之后的数据直接按照下面的格式创建文件并存储账号密码信息

    vi /etc/pgbouncer/userlist.txt
    
    # 账号 密码
    "postgres" "SCRAM-SHA-256$4096:St3x1cVA+cTJDsiGEnqjoA=="
    
    

    最后请记得给该文件授权一下,避免后续缺权限无法使用。

    chmod -R 755 /etc/pgbouncer/userlist.txt
    

接着启动你的数据库吧,这里不能使用root启动,会导致pgbouncer启动失败。我们执行如下命令

 #  切换用户
su - pgbouncer

 # 启动
pgbouncer -d /etc/pgbouncer/pgbouncer.ini

启动完毕后查询pgbouncer状态systemctl status pgbouncer,如果显示为下图,表示成功。
springboot+pgbouncer+postgres数据库连接池集成方案及问题解决_第1张图片

如果如下图显示,则表示出现了问题,我们需要针对性检查问题,据具体问题详见第二章。
springboot+pgbouncer+postgres数据库连接池集成方案及问题解决_第2张图片

2.错误收集

  • FATAL PgBouncer should not run as root
    说明pgbouncer的启动用户是通过root账号启动的,使用yum安装的话,直接通过如下操作完成

    su - pgbouncer
    
    # 启动
    pgbouncer -d /etc/pgbouncer/pgbouncer.ini
    
  • ERROR could not open auth_file /etc/pgbouncer/userlist.txt: Permission denied
    说明当前pgbouncer的用户文件是没有权限读取的,请设置权限

    chmod -R 755 /etc/pgbouncer/userlist.txt
    
  • FATAL unix socket is in use, cannot continue
    说明pgbouncer重复启动了,需要关闭之前启动的(就算启动失败了),完成后再次启动

    # 查找进程
    ps -ef |grep pg
    
    # 找到正在启动的进程然后删除掉
    kill -9 pid
    
    # 上述不可用也能使用此方式
    kill `cat /var/run/pgbouncer/pgbouncer.pid`
    
  • closing because: unsupported startup parameter: extra_float_digits=2
    表示当前用户连接到pgbouncer携带的参数有问题,存在jdbc无法连接的问题,进入pgbouncer安装所在服务

    vi /etc/pgbouncer/pgbouncer.ini
    
    # 是否忽略jdbc连接参数
    ignore_startup_parameters = extra_float_digits
    
    # 修改完成后,记得重启pgbouncer,应该生效了
    
  • pooler error: unsupported startup parameter: search_path
    表示额外携带的参数内容有误,这时候建议去自己的代码项目上检查一下datasource连接了

    # 原始连接池
    url: jdbc:postgresql://ip:端口/数据库?currentSchema=public&useUnicode=true&characterEncoding=utf8&zeroDateTimeBehavior=convertToNull&useSSL=true&serverTimezone=GMT%2B8&stringtype=unspecified
    
    # 删除 currentSchema=public,添加prepareThreshold=0
    url: jdbc:postgresql://ip:端口/数据库?prepareThreshold=0&useUnicode=true&characterEncoding=utf8&zeroDateTimeBehavior=convertToNull&useSSL=true&serverTimezone=GMT%2B8&stringtype=unspecified
    

    完成后重启开发环境连接,继续去后台查看pgbouncer的实际log,输出为如下表示正常

    # /var/log/pgbouncer/pgbouncer.log
    LOG listening on 0.0.0.0:6432
    2023-02-27 13:59:45.696 CST [29731] LOG listening on [::]:6432
    2023-02-27 13:59:45.696 CST [29731] LOG listening on unix:/tmp/.s.PGSQL.6432
    
  • ERROR: No such user: postgres
    表示进行登录到sql界面的账号不存在,需要检查postgresql数据库是否有这个账号且是生效状态

  • psql: error: connection to server at “127.0.0.1”, port 6432 failed: FATAL: SASL authentication failed
    表示进行登录到sql界面的账号密码错误,需要检查postgresql数据库对应账号的真实密码。如果确认输入的密码一定是正确的,那问题就应该是由于连接池配置的/etc/pgbouncer/userlist.txt账号密码有误导致的

    # 检查userlist.txt文件
    vi /etc/pgbouncer/userlist.txt
    "postgres" "SCRAM-SHA-256xxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxx"
    # 如果密码部分包含SCRAM-SHA-256,则表示使用的是SHA256加密算法,可能导致与`auth_type`配置不一致解析登录报错
    
    # 接着打开pgbouncer配置
    vi /etc/pgbouncer/pgbouncer.ini
    
    # 修改此配置为如下,重启pgbouncer应该连接成功
    auth_type = scram-sha-256
    

3.springboot连接pgbouncer

请先保证/etc/pgbouncer/pgbouncer.inilisten_addr能够接到你的ip访问,如果不清楚先给listen_addr = *,以后清楚了再调。

listen_addr = *

接着直接在springboot项目的yml文件中修改之前的连接池配置,同时调整datasource配置如下

spring:
  datasource:
    # 例子:jdbc:postgresql://192.168.100.10:6432/postgres?prepareThreshold=0&useUnicode=true&characterEncoding=utf8&zeroDateTimeBehavior=convertToNull&useSSL=true&serverTimezone=GMT%2B8&stringtype=unspecified
    url: jdbc:postgresql://pgbouncer-ip:pgbouncer端口/数据库?prepareThreshold=0
    driverClassName: org.postgresql.Driver
    username: postgres(pgbouncer中数据库对应的用户名)
    password: postgres(pgbouncer中数据库对应的密码)

最后

本文仅提供关于pgbouncer相关介绍与问题处理方式,为后续切换posgresql集群和双master方案做准备,预计后续发布Bucardo与Slony-l的方案。

你可能感兴趣的:(数据库,spring,boot,postgres,pgbouncer,数据库连接池)