实践：OBD部署源码编译OceanBase社区版本
排版不好，请看原文 https://www.yuque.com/yiyezhou/rgak0e/lcxg27okp4c6506w?singleDoc# 《实践：OBD部署源码编译OceanBase社区版本》 本文主要描述了
- 单机环境下 如何用 源码编译 和OBD 启动集群。
- https://gitee.com/oceanbase/obdeploy
- OBD 插件机制 提供压测前优化
- https://gitee.com/oceanbase/obdeploy/blob/master/plugins/sysbench/4.0.0.0/run_test.py
- https://gitee.com/oceanbase/obdeploy/blob/master/optimize/oceanbase/4.0.0.0/sysbench.yaml
「不确定：obd部署集群，定制组件observer 本地镜像 变更后如何替换问题。」
-
该方法不使用生产上的版本升级问题 obd mirror update 【没有验证】
如何升级部署自己通过源码编译的observer(v3.1.2)到已运行的observer集群
-
如果是作为开发变更代码，OBD 定制组件方式部署后 【验证没有问题】
oceanbase-ce:
tag: my-oceanbase
「然后make install /cp observer方式 ，然后obd直接重启集群。」
❝obd 升级部署 obd mirror update 和直接make install /cp **observer ** 有什么区别， 有清楚麻烦留言告知告知。
❞
一、前言：
之前公司分配服务器被回收，没有足够资源部署。
结合 OceanBase 数据库社区版部署概述 和 快速体验 OceanBase 数据库 这2篇文章。
- 本次采用 mac, Docker 镜像, obd 方式源码 ,部署进行 单机部署，体验OceanBase 4.1。
-
并没使用「方案三：部署 OceanBase 容器环境」
主要原因就是Docker 镜像当作一个centos系统来使用，为后续开发作准备
- 用sysbench做简单的测试
- MySQL OceanBase TiDB 与在体系架构上的差别非常大，很多方面都很难找到一个共同的基准点，尤其是单机情况下,所以大家不要消耗过多精力在这类基准测试上,应该更多关注 在应用程序使用场景上的区别
Docker设置
二、使用源码构建 OceanBase 数据库
2.1 编译
参考：https://www.oceanbase.com/docs/community-observer-cn-0000000000160092
cat /etc/*-release
CentOS Linux release 7.9.2009 (Core)
git clone [email protected]:watchpoints/oceanbase.git
# 进入代码根目录
cd oceanbase/
# DEBUG 构建
bash build.sh debug --init --make -j4 //稍微等待
cd build_debug/src/observerbuild_debug/src/observer
查看版本：后续有用
## 环境变量
export LD_LIBRARY_PATH=/usr/local/lib:$LD_LIBRARY_PATH
make install
## 查看版本
[root@3346da816048 observer]# observer --version
observer --version
observer (OceanBase_CE 4.2.0.0)
必须设置环境变量设置环境变量 不然出现libaio.so错误。
ldd ~/oceanbase/build_debug/src/observer/observer
linux-vdso.so.1 => (0x00007ffc6ef37000)
librt.so.1 => /lib64/librt.so.1 (0x00007fbe2d1bf000)
libdl.so.2 => /lib64/libdl.so.2 (0x00007fbe2cfbb000)
libm.so.6 => /lib64/libm.so.6 (0x00007fbe2ccb9000)
libaio.so.1 => not found
libpthread.so.0 => /lib64/libpthread.so.0 (0x00007fbe2ca9d000)
libc.so.6 => /lib64/libc.so.6 (0x00007fbe2c6cf000)
/lib64/ld-linux-x86-64.so.2 (0x00007fbe6c361000
2.2 下载 OBD
- 下载安装oceanbase-all-in-one ，主要获取obd（也可以直接安装obd）
bash -c "$(curl -s https://obbusiness-private.oss-cn-shanghai.aliyuncs.com/download-center/opensource/oceanbase-all-in-one/installer.sh)"
Install Finished
=====================================================================
Setup Environment: source ~/.oceanbase-all-in-one/bin/env.sh
Start Web Service: obd web
Quick Start: obd demo
More Details: obd -h
=====================================================================
which obd
/root/.oceanbase-all-in-one/obd/usr/bin/obd
obd --version
OceanBase Deploy: 2.0.1
2.2.2 obd工具说明
- obd 安装目录（后续有用） :::warning ~/obd
cluster[obd 部署目录]
mirror
remote和local 2个目录
optimize【集成测试自动调优】
plugins
相关阅读：
分析obd日志了解其部署集群过程
https://zhuanlan.zhihu.com/p/464512232 :::
- https://gitee.com/oceanbase/obdeploy目录结构
├── config_parser 配置解析器
├── docs 文档
├── example 样例
├── optimize 集成测试自动调优
├── plugins 业务插件
├── profile 命令行自动补齐
├── rpm RPM打包配置
├── service 白屏后端
└── web 白屏前端
- 关键文件
├── _cmd.py 命令层入口
├── core.py 核心编排
├── _deploy.py 配置管理
├── _environ.py 环境变量管理
├── _mirror.py 远程镜像仓库管理
├── _optimize.py 自动调优管理
├── _plugin.py 插件管理
├── _repository.py 仓库管理
├── ssh.py SSH客户端
└── _stdio.py 命令行IO
2.3 制作本地镜像
参考：https://gitee.com/oceanbase/obdeploy
# 离线安装部署，禁用远程仓库
obd mirror disable remote，
[root@3346da816048 ~]# obd mirror disable remote
Disable remote ok
#obd mirror create
使用该命令可以以本地目录为基础创建一个镜像。
此命令主要用于使用 OBD 启动自行编译的 OceanBase 开源软件，
您可以通过此命令将编译产物加入本地仓库
make DESTDIR=./ install &&
obd mirror create -n oceanbase-ce -V 4.2.0.0 -p /usr/local -t my-oceanbase
package ok
name: oceanbase-ce
version: 4.2.0.0 // observer --version 查询最新版本号
release:20230514112232
arch: x86_64
md5: 630917f3350b447488c3fdce9c7967d5
# 细心你发现 -p /usr/local 和文档上有区别
# 记住这个hash值或者 my-oceanbase名字
2.4 配置文件启动
- 在配置文件中，增加定制版本
ceanbase-ce:
package_hash:630917f3350b447488c3fdce9c7967d5 //记住这个hash值
//修改配置：
https://github.com/oceanbase/obdeploy/blob/master/example/mini-local-example.yaml
ceanbase-ce:
package_hash:630917f3350b447488c3fdce9c7967d5
servers:
# Please don't use hostname, only IP can be supported
- 127.0.0.1
global:
# The working directory for OceanBase Database. OceanBase Database is started under this directory. This is a required field.
home_path: /root/observer
# The directory for data storage. The default value is $home_path/store.
data_dir: /data/observer/data
# The directory for clog, ilog, and slog. The default value is the same as the data_dir value.
redo_dir: /root/observer/redo
//启动
obd cluster deploy watchpoints -c ./mini-local-example.yaml
//修改配置：
obd cluster edit-config watchpoints
obd cluster redeploy watchpoints
obd cluster start watchpoints
Wait for observer init ok
+---------------------------------------------+
| observer |
+-----------+---------+------+-------+--------+
| ip | version | port | zone | status |
+-----------+---------+------+-------+--------+
| 127.0.0.1 | 4.2.0.0 | 2881 | zone1 | ACTIVE |
+-----------+---------+------+-------+--------+
obclient -h127.0.0.1 -P2881 -uroot -Doceanbase -A
- 每次代码变动怎么办？ :::success 我之前采用tag 声明后，make install 或者cp是可用的。不使用版本升级使用。
遗留任务：每次启动是否检查hash值？了解obd源码在在回答。
Q: 如何指定使用特定版本的组件？
A: 在部署配置文件中使用 package_hash 或 tag 声明。 如果您给自己编译的 OceanBase-CE 设置了 tag，您可以使用 tag 来指定。如：
oceanbase-ce:
tag: my-oceanbase
您也可以通过 package_hash 来指定特定的版本。当您使用 obd mirror 相关命令时会打印出组件的 md5值，这个值即为 package_hash。
oceanbase-ce:
package_hash: 929df53459404d9b0c1f945e7e23ea4b89972069 :::
三. OceanBase性能测试：
❝采用Sysbench进行测试，为后续开发寻找性能瓶颈做准备，不是纯粹的跑分，也没有过多优化参数。
❞
在OceanBase 入门到实战教程 实践练习六（必选）：查看 OceanBase 执行计划 介绍三个测试工具
OLTP
- TPC-C（Transaction Processing Performance Council）是针对 OLTP 的基准测试模型
- Sysbench 是一个基于 LuaJIT 的可编写脚本的多线程基准测试工具，可以用于数据库性能（OLTP 基准测试）
OLAP
- TPC-H可以说是世界上最为流行的OLAP workload的benchmark程序，是评估OLAP数据库最常见的工具
这里采用Sysbench
「3.1 创建普通测试租户」
obclient -uroot@sys -h127.0.0.1 -P2881 oceanbase # 这里没有obproxy，因此端口不是2883
# 修改最新规格为1G
在分配资源池时，普通租户的内存的最小规格由隐藏配置项 __min_full_resource_pool_memory 控制，
默认值为 5G,社区版本默认2g
alter system __min_full_resource_pool_memory=1073741824;
SELECT * FROM oceanbase.__all_virtual_sys_parameter_stat WHERE name='__min_full_resource_pool_memory'\G;
# 创建资源单元（1c/1g/2G）：UNIT=sysbench_unit_1c1g
CREATE RESOURCE UNIT sysbench_unit_1c1g MAX_CPU 1, MEMORY_SIZE '1g',LOG_DISK_SIZE '2G';
# 查看新创建的资源单元：sysbench_unit_1c1g
SELECT * FROM __all_unit_config where name='sysbench_unit_1c1g' \G;
unit_config_id: 1006
name: sysbench_unit_1c1g
max_cpu: 1
min_cpu: 1
memory_size: 1073741824
log_disk_size: 2147483648
max_iops: 10000
min_iops: 10000
iops_weight: 1
# 创建资源池：POOL=sysbench_pool
create resource pool sysbench_pool unit = 'sysbench_unit_1c1g', unit_num = 1;
# 查看资源池
SELECT * FROM __all_resource_pool \G;
*************************** 2. row ***************************
gmt_create: 2023-05-20 14:59:15.650372
gmt_modified: 2023-05-20 14:59:15.650372
resource_pool_id: 1007
name: sysbench_pool
unit_count: 1
unit_config_id: 1006
zone_list: zone1
tenant_id: -1
replica_type: 0
is_tenant_sys_pool: 0
# 创建租户：tenant=tpctest
drop TENANT tpctest;
CREATE TENANT tpctest resource_pool_list=('sysbench_pool') set variables ob_compatibility_mode='mysql', ob_tcp_invited_nodes='%';
# 查看创建成功的租户
select tenant_id,tenant_name,primary_zone from __all_tenant;
## 创建数据库
obclient -uroot@tpctest -h127.0.0.1 -P2881
create database sysbench_test;
遇到错误1：
- 现象：创建租户失败
ERROR 4733 (HY000): zone 'zone1' resource not enough to hold 1 unit. You can check resource info by views: DBA_OB_UNITS, GV$OB_UNITS, GV$OB_SERVERS.
server '"127.0.0.1:2882"' MEMORY resource not enough
- 相关概念：
https://gw.alipayobjects.com/os/bmw-prod/5b8f5011-e3ae-441d-ba0e-e8fea1e90508.pdf
image.png
❝memory_limit 参数可用于调整 OceanBase 数据库的最大可使用内存数 system_memory 参数用于配置租户 ID 为 500 的租户的内存，即程序运行内存。 需要增加memory_limit大小。
❞
- 方法：增加 observer内存上限5g
:::warning memory_limit 改为5g
obd cluster edit-config watchpoints
obd cluster reload watchpoints //之前创建租户没有了。 :::
3.2 Sysbench 测试
- 通过 OBD test 命令一键进行 Sysbench 测试。
- ./ob_sysbench.sh
yum install ob-sysbench
./ob_sysbench.sh
#!/bin/bash
export ENABLE_PROTOCOL_OB20=0
echo "run oltp_read_only test"
obd test sysbench watchpoints --tenant=tpctest --script-name=oltp_read_only.lua --table-size=1000 --threads=1 --rand-type=uniform
echo "run oltp_write_only test"
obd test sysbench watchpoints --tenant=tpctest --script-name=oltp_write_only.lua --table-size=1000 --threads=1 --rand-type=uniform
echo "run oltp_read_write test"
obd test sysbench watchpoints --tenant=tpctest --script-name=oltp_read_write.lua --table-size=1000 --threads=1--rand-type=uniform
遇到错误2 ：
- obclient [oceanbase]> alter system set _trace_control_info='%s' tenant='tpctest';
ERROR 4179 (HY000): alter the parameter _trace_control_info not allowed
-
https://www.oceanbase.com/docs/common-oceanbase-database-cn-10000000001697458 | _trace_control_info | 开启全链路追踪功能 | 性能测试场景可以根据需要关闭该功能 | | --- | --- | --- |
-
解决办法：关闭该功能
/root/.obd/optimize/oceanbase-ce/4.1.0/sysbench.yaml 去掉 _trace_control_info参数。
3.3 测试结果：
❝下面测试结果:是mac docker 4C8G，1千个记录，租户1c1g，1个线程。 目的学习使用，不作为性能对比参考依据。请看官方测试报告 https://www.oceanbase.com/docs/common-oceanbase-database-cn-0000000001954653
❞
# run oltp_read_only test
10s ] thds: 1 tps: 47.09 qps: 754.89 (r/w/o: 660.60/0.00/94.29) lat (ms,95%): 46.63 err/s: 0.00 reconn/s: 0.00
[ 20s ] thds: 1 tps: 61.90 qps: 989.33 (r/w/o: 865.53/0.00/123.80) lat (ms,95%): 38.25 err/s: 0.00 reconn/s: 0.00
[ 30s ] thds: 1 tps: 79.09 qps: 1265.72 (r/w/o: 1107.53/0.00/158.19) lat (ms,95%): 24.83 err/s: 0.00 reconn/s: 0.00
[ 40s ] thds: 1 tps: 77.40 qps: 1238.17 (r/w/o: 1083.36/0.00/154.81) lat (ms,95%): 24.38 err/s: 0.00 reconn/s: 0.00
[ 50s ] thds: 1 tps: 75.20 qps: 1203.97 (r/w/o: 1053.58/0.00/150.40) lat (ms,95%): 22.28 err/s: 0.00 reconn/s: 0.00
[ 60s ] thds: 1 tps: 78.40 qps: 1254.53 (r/w/o: 1097.73/0.00/156.80) lat (ms,95%): 20.37 err/s: 0.00 reconn/s: 0.00
SQL statistics:
# run oltp_write_only test
[ 10s ] thds: 1 tps: 121.18 qps: 727.59 (r/w/o: 0.00/485.13/242.46) lat (ms,95%): 17.95 err/s: 0.00 reconn/s: 0.00
[ 20s ] thds: 1 tps: 180.70 qps: 1084.11 (r/w/o: 0.00/722.71/361.40) lat (ms,95%): 8.90 err/s: 0.00 reconn/s: 0.00
[ 30s ] thds: 1 tps: 179.20 qps: 1075.00 (r/w/o: 0.00/716.60/358.40) lat (ms,95%): 8.58 err/s: 0.00 reconn/s: 0.00
[ 40s ] thds: 1 tps: 167.80 qps: 1006.72 (r/w/o: 0.00/671.11/335.61) lat (ms,95%): 9.56 err/s: 0.00 reconn/s: 0.00
[ 50s ] thds: 1 tps: 167.50 qps: 1004.99 (r/w/o: 0.00/669.99/335.00) lat (ms,95%): 8.90 err/s: 0.00 reconn/s: 0.00
[ 60s ] thds: 1 tps: 147.10 qps: 882.98 (r/w/o: 0.00/588.78/294.19) lat (ms,95%): 10.65 err/s: 0.00 reconn/s: 0.0
# run oltp_read_write test
Threads started!
[ 10s ] thds: 1 tps: 16.70 qps: 334.75 (r/w/o: 234.47/66.79/33.50) lat (ms,95%): 87.56 err/s: 0.00 reconn/s: 0.00
[ 20s ] thds: 1 tps: 22.90 qps: 458.40 (r/w/o: 321.00/91.60/45.80) lat (ms,95%): 64.47 err/s: 0.00 reconn/s: 0.00
[ 30s ] thds: 1 tps: 23.50 qps: 468.91 (r/w/o: 327.91/94.00/47.00) lat (ms,95%): 66.84 err/s: 0.00 reconn/s: 0.00
[ 40s ] thds: 1 tps: 23.40 qps: 468.49 (r/w/o: 328.09/93.60/46.80) lat (ms,95%): 64.47 err/s: 0.00 reconn/s: 0.00
[ 50s ] thds: 1 tps: 23.80 qps: 476.91 (r/w/o: 334.11/95.20/47.60) lat (ms,95%): 63.32 err/s: 0.00 reconn/s: 0.00
[ 60s ] thds: 1 tps: 22.60 qps: 451.97 (r/w/o: 316.38/90.39/45.20) lat (ms,95%): 65.65 err/s: 0.00 reconn/s: 0.00
四、其他测试
❝OB（分布式）,TiDB 与 MySQL （偏向单机）在体系架构上的差别非常大，很多方面都很难找到一个共同的基准点，所以大家不要消耗过多精力在这类基准测试上，应该更多关注 在应用程序使用场景上的区别.
❞
4.1 TIDB
- window+虚拟机 环境部署 | 「场景」 | 「配置任务」 | 「配置文件模板」 | 「拓扑说明」 | | --- | --- | --- | --- | | OLTP 业务 | 部署最小拓扑架构 | 简单最小配置模板
详细最小配置模板 | 最小集群拓扑，包括 tidb-server、tikv-server、pd-server。 | | HTAP 业务 | 部署 TiFlash 拓扑架构 | 简单 TiFlash 配置模版
详细 TiFlash 配置模版 | 在最小拓扑的基础上部署 TiFlash。TiFlash 是列式存储引擎，已经逐步成为集群拓扑的标配。 |
| 软件 | 版本 | 备注 |
|---|---|---|
| centOS | 8 | window+虚拟机 |
| cpu | Virtual CPU 4 | |
| 内存 | 4G | |
| 磁盘 | 普通 |
| 最小拓扑架构 | 个数 | 参 | |||
|---|---|---|---|---|---|
| Tidb | 1 | 默认参数 | |||
| pd | 1 | 默认参数 | |||
| TiKV | 1 | 默认参数 | |||
| Tiflash | 1 | 默认参数 |
手动进行Sysbench 测试
# Building and Installing From Source
https://github.com/akopytov/sysbench#rhelcentos
./configure --with-mysql-includes=/usr/include/mysql/ --with-mysql-libs=/usr/lib64/mysql/ --with-mysql
# 压测时用到的 lua 脚本
/usr/local/share/sysbench/
# 测试类型
oltp_read_only
oltp_write_only
oltp_read_write
# 准备配置文件：config
mysql-host=127.0.0.1
mysql-port=4000
mysql-user=root
mysql-password=BW07-+5vE36q@b*9RA
mysql-db=sbtest
db-driver=mysql
# 开始导入数据，config 文件为上一步中配置的文件 1w记录
sysbench --config-file=config oltp_point_select --tables=5 --table-size=10000 prepare
# 数据预热与统计信息收集
sysbench --config-file=config oltp_point_select --tables=5 --table-size=10000 prewarm
Read-only 测试命令
sysbench --config-file=config oltp_read_only --tables=5 --table-size=10000 --db-ps-mode=auto --report-interval=10 --threads=1 --rand-type=uniform run
## 4.2 Mysql
- mysql 版本
```shell
# 查找以前是否装有MySQL
rpm -qi mysql-server
Name : mysql-server
Version : 8.0.26
# 启动：
service mysqld start
# 默认空密码
mysql -uroot
mysql-host=127.0.0.1
mysql-port=3306
mysql-user=root
mysql-db=sbtest
db-driver=mysql
# 5、总结：
1. 单机环境下 源码源码后，OBD如何部署替换。
- [https://gitee.com/oceanbase/obdeploy](https://gitee.com/oceanbase/obdeploy)
2. OBD 插件机制 提供压测前优化
- [https://gitee.com/oceanbase/obdeploy/blob/master/plugins/sysbench/4.0.0.0/run_test.py](https://gitee.com/oceanbase/obdeploy/blob/master/plugins/sysbench/4.0.0.0/run_test.py)
- [https://gitee.com/oceanbase/obdeploy/blob/master/optimize/oceanbase/4.0.0.0/sysbench.yaml](https://gitee.com/oceanbase/obdeploy/blob/master/optimize/oceanbase/4.0.0.0/sysbench.yaml)
3. 通过单机测试 MySQL OceanBase ，tidb发现等架构有差异
- 现在说不清楚，预告 下篇文章介绍。https://www.yuque.com/yiyezhou/rgak0e/lcxg27okp4c6506w?singleDoc# 《实践：OBD部署源码编译OceanBase社区版本》https://www.yuque.com/yiyezhou/rgak0e/lcxg27okp4c6506w?singleDoc# 《实践：OBD部署源码编译OceanBase社区版本》
###
###
###
本文由 mdnice 多平台发布