本文是架构设计第七讲,数据巡检系统之daily&线上表结构自动化比对,避免正式环境与测试环境数据库/表、列结构不一致带来问题。
daily与线上表结构,索引不一致场景梳理
巡检:巡检业务差异表,表名不一致,已经修改
案例:
alter table finance_sub_order_info modify total_receive decimal(19,3) default 0.000 not null comment '待删除';
alter table finance_sub_order_info modify total_pay decimal(19,3) default 0.000 not null comment '待删除';
alter table finance_sub_order_info modify total_cost decimal(19,3) default 0.000 not null comment '待删除';
alter table finance_fare_info modify img text null comment '附件图片';
alter table finance_bill drop column bill_amount;
alter table finance_sub_order_settlement drop column price;
alter table finance_sub_order_settlement drop column business_types;
alter table finance_sub_order_settlement drop column invalid_state;
alter table finance_sub_order_settlement drop column record_user;
alter table finance_sub_order_settlement drop column can_settlement;
alter table finance_sub_order_settlement drop column create_user;
车队财务:
finance_sub_order_info
total_receive
decimal(19,3) NOT NULL DEFAULT ‘0.000’ COMMENT ‘总应收’,total_pay
decimal(19,3) NOT NULL DEFAULT ‘0.000’ COMMENT ‘总应付’,total_cost
decimal(19,3) NOT NULL DEFAULT ‘0.000’ COMMENT ‘总成本’,finance_fare_info
问题1:
问题2:将AttachmentId设置为必填,默认值为0
问题3:finance_fare_info表
confirm_time datetime null comment '确认时间',
confirm_user bigint null comment '确认人',
这两字段在线上已经被删除了,但是daily环境还存在,需要排查
新功能
问题4:发票号码
invoice_code varchar(128) null comment '发票号码数组,以逗号分割',
这字段在线上已经被删除了,但是daily环境还存在,需要排查
新功能
问题5:协作状态
team_state int default 0 not null comment '协作状态 0非协作费用 1协作费用',
这字段在线上已经被删除了,但是daily环境还存在,需要排查
新功能
finance_bill
问题1:账单总额字段,在线上存在,但是在daily环境不存在
bill_amount decimal(19,3) NOT NULL DEFAULT '0.000' COMMENT '账单金额',
问题2:这几个字段在daily存在
settlement_owned_type tinyint default 0 not null comment '1 自营 2-外协',
settlement_entity_id bigint default 0 not null comment '结算实体id',
settlement_entity_classify tinyint default 0 not null comment '结算实体类型,1-司机 2-企业id 3-车队id ',
finance_sub_order_settlement
问题1:费用合计字段,在线上存在,但是在daily环境不存在
price decimal(19,3) NOT NULL DEFAULT '0.000' COMMENT '费用合计'
问题2:以下5字段,在线上存在,但是在daily环境不存在
问题3:索引不一致
-- daily
create index idx_tenantid_settlementtype_invalidstate
on falcon_convoy.finance_sub_order_settlement (tenant_id, settlement_type);
-- 线上
create index idx_tenantid_settlementtype_invalidstate on falcon_convoy.finance_sub_order_settlement (tenant_id, settlement_type, invalid_state);
-- todo 索引名称需要修改
场景1:索引冲突
两索引tenantId字段重合了,下面这个索引做删除处理
场景2:索引不一致
-- daily
create index idx_tenantid_settlementtype_invalidstate
on falcon_convoy.finance_sub_order_settlement (tenant_id, settlement_type);
-- 线上
create index idx_tenantid_settlementtype_invalidstate on falcon_convoy.finance_sub_order_settlement (tenant_id, settlement_type, invalid_state);
场景3:某些字段在线上存在,但是在daily环境不存在
场景4:某些字段在线上已经被删除了,但是daily环境还存在
目标:避免正式环境与测试环境数据库/表、列结构不一致带来问题。
步骤1:数据获取
上游:线上环境库+表
下游:daily环境库+表
频率:一周两次即可
步骤2:数据比对
步骤3:差错处理
卡点1:daily环境与线上环境网络不通
卡点2:多数据源配置,application.yml文件中配置
datasource:
driver-class-name: com.mysql.cj.jdbc.Driver
type: com.alibaba.druid.pool.DruidDataSource
first:
url: ${huxun.datasource.url}
username: ${huxun.datasource.username}
password: ${huxun.datasource.password}
second:
url: ${huxun.datasource.daily.url}
username: ${huxun.datasource.daily.username}
password: ${huxun.datasource.daily.password}
多数据源具体实现:
1、定义一个动态数据源: 继承AbstractRoutingDataSource 抽象类,并重写determineCurrentLookupKey()方法
public class DynamicDataSource extends AbstractRoutingDataSource {
@Override
protected Object determineCurrentLookupKey() {
DataSourceType.DataBaseType dataBaseType = DataSourceType.getDataBaseType();
return dataBaseType;
}
}
2、创建一个切换数据源类型的类
public class DataSourceType {
public enum DataBaseType {
//默认数据库
FIRST,
SECOND;
}
// 使用ThreadLocal保证线程安全
private static final ThreadLocal<DataBaseType> TYPE = new ThreadLocal<DataBaseType>();
// 往当前线程里设置数据源类型
public static void setDataBaseType(DataBaseType dataBaseType) {
if (dataBaseType == null) {
throw new NullPointerException();
}
System.out.println("[将当前数据源改为]:" + dataBaseType);
TYPE.set(dataBaseType);
}
// 获取数据源类型
public static DataBaseType getDataBaseType() {
DataBaseType dataBaseType = TYPE.get() == null ? DataBaseType.FIRST : TYPE.get();
System.out.println("[获取当前数据源的类型为]:" + dataBaseType);
return dataBaseType;
}
// 清空数据类型(清理时机不好掌控,且目前ThreadLocal只存在一个值,不清理也没影响)
public static void clearDataBaseType() {
TYPE.remove();
}
}
3、定义多个数据源: 将定义好的多个数据源放在动态数据源中。
@Configuration
@MapperScan(basePackages = {"com.huxun.inspection.mapper"}, sqlSessionFactoryRef = "SqlSessionFactory")
public class DruidConfig {
@Bean(name = "firstDataSource")
@Primary
@ConfigurationProperties(prefix = "spring.datasource.first")
public DataSource firstDataSource(){
return DruidDataSourceBuilder
.create()
.build();
}
@Bean(name = "secondDataSource")
@ConfigurationProperties(prefix = "spring.datasource.second")
public DataSource secondDataSource(){
return DruidDataSourceBuilder
.create()
.build();
}
@Bean(name = "dynamicDataSource")
public DynamicDataSource DataSource(@Qualifier("firstDataSource") DataSource test1DataSource,
@Qualifier("secondDataSource") DataSource test2DataSource) {
Map<Object, Object> targetDataSource = new HashMap<>();
targetDataSource.put(DataSourceType.DataBaseType.FIRST, test1DataSource);
targetDataSource.put(DataSourceType.DataBaseType.SECOND, test2DataSource);
DynamicDataSource dataSource = new DynamicDataSource();
dataSource.setTargetDataSources(targetDataSource);
dataSource.setDefaultTargetDataSource(test1DataSource);
return dataSource;
}
@Bean(name = "SqlSessionFactory")
public SqlSessionFactory test1SqlSessionFactory(@Qualifier("dynamicDataSource") DataSource dynamicDataSource)
throws Exception {
SqlSessionFactoryBean bean = new SqlSessionFactoryBean();
bean.setDataSource(dynamicDataSource);
bean.setMapperLocations(
new PathMatchingResourcePatternResolver().getResources("classpath*:mapper/*.xml"));
return bean.getObject();
}
}
4、定义AOP: 用于切换不同业务数据库的入口。
@Aspect
@Component
public class DataSourceAspect {
@Before("execution(* com.huxun.inspection.mapper..Daily*.*(..))")
public void setDataSource2test01() {
System.err.println("读取第二个数据源");
DataSourceType.setDataBaseType(DataSourceType.DataBaseType.SECOND);
}
@Before("execution(* com.huxun.inspection.mapper..*.*(..)) && !execution(* com.huxun.inspection.mapper..Daily*.*(..))")
public void setDataSource2test02() {
System.err.println("读取第一个数据源");
DataSourceType.setDataBaseType(DataSourceType.DataBaseType.FIRST);
}
}
整体目录如图:
需要权限,能读取information_schema.TABLES
数据
逻辑如下:
1、线上存在,daily不存在,场景可能是daily环境发生了不兼容的升级改造,消息推送即可;
2、线上不存在,daily存在,场景可能是daily在新增了表,可以将表名存放到redis中,7天后,线上还不存在该表,消息推送;
3、都存在,但是不一致,场景是索引遗漏、comment该了、字段名改了、字段类型改了,立即消息推送。
表1:table差异巡检表
CREATE TABLE IF NOT EXISTS `table_diff_inspection`(
`id` bigint unsigned auto_increment comment '主键id' primary key,
`biz_id` bigint not null comment '业务id',
`batch_id` bigint not null comment '批次id',
`status` tinyint(1) default 0 not null comment '状态,0-待确认,1-确认',
`key_field_json` longtext not null comment '业务关键字段数据',
`diff_type` tinyint null comment '差异类别 (0-create、1-update、2-delete)',
`db_name` varchar(50) not null COMMENT '库名',
`group_name` varchar(50) not null COMMENT '处理人',
`create_user` bigint not null comment '创建人',
`update_user` bigint null comment '更新人',
`create_time` datetime default CURRENT_TIMESTAMP not null comment '创建时间',
`update_time` datetime default CURRENT_TIMESTAMP not null on update CURRENT_TIMESTAMP comment '更新时间'
) DEFAULT CHARACTER SET = utf8mb4 COMMENT = 'table差异巡检表';
create index idx_batchId_bizIds on falcon_inspection.falcon_table_diff (batch_id, biz_id);
问题1:dbName没有值
问题2:表结构修改
/**
* 创建人
*/
private Long createUser;
/**
* 更新人
*/
private Long updateUser;
/**
* 创建时间
*/
private Date createTime;
/**
* 更新时间
*/
private Date updateTime;
问题3:钉钉机器人的流控
问题4:sql解析失败
param:insert ignore into falcon_convoy
.tp_4740783_ogt_finance_fare_**info**
(id
, tenant_id
, sub_order_id
, sub_order_carrier_id
, sub_order_settlement_id
, fare_item_id
, bill_no
, settlement_type
, settlement_id
, creator_type
, price
, tax_rate
, currency
, img
, attachment_id
, remark
, confirm_state
, confirm_no
, confirm_user
, confirm_remark
, confirm_time
, collate_state
, invoice_state
, invoice_user
, invoice_code
, invoice_time
, verify_state
, verify_user
, verify_time
, team_fare_state
, team_state
, deleted
, create_user
, update_user
, create_time
, update_time
) select id
, tenant_id
, sub_order_id
, sub_order_carrier_id
, sub_order_settlement_id
, fare_item_id
, bill_no
, settlement_type
, settlement_id
, creator_type
, price
, tax_rate
, currency
, img
, attachment_id
, remark
, confirm_state
, confirm_no
, confirm_user
, confirm_remark
, confirm_time
, collate_state
, invoice_state
, invoice_user
, invoice_code
, invoice_time
, verify_state
, verify_user
, verify_time
, team_fare_state
, team_state
, deleted
, create_user
, update_user
, create_time
, update_time
from falcon_convoy
.finance_fare_**info**
force index (primary
) where id
> $0 and (id
< $1 or id
= $2) lock in share mode
1、daily环境与线上环境网络不通:需要在一个环境中,既访问线上环境db,又访问daily环境db
2、现在线上各个库使用各自的账号密码:能不能提供一个只读权限的账号,能访问线上db实例 全部的库
背景
现象是gateway 网关 报错 FluxOnAssembly$OnAssemblyException
,经过排查,发现是分页查询时返回了1000多条数据,导致数据量超出了网关限制,从而抛错。打断点发现MyBatis分页插件无效,MyBatis分页拦截器断点无法进入。
情景
1、使用Springboot
2、自定义sqlSession(多数据源)
解决方法
1、检查分页插件类上是否加注解 @Component ✅
2、在SqlSessionFactoryConfig类注入拦截器 ✅
3、sqlSessionFactoryBean.setPlugins(new Interceptor[]{pageInterceptor});
注意:设置plugins时必须在sqlSessionFactoryBean.getObject()之前。SqlSessionFactory在生成的时候就会获取plugins,并设置到Configuration中,如果在之后设置则不会注入。