数据中台到底如何落地实现【含架构图及代码】
数据中台已经被很多公司应用，数据中台资料也不少，可是作为程序员更关心的是该如何代码实现。下面是中台相关代码实现及说明。
数据中台说明：
Todo:
CDH, hbase,zk 部署和配置。代码发布。
presto , redis集群，cachecloud 部署。
Hive 开发的流程。azkaban安装部署。
Doubble 服务安装部署。
MySQL的在模块里的配置。
项目说明
项目整体架构
数据服务中心管理了所有业务服务的数据访问，业务层对外提供的是dubbo接口或Rest风格接口，路由网关负责对外接口的管理，是的web应用或其他三方应用的访问具有可控性
big-cbr(报表系统)
数据报表系统，报表元数据存储在数据库，可以通过前端进行动态配置报表的样式和数据查询功能
big-dbms(数据库管理系统)
可以理解它为’一个超级大的数据访问层’，在整个项目中承担了所有数据访问的工作，
big-dbms-server（数据查询服务系统）
提供数据的查询功能，可集成数据源有：mysql，hive，presto
big-gateway（服务网关）
所有对外服务接口api（dubbo，http）管理中心，可配置api的超时，权限，重试次数
big-msg（消息推送 提醒）
公司内部模块（考虑删除）
big-whtc（数仓配置服务）
提供数仓的基本任务配置功能，提供datax的配置
bigdata-interface（模块的对外服务接口）
所有模块间的调用接口信息
bigdata-parent（父工程）
包含了所有基础框架 详情
部署顺序
一、部署安装前置依赖服务
1、安装部署zookeeper
网上资料较多，不在赘述
2、安装部署nacos
1). 下载地址：
https://github.com/alibaba/nacos/releases
2). 解压 nacos-server-1.0.0-RC1.tar.gz
目录结构：
|---nacos
|------|---bin
|------|---conf
|------|---data
|------|---plugins
|------|---target
3). 创建数据库：nacos-config，
在将nacos/conf/nacos-mysql.sql sql中的表数据刷入nacos-config中
4). 修改nacos/conf/application.properties
在文件末尾添加以下内容
db.num=1
db.url.0=jdbc:mysql://188.188.22.165:3306/nacos_config?characterEncoding=utf8&connectTimeout=1000&socketTimeout=3000&autoReconnect=true
db.user=root
db.password=123
注意：将数据库连接改一下
5). 启动nacos
进入nacos/bin目录，执行startup.sh 或startup.cmd
6). 打开web页面
地址：127.0.0.1:8848/nacos
用户名：nacos 密码：nacos
3、安装部署sentinel
主要是安装一个控制台，实时接受服务传来的运行参数，以及实时更改或配置一些限流策略
1)、下载
https://github.com/alibaba/Sentinel/releases
选择sentinel-dashboard-1.5.0.jar 下载
2)、安装部署
执行以下命令即可
java -jar sentinel-dashboard-1.5.0.jar
3)、访问web页面
默认端口是8080：127.0.0.1:8080
4、安装部署cachecloud
此处有两种部署方式：
方式一、可以根据官方文档进行部署admin控制台
部署文档
方式二、以下是源码部署
1)、刷入sql
在script文件夹中有cachecloud.sql 文件，新建数据库（cache_cloud），将sql中的数据刷入该库中
2)、 修改配置
进入cachecloud/cachecloud-open-web/src/main/swap文件夹可以看到两个文件
local.properties（开发环境的配置文件）
online.properties（生产环境的配置文件）
*注：主要修改其中的数据库连接信息
2)、编译源码
进入cachecloud
mvn clean install
进入cachecloud/cachecloud-open-web 执行：
mvn clean package -Plocal # 开发环境
mvn clean package -Ponline # 生产环境
3)、部署
进入cachecloud/cachecloud-open-web/target下；找到cachecloud-open-web-1.0-SNAPSHOT.war
进入cachecloud/script下找到start.sh
mkdir -p /opt/cachecloud-web/logs
将cachecloud-open-web-1.0-SNAPSHOT.war和start.sh 一起复制到指定的发布目录/opt/cachecloud-web下
*注：目录权限要保证（推荐使用一个新用户，而不是root）
4)、启动
chmod +x start.sh
./start.sh #直接启动
5)、验证
127.0.0.1:9999 (开发环境)
127.0.0.1:8585 (生产环境)
用户名：admin
默认密码：admin
二、部署bigdata-parent
因为此项目是其他项目的依赖，所以需要最先部署
cd path/to/bigdata-parent
mvn clean install
三、部署数据服务中心项目
代码下载
链接:
https://pan.baidu.com/s/1_WNnt690-WWf8BX8uvNaKw
提取码: uscr
作者：sevenfang
来源：https://github.com/sevenfang/DataCenter
领取更多数据中台资料及100本大数据、人工智能电子书，可扫下面微信。
如果你也是大数据、人工智能爱好者，加微信领书100本大数据、人工智能、区块链等精选书籍，还可以加讨论群交流。
----------------------------END----------------------------
本公众号精彩文章推荐：
【1】程序员必备的分析解决问题能力：案例分享
【2】Hbase故障处理汇总及评注
【3】技术太多学不过来？教你如何越学越带劲
【4】IT大咖工作十年总结的面试真经
【5】小白与大神存在哪些差距
【6】Logstash收集多数据源数据神器
【7】kafka学习线路指导入门：包括理论、部署、实战知识汇总整理
【8】技术走向管理一些深度思考