云溪数据库持续集成

一、Devops介绍
DevOps 是一个完整的面向IT运维的工作流，以 IT 自动化以及持续集成（CI）、持续部署（CD）为基础，来优化程式开发、测试、系统运维等所有环节。可以把DevOps看作开发（软件工程）、技术运营和质量保障（QA）三者的交集。

CI Continuous Integration持续集成：开发人员将会频繁地向主干提交代码，这些新提交的代码在最终合并到主干前，需要经过编译和自动化测试流进行验证。持续集成（CI）是在源代码变更后自动检测、拉取、构建和（在大多数情况下）进行单元测试的过程。持续集成的目标是快速确保开发人员新提交的变更是好的，并且适合在代码库中进一步使用。CI的流程执行和理论实践让我们可以确定新代码和原有代码能否正确地集成在一起。

CD一般包括持续交付ContinuousDelivery和持续部署Continuous Deployment。

持续交付指完成 CI 中构建及单元测试和集成测试的自动化流程后，持续交付可自动将已验证的代码发布到存储库。为了实现高效的持续交付流程，务必要确保 CI 已内置于开发管道。持续交付的目标是拥有一个可随时部署到生产环境的代码库。

持续部署指自动将生产就绪型构建版本发布到代码存储库的延伸，持续部署可以自动将应用发布到生产环境。

二、云溪数据库持续集成
运行平台
浪潮云软件开发服务面向开发者提供DevOps相关的云服务，实现从“开发->测试->发布->运维”全流程的研发工具支撑和一站式服务。服务即开即用，随时随地在云端实现代码托管、代码质控、流水线管理、代码编译、镜像构建、应用部署、测试、发布等功能。方便开发者快速、可靠的构建和交付产品，紧密联系开发和运维工作。

目前云溪数据库基于浪潮云软件开发服务创建了一条流水线，将持续集成、持续发布过程中的环节进行串联，实现从代码开发、质量检查、编译构建、应用部署、应用测试到产品发布交付的流程贯通，流水线按照用户定制的流程及任务自动执行，可随时查看流水线执行进度/结果/报告/日志，该流水线应用以来通过对每个成员的提交都通过自动化的构建（包括编译，部署，自动化测试）来验证，从而尽早地发现了集成错误。缩短了交付周期，提升了交付效率。

云溪数据库流水线

主要工具：gitlab 、docker、Kubernetes、benchmarksql、系统测试自动化测试工具（基于python编写）、jepsen测试工具（基于开源jepsen测试工具适配）、疲劳测试工具、场景测试工具（基于Python编写）

主要项目：该条流水线包含了代码的语义检查、编译、单元测试、集成测试、系统测试、一致性测试、疲劳测试、场景测试及部署。

语义检查：通过执行源码包中的脚本启动容器并调用进行语义测试。

编译：通过执行源码包中的脚本启动容器进行编译。

单元测试：通过执行源码包中的脚本启动容器进行单元测试。

集成测试：通过执行源码包中的脚本启动容器进行集成测试。

系统测试：执行命令使用编译好的二进制文件启动一个3节点的数据库集群；调用自动化测试脚本对部署好的集群进行系统测试,测试完成后会生成HTML格式的测试报告；

一致性测试：

1）重新启动一个3节点集群，使用benchmarksql进行1000仓3000并发持续3小时的TPCC测试，每半个小时检查一次一致性结果，如果检查失败程序退出；测试时间默认为3小时可通过命令行参数自定义设置，测试数据默认使用备份好的store，可以通过命令行参数重新加载数据。

2）将编译好的二进制文件打包到容器中，启动6个容器，1个作为控制节点，5个作为数据节点；执行jepsen测试工具测试脚本执行一致性测试；执行完成后进行测试结果检查，可通过浏览器访问详细测试结果。

疲劳测试：通过执行自动化测试程序给数据库长时间发送大量的数据库访问请求，验证数据库系统运行的可靠性，将关键指标生成html测试报告，当某项指标超出阈值邮件报警通知。

场景测试：主要针对于不同行业数据库的应用场景对数据库的不同需求，对数据库进行有针对性的测试，执行场景自动化测试程序加载各个应用场景的测试数据进行测试。

部署：执行流水线脚本将编译后的二进制打包到镜像中并推送到镜像仓库。通过HELM将二进制打包部署到kubernetes测试环境和预发环境，测试人员再进行进一步的测试工作。