历经 4 年,从第一行代码到今天,ShardingSphere 正式成为 Apache 顶级开源项目,GitHub 开发者关系主管 Martin Woodward 如此评价道:“我们很高兴看到这个社区在过去两年里发展得非常好,现在有 120 多个直接贡献者。”在本文中,其核心初创人员为我们分享了它的开源之路,相信会对所有热爱开源希望有所建树的开发者们大有裨益。
作者
潘娟,京东数科高级 DBA,Apache ShardingSphere PMC。
张亮,京东数科数据研发负责人,Apache ShardingSphere VP,Apache Dubbo PMC,人气开源项目 Elastic-Job 作者。
前言
从 Sharding-JDBC 到 Apache ShardingSphere;
从轻量级的分库分表中间件到完整闭环的分布式数据库中间件平台;
从 2016 年 1 月的第一行代码到现今的 300K+行代码;
从寥寥无几的关注到 GitHub 10K+ 的 star;
从无人问津的社区到 100+ 位贡献者;
从公司内部的应用类库到 100+ 的采用公司列表;
从寻找 mentor 到顺利成为 Apache 顶级项目。
……
Apache ShardingSphere 团队核心初创人员将讲述这其中的跌宕起伏,并以时间轴为线索为你呈现它开源之路背后的故事。
项目介绍
Apache ShardingSphere 是一套开源的分布式数据库中间件解决方案组成的生态圈,它由 3 款相互独立,却又能够混合部署配合使用的产品组成。它们均提供标准化的数据分片、分布式事务和数据库治理功能,可适用于如 Java 同构、异构语言、云原生等各种多样化的应用场景,核心功能如 1-1 所示。
Apache ShardingSphere 由三个子项目组成,形成一个完整的数据库解决方案,合称 J.P.S. 生态系统。
- ShardingSphere-JDBC:定位为轻量级 Java 框架,在 Java 的 JDBC 层提供额外服务。它使用客户端直连数据库,以 jar 包形式提供服务,无需额外部署和依赖,可理解为增强版的 JDBC 驱动,完全兼容 JDBC 和各种 ORM 框架。
- ShardingSphere-Proxy:定位为透明化的数据库代理端,提供封装了数据库二进制协议的服务端版本,用于完成对异构语言的支持。目前提供 MySQL/PostgreSQL 版本,它可以使用任何兼容 MySQL/PostgreSQL 协议的访问客户端操作数据,对 DBA 更加友好。
- ShardingSphere-Sidecar(TODO):定位为 Kubernetes 的云原生数据库代理,以 Sidecar 的形式代理所有对数据库的访问。通过无中心、零侵入的方案提供与数据库交互的的啮合层,即 Database Mesh,又可称数据网格。
Apache ShardingSphere 的亮点主要包括:
- 完整的分布式数据库解决方案:提供数据分片、分布式事务、数据弹性迁移、数据库和数据治理等核心能力。
- 独立的 SQL 解析引擎:支持多 SQL 方言的完全独立化 SQL 解析引擎,能够脱离 ShardingSphere 独立使用。
- 可插拔微内核:所有的 SQL 方言、数据库协议和功能都能够通过 SPI 的可插拔方式加载或卸载,微内核甚至在未来可以运行于无任何功能的空白环境中。
Apache 基金会
The most popular open source software is Apache.
这是对 Apache 开源软件基金最好的描述和肯定。它旨在为全世界提供优质的开源软件,同时欢迎全世界的朋友加入 Apache 社区贡献力量,并在这个过程中不断成长、得到肯定、共建开源社区。无论是否从事软件开发工作,大家多少都知道它的存在及其提供的优质开源项目,可见其影响之大、之深远。
此外,参与 Apache 开源社区,并在自己的努力下成为 Apache Committer,更是大多数软件开发工程师心之所向。
ShardingSphere 在开源之初,就有进入 Apache 开源组织基金会的计划。其原因有以下几点:
- Apache 基金会独特的 Apache way 和社区建设思想会让一个开源项目更规范、更有生命力;
- Apache 基金会的导师制度会为一个开源社区带来优秀的指导和帮助;
- Apache 基金会会为其下的开源项目带来版权和商标上的法律保护;
- Apache 基金会在全世界范围内的影响不言而喻,若是能进入 Apache 基金会,则会扩大项目的影响力,使其进入世界范围的开源领域。
- Apache 基金会内的项目会更有机会登上世界舞台,并与其他开源项目建立友好交流,也能吸引更多贡献者加入社区。
但同样,进入 Apache 开源基金会的门槛可并不简单,特别对于国内的项目来说,语言和地域的障碍无疑雪上加霜。
如何为 Apache 做准备?
找寻 mentor 是进入 Apache 基金的最初且最重要的一步。
在了解了 Apache 基金会的运作方式后,我们便踏上了找寻 mentor 之旅。参加各种与开源相关的分享会或 meetup,借此来认识 Apache 的 member。但是,事情却并不顺利。多次的尝试、接触换来的只是口头的认可。这段时间我们确实倍感压力和焦虑,甚至打算以后再说,一切随缘。
后来一个契机,我们认识了吴晟和华为的姜宁。吴晟是 Apache SkyWalking 项目的 VP,在开源领域有丰富的经验。他和 ShardingSphere 的前身 Sharding-JDBC 很有渊源,Sharding-JDBC 项目原型也有他参与设计,因此,他最终作为 ShardingSphere 的 PPMC 一同建设社区。在参与 ShardingSphere 社区建设的这一年多的时间里,他又陆续担任了多个 Apache 孵化项目的 Mentor,并在今年被选举为 Apache Member。
而姜宁同样是一位热心又有经验的老手,是国内最资深的 Apache Member 之一,在与他交流的过程中,终于让我们看到一些希望,他也最终成为了我们的 mentor。
再后来,团队 VP 张亮又前去上海参加 HDC 大会,认识了我们的另一位 mentor—— Craig L Russell,Craig 当时是 Apache 的秘书长,所有的 SGA、ICLA 等法务文件均由他负责签署。在 ShardingSphere 孵化的过程中,Craig 当选了 Apache 软件基金会的主席。他友善而和气,给予了我们很多有关社区规范的实用建议,也愿意助我们一臂之力。
第三位 mentor 则是由 Apache RocketMQ 的核心成员冯嘉担任;最后由 Roman Shaposhnik 担任项目的 Champion,为项目寻找导师之旅画上完美句号。至今还记得我们当时的欣喜和激动。之前的无助、徘徊、失落在这一瞬间柳暗花明。
每个进入 Apache 基金会的项目,一定都有自己的故事。尤其对于中国的项目来说,语言与地域的障碍会让我们更加艰难。好在有越来越多的来自于中国的项目进入了 Apache 基金会,也能看到越来越多的华人活跃在 Apache 的邮件列表里,还有 ALC Beijing 的建立让参与门槛不断降低,这对想要参与的国内朋友来说,确实是个 good news!
进入 Apache 孵化器
为了正式进入 Apache 孵化器,项目代码、社区、文档等都需要进行一系列的规范和整理。这确实是个琐碎但很重要的事情。
- 代码层面,合规操作是首要原则。我们梳理第三方依赖的许可协议,确保满足 Apache 软件许可协议(ASL)合规的要求;
- 社区方面,我们开始由中文转变成英文;
- 文档方面则需要我们准备英文文档,并准备相关的 proposal。
由于项目最开始的目标就是进入 Apache 基金会,所以在项目初期,依赖就尽可能地简单,社区相对规范,文档在不断翻译。不打无准备之仗,这些提前的准备让这部分工作进展顺利,而项目获得 Apache 域名的那一刻,大家才真切感受到所有付出得到了最有价值的回报。
除了学习写规范代码,团队成员也开始学习 Apache 的规范、运作方式、英文沟通渠道等细节。我们开始了解到如何关注社区,什么是 consensus decision,如何用异步方式进行邮件沟通。特别是邮件列表的学习非常重要,你可以在其中找到历史问题记录、合规的解决方案、优秀的案例等。
Apache way 的探索
很多人认为只要代码开放,就叫做开源。但其实,这仅仅只是开源旅程的第一步。
如何构建一个活跃的社区,如何理解 Apache way,是一个更为重要的话题。ShardingSphere 在进入 Apache 孵化器初期并未能完全理解 Apache way,并且由于过度注重代码风格,以至于参与门槛较高、社区活跃度平平。
起初,我们并不知道问题出在哪里,迷茫了很长一段时间,直到在跟 Apache 的 member 不断交流的过程中才渐渐意识到问题所在,因此社区发起了有关 committer bar 的讨论,见图 1-2。这是社区建设之路的转折点,因为从此 community over code 的理念开始逐渐渗入人心,并指导我们的行动。
仔细阅读 Apache way 的关注点:
Earned Authority, Community of Peers, Open Communications, Consensus Decision Making, Responsible Oversight
你会发现它一直在强调合规、开放、平等、协作,为的就是建立合规且活跃的项目社区,尽可能地做到让更多的人参与,平等沟通,推动项目发展,促进个人成长。秉持这个理念,ShardingSphere 开始在多维度进行调整:
- 代码:规整代码结构,划分模块功能,提供项目可插拔能力,从而允许用户局部参与某一模块的同时,尽量不破坏整体代码结构;
- 心态:开放的心态,编制社区任务,鼓励社区朋友参与,相关 PPMC 或 Committer 积极提供指导和帮助;
- 规范:梳理文档和代码规范,并提供详细的订阅、参与指南,大范围促进用户自主进行社区贡献;
- 交流:鼓励社区尽可能使用邮件和 Issue 进行讨论从而公开讨论内容,同时针对较为细节的讨论则放在微信群里进行。此外,官方公众号还会介绍社区的进展、Release、刊登技术文章等;
- 合作:与其他 Apache 社区建立联系、增加沟通,从合作交流中进行学习和发展。
在孵化期间,Apache ShardingSphere 先后与 Apache SkyWalking、Apache ServiceComb 进行项目的合作与集成,不仅彼此的产品功能更加完善,还增加了社区成员之间的交流。此外,还与 Apache DolphinScheduler(Incubating)和 Apache IoTDB(Incubating)举办了 co-meetup,详见图 1-3。还与 Apach pulsar 和 Apache APISIX(Incubating)的核心成员们进行了多次交流和探讨。
经过时间的积累,社区已有了质的变化。从社区的邮件讨论、GitHub 的数据展示中,你会发现 ShardingSphere 的社区开始真正变得活跃与多元化。图 1-4 展示了 ShardingSphere 在 Apache 孵化器一年多的社区数据变化。
社区与贡献者之间的依赖和互赢也在整个过程中体现的淋漓尽致。对于贡献者来说,他们会在这个开源社区中与其他人交流、协作。而这个持续的过程,将带来以下成果:
- 扩大人际交友圈
- 不断学习与成长
- 提高自己的技术影响力
- 拓宽职业渠道
- 结合兴趣,享受过程
对于社区来说,这个相互帮助和沟通的过程则会:
- 拓展项目的功能
- 收获活跃多元化的生态圈
- 增加项目知名度
- 获得社区的可持续发展
从这个角度来看,不断探索 Apache way 不也是希望出现这样一种共赢而互助的局面吗?Please remember community over code。
从孵化器毕业
所有孵化器的项目最终都希望能走向 TLP(Top Level Project)。在 mentor 的指导、PPMC 的探索、committer 和 contributor 的支持与付出下,ShardingSphere 开始筹备 Apache 孵化器毕业。
依据 Apache 的成熟度评估模型图 1-5,在以下几个方面评估社区和项目是否成熟。其实在 Apache 项目社区的初建阶段,我们建议大家就在这几个方面发力,因为这是官方给予的毕业标准及指导方针。以此为方向,探索属于各自项目的独特社区运作方式,也可谓是百花齐放。
经历 Release、社区建设、Apache member 的指导、meetup 举办等一系列事件,ShardingSphere 终于在社区发起了毕业讨论,开始接受 Apache member 及所有 Apache 成员的指导和评估。虽然最终以 10 +1 binding votes,6 +1 non-binding votes 和 no -1 or +/-0 votes 通过毕业投票,但过程也是一波三折。
即便是经过 1 年多的社区建设,项目基本成熟,但面对毕业还是有很多工作要合乎毕业规范。例如确认商标是否可使用、完成项目官网有关 Apache brand 和 trademark 的陈述、网站符合 Apache way 等。在这个投票期间,由于官网存在 fork me on github 的 slogan,而这一问题一直频繁出现并且没有结论,所以其他 Apache 成员借此单独开辟了 thread 来讨论这一问题,查看 Email List 了解详情。虽说这一举让 ShardingSphere 被成功推到前台,间接提高了项目的曝光,却也能看出 Apache 对于第三方独立、禁止参与商业行为的重视和严苛。
可喜可贺的是,2020 年 4 月 16 日,Apache ShardingSphere 最终通过基金会董事会决议,加入了 TLP 行业!
未来的路
回首这一路,收获与付出兼存。这篇文章旨在用故事为大家带来更为生动、全面的阐述和论据支撑,而在文章结尾,我们也特别想对开发者朋友说:
- 愿这篇文章能为你打开新的思路,它像一扇窗,为有心的人呈现另一种职业风景,带来新的思潮。
- 希望文章有关”参与开源社区意义“的部分能为你解答有关开源价值的问题。
- 每一个 Apache 开源项目都有自己独特的社区发展方向和价值观。参与其中,选择与你气味相投的社区,是一件很有价值且很有意思的事情。
- 有张有弛,有进有退;不妄自菲薄,也不目空一切;在开源的领域,更确切说在 Apache 开源社区,更多的是遵守规范、开放包容、平等交流、互相学习。
- 低头工作,便全力以赴;耳闻窗外,便接收新潮,更新大脑。
从 Apache 孵化器毕业成为 TLP,对 ShardingSphere 来说,并不是一个结束,而是另一个开始。在产品功能上,ShardingSphere 将继续在分布式数据库中间件平台上深耕,打磨出以“分布式”为核心的数据库中间件生态圈,从而提供完整的解决方案,如图 1-6 所示。从社区角度讲,ShardingSphere 仍将继续活跃社区,鼓励更多朋友成为社区的 committer 和 contributor。所以,我们欢迎大家关注 ShardingSphere,并加入到社区来,与更多知己结伴前行。未来之路不可预测,但立足当下,眺望未来,初心未改,即便亦步亦趋,也愿一苇以航!
Apache ShardingSphere Committer 列表
Mentor
- Craig L Russell
- 冯嘉,阿里巴巴
- 姜宁,华为
PMC
- 张亮,京东数科
- 潘娟,京东数科
- 赵俊,京东数科
- 张永伦,京东数科
- 陈清阳,翼支付
- 曹昊,海南新软
- 马晓光
- 杜红军,领创智信
- 杨翊,京东数科
- 吴晟,tetrate.io
- 高洪涛,tetrate.io
Committer
- 李亚,九个小海豹
- 颜志一,DaoCloud
- 董宗磊,京东零售
- 孙海生,瓜子
- 王奇,京东零售
- 欧阳文,一卡易
- 蒋晓峰,阿里巴巴
- 王光远
- 秦金卫,京东数科
- 岳令
- 赵亚楠