Debezium发布历史94

原文地址: https://debezium.io/blog/2020/09/16/debezium-1-3-beta2-released/

欢迎关注留言,我是收集整理小能手,工具翻译,仅供参考,笔芯笔芯.

Debezium 1.3.0.Beta2 发布
2020 年 9 月 16 日 作者: Gunnar Morling
发布 mysql postgres sqlserver cassandra oracle 发件箱
我很高兴地宣布 Debezium 1.3.0.Beta2发布!

在此版本中,我们改进了对 MySQL 和 SQL Server 连接器的列过滤的支持,并且使用 LogMiner 包从 Oracle 获取更改事件的全新实现。当我们正处于 Debezium 1.3 Final 的最后冲刺阶段时,还有一系列较小的改进、错误修复和文档澄清;总体而言,此版本已解决不少于44 个问题。

列过滤改进
为了满足长期存在的功能请求 ( DBZ-1068 ),SQL Server 的 Debezium 连接器现在支持服务器端列过滤:数据库本身中的捕获实例可以配置为仅包含捕获表列的子集。这样,CDC 进程可以立即排除特定列,而不是仅在 Debezium 连接器中删除它们,这对于大型 BLOB 等来说效率更高。

MySQL 连接器添加了对 Debezium Postgres 连接器 ( DBZ-2508column.include.list )中已知选项的支持。

与过滤问题相关,跟进1.3 Beta1 版本中开始的工作,用更具包容性的替代方案替换术语“主/从”、“黑名单”和“白名单”,以及所有孵化连接器(Oracle、Db2、 Cassandra)现在使用“database.include.list”、“主/副本”等新术语(DBZ-2462)。

基于 LogMiner 的 Oracle 摄取引擎
Debezium Oracle 连接器现在可以使用 LogMiner 包来提取更改事件。由于该软件包随 Oracle 数据库本身一起提供,因此它是现有基于 XStream 的实现的一个非常有吸引力的替代方案。Debezium 社区对 LogMiner 支持的讨论和工作已经进行了很长时间(正如您可能已经从非常低的问题编号DBZ-137中猜到的那样),因此我们对这项工作最终被合并并成为一部分感到特别兴奋此版本的。

请注意,有几个与基于 LogMiner 的摄取实现相关的后续任务需要解决;虽然目前不建议将其用于生产用途,但我们很乐意通过测试和评估获得您的反馈!

非常感谢所有参与此事的人:Andrey Ignatenko 和他的团队所做的主要工作,Andrey Pustovetov 提出的关于事务缓冲的想法,Chris Cranford 提出 PR 并准备合并,Milo vd Zee 进行广泛的审查,以及其他人对 PR 和 Jira 问题发表评论并提供反馈。

杂项。功能和错误修复
除了这些关键功能之外,社区还完成了其他一些功能和修复的工作:

MySQL 连接器在与 Percona Server for MySQL ( DBZ-2466LOCK TABLES FOR BACKUP )一起使用时支持锁定模式,这可以减少快照期间的争用

Postgres 连接器快照 SPI 变得更加灵活,允许自定义实现,例如可以重新快照选定的表(DBZ-2094)

事件扁平化 SMT 生成的附加标头和字段的前缀现在可以自定义 ( DBZ-2504 )

支持 MySQL DDL 语句中的 JSON 函数 ( DBZ-2453 )

改进了 Cassandra 连接器的异常日志记录 ( DBZ-2498 )

与往常一样,请参阅发行说明,了解已解决问题的完整列表以及从早期 Debezium 版本升级的过程。

非常感谢所有为本版本做出贡献的社区成员:Aaron Brady、Andrey Ignatenko、Bingqin Zhou、Eric Weaver、Grant Cooksey、Grzegorz Kołakowski、Guy Pascarella、James Gormley、Jos Huiting、Mickaël Isaert和Nathan Mills。

外表
随着第一批 LogMiner 支持的合并和发布,我们现在计划将重点放在稳定性和错误修复上,Debezium 1.3 Final 预计将于本月底左右发布。

与此同时,社区为 Vitess 贡献的新连接器正在开发中(根据审核进度,该连接器将作为 Debezium 1.3 或 1.4 中的孵化连接器发布),我们将分享一些令人兴奋的内容我们很快就会与您一起围绕未来潜在的 Debezium UI 进行概念验证!

原文地址: https://debezium.io/blog/2020/09/24/debezium-1-3-cr1-released/

Debezium 1.3.0.CR1 发布
2020 年 9 月 24 日 作者: 克里斯·克兰福德
发布 mysql postgres sqlserver cassandra oracle 发件箱
我很高兴地宣布 Debezium 1.3.0.CR1发布!

当我们接近 Debezium 1.3 Final 的最后阶段时,我们借此机会添加了委托转换器支持ByteBufferConverter并引入了一个debezium-scripting模块。此外,还有一系列错误修复和大量文档完善;总体而言,此版本已解决不少于15 个问题。

ByteBufferConverter 的改进
它ByteBufferConverter是一个转换器,与发件箱事件路由器 SMT 一起使用,以序列化现有的 Avro 负载列。在最近的报告 ( DBZ-2396 ) 中,ByteBufferConverter无法序列化从配置为发出心跳、事务元数据或架构更改事件的连接器发出的事件。为了提高发出这些事件时转换器的兼容性,ByteBufferConverter现在可以配置为将事件序列化委托给其他转换器。此委托是必要的,以便可以序列化心跳、事务元数据和架构更改事件(如果适用)。

为了使用发件箱事件路由器 SMT 和ByteBufferConverter这些事件类型,必须更改连接器配置以反映委托转换器及其可配置选项。

作为使用 Apache Kafka 作为禁用架构的委托的示例JsonConverter,连接器中需要包含以下配置:

value.converter=io.debezium.converters.ByteBufferConverter
value.converter.delegate.converter.type=org.apache.kafka.connect.json.JsonConverter
value.converter.delegate.converter.type.schemas.enable=false
有关使用 的更多信息ByteBufferConverter,请参阅发件箱事件路由器文档中的使用 Avro 作为有效负载格式部分。

脚本模块
在此版本中,用于基于内容的路由和过滤(均使用 JSR 223 脚本引擎)的 SMT 已移出debezium-core或移入单独的工件debezium-scripting( DBZ-2549 )。以前使用这些 SMT 的任何连接器都需要将新工件添加到这些连接器的插件目录中。

当将 Debezium 容器映像用于 Kafka Connect 时,请将环境变量设置ENABLE_DEBEZIUM_SCRIPTING为true来启用此功能。进行此更改是为了允许脚本功能仅在具有适当安全的 Kafka Connect 配置界面的环境中可用。

杂项。功能和错误修复
此外,社区还完成了其他一些功能和修复的工作:

在快照之前赶上流可能会在恢复流时重复消息DBZ-2550

修复 Quarkus 1.9 DBZ-2558的 Quarkus 数据源配置

实现对 Oracle DBZ-2531的连接重试支持

与往常一样,请参阅发行说明,了解已解决问题的完整列表以及从早期 Debezium 版本升级的过程。

非常感谢Guillaume Smet和Grant Cooksey对此版本的贡献。

外表
除非有任何不可预见的回归和错误报告,Debezium 1.3 Final 应该会在下周发布。在那之前,我们将专注于更多的打磨。社区主导的Vitess Debezium 连接器工作也取得了良好进展,计划于 10 月底与 Debezium 1.4 Alpha1 一起首次发布该新连接器。

原文地址: https://debezium.io/blog/2020/10/01/debezium-1-3-final-released/

Debezium 1.3.0.Final 发布
十月 1, 2020 作者: Gunnar Morling
发布 mysql postgres sqlserver cassandra oracle db2 vitess 发件箱
我非常高兴地宣布 Debezium 1.3.0.Final发布!

根据 Debezium 的季度发布节奏,这总结了过去三个月的工作。总体而言,社区在此期间修复了138 个问题,包括以下主要功能和更改:

一个新的基于 LogMiner 的孵化实现,用于从 Oracle 获取变更事件

Debezium 服务器中对 Azure 事件中心的支持

升级到 Apache Kafka 2.6

修改过滤器选项名称

新的 SQL Server 连接器快照模式,initial_only

支持 SQL Server 的数据库筛选列

MongoDB 连接器的其他连接选项

使用 Avro 作为有效负载格式ByteBufferConverter实现发件箱模式的改进

更多详情请参阅预览版( Alpha1、Beta1、Beta2、CR1 )的公告。自上周发布 CR1 以来,我们一直致力于消除一些剩余的错误并改进文档。要了解有关从早期 Debezium 版本升级的过程的更多信息,请查看发行说明。

感谢每个测试预览版的人,这对于发现和修复新功能以及回归中的缺陷提供了宝贵的帮助。当然,我还要感谢所有为此版本做出贡献的社区成员:Aaron Brady、Abhishek Gupta、Andrey Ignatenko、Arik Cohen、Bingqin Zhou、Björn Häuser、Cory Harper、Denis Liseichykau、Eric Weaver、Grant Cooksey、Grzegorz科拉科夫斯基、纪尧姆·斯梅特、盖伊·帕斯卡雷拉、詹姆斯·葛姆雷、Jeremy Finzel、Jonas Lins、Jos Huiting、Justin Hiza、Lukasz Korzeniowski、Luis Garcés-Erice、Matt Beary、Mickaël Isaert、Moira Tagle、Nathan Mills、Peter Junos、Ruslan Gibaiev、Thomas Prelle和Victor Xian!

总体而言,目前已有超过 220 人为 Debezium 项目做出了贡献。

不仅如此,Debezium 用户的数量也在不断增长,例如我们的Debezium 用户参考列表中记录的那样(如果您想添加,请告诉我们)。我们的公开演讲和博客文章汇编中还有一些涉及 Debezium 的新条目,例如 Marta Paes 的一篇关于使用 Flink SQL 和 Debezium 进行变更数据捕获的值得高度推荐的演讲,Cemal Turkoglu 的一篇关于[理解变更数据捕获]的博客文章使用 Debezium Kafka Connector 的 Postgres 管道,以及 Iain Porter 撰写的关于在 Quarkus 中使用 Debezium 实现发件箱模式的精彩文章。阿卜杜勒拉蒂夫·布查马(Abdellatif Bouchama)创建了一份备忘单,做得非常出色用于在 OpenShift 上运行 Debezium。

外表
随着 1.3 最终版本的发布,1.4 版本(将于今年年底发布)的规划正在进行中。路线图仍在不断变化,因此请务必参与并让我们了解您的要求和功能请求。我们可能要做的一些事情包括:

Vitess社区主导的连接器;最初的贡献已经合并,我们计划在本月晚些时候作为 Debezium 1.4 Alpha1 的一部分发布第一个版本

将 MySQL 连接器移至大多数其他 Debezium 连接器共享的 CDC 连接器框架;这将大大减轻该连接器未来的维护负担

探索更强大的快照选项(例如,并行化和重新制作所选表的快照)

改进 Oracle 的基于 LogMiner 的新实施

最后,我特别高兴今天第一次在这里分享另一个活动领域:未来潜在的 Debezium 用户界面的概念验证。在该 PoC 中,我们正在探索图形 UI 如何帮助 Debezium 连接器的设置和操作。我们在该领域有很多想法,并将很快在博客文章中分享更多细节。如果您同时喜欢冒险,您可以获取当前的 PoC 代码并尝试一下!

在那之前,祝您数据流改变愉快,不断向前!

你可能感兴趣的:(FlinkCDC,debezium,CDC,数据库,运维,大数据)