一个内网服务器,一个外网服务器(数据定时采集服务器),现在想把外网服务器的增量数据同步到内网服务器(初始数据和表结构可以导成 sql 到目标库执行),表结构完全相同,可以有一定的延迟,各位 V 友们有什么好的方案和工具吗?原先没研究过,最好有具体的实现方案帖子、视频、或者开源项目,一站式部署,学习成本比较低,免费拿来就可以用最好了!

github.com/alibaba/canal 或者 github.com/alibaba/DataX

seatunnel

直接弄个主从,如何开启 mysql 主从,网上一大堆

用 datax 一个脚本的事

楼上都有提到对实时有要求 Mysql 主从就可以了

你好,我查了一下感觉也有点懵啊,canal 和 datax 哪个更容易搭建,有什么区别吗?是开源免费的吗? java 环境可以吗?

你好,主从就可以实时复制数据了吗?服务器需要开放 3306 端口吗?可以双主吗?一方数据有变动其他的也会自动同步

developer.aliyun.com/article/1510627 很简单的 你看看

percona toolkit

innodb cluster
但是坑不少 你得踩踩

双主,或者多主,可以用用 MariaDB 的 Galera 。限制是只能 innoDB 引擎。

主从是实时增量,数据结构都可以同步的,从库必须可以链接到主服务,最好给单独开启账号配置服务,你可以在网上搜索相关的资料比较多,只要是数据的配置就可以了

同个类型数据库,搭建主从或双主就可以了

cloudcanal

方案是可以, 但是主从会存在对主库操作延迟. 再加上网络问题等, 可能会影响到主库的正常处理. 建议还是使用类似 CDC 的实现 (Flink, 部署麻烦), DataX.

canal 或者 flink-cdc

主从实际是对主 Mysql 的 Binlog 读取和传输,受服务器 IO 和网络影响!但是对主库操作延迟,未仔细研究,我觉得应该影响不大。之前有同步过 aliyun 的 mysql 到本地机房,运行良好。如本地断网,等网通后会自动同步,做好延迟监控!

debezium+kafaka 或者 flink cdc

请问这两个在数据同步上区别是什么?(看起来 dataX 抽象程度更高,在 MySQL 同步上 dataX 是依赖于 canal 或者内置了 canal 还是自己重新实现了同样的逻辑?)
仅针对于 mysql 数据增量同步这两个更推荐哪个?

可以双主,我有具体的代码,你加我,我发给你

DMS