DataX 阿里巴巴 离线数据同步工具/平台使用1———mysql to mysql

DataX 源码地址:https://github.com/alibaba/DataX?spm=a2c4g.11186623.2.12.317b3680my463k

使用介绍:https://github.com/alibaba/DataX/blob/master/userGuid.md

1、首先在两台服务器上安装mysql,可以参考我之前的博客,利用docker快速安装https://blog.csdn.net/qq_15058425/article/details/81610612

 

2、下载DataX

DataX 阿里巴巴 离线数据同步工具/平台使用1———mysql to mysql

下载之后上传到服务器

3、配置任务json文件

参考晚上的一些博客,有的json格式正确,但是放在服务器上运行的时候就是会提示json格式错误,可以直接运行命令,生成一个模板json文件,将这个文件拷贝到本地,再修改

DataX 阿里巴巴 离线数据同步工具/平台使用1———mysql to mysql

修改这个sqmple.json的配置,然后再重新上传到服务器上

{
    "job": {
        "content": [
            {
                "reader": {
                    "name": "mysqlreader", 
                    "parameter": {
                        "column": [
                "id",
                            "name",
                            "passwd"
            ], 
                        "connection": [
                            {
                                "jdbcUrl": ["jdbc:mysql://xxxx.4:3306/company3_home?useUnicode=true&characterEncoding=utf-8"], 
                                "table": ["user_info"]
                            }
                        ], 
                        "password": "123456", 
                        "username": "root", 
                        "where": ""
                    }
                }, 
                "writer": {
                    "name": "mysqlwriter", 
                    "parameter": {
                        "column": [
                "id",
                            "name",
                            "passwd"
            ], 
                        "connection": [
                            {
                                "jdbcUrl": "jdbc:mysql://127.0.0.1:3306/company3_home?useUnicode=true&characterEncoding=utf-8", 
                                "table": ["user_info"]
                            }
                        ], 
                        "password": "123456", 
                        "preSql": [], 
                        "session": [], 
                        "username": "root", 
                        "writeMode": "insert"
                    }
                }
            }
        ], 
        "setting": {
            "speed": {
                "channel": 10
            }
        }
    }
}

4、运行dataX

DataX 阿里巴巴 离线数据同步工具/平台使用1———mysql to mysql

要注意的地方:可能即使你的数据库密码填写正确,它也会提示连接失败。这个是数据库版本的问题。

DataX 阿里巴巴 离线数据同步工具/平台使用1———mysql to mysql

这是因为dataX里的mysql连接jar版本比较老的原因,下载较新的数据库jar,替换

datax/plugin/reader/mysqlreader/libs/  和/soft/datax/plugin/writer/mysqlwriter/libs/ 中的mysql的数据库连接jar即可

运行结果:

DataX 阿里巴巴 离线数据同步工具/平台使用1———mysql to mysql