码上敲享录 > 大数据常见问题解答 > datax同步sqlserver到kudu的时间是毫秒时间戳问题

datax同步sqlserver到kudu的时间是毫秒时间戳问题

上一章章节目录下一章 2021-09-28已有916人阅读 评论(0)

datax同步sqlserver到kudu的时间是毫秒时间戳问题


解决方法:

可以在transformer中截取10位即为秒级时间戳。

{

   "job": {

       "setting": {

           "speed": {

                "byte": 1048576

           }

       },

       "content": [

           {

               "reader": {

                   "name": "sqlserverreader",

                   "parameter": {

                       "username": "用户名",

                       "password": "密码",

                       "column": ["ID", "reportDate", "gasOil", "dieselOil", "createuser", "createtime", "updateuser", "updatetime"],

"where": "createtime >= dateadd(dd, -8 ,getdate())",

                       "connection": [

                           {

                               "table": ["depotOut"],

                               "jdbcUrl": ["jdbc:sqlserver://10.192.4.91:1433;database=数据库名"]

                           }

                       ]

                   }

               },

"transformer": [

{

"name": "dx_groovy",

"parameter": {

"code": "Column dd1 = record.getColumn(1);if(dd1.getRawData()){def s1=dd1.getRawData().toString().substring(0,10);record.setColumn(1,new LongColumn(s1));};Column dd5 = record.getColumn(5);if(dd5.getRawData()){def s5=dd5.getRawData().toString().substring(0,10);record.setColumn(5,new LongColumn(s5));};Column dd7 = record.getColumn(7);if(dd7.getRawData()){def s7=dd7.getRawData().toString().substring(0,10);record.setColumn(7,new LongColumn(s7));};return record;",

"extraPackage": [

"import groovy.json.JsonSlurper;"

]

}

}

],

              "writer": {

"parameter": {

"batch-size": 2048,

"column": [

                    {

                     "name": "id",

                     "index": 0,

                     "type": "int"

                    },

                    {

                     "name": "reportdate",

                     "index": 1,

                     "type": "long"

                    },

                    {

                     "name": "gasoil",

                     "index": 2,

                     "type": "double"

                    },

                    {

                     "name": "dieseloil",

                     "index": 3,

                     "type": "double"

                    },

                    {

                     "name": "createuser",

                     "index": 4,

                     "type": "string"

                    },

                    {

                     "name": "createtime",

                     "index": 5,

                     "type": "long"

                    },

                    {

                     "name": "updateuser",

                     "index": 6,

                     "type": "string"

                    },

                    {

                     "name": "updatetime",

                     "index": 7,

                     "type": "long"

                    }],

"mutationBufferSpace": 5000,

"isUpsert": true,

"table": "impala::stat.depotOut",

"masterAddr": "10.248.244.111:7000,10.248.244.112:7000,10.248.244.113:7000",

"primaryKey": [{

"index": 0,

"name": "id",

"type": "int"

}]

},

"name": "kuduwriter"

}

           }

       ]

   }

}



向大家推荐《Activiti工作流实战教程》:https://xiaozhuanlan.com/activiti
0

有建议,请留言!

  • *您的姓名:

  • *所在城市:

  • *您的联系电话:

    *您的QQ:

  • 咨询问题:

  • 提 交