首页 科技频道正文

使用RestCloud ETL轻松解决WebService数据同步

chinanews 科技频道 2022-04-25 57136 0

当前许多企业的业务系统甚至是SAAS系统只能提供WebService接口,如SAP、Workday等。

如何才能将众多的WebService接口同步到本地或数据中心呢?

传统的做法是通过编写代码实现,该做法不仅开发效率低而且维护困难,任何接口的变更都需要重新修改代码。如果有一种能简单、高效地轻松解决该问题的工具,这应该是所有数据集成开发工程师的共同需求。

RestCloud ETL正是一款这样的工具,以下分享如何使用RestCloud ETL工具无需编码,只需简单两步即轻松完成WebService数据同步方法。

一、实现原理

RestCloud ETL提供100+的数据组件,这里我们只需要使用其中2个组件:WebService调用组件,表输出组件即可轻松实现WebService的数据同步

实现原理如下图:

WebService调用组件完成WebService接口接入、XML数据解析、数据格式;表输出组件完成格式后的数据加载到数据库中,表输出组件支持几十种数据源。

二、实现过程

2.1、登录RestCloud ETL平台

进入集成开发应用开发页面

创建一个WebService数据同步任务

2.2WebService数据同步流程设计

2.2.1 流程设计

在流程设计页面,拖拽出两个组件:

2.2.2配置组件信息:

1、配置WebService

WebService配置项中在输入WebService接口URL:

这里我们将获取公网上的一个WebService接口服务地址如下:http://ws.webxml.com.cn/WebServices/WeatherWS.asmx

注意这个WebService有好几个方法我们需要在节点的Header中SOAPAction中指定具体调用其中的那一个方法。

我们调用他其中的一个方法获取区域以及编码数据然后传到mysql中进行存储。

使用ETL调用WebService接口实时拉取数据到本地数库中

输入参数的XML可以使用SoapUI工具进行解析然后复制进来即可,这样我们的WebService节点就配置完成了。

后面的MySql节点就比较容易了,可以提前先建好表,也可以由ETL任务自动创建表,我们这里选择由ETL工具自动建表并输出数据到mysql。

2配置表输出信息

这里输入一张不存在的表即可,系统会自动创建这张表

然后配置这张表要接收数据的字段,系统将根据此配置字段进行数据库表的创建。

输出选项中我们选择第一次执行时清空目标表,自动建表,逐条更新即可,配置完成后保存流程,即可以开始调试运行,现在我们来运行一下看看效果。

2.3 运行调试

点击运行,选择单步调试,可以看到拉取的区域数据,并会存入到mysql中

在调试界面中我们可以看到拉取到了79条数据,再点下一步即可存入到mysql

任务运行结果显示成功79条数据到mysql中,我们可以去mysql表中预览一下是不是把区域数据拉到mysql中了。

使用ETL调用WebService接口实时拉取数据到本地数库中

打开mysql客户端可以看到WebSerivce中的数据已经成功拉取到本地mysql中了,如果调试没有问题我们就可以给他安排一个定时任务,定时同步webservice中的数据到本地即可。

使用ETL调用WebService接口实时拉取数据到本地数库中

可以选择每天晚上同步一次或其他同步时间可以自定义同步频率

上面我们就通过RestCloud ETL简单两步配置即实现了WebService接口的数据拉取同步任务,可以说是非常简单。

三、RestCloud ETL数据集成自动化

RestCloud ETL社区版是一款数据集成工具,即插即用,永久免费。提供可视化多数据管道构建、数据源管理、运行监控及权限管理功能。RestCloud作为一家数据集成自动化创新企业,我们致力于成为世界级的数据集成平台,我们将为此不懈努力,不断前行。

感谢您对我们的关注和支持!

如需了解更多的产品相关信息,请加入RestCloud ETL社区免费下载体验

下载地址:https://etl.restcloud.cn


版权声明

本文仅代表作者观点,不代表本站立场。
本文系作者授权发表,未经许可,不得转载。

控制面板

您好,欢迎到访网站!
  查看权限