Skip to content

DataX all data channels

dataccs edited this page Aug 5, 2016 · 4 revisions

目前DataX支持的数据源有:

Reader

Reader实现了从数据存储系统批量抽取数据,并转换为DataX标准数据交换协议,DataX任意Reader能与DataX任意Writer实现无缝对接,达到任意异构数据互通之目的。

RDBMS 关系型数据库

数仓数据存储

  • ODPSReader: 使用ODPS Tunnel SDK批量抽取ODPS数据。

NoSQL数据存储

无结构化数据存储

  • TxtFileReader: 读取(递归/过滤)本地文件。
  • FtpReader: 读取(递归/过滤)远程ftp文件。
  • HdfsReader: 针对Hdfs文件系统中textfile和orcfile文件批量数据抽取工具。
  • OssReader: 针对公有云OSS产品的批量数据抽取工具。
  • StreamReader

Writer


Writer实现了从DataX标准数据交换协议,翻译为具体的数据存储类型并写入目的数据存储。DataX任意Writer能与DataX任意Reader实现无缝对接,达到任意异构数据互通之目的。


RDBMS 关系型数据库

数仓数据存储

  • ODPSWriter: 使用ODPS Tunnel SDK向ODPS写入数据。
  • ADSWriter: 使用ODPS中转将数据导入ADS。

NoSQL数据存储

无结构化数据存储

  • TxtFileWriter: 提供写入本地文件功能。
  • FtpWriter: 提供写入FTP文件功能。
  • OssWriter: 使用OSS SDK写入OSS数据。
  • HdfsWriter: 提供向Hdfs文件系统中写入textfile文件和orcfile文件功能。
  • StreamWriter