Sqoop 简明教程

Sqoop - Export

此章节描述了如何将数据从 HDFS 导回到 RDBMS 数据库。目标表必须存在于目标数据库中。提供给 Sqoop 的文件包含记录,这些记录称为表中的行。这些记录被读入并解析成为一组记录,并使用用户指定的定界符分隔。

默认操作是使用 INSERT 语句将来自输入文件中的所有记录插入到数据库表中。在更新模式下,Sqoop 生成 UPDATE 语句,该语句替换数据库中的现有记录。

Syntax

以下是导出命令的语法。

$ sqoop export (generic-args) (export-args)
$ sqoop-export (generic-args) (export-args)

Example

让我们举一个 HDFS 文件中员工数据的示例。员工数据位于 HDFS 中“emp/”目录中的 emp_data 文件中。 emp_data 如下。

1201, gopal,     manager, 50000, TP
1202, manisha,   preader, 50000, TP
1203, kalil,     php dev, 30000, AC
1204, prasanth,  php dev, 30000, AC
1205, kranthi,   admin,   20000, TP
1206, satish p,  grp des, 20000, GR

必须手动创建待导出的表,并且此表应存在于必须从中导出该表的数据库中。

使用以下查询在 mysql 命令行中创建表“employee”。

$ mysql
mysql> USE db;
mysql> CREATE TABLE employee (
   id INT NOT NULL PRIMARY KEY,
   name VARCHAR(20),
   deg VARCHAR(20),
   salary INT,
   dept VARCHAR(10));

使用以下命令将表数据(它位于 HDFS 上的 emp_data 文件中)导出到 Mysql 数据库服务器的 db 数据库中的 employee 表。

$ sqoop export \
--connect jdbc:mysql://localhost/db \
--username root \
--table employee \
--export-dir /emp/emp_data

使用以下命令验证 mysql 命令行中的表。

mysql>select * from employee;

如果已成功存储给定数据,则可以找到给定员工数据的以下表。

+------+--------------+-------------+-------------------+--------+
| Id   | Name         | Designation | Salary            | Dept   |
+------+--------------+-------------+-------------------+--------+
| 1201 | gopal        | manager     | 50000             | TP     |
| 1202 | manisha      | preader     | 50000             | TP     |
| 1203 | kalil        | php dev     | 30000             | AC     |
| 1204 | prasanth     | php dev     | 30000             | AC     |
| 1205 | kranthi      | admin       | 20000             | TP     |
| 1206 | satish p     | grp des     | 20000             | GR     |
+------+--------------+-------------+-------------------+--------+