[TOC]
# 導入表數據到 HDFS
下面的命令用于從MySQL數據庫服務器中的emp表導入HDFS
`--m` 表示跑這個任務需要多少個map
~~~
sqoop import \
--connect jdbc:mysql://localhost:3306/userdb \
--username root \
--password root \
--table emp --m 1
~~~
如果要指定這樣`--m 2`的話,就需要指定個字段了
`--split-by id`比如指定id,按照那個字段切分
~~~
[root@master ~]# sqoop import \
> --connect jdbc:mysql://192.168.33.3:3306/app \
> --username root \
> --password root \
> --split-by id \
> --table emp_add --m 2
~~~
如果成功執行,那么會得到下面的輸出。
~~~
14/12/22 15:24:54 INFO sqoop.Sqoop: Running Sqoop version: 1.4.5
14/12/22 15:24:56 INFO manager.MySQLManager: Preparing to use a MySQL streaming resultset.
INFO orm.CompilationManager: Writing jar file: /tmp/sqoop-hadoop/compile/cebe706d23ebb1fd99c1f063ad51ebd7/emp.jar
-----------------------------------------------------
O mapreduce.Job: map 0% reduce 0%
14/12/22 15:28:08 INFO mapreduce.Job: map 100% reduce 0%
14/12/22 15:28:16 INFO mapreduce.Job: Job job_1419242001831_0001 completed successfully
-----------------------------------------------------
-----------------------------------------------------
14/12/22 15:28:17 INFO mapreduce.ImportJobBase: Transferred 145 bytes in 177.5849 seconds (0.8165 bytes/sec)
14/12/22 15:28:17 INFO mapreduce.ImportJobBase: Retrieved 5 records.
~~~
為了驗證在HDFS導入的數據,請使用以下命令查看導入的數據
默認在`/user/root`下面表名這個文件夾
~~~
$ $HADOOP_HOME/bin/hadoop fs -cat /user/hadoop/emp/part-m-00000
~~~
emp表的數據和字段之間用逗號(,)表示。
~~~
1201, gopal, manager, 50000, TP
1202, manisha, preader, 50000, TP
1203, kalil, php dev, 30000, AC
1204, prasanth, php dev, 30000, AC
1205, kranthi, admin, 20000, TP
~~~
# 導入到HDFS指定目錄
在導入表數據到HDFS使用Sqoop導入工具,我們可以指定目標目錄。
以下是指定目標目錄選項的Sqoop導入命令的語法。
~~~
--target-dir <new or exist directory in HDFS>
~~~
下面的命令是用來導入emp_add表數據到'/queryresult'目錄。
~~~
sqoop import \
--connect jdbc:mysql://localhost:3306/test \
--username root \
--password root123 \
--target-dir /queryresult \
--table emp_add--m 1
~~~
下面的命令是用來驗證 /queryresult?目錄中 emp_add表導入的數據形式。
~~~
$HADOOP_HOME/bin/hadoop fs -cat /queryresult/part-m-*
~~~
它會用逗號(,)分隔emp_add表的數據和字段。
~~~
1201, 288A, vgiri, jublee
1202, 108I, aoc, sec-bad
1203, 144Z, pgutta, hyd
1204, 78B, oldcity, sec-bad
1205, 720C, hitech, sec-bad
~~~
然后看運行命令的地方,下面生成了幾個.java文件
他是把這些命令打包成jar包運行的
默認目錄是`/user/${user.name}/${tablename}`,可以通過`--target-dir`設置hdfs上的目標目錄。
如果想要將整個數據庫中的表全部導入到hdfs上,可以使用`import-all-tables`命令。
~~~
sqoop import-all-tables –connect jdbc:mysql://192.168.81.176/hivemeta2db --username root -password passwd
~~~
如果想要指定所需的列,使用如下:
~~~
sqoop import --connect?jdbc:mysql://192.168.81.176/hivemeta2db?--username root -password passwd --table sds --columns "SD_ID,CD_ID,LOCATION"
~~~
指定導出文件為SequenceFiles,并且將生成的類文件命名為com.ctrip.sds:
~~~
sqoop import --connect jdbc:mysql://192.168.81.176/hivemeta2db --username root -password passwd --table sds --class-name com.ctrip.sds --as-sequencefile
~~~
- linux
- 常用命令
- 高級文本命令
- 面試題
- redis
- String
- list
- hash
- set
- sortedSet
- 案例-推薦
- java高級特性
- 多線程
- 實現線程的三種方式
- 同步關鍵詞
- 讀寫鎖
- 鎖的相關概念
- 多線程的join
- 有三個線程T1 T2 T3,保證順序執行
- java五種線程池
- 守護線程與普通線程
- ThreadLocal
- BlockingQueue消息隊列
- JMS
- 反射
- volatile
- jvm
- IO
- nio
- netty
- netty簡介
- 案例一發送字符串
- 案例二發送對象
- 輕量級RPC開發
- 簡介
- spring(IOC/AOP)
- spring初始化順序
- 通過ApplicationContextAware加載Spring上下文
- InitializingBean的作用
- 結論
- 自定義注解
- zk在框架中的應用
- hadoop
- 簡介
- hadoop集群搭建
- hadoop單機安裝
- HDFS簡介
- hdfs基本操作
- hdfs環境搭建
- 常見問題匯總
- hdfs客戶端操作
- mapreduce工作機制
- 案列-單詞統計
- 局部聚合Combiner
- 案列-流量統計(分區,排序,比較)
- 案列-倒排索引
- 案例-共同好友
- 案列-join算法實現
- 案例-求topN(分組)
- 自定義inputFormat
- 自定義outputFormat
- 框架運算全流程
- mapreduce的優化方案
- HA機制
- Hive
- 安裝
- DDL操作
- 創建表
- 修改表
- DML操作
- Load
- insert
- select
- join操作
- 嚴格模式
- 數據類型
- shell參數
- 函數
- 內置運算符
- 內置函數
- 自定義函數
- Transform實現
- 特殊分割符處理
- 案例
- 級聯求和accumulate
- flume
- 簡介
- 安裝
- 常用的組件
- 攔截器
- 案例
- 采集目錄到HDFS
- 采集文件到HDFS
- 多個agent串聯
- 日志采集和匯總
- 自定義攔截器
- 高可用配置
- 使用注意
- sqoop
- 安裝
- 數據導入
- 導入數據到HDFS
- 導入關系表到HIVE
- 導入表數據子集
- 增量導入
- 數據導出
- 作業
- 原理
- azkaban
- 簡介
- 安裝
- 案例
- 簡介
- command類型單一job
- command類型多job工作流flow
- HDFS操作任務
- mapreduce任務
- hive腳本任務
- hbase
- 簡介
- 安裝
- 命令行
- 基本CURD
- 過濾器查詢
- 系統架構
- 物理存儲
- 尋址機制
- 讀寫過程
- Region管理
- master工作機制
- 建表高級屬性
- 與mapreduce結合
- 協處理器
- 點擊流平臺開發
- 簡介
- storm
- 簡介
- 安裝
- 集群啟動及任務過程分析
- 單詞統計
- 并行度
- ACK容錯機制
- ACK簡介