重庆分公司
重庆分公司，新征程启航
为企业提供网站建设、域名注册、服务器等服务
Sqoop抽数到Hive表异常的示例分析
这篇文章主要为大家展示了“Sqoop抽数到Hive表异常的示例分析”，内容简而易懂，条理清晰，希望能够帮助大家解决疑惑，下面让小编带领大家一起研究并学习一下“Sqoop抽数到Hive表异常的示例分析”这篇文章吧。
按需求定制网站可以根据自己的需求进行定制，成都网站建设、成都做网站构思过程中功能建设理应排到主要部位公司成都网站建设、成都做网站的运用实际效果公司网站制作网站建立与制做的实际意义
1.测试环境说明
CDH集群启用了HDFS的HA
CM和CDH版本为5.14.2
2.问题描述
使用Sqoop抽取MySQL数据到Hive表时，抽取语句正常执行在数据Load到Hive表时报“Operation category READ is not supported in state standby”，执行的Sqoop抽数脚本如下：
export HADOOP_USER_NAME=hive
sqoop import \
--connect "jdbc:mysql://cdh02.fayson.com:3306/cm" \
--username cm \
--password password \
--table HOSTS \
--fields-terminated-by ',' \
--target-dir /user/hive/warehouse/test.db/hive_hosts \
--delete-target-dir \
--hive-import \
--hive-overwrite \
--hive-database test \
--hive-table hive_hosts \
--m 1
（可左右滑动）
在命令行执行上述Sqoop脚本，显示作业正常执行
此时活动的NameNode节点为cdh02.fayson.com
将NameNode活动节点切换为cdh01.fayson.com
再次执行脚本,执行到“Loading datato table test.hive_hosts”，在这里Fayson在测试时会出现夯死现象很久没有任何反应。
根据错误提示不能move hdfs数据目录，查看两个数据目录都是正常访问
3.异常分析及处理
1.根据异常提示出现了两个HDFS访问路径，在集群HDFS已启用了HA，是不应该再出现使用启用HA之前NameNode节点的HDFS路径
2.检查Hive Metastore的库及表元数据的Location地址，使用如下命令在HIveMetastore服务所在节点执行
[root@cdh01 ~]# export HIVE_CONF_DIR="/var/run/cloudera-scm-agent/process/`ls -1 /var/run/cloudera-scm-agent/process | grep HIVEMETASTORE| sort -n| tail -1`"
[root@cdh01 ~]# HADOOP_CREDSTORE_PASSWORD=$(strings /proc/$(ps -ef|grep HiveMetaStore|grep java|awk '{print $2}')/environ|grep CRED|awk -F= '{print $2}') hive --auxpath /usr/share/java/ --config $HIVE_CONF_DIR --service metatool -listFSRoot
（可左右滑动）
3.经检查发现Hive Metastore的Location地址指向还是之前NameNode地址，定位问题可能出现在这里，下面我们来更新HiveMetastore NameNode的地址指向。
4.更新Hive Metastore的Location地址有两种方式一种是在CM界面进行操作，一种是在命令行手动的进行更新
方式一：
登录Clouder Manager管理界面进入Hive服务，首先停止Hive服务，然后在Hive的服务的菜单列表中执行“更新Hive Metastore NameNode”
更新完成后，启动Hive服务，在Hive Metastore服务所在节点使用上面的命令进行查看验证是否更新成功，如果这里更新不成功，可以使用方式二手动更新。
方式二：
在HiveMetastore服务所在节点执行如下命令更新Hive元数据Location地址
[root@cdh01 ~]# export HIVE_CONF_DIR="/var/run/cloudera-scm-agent/process/`ls -1 /var/run/cloudera-scm-agent/process | grep HIVEMETASTORE| sort -n| tail -1`"
[root@cdh01 ~]# HADOOP_CREDSTORE_PASSWORD=$(strings /proc/$(ps -ef|grep HiveMetaStore|grep java|awk '{print $2}')/environ|grep CRED|awk -F= '{print $2}') hive --auxpath /usr/share/java/ --config $HIVE_CONF_DIR --service metatool -updateLocation hdfs://nameservice1 hdfs://cdh01.fayson.com:8020
[root@cdh01 ~]# HADOOP_CREDSTORE_PASSWORD=$(strings /proc/$(ps -ef|grep HiveMetaStore|grep java|awk '{print $2}')/environ|grep CRED|awk -F= '{print $2}') hive --auxpath /usr/share/java/ --config $HIVE_CONF_DIR --service metatool -listFSRoot
（可左右滑动）
检查更新结果
注意：使用手动方式更新Hie Metastore的NameNode指向时，第二条命令的最后两个参数，hdfs://nameservice1为更新后值，hdfs://cdh01.fayson.com:8020为更新前的值。
4.Sqoop命令验证
Sqoop命令正常执行
以上是“Sqoop抽数到Hive表异常的示例分析”这篇文章的所有内容，感谢各位的阅读！相信大家都有了一定的了解，希望分享的内容对大家有所帮助，如果还想学习更多知识，欢迎关注创新互联行业资讯频道！
本文标题：Sqoop抽数到Hive表异常的示例分析
URL地址：http://cqcxhl.cn/article/jpjhsp.html