论坛
潜水/灌水快乐,沉淀知识,认识更多同行。
ToB圈子
加入IT圈,遇到更多同好之人。
朋友圈
看朋友圈动态,了解ToB世界。
ToB门户
了解全球最新的ToB事件
博客
Blog
排行榜
Ranklist
文库
业界最专业的IT文库,上传资料也可以赚钱
下载
分享
Share
导读
Guide
相册
Album
记录
Doing
搜索
本版
文章
帖子
ToB圈子
用户
免费入驻
产品入驻
解决方案入驻
公司入驻
案例入驻
登录
·
注册
只需一步,快速开始
账号登录
立即注册
找回密码
用户名
Email
自动登录
找回密码
密码
登录
立即注册
首页
找靠谱产品
找解决方案
找靠谱公司
找案例
找对的人
专家智库
悬赏任务
圈子
SAAS
IT评测·应用市场-qidao123.com
»
论坛
›
数据库
›
SQL-Server
›
HIVE报错:FAILED: Execution Error, return code 2 from ...
HIVE报错:FAILED: Execution Error, return code 2 from org.apache.hadoop ...
杀鸡焉用牛刀
论坛元老
|
2024-11-12 12:06:26
|
显示全部楼层
|
阅读模式
楼主
主题
1055
|
帖子
1055
|
积分
3165
马上注册,结交更多好友,享用更多功能,让你轻松玩转社区。
您需要
登录
才可以下载或查看,没有账号?
立即注册
x
碰到 Hive 执行错误 "FAILED: Execution Error, return code 2 from org.apache.hadoop.hive.ql.exec.mr.MapRedTask" 时,可以实验以下几种解决方法:
亲测1+6就可以好使。
设置 Hive 支持并发
: 在运行 SQL 命令前,可以实验设置 hive.support.concurrency 为 false。
set hive.support.concurrency=false;
复制代码
调解 YARN 资源设置
: 如果是因为 YARN 资源不足,可以修改 yarn-site.xml 设置文件,例如增加 yarn.scheduler.minimum-allocation-mb 和 yarn.scheduler.maximum-allocation-mb 的值。
<property>
<name>yarn.scheduler.minimum-allocation-mb</name>
<value>2048</value>
</property>
<property>
<name>yarn.scheduler.maximum-allocation-mb</name>
<value>2048</value>
</property>
复制代码
调解 MapReduce 内存设置
: 如果是因为内存溢出,可以在运行 SQL 命令前设置 MapReduce 的内存参数。
set mapreduce.map.memory.mb=10150;
set mapreduce.map.java.opts=-Xmx6144m;
set mapreduce.reduce.memory.mb=10150;
set mapreduce.reduce.java.opts=-Xmx8120m;
复制代码
同步集群时间
: 如果是因为各个节点时间不同步,可以检察集群时间并使用 ntpdate 命令同步时间。
ntpdate cn.pool.ntp.org
复制代码
查抄 Hadoop 和 Hive 版本兼容性
: 如果是因为版本不兼容,建议检察兼容表确认。
处理动态分区题目
: 如果是因为分区数目太多,可以设置动态分区的相关参数。
set hive.exec.dynamic.partition=true;
set hive.exec.max.dynamic.partitions=1000;
set hive.exec.max.dynamic.partitions.pernode=100;
复制代码
关闭自动装载
: 可以实验关闭 Hive 的自动装载功能。
set hive.auto.convert.join= false;
复制代码
增加 Hive 启动堆栈内存
: 修改 hadoop-env.sh 和 hive-config.sh 中的设置,增加内存设置。
export HADOOP_CLIENT_OPTS="-Xmx2048m $HADOOP_CLIENT_OPTS"
export HADOOP_HEAPSIZE=${HADOOP_HEAPSIZE:-2048}
复制代码
执行引擎设置
: 可以实验设置执行引擎为 Spark 或 Tez。
set hive.execution.engine=spark;
复制代码
查抄数据范例和表结构
: 确保插入数据的范例与目标表的列范例匹配,并且表结构是一致的。
优化查询语句
: 使用 EXPLAIN 语句分析查询的执行筹划,优化查询性能。
查抄集群资源使用环境
: 如果集群资源不足,可以考虑增加资源大概优化资源分配。
这些方法可以根据不同的环境实验,以解决 Hive 执行错误的题目。如果题目依然存在,建议检察 Hive 日志获取更具体的错误信息。
这些方法可以根据不同的环境实验,以解决 Hive 执行错误的题目。如果题目依然存在,建议检察 Hive 日志获取更具体的错误信息。
免责声明:如果侵犯了您的权益,请联系站长,我们会及时删除侵权内容,谢谢合作!更多信息从访问主页:qidao123.com:ToB企服之家,中国第一个企服评测及商务社交产业平台。
回复
使用道具
举报
0 个回复
正序浏览
返回列表
快速回复
高级模式
B
Color
Image
Link
Quote
Code
Smilies
您需要登录后才可以回帖
登录
or
立即注册
本版积分规则
发表回复
回帖并转播
发新帖
回复
杀鸡焉用牛刀
论坛元老
这个人很懒什么都没写!
楼主热帖
ElasticSearch-高级查询
手把手带你通过API创建一个loT边缘应用 ...
一、kotlin基础语法学习
第4章 复合类型
背八股文的都是什么水平
开源轻量级工作流WorkflowCore介绍 ...
Apache Hudi 在袋鼠云数据湖平台的设计 ...
Ajax+WCF+MySQL实现数据库部署并调用 ...
源码解析 Handler 面试宝典
生产事故-记一次特殊的OOM排查 ...
标签云
AI
运维
CIO
存储
服务器
浏览过的版块
Oracle
虚拟化与私有云
分布式数据库
Java
MES
物联网
.Net
快速回复
返回顶部
返回列表