当前位置: 首页 > article >正文

yarn 任务 beyond the ‘PHYSICAL‘ memory limit 报错处理

报错:
XXX is running 64299008B beyond the ‘PHYSICAL’ memory limit. Current usage: 2.1 GB of 2 GB physical memory used; 4.3 GB of 4.2 GB virtual memory used. Killing container.

set yarn.scheduler.minimum-allocation-mb;
±-------------------------------------------+
| set |
±-------------------------------------------+
| yarn.scheduler.minimum-allocation-mb=1024 |
±-------------------------------------------+
1 row selected (0.088 seconds)
set yarn.scheduler.maximum-allocation-mb;
±--------------------------------------------+
| set |
±--------------------------------------------+
| yarn.scheduler.maximum-allocation-mb=65536 |
±--------------------------------------------+
1 row selected (0.007 seconds)
set mapreduce.map.memory.mb;
±------------------------------+
| set |
±------------------------------+
| mapreduce.map.memory.mb=2048 |
±------------------------------+
1 row selected (0.006 seconds)
set mapreduce.reduce.memory.mb;
±---------------------------------+
| set |
±---------------------------------+
| mapreduce.reduce.memory.mb=2048 |
±---------------------------------+
1 row selected (0.013 seconds)
set yarn.nodemanager.vmem-pmem-ratio;
±--------------------------------------+
| set |
±--------------------------------------+
| yarn.nodemanager.vmem-pmem-ratio=2.1 |
意味着节点管理器可以使用的虚拟内存是其可用物理内存的2.1倍!
±--------------------------------------+
1 row selected (0.006 seconds)
set yarn.nodemanager.vmem-check-enabled;
±-------------------------------------------+
| set |
±-------------------------------------------+
| yarn.nodemanager.vmem-check-enabled=false |
±-------------------------------------------+
1 row selected (0.005 seconds)
set dfs.block.size;
±--------------------------+
| set |
±--------------------------+
| dfs.block.size=134217728 |
±--------------------------+
1 row selected (0.007 seconds)
set hive.exec.reducers.bytes.per.reducer;
±-----------------------------------------------+
| set |
±-----------------------------------------------+
| hive.exec.reducers.bytes.per.reducer=67108864 |
±-----------------------------------------------+
1 row selected (0.007 seconds)
set mapreduce.map.java.opts;
±---------------------------------------------------+
| set |
±---------------------------------------------------+
| mapreduce.map.java.opts=-Djava.net.preferIPv4Stack=true |
±---------------------------------------------------+
1 row selected (0.005 seconds)
set mapreduce.reduce.java.opts;
±---------------------------------------------------+
| set |
±---------------------------------------------------+
| mapreduce.reduce.java.opts=-Djava.net.preferIPv4Stack=true |
±---------------------------------------------------+
1 row selected (0.006 seconds)

1、增大内存
set mapreduce.map.memory.mb=8192;
set mapreduce.reduce.memory.mb=4096;
set mapreduce.map.java.opts=-Xmx6144m;
set mapreduce.reduce.java.opts=-Xmx3072m;
2、减小单批次处理数据量


http://www.kler.cn/a/413723.html

相关文章:

  • 题目 3209: 蓝桥杯2024年第十五届省赛真题-好数
  • PL/I语言的起源?Objective C语言起源哪里?JavaScript的起源?Java的起源?B语言的起源?C++语言的起源?C#的起源?
  • 【PyTorch】(基础一)----pytorch环境搭建
  • 如何使用MySQL实现多租户架构:设计与实现全解析
  • ts解决vite unplugin-auto-import/vite
  • Ettercap工具使用说明
  • 半导体、晶体管、集成电路、芯片、CPU、单片机、单片机最小系统、单片机开发板-概念串联辨析
  • 【网络安全设备系列】12、态势感知
  • Z2400023基于Java+Servlet+jsp+mysql的酒店管理系统的设计与实现 源码 调试 文档
  • 在Manjaro Gnome桌面的基础上安装Budgie桌面环境
  • 【入门篇】小游戏——多语言求解版
  • 希尔排序:一个“跳房子游戏”
  • 前端新手教程:HTML、CSS 和 JavaScript 全面详解及实用案例
  • 大数据新视界 -- Hive 数据分区:精细化管理的艺术与实践(上)(7/ 30)
  • 如何在 Ubuntu 22.04 上安装 Metabase 数据可视化分析工具
  • ssm194线上学习网站+vue(论文+源码)_kaic
  • 词云图大师(WordCloudMaster): 探索创意无限的词云世界!
  • Panzerdogs 游戏宣布将在 SuiPlay0X1 上线
  • 算法定制LiteAIServer视频智能分析平台未戴口罩检测算法在餐饮监控领域的应用
  • 1panel专业版防火墙自定义规则使用记录
  • [jupyter运行报错] AssertionError: Torch not compiled with CUDA enabled
  • Oracle RMAN异机迁移恢复
  • C++设计模式:桥接模式(Bridge)
  • Flume 与 Kafka 整合实战
  • IDEA配置本地maven
  • 2024年华为OD机试真题-第k个排列-C++-OD统一考试(E卷)