记录一下 python代码 #!/usr/bin/env python # -*- coding: utf-8 -*- import re import os import sys p = os.popen('id %s' % sys.argv[1]) s = p.read() # s = 'uid=486(yarn) gid=484(yarn) groups=484(yarn),493(hadoop),513(supergroup)' user =…… 2016.7.31
2025.6.3
Hadoop
720
2 分钟hadoop实现类似linux系统的文件权限,需要知道某个用户是属于哪个组。系统默认…… 2016.7.22
2025.6.3
Hadoop
1640
4 分钟版本:hadoop cdh5.4 传输文件 接收方 nc -l <span class="hljs-number">19999</span> <span class="hljs-string">| tar zxvf -</span> 发送方 tar czvf - ./current <span class="hljs-string">| nc serverip 19999</span> 迁移方案…… 2016.7.14
2025.6.3
Hadoop
131
1 分钟hadoop写入时,默认磁盘选择是轮询的方式。可以改用按空间大小来分配,避免某个磁盘…… 2016.5.25
2025.6.3
Hadoop
179
1 分钟所有机器hosts都要加上新namenode 新namenode要建立好以前的用户和组…… 2016.5.15
2025.6.3
Hadoop
1014
3 分钟在namenode日志看到如下错误 2016-05-11 01:00:26,360 WARN org.apache.hadoop.security.Groups: Potential performance problem: getGroups(user=xxx) took 5046 milliseconds 这个方法是hadoop为了获…… 2016.5.2
2025.6.3
Hadoop
3644
8 分钟背景 最近打算要重启DataNode,之前有试过重启过程中导致业务任务失败的情况。所以…… 2016.5.1
2025.6.3
Hadoop
157
1 分钟Do not use small blocks for balancing the cluster https://issues.apache.org/jira/browse/HDFS-8824 Allow Balancer to run faster https://issues.apache.org/jira/browse/HDFS-8818 平衡设置的文章:https://community.…… 2016.4.25
2025.6.3
Hadoop
170
1 分钟修改一下超时次数,具体代码在 DFSOutputStream.java private void completeFile(ExtendedBlock last) throws IOException { long localstart = Time.now(); long localTimeout = 400; boolean fileComplete = false; int retries = dfsClient.getConf().nBlockWriteLocateFollowingRetry; while (!fileComplete) { fileComplete…… 2016.4.24
2025.6.3
Hadoop
59
1 分钟记一次DataNode慢启动问题 :启动过程中,datanode为了获取used siz……