Lv.2
泽及天下不为仁
更多个人资料
90
成长值
0
关注
9
粉丝
+ 关注
私信
个人介绍
这个人很懒,什么都没有留下
感兴趣或擅长的领域
暂无数据
个人勋章
TA还没获得勋章~
成长雷达
90
0
0
0
0
个人资料
个人介绍
这个人很懒,什么都没有留下
感兴趣或擅长的领域
暂无数据
达成规则
以上满足
项可达成此勋章
博客
关注
粉丝
论坛
全部时间
全部时间
最近三天
最近一周
最近一月
全部
暂无专栏分类
从python编译到运行pyspark样例
MRS集群默认会带上Python2.7.5和Python3.8.0两个版本的Python。默认使用的是Python2.7.5。但是有时候我们希望使用的是我们指定的Python版本来运行pyspark任务,因此需要自行上传对应的Python版本包。由于Python较依赖环境,不同环境编译出来的Python版本可能并不通用。
MapReduce服务 MRS
spark
泽及天下不为仁
2022-08-31 15:23:46
7848
0
1
2022-08-31 15:23:46
999+
0
1
hadoop distcp命令使用指导
DistCp(分布式拷贝)是用于大规模集群内部和集群之间拷贝的工具。 它使用Map/Reduce实现文件分发,错误处理和恢复,以及报告生成。 它把文件和目录的列表作为map任务的输入,每个任务会完成源列表中部分文件的拷贝。
EI企业智能
Hadoop
MapReduce
MapReduce服务 MRS
泽及天下不为仁
2022-04-14 18:02:30
10947
0
1
2022-04-14 18:02:30
999+
0
1
如何为MRS_3.x版本的Spark添加三方依赖包
MRS上使用spark提交任务经常引入一些三方依赖包,本文主要介绍几种添加依赖包的方式。
MapReduce
spark
泽及天下不为仁
2021-10-11 20:46:44
9580
0
0
2021-10-11 20:46:44
999+
0
0
如何查询指定范围的Yarn任务列表
如何查询指定范围的Yarn任务列表
Yarn
泽及天下不为仁
2021-09-13 16:08:51
8595
0
0
2021-09-13 16:08:51
999+
0
0
MRS服务JDBCServer添加jar包操作指导
JDBCServer是一个JDBC接口,用户可以通过JDBC连接JDBCServer来访问SparkSQL的数据。 如果客户需要使用额外的jar包来执行sql语句(例如:自定义UDF)则需要将jar包传递给JDBCServer。本文主要介绍如何上传jar包给JDBCServer。
EI企业智能
MapReduce服务 MRS
泽及天下不为仁
2021-05-28 11:45:49
8832
0
0
2021-05-28 11:45:49
999+
0
0
处理MRS-spark jar包冲突小技巧
Spark能对接很多的三方工具,因此在使用过程中经常会依赖一堆的三方包。而有一些包MRS已经自带,这样就有可能造成代码使用的jar包版本和集群自带的jar包版本不一致,在使用过程中就有可能出现jar包冲突的情况。
JAR
MapReduce服务 MRS
spark
泽及天下不为仁
2021-04-17 16:21:59
10153
0
0
2021-04-17 16:21:59
999+
0
0
MRS配置yarn用户隔离
使用yarn运行任务,有时候需要配置不同用户之间的权限隔离。本文档主要指导如何配置MRS集群不同用户之间的yarn任务隔离。
EI企业智能
MapReduce
MapReduce服务 MRS
Yarn
泽及天下不为仁
2021-03-29 14:41:36
8398
0
0
2021-03-29 14:41:36
999+
0
0
MRS HADOOP/SPARK 代码访问OBS方式介绍
MRS HADOOP/SPARK 代码访问OBS方式介绍1 背景描述:MRS样例代码没有介绍如何访问OBS,在默认情况下使用的文件系统都是HDFS;如果访问OBS需要添加一些配置,代码使用过程中也有一些需要注意的地方2 配置OBS相关参数:需要在客户端配置文件core-site.xml里面添加以下参数:<property> <name>fs.obs.access.k...
EI企业智能
Hadoop
mrs
泽及天下不为仁
2020-07-08 16:50:34
11344
1
0
2020-07-08 16:50:34
999+
1
0
yarn资源分配常见问题解析
yarn还有资源,为什么我任务启动更多的container; yarn队列资源为什么能使用到200%,超过限制使用值; yarn还有资源,但是提交任务一直处于Pending状态;
EI企业智能
Yarn
mrs
泽及天下不为仁
2020-07-08 16:17:02
14357
1
1
2020-07-08 16:17:02
999+
1
1
https://www.baidu.com/s?ie=utf-8&f=3&rsv_bp=0&rsv_idx=1&tn=baidu&wd=sed%20%E6%9B%BF%E6%8D%A2%E5%AD%97%E7%AC%A6%E4%B8%B2&rsv_pq=c7db61a600035dc5&rsv_t=5e19yEsbV9N5fIvdlGRU
+ 关注