Spark 调优

 

1.对多次使用的RDD进行持久化

 

 

2.使用高性能的算子

 

 

3.广播大变量

 

 

4.使用kryo优化序列化性能

 

 

5.优化数据结构

 

 

6.使用高性能的库fastutil

 

 

 

 

数据本地性

 

 

 

jvm调优

 

 

shuffle调优

 

 

调节Executor堆外内存

 

 

 

 

数据倾斜

1.数据分布不均；2.有shuffle

解决方案

1.使用Hive ETL预处理数据

 

 

2.过滤少数导致倾斜的key

 

 

3.提高shuffle操作的并行度

 

 

4.双重聚合

 

 

5.将reduce join 转为map join

 

 

6.采样倾斜key并拆分join操作

 

 

7.使用随机前缀和扩容RDD进行join

 

原文地址：http://www.cnblogs.com/wqy1027/p/16855861.html

1. 本站所有资源来源于用户上传和网络，如有侵权请邮件联系站长！ 2. 分享目的仅供大家学习和交流，请务用于商业用途! 3. 如果你也有好源码或者教程，可以到用户中心发布，分享有积分奖励和额外收入！ 4. 本站提供的源码、模板、插件等等其他资源，都不包含技术服务请大家谅解！ 5. 如有链接无法下载、失效或广告，请联系管理员处理！ 6. 本站资源售价只是赞助，收取费用仅维持本站的日常运营所需！ 7. 如遇到加密压缩包，默认解压密码为"gltf",如遇到无法解压的请联系管理员！ 8. 因为资源和程序源码均为可复制品，所以不支持任何理由的退款兑现，请斟酌后支付下载 声明：如果标题没有注明"已测试"或者"测试可用"等字样的资源源码均未经过站长测试.特别注意没有标注的源码不保证任何可用性