网站介绍:文章浏览阅读418次。问题场景:在使用spark sql 增加where条件过滤时,会出现打印很多的被过滤掉的记录(几十万条),导致跑spark sql 特别慢!var df2 = sqc.sql("SELECT * FROM T_COMMISIONRATEDEF WHERE T_INSURANCETYPE = '630' ORDER BY T_INSURANCETYPE DESC " )执行时,打印截图:解决方法:设..._spark logger
- 链接地址:https://blog.csdn.net/weixin_39998521/article/details/111908751
- 链接标题:spark代码中添加logger_JAVA代码如何设置SPARK的日志打印级别-CSDN博客
- 所属网站:blog.csdn.net
- 被收藏次数:8772
- 网站标签:spark logger