怎么关闭spark自动广播参数

关闭Spark的自动广播参数可以通过设置spark.sql.autoBroadcastJoinThreshold参数为一个较大的值或者设置为-1来禁用自动广播。具体的操作步骤如下：

1. 在启动Spark应用程序的时候，可以通过--conf选项来设置spark.sql.autoBroadcastJoinThreshold参数的值。例如：

./bin/spark-submit --conf spark.sql.autoBroadcastJoinThreshold=-1 --class your_main_class your_spark_application.jar

2. 在代码中通过SparkSession对象来设置spark.sql.autoBroadcastJoinThreshold参数的值。例如：

val spark = SparkSession.builder()
  .appName("YourAppName")
  .config("spark.sql.autoBroadcastJoinThreshold", -1)
  .getOrCreate()

通过以上两种方式设置spark.sql.autoBroadcastJoinThreshold参数的值为-1，即可关闭Spark的自动广播参数。

以上就是关于“怎么关闭spark自动广播参数”的相关介绍，筋斗云是国内较早的云主机应用的服务商，拥有10余年行业经验，提供丰富的云服务器、租用服务器等相关产品服务。云服务器资源弹性伸缩，主机vCPU、内存性能强悍、超高I/O速度、故障秒级恢复；电子化备案，提交快速，专业团队7×24小时服务支持！

简单好用、高性价比云服务器租用链接：https://www.jindouyun.cn/product/cvm