习题 18:RDD 分区操作
题目:创建 2 分区的 RDD,使用 repartition 改为 3 分区,查看分区数。
import org.apache.spark.{SparkConf, SparkContext}
object TestPartition {
def main(args: Array[String]): Unit = {
val conf = new SparkConf().setAppName("testpartition").setMaster("local[*]")
val sc = new SparkContext(conf)
val a = Array(1, 2, 3, 4, 5, 6, 7, 8)
val rdd = sc.parallelize(a, 2)
println(rdd.getNumPartitions) // 2
val rdd2 = rdd.repartition(3)
println(rdd2.getNumPartitions) // 3
}
}