阅读量:147
在pyspark中读取HDFS数据可以通过以下步骤实现:
- 首先,导入必要的模块:
from pyspark.sql import SparkSession
- 创建一个SparkSession对象:
spark = SparkSession.builder \
.appName("Read HDFS Data") \
.getOrCreate()
- 使用SparkSession对象的read方法读取HDFS数据:
df = spark.read.csv("hdfs://:/path/to/file.csv" )
其中,"hdfs://
通过以上步骤,就可以在pyspark中读取HDFS数据了。
df.printSchema()
df.show()
spark.stop()