如何在pyspark中更改数据框列名？

我来自pandas背景,习惯于将CSV文件中的数据读入数据帧,然后使用简单命令将列名更改为有用的东西:

df.columns = new_column_name_list

但是,在使用sqlContext创建的pyspark数据帧中,这同样不起作用.我可以轻松解决的唯一解决方案如下:

df = sqlContext.read.format("com.databricks.spark.csv").options(header='false', inferschema='true', delimiter='\t').load("data.txt")
oldSchema = df.schema
for i,k in enumerate(oldSchema.fields):
  k.name = new_column_name_list[i]
df = sqlContext.read.format("com.databricks.spark.csv").options(header='false', delimiter='\t').load("data.txt", schema=oldSchema)

这基本上是定义变量两次并首先推断模式然后重命名列名,然后再次使用更新的模式加载数据帧.

像熊猫一样,有更好更有效的方法吗？

我的火花版是1.5.0

1> Alberto Bons..：

---

有很多方法可以做到这一点:

选项1.使用selectExpr.

data = sqlContext.createDataFrame([("Alberto", 2), ("Dakota", 2)], 
                                  ["Name", "askdaosdka"])
data.show()
data.printSchema()

# Output
#+-------+----------+
#|   Name|askdaosdka|
#+-------+----------+
#|Alberto|         2|
#| Dakota|         2|
#+-------+----------+

#root
# |-- Name: string (nullable = true)
# |-- askdaosdka: long (nullable = true)

df = data.selectExpr("Name as name", "askdaosdka as age")
df.show()
df.printSchema()

# Output
#+-------+---+
#|   name|age|
#+-------+---+
#|Alberto|  2|
#| Dakota|  2|
#+-------+---+

#root
# |-- name: string (nullable = true)
# |-- age: long (nullable = true)

选项2.使用withColumnRenamed,请注意此方法允许您"覆盖"同一列.

oldColumns = data.schema.names
newColumns = ["name", "age"]

df = reduce(lambda data, idx: data.withColumnRenamed(oldColumns[idx], newColumns[idx]), xrange(len(oldColumns)), data)
df.printSchema()
df.show()

选项3.使用 别名,在Scala中您也可以使用as.

from pyspark.sql.functions import col

data = data.select(col("Name").alias("name"), col("askdaosdka").alias("age"))
data.show()

# Output
#+-------+---+
#|   name|age|
#+-------+---+
#|Alberto|  2|
#| Dakota|  2|
#+-------+---+

选项4.使用sqlContext.sql,它允许您在DataFrames已注册的表上使用SQL查询.

sqlContext.registerDataFrameAsTable(data, "myTable")
df2 = sqlContext.sql("SELECT Name AS name, askdaosdka as age from myTable")

df2.show()

# Output
#+-------+---+
#|   name|age|
#+-------+---+
#|Alberto|  2|
#| Dakota|  2|
#+-------+---+

---

@NuValue,你应该首先运行`from functools import reduce`

---

@FelipeGerard请检查[这篇文章]（/sf/ask/17360801/），如果您有很多列，可能会发生不好的事情。

2> 小智..：

---

df = df.withColumnRenamed("colName", "newColName")
       .withColumnRenamed("colName2", "newColName2")

使用这种方式的优点:使用长列列表,您只想更改几个列名称.在这些情况下,这可能非常方便.在连接具有重复列名的表时非常有用.

---

@Quetzalcoatl此命令似乎仅更改指定的列，同时保留所有其他列。因此，一个很棒的命令只重命名了许多列名称中的一个

3> 小智..：

---

如果要更改所有列名称,请尝试 df.toDF(*cols)

---

这个解决方案最接近每个OP的df.columns = new_column_name_list,它的简洁程度和执行方式都是如此.

4> pbahr..：

---

如果您想对所有列名称应用简单转换,此代码可以解决这个问题:(我用下划线替换所有空格)

new_column_name_list= list(map(lambda x: x.replace(" ", "_"), df.columns))

df = df.toDF(*new_column_name_list)

感谢@ user8117731的toDf诀窍.

---

伙计，这个“把戏”救了我的命！万分感谢

5> 小智..：

---

如果要重命名单个列并保持其余列,请执行以下操作:

from pyspark.sql.functions import col
new_df = old_df.select(*[col(s).alias(new_name) if s == column_to_change else s for s in old_df.columns])

6> 小智..：

---

df.withColumnRenamed('age', 'age2')

7> Grant Shanno..：

---

这是我使用的方法：

创建pyspark会话：

import pyspark
from pyspark.sql import SparkSession
spark = SparkSession.builder.appName('changeColNames').getOrCreate()

创建数据框：

df = spark.createDataFrame(data = [('Bob', 5.62,'juice'),  ('Sue',0.85,'milk')], schema = ["Name", "Amount","Item"])

查看具有列名称的df：

df.show()
+----+------+-----+
|Name|Amount| Item|
+----+------+-----+
| Bob|  5.62|juice|
| Sue|  0.85| milk|
+----+------+-----+

用新的列名创建一个列表：

newcolnames = ['NameNew','AmountNew','ItemNew']

更改df的列名：

for c,n in zip(df.columns,newcolnames):
    df=df.withColumnRenamed(c,n)

使用新的列名查看df：

df.show()
+-------+---------+-------+
|NameNew|AmountNew|ItemNew|
+-------+---------+-------+
|    Bob|     5.62|  juice|
|    Sue|     0.85|   milk|
+-------+---------+-------+

8> Manrique..：

---

我提供了一个易于使用的函数来为pyspark数据框重命名多个列，以防有人使用它：

def renameCols(df, old_columns, new_columns):
    for old_col,new_col in zip(old_columns,new_columns):
        df = df.withColumnRenamed(old_col,new_col)
    return df

old_columns = ['old_name1','old_name2']
new_columns = ['new_name1', 'new_name2']
df_renamed = renameCols(df, old_columns, new_columns)

请注意，两个列表的长度必须相同。