如何替换DataFrame列中的空值?
问题描述：
如何替换DataFrame df的列Field1中的空值?
How can I replace empty values in a column Field1 of DataFrame df?
Field1 Field2
AA
12 BB
此命令未提供预期结果:
This command does not provide an expected result:
df.na.fill("Field1",Seq("Anonymous"))
预期结果:
Field1 Field2
Anonymous AA
12 BB
答
填充:返回一个新的DataFrame来替换其中的null或NaN值 具有值的数字列.
Fill: Returns a new DataFrame that replaces null or NaN values in numeric columns with value.
两件事:
- 一个空字符串不为null或NaN，因此您必须为此使用case语句.
- 在数字列中输入文本值时，填充似乎效果不佳.
失败，将Null替换为填充/文本:
scala> a.show
+----+---+
| f1| f2|
+----+---+
|null| AA|
| 12| BB|
+----+---+
scala> a.na.fill("Anonymous", Seq("f1")).show
+----+---+
| f1| f2|
+----+---+
|null| AA|
| 12| BB|
+----+---+
工作示例-对所有数字使用空值:
scala> a.show
+----+---+
| f1| f2|
+----+---+
|null| AA|
| 12| BB|
+----+---+
scala> a.na.fill(1, Seq("f1")).show
+---+---+
| f1| f2|
+---+---+
| 1| AA|
| 12| BB|
+---+---+
失败示例(空字符串而不是空):
scala> b.show
+---+---+
| f1| f2|
+---+---+
| | AA|
| 12| BB|
+---+---+
scala> b.na.fill(1, Seq("f1")).show
+---+---+
| f1| f2|
+---+---+
| | AA|
| 12| BB|
+---+---+
案例声明修复示例:
scala> b.show
+---+---+
| f1| f2|
+---+---+
| | AA|
| 12| BB|
+---+---+
scala> b.select(when(col("f1") === "", "Anonymous").otherwise(col("f1")).as("f1"), col("f2")).show
+---------+---+
| f1| f2|
+---------+---+
|Anonymous| AA|
| 12| BB|
+---------+---+