是否有一种有效的方法来计算PySpark2中的GroupedData对象上的方差?
这里是我将如何计算平均值的示例代码,最小值和最大值一个GroupedData对象上,但我不知道如何计算方差:
from pyspark.sql import *
from pyspark.sql.session import SparkSession
spark = SparkSession.builder.getOrCreate()
columns = ['a', 'b']
vals = [('x', 3), ('x', 5), ('y', 1), ('y', 8), ('y', 4), ('z', 5), ('z', 7), ('z', 4), ('z', 9)]
df = spark.createDataFrame(vals, columns)
df.groupBy('a').agg(avg('b'), min('b'), max('b')).show()
数据帧df是这样的:
+---+---+
| a| b|
+---+---+
| x| 3|
| x| 5|
| y| 1|
| y| 8|
| y| 4|
| z| 5|
| z| 7|
| z| 4|
| z| 9|
+---+---+
我想创建一个类似于下面的一个新的数据框,显示方差:
+---+--------+
| a| b_var|
+---+--------+
| x| 1.0000|
| y| 8.2222|
| z| 3.6875|
+---+--------+