功能介绍

主成分分析，是考察多个变量间相关性一种多元统计方法，研究如何通过少数几个主成分来揭示多个变量间的内部结构，即从原始变量中导出少数几个主成分，使它们尽可能多地保留原始变量的信息，且彼此间互不相关，作为新的综合指标。详细介绍请见维基百科链接wiki。

参数说明

名称 中文名称 描述 类型 是否必须？ 默认值
k 降维后的维度 降维后的维度 Integer ✓
calculationType 计算类型 计算类型，包含”CORR”, “COV_SAMPLE”, “COVAR_POP”三种。 String “CORR”
transformType 转移矩阵类型 转移矩阵类型，包含两种方式’SIMPLE’和’SUBMEAN’，’SIMPLE’是数据模型，’SUBMEAN’是(数据 - 均值) 模型。 String “SIMPLE”
selectedCols 选中的列名数组 计算列对应的列名列表 String[] null
vectorCol 向量列名 向量列对应的列名，默认值是null String null
withMean 是否使用均值 是否使用均值，默认使用 Boolean true
withStd 是否使用标准差 是否使用标准差，默认使用 Boolean true
reservedCols 算法保留列名 算法保留列 String[] null
predictionCol 预测结果列名 预测结果列名 String ✓
vectorCol 向量列名 向量列对应的列名，默认值是null String null

脚本示例

脚本

  1. data = np.array([
  2.         [0.0,0.0,0.0],
  3.         [0.1,0.2,0.1],
  4.         [0.2,0.2,0.8],
  5.         [9.0,9.5,9.7],
  6.         [9.1,9.1,9.6],
  7.         [9.2,9.3,9.9]
  8. ])
  10. df = pd.DataFrame({"x1": data[:, 0], "x2": data[:, 1], "x3": data[:, 2]})
  12. # batch source 
  13. inOp = dataframeToOperator(df, schemaStr='x1 double, x2 double, x3 double', op_type='batch')
  15. pca = PCA()\
  16.        .setK(2)\
  17.        .setSelectedCols(["x1","x2","x3"])\
  18.        .setPredictionCol("pred")
  20. # train
  21. model = pca.fit(inOp)
  23. # batch predict
  24. model.transform(inOp).print()
  26. # stream predict
  27. inStreamOp = dataframeToOperator(df, schemaStr='x1 double, x2 double, x3 double', op_type='stream')
  29. model.transform(inStreamOp).print()
  31. StreamOperator.execute()

结果

x1 x2 x3 pred
9.0 9.5 9.7 3.2280384305400736,1.1516225426477789E-4
0.2 0.2 0.8 0.13565076707329407,0.09003329494282108
9.2 9.3 9.9 3.250783163664603,0.0456526246528135
9.1 9.1 9.6 3.182618319978973,0.027469531992220464
0.1 0.2 0.1 0.045855205015063565,-0.012182917696915518
0.0 0.0 0.0 0.0,0.0