one-hot编码组件

算法介绍

one-hot编码，也称独热编码，对于每一个特征，如果它有m个可能值，那么经过 独热编码后，就变成了m个二元特征。并且，这些特征互斥，每次只有一个激活。 因此，数据会变成稀疏的，输出结果也是kv的稀疏结构。

参数说明

名称 中文名称 描述 类型 是否必须？ 默认值
discreteThresholdsArray 离散个数阈值 离散个数阈值，每一列对应数组中一个元素 Integer[]
discreteThresholds 离散个数阈值 离散个数阈值，低于该阈值的离散样本将不会单独成一个组别 Integer Integer.MIN_VALUE
selectedCols 选择的列名 计算列对应的列名列表 String[] ✓

脚本示例

运行脚本

  1. import numpy as np
  2. import pandas as pd
  3. data = np.array([
  4.     [1.1, True, "2", "A"],
  5.     [1.1, False, "2", "B"],
  6.     [1.1, True, "1", "B"],
  7.     [2.2, True, "1", "A"]
  8. ])
  9. df = pd.DataFrame({"double": data[:, 0], "bool": data[:, 1], "number": data[:, 2], "str": data[:, 3]})
  11. inOp1 = BatchOperator.fromDataframe(df, schemaStr='double double, bool boolean, number int, str string')
  12. inOp2 = StreamOperator.fromDataframe(df, schemaStr='double double, bool boolean, number int, str string')
  14. onehot = OneHotTrainBatchOp().setSelectedCols(["double", "bool", "number", "str"]).setDiscreteThresholds(2)
  15. predictBatch = OneHotPredictBatchOp().setSelectedCols(["double", "bool"]).setEncode("ASSEMBLED_VECTOR").setOutputCols(["pred"]).setDropLast(False)
  16. onehot.linkFrom(inOp1)
  17. predictBatch.linkFrom(onehot, inOp1)
  18. [model,predict] = collectToDataframes(onehot, predictBatch)
  19. print(model)
  20. print(predict)
  22. predictStream = OneHotPredictStreamOp(onehot).setSelectedCols(["double", "bool"]).setEncode("ASSEMBLED_VECTOR").setOutputCols(["vec"])
  23. predictStream.linkFrom(inOp2)
  24. predictStream.print(refreshInterval=-1)
  25. StreamOperator.execute()

运行结果

  1.    double   bool  number str            pred
  2. 0     1.1   True       2   A  $6$0:1.0 3:1.0
  3. 1     1.1  False       2   B  $6$0:1.0 5:1.0
  4. 2     1.1   True       1   B  $6$0:1.0 3:1.0
  5. 3     2.2   True       1   A  $6$2:1.0 3:1.0