LightGBM FAQ 常见问题解答

内容

关键问题

在使用 LightGBM 遇到坑爹的问题时（程序奔溃，预测结果错误，无意义输出…）,你应该联系谁？

如果你的问题不是那么紧急，可以把问题放到 Microsoft/LightGBM repository.

如果你的问题急需要解决，首先要明确你有哪些错误:

  • 你认为问题会不会复现在 CLI（命令行接口），R 或者 Python上 ？
  • 还是只会在某个特定的包（R 或者 Python）上出现?
  • 还是会在某个特定的编译器（gcc 或者 MinGW）上出现？
  • 还是会在某个特定的操作系统（Windows 或者 Linux）上出现？
  • 你能用一个简单的例子复现这些问题吗？
  • 你能（或者不能）在去掉所有的优化信息和在 debug 模式下编译 LightGBM 时复现这些问题吗？

当出现问题的时候，根据上述答案，随时可以@我们（不同的问题可以@不同的人，下面是各种不同类型问题的负责人），这样我们就能更快地帮助你解决问题。

记住这是一个免费的/开放的社区支持，我们可能不能做到全天候的提供帮助.

LightGBM

  • 问题 1：我可以去哪里找到关于LightGBM参数的更多详细内容？
  • 方法 1：可以看一下这个 Parameters and Laurae++/Parameters 网站。
  • 问题 2：在一个有百万个特征的数据集中，（要在很长一段时间后才开始训练或者）训练根本没有开始。
  • 方法 2：对 bin_construct_sample_cnt 用一个较小的值和对 min_data 用一个较大的值。
  • 问题 3：当在一个很大的数据集上使用LightGBM，我的电脑会耗尽内存。
  • 方法 3：很多方法啊：将 histogram_pool_size 参数设置成你想为LightGBM分配的MB(histogram_pool_size + dataset size = approximately RAM used), 减少 num_leaves 或减少 max_bin （点这里 Microsoft/LightGBM#562）。
  • 问题 4：我使用Windows系统。我应该使用Visual Studio或者MinGW编译LightGBM吗？
  • 方法 4：推荐使用 Visual Studio，因为它的性能更好。
  • 问题 5：当使用LightGBM，我每次运行得到的结果都不同（结果不能复现）。
  • 方法 5：这是一个很正常的问题，我们/你也无能为力。 你可以试试使用 gpu_use_dp = true 来复现结果（点这里 Microsoft/LightGBM#560）。 你也可以使用CPU的版本试试。
  • 问题 6：Bagging在改变线程的数量时，是不能复现的。
  • 方法 6：由于LightGBM Bagging是多线程运行的，它的输出依赖于使用线程的数量。 There is no workaround currently。
  • 问题 7：我试过使用随机森林模式，LightGBM崩溃啦！
  • 方法 7：这是设计的问题。 你必须使用 bagging_fraction 和 feature_fraction 与1不同，要和 bagging_freq 结合使用。 看这个例子 this thread。
  • 问题 8：当在一个很大的数据集上和很多核心系统使用LightGBMWindows系统时，CPU不是满负荷运行（例如只使用了10%的CPU）。
  • 方法 8：请使用 Visual Studio， 因为Visual Studio可能 10x faster than MinGW，尤其是在很大的树上。

R 包

  • 问题 1：在训练先前的LightGBM模型时一个错误出现后，任何使用LightGBM的训练命令都不会起作用。
  • 方法 1：在R控制台中运行 lgb.unloader(wipe = TRUE)，再重新创建LightGBM数据集（这会消除所有与LightGBM相关的变量）。 由于这些指针，选择不去消除这些变量不会修复这些错误。 这是一个已知的问题: Microsoft/LightGBM#698。
  • 问题 2：我使用过 setinfo ,试过打印我的 lgb.Dataset ,结果R控制台无响应。
  • 方法 2：在使用 setinfo 后避免打印 lgb.Dataset. 这是一个已知的bug：Microsoft/LightGBM#539。

Python 包

  • 问题 1：当从GitHub使用 python setup.py install 安装，我看到如下错误信息。

    1. error：错误：安装脚本指定绝对路径：
    2. /Users/Microsoft/LightGBM/python-package/lightgbm/../../lib_lightgbm.so
    3. setup()参数必须 *一直* 是/-分离路径相对于setup.py目录， *从不* 是绝对路径。

  • 方法 1：这个错误在新版本中应该会被解决。 如果你还会遇到这个问题，试着在你的Python包中去掉 lightgbm.egg-info 文件夹，再重装一下， 或者对照一下这个 this thread on stackoverflow。

  • 问题 2：我看到错误信息如下

    1. 在构建数据集前不能 get/set label/weight/init_score/group/num_data/num_feature。

    但是我已经使用下面的代码构建数据集

    1. train = lightgbm.Dataset(X_train, y_train)

    或如下错误信息

    1. 在释放原始数据后，不能设置predictor/reference/categorical特征。可以在创建数据集时设置free_raw_data=False避免上面的问题。

  • 方法2: 因为LightGBM创建bin mappers来构建树，在一个Booster内的train和valid数据集共享同一个bin mappers，类别特征和特征名等信息，数据集对象在创建Booster时候被创建。 如果你设置 free_raw_data=True (默认)，原始数据（在Python数据结构中的）将会被释放。 所以，如果你想要：

    • 在创建数据集前get label(or weight/init_score/group)，这和get self.label 操作相同。
    • 在创建数据集前set label(or weight/init_score/group)，这和 self.label=some_label_array 操作相同。
    • 在创建数据集前get num_data(or num_feature)，你可以使用 self.data 得到数据，然后如果你的数据是 numpy.ndarray，使用一些类似 self.data.shape 的代码。
    • 在构建数据集之后set predictor(or reference/categorical feature)，你应该设置 free_raw_data=False 或使用同样的原始数据初始化数据集对象。