三、Isomap

  1. Isomap类是scikit-learn提供的Isomap模型，其原型为：

    1. class sklearn.manifold.Isomap(n_neighbors=5, n_components=2, eigen_solver='auto',
    3. tol=0, max_iter=None, path_method='auto', neighbors_algorithm='auto')

    • n_neighbors：一个整数，指定近邻参数 三、Isomap - 图1 。

    • n_components：一个整数，指定降维后的维数。

    • eigen_solver：一个字符串，指定求解特征值的算法，可以为：

      • 'auto'：由算法自动选取。
      • 'arpack'：使用 Arnoldi分解算法。
      • 'dense'：使用一个直接求解特征值的算法（如LAPACK）。

    • tol：一个浮点数，指定求解特征值算法的收敛阈值（当eigen_solver='dense'时，该参数无用）。

    • max_iter：一个浮点数，指定求解特征值算法的最大迭代次数（当eigen_solver='dense'时，该参数无用）。

    • path_method：一个字符串，指定寻找最短路径算法。可以为：

      • 'auto'：由算法自动选取。
      • 'FW'：使用Floyd_Warshall算法。
      • 'D'：使用Dijkstra算法。

    • neighbors_algorithm：一字符串，指定计算最近邻的算法。可以为：

      • 'ball_tree'：使用 BallTree算法。
      • 'kd_tree：使用 KDTree算法。
      • 'brute'：使用暴力搜索法。
      • 'auto'：自动决定最合适的算法。

  2. 属性：

    • embedding_：给出了原始数据集在低维空间中的嵌入矩阵。
    • training_data_：存储了原始训练数据。
    • dist_matrix_：存储了原始训练数据的距离矩阵。

  3. 方法：

    • fit(X[, y])：训练模型。
    • transform(X)：执行降维，返回降维后的样本集。
    • fit_transform(X[, y])：训练模型并执行降维，返回降维后的样本集。
    • reconstruction_error()：计算重构误差。

  4. 示例：鸢尾花数据集分别降低到4、3、2、1 维时，重构误差分别为：

    1. reconstruction_error(n_components=4) : 1.00971800681
    3. reconstruction_error(n_components=3) : 1.01828451463
    5. reconstruction_error(n_components=2) : 1.02769837643
    7. reconstruction_error(n_components=1) : 1.07166427632

    该指标并不能用于判定降维的效果的好坏，它只是一个中性指标。

    不同的k 降维到2维后的样本的分布图如下所示。可以看到 k=1 时，近邻范围过小，此时发生断路现象。本应该相连的区域限制被认定为不相连。

    Isomap_k

    不同的k 降维到1维后的样本的分布图如下所示。

    Isomap_k_d1