特徵選擇/範例二: Recursive feature elimination

http://scikit-learn.org/stable/auto_examples/feature_selection/plot_rfe_digits.html

本範例主要目的是減少特徵數量來提升機器學習之預測準確度。
主要方法是去不斷去剔除與資料分類關係轉少之特徵，來篩選特徵數目至指定數目。

  1. 以load_digits取得內建的數字辨識資料
  2. 以RFE疊代方式刪去相對不具有目標影響力的特徵.

(一)產生內建的數字辨識資料

  1. # Load the digits dataset
  2. digits = load_digits()
  3. X = digits.images.reshape((len(digits.images), -1))
  4. y = digits.target

數位數字資料是解析度為8*8的手寫數字影像，總共有1797筆資料。預設為0~9十種數字類型，亦可由n_class來設定要取得多少種數字類型。

輸出的資料包含

  1. ‘data’, 特徵資料(1797*64)
  2. ‘images’, 影像資料(1797*8*8)
  3. ‘target’, 資料標籤(1797)
  4. ‘target_names’, 選取出的標籤列表(與n_class給定的長度一樣)
  5. ‘DESCR’, 此資料庫的描述

可以參考Classification的Ex1

(二)以疊代方式計算模型

RFE以排除最不具目標影響力的特徵，做特徵的影響力排序。並且將訓練用的特徵挑選至n_features_to_select所給定的特徵數。因為要看每一個特徵的影響力排序，所以我們將n_features_to_select設定為1，一般會根據你所知道的具有影響力特徵數目來設定該參數。而step代表每次刪除較不具影響力的特徵數目，因為本範例要觀察每個特徵的影響力排序，所以也是設定為1。若在實際應用時，特徵的數目較大，可以考慮將step的參數設高一點。

  1. # Create the RFE object and rank each pixel
  2. svc = SVC(kernel="linear", C=1)
  3. rfe = RFE(estimator=svc, n_features_to_select=1, step=1)
  4. rfe.fit(X, y)
  5. ranking = rfe.ranking_.reshape(digits.images[0].shape)

可以用方法ranking_來看輸入的特徵權重關係。而方法estimator_可以取得訓練好的分類機狀態。比較特別的是當我們核函數是以線性來做分類時，estimator_下的方法coef_即為特徵的分類權重矩陣。權重矩陣的大小會因為n_features_to_select與資料的分類類別而改變，譬如本範例是十個數字的分類，並選擇以一個特徵來做分類訓練，就會得到45*1的係數矩陣，其中45是從分類類別所需要的判斷式而來，與巴斯卡三角形的第三層數正比。

(三)畫出每個像素所對應的權重順序

取得每個像素位置對於判斷數字的權重順序後，我們把權重順序依照顏色畫在對應的位置，數值愈大代表該像素是較不重要之特徵。由結果來看，不重要之特徵多半位於影像之外圍部份。而所有的訓練影像中，外圍像素多半為空白，因此較不重要。

  1. # Plot pixel ranking
  2. plt.matshow(ranking, cmap=plt.cm.Blues)
  3. plt.colorbar()
  4. plt.title("Ranking of pixels with RFE")
  5. plt.show()

png

(四)原始碼

Python source code: plot_rfe_digits.py

  1. print(__doc__)
  3. from sklearn.svm import SVC
  4. from sklearn.datasets import load_digits
  5. from sklearn.feature_selection import RFE
  6. import matplotlib.pyplot as plt
  8. # Load the digits dataset
  9. digits = load_digits()
  10. X = digits.images.reshape((len(digits.images), -1))
  11. y = digits.target
  13. # Create the RFE object and rank each pixel
  14. svc = SVC(kernel="linear", C=1)
  15. rfe = RFE(estimator=svc, n_features_to_select=1, step=1)
  16. rfe.fit(X, y)
  17. ranking = rfe.ranking_.reshape(digits.images[0].shape)
  19. # Plot pixel ranking
  20. plt.matshow(ranking, cmap=plt.cm.Blues)
  21. plt.colorbar()
  22. plt.title("Ranking of pixels with RFE")
  23. plt.show()