支持向量機回歸分析: Property value prediction

此檔案使用scikit-learn 機器學習套件裡的SVR演算法,來達成波士頓房地產價錢預測

(一)引入函式庫及內建波士頓房地產資料庫

引入之函式庫如下

  1. sklearn.datasets: 用來匯入內建之波士頓房地產資料庫
  2. sklearn.SVR: 支持向量機回歸分析之演算法
  3. matplotlib.pyplot: 用來繪製影像
  1. from sklearn import datasets
  2. from sklearn.svm import SVR
  3. import matplotlib.pyplot as plt
  4. boston = datasets.load_boston()
  5. X=boston.data
  6. y = boston.target

使用 datasets.load_boston() 將資料存入至boston
使用datasets.data將士頓房地產資料的數據資料(data)匯入到X
使用datasets.target將士頓房地產資料的預測數值匯入到y
為一個dict型別資料,我們看一下資料的內容。

(二)SVR的使用

sklearn.svm.SVR(kernel=’rbf’, degree=3, gamma=’auto’, coef0=0.0, tol=0.001, C=1.0, epsilon=0.1, shrinking=True, cache_size=200, verbose=False, max_iter=-1)

  1. clf = SVR(kernel='rbf', C=1e3, gamma=0.1)
  2. clf.fit(X, y)

使用clf = SVR(kernel='rbf', C=1e3, gamma=0.1),將SVR演算法引入到clf,並設定SVR演算法的參數。
使用clf.fit(X, y),用波士頓房地產數據(boston.data)以及預測目標(y)來訓練預測機clf

(三)使用joblib.dump匯出預測器

  1. from sklearn.externals import joblib
  2. joblib.dump(clf,"./machine_SVR.pkl")

使用joblib.dump將SVR預測器匯出為pkl檔。

(四)訓練以及分類

接著使用clf=joblib.load("./machine_SVR.pkl")將pkl檔匯入為一個SVR預測器clf。接著使用波士頓房地產數據(boston.data),以及預測目標(y)來訓練預測機clf clf.fit(boston.data, y)。最後,使用predict_y=clf.predict(boston.data[2])預測第三筆資料的價格,並將結果存入predicted_y變數。

  1. clf=joblib.load("./machine_SVR.pkl")
  2. clf.fit(boston.data, y)
  3. predict_y=clf.predict(boston.data[2])

(五)使用score計算準確率

先用predict=clf.predict(X)將所有波士頓房地產數據丟入clf預測機預測,並將所預測出的結果存入predict。接著使用clf.score(X, y)來計算準確率,score=1為最理想情況,本範例中score=0.99988275378631286

  1. predict=clf.predict(X)
  2. clf.score(X, y)

(六)繪出預測結果與實際目標差異圖

X軸為預測結果,Y軸為回歸目標。
並劃出一條斜率=1的理想曲線(用虛線標示)。
紅點為房地產第三項數據的預測結果

因為使用clf的準確率很高,所以預測結果與回歸目標幾乎一樣,scatter的點會幾乎都在理想曲線上。

  1. plt.scatter(predict,y,s=2)
  2. plt.plot(predict_y, predict_y, 'ro')
  3. plt.plot([y.min(), y.max()], [y.min(), y.max()], 'k--', lw=2)
  4. plt.xlabel('Predicted')
  5. plt.ylabel('Measured')

波士頓房地產雲端評估(二) - 图1

(六)完整程式碼

  1. %matplotlib inline
  2. from sklearn import datasets
  3. from sklearn.svm import SVR
  4. import matplotlib.pyplot as plt
  5. boston = datasets.load_boston()
  6. X=boston.data
  7. y = boston.target
  8. clf = SVR(kernel='rbf', C=1e3, gamma=0.1)
  9. clf.fit(X, y)
  10. from sklearn.externals import joblib
  11. joblib.dump(clf,"./machine_SVR.pkl")
  12. clf=joblib.load("./machine_SVR.pkl")
  13. clf.fit(boston.data, y)
  14. predict_y=clf.predict(boston.data[2])
  15. predict=clf.predict(X)
  16. clf.score(X, y)
  17. plt.scatter(predict,y,s=2)
  18. plt.plot(predict_y, predict_y, 'ro')
  19. plt.plot([y.min(), y.max()], [y.min(), y.max()], 'k--', lw=2)
  20. plt.xlabel('Predicted')
  21. plt.ylabel('Measured')