【Python 機械学習】特徴量重要度に関してまとめ(feature_importances_・eli5)

モデルを構築して予測して、はい終わり。ではなく、きちんとどの要素がどれくらい結果に寄与しているのかを説明できた方がよいかと思います。

そんな時に、モデルに利用した特徴量の重要度を算出する方法を知っておくと便利です。

というわけで、重要度算出方法として、ツリー系アルゴリズムのfeature_importances_とeli5について書いていこうと思います。

 

今回利用するデータセット

アヤメの分類のデータセットを使います。

▼データセットについて

“setosa”, “versicolor”, “virginica” という 3 種類の品種のアヤメのがく片 (Sepal)、花弁 (Petal) の幅および長さを計測したデータです。

データセットの詳細

レコード数 150
カラム数 4
主な用途 分類 (Classification)
データセットの詳細 UCI Machine Learning Repository: Iris Data Set

各カラムの構成

sepal length (cm) がく片の長さ
sepal width (cm) がく片の幅
petal length (cm) 花弁の長さ
petal width (cm) 花弁の幅

3種の品種を機械学習で分類した際に、どの特徴量(花弁の長さ、等)がその分類に寄与しているのかどうかを数字で見えるようにしよう、というのが今回の趣旨です。

 

ツリー系アルゴリズムのfeature_importances_属性を使う

 

決定木ベースのアルゴリズムには、scikit-learnでfeature_importances_属性が備わっており、これにより特徴量ごとの重要度がわかります。

試しに、decisiontree, randomforest, xgboostの3つでやってみます。

、、の前にデータを訓練用と検証用に分割します。

 

モデルを構築して、精度を見ておきます。

3つのモデルで同じ予測精度が出ました。

ではそれぞれでどのように特徴量を評価しているかをみてみます。

この結果を見る限りですと、sepal length , sepal widthは分類にほとんど寄与していないようです。

一方で、petal length とpetal widthに関しては、モデルごとに扱い方が変わっていて、決定木ではpetal widthを非常に重要視していることがわかります。

 

Permutaion Importancesを使う

 

ツリー系アルゴリズム以外の場合にも重要度評価したい、という場合にPermutation Importanceというものが使えるようです。(ツリー系アルゴリズムでも使えます。)

これは、

学習済みのモデルに対し、ある一つの系列が有用でない状態の評価データに対しての予測や分類を各系列に対して行わせ、その際の精度の減少の様子から特徴量の重要度を評価する手法

https://bunseki-train.com/permutation_importance_and_eli5_1/

だそうです。

詳細は以下のブログで丁寧に解説されています。

https://bunseki-train.com/permutation_importance_and_eli5_1/

https://bunseki-train.com/permutation_importance_and_eli5_2/

今回は先ほどみたfeature_importances_での重要度評価と、permutation importancesによる重要度評価を見比べてみたいと思います。

 

はじめに、

でeli5をインストールしておきましょう。

 

決定木で比べてみる

※X_train,y_trainを用いて決定木モデルを作った前提で進みます。

と、このようになりました。

feature_importances_での重要度評価は、

こうですので、きちんとpetal widthの評価が最も高くなっていますが、細かく見るとsepal系の特徴量が0になっていたり違いがありますね。

どの要素がもっとも寄与しているか、なんて見方をするのにはよさそうです。

 

XGBoost

同様にXGBoostでも見てみます。

XGBでも特徴量の重要度の順位はfeature_importances_でみたときと同じになっています。

ただ、eli5ではpetal widthとpetal lengthの重要度の乖離が大きく見えます。

やはり順位に着目して結果を見るのがよさそうです。

 

※show_predictionで行ごとの予測も見られる

モデル全体での重要度はexplain_weightsで先ほどのように見ることができましたが、eli5では1行ごとの予測での特徴量の重要度も見ることができます。

現在テストデータの1番目のアヤメは、以下のような値を持っています。

これが0,1,2(“setosa”, “versicolor”, “virginica” )のどの分類に属する確率が高いか、というのと、その予測にどの特徴量が寄与しているかをshow_predictionで表示してみましょう。

結果を見ると、テストデータ1番目のアヤメは、0(“setosa”)に分類される確率が98%で、それはpetal lengthの値がほぼ寄与したようです。

ちなみに6番目を見ると、、

13番目のアヤメはこのように。

 

全体だけでなく、行ごとでの重要度が見られるのは楽しいですね。

 

というわけで、モデルの特徴量重要度の見方に関してのまとめでした。

どこぞの自分と同じ機械学習初学者さんの参考になれば幸いです。

最後まで読んでいただきありがとうございました。