主成分分析(Principal Components)

主成分分析(PCA)は、相関のある多数の変数を、主成分と呼ばれる、より少数の無相関な変数にまとめる多変量統計手法です。各成分は元のデータセットの全変動の一部を捉え、第1成分が最も多くの変動を説明し、後続の成分ほど説明する変動が少なくなります。

最終レビュー

重要なポイント

主成分分析(PCA)は、相関のある多数の変数を、主成分と呼ばれる、より少数の無相関な変数にまとめる多変量統計手法です。

このページの内容
  1. 主成分分析とは
  2. 主成分分析を使用する場面
  3. 主成分分析を正しく使用するためのガイドライン
  4. 代替手法:主成分分析を使用すべきでない場合
  5. 主成分分析の例
  6. 主成分分析の実行方法

主成分分析とは

主成分分析(PCA)は、相関のある多数の変数を、主成分と呼ばれる、より少数の無相関な変数にまとめる多変量統計手法です。各成分は元のデータセットの全変動の一部を捉え、第1成分が最も多くの変動を説明し、後続の成分ほど説明する変動が少なくなります。

PCAはデータを捨てるのではなく、元の変数を、各軸が変動が最大となる方向に沿った新しい座標系へと数学的に変換します。これにより、複雑で高次元のデータセットを単純にしつつ、その中の最も意味のあるパターンを保てます。

簡単な定義:相関のある多数の変数を、変動の大半をまとめて捉える少数の主要な成分に圧縮する手法で、最も重要なパターンを保ちながら複雑さを減らします。

用語

意味

主成分(Principal Component)

元の変数の重み付きの組み合わせである新しい変数で、特定の方向の変動を捉えます

固有値(Eigenvalue)

各主成分が全変動のどれだけを説明するかを示します

スクリープロット(Scree Plot)

固有値を降順に並べたグラフで、保持する成分の数を決めるために使用します

負荷量(Loadings)

各元の変数が主成分に寄与する度合い(重み)

得点(Scores)

新しい主成分の空間における各観測値の座標

主成分分析を使用する場面

  • 重要な情報を失わずに管理しやすい数まで減らしたい、相関のある多数の変数 がある場合に使用します。
  • データセットにおいて、どの変数が最も大きな変動をもたらしているかを特定する ために使用します。
  • 最初の2つまたは3つの成分をプロットして、2次元または3次元で 多変量データを可視化 するために使用します。
  • 多重共線性を取り除くための、回帰やクラスタリングの前処理 として使用します。
  • 多くの変数を同時に測定する、品質工学、工程監視、センサーデータの分析 で使用します。

主成分分析を正しく使用するためのガイドライン

  • すべての入力変数は 連続的  である必要があります。PCAはカテゴリー変数には適していません。
  • 変数を標準化(平均 = 0、SD = 1)してください。尺度が異なる場合 は特に重要です。標準化しないと、数値の範囲が大きい変数が成分を支配します。
  • 保持する成分の数は、スクリープロットと固有値 で判断します。一般的な目安は、固有値が1より大きい成分を残すことです。
  • 成分は 負荷量  を用いて解釈します。負荷量が高いほど、元のどの変数がその成分と最も強く関連しているかを示します。
  • PCAが特定するのは パターンと構造 であり、因果関係は説明しません。成分の意味を解釈するには、専門分野の知識が不可欠です。
  • 成分を安定して推定するため、変数の数の少なくとも5〜10倍のサンプルサイズ を目指してください。

代替手法:主成分分析を使用すべきでない場合

  • 目的が 特定の応答変数を予測することである場合は、代わりに 偏最小二乗(PLS)または回帰分析 を使用してください。PCAは応答変数を使用しません。
  • 変数同士の 相関が非常に低い場合、PCAでは意味のある次元削減が得られません。元の変数を直接扱ってください。

主成分分析の例

ある銀行は、融資の申込者から、収入、学歴、年齢、現住所での居住期間、現在の雇用主のもとでの勤続期間、貯蓄、負債、クレジットカードの枚数という8つの情報を求めています。銀行の管理者は、このデータを分析して、それらをグループ化して報告する最善の方法を判断したいと考えています。管理者は30人の融資申込者についてこの情報を収集します。手順は次のとおりです。

  1. 必要なデータを収集します。
Principal Components — figure 1
  1. 次に、Zometric Statistical Softwareでデータを分析します(https://statsai.zometric.com/)。
  2.  Principal Componentsを実行するには、Statistical module> Multivariate > Principal Componentsを選択します。
  3.  ツール内で、データとその他の入力を次のように入力します。
Principal Components — figure 2

5. 上記のツールを使用すると、次のような出力が得られます。

Principal Components — figure 3Principal Components — figure 4Principal Components — figure 5Principal Components — figure 6Principal Components — figure 7

主成分分析の実行方法

手順は次のとおりです。

  1. Zometric Statistical Softwareにログインします:https://statsai.zometric.com/
  2. ホーム画面でStatistical Tool> Multivariate >Principal Componentsを選択します。
  3. 次に、データを手動で入力するか、Excelシートからデータ全体をコピー(Ctrl+C)して貼り付けます(Ctrl+V)。
  4. 次に、必要なオプションを入力します。
  5. 最後に、ページ下部のcalculateをクリックすると、目的の結果が得られます。

主成分分析のダッシュボードは、2つの部分に分かれています。

Principal Components — figure 8

左側にはデータペイン(Data Pane)があります。Data Paneでは、各行が1つのサブグループを表します。データは手動で入力するか、Excelシートからデータ全体をコピー(Ctrl+C)して貼り付ける(Ctrl+V)ことができます。

Load example: サンプルデータが読み込まれます。

Load File: Excelのデータを直接読み込むために使用します。

右側には、次のようなオプションが多数あります。

  • Variables: 分析に含める変数の列を選択します。Ctrlキー(Macの場合はCommandキー)を押しながらクリックすると、複数の列を選択できます。選択する各列は、収入、年齢、負債、貯蓄などの 連続的な数値変数  である必要があります。これらの変数同士の相関が高いほど、PCAはそれらを意味のある成分へ効果的に減らせます。
  • Type of Matrix:  主成分の計算にどの数学的基礎を使用するかを定義します。通常、2つのオプションがあります。
    • Correlation Matrix — 成分を計算する前に、すべての変数を同じ尺度(平均 = 0、標準偏差 = 1)に標準化します。変数が異なる単位で、または大きく異なる数値の尺度で測定されている場合(例:千単位の収入と年単位の年齢)の 推奨される既定値 です。標準化しないと、範囲が大きい変数が、真の重要性ではなく単にその尺度のために成分を支配してしまいます。
    • Covariance Matrix — 標準化せずに、元の変数の生の分散と共分散を使用します。すべての変数がすでに 同じ尺度と単位  である場合にのみ適切です。そうでないと、尺度の大きい変数が結果を圧倒します。
  • Mahalanobis Distances: 有効にすると、各観測値のマハラノビス距離を計算します。これは、変数間の相関を考慮して、各データ点が多変量分布の中心からどれだけ離れているかを示す統計的な尺度です。標準的な距離の尺度とは異なり、マハラノビス距離はデータの雲の形状と広がりを調整します。主に 多変量の外れ値の特定  に使用されます。個別に調べると正常に見えても、すべての変数を同時に考慮すると異常に見える観測値です。
  • Scree Plot: グラフを作成します。ここには 各主成分の固有値が降順にプロットされます。スクリープロットは、保持する成分の数を決めるための主要なツールです。線が急に曲がって平らになる点(エルボーと呼ばれます)を探し、その点より上の成分を保持します。一般的な目安は、固有値が1より大きい成分を残すことです。これらは、元の1つの変数より多くの分散を説明するためです。
  • Outlier Plot: 主成分空間における 異常な観測値 を視覚的に特定しやすくする散布図を表示します。成分スコアやマハラノビス距離の点で、観測値の主な集まりから遠く離れた点は、多変量の外れ値の候補としてフラグ付けされます。これらの外れ値は成分を歪めることがあるため、分析から結論を導く前に、特定して調査することが重要です。
  • Loading Plot: 視覚的な表示を作成します。表示されるのは、元の各変数の主成分に対する負荷量です。各変数はベクトルで表され、ベクトルの向きと長さが、その変数が各成分にどれだけ強く、どの方向に寄与するかを示します。長いベクトルが同じ方向を向いている変数は正の相関があり、反対方向を向いている変数は負の相関があります。負荷量プロットは、元の変数の観点から、各主成分が実際に何を表しているかを解釈する ために不可欠です。
  • Download as Excel: 成分スコア、負荷量、固有値、説明される分散を含む、PCAの完全な結果を、Excelファイルにエクスポートします。

よくある質問

主成分分析とは何ですか?

主成分分析(PCA)は、相関のある多数の変数を、主成分と呼ばれる、より少数の無相関な変数にまとめる多変量手法です。第1成分が最も多くの変動を説明し、後続の成分ほど説明する変動が少なくなります。PCAはデータを捨てるのではなく、変数を、変動が最大となる方向に沿った新しい座標系へと変換します。

主成分は、いくつ保持すればよいですか?

スクリープロットと固有値を使用します。スクリープロットは各成分の固有値を降順に示します。線が急に曲がって平らになる点であるエルボーを探し、それより上の成分を保持します。一般的な目安は、固有値が1より大きい成分を残すことです。これらは、元の1つの変数より多くの分散を説明するためです。

PCAでは、相関行列と共分散行列のどちらを使うべきですか?

変数が異なる単位や大きく異なる尺度で測定されている場合は、各変数を平均0、標準偏差1に標準化する相関行列(推奨される既定値)を使用します。標準化しないと、範囲が大きい変数が成分を支配します。共分散行列は、すべての変数がすでに同じ尺度と単位である場合にのみ適切です。

PCAを使用すべきでないのは、どのような場合ですか?

PCAは応答変数を使用しないため、特定の応答を予測することが目的の場合は、代わりに偏最小二乗法または回帰分析を使用します。変数同士の相関が非常に低い場合、PCAでは意味のある次元削減が得られません。すべての入力変数は連続的である必要があり、変数の数の少なくとも5〜10倍のサンプルが推奨されます。