次元削減

多数の特徴量（次元）を持つデータを、情報をできるだけ失わずに少数の特徴量で表し直す教師なし学習の手法。主成分分析が代表例で、データの可視化、計算量の削減、過学習の抑制などに使われる。

多数の特徴量（次元）を持つデータを、元の情報をできるだけ保ちながら、より少ない次元のデータに変換すること。計算量の削減、過学習の抑制、2次元や3次元での可視化に役立つ。代表的な手法として主成分分析（PCA）があり、教師なし学習に分類される。

多数の変数が持つ情報を、互いに相関のない少数の合成変数（主成分）に要約する手法。データのばらつき（分散）が最も大きくなる方向を第1主成分とし、それと直交する方向で順に主成分を求め、各主成分が元の情報をどれだけ説明するかを寄与率で表す。次元削減、データの可視化、機械学習の前処理に使われる。

観測された多数の変数の相関関係の背後に、直接は観測できない少数の共通因子（潜在因子）があると考え、その因子を抽出する手法。アンケートの多数の設問から「価格志向」「品質志向」のような消費者の潜在的な意識を見いだす用途に使う。変数を合成して情報を要約する主成分分析とは、因子が変数を生み出すと考える点でモデルの向きが逆になる。

データからパターンや規則を学習し、明示的にプログラムしなくても予測や判断を行えるようにするAIの技術。正解付きのデータで学ぶ教師あり学習、正解なしで構造を見つける教師なし学習、報酬を手がかりに行動を学ぶ強化学習に大別される。学習に使っていない未知のデータに対する性能（汎化性能）が重要で、データの質と量、特徴量の設計、適切な評価が精度を左右する。

正解ラベルのないデータを、特徴の似たもの同士のグループ（クラスタ）に分ける教師なし学習の手法。データを順に併合して樹形図（デンドログラム）を作る階層的手法と、k-means法のようにあらかじめ決めた数のクラスタに分ける非階層的手法がある。顧客のセグメンテーションなどに使い、得られたクラスタの意味は人間が解釈する。

データをあらかじめ決めたk個のクラスタに分ける非階層的クラスタリングの代表的な手法。k個の中心をとり、各データを最も近い中心のクラスタに割り当て、クラスタごとの平均を新しい中心とする処理を、割当てが変わらなくなるまで繰り返す。kを事前に決める必要があり（エルボー法などで検討）、結果が初期値に左右されるので、初期の中心を離して選ぶk-means++などを使う。

特徴量の次元が増えると、データが空間内でまばらになり、同じ密度でデータを集めるのに必要なデータ量が次元に対して指数的に増えるなど、学習や分析が急に難しくなる現象。点どうしの距離の差が小さくなって距離に基づく手法が効きにくくなり、過学習も起きやすい。次元削減や特徴選択で対処する。