自己教師あり学習

人手で正解ラベルを付けず、データ自身の一部を隠して当てさせるなどして正解を自動生成し学習する方法。ラベル付けの手間なく大量のデータを使えるため、大規模言語モデルの事前学習で中心的に用いられる。

正解ラベルの付いていないデータから、データ自身の一部を隠して残りから当てさせるなどの方法で正解を自動的に作り、教師あり学習の形で学習する手法。文章の次の単語の予測（GPT）や穴埋め（BERT）、同じ画像を加工した組を近づける対比学習がある。人手のラベル付けなしに大量のデータで学習できるので、大規模言語モデルなどの事前学習に使われる。

大量のデータで事前学習済みのモデルを基に、目的の用途や分野のデータを追加で学習させて、モデルのパラメータを調整すること。少ないデータと計算量で用途に適したモデルを作れ、転移学習の代表的な方法である。大規模言語モデルでは、一部のパラメータだけを調整するLoRAなどの効率的な手法も使われる。

教師なし学習の代表的な手法で、正解ラベルのないデータを、特徴の似たもの同士が同じグループ（クラスタ）になるように分けること。k-means法のような非階層的手法と、データを順に併合して樹形図（デンドログラム）を作る階層的手法があり、顧客の分類や異常の発見などに使われる。

多数の特徴量（次元）を持つデータを、元の情報をできるだけ保ちながら、より少ない次元のデータに変換すること。計算量の削減、過学習の抑制、2次元や3次元での可視化に役立つ。代表的な手法として主成分分析（PCA）があり、教師なし学習に分類される。

入力データと、それに対応する正解（ラベル）の組を大量に与えて、入力から正解を予測する規則をモデルに学習させる機械学習の手法。数値を予測する回帰と、カテゴリを予測する分類が代表的で、正解ラベルを付けたデータの準備に手間がかかる。

データをあらかじめ決めたk個のクラスタに分ける非階層的なクラスタリングの手法。k個の中心点を仮に置き、各データを最も近い中心点のクラスタに割り当てては、各クラスタの重心に中心点を移す処理を、変化がなくなるまで繰り返す。kの値と初期の中心点の選び方で結果が変わる。

ある課題で学習済みのモデルが獲得した知識（特徴の抽出方法など）を、関連する別の課題の学習に流用する手法。大量の画像で学習した画像認識のモデルを医療画像の判定に使う例などがあり、新しい課題のデータが少なくても高い精度を得やすい。ファインチューニングはその代表的な実現方法である。