ファインチューニング

事前学習済みモデルの重みを、特定のタスクに合わせて微調整する手法。少量のデータで効率的に高精度なモデルを構築でき、転移学習の代表的な方法である。

大量のデータで事前学習された既存のモデルに、目的の分野のデータを追加で学習させて調整する手法。一から学習するより少ないデータと計算量で高い精度が得られる。大規模言語モデルの用途特化に広く使われる。

大量のデータで事前学習済みのモデルを基に、目的の用途や分野のデータを追加で学習させて、モデルのパラメータを調整すること。少ないデータと計算量で用途に適したモデルを作れ、転移学習の代表的な方法である。大規模言語モデルでは、一部のパラメータだけを調整するLoRAなどの効率的な手法も使われる。

大量の汎用的なデータでモデルをあらかじめ学習させ、さまざまな課題に共通して役立つ特徴や知識を獲得させること。大規模言語モデルでは、膨大なテキストで次のトークンを予測する自己教師あり学習で行う。事前学習済みのモデル（基盤モデル）を、少量の課題固有のデータでファインチューニングしたり、プロンプトで指示したりして利用する。

ある課題で学習したモデルの知識を、関連する別の課題の学習に流用する手法。例えば大量の画像で学習したCNNの前半の層を特徴抽出器としてそのまま使い、出力に近い層だけを手元の少量のデータで学習し直す。学習データが少ない課題でも精度を出しやすく、学習時間も短くなり、ファインチューニングは転移学習の代表的な方法である。

ニューラルネットワークに新しい課題やデータを追加で学習させると、重みが上書きされて、以前に学習した課題の性能が急激に失われる現象。継続学習やファインチューニングで問題になる。過去のデータの一部を混ぜて学習するリプレイ、重要な重みの変化を抑える正則化（EWC）、元の重みを固定して追加のパラメータだけを学習するLoRAなどで緩和する。

膨大なテキストで事前学習した、数十億から数千億以上のパラメータを持つ言語モデル。主にTransformerのデコーダを使い、前の文脈から次のトークンを予測する学習によって、文章生成、要約、翻訳、質問応答、プログラム作成など多様な課題を、追加学習なしに指示（プロンプト）だけでこなせる。インストラクションチューニングやRLHFで指示に従うよう調整して使い、もっともらしい誤り（ハルシネーション）への対策が要る。

正解ラベルの付いていないデータから、データ自身の一部を隠して残りから当てさせるなどの方法で正解を自動的に作り、教師あり学習の形で学習する手法。文章の次の単語の予測（GPT）や穴埋め（BERT）、同じ画像を加工した組を近づける対比学習がある。人手のラベル付けなしに大量のデータで学習できるので、大規模言語モデルなどの事前学習に使われる。

あるデータの分布（ソースドメイン）で学習したモデルを、分布の異なる別の環境（ターゲットドメイン）でも性能を保って使えるように適応させる手法。転移学習の一種で、シミュレーションで学習した制御を現実のロボットに移す場合や、別の工場・別のカメラで撮影した画像に適用する場合に使う。