事前学習

大量のデータを用いてモデルの基本的な知識や特徴抽出能力を事前に学習させる工程。この後にファインチューニングを行うことで、特定のタスクに適応させることができる。

大量の汎用的なデータでモデルをあらかじめ学習させ、さまざまな課題に共通して役立つ特徴や知識を獲得させること。大規模言語モデルでは、膨大なテキストで次のトークンを予測する自己教師あり学習で行う。事前学習済みのモデル（基盤モデル）を、少量の課題固有のデータでファインチューニングしたり、プロンプトで指示したりして利用する。

特定の用途向けに調整する前に、大量の汎用的なデータでモデルを学習させ、言語や画像の一般的な特徴を獲得させる工程。大規模言語モデルでは、大量のテキストで次の単語（トークン）を予測する自己教師あり学習で行う。事前学習済みのモデルを基に、ファインチューニングなどで個別の用途に適応させる。

事前学習済みのモデルを、目的の課題のデータで追加学習して、重みをその課題に合わせて調整すること。一から学習するより少ないデータと計算で高い精度が得られる。全パラメータを更新する方法のほか、一部の層だけを更新したり、LoRAのように少数の追加パラメータだけを学習したりする方法（PEFT）があり、更新しすぎると元の知識を失う破滅的忘却に注意する。

ある課題で学習したモデルの知識を、関連する別の課題の学習に流用する手法。例えば大量の画像で学習したCNNの前半の層を特徴抽出器としてそのまま使い、出力に近い層だけを手元の少量のデータで学習し直す。学習データが少ない課題でも精度を出しやすく、学習時間も短くなり、ファインチューニングは転移学習の代表的な方法である。

ニューラルネットワークに新しい課題やデータを追加で学習させると、重みが上書きされて、以前に学習した課題の性能が急激に失われる現象。継続学習やファインチューニングで問題になる。過去のデータの一部を混ぜて学習するリプレイ、重要な重みの変化を抑える正則化（EWC）、元の重みを固定して追加のパラメータだけを学習するLoRAなどで緩和する。

事前学習した言語モデルを、多様な課題の「指示文と望ましい応答」の組のデータでファインチューニングし、人間の指示に従って応答できるようにする手法。次のトークンを予測するだけのモデルを対話や業務に使える形に変え、学習していない課題への対応力（ゼロショット性能）も高まる。RLHFなどのアラインメントの前段として行われることが多い。

大量で多様なデータで事前に学習し、特定の作業に限らず多くの種類のロボットの作業に応用できるようにした基盤モデル。画像と言語を扱うVLM（vision-language model）や、さらにロボットの動作の出力までを1つのモデルで扱うVLA（vision-language-action）モデルがあり、言葉で指示した作業をロボットに実行させる研究と実用化が進んでいる。

あるデータの分布（ソースドメイン）で学習したモデルを、分布の異なる別の環境（ターゲットドメイン）でも性能を保って使えるように適応させる手法。転移学習の一種で、シミュレーションで学習した制御を現実のロボットに移す場合や、別の工場・別のカメラで撮影した画像に適用する場合に使う。