破滅的忘却

大量の汎用的なデータでモデルをあらかじめ学習させ、さまざまな課題に共通して役立つ特徴や知識を獲得させること。大規模言語モデルでは、膨大なテキストで次のトークンを予測する自己教師あり学習で行う。事前学習済みのモデル（基盤モデル）を、少量の課題固有のデータでファインチューニングしたり、プロンプトで指示したりして利用する。

事前学習済みのモデルを、目的の課題のデータで追加学習して、重みをその課題に合わせて調整すること。一から学習するより少ないデータと計算で高い精度が得られる。全パラメータを更新する方法のほか、一部の層だけを更新したり、LoRAのように少数の追加パラメータだけを学習したりする方法（PEFT）があり、更新しすぎると元の知識を失う破滅的忘却に注意する。

ある課題で学習したモデルの知識を、関連する別の課題の学習に流用する手法。例えば大量の画像で学習したCNNの前半の層を特徴抽出器としてそのまま使い、出力に近い層だけを手元の少量のデータで学習し直す。学習データが少ない課題でも精度を出しやすく、学習時間も短くなり、ファインチューニングは転移学習の代表的な方法である。

事前学習した言語モデルを、多様な課題の「指示文と望ましい応答」の組のデータでファインチューニングし、人間の指示に従って応答できるようにする手法。次のトークンを予測するだけのモデルを対話や業務に使える形に変え、学習していない課題への対応力（ゼロショット性能）も高まる。RLHFなどのアラインメントの前段として行われることが多い。