転移学習

あるタスクで学習したモデルの知識を、別の関連するタスクに転用する手法。学習データが少ない場合でも高精度なモデルを構築でき、学習時間の短縮にもつながる。

ある課題で学習済みのモデルが持つ知識を、別の関連する課題に流用する手法。画像認識モデルを医用画像の判定に転用する例などがある。ファインチューニングは転移学習の代表的な実現方法。

ある課題で学習済みのモデルが獲得した知識（特徴の抽出方法など）を、関連する別の課題の学習に流用する手法。大量の画像で学習した画像認識のモデルを医療画像の判定に使う例などがあり、新しい課題のデータが少なくても高い精度を得やすい。ファインチューニングはその代表的な実現方法である。

大量の汎用的なデータでモデルをあらかじめ学習させ、さまざまな課題に共通して役立つ特徴や知識を獲得させること。大規模言語モデルでは、膨大なテキストで次のトークンを予測する自己教師あり学習で行う。事前学習済みのモデル（基盤モデル）を、少量の課題固有のデータでファインチューニングしたり、プロンプトで指示したりして利用する。

事前学習済みのモデルを、目的の課題のデータで追加学習して、重みをその課題に合わせて調整すること。一から学習するより少ないデータと計算で高い精度が得られる。全パラメータを更新する方法のほか、一部の層だけを更新したり、LoRAのように少数の追加パラメータだけを学習したりする方法（PEFT）があり、更新しすぎると元の知識を失う破滅的忘却に注意する。

ニューラルネットワークに新しい課題やデータを追加で学習させると、重みが上書きされて、以前に学習した課題の性能が急激に失われる現象。継続学習やファインチューニングで問題になる。過去のデータの一部を混ぜて学習するリプレイ、重要な重みの変化を抑える正則化（EWC）、元の重みを固定して追加のパラメータだけを学習するLoRAなどで緩和する。

膨大なテキストで事前学習した、数十億から数千億以上のパラメータを持つ言語モデル。主にTransformerのデコーダを使い、前の文脈から次のトークンを予測する学習によって、文章生成、要約、翻訳、質問応答、プログラム作成など多様な課題を、追加学習なしに指示（プロンプト）だけでこなせる。インストラクションチューニングやRLHFで指示に従うよう調整して使い、もっともらしい誤り（ハルシネーション）への対策が要る。

正解ラベルの付いていないデータから、データ自身の一部を隠して残りから当てさせるなどの方法で正解を自動的に作り、教師あり学習の形で学習する手法。文章の次の単語の予測（GPT）や穴埋め（BERT）、同じ画像を加工した組を近づける対比学習がある。人手のラベル付けなしに大量のデータで学習できるので、大規模言語モデルなどの事前学習に使われる。

事前学習した言語モデルを、多様な課題の「指示文と望ましい応答」の組のデータでファインチューニングし、人間の指示に従って応答できるようにする手法。次のトークンを予測するだけのモデルを対話や業務に使える形に変え、学習していない課題への対応力（ゼロショット性能）も高まる。RLHFなどのアラインメントの前段として行われることが多い。