ファインチューニング

事前学習済みモデルの重みを、特定のタスクに合わせて微調整する手法。少量のデータで効率的に高精度なモデルを構築でき、転移学習の代表的な方法である。

大量のデータで事前学習された既存のモデルに、目的の分野のデータを追加で学習させて調整する手法。一から学習するより少ないデータと計算量で高い精度が得られる。大規模言語モデルの用途特化に広く使われる。

事前学習済みのモデルを、目的の課題のデータで追加学習して、重みをその課題に合わせて調整すること。一から学習するより少ないデータと計算で高い精度が得られる。全パラメータを更新する方法のほか、一部の層だけを更新したり、LoRAのように少数の追加パラメータだけを学習したりする方法（PEFT）があり、更新しすぎると元の知識を失う破滅的忘却に注意する。

人が正解ラベルを付けなくても、データ自身から学習の課題と正解を自動的に作って学習する手法。文章の一部を隠して当てさせる、次の単語を予測させるといった課題を使う。ラベル付けの手間なく大量のデータで学習できるため、大規模言語モデルなどの事前学習の中心となっている。

特定の用途向けに調整する前に、大量の汎用的なデータでモデルを学習させ、言語や画像の一般的な特徴を獲得させる工程。大規模言語モデルでは、大量のテキストで次の単語（トークン）を予測する自己教師あり学習で行う。事前学習済みのモデルを基に、ファインチューニングなどで個別の用途に適応させる。

ある課題で学習済みのモデルが獲得した知識（特徴の抽出方法など）を、関連する別の課題の学習に流用する手法。大量の画像で学習した画像認識のモデルを医療画像の判定に使う例などがあり、新しい課題のデータが少なくても高い精度を得やすい。ファインチューニングはその代表的な実現方法である。

系列の各要素が他のすべての要素との関連の強さを計算して情報を集める自己注意機構（Self-Attention）を中心とした、ニューラルネットワークの構造。RNNのように順番に処理する必要がなく並列に計算できるため、大量のデータでの学習に向き、長い文脈の関係も捉えやすい。GPTなど大規模言語モデルの基盤である。

AI、特に大規模言語モデルの振る舞いを、人間の意図や価値観、社会の規範に沿ったものにするための取組みや技術。有用で正直かつ有害な出力をしないようにすることを目指し、人間のフィードバックによる強化学習（RLHF）や、指示に従うための追加学習などの手法が使われる。

大規模言語モデルが文章を処理するときの最小の単位。単語や、単語をさらに分けた部分（サブワード）、文字などで、テキストはトークナイザによってトークンの列に分割され、それぞれが数値に変換される。モデルが一度に扱える量や、生成AIの利用料金はトークン数で表されることが多い。