ファインチューニング

大量のデータで事前学習された既存のモデルに、目的の分野のデータを追加で学習させて調整する手法。一から学習するより少ないデータと計算量で高い精度が得られる。大規模言語モデルの用途特化に広く使われる。

事前学習済みのモデルを、目的の課題のデータで追加学習して、重みをその課題に合わせて調整すること。一から学習するより少ないデータと計算で高い精度が得られる。全パラメータを更新する方法のほか、一部の層だけを更新したり、LoRAのように少数の追加パラメータだけを学習したりする方法（PEFT）があり、更新しすぎると元の知識を失う破滅的忘却に注意する。

大量のデータで事前学習済みのモデルを基に、目的の用途や分野のデータを追加で学習させて、モデルのパラメータを調整すること。少ないデータと計算量で用途に適したモデルを作れ、転移学習の代表的な方法である。大規模言語モデルでは、一部のパラメータだけを調整するLoRAなどの効率的な手法も使われる。

多数の中間層（隠れ層）を持つニューラルネットワークを用いた機械学習の手法。画像認識・音声認識・自然言語処理などで高い性能を発揮し、AIの発展を牽引している。

大量のデータを用いてモデルの基本的な知識や特徴抽出能力を事前に学習させる工程。この後にファインチューニングを行うことで、特定のタスクに適応させることができる。

あるタスクで学習したモデルの知識を、別の関連するタスクに転用する手法。学習データが少ない場合でも高精度なモデルを構築でき、学習時間の短縮にもつながる。

画像認識に特化したディープラーニングのモデル。畳み込み層とプーリング層を組み合わせて画像の局所的な特徴を抽出し、画像分類・物体検出・顔認識などに高い精度を発揮する。

時系列データや文章などの順序のあるデータの処理に適したディープラーニングのモデル。出力を次の入力にフィードバックする再帰構造を持ち、文章生成や音声認識などに利用される。

生成器（Generator）と識別器（Discriminator）の2つのネットワークを競わせて学習する生成モデル。生成器がリアルなデータを生成し、識別器がそれを見分ける過程で両者の性能が向上する。