事前学習

大量のデータを用いてモデルの基本的な知識や特徴抽出能力を事前に学習させる工程。この後にファインチューニングを行うことで、特定のタスクに適応させることができる。

大量のデータを使って、特定の用途に限らない汎用的な特徴や知識をモデルにあらかじめ学習させること。大規模言語モデルでは大量の文章で次の語を予測する学習を行う。事前学習したモデルをファインチューニングして個別の課題に適応させる。

大量の汎用的なデータでモデルをあらかじめ学習させ、さまざまな課題に共通して役立つ特徴や知識を獲得させること。大規模言語モデルでは、膨大なテキストで次のトークンを予測する自己教師あり学習で行う。事前学習済みのモデル（基盤モデル）を、少量の課題固有のデータでファインチューニングしたり、プロンプトで指示したりして利用する。

センサで現実世界の状況を認識し、ロボットや自動運転車などの機体を通じて物理的に行動するAI。画像や言語を扱う基盤モデルの技術を動作の生成に応用し、デジタルツインやシミュレーションで大量に学習させてから実機へ移す（Sim2Real）手法がとられる。

大量のデータで事前学習済みのモデルを基に、目的の用途や分野のデータを追加で学習させて、モデルのパラメータを調整すること。少ないデータと計算量で用途に適したモデルを作れ、転移学習の代表的な方法である。大規模言語モデルでは、一部のパラメータだけを調整するLoRAなどの効率的な手法も使われる。

ある課題で学習済みのモデルが獲得した知識（特徴の抽出方法など）を、関連する別の課題の学習に流用する手法。大量の画像で学習した画像認識のモデルを医療画像の判定に使う例などがあり、新しい課題のデータが少なくても高い精度を得やすい。ファインチューニングはその代表的な実現方法である。

大量のテキストで事前学習した、膨大な数のパラメータを持つ言語モデル。主にTransformerを基盤とし、与えられた文脈に続くトークンを予測することで、文章の生成、要約、翻訳、質問応答、プログラムの作成など多様な処理を行える。事実と異なる内容を生成するハルシネーションに注意が必要である。

ニューラルネットワークに新しい課題やデータを追加で学習させると、重みが上書きされて、以前に学習した課題の性能が急激に失われる現象。継続学習やファインチューニングで問題になる。過去のデータの一部を混ぜて学習するリプレイ、重要な重みの変化を抑える正則化（EWC）、元の重みを固定して追加のパラメータだけを学習するLoRAなどで緩和する。

事前学習した言語モデルを、多様な課題の「指示文と望ましい応答」の組のデータでファインチューニングし、人間の指示に従って応答できるようにする手法。次のトークンを予測するだけのモデルを対話や業務に使える形に変え、学習していない課題への対応力（ゼロショット性能）も高まる。RLHFなどのアラインメントの前段として行われることが多い。