文章生成モデル
Text Generation Model
ぶんしょうせいせいもでる
与えられた指示や文脈に続く文章を生成するAIモデル。現在の主流はTransformerを使った大規模言語モデルで、前の文脈から次のトークンの確率を計算して1つずつ選ぶことを繰り返して文章を作る。どのトークンを選ぶかは温度（Temperature）やTop-pなどで調整し、要約、翻訳、文書作成、対話、プログラムの生成に使われる。
Related
関連キーワードの用語
生成 AI が出力する文章の多様さと安定性を、パラメータで調整すること。Temperature を高くすると多様で意外性のある出力に、低くすると安定した出力になる。Top-p や Top-k で次の語の候補を絞ることでも調整できる。
入力されたデータを分析して、分類、予測、検知、認識などの判断を行うAI。売上予測や離反予測、顧客のグルーピング、画像による不良品の検知などに使われ、仮説検証、知識発見、原因究明、計画策定、判断支援、活動代替などの目的で業務に組み込む。新しいコンテンツを作り出す生成AIと対比される。
学習したデータの特徴をもとに、文章、画像、音声、動画、プログラムなどのコンテンツを新たに作り出すAI。大規模言語モデルを使った対話、要約、文書作成などに広く使われる。もっともらしい誤り（ハルシネーション）を出力することがあるため、RAGによる根拠の付与や人間による確認と組み合わせて使う。
テキスト、画像、音声、動画など複数の種類（モダリティ）の情報を組み合わせて入力・出力できるAI。図表を含む文書の読み取り、画像を見せて質問に答える、会議の音声と資料から議事録を作るなど、単一の形式のAIでは扱えない業務に適用できる。
2017年の論文「Attention Is All You Need」で提案された、自己注意機構を中心とするニューラルネットワークの構造。RNNのように系列を順に処理せず、系列中のすべての位置の関係を同時に計算するので、並列に学習でき長距離の依存関係も捉えやすい（語順の情報は位置エンコーディングで与える）。GPTやBERTなどの大規模言語モデルの基盤であり、画像や音声のモデルにも使われている。
大規模言語モデルが文章を処理するときの最小単位。文章はトークナイザによって、単語やその一部（サブワード）、文字、バイト列に分割され、それぞれが番号に置き換えられて入力される。日本語では1文字が1トークン以上になることも多く、モデルが一度に扱える長さ（コンテキストウィンドウ）やAPIの利用料金はトークン数で決まる。