大規模言語モデル

大量のテキストデータで事前学習された大規模なニューラルネットワークモデル。文章生成・要約・翻訳・質問応答など多様な自然言語処理タスクを高精度で行える。ChatGPTなどが代表例である。

大量のテキストデータで学習された巨大なニューラルネットワークモデル。自然言語の理解・生成に優れ、生成AIの中核技術として文章作成・要約・翻訳・プログラミング支援などに活用される。プロンプトインジェクションなどのセキュリティリスクへの対策も重要となる。

膨大なテキストで事前学習した、数十億から数千億以上のパラメータを持つ言語モデル。主にTransformerのデコーダを使い、前の文脈から次のトークンを予測する学習によって、文章生成、要約、翻訳、質問応答、プログラム作成など多様な課題を、追加学習なしに指示（プロンプト）だけでこなせる。インストラクションチューニングやRLHFで指示に従うよう調整して使い、もっともらしい誤り（ハルシネーション）への対策が要る。

大量のテキストデータで学習された巨大なニューラルネットワークモデル。自然言語の理解・生成に優れ、生成AIの中核技術として文章作成・要約・翻訳・プログラミング支援などに活用される。プロンプトインジェクションなどのセキュリティリスクへの対策も重要となる。

大量のテキストで事前学習した、膨大な数のパラメータを持つ言語モデル。主にTransformerを基盤とし、与えられた文脈に続くトークンを予測することで、文章の生成、要約、翻訳、質問応答、プログラムの作成など多様な処理を行える。事実と異なる内容を生成するハルシネーションに注意が必要である。

文章を意味を持つ最小単位（形態素）に分割し、それぞれに品詞などの情報を付ける処理。分かち書きをしない日本語では自然言語処理の第一段階として不可欠で、検索エンジンの索引作成にも使われる。

文字列や単語列を連続するn個ずつに区切って取り出したもの。2文字ずつならバイグラムという。辞書がなくても機械的に索引を作れるため全文検索に使われ、統計的な言語モデルの基礎にもなる。

特定分野の専門家の知識をルールベースとして蓄積し、推論エンジンにより問題解決を支援するAIシステム。知識ベースとルールを用いて人間の専門的判断を模倣する。

コンピュータがデータから規則性やパターンを自動的に学習し、予測や分類を行う技術の総称。教師あり学習、教師なし学習、強化学習の3つに大別される。AIの中核技術の一つ。

入力データと正解ラベルのペアを学習データとして与え、未知のデータに対する予測モデルを構築する機械学習手法。回帰（数値予測）と分類（カテゴリ予測）に大別される。

正解ラベルのないデータからパターンや構造を自動的に発見する機械学習手法。クラスタリング（データの分類）や次元削減が代表的なタスク。顧客セグメンテーションなどに応用される。