IT用語帳
SGシステム戦略 · システム活用促進・評価

大規模言語モデル

Large Language Model

えるえるえむ

大量のテキストデータで学習された巨大なニューラルネットワークモデル。自然言語の理解・生成に優れ、生成AIの中核技術として文章作成・要約・翻訳・プログラミング支援などに活用される。プロンプトインジェクションなどのセキュリティリスクへの対策も重要となる。

共有:

Related

他の資格での定義

IP大規模言語モデル

大量のテキストデータで事前学習された大規模なニューラルネットワークモデル。文章生成・要約・翻訳・質問応答など多様な自然言語処理タスクを高精度で行える。ChatGPTなどが代表例である。

FE大規模言語モデル

大量のテキストデータで学習された巨大なニューラルネットワークモデル。自然言語の理解と生成に優れ、文章作成、翻訳、質問応答など幅広いタスクに対応できる。LLMと略される。

PD-DLLM(大規模言語モデル)

膨大なテキストで事前学習した、数十億から数千億以上のパラメータを持つ言語モデル。主にTransformerのデコーダを使い、前の文脈から次のトークンを予測する学習によって、文章生成、要約、翻訳、質問応答、プログラム作成など多様な課題を、追加学習なしに指示(プロンプト)だけでこなせる。インストラクションチューニングやRLHFで指示に従うよう調整して使い、もっともらしい誤り(ハルシネーション)への対策が要る。

PD-S大規模言語モデル

大量のテキストデータで学習された巨大なニューラルネットワークモデル。自然言語の理解・生成に優れ、生成AIの中核技術として文章作成・要約・翻訳・プログラミング支援などに活用される。プロンプトインジェクションなどのセキュリティリスクへの対策も重要となる。

A-1LLM(大規模言語モデル)

大量のテキストで事前学習した、膨大な数のパラメータを持つ言語モデル。主にTransformerを基盤とし、与えられた文脈に続くトークンを予測することで、文章の生成、要約、翻訳、質問応答、プログラムの作成など多様な処理を行える。事実と異なる内容を生成するハルシネーションに注意が必要である。

Past Exams

過去問での出題

過去問で 1 回出題(基本情報技術者試験 1)

出典: 独立行政法人情報処理推進機構(IPA)の過去問題。問題文は IPA のサイトの PDF で確認できます。用語名で照合しているため、関係の薄い問題が含まれることがあります。

情報セキュリティマネジメント試験の過去問によく出る用語

Related

関連キーワードの用語

SG生成AI

大規模言語モデル等を用いて、テキスト・画像・音声・プログラムコードなどの新たなコンテンツを自動生成するAI技術。業務効率化に活用される一方、ハルシネーション(事実に基づかない出力)やセキュリティリスク、著作権上の課題がある。

SGハルシネーション

生成AIが事実に基づかない情報を、あたかも正確であるかのように生成してしまう現象。AIの幻覚とも呼ばれる。AIの出力データを人間が確認することの重要性を示す課題であり、業務利用時のリスクとして認識する必要がある。

FE拡散モデル

データにノイズを少しずつ加えていく過程を逆にたどり、ノイズから元のデータを復元するように学習する生成モデル。高品質な画像生成AIの主流方式で、テキストから画像を作るサービスの中核技術。

FE形態素解析

文章を意味を持つ最小単位(形態素)に分割し、それぞれに品詞などの情報を付ける処理。分かち書きをしない日本語では自然言語処理の第一段階として不可欠で、検索エンジンの索引作成にも使われる。

FEn-gram

文字列や単語列を連続するn個ずつに区切って取り出したもの。2文字ずつならバイグラムという。辞書がなくても機械的に索引を作れるため全文検索に使われ、統計的な言語モデルの基礎にもなる。

DMマルチモーダルAI

テキスト、画像、音声など複数の種類の情報を組み合わせて扱えるAI。図表を含む資料の読み取りなど、単一の形式では扱えない業務に適用できる。