ハルシネーション

生成AIが事実に基づかない情報を、あたかも正確であるかのように生成してしまう現象。AIの幻覚とも呼ばれる。AIの出力の信頼性に関する重要な課題であり、ファクトチェックの必要性を示す。

生成AIが事実に基づかない誤った情報を、あたかも正確であるかのように生成してしまう現象。AIの出力データを人間が確認することの重要性を示す課題の一つ。

AIの出力データにおける幻覚。生成AIが事実に基づかない情報を、あたかも正確であるかのように生成する現象。AIの出力データを人間が確認することの重要性が指摘されている。

生成AIが事実に基づかない内容を、もっともらしい形で出力する現象。出典元の確認を行わずに業務判断へ用いると誤りが波及する。

生成AIが、事実に基づかない内容や存在しない情報を、もっともらしい文章として出力する現象。大規模言語モデルは学習データからもっともらしい単語の並びを生成するため、架空の文献や誤った数値をそれらしく示すことがある。RAGで根拠となる文書を参照させる、出典を確認する、人間が内容を検証するといった対策をとる。

大規模言語モデル等を用いて、テキスト・画像・音声・プログラムコードなどの新たなコンテンツを自動生成するAI技術。業務効率化に活用される一方、ハルシネーション（事実に基づかない出力）やセキュリティリスク、著作権上の課題がある。

大量のテキストデータで学習された巨大なニューラルネットワークモデル。自然言語の理解・生成に優れ、生成AIの中核技術として文章作成・要約・翻訳・プログラミング支援などに活用される。プロンプトインジェクションなどのセキュリティリスクへの対策も重要となる。

ディープラーニング技術を使って、人物の顔や声を合成し、本人が話しているかのようなリアルな偽動画や偽音声を作成する技術。詐欺やフェイクニュースへの悪用が社会問題となっている。

データにノイズを少しずつ加えていく過程を逆にたどり、ノイズから元のデータを復元するように学習する生成モデル。高品質な画像生成AIの主流方式で、テキストから画像を作るサービスの中核技術。

テキスト、画像、音声など複数の種類の情報を組み合わせて扱えるAI。図表を含む資料の読み取りなど、単一の形式では扱えない業務に適用できる。

外部の文書やデータベースを検索し、その内容を根拠として生成AIに回答させる仕組み。社内文書など学習に含まれない知識を反映でき、誤った内容の生成を抑えられる。