ハルシネーション

生成AIが事実に基づかない情報を、あたかも正確であるかのように生成してしまう現象。AIの幻覚とも呼ばれる。AIの出力の信頼性に関する重要な課題であり、ファクトチェックの必要性を示す。

生成AIが事実に基づかない情報を、あたかも正確であるかのように生成してしまう現象。AIの幻覚とも呼ばれる。AIの出力データを人間が確認することの重要性を示す課題であり、業務利用時のリスクとして認識する必要がある。

生成AIが事実に基づかない誤った情報を、あたかも正確であるかのように生成してしまう現象。AIの出力データを人間が確認することの重要性を示す課題の一つ。

AIの出力データにおける幻覚。生成AIが事実に基づかない情報を、あたかも正確であるかのように生成する現象。AIの出力データを人間が確認することの重要性が指摘されている。

生成AIが、事実に基づかない内容や存在しない情報を、もっともらしい文章として出力する現象。大規模言語モデルは学習データからもっともらしい単語の並びを生成するため、架空の文献や誤った数値をそれらしく示すことがある。RAGで根拠となる文書を参照させる、出典を確認する、人間が内容を検証するといった対策をとる。

学習した内容をもとに文章、画像、音声、プログラムなどを新たに作り出すAI。要約や添削、アイディアの提案などに使われるが、出力の正しさは利用者が確認する必要がある。

テキスト、画像、音声など複数の種類の情報を組み合わせて扱えるAI。図表を含む資料の読み取りなど、単一の形式では扱えない業務に適用できる。

外部の文書やデータベースを検索し、その内容を根拠として生成AIに回答させる仕組み。社内文書など学習に含まれない知識を反映でき、誤った内容の生成を抑えられる。

生成AIへの指示文を工夫し、目的に沿った出力を安定して得るための技術。前提条件や出力形式、役割を明示することで精度と再現性を高める。

利用者の入力とは別に、AIの役割や制約をあらかじめ設定しておく指示。応答の方針や禁止事項を固定し、想定外の振る舞いを抑える。

目標を与えると、必要な手順を自ら計画してツールを操作しながら作業を進めるAI。人間の関与をどこに残すかの設計が、安全な利用の鍵となる。