ハルシネーション

生成AIが事実に基づかない情報を、あたかも正確であるかのように生成してしまう現象。AIの幻覚とも呼ばれる。AIの出力データを人間が確認することの重要性を示す課題であり、業務利用時のリスクとして認識する必要がある。

生成AIが事実に基づかない誤った情報を、あたかも正確であるかのように生成してしまう現象。AIの出力データを人間が確認することの重要性を示す課題の一つ。

AIの出力データにおける幻覚。生成AIが事実に基づかない情報を、あたかも正確であるかのように生成する現象。AIの出力データを人間が確認することの重要性が指摘されている。

生成AIが事実に基づかない内容を、もっともらしい形で出力する現象。出典元の確認を行わずに業務判断へ用いると誤りが波及する。

生成AIが、事実に基づかない内容や存在しない情報を、もっともらしい文章として出力する現象。大規模言語モデルは学習データからもっともらしい単語の並びを生成するため、架空の文献や誤った数値をそれらしく示すことがある。RAGで根拠となる文書を参照させる、出典を確認する、人間が内容を検証するといった対策をとる。

ディープラーニング技術を使って、人物の顔や声を合成し、本人が話しているかのようなリアルな偽動画や偽音声を作成する技術。詐欺やフェイクニュースへの悪用が社会問題となっている。

事業継続計画のこと。自然災害やテロ、感染症などの緊急事態が発生した際に、重要な事業を中断させず、あるいは可能な限り短期間で復旧させるための計画。

事業継続管理のこと。BCPの策定・運用・見直しを含む、事業継続のためのマネジメント全体を指す。平常時からの準備、教育・訓練、継続的な改善を含む包括的な取り組み。

リスクの特定、分析、評価を体系的に行うプロセス。リスクの発生確率と影響度を評価し、対策の優先度を決定する。経営リスクや情報セキュリティリスクなど、さまざまな分野のリスクマネジメントの中核的な手法。

リスクマネジメントに関する日本産業規格。ISO 31000を翻訳したもので、あらゆる種類のリスクを管理するための原則と指針を提供する。組織がリスクを効果的に管理するための枠組みを示す。

特定の作業やタスクに特化して設計されたAI。画像認識、音声認識、チェスなど限定された領域で人間を上回る性能を発揮するが、その領域外のタスクは処理できない。現在実用化されているAIの大部分がこれに該当する。