ガードレール

AIの入力と出力に制限を設け、危険な内容や規程違反を防ぐ仕組み。安全性への配慮、倫理的配慮、法令遵守の観点から、許容範囲をあらかじめ定めておく。

AIの入力と出力に制約や検査を設け、有害な内容の生成、機密情報や個人情報の漏えい、法令や社内規程への違反、想定外の操作を防ぐ仕組み。入力時のガードレールは不適切な依頼やプロンプトインジェクションを検知し、出力時のガードレールは生成結果を検査して遮断・修正する。安全性、倫理、法令遵守の観点から許容範囲を定める。

AIの入力と出力に制限を設け、危険な内容や規程違反を防ぐ仕組み。安全性への配慮、倫理的配慮、法令遵守の観点から、許容範囲をあらかじめ定めておく。

AIシステムが安全性、倫理、法令順守の面で不適切な出力や行動をしないよう、あらかじめ設ける制約や仕組み。有害な内容や機密情報を含む入出力の検出・遮断、扱う話題や操作の範囲の制限、AIエージェントの権限の制限などを、モデルの外側の検査機能や運用ルールとして組み込む。

AIの活用を前提に、業務プロセス、製品・サービス、意思決定の仕組み、ビジネスモデルを作り変える変革。既存業務の一部をAIで効率化するだけでなく、生成AIやAIエージェントに任せられる仕事を前提に組織や働き方を再設計する点に主眼がある。DX（デジタルトランスフォーメーション）を発展させた考え方として用いられる。

大規模言語モデル等を用いて、テキスト・画像・音声・プログラムコードなどの新たなコンテンツを自動生成するAI技術。業務効率化に活用される一方、ハルシネーション（事実に基づかない出力）やセキュリティリスク、著作権上の課題がある。

大量のテキストデータで学習された巨大なニューラルネットワークモデル。自然言語の理解・生成に優れ、生成AIの中核技術として文章作成・要約・翻訳・プログラミング支援などに活用される。プロンプトインジェクションなどのセキュリティリスクへの対策も重要となる。

生成AIが事実に基づかない情報を、あたかも正確であるかのように生成してしまう現象。AIの幻覚とも呼ばれる。AIの出力データを人間が確認することの重要性を示す課題であり、業務利用時のリスクとして認識する必要がある。

生成AIが作成したコンテンツに関する著作権上の論点。著作権法第30条の4により、AI学習目的の著作物利用は原則として許容されるが、享受目的が併存する場合は適用されない。AI生成物が既存の著作物に類似している場合、依拠性と類似性が認められれば著作権侵害となり得る。AI自体は著作者にはなれない。

大規模言語モデル（LLM）などの生成AIに対して、悪意のある指示や入力を与えることで、本来の制約やガードレールを回避させ、意図しない動作や情報漏えいを引き起こす攻撃手法。直接的な入力によるものと、外部データに攻撃文を埋め込む間接的なものがある。