ガードレール

AIの入力と出力に制限を設け、危険な内容や規程違反を防ぐ仕組み。安全性への配慮、倫理的配慮、法令遵守の観点から、許容範囲をあらかじめ定めておく。

AIの入力と出力に制約や検査を設け、有害な内容の生成、機密情報や個人情報の漏えい、法令や社内規程への違反、想定外の操作を防ぐ仕組み。入力時のガードレールは不適切な依頼やプロンプトインジェクションを検知し、出力時のガードレールは生成結果を検査して遮断・修正する。安全性、倫理、法令遵守の観点から許容範囲を定める。

AIの入力と出力に制限を設け、危険な内容や規程違反を防ぐ仕組み。安全性への配慮、倫理的配慮、法令遵守の観点から、許容範囲をあらかじめ定めておく。

AIシステムが安全性、倫理、法令順守の面で不適切な出力や行動をしないよう、あらかじめ設ける制約や仕組み。有害な内容や機密情報を含む入出力の検出・遮断、扱う話題や操作の範囲の制限、AIエージェントの権限の制限などを、モデルの外側の検査機能や運用ルールとして組み込む。

AIの活用を前提に、業務プロセス、製品・サービス、意思決定の仕組み、ビジネスモデルを作り変える変革。既存業務の一部をAIで効率化するだけでなく、生成AIやAIエージェントに任せられる仕事を前提に組織や働き方を再設計する点に主眼がある。DX（デジタルトランスフォーメーション）を発展させた考え方として用いられる。

データにノイズを少しずつ加えていく過程を逆にたどり、ノイズから元のデータを復元するように学習する生成モデル。高品質な画像生成AIの主流方式で、テキストから画像を作るサービスの中核技術。

生成AIが作成したコンテンツに関する著作権上の論点。著作権法第30条の4により、AI学習目的の著作物利用は原則として許容される。AI生成物が既存著作物に類似する場合、依拠性と類似性が認められれば著作権侵害となり得る。AI自体は著作者にはなれない。

テキスト、画像、音声、動画など、種類の異なる複数のデータ（モダリティ）を組み合わせて入力・処理・出力できる AI。画像を見て内容を文章で説明する、音声で質問して画像付きで回答を得る、といった使い方ができる。

生成 AI が出力する文章の多様さと安定性を、パラメータで調整すること。Temperature を高くすると多様で意外性のある出力に、低くすると安定した出力になる。Top-p や Top-k で次の語の候補を絞ることでも調整できる。

生成AIサービスなどで、利用者が入力したデータをサービス提供者がAIの学習に使うことを、利用者が拒否（オプトアウト）できるかどうかと、その手続を定めた方針。業務で使う際は、機密情報や個人情報が学習に使われないよう、オプトアウトの可否と設定を確かめる。