システムプロンプト

生成AIのアプリケーションで、利用者の入力とは別に、開発者や管理者があらかじめ与えておく指示。AIの役割、口調、回答の範囲、禁止事項、参照する情報などを定め、すべての対話に共通して適用される。利用者の入力で上書きされないよう、プロンプトインジェクションへの対策も必要になる。

生成AIのアプリケーションで、利用者の入力とは別に、AIの役割、口調、回答の範囲、禁止事項などをあらかじめ指示するプロンプト。開発者や提供者が設定し、会話全体を通じてAIの振る舞いを方向づける。利用者には見えないことが多く、プロンプトインジェクションによる無効化や内容の漏えいを狙われることがある。

学習した内容をもとに文章、画像、音声、プログラムなどを新たに作り出すAI。要約や添削、アイディアの提案などに使われるが、出力の正しさは利用者が確認する必要がある。

テキスト、画像、音声など複数の種類の情報を組み合わせて扱えるAI。図表を含む資料の読み取りなど、単一の形式では扱えない業務に適用できる。

外部の文書やデータベースを検索し、その内容を根拠として生成AIに回答させる仕組み。社内文書など学習に含まれない知識を反映でき、誤った内容の生成を抑えられる。

生成AIへの指示文を工夫し、目的に沿った出力を安定して得るための技術。前提条件や出力形式、役割を明示することで精度と再現性を高める。

目標を与えると、必要な手順を自ら計画してツールを操作しながら作業を進めるAI。人間の関与をどこに残すかの設計が、安全な利用の鍵となる。

生成AIが事実に基づかない内容を、もっともらしい形で出力する現象。出典元の確認を行わずに業務判断へ用いると誤りが波及する。