生成AI

テキスト、画像、音声、動画などの新しいコンテンツを自動的に生成できるAI。大量のデータから学習したパターンをもとに、人間が作成したかのようなコンテンツを創造する。ChatGPTなどが代表例。

テキスト、画像、音楽、プログラムコードなどの新しいコンテンツを自動的に生成するAI技術。大規模言語モデル（LLM）や拡散モデルなどの技術を基盤とし、文章の要約・提案、画像生成などに活用される。

大規模言語モデル等を用いて、テキスト、画像、音声、プログラムコードなどの新たなコンテンツを自動生成するAI技術。業務効率化や新サービス創出への活用が進む一方、著作権やセキュリティ上の課題もある。

大量のテキストデータで学習された巨大なニューラルネットワークモデル。自然言語の理解・生成に優れ、生成AIの中核技術として文章作成・要約・翻訳・プログラミング支援などに活用される。プロンプトインジェクションなどのセキュリティリスクへの対策も重要となる。

生成AIが事実に基づかない情報を、あたかも正確であるかのように生成してしまう現象。AIの幻覚とも呼ばれる。AIの出力データを人間が確認することの重要性を示す課題であり、業務利用時のリスクとして認識する必要がある。

大規模言語モデル（LLM）などの生成AIに対して、悪意のある指示や入力を与えることで、本来の制約やガードレールを回避させ、意図しない動作や情報漏えいを引き起こす攻撃手法。直接的な入力によるものと、外部データに攻撃文を埋め込む間接的なものがある。

AI技術（深層学習）を用いて、人物の顔や声を精巧に偽造・合成する技術、またはその成果物。なりすまし動画や音声の作成に悪用され、ビジネスメール詐欺や世論操作などに利用されるリスクがある。

生成AIに対して悪意のある指示（プロンプト）を挿入し、本来の制約を回避させて不正な出力を引き出す攻撃手法。AIシステムのセキュリティ上の新たな脅威として認識されている。

テキストや音声で人間と自動的に会話するプログラム。カスタマーサポートや問い合わせ対応などで活用され、AIや自然言語処理技術を用いてユーザの質問に自動応答する。