ランダム性の制御

生成 AI が出力する文章の多様さと安定性を、パラメータで調整すること。Temperature を高くすると多様で意外性のある出力に、低くすると安定した出力になる。Top-p や Top-k で次の語の候補を絞ることでも調整できる。

生成AIの出力のばらつきを、Temperature、Top-p、Top-kなどのパラメータで調整すること。ばらつきを抑えると同じ入力にほぼ同じ回答を返す決定的出力になり、事実の回答やデータの抽出に向く。ばらつきを大きくすると多様な創造的出力になり、アイデア出しや文章の創作に向く。

生成AIが出力する文章などの多様性や意外性を、生成時のパラメータで調整すること。大規模言語モデルは次に続くトークンを確率に基づいて選ぶため、Temperature、Top-p、Top-kなどの設定によって、毎回ほぼ同じ確実な回答を出すか、多様で創造的な回答を出すかを用途に応じて変えられる。

与えられた指示や文脈に続く文章を生成するAIモデル。現在の主流はTransformerを使った大規模言語モデルで、前の文脈から次のトークンの確率を計算して1つずつ選ぶことを繰り返して文章を作る。どのトークンを選ぶかは温度（Temperature）やTop-pなどで調整し、要約、翻訳、文書作成、対話、プログラムの生成に使われる。

大規模言語モデル等を用いて、テキスト・画像・音声・プログラムコードなどの新たなコンテンツを自動生成するAI技術。業務効率化に活用される一方、ハルシネーション（事実に基づかない出力）やセキュリティリスク、著作権上の課題がある。

大量のテキストデータで学習された巨大なニューラルネットワークモデル。自然言語の理解・生成に優れ、生成AIの中核技術として文章作成・要約・翻訳・プログラミング支援などに活用される。プロンプトインジェクションなどのセキュリティリスクへの対策も重要となる。

生成AIが事実に基づかない情報を、あたかも正確であるかのように生成してしまう現象。AIの幻覚とも呼ばれる。AIの出力データを人間が確認することの重要性を示す課題であり、業務利用時のリスクとして認識する必要がある。

生成AIが作成したコンテンツに関する著作権上の論点。著作権法第30条の4により、AI学習目的の著作物利用は原則として許容されるが、享受目的が併存する場合は適用されない。AI生成物が既存の著作物に類似している場合、依拠性と類似性が認められれば著作権侵害となり得る。AI自体は著作者にはなれない。

大規模言語モデル（LLM）などの生成AIに対して、悪意のある指示や入力を与えることで、本来の制約やガードレールを回避させ、意図しない動作や情報漏えいを引き起こす攻撃手法。直接的な入力によるものと、外部データに攻撃文を埋め込む間接的なものがある。