ランダム性の制御

生成 AI が出力する文章の多様さと安定性を、パラメータで調整すること。Temperature を高くすると多様で意外性のある出力に、低くすると安定した出力になる。Top-p や Top-k で次の語の候補を絞ることでも調整できる。

生成AIの出力のばらつきを、Temperature、Top-p、Top-kなどのパラメータで調整すること。ばらつきを抑えると同じ入力にほぼ同じ回答を返す決定的出力になり、事実の回答やデータの抽出に向く。ばらつきを大きくすると多様な創造的出力になり、アイデア出しや文章の創作に向く。

大規模言語モデルが次のトークンを選ぶとき、確率の高い順に候補を並べ、累積確率が指定した値pに達するまでの候補だけから選ぶ方法、またはその値。p=0.9なら上位から合計90%の確率を占める候補に限定し、確率の低い不自然な候補を除く。候補の数が状況に応じて変わる点がTop-kと異なり、核サンプリングとも呼ぶ。

大規模言語モデルが次のトークンを選ぶとき、確率の高い上位k個の候補だけに絞り、その中から確率に応じて選ぶ方法、またはその値。kを小さくすると出力が安定し、大きくすると多様になる。候補の数が常にk個に固定される点が、累積確率で絞るTop-pと異なる。

与えられた指示や文脈に続く文章を生成するAIモデル。現在の主流はTransformerを使った大規模言語モデルで、前の文脈から次のトークンの確率を計算して1つずつ選ぶことを繰り返して文章を作る。どのトークンを選ぶかは温度（Temperature）やTop-pなどで調整し、要約、翻訳、文書作成、対話、プログラムの生成に使われる。

生成AIなどのAIサービスで、利用者が入力したデータをモデルの学習や改善に利用することについて、利用者が拒否（オプトアウト）できる条件や手段を定めた方針。既定で学習に使うか、設定や申請で除外できるか、法人向けの契約では使わないかなどはサービスによって異なるため、業務で使う前に確認し、機密情報や個人情報を入力しない運用と組み合わせる。

組織の従業員が生成AIなどのAIを業務で使うときのルールを定めた方針。利用してよいサービス、入力してはならない情報（機密情報や個人情報）、出力内容の確認と責任、著作権への配慮、利用目的の範囲などを定める。AIガバナンスの一部として整備し、許可されていないAIの利用（シャドーAI）を防ぐ役割もある。

組織が把握・許可していない生成AIなどのAIサービスを、従業員が業務で使うこと。シャドーITのAI版で、外部の無料サービスに機密情報や個人情報を入力して漏えいさせる、出力の誤りや権利侵害に気付けないといったリスクがある。一律に禁止するより、許可するサービスと使い方をAI利用ポリシーで示し、安全な代替手段を用意することが有効とされる。