フロンティアAI

現時点で最も高度なモデルと同等以上の能力を持ち、幅広い作業をこなせる最先端の汎用AIモデル。サイバー攻撃や生物・化学兵器の開発への悪用、偽情報の大量生成、人間の制御が及ばなくなる制御の喪失といった深刻なリスクが懸念されている。2023年に英国で開かれたAI安全性サミット以降、各国がAIセーフティ・インスティテュート（AISI）を設けて安全性の評価に取り組んでいる。

AIなどによる自動化した処理の流れの中に、人間の判断や確認を組み込む仕組み。AIの出力を人が確かめて修正してから採用したり、重要な判断の最終決定を人が行ったりすることで、誤りや偏りによる被害を防ぎ、責任の所在を明らかにする。

深層学習などのAI技術を用いて実在の人物の顔や声を合成し、本物と見分けにくい偽の画像・動画・音声を作る技術、またはそれによって作られたコンテンツ。偽情報の拡散、経営者の声をまねた送金指示のようななりすまし詐欺、名誉毀損などに悪用される。電子透かしや来歴情報による真正性の確認、検知技術などの対策が進められている。