アテンションエコノミー

情報があふれる中で、人々の関心や注目（アテンション）が希少な資源となり、それを獲得すること自体が経済的な価値をもつ状況。広告収入を得るため、SNSや動画サービスでは、より刺激的で強い感情を呼ぶ投稿が拡散されやすくなり、偽情報や過激な内容の拡散、フィルターバブルを助長すると指摘されている。

人をだましたり社会を混乱させたりする目的で、意図的に作られ、拡散される虚偽の情報。偽情報ともいう。世論の誘導や詐欺などに使われ、生成AIによって精巧な偽の画像や動画が作りやすくなっている。

事実に基づいているが、害を与える意図で文脈から切り離して使用・流布される情報。プライバシー侵害や名誉毀損を目的とした個人情報の暴露などが該当する。

害を与える意図はないが、誤った情報が拡散されること。事実誤認や不正確な情報が、悪意なく共有・転送されることで広まる誤情報を指す。

利用者の属性、行動履歴、嗜好などのデータをAIで分析し、一人ひとりに合わせて商品の推薦、表示する内容、価格、学習教材などを出し分けること。レコメンドエンジンが代表例で、顧客体験と成約率の向上が期待できる一方、プライバシーへの配慮や、フィルターバブルによる情報の偏りに注意が要る。

深層学習などのAI技術を用いて実在の人物の顔や声を合成し、本物と見分けにくい偽の画像・動画・音声を作る技術、またはそれによって作られたコンテンツ。偽情報の拡散、経営者の声をまねた送金指示のようななりすまし詐欺、名誉毀損などに悪用される。電子透かしや来歴情報による真正性の確認、検知技術などの対策が進められている。