ローカルLLM

クラウドのAPIを使わず、自社のサーバや手元のPCなど組織が管理する環境で動かす大規模言語モデル。入力した機密情報や個人情報が外部に送信されず、通信環境がなくても使えるのが利点で、公開されたモデルを利用・調整して導入する。一方で、高性能なGPUなどの計算資源と運用の負担が要り、性能はクラウドで提供される最先端のモデルに及ばないことが多い。

特定の1つの組織だけが専用で利用するクラウドの形態。自社のデータセンターに構築するオンプレミス型と、事業者の設備の一部を専有するホスティング型がある。セキュリティの要件や独自の構成に合わせやすい反面、設備の調達や運用の負担が大きく、資源の拡張性はパブリッククラウドに劣る。

パブリッククラウドとプライベートクラウドやオンプレミスの環境など、異なる形態の環境を連携させて1つのシステムとして利用する形態。機密性の高いデータは自社の環境に置き、需要の変動が大きい処理や分析基盤はパブリッククラウドを使うといった使い分けができる。環境間のネットワーク接続、データの移動、運用管理の統一が課題となる。