HBM
High Bandwidth Memory
えいちびーえむ
複数のDRAMのチップを垂直に積み重ね、チップを貫く電極(TSV)で接続して、プロセッサの近くに実装する広帯域のメモリ。非常に多くの信号線で並列にデータを転送するため、従来のDRAMより桁違いに高い転送速度を少ない電力で実現する。AIの学習・推論に使うGPUやHPC向けのプロセッサに使われる。
Related
関連キーワードの用語
大規模言語モデル等を用いて、テキスト・画像・音声・プログラムコードなどの新たなコンテンツを自動生成するAI技術。業務効率化に活用される一方、ハルシネーション(事実に基づかない出力)やセキュリティリスク、著作権上の課題がある。
エッジデバイス上でAI(機械学習モデル)の推論処理を行う技術。クラウドに依存せずリアルタイムの判断が可能で、プライバシー保護やネットワーク帯域の削減にも寄与する。NPU(ニューラルプロセッシングユニット)搭載のSoCが増えている。
AI技術を活用してIT運用を自動化・高度化するアプローチ。機械学習を用いたログ分析、異常検知、障害予測、自動復旧などを実現する。大量のシステム運用データからパターンを学習し、運用管理の効率化と品質向上を図る。
大量のテキストデータで学習された巨大なニューラルネットワークモデル。自然言語の理解・生成に優れ、生成AIの中核技術として文章作成・要約・翻訳・プログラミング支援などに活用される。プロンプトインジェクションなどのセキュリティリスクへの対策も重要となる。
機械学習(ML)モデルの開発・運用・管理を効率的に行うための手法や仕組み。DevOpsの考え方を機械学習に適用し、モデルの学習・評価・デプロイ・監視のライフサイクルを自動化・体系化する。
生成AIに自然言語で意図を伝え、出力されたコードを試しながら開発を進める方法。素早く形にできる一方、生成物の妥当性の検証が課題となる。
