IT用語帳
PD-Sデータベース · データベース応用

HDFS(Hadoop Distributed File System)

Hadoop Distributed File System

えいちでぃーえふえす

Apache Hadoopの分散ファイルシステム。大きなファイルを一定の大きさのブロックに分割し、各ブロックを複数のサーバ(データノード)に複製して保存する。ファイルとブロックの対応はネームノードが管理する。大きなファイルを先頭から順に読む処理に向き、小さなファイルが多数ある用途やファイルの一部の書換えには向かない。

共有:

Related

他の資格での定義

Related

関連キーワードの用語

PD-S分散処理フレームワーク

大量のデータを多数のサーバに分散して並列に処理するためのソフトウェア基盤。データの分割と配置、処理の割当て、障害時の再実行などを自動で行い、開発者は処理の内容を記述するだけで済む。Apache Hadoop(MapReduce)やApache Sparkが代表的。

PD-SGlusterFS

複数のサーバの記憶領域を束ねて、1つの大きなファイルシステムとして提供するオープンソースの分散ファイルシステム。メタデータを管理する専用のサーバを持たず、ハッシュ計算でファイルの格納先を決めるため、単一障害点がなく、サーバを追加して容量を拡張できる。

PD-SApache Hive

Hadoop上の大量のデータに対して、SQLに似た言語(HiveQL)で問合せを行えるようにするデータウェアハウスのソフトウェア。問合せを分散処理のジョブに変換して実行するため、大量のデータの一括集計に向くが、応答は速くない。

APクライアントキャッシュ

分散データベースや分散ファイルシステムで、サーバから取得したデータの複製をクライアントの側に一時的に保持しておく仕組み。同じデータへの再アクセスを手元で処理できるので、応答が速くなり、通信量とサーバの負荷も減る。サーバの側でデータが更新されたときに、複製との一貫性をどう保つかが課題となる。