HDFS(Hadoop Distributed File System)
Hadoop Distributed File System
えいちでぃーえふえす
Apache Hadoopの分散ファイルシステム。大きなファイルを一定の大きさのブロックに分割し、各ブロックを複数のサーバ(データノード)に複製して保存する。ファイルとブロックの対応はネームノードが管理する。大きなファイルを先頭から順に読む処理に向き、小さなファイルが多数ある用途やファイルの一部の書換えには向かない。
Related
他の資格での定義
Apache Hadoopの分散ファイルシステム。大きなファイルを一定の大きさのブロックに分割し、各ブロックを複数のサーバ(データノード)に複製して保存する。ファイルとブロックの対応はネームノードが管理する。大きなファイルを先頭から順に読む処理に向き、小さなファイルが多数ある用途やファイルの一部の書換えには向かない。
Apache Hadoopの分散ファイルシステム。ファイルを大きなブロック(標準128Mバイト)に分割し、各ブロックを複数のデータノードに複製(標準3つ)して格納し、どのブロックがどこにあるかというメタデータはネームノードが管理する。大きなファイルを一度書いて何度も順次読む用途で高いスループットが出るよう設計されており、小さいファイルの大量格納や低遅延のランダムアクセスには向かない。
Related
関連キーワードの用語
大量のデータを多数のサーバに分散して並列に処理するためのソフトウェア基盤。データの分割と配置、処理の割当て、障害時の再実行などを自動で行い、開発者は処理の内容を記述するだけで済む。Apache Hadoop(MapReduce)やApache Sparkが代表的。
複数のサーバの記憶領域を束ねて、1つの大きなファイルシステムとして提供するオープンソースの分散ファイルシステム。メタデータを管理する専用のサーバを持たず、ハッシュ計算でファイルの格納先を決めるため、単一障害点がなく、サーバを追加して容量を拡張できる。
Hadoop上の大量のデータに対して、SQLに似た言語(HiveQL)で問合せを行えるようにするデータウェアハウスのソフトウェア。問合せを分散処理のジョブに変換して実行するため、大量のデータの一括集計に向くが、応答は速くない。
分散データベースや分散ファイルシステムで、サーバから取得したデータの複製をクライアントの側に一時的に保持しておく仕組み。同じデータへの再アクセスを手元で処理できるので、応答が速くなり、通信量とサーバの負荷も減る。サーバの側でデータが更新されたときに、複製との一貫性をどう保つかが課題となる。
