Apache Hive
Apache Hive
あぱっちはいぶ
Hadoop上の大量のデータに対して、SQLに似た言語(HiveQL)で問合せを行えるようにするデータウェアハウスのソフトウェア。問合せを分散処理のジョブに変換して実行するため、大量のデータの一括集計に向くが、応答は速くない。
Related
他の資格での定義
Hadoop上の大規模データを、SQLに似た言語のHiveQLで問い合わせるためのデータウェアハウス用のソフトウェア。HiveQLの問合せはMapReduce、Tez、Sparkの分散処理に変換して実行され、表の定義と格納場所を管理するHiveメタストアはSparkやPresto(Trino)など他の処理エンジンからも共通に使われる。大量データのバッチ処理に向き、対話的な問合せには応答が遅い。
Hadoop上の大量のデータに対して、SQLに似た言語(HiveQL)で問合せを行えるようにするデータウェアハウスのソフトウェア。問合せを分散処理のジョブに変換して実行するため、大量のデータの一括集計に向くが、応答は速くない。
Related
関連キーワードの用語
大量のデータを多数のサーバに分散して並列に処理するためのソフトウェア基盤。データの分割と配置、処理の割当て、障害時の再実行などを自動で行い、開発者は処理の内容を記述するだけで済む。Apache Hadoop(MapReduce)やApache Sparkが代表的。
Apache Hadoopの分散ファイルシステム。大きなファイルを一定の大きさのブロックに分割し、各ブロックを複数のサーバ(データノード)に複製して保存する。ファイルとブロックの対応はネームノードが管理する。大きなファイルを先頭から順に読む処理に向き、小さなファイルが多数ある用途やファイルの一部の書換えには向かない。
表のデータを行単位ではなく列単位にまとめて格納するデータベース。集計に必要な列だけを読めばよく、同じ列には似た値が並ぶため圧縮率も高いので、大量の行を対象にした分析処理(OLAP)に向く。1行ずつの挿入や更新は行指向より不利で、データウェアハウス向けの製品やクラウドのDWHサービスに多く採用されている。
検索性能を上げるために、正規化した表をあえて統合したり、導出項目や他の表の項目を重複して持たせたりすること。結合の回数を減らせるので参照が速くなるが、同じデータを複数箇所で更新する必要が生じ、整合性を保つ仕組み(トリガや更新手順)が別に要る。参照が中心のデータウェアハウスのスタースキーマなどで使われる。
列の値ごとに、各行がその値を持つかを1ビットで表したビット列(ビットマップ)を持つ索引。性別や地域のように値の種類が少ない(カーディナリティが低い)列に向き、複数の条件のAND・ORをビット演算で高速に求められる。更新のたびにビットマップを書き換える負荷が大きいので、更新の少ないデータウェアハウスで使われる。
データアーキテクチャの形態の一つで、組織のデータを中央の1つのデータベースやデータ基盤に集約して一元的に管理する方式。データの整合性の維持や管理・統制がしやすく、全社横断の分析に向くが、中央の基盤に負荷が集中し、障害時の影響が全体に及びやすい。
