データレイク
Data Lake
でーたれいく
構造化データ、半構造化データ、非構造化データを元の形式のまま一元的に蓄積する大規模ストレージ。データウェアハウスとは異なりスキーマを事前に定義せず、分析時に必要に応じてデータを整形する。
Related
他の資格での定義
構造化・半構造化・非構造化データをそのままの形式で大量に蓄積するストレージ基盤。データウェアハウスと異なり、事前のスキーマ定義なしにデータを格納し、必要時に加工・分析を行う。
構造化データ、半構造化データ、非構造化データを元の形式のまま大量に蓄積するストレージ基盤。データウェアハウスと異なり、格納時にスキーマを定義する必要がなく(スキーマオンリード)、多様なデータソースからの生データを柔軟に保持できる。
構造化データ・非構造化データを問わず、生データをそのままの形式で大量に蓄積するストレージ基盤。データウェアハウスが事前にスキーマを定義して格納するのに対し、データレイクはスキーマオンリードの方式で柔軟な分析を可能にする。
構造化・半構造化・非構造化を問わず、あらゆるデータを元の形式のまま一元的に蓄積する大規模データストレージ。データウェアハウスと異なり、格納時にスキーマを定義する必要がなく、分析時にスキーマを適用する(スキーマオンリード)。
構造化・非構造化を問わず、さまざまな形式のデータをそのままの形で蓄積する大規模ストレージ。IoTデバイスから収集したセンサデータ、ログ、画像データなどを一元管理し、後から分析やAI学習に活用する。AWS S3やAzure Data Lakeが代表的。
構造化・非構造化を問わず、生データをそのままの形で大量に蓄積する保管領域。用途を決めずに貯められる反面、メタデータ管理を怠るとデータスワンプに陥る。
構造化データに加え、ログ、JSON、画像、音声などの半構造化・非構造化データを、加工せずに元の形式のまま大量に蓄積するリポジトリ。スキーマオンリードで利用時に構造を解釈するため、用途を決めずに取り込めて機械学習の素材にもなるが、メタデータやデータカタログで管理しないと中身の分からないデータスワンプになる。
構造化データだけでなく、ログ、画像、文書などの半構造化データや非構造化データも、元の形式のまま大量に蓄積する保存基盤。利用時にスキーマを適用するスキーマオンリードを採り、機械学習や探索的な分析に向くが、メタデータ管理が不十分だと中身の分からないデータスワンプになる。
Past Exams
過去問での出題
過去問で 5 回出題(応用情報技術者試験 2・情報セキュリティマネジメント試験 1・データベーススペシャリスト試験 1・高度試験 午前Ⅰ 1)。うち 4 回は用語そのものを問う問題です。
出典: 独立行政法人情報処理推進機構(IPA)の過去問題。問題文は IPA のサイトの PDF で確認できます。「用語を問う問題」は、この用語の説明や特徴そのものを問う問題です。「選択肢」は、問題文ではなく選択肢に出たものです。用語名で照合しているため、関係の薄い問題が含まれることがあります。
Related
関連キーワードの用語
データそのものではなく、データの意味・形式・作成日時・出所などを説明するデータ。「データについてのデータ」と呼ばれる。データの意味を正しく解釈し、検索・管理するために欠かせない。
データベースで扱う表・列・データ型・制約などの定義情報を一元的に登録した辞書。DBMSが内部で保持し、利用者や開発者はここを参照してデータの意味と構造を確認できる。
データを2次元の表(テーブル、リレーション)の集合として管理するデータベース。行(タプル)と列(属性)で構成され、テーブル間をキーで関連付けてデータの整合性を維持する。SQLによる操作が標準的で、最も広く普及しているデータベース形式。
データベースの定義・操作・制御・保全を一元的に管理するソフトウェア。同時実行制御、障害回復、データ機密保護などの機能を提供する。Oracle、MySQL、PostgreSQLなどが代表的で、ミドルウェアとしてOSとアプリケーションの間に位置する。
関係データベース以外のデータベースの総称。キーバリュー型、ドキュメント指向、列指向、グラフ型などがあり、大量データの分散処理やスキーマレスな柔軟なデータ構造に対応できる。
データベースの構造を外部スキーマ(利用者やプログラムから見たデータの定義)、概念スキーマ(データベース全体の論理的構造)、内部スキーマ(物理的な記憶構造)の3層に分けて管理する方式。データの独立性を高める。
