データレイク
Data Lake
でーたれいく
構造化データだけでなく、ログ、画像、文書などの半構造化データや非構造化データも、元の形式のまま大量に蓄積する保存基盤。利用時にスキーマを適用するスキーマオンリードを採り、機械学習や探索的な分析に向くが、メタデータ管理が不十分だと中身の分からないデータスワンプになる。
Related
他の資格での定義
構造化・半構造化・非構造化データをそのままの形式で大量に蓄積するストレージ基盤。データウェアハウスと異なり、事前のスキーマ定義なしにデータを格納し、必要時に加工・分析を行う。
構造化データ、半構造化データ、非構造化データを元の形式のまま一元的に蓄積する大規模ストレージ。データウェアハウスとは異なりスキーマを事前に定義せず、分析時に必要に応じてデータを整形する。
構造化データ、半構造化データ、非構造化データを元の形式のまま大量に蓄積するストレージ基盤。データウェアハウスと異なり、格納時にスキーマを定義する必要がなく(スキーマオンリード)、多様なデータソースからの生データを柔軟に保持できる。
構造化データ・非構造化データを問わず、生データをそのままの形式で大量に蓄積するストレージ基盤。データウェアハウスが事前にスキーマを定義して格納するのに対し、データレイクはスキーマオンリードの方式で柔軟な分析を可能にする。
構造化・半構造化・非構造化を問わず、あらゆるデータを元の形式のまま一元的に蓄積する大規模データストレージ。データウェアハウスと異なり、格納時にスキーマを定義する必要がなく、分析時にスキーマを適用する(スキーマオンリード)。
構造化・非構造化を問わず、さまざまな形式のデータをそのままの形で蓄積する大規模ストレージ。IoTデバイスから収集したセンサデータ、ログ、画像データなどを一元管理し、後から分析やAI学習に活用する。AWS S3やAzure Data Lakeが代表的。
構造化・非構造化を問わず、生データをそのままの形で大量に蓄積する保管領域。用途を決めずに貯められる反面、メタデータ管理を怠るとデータスワンプに陥る。
構造化データに加え、ログ、JSON、画像、音声などの半構造化・非構造化データを、加工せずに元の形式のまま大量に蓄積するリポジトリ。スキーマオンリードで利用時に構造を解釈するため、用途を決めずに取り込めて機械学習の素材にもなるが、メタデータやデータカタログで管理しないと中身の分からないデータスワンプになる。
Past Exams
過去問での出題
過去問で 5 回出題(応用情報技術者試験 2・情報セキュリティマネジメント試験 1・データベーススペシャリスト試験 1・高度試験 午前Ⅰ 1)。うち 4 回は用語そのものを問う問題です。
出典: 独立行政法人情報処理推進機構(IPA)の過去問題。問題文は IPA のサイトの PDF で確認できます。「用語を問う問題」は、この用語の説明や特徴そのものを問う問題です。「選択肢」は、問題文ではなく選択肢に出たものです。用語名で照合しているため、関係の薄い問題が含まれることがあります。
Related
関連キーワードの用語
データソースから抽出(Extract)したデータを、変換せずにまずデータレイクやクラウド型のデータウェアハウスに格納(Load)し、格納先の処理能力を使って必要に応じて変換(Transform)する方式。ETLと処理の順序が逆で、大量のデータを速く取り込め、元のデータを残したまま用途に応じた加工ができる。
データを格納する前にスキーマ(構造の定義)を決め、それに合うよう変換・検証してから書き込む方式。リレーショナルデータベースやデータウェアハウスで採られ、データの品質と問合せの性能を確保しやすいが、新しい種類のデータを取り込むにはスキーマの設計変更が要る。
行と列からなる表形式のように、あらかじめ定めた形式(スキーマ)に従って項目と値が整理されたデータ。リレーショナルデータベースの表やCSVファイルが代表例で、SQLなどで検索・集計しやすい。
JSON、XML、ログのように、表形式の固定されたスキーマは持たないが、タグやキーによってデータ自身が項目名と階層構造を表すデータ。レコードごとに項目が違ってもよく柔軟に扱えるが、分析では必要な項目を取り出して表形式に展開する処理が要ることが多い。
