データクレンジング
Data Cleansing
でーたくれんじんぐ
データの誤り、欠損、重複、表記ゆれなどを検出し、修正・補完・削除して、分析や業務に使える品質に整える作業。欠損値の補完・除外、外れ値や異常値の修正・削除、重複の排除、表記ゆれの修正などを行う。原因となる入力や処理を直さないと問題が再発するため、データ品質改善の恒久対策と組み合わせる。
Related
他の資格での定義
データベースに格納されたデータの中から、重複、誤記、表記ゆれなどの不備を発見し、修正・統一する作業。データの品質を高め、正確な分析や活用を可能にする。
データベースに格納されたデータから、誤り、重複、不整合、表記ゆれなどを検出・修正し、データ品質を向上させる作業。データウェアハウスへのデータ統合時や分析の前処理として実施される。
表記の揺れ、重複、欠損、明らかな誤りを検出して修正・統一し、分析に耐えるデータに整える作業。データウェアハウスへの取込み前に行われ、分析結果の信頼性を左右する重要な工程となる。
データベースに蓄積された不正確・不完全・重複するデータを検出し、修正・削除・統合する作業。データ品質の向上を目的とし、データ移行やデータウェアハウス構築の前処理として実施される。
データに含まれる誤りや不備を修正して品質を高める作業。欠損値の補完・除外、外れ値や異常値の修正・削除、重複の排除、表記ゆれの統一などを行う。
データに含まれる誤り、欠損、重複、表記ゆれ、外れ値などを検出し、修正・補完・削除して品質を高める作業。分析や機械学習の前処理として行い、欠損値の補完・除外、異常値の修正、重複の排除、表記ゆれの統一、名寄せなどの手法を用いる。
Past Exams
過去問での出題
過去問で 14 回出題(データベーススペシャリスト試験 4・ITパスポート試験 3・システムアーキテクト試験 2・ITサービスマネージャ試験 2・情報セキュリティマネジメント試験 1・応用情報技術者試験 1・情報処理安全確保支援士試験 1)
- 令和8年度 情報セキュリティマネジメント試験 公開問題 問11(IPA の PDF を新しいタブで開きます)
- 令和6年度 ITパスポート試験 公開問題 問63選択肢(IPA の PDF を新しいタブで開きます)
- 令和2年度 10月 データベーススペシャリスト試験 午前Ⅱ 問17選択肢(IPA の PDF を新しいタブで開きます)
- 平成30年度 春期 データベーススペシャリスト試験 午前Ⅱ 問19選択肢(IPA の PDF を新しいタブで開きます)
- 平成27年度 秋期 システムアーキテクト試験 午前Ⅱ 問21選択肢(IPA の PDF を新しいタブで開きます)
- 平成27年度 秋期 情報セキュリティスペシャリスト試験 午前Ⅱ 問21正解の選択肢(IPA の PDF を新しいタブで開きます)
- 平成27年度 秋期 ITサービスマネージャ試験 午前Ⅱ 問21選択肢(IPA の PDF を新しいタブで開きます)
- 平成27年度 春期 データベーススペシャリスト試験 午前Ⅱ 問19正解の選択肢(IPA の PDF を新しいタブで開きます)
- 平成24年度 秋期 ITパスポート試験 問5選択肢(IPA の PDF を新しいタブで開きます)
- 平成24年度 春期 データベーススペシャリスト試験 午前Ⅱ 問20正解の選択肢(IPA の PDF を新しいタブで開きます)
出典: 独立行政法人情報処理推進機構(IPA)の過去問題。問題文は IPA のサイトの PDF で確認できます。「選択肢」は、問題文ではなく選択肢に出たものです。用語名で照合しているため、関係の薄い問題が含まれることがあります。
Related
関連キーワードの用語
Webサイトの行動履歴、購買履歴、アプリの利用状況、顧客属性など、複数の経路で得た顧客データを個人単位で統合・管理し、分析や施策に活用するための基盤。名寄せで同一顧客のデータを1つにまとめ、セグメントを作ってMAツールや広告配信と連携し、一人ひとりに合わせたマーケティングを行う。同意の管理など個人情報の適正な取扱いが前提となる。
データ品質特性の一つで、対象の実体について期待されるすべての属性に値があり、必要なレコードがそろっている度合い。必須項目の欠損や対象レコードの欠落があると低下する。JIS X 25012では固有のデータ品質に属し、情報セキュリティの完全性(Integrity)とは別の概念である。
同じ対象や意味を表すデータが、異なる文字や書き方で記録されている状態。「株式会社」と「(株)」、全角と半角、旧字体と新字体、住所の番地の書き方の違いなどが該当する。集計や名寄せで同じものとして扱えなくなるため、表記の基準を決めて統一する。
組織内の複数のシステムに散在するマスターデータを統合し、正確で一貫した状態に維持して各業務やシステムに提供する取組みと仕組み。名寄せとクレンジングで信頼できるゴールデンレコードを作り、配信・同期で各システムにそろえる。実装方式にはレジストリ型、コンソリデーション型、コエグジスタンス型、集中管理型がある。
マスターデータ管理で、複数のシステムにある同一対象のレコードを名寄せし、項目ごとに最も信頼できる値を選んで作る、正とする唯一のレコード。どの値を採用するかは、項目ごとに正とする値を決める規則(サバイバーシップルール)に従う。
複数のシステムやデータソースに分散したデータを集め、形式や意味をそろえて一貫した形で利用できるようにすること。ETLやELTによる一括連携、APIやデータ仮想化による参照などの方式があり、コード体系の統一や名寄せが課題になる。
