異常値

入力の誤り、測定機器の故障、システムの不具合など、原因が特定できる誤りによって生じた、本来あり得ない値。年齢が負の数である、存在しない日付であるといった、取り得る範囲や業務上の制約から外れた値が該当する。正しい値が分かれば修正し、分からなければ削除するか欠損値として扱う。

データが利用目的に照らしてどの程度適切に使える状態にあるかの度合い。正確性、完全性、一貫性、最新性などの特性で評価し、品質が低いと分析の結果や意思決定を誤らせるため、測定と改善を継続的に行う。

本来値が入るべき項目にデータが存在しない状態、またはその項目。対処には、欠損を含むレコードや項目を分析から除外する方法と、平均値・中央値・最頻値や前後の値、回帰などによる予測値で補完する方法があり、欠損が生じた理由によって結果に偏りが生じないかに注意する。

他の多くの観測値から大きく離れた値。箱ひげ図や、平均から標準偏差の3倍以上離れているかなどの基準で検出する。入力ミスなどの誤りであれば修正・削除するが、まれでも正しい値は重要な情報を含むため、原因を確かめてから扱いを決める。

同じ意味の語や値が、異なる書き方で記録されていること。全角と半角、「株式会社」と「(株)」、旧字体と新字体、住所の書き方の違いなどがあり、集計や名寄せの誤りの原因になる。データクレンジングで、変換ルールや辞書を用いて表記を統一する。

収集したデータを分析や機械学習に使える状態に整える作業の総称。データの探索、クレンジング、形式の変換、結合、集計、特徴量の作成などを含み、専用のツールを使って業務部門の利用者自身が行うこともある。分析作業の多くの時間を占めるとされる。

複数のデータに分散して登録されている同一の人物や企業などを、氏名・住所・電話番号などの照合によって特定し、1つにまとめること。表記ゆれや入力の誤りがあると同一と判定できないため、事前に表記を統一し、一致とみなす基準を決めて行う。顧客データの統合や重複の排除に用いる。