欠損値

本来値があるべき箇所が空になっているデータ。除外すると件数が減り、平均値などで補完すると分布が歪むため、発生原因を踏まえて扱いを決める必要がある。

本来値があるべき箇所が空になっているデータ。除外すると件数が減り、平均値などで補完すると分布が歪むため、発生原因を踏まえて扱いを決める必要がある。

本来は値が入るべき項目に値が記録されていない状態、またはその項目。対処には、平均値や中央値、予測モデルで推定した値で埋める補完と、欠損を含むレコードや項目を分析から除く除外がある。欠損が特定の条件に偏って生じている場合に安易に除外すると、分析結果に偏りが生じる。

収集したデータを分析や機械学習に使える状態に整える作業の総称。データの探索、クレンジング、形式の変換、結合、集計、特徴量の作成などを含み、専用のツールを使って業務部門の利用者自身が行うこともある。分析作業の多くの時間を占めるとされる。

データ分析の前処理で、他から大きく外れた値（外れ値）、測定や入力の誤りによる値（異常値）、記録されていない値（欠損値）を見つけ、除外、補完、修正などを行うこと。そのまま分析すると結果に偏りが生じるため、原因を確かめて扱いを決める。

データが利用目的に照らしてどの程度適切に使える状態にあるかの度合い。正確性、完全性、一貫性、最新性などの特性で評価し、品質が低いと分析の結果や意思決定を誤らせるため、測定と改善を継続的に行う。

他の多くの観測値から大きく離れた値。箱ひげ図や、平均から標準偏差の3倍以上離れているかなどの基準で検出する。入力ミスなどの誤りであれば修正・削除するが、まれでも正しい値は重要な情報を含むため、原因を確かめてから扱いを決める。

外れ値のうち、測定機器の故障や入力・記録の誤りなど原因が特定でき、本来の値として扱うべきでないもの。原因を確かめて正しい値に修正するか、修正できなければ削除する。統計的に離れているだけで正しい可能性のある外れ値とは区別して扱う。

同じ意味の語や値が、異なる書き方で記録されていること。全角と半角、「株式会社」と「(株)」、旧字体と新字体、住所の書き方の違いなどがあり、集計や名寄せの誤りの原因になる。データクレンジングで、変換ルールや辞書を用いて表記を統一する。