線形回帰

目的変数を説明変数の一次式（直線や平面）で表して予測する回帰の手法。予測値と実測値の誤差の二乗和が最小になるように係数を求める（最小二乗法）。説明変数が1つのものを単回帰、複数のものを重回帰という。

目的変数を、説明変数の一次式（重み付きの和と定数）で表して予測する回帰の手法で、予測値と実測値の誤差の二乗和が最小になるように係数を求める（最小二乗法）。説明変数が1つの単回帰と、複数の重回帰がある。単純で解釈しやすいが、非線形の関係は表現できない。

ある変数（目的変数）の値を、他の変数（説明変数）の値から説明・予測する関係式を求める統計手法。説明変数が1つなら単回帰分析、複数なら重回帰分析といい、最小二乗法で係数を求め、当てはまりのよさを決定係数で評価する。需要予測や要因分析に使う。

1つの説明変数で目的変数を説明・予測する回帰分析。y＝a＋bxの回帰直線を最小二乗法で求め、回帰係数bは説明変数が1単位増えたときの目的変数の変化量を表す。当てはまりのよさは決定係数R²で評価する。

入力データと正解（ラベル）の組を大量に学習させ、未知のデータに対する正解を予測するモデルを作る機械学習の手法。数値を予測する回帰と、所属するクラスを判定する分類があり、売上予測、り患予測、成約予測、離反予測などに使われる。正解付きのデータを用意する費用と、その品質が精度を左右する。

教師あり学習の課題のうち、入力がどのカテゴリ（クラス）に属するかを予測するもの。迷惑メールか否かのような2クラス分類と、3つ以上のクラスから選ぶ多クラス分類がある。ロジスティック回帰、決定木、サポートベクトルマシン、ニューラルネットワークなどを使い、正解率、適合率、再現率、F値、AUCで評価する。

回帰モデルが目的変数のばらつきをどれだけ説明できているかを表す指標で、R²と書く。1から（残差の二乗和÷目的変数の平均からの偏差の二乗和）を引いて求め、1に近いほど当てはまりがよく、平均値で予測するのと同等なら0になる。説明変数を増やすと見かけ上大きくなるので、変数の数を考慮した自由度調整済み決定係数で比べることがある。

回帰モデルの評価指標の一つで、予測値と実測値の差を二乗して平均し、その平方根をとった値。目的変数と同じ単位で誤差の大きさを表す。差を二乗するので大きな誤差ほど強く効き、外れ値の影響を受けやすい。