線形回帰

目的変数を説明変数の一次式（直線や平面）で表して予測する回帰の手法。予測値と実測値の誤差の二乗和が最小になるように係数を求める（最小二乗法）。説明変数が1つのものを単回帰、複数のものを重回帰という。

目的変数を、説明変数（特徴量）に重みを掛けて足し合わせた1次式（と切片）で予測する回帰のモデル。予測値と実測値の誤差の二乗和を最小にする最小二乗法で重みを求め、説明変数が1つなら単回帰、複数なら重回帰に当たる。重みから各特徴量の影響を解釈しやすい反面、非線形の関係は表せず、過学習を抑えるためにL2正則化（リッジ回帰）やL1正則化（ラッソ回帰）を加えることがある。

教師あり学習で扱う問題の一つで、入力データがあらかじめ決められたどのカテゴリ（クラス）に属するかを予測すること。迷惑メールの判定や画像に写った物体の識別などが例で、ロジスティック回帰、決定木、サポートベクトルマシンなどの手法が使われ、正解率、適合率、再現率などで評価する。

入力データと、それに対応する正解（ラベル）の組を大量に与えて、入力から正解を予測する規則をモデルに学習させる機械学習の手法。数値を予測する回帰と、カテゴリを予測する分類が代表的で、正解ラベルを付けたデータの準備に手間がかかる。

ある変数（目的変数）の値を、他の変数（説明変数）の値から説明・予測する関係式を求める統計手法。説明変数が1つなら単回帰分析、複数なら重回帰分析といい、最小二乗法で係数を求め、当てはまりのよさを決定係数で評価する。需要予測や要因分析に使う。

過去の販売実績や市場の動向などのデータをもとに、将来の製品やサービスの需要量を予測すること。移動平均法や指数平滑法などの時系列分析、最小二乗法による回帰分析、専門家の意見を集約するデルファイ法などを用い、生産計画、在庫管理、要員計画の基礎になる。

1つの説明変数で目的変数を説明・予測する回帰分析。データの関係を y＝ax＋b の直線（回帰直線）で表し、係数は最小二乗法で求める。

回帰モデルが目的変数のばらつきをどれだけ説明できているかを表す指標で、R²と書く。1から（残差の二乗和÷目的変数の平均からの偏差の二乗和）を引いて求め、1に近いほど当てはまりがよく、平均値で予測するのと同等なら0になる。説明変数を増やすと見かけ上大きくなるので、変数の数を考慮した自由度調整済み決定係数で比べることがある。