決定木

データの特徴量や条件に基づいて分岐を木構造で表現し、分類・回帰・意思決定を行う手法。結果の解釈が容易で可視化しやすい。機械学習ではランダムフォレストの基礎となり、意思決定分析では期待値やリスクの評価に用いられる。

データを条件分岐により樹形図状に分類・予測する分析手法。各ノードで属性の条件による分割を繰り返し、分類ルールを自動的に導出する。結果の解釈が容易な特徴がある。

特徴量に関する条件で、データを木の形に繰り返し分岐させて予測を行う機械学習のモデル。各分岐では、ジニ不純度やエントロピー（情報利得）が最もよく減る特徴量と分割点を選び、分類にも回帰にも使える。判断の根拠を人が読み取りやすい一方、深く育てると過学習しやすいので深さの制限や枝刈りを行い、ランダムフォレストや勾配ブースティングの基本の部品になる。

データを特徴量の条件で繰り返し分岐させた木構造のモデルで、分類や回帰を行う機械学習の手法。分岐の基準にはジニ不純度や情報利得（エントロピーの減少）を使う。判断の過程が分かりやすく説明性が高いが、過学習しやすいため、ランダムフォレストなどのアンサンブル学習の基礎として使われる。

データからパターンや規則性を自動的に学習し、予測や分類を行う技術の総称。教師あり学習、教師なし学習、強化学習に大別される。学習データから汎化能力を獲得し、未知データに対する推論を可能にする。

入力データと正解ラベルのペアから学習する手法。回帰（数値予測）と分類（カテゴリ分け）に大別される。線形回帰、ロジスティック回帰、決定木、サポートベクトルマシン、ニューラルネットワークなどが代表的なアルゴリズム。

正解ラベルのないデータから構造やパターンを発見する手法。クラスタリング（k-means法など）や次元削減（主成分分析など）が代表的。データの潜在的なグループ分けや特徴抽出に用いられる。

エージェントが環境と相互作用し、報酬を最大化する行動方策を学習する手法。試行錯誤を通じて最適な行動を獲得する。Q学習やSARSAが代表的なアルゴリズムで、ゲームAIやロボット制御に応用される。

データ間のマージン（境界からの距離）を最大化する超平面で分類を行う機械学習手法。カーネルトリックにより非線形分類にも対応でき、汎化能力が高い。少数のサポートベクトルで決定境界が定まるため、解釈性にも優れる。

モデルが訓練データに過度に適合し、未知データに対する汎化性能が低下する現象。訓練誤差が小さくても検証誤差が大きい状態。正則化、ドロップアウト、早期打切り、データ拡張などで対策する。バイアスとバリアンスのトレードオフが背景にある。