質的回帰

1. Q1 · 準1級 · 暗記 · 4択

   性別(男性・女性)のような質的変数(カテゴリカル変数)を回帰分析の説明変数として用いる際に、一般的に行われる方法はどれか。
   • 0と1などの数値を割り当てたダミー変数に変換して説明変数に加える
   • カテゴリ名の文字列をそのまま回帰式に代入する
   • 質的変数は回帰分析の説明変数として使うことはできない
   • カテゴリの水準数をそのまま目的変数として扱う

   答え

   0と1などの数値を割り当てたダミー変数に変換して説明変数に加える

   ダミー変数とは

   例えば性別であれば「女性なら1、男性なら0」のように、ある水準に該当するかどうかを0/1の数値で表した変数をダミー変数という。これにより質的な情報を通常の重回帰モデルの枠組みに取り込むことができる。

2. Q2 · 準1級 · 暗記 · 4択

   あるカテゴリ変数が3つの水準(例:「A」「B」「C」)を持つとき、基準となる水準を1つ定めて回帰分析の説明変数として用いる場合、必要なダミー変数の個数として正しいものはどれか。
   • 2個
   • 3個
   • 1個
   • 4個

   答え

   2個

   なぜ水準数より1つ少ないのか

   水準の数だけダミー変数(A・B・Cそれぞれの該当有無)を作ってしまうと、3つのダミー変数の値が常に「合計1」という関係で完全に従属してしまい、定数項を含む回帰式が一意に定まらなくなる(ダミー変数トラップと呼ばれる多重共線性の問題)。 このため、基準となる水準(例えば「A」)を1つ定めて除外し、残り2水準分のダミー変数だけを用いる。

3. Q3 · 準1級 · 暗記 · 4択

   目的変数が0/1のような質的変数である場合に、通常の線形回帰(最小二乗法)をそのまま当てはめることの問題点として、適切なものはどれか。
   • 予測値が0未満や1を超える値をとり得るため、確率としての解釈ができなくなる
   • 計算量が非常に多くなり、実用上ほとんど計算できなくなる
   • 説明変数を1つしか使えなくなってしまう
   • 決定係数 $R^2$ をそもそも計算できなくなる

   答え

   予測値が0未満や1を超える値をとり得るため、確率としての解釈ができなくなる

   ロジスティック回帰が使われる理由

   線形回帰の予測式 $\hat{y} = a + bx$ は理論上どんな実数値もとりうるため、確率として扱いたい0/1の目的変数には適さない。予測値を必ず0から1の範囲に収めるロジスティック関数を使うことで、この問題を回避したのがロジスティック回帰である。

4. Q4 · 準1級 · 暗記 · 4択

   目的変数が「合格/不合格」のように2値(0/1)である場合に、その確率を説明変数から予測するためによく用いられる回帰分析の手法として、代表的なものはどれか。
   • ロジスティック回帰
   • 単回帰分析
   • 主成分分析
   • 分散分析

   答え

   ロジスティック回帰

   ロジスティック回帰のモデル

   説明変数 $x$ に対して、目的変数が1となる確率 $p$ を次のロジスティック関数(シグモイド関数)で表す。 $$ p = \frac{1}{1 + e^{-(\beta_0 + \beta_1 x)}} $$ $\beta_0 + \beta_1 x$ がどんな実数値をとっても右辺は必ず0から1の間に収まるため、予測値を「合格する確率」のような確率として解釈できる。

   係数 $\beta_0, \beta_1$ は最小二乗法ではなく、最尤法で推定するのが一般的である。各観測値が「確率 $p$ で1、確率 $1-p$ で0」をとるベルヌーイ分布に従うとみなして尤度を立て、それを最大にする係数を求める。

5. Q5 · 準1級 · 暗記 · 4択

   ロジスティック回帰では、目的変数が1となる確率を $p$ とするとき、オッズ $\dfrac{p}{1-p}$ の対数(ロジット)が説明変数の線形結合として表される。 このモデルにおける回帰係数の解釈として、正しいものはどれか。
   • 説明変数が1単位増加すると、オッズの対数(ロジット)が回帰係数の分だけ変化する
   • 説明変数が1単位増加すると、確率 $p$ そのものが回帰係数の分だけ変化する
   • 説明変数が1単位増加すると、オッズは必ず2倍になる
   • ロジスティック回帰の係数は相関係数と全く同じ意味を持つ

   答え

   説明変数が1単位増加すると、オッズの対数(ロジット)が回帰係数の分だけ変化する

   オッズ比との関係

   回帰係数を $\beta$ とすると、説明変数が1単位増加したときのオッズの変化倍率(オッズ比)は $e^{\beta}$ で表される。確率 $p$ 自体は非線形にしか変化しないため、「確率が回帰係数の分だけ変化する」わけではない点に注意が必要である。

6. Q6 · 準1級 · 計算 · 一問一答

   あるロジスティック回帰モデルにおいて、説明変数 $x$ の回帰係数が $0.4$ と推定された。 $x$ が1単位増加したときのオッズ比(オッズの変化倍率)を求めよ(小数第3位を四捨五入)。

   答え

   1.49

   解き方

   オッズ比は回帰係数 $\beta$ を用いて $e^{\beta}$ で求められる。

   $$ e^{0.4} \approx 1.4918 $$ 小数第3位を四捨五入して $1.49$ となる。

← 解説記事一覧に戻る