【自然科学の統計学】第4章：最尤法

数式が理解できない部分が多々あったので、イメージだけポツポツ書いてきます。

最尤法

• 一般線形モデルの推測に、最小二乗法に変わって用いられる。
• 尤度：確率分布を未知母数θの関数と見て、与えられた全ての標本について、確率を掛け合わせたもの。
• 尤度を最大化するθを最尤推定量と呼ぶ
• 積を和に変換するため対数を取ることが多く、対数尤度の微分を０遠いた方程式を尤度方程式と言う
• 最尤推定量は、nが大の時、真の値に確率収束する（一致性）
• 最尤推定量の分布は漸近的に、クラメール・ラオの下限を分散とする正規分布になる。（漸近有効性）

クラメール・ラオの下限

• 不偏推定量の分散の下限値
• フィッシャー情報量の逆数になる
• クラメール・ラオの下限を達成する不偏推定量を有効推定量と呼ぶ

尤度比検定

帰無仮説：H0 : 最尤推定量 = 母数θ
複合対立仮説：H1 : 最尤推定量 != 母数θ

の検定をする際、それぞれのθについての尤度の比を検定量とすることを考える。 棄却域は

2 * log(尤度比）> 自由度１のカイ二乗分布のパーセント点

で定義される。

まとめ

• 最尤法のイメージが掴めた
• 最尤法を深掘っていくと、nが大の時には数学的に最適な推定量となる
• 最尤推定量の妥当性は、尤度比検定（もしくはefficient score...?）で検定する。