※上記の広告は60日以上更新のないWIKIに表示されています。更新することで広告が下部へ移動します。

最尤法 とは


まずはざっくり
手持ちのデータがあるモデルに従う時、データを最も良く説明するようにパラメーターθの値を推定する方法。


もちょいきちんと
手持ちのデータxの値が、ある関数(モデル)に従うとする。
このモデルはパラメータθの値によって正確な式が完成される。
ちなみに、パラメーターは一つ以上のベクトルであり、全体をθと表している
このとき、手持ちのデータを与える確率が一番高くなる(データをもっともよく説明する)ようにパラメーターを推定するのが最尤法である。


式で言えば
θを与えられた時にデータxを得る条件付き確率f(x|θ)を最大にするようにθを推定する方法。


例を挙げると
ある人間の集団で身長の分布を推定したい。
しかし、全員の身長を測る事はできないので、
その中から100人をランダムに選び、身長を測定する事で
母集団の身長の分布を推定する。
この100人のデータをそれぞれ
x1,x2,.......,x100とし、母集団の身長の分布がある値のベクトルθで規定されるとする。
このθが与えられたとき、それぞれのデータを得る確率は
f(x1|θ),f(x2|θ),f(x3|θ),.....,f(x100|θ)
各データは独立なので、
θが与えられた時にこの100人分のデータを得る確率はそれぞれの確率のかけ算で与えられる。
L(θ)=f(x1|θ)xf(x2|θ)xf(x3|θ)x.....xf(x100|θ)=Πf(xi|θ)
このL(θ)をθの尤度関数と呼び、この尤度関数を最大にするθを
最尤推定値として採用する。
実際には尤度関数の対数、l(θ)=log{L(θ)}が
尤度関数の大小を比べるときに用いられる。
(尤度関数でかけ算をしなければならないところを
足し算で済ませる事ができる)

ちなみに、
先ほどの例で、母集団が正規分布する事のみわかっていて(モデル)、
平均μと分散σ^2を推定したい場合、
θ={μ,σ^2}をいろいろ動かして、Πf(xi|θ)を最大にするθを求める。

関連項目
最尤推定で配列間の距離を求める
最尤推定で系統樹を作成する