解答一覧リンク
時間内答案
解いた感想
計算ミスさえ無ければ8割は正解できそう
[1]
\( \theta = e^{\mu} \) より \( \mu=log\theta \)
\( X \sim N(\mu,1) より、X_1,…,X_n から尤度関数L(\theta)は次式で表される。\)
$$ \begin{align}
L(\theta) &= \prod_{i=1}^n f(x_i:\theta) \\
&= \prod_{i=1}^n \frac{1}{\sqrt{2\pi}} \exp \biggl \lbrack -\frac{(x_i-\mu)^2}{2} \biggr \rbrack \\
&= \prod_{i=1}^n \frac{1}{\sqrt{2\pi}} \exp \biggl \lbrack -\frac{(x_i-\log \theta)^2}{2} \biggr \rbrack \\
\end{align} $$
\( 対数尤度関数 l(\theta)は次式で表される。\)
$$ \begin{align}
l(\theta) &= \log L(\theta) \\
&= \sum_{i=1}^n \log \Biggl( \frac{1}{\sqrt{2\pi}} \exp \biggl \lbrack -\frac{(x_i-\log \theta)^2}{2} \biggr \rbrack \Biggr) \\
&= \sum_{i=1}^n \Biggl \{ \log \frac{1}{\sqrt{2\pi}} – \frac{(x_i-\log \theta)^2}{2} \Biggr \} \\
\frac{\partial}{\partial \theta}l(\theta) &= \sum_{i=1}^n \frac{(x_i-\log \theta)}{\theta} \\
&= \frac{\sum_{i=1}^n x_i – n\log \theta}{\theta} \\
\end{align} $$
\( \frac{\partial}{\partial \theta}l(\theta) = 0 を解き、最尤推定量 \hat{\theta}を求める。\)
$$ \begin{align}
\frac{\sum_{i=1}^n x_i – n\log \theta}{\theta} &= 0 \\
\sum_{i=1}^n x_i – n\log \theta&= 0 \\
\theta &= e^{ \sum_{i=1}^n x_i / n } \\
\theta &= e^\bar{x} \\
\end{align} $$
\( よって、 \hat{\theta}=e^\bar{x}。 \)
[2]
$$ \begin{align}
bias \lbrack \hat{\theta} \rbrack &= E \lbrack \hat{\theta} \rbrack -\theta \\
&= E \Bigl \lbrack e^{\bar{X}} \Bigr \rbrack – \exp \lbrack \mu \rbrack
\end{align} $$
\( \bar{X} \sim N \bigl( \mu, 1/n \bigr) であり、\\
問題文よりモーメント母関数 M_{\bar{X}}(t)=E \bigl \lbrack e^{\bar{X}t} \bigr \rbrackは次式で表される。\)
$$ M_{\bar{X}}(t) = \exp \Bigl \lbrack \mu t + \frac{1}{2n}t^2 \Bigr \rbrack $$
\( M_{\bar{X}}(t)=E \bigl \lbrack e^{\bar{X}t} \bigr \rbrack にt=1を代入して、\\
E \bigl \lbrack e^{\bar{X}} \bigr \rbrack を計算できる。\)
$$ E \bigl( e^{\bar{X}} \bigr) = M_{\bar{X}}(1) = \exp \Bigl \lbrack \mu + \frac{1}{2n} \Bigr \rbrack $$
$$ \begin{align}
bias \lbrack \hat{\theta} \rbrack &= E \Bigl \lbrack e^{\bar{X}} \Bigr \rbrack – \exp \lbrack \mu \rbrack \\
&= \exp \Bigl \lbrack \mu + \frac{1}{2n} \Bigr \lbrack – \exp \rbrack \mu \rbrack \\
&= e^{\mu} \bigl( e^{\frac{1}{2n}}-1 \bigr) > 0
\end{align} $$
\( 以上より、bias \lbrack \hat{\theta} \rbrack = e^{\mu} \bigl( e^{\frac{1}{2n}}-1 \bigr) であり、その符号は正であることがわかる。\)
\( また、e^{\bar{X}-\frac{1}{2n}}が\thetaの不偏推定量であることを示すためにE \bigl \lbrack e^{\bar{X}-\frac{1}{2n}} \bigr \rbrackを計算すると、 \)
$$ \begin{align}
E \bigl \lbrack e^{\bar{X}-\frac{1}{2n}} \bigr \rbrack &= e^{-\frac{1}{2n}}E \Bigl \lbrack e^{\bar{X}} \Bigr \rbrack \\
&= e^{-\frac{1}{2n}} e^{\mu+\frac{1}{2n}} \\
&= e^{\mu} = \theta
\end{align} $$
\( よって、e^{\bar{X}-\frac{1}{2n}}は\thetaの不偏推定量である。\)
[3]
$$ \begin{align}
MSE \lbrack \hat{\theta} \rbrack &= E \Bigl \lbrack \bigl( \hat{\theta}-\theta \bigr)^2 \Bigr \rbrack \\
&= E \Bigl \lbrack \bigl( e^{\bar{X}}-e^{\mu} \bigr)^2 \Bigr \rbrack \\
&= E \Bigl \lbrack \bigl( e^{2 \bar{X}}- 2e^{\mu}e^{\bar{X}} +e^{2 \mu} \bigr)^2 \Bigr \rbrack \\
\end{align} $$
\( 2\bar{X} \sim N \bigl( 2\mu, 4/n \bigr) であり、\\
問題文よりモーメント母関数 M_{2\bar{X}}(t)=E \bigl \lbrack e^{2\bar{X}t} \bigr \rbrackは次式で表される。\)
$$ M_{2\bar{X}}(t) = \exp \Bigl \lbrack 2\mu t + \frac{4}{2n}t^2 \Bigr \rbrack $$
$$ E \bigl \lbrack e^{2\bar{X}} \bigr \rbrack = M_{2\bar{X}}(1) = \exp \Bigl \lbrack 2\mu + \frac{2}{n} \Bigr \rbrack = e^{\frac{2}{n}} \theta^2 $$
\( 以上より、MSE \lbrack \hat{\theta} \rbrackは次式で表される\)
$$ \begin{align}
MSE \lbrack \hat{\theta} \rbrack &= \theta^2 e^{\frac{2}{n}} – 2\theta^2 e^{\frac{1}{2n}} +\theta^2 \\
&= \theta^2 \bigl( e^{ \frac{2}{n} } -2 e^{\frac{1}{2n}}+1 \bigr) \\
\end{align} $$
\( また、n \rightarrow \infty のとき、\)
$$ \lim_{n \to \infty} MSE \lbrack \hat{\theta} \rbrack = \theta^2 \bigl( 1-2+1 \bigr) = 0 $$
[4]
\( フィッシャー情報量 I(\theta)は次式で計算される \)
$$ \begin{align}
I(\theta) &= E \Biggl \lbrack \Bigl \{ \frac{\partial}{\partial \theta}l(\theta) \Bigr \}^2 \Biggr \rbrack \\
&= \frac{n^2}{\theta^2} E \Biggl \lbrack \Bigl \{ \bar{X}-\log \theta \Bigr \}^2 \Biggr \rbrack \\
&= \frac{n^2}{\theta^2} \Bigl \{ E \lbrack \bar{X}^2 \rbrack -2 \log \theta E \lbrack \bar{X} \rbrack + \bigl( \log \theta \bigr)^2 \Bigr \} \\
&= \frac{n^2}{\theta^2} \Bigl \{ \frac{1}{n} + \mu^2 -2 \log \theta \mu + \mu^2 \Bigr \} \\
&= \frac{n}{\theta^2} \\
\end{align} $$
\( また、小問2の不偏推定量 \tilde{\theta}=e^{\bar{X}-\frac{1}{2n}} の分散を計算すると、\)
$$ \begin{align}
V \lbrack \tilde{\theta} \rbrack &= E \lbrack \tilde{\theta}^2 \rbrack – E \lbrack \tilde{\theta} \rbrack^2 \\
&= E \bigl \lbrack e^{2 \bar{X}-\frac{1}{n}} \bigr \rbrack – \theta^2 \\
&= e^{-\frac{1}{n}} e^{\frac{2}{n}} \theta^2 – \theta^2 \\
&= \bigl( e^{\frac{1}{n}}-1 \bigr) \theta^2 \\
\end{align} $$
\( x>0のとき、e^{x} = 1+x+\frac{x^2}{2}+\cdots > 1+x より、\\
e^{\frac{1}{n}}-1 > \frac{1}{n} なので、\)
$$ V \lbrack \tilde{\theta} \rbrack = \bigl( e^{\frac{1}{n}}-1 \bigr) \theta^2 > \frac{\theta^2}{n} = \frac{1}{I(\theta)} $$
\( 以上より、V \lbrack \tilde{\theta} \rbrack > \frac{1}{I(\theta)}\)
所感
難易度: B(普通)
推定量に関する問題です。
フィッシャー情報量の計算は問題文に与えられていますが、覚えておきたいです。
他にも推定量の分散の下限はクラメール・ラオの下限といわれているそうです。
公式テキスト3章「統計的推定」の練習問題などで良く学ぶことが出来ます。