#数楽 #統計 以下のようなゲームを2人で行う。
①k=0,1,2,…,10に対応する11個の数p_k達の表を作って互いに交換する。
各p_kは「10回中k回成功」というデータが得られたときの真の成功確率qの推定値とみなされるので、0以上1以下の実数であるとする。
例えば、最尤推定ならp_k=k/10となる。続く
①k=0,1,2,…,10に対応する11個の数p_k達の表を作って互いに交換する。
各p_kは「10回中k回成功」というデータが得られたときの真の成功確率qの推定値とみなされるので、0以上1以下の実数であるとする。
例えば、最尤推定ならp_k=k/10となる。続く
https://twitter.com/genkuroki/status/1360227673771896836
#数楽
②相手の推定法の数表を受け取った2人は、その推定法が失敗しそうな真の成功確率qを選んでコンピュータに入力する。
qの選択では次の③のステップに配慮することが重要である。例えば、受け取った数表が
0.05, 0.1, 0.2, …, 0.9, 0.95
の場合には、q=0.43とするのがほぼベストになる。続く
②相手の推定法の数表を受け取った2人は、その推定法が失敗しそうな真の成功確率qを選んでコンピュータに入力する。
qの選択では次の③のステップに配慮することが重要である。例えば、受け取った数表が
0.05, 0.1, 0.2, …, 0.9, 0.95
の場合には、q=0.43とするのがほぼベストになる。続く
#数楽
③コンピュータは、成功確率qの10回のベルヌーイ試行での成功回数kに関するKL(q, p_k)を1000回分足し上げ、得られた数値×1万円を推定法p_kに対する罰金の金額とする。ここで
KL(q, p) = q log(q/p) + (1-q)log((1-q)/(1-p))
はKL情報量である。KL(q, p)≥0で等号とp=qは同値。
続く
③コンピュータは、成功確率qの10回のベルヌーイ試行での成功回数kに関するKL(q, p_k)を1000回分足し上げ、得られた数値×1万円を推定法p_kに対する罰金の金額とする。ここで
KL(q, p) = q log(q/p) + (1-q)log((1-q)/(1-p))
はKL情報量である。KL(q, p)≥0で等号とp=qは同値。
続く
#数楽 例：1000回を20回にした場合
推定法p_kの表が
0.05, 0.1, 0.2, …, 0.9, 0.95
のとき、q=0.43で10回中の成功回数20回分が
4, 3, 5, 6, 4, 2, 4, 3, 5, 5, 5, 5, 5, 1, 4, 2, 2, 4, 6, 4
のとき、罰金は
1.0374…万円
になる。この数値を再現できればゲームのルールを理解している。続く
推定法p_kの表が
0.05, 0.1, 0.2, …, 0.9, 0.95
のとき、q=0.43で10回中の成功回数20回分が
4, 3, 5, 6, 4, 2, 4, 3, 5, 5, 5, 5, 5, 1, 4, 2, 2, 4, 6, 4
のとき、罰金は
1.0374…万円
になる。この数値を再現できればゲームのルールを理解している。続く
#数楽
④互いに相手に知らせた自分の推定法に対する罰金を相手に支払う。実際には差額を支払うことにすればよいだろう。
罰金はKL情報量で測られる予測誤差の1000回分の合計になる。
さて、あなたは、以上のゲームでどのような推定法を採用して勝負したいだろうか？
④互いに相手に知らせた自分の推定法に対する罰金を相手に支払う。実際には差額を支払うことにすればよいだろう。
罰金はKL情報量で測られる予測誤差の1000回分の合計になる。
さて、あなたは、以上のゲームでどのような推定法を採用して勝負したいだろうか？
#数楽 最尤法のp_k=k/10は避けた方が良さそうなことはすぐにわかる。なぜならば罰金を決めるKL情報量の定義が
KL(q, p) = q log(q/p) + (1-q)log((1-q)/(1-p))
なので、10回中0回成功の場合にp_0=0を推定値としたとき、もしも真の成功確率qが0で無ければ、KL(q, p_0)=∞となって破産してしまう。
KL(q, p) = q log(q/p) + (1-q)log((1-q)/(1-p))
なので、10回中0回成功の場合にp_0=0を推定値としたとき、もしも真の成功確率qが0で無ければ、KL(q, p_0)=∞となって破産してしまう。
#数楽 私相手に最尤法を修正した(上の例でも出て来た)
0.05, 0.1, 0.2, …, 0.9, 0.95
という推定法で勝負を挑むと、1000回分のKL情報量の総和の差額であなたが私に支払う金額の期待値は16.6万円程度、標準偏差は3.4万円程度になる。
そういう人は是非とも私と勝負して欲しい😊
0.05, 0.1, 0.2, …, 0.9, 0.95
という推定法で勝負を挑むと、1000回分のKL情報量の総和の差額であなたが私に支払う金額の期待値は16.6万円程度、標準偏差は3.4万円程度になる。
そういう人は是非とも私と勝負して欲しい😊
#数楽 Jeffreys事前分布のベイズ法
p_k = (k+1/2)/11
は上記の修正最尤法よりずっと強い。しかし、これで私に勝負を挑むと、あなたが私に支払う金額の期待値は4.7万円弱で、標準偏差は3.0万円弱になる。5%強の確率で私に勝てる可能性が出て来る。
p_k = (k+1/2)/11
は上記の修正最尤法よりずっと強い。しかし、これで私に勝負を挑むと、あなたが私に支払う金額の期待値は4.7万円弱で、標準偏差は3.0万円弱になる。5%強の確率で私に勝てる可能性が出て来る。
#数楽 私のツイッターでの雑談を真剣に読んでいる人なら、既出の論文
scholar.google.co.jp/scholar?cluste…
をダウンロードして解読し、p_kを添付画像のq_kにすることが、n=10をn→∞に変更したときの最良の結果を与えることを知るかもしれない。
これを、漸近的にベストな推定法と呼ぶことにする。続く
scholar.google.co.jp/scholar?cluste…
をダウンロードして解読し、p_kを添付画像のq_kにすることが、n=10をn→∞に変更したときの最良の結果を与えることを知るかもしれない。
これを、漸近的にベストな推定法と呼ぶことにする。続く
#数楽 この漸近的にベストな推定法でn=10のこのゲームで私に勝負を挑んだ人が私に支払う金額の期待値は2万円まで下がる。標準偏差は1.68万円で、私を打ち負かす確率も11%強まで上がる。
これもまた私にとってはおいしいギャンブルになる。
添付画像は10万回のモンテカルロシミュレーションの結果。
これもまた私にとってはおいしいギャンブルになる。
添付画像は10万回のモンテカルロシミュレーションの結果。
#数楽 私が使用する推定法p_kの数表は秘密にままにしておく。
おそらく、同じ数値を得る人が出て来るだろう。
以上のゲームは、KL情報量で定義された予測誤差の期待値の最大値を最小化するミニマックス型のゲームになっている。ある程度以上進んだ統計学では標準的な話題の1つになる。
おそらく、同じ数値を得る人が出て来るだろう。
以上のゲームは、KL情報量で定義された予測誤差の期待値の最大値を最小化するミニマックス型のゲームになっている。ある程度以上進んだ統計学では標準的な話題の1つになる。
#数楽 このスレッドを読んで、ゲームをコンピュータ上に実装して、モンテカルロシミュレーションを行うことができれば、沢山のことを勉強できます。
ベルヌーイ試行のデータを使った推定という最もシンプルな場合であっても、基準を設けてベストを目指すと相当に非自明であることが分かる。
ベルヌーイ試行のデータを使った推定という最もシンプルな場合であっても、基準を設けてベストを目指すと相当に非自明であることが分かる。
#統計 最尤法や共役事前分布を使ったベイズ法(ベイズ統計)がこのスレッドの状況ではベストの推定法では全然なくて、それらの標準的な方法で私に勝負を挑むとお金をぶん取られる可能性が高い。
教科書に書いてある「○○法」が必ずしもベストでないことを知れば、視野を広げ易くなると思います。
教科書に書いてある「○○法」が必ずしもベストでないことを知れば、視野を広げ易くなると思います。
#数楽 このスレッドでは罰金をKL情報量で見積もって払う設定だったが、罰金を
(p - q)²/(2q(1-q))
で見積もって支払う設定に変えると、最尤法がミニマックスの意味で最強の戦略になることを教科書に書いてあることを使えば比較的容易に示せます。
上とKL情報量の比較↓
wolframalpha.com/input/?i=plot%…
(p - q)²/(2q(1-q))
で見積もって支払う設定に変えると、最尤法がミニマックスの意味で最強の戦略になることを教科書に書いてあることを使えば比較的容易に示せます。
上とKL情報量の比較↓
wolframalpha.com/input/?i=plot%…
https://twitter.com/genkuroki/status/1362386217598291969
#数楽 KL(q,p)=q log(q/p)+(1-q)log((1-p)/(1-q))をpの函数とみなしてp=qでTaylor展開すると最初の0にならない項が(p-q)²/(2q(1-q))になります。
q log(q/p)+(1-q)log((1-p)/(1-q)) = (p-q)²/(2q(1-q)) + O((p-q)³)
このTaylor展開による近似は本質的に二項分布の中心極限定理になっています。
q log(q/p)+(1-q)log((1-p)/(1-q)) = (p-q)²/(2q(1-q)) + O((p-q)³)
このTaylor展開による近似は本質的に二項分布の中心極限定理になっています。
#数楽 結局、私は、与えたp_kごとに罰金の期待値が最大になるqが与えられるという設定のもとで、その最悪の罰金の期待値を最小化するp_k達を最適化の数値計算で求めました。
p_5=0.5とp_{10-k}=1-p_kは仮定して数値計算した。
これは、最適化の数値計算の結構良い練習問題だと思いました。
p_5=0.5とp_{10-k}=1-p_kは仮定して数値計算した。
これは、最適化の数値計算の結構良い練習問題だと思いました。
https://twitter.com/genkuroki/status/1362394050939166722
#数楽 このスレッドのゲームはミニマックス型のゲーム(最悪の場合の損失を最小化するゲーム)でしたが、真の事前分布が分かっている場合のそれとは違う型のゲームの例については以下のリンク先を参照。
以下のリンク先のゲームでは理論的に最適戦略を決定できる。
以下のリンク先のゲームでは理論的に最適戦略を決定できる。
https://twitter.com/genkuroki/status/1359097170503241729
#数楽 推定法の評価基準をゲームによって具体的に決めた場合で少し遊んでみれば、最尤法についての「尤度=もっともらしさを最大にする推定法」というまるで最尤法に必然性があるかのような説明の仕方はひどい誤解を招きかねないことが分かる。
多くのゲームで最尤法は最適戦略にならない。
多くのゲームで最尤法は最適戦略にならない。
#数楽 ベイズ統計では戦略に事前分布の自由度が増えているので、より適切な戦略を取れる可能性が、事前分布を使わない最尤法よりも増える。
ところが、ベイズ統計の「主観主義」による解釈の普及のせいで、事前分布は事前の主観的な信念の度合いを表すものとされてしまい、おかしなことになっている。
ところが、ベイズ統計の「主観主義」による解釈の普及のせいで、事前分布は事前の主観的な信念の度合いを表すものとされてしまい、おかしなことになっている。
#数楽 具体的には、特にSavageさんの名前を出して「主観主義ベイジアン」の考え方が特に合理的であることを強調したがる人達は(たとえ社会的地位が専門家であったとしても)トンデモさん扱いで問題ない。
主観主義でベイズ統計を解釈することがあってもよいが、その解釈に特権的なメリットはない。
主観主義でベイズ統計を解釈することがあってもよいが、その解釈に特権的なメリットはない。
#数楽 伝統的な主観主義ベイジアン達の問題は、主観確率にこだわることだけではなく、(怪しげな)尤度原理に関する議論に基いて、標本分布を使う統計学を否定しようとすることである。
そういう諸々のトンデモを排除すれば、ベイズ統計も普通にゲームで勝つための合理的な選択肢の1つになりえます。
そういう諸々のトンデモを排除すれば、ベイズ統計も普通にゲームで勝つための合理的な選択肢の1つになりえます。
#数楽 「仮想的な統計的推定ゲームを設定して、その統計的推定ゲームでどのようにすれば勝てるのか？」を考える楽しさの方から、入門すれば「主義に基く統計学」の黒歴史の被害に遭い難くなると思います。至る所に地雷が埋まっている感じ。
#数楽 ミニマックスについては数式を書いた方が分かりやすいかも：
min_{[p_k]} max_q (真の確率qでの推定法[p_k]の期待損失)
を実現する推定法[p_k]を求めたい。ここで
期待損失 = Σ_k n!/(k!(n-k)!) qᵏ(1-q)ⁿ⁻ᵏ KL(q, p_k).
ここまで式を書けば、きっと誰かが遊んでくれると信じたい。
min_{[p_k]} max_q (真の確率qでの推定法[p_k]の期待損失)
を実現する推定法[p_k]を求めたい。ここで
期待損失 = Σ_k n!/(k!(n-k)!) qᵏ(1-q)ⁿ⁻ᵏ KL(q, p_k).
ここまで式を書けば、きっと誰かが遊んでくれると信じたい。
https://twitter.com/genkuroki/status/1362586612534636547
#数楽 コンピュータで
期待損失(q,[p_k]) = Σ_k n!/(k!(n-k)!) qᵏ(1-q)ⁿ⁻ᵏ KL(q, p_k)
について
argmin_{[p_k]} max_q 期待損失(q, [p_k])
を求めるときには、qの函数として 期待損失(q,[p_k]) が極小点を複数持つことへの注意が必要になる。さらに、q=0,1の場合もきちんと扱う必要あり。
期待損失(q,[p_k]) = Σ_k n!/(k!(n-k)!) qᵏ(1-q)ⁿ⁻ᵏ KL(q, p_k)
について
argmin_{[p_k]} max_q 期待損失(q, [p_k])
を求めるときには、qの函数として 期待損失(q,[p_k]) が極小点を複数持つことへの注意が必要になる。さらに、q=0,1の場合もきちんと扱う必要あり。
#数楽 そして、漸近的に(n→∞で)ベストになる推定法のn=10の場合が
0.044444444
0.170212765
0.239130434
0.326086956
0.413043478
0.5
0.586956521
0.673913043
0.760869565
0.829787234
0.955555555
なので、これに近い値がn=10でのベストの推定法になるはず。
0.044444444
0.170212765
0.239130434
0.326086956
0.413043478
0.5
0.586956521
0.673913043
0.760869565
0.829787234
0.955555555
なので、これに近い値がn=10でのベストの推定法になるはず。
https://twitter.com/genkuroki/status/1362391738434818053
• • •
Missing some Tweet in this thread? You can try to
force a refresh
