#数楽
この手の「下からの評価」や「上からの評価」は非常に基本的。
30以上を示せだと簡単ですが、次の問題なら「良い問題」かも。
問題: ∫_2^4 x^x dx > 100 を証明せよ。e > 2.7 と log 3 < 1.1 を既知としてよい。
真の問題: 既知とすると良い事実でシンプルなものは他に何があるか？
この手の「下からの評価」や「上からの評価」は非常に基本的。
30以上を示せだと簡単ですが、次の問題なら「良い問題」かも。
問題: ∫_2^4 x^x dx > 100 を証明せよ。e > 2.7 と log 3 < 1.1 を既知としてよい。
真の問題: 既知とすると良い事実でシンプルなものは他に何があるか？
https://twitter.com/sekibunnteisuu/status/1361519845511024643
#数楽
既知とするのは、
e > 2.7, log 2 < 0.7, log 3 < 1.1
の3つにしておいた方が選択肢が増えてよかったかな。
選択肢が増えた方が楽しい。
既知とするのは、
e > 2.7, log 2 < 0.7, log 3 < 1.1
の3つにしておいた方が選択肢が増えてよかったかな。
選択肢が増えた方が楽しい。
https://twitter.com/genkuroki/status/1361663166896201735
#数楽 私の解答例だと、log 3 < 1.1 を使う方法では e < 2.7 の 2.7 と 3 の相性が良いおかげで手計算が少し楽になる。 log 4 < 1.4 を使う方法の方が精度は高くて、105より大きいことを示せる。
すでにノートのスクショを撮ってあるが、ネタバレが早すぎるのはよくないので、まだ公開しない。
すでにノートのスクショを撮ってあるが、ネタバレが早すぎるのはよくないので、まだ公開しない。
#数楽 資料 
#数楽
計算がちょー楽でいいです！ log 2 < 0.7 と log 3 < 1.1 の両方を使えば
∫_2^4 x^x dx > 106 + 31/84
を示せますね。
ちなみに、私の方法だと、e > 2.7, log 2 < 0.7, log 3 < 1.1 の3つを使って
∫_2^4 x^x dx > 108 + 34/567
を示せています。
計算がちょー楽でいいです！ log 2 < 0.7 と log 3 < 1.1 の両方を使えば
∫_2^4 x^x dx > 106 + 31/84
を示せますね。
ちなみに、私の方法だと、e > 2.7, log 2 < 0.7, log 3 < 1.1 の3つを使って
∫_2^4 x^x dx > 108 + 34/567
を示せています。
https://twitter.com/19_9990999792/status/1362414273847193602
#数楽
これ e > 2.7 と log 3 < 1.1 の2つを使う方法として私と同じ！
急激に増大する函数は対数を取った結果を近似した方がお得なことが多い。
さらにこの方法を log 2 < 0.7 も使って自明な改良をすると 108 より大きいことも示せる。
これ e > 2.7 と log 3 < 1.1 の2つを使う方法として私と同じ！
急激に増大する函数は対数を取った結果を近似した方がお得なことが多い。
さらにこの方法を log 2 < 0.7 も使って自明な改良をすると 108 より大きいことも示せる。
https://twitter.com/tkawai18_tkawai/status/1362421272072790020
#数楽 まだ110より大きいことをコンパクトな悪くない準備だけで示す方法は見付けていないです。(108より大きいことは、e > 2.7, log 2 < 0.7, log 3 < 1.1 を準備すれば容易に示せるところまで考えて、そこから先はあんまり考えていない。)
あと上からの評価もあった方がよい。
あと上からの評価もあった方がよい。
#数楽 正直に白状すると、この手の評価について、大学新入生くらいのときにはかなりサボっていた。大学入試問題の延長の人為的で特殊な問題のような気がしてやりたくないと思っていた。
この手の具体的な近似について、経験を積んでおくことは、視界を広げるためには結構大事なことだと思います。
この手の具体的な近似について、経験を積んでおくことは、視界を広げるためには結構大事なことだと思います。
#数楽
h が小さいときの (1 + h)^{1/h} の近似も対数を取った結果 (1/h)log(1+h) を近似してから、expを取ると簡単です。
(1 + h)^{1/h} が e で近似できることは高校で教えている。
実用的にはそれだけでは足りなくて、誤差の大雑把な評価が必要になる。
h が小さいときの (1 + h)^{1/h} の近似も対数を取った結果 (1/h)log(1+h) を近似してから、expを取ると簡単です。
(1 + h)^{1/h} が e で近似できることは高校で教えている。
実用的にはそれだけでは足りなくて、誤差の大雑把な評価が必要になる。
https://twitter.com/genkuroki/status/1361692534355857409
#数楽 n! の近似式で有名なのはスターリングの公式。
log n! に関するBinetの公式については
log n! = ζ_s(0, n+1) + log√(2π)
(ζ_s(s, x)はフルヴィッツのゼータ函数の偏導函数)
を使った驚くべき証明がある。
階乗は対数を取った途端にゼータ函数と関係する。
nbviewer.jupyter.org/github/genkuro…
log n! に関するBinetの公式については
log n! = ζ_s(0, n+1) + log√(2π)
(ζ_s(s, x)はフルヴィッツのゼータ函数の偏導函数)
を使った驚くべき証明がある。
階乗は対数を取った途端にゼータ函数と関係する。
nbviewer.jupyter.org/github/genkuro…
#数楽 x^x の対数として出て来る x log x は下に凸な函数として有名でShannon情報量(エントロピー)との関連でよく出て来ます。
x log x が出てき易い理由の1つが実は、スターリングの公式
log x! = x log x - x + (1/2)log x + log√(2π) + …
です。これのトップ項として x log x が出てき易い。
x log x が出てき易い理由の1つが実は、スターリングの公式
log x! = x log x - x + (1/2)log x + log√(2π) + …
です。これのトップ項として x log x が出てき易い。
#数楽 n! を n^n で「近似」すると「誤差」が大き過ぎるように感じられるのですが、
log n! を n log n で「近似」した場合の相対誤差は大したことがありません。
x^x について知ることは x! の主要因子について知ることでもあり、決して人為的で特別過ぎる問題にはなりません。
log n! を n log n で「近似」した場合の相対誤差は大したことがありません。
x^x について知ることは x! の主要因子について知ることでもあり、決して人為的で特別過ぎる問題にはなりません。
#数楽 x log x が下に凸な函数であることへのJensenの不等式の適用によって、KL情報量に関するGibbsの情報不等式を一瞬で証明できます: f(x) = x log x と確率密度函数p(x),q(x)について、
∫f(q(x)/p(x))p(x)dx
≧f(∫q(x)/p(x)×p(x)dx) = f(∫q(x)dx) = f(1) = 0.
最初の≧はJensenの不等式より。
∫f(q(x)/p(x))p(x)dx
≧f(∫q(x)/p(x)×p(x)dx) = f(∫q(x)dx) = f(1) = 0.
最初の≧はJensenの不等式より。
#数楽 コンパクトRiemann面上のsymbolに関する相互法則はtame symbolやContou-Carrere symbolの対数が積分表示を持つことを使えば、易しい複素解析で理解できる。(純代数でも証明できるが)
genkuroki.github.io/documents/2016…
コンパクト Riemann 面に関する相互法則
genkuroki.github.io/documents/2016…
コンパクト Riemann 面に関する相互法則
#数楽 x^x = e^{x log x} という式を見た瞬間に想起されることは膨大にあって、すべてを言葉にすることは難しい。
#数楽
f(x) = x log x と確率密度函数p(x), q(x)に対する
D(q||p) = ∫f(q(x)/p(x))p(x)dx = ∫q(x)log(q(x)/p(x))dx
や、非負で総和が1のpᵢ, qᵢに対する
D(q||p) = Σf(qᵢ/pᵢ)pᵢ = Σqᵢ log(qᵢ/pᵢ)
をKullback-Leibler情報量と呼ぶ。これらが0以上になることが「Gibbsの情報不等式」。
f(x) = x log x と確率密度函数p(x), q(x)に対する
D(q||p) = ∫f(q(x)/p(x))p(x)dx = ∫q(x)log(q(x)/p(x))dx
や、非負で総和が1のpᵢ, qᵢに対する
D(q||p) = Σf(qᵢ/pᵢ)pᵢ = Σqᵢ log(qᵢ/pᵢ)
をKullback-Leibler情報量と呼ぶ。これらが0以上になることが「Gibbsの情報不等式」。
https://twitter.com/genkuroki/status/1362442693641527305
#数楽 KL情報量の資料
genkuroki.github.io/documents/2016…
Kullback-Leibler 情報量と Sanov の定理
nbviewer.jupyter.org/github/genkuro…
11 Kullback-Leibler情報量 (#Julia言語)
二項分布や多項分布の中心極限定理のスターリングの公式による証明はKL情報量のSanovの定理を経由した方が計算の見通しがよい。
genkuroki.github.io/documents/2016…
Kullback-Leibler 情報量と Sanov の定理
nbviewer.jupyter.org/github/genkuro…
11 Kullback-Leibler情報量 (#Julia言語)
二項分布や多項分布の中心極限定理のスターリングの公式による証明はKL情報量のSanovの定理を経由した方が計算の見通しがよい。
統計学における確率論の「三種の神器」は
* 大数の法則
* 中心極限定理
* KL情報量のSanovの定理(および大偏差原理一般)
なのですが、赤池弘次さんは日本人だったのに、KL情報量のSanovの定理は全然普及していない。いわゆる赤池情報量基準の基礎がKL情報量です。
* 大数の法則
* 中心極限定理
* KL情報量のSanovの定理(および大偏差原理一般)
なのですが、赤池弘次さんは日本人だったのに、KL情報量のSanovの定理は全然普及していない。いわゆる赤池情報量基準の基礎がKL情報量です。
https://twitter.com/genkuroki/status/1343300444089589760
#数楽 例えば、未知の真の確率はqなのに、それをpだと推測したときの誤差の有力な定義の仕方の1つはKL情報量
D((q, 1-q)||(p, 1-p)) = q log(q/p) + (1-q)log((1-q)/(1-p))
で誤差を定義することです。
実際にそのように定義した誤差の大きさに応じて罰金を払うミニマックスゲームの話↓
D((q, 1-q)||(p, 1-p)) = q log(q/p) + (1-q)log((1-q)/(1-p))
で誤差を定義することです。
実際にそのように定義した誤差の大きさに応じて罰金を払うミニマックスゲームの話↓
https://twitter.com/genkuroki/status/1362386206781153288
#数楽 q log(q/p) 型の式はPoisson分布の確率の対数(またしても対数！)にスターリングの公式を使えば自然に出て来ます。
-log(e⁻ᵃ a^k/k!)
= log k! - k log a + a
= k log k - k + o(k) - k log a + a
= k log(k/a) - (k-a) + (1/2)log k + o(k).
最初の項k log(k/a)からKL情報量が出て来る。
-log(e⁻ᵃ a^k/k!)
= log k! - k log a + a
= k log k - k + o(k) - k log a + a
= k log(k/a) - (k-a) + (1/2)log k + o(k).
最初の項k log(k/a)からKL情報量が出て来る。
• • •
Missing some Tweet in this thread? You can try to
force a refresh
