Thread by @genkuroki

#数楽 #Julia言語 新学期の講義のためのC^∞級函数の例の準備で、

f(x) = if x > 0 exp(-1/x) else 0 end

のような函数を扱っている人もいるはず。

現時点で最もよく使われているFloat64型の浮動小数点数の精度では

exp(-1/0.001) == 0

は true になります❗️(笑)

こういうのもネタになりそう。

#Julia言語

f(x) = if x > 0 exp(-1/x) else zero(x) end

using ForwardDiff
f′(x) = ForwardDiff.derivative(f, x)

のグラフ。最近では自動微分が普通で、数値的に微分を求めるときにも、導函数の公式を入力せずに、「正確に」かつ「効率良く」微係数を計算できます。

gist.github.com/genkuroki/ce92…

#Julia言語

f(x) = if x > 0 exp(-1/x) else zero(x) end
g(x) = if x > 0 exp(-1/x)/x^2 else zero(x) end

using ForwardDiff
f′(x) = ForwardDiff.derivative(f, x)

のgとf′の値と計算速度の比較。

導函数の公式を私が入力したgとForward.derivativeで自動微分しているf′で計算速度はほぼ同じ。

#Julia言語 ForwardDiff.jl は実装が易しい場合の自動微分のパッケージ。

一般に函数の多段合成の微分の計算は本質的に行列の積になるのですが、行列のサイズによって、((AB)C)DとA(B(CD))で計算速度が大きく違う場合が出て来ます。そこも効率化可能だが実装は非常に面倒。専門的な話題になる。

#Julia言語 自動微分は、同一のコードを、値だけではなく、微係数も同時に計算できるようなnon-standardな解釈で実行する手続きです。そういう見方は明らかに自動微分以外に大幅に一般化可能。Julia界はそういう方向の技術を発展させようとしています。応援する価値有り。
stochasticlifestyle.com/generalizing-a…

#Julia言語

f(x) = if x > 0 exp(-1/x) else zero(x) end

はJuliaにおける合法的なコードです。Juliaを知らなくても、数学を知っていれば読めるはず。

zero(x)はxと同じ型の0です。Julia特有の「計算効率を上げたければ、型安定なコードを書け」という要求に従うためにそう書いています。

#Julia言語

f(x) = if x > 0 exp(-1/x) else zero(x) end

これは

f(x) = if x > 0
exp(-1/x)
else
zero(x)
end

のように改行を入れて書く方が普通かも。

改行を入れていないコードにセミコロン ; がないことにも注目。Juliaのパーサーはセミコロンの個数が必要最小限ですむような仕様。