Thread by @genkuroki

#Julia言語 で @ distributed を使ってモンテカルロシミュレーションの足し上げを行うときに、forループの内側で rand() を使うと遅くなります。固定された rng について rand(rng) の形式で実行する必要がある。

解決策：@ my_distributed マクロを自作して使う！

gist.github.com/genkuroki/a6dc…

https://twitter.com/genkuroki/status/1370045887221690369

#Julia言語 例の e のモンテカルロ計算については

gist.github.com/genkuroki/5212…

を参照。色々試してみたが、私の環境では @ my_distributed 版がシンプルでかつ一番速かったです。

#Julia言語

@ my_threads - threads version of @ my_distributed

gist.github.com/genkuroki/1efd…

#Julia言語 @ my_threads マクロの仕様を変更した。

複数のスレッドの分けて実行するforループの前だけではなく、後に実行するコードも指定できるようにしておかないと困るという当たり前のことに気付いた。

gist.github.com/genkuroki/1efd…

添付画像の左右のコードは実質的に等価だと考えてよい。

#Julia言語 これらのマクロ達(@ my_threads, @ my_distributed)はものすごく頻繁に使いそうになるように思えたので、野良パッケージ化しました。

github.com/genkuroki/MyUt…

この野良パッケージは今度私の落書き帳のようになる可能性があります。

#Julia言語 例の e のモンテカルロ計算の @ threads を使ったコードが不適切だった。添付画像は訂正後の結果。

もとの話題ではJuliaで28秒かかったと書いていたが、普通に書けば私の環境だと1.4〜1.5秒程度でその20倍くらい速いし、並列化・分散化すると、0.27～0.29秒！

gist.github.com/genkuroki/5212…

#Julia言語 同名が存在する野良パッケージ

github.com/genkuroki/MyUt…
MyUtils.jl

を使った「e のモンテカルロ計算の並列化・分散化の例」

gist.github.com/genkuroki/fa10…

この例を知っているだけで、並列化・分散化を気軽に楽しめる人が増えると思う。

#Julia言語 準備。パソコンのCPUに合わせて環境変数を

JULIA_NUM_THREADS=8

などに設定または julia -t auto でjuliaを起動。

マンデルブロ集合の計算の並列化の例。
この場合はめちゃくちゃ簡単！
添付画像を参照。
本質的に @ threads を追加するだけ。

gist.github.com/genkuroki/4c0f…

#Julia言語

gist.github.com/genkuroki/4c0f…

#Julia言語

for i in 1:m
a[i] = f(i) # iについて互いに独立にf(i)の値が決まる
end

は

Threads.@ threads for i in 1:m
a[i] = f(i)
end

とするだけでスレッド並列化できます。

このパターンで済む場合は結構ある。

#Julia言語

c = 0
for i in 1:m
c += f(i)
end
c

のスレッド並列化は

using MyUtils # 上記の野良パッケージ

a = Atomic{Int}(0)
MyUtils.@ my_threads begin
c = 0
end for i in 1:N
c += f(i)
end begin
atomic_add!(a, c)
end
a[]

とします。

例↓
github.com/genkuroki/MyUt…

#Julia言語 最近のパソコンのCPUを使い切るためには並列化が必須。

Juliaなら、以上で説明したような場合には、ものすごく気楽に並列化できます。このことに気付くと、それまで並列化せずに長時間計算させていたことに後悔するようになる。

CPUを100%使い切るのは結構楽しいです。