Thread by @rootport

NovelAIのリークで何が終わったのか？ soysoftware.sakura.ne.jp/archives/3622

昨年10月のNovelAI流出事件の時に書かれたブログ記事。まだ半年経っていない。当時は「NovelAIすげー！神絵師と遜色ないじゃん!!」と盛り上がっていたけど、今見ると「あれ？普通にショボくない？」って感じる。まだ半年経っていない（※二度目）

やっぱり、なんというか「早すぎる」というのは間違いないですよね。人間の側が感情的に適応する間もなく「超絶美麗なイラストをAIで生成できること」が当たり前になってしまった。

90年代インターネットが普及する以前は、雑誌の文通相手募集欄に自分の住所を載せるのが当たり前でした。テレビに映ったり新聞に自分の顔写真が載ることは、仲間内で自慢できる「ちょっと良いこと」でした。ところが今では、住所や肖像は表に出せなくなった。どんな悪用をされるか分からなくなった。

今までは「ネットに文章を公開したら大規模言語モデルの学習データにされるかもしれない」「ネットに画像を公開したら画像生成AIの学習データにされるかもしれない」なんて、考えなくて良かった。けれど、今後は違う。インターネットの登場で住所や肖像に対する価値観が変わったのと同じです。

残念ながら「世界のルール」が変わってしまったわけです。けれど、そのことを心情的に受け入れるためには、4～5カ月という期間はあまりにも短すぎるでしょう。

「他人のオリキャラを勝手にLoRAして公開しちゃおう」なんて考えるやつは、倫理観が終わっています。そして倫理観が終わっているがゆえに、そういうやつは法律で規制しようが厳罰を課そうが、無視して倫理観の終わったことをする。そういうやつが現れてしまうことは、防ぎようがありません。

インターネット以後の世界では、ニュースに映った自分の顔をフリー素材のようにネタ消費されたり、変質者に〝家凸〟されるのを防ぎようがないのと同様です。世界のルールが変わってしまったわけです。

「画像や文章を無許諾で学習データにされないためにはどうすればいいか？」という疑問の答えは、今後の世界では「画像や文章をネットに上げるな」になってしまう……というのが現実でしょう。けれど、心情的にとても受け入れられるものではない。

一方で、許諾を受けた学習データのみで制作した、比較的〝クリーンな〟画像生成AIのモデルも作られつつあります。企業が商用利用する際に、そういうモデルがスタンダードになっていくと、比較的マシな未来になるのではないか……とも思います。

なぜ「完全にクリーンな」ではなく「比較的クリーンな」という表現を私が使ったかというと、どんなモデルであろうとAIはAIだからです。StableDiffusionが開発時に無許諾の画像を使った過去は変わりません。業種によっては、人間の絵描きから仕事を奪うという点も同じです。

レコードやラジオ、MIDI、初音ミクが登場しても、人間のオーケストラや歌手は絶滅しませんでした。同様に、AIがすべてのクリエイティブな活動を奪うとは思えません。反面、テレビの登場により「報道映画」というジャンルは消滅し、ドキュメンタリー番組というジャンルに吸収されました。

「AIのせいで絵描きの仕事がなくなる」というのは杞憂でしょう。しかし、すべてが安泰なわけでもない。たとえば一部のソシャゲのイラストのように「できるだけ個性を押さえたイラストを大量に生産する」という需要は（残念ながら）失われてしまうだろう……というのが、私の予想です。

AIに対する私の基本的なスタンスは、2019年に出版した書籍に書いた通りです。ここからあまり変わっていません。

この本です。
kadokawa.co.jp/product/321808…

ある信念が「合理的な判断の結果」なのか、それとも「偏執的な盲信」なのか、セルフチェックする簡単な方法があります。

「どんな証拠が見つかれば、自分はその信念を捨てるか？」と自問しましょう。

この質問に即答できるなら、あなたは合理的です。もしも即答できないなら要注意です。

たとえば生物学者リチャード・ドーキンスは、進化論の啓蒙活動を熱心に行っています。しかし彼は、もしもカンブリア期の地層からウサギの化石が発見されたら進化論を捨てると、ある書籍で明言しています。このような「反証可能性」があるからこそ、進化論は合理的な科学理論だと見做せるわけです。

「たとえどんな証拠が見つかろうとも、私がこの信念を変えることはない」という人は、合理的な議論をする資格がないと思います。なぜなら、それは不誠実な態度だからです。「私は意見を変えるつもりはないが、お前の意見を変えたいので一方的に私の話を聞け」という態度なのですから。

前掲の書籍に書いた通り、「AIの技術は誰でも利用可能な、開かれたものであるべきだ」と私は考えています。そのためにはAIの研究開発や利用への規制は、できるだけ少ないほうがいいと考えています。しかし、AIが私たちの基本的人権を侵害するような場合には、この信念を捨てるつもりです。

たとえばヒトの脳活動からその人の見たものを推測する研究が以前から行われていました。StableDiffusionを使うと、その精度が爆上がりすることがニュースになりました。この辺りのAIの利用法には、かなり注意が必要だと私は感じています。
itmedia.co.jp/news/articles/…

今後、この技術がどう発展するか分かりません。しかし、発展の仕方次第では（そして応用方法次第では）私たちの「内心の自由」を侵す技術になりかねないと感じます。もしもそうなった時には、核不拡散条約のような国際的な規制が必要になるかもしれません。

我ながら、夢みたいな話をしていると感じます。「#ツイッタSF」のタグをつけたほうがいいかもしれません。けれど、一年前にはMidjourneyもStableDiffusionもChatGPTも世に出ていませんでした。一年前には「SF」でしかなかった現実を、今の私たちは生きています。