Thread by @d_1d2d

ユヴァル・ノア・ハラリ：

・AIは人間以外で初の「物語を創る」存在
・AIは民主主義を脅かす
・AIが経済、金融、宗教観を形作る可能性
・知能とは問題を解決し目標を達成する能力
・AIが感情を持つかは未解明の問い

スレッドにまとめます↓

ユヴァル・ノア・ハラリ：
人間を管理する最も一般的な方法が「物語を語る」ということです。
いま大きな変化が起こりつつあります。歴史上はじめて、「物語を創り、新たな神話を紡ぎ出す」存在が、人間以外に誕生しそうなのです。それが人工知能（AI）です。今後、このAIがどんな物語を作り出すのか、私たちにはまだ見当もつきません。

ユヴァル・ノア・ハラリ：
TwitterやFacebookのニュースフィード、TikTokなどの編集をしているのは人間ではなく、アルゴリズム、つまりAIです。既に超巨大メディアを編集しているのはAIであり、それが民主主義の危機の一因になっているといえます。
この先、AIが人間の書いた文章を編集するだけでなく、自分自身で物語を創り出すようになれば、私たちはさらに未知の状況に踏み込みます。人類は何千年もの間、人間が作る物語と付き合ってきましたが、まったく異なる存在が高い知能で物語を紡ぐ世界は経験がありません。

ユヴァル・ノア・ハラリ：
宗教もAIが新しい教義を作り出す可能性がありますし、金融商品にしても、お金そのものが究極的には「人類が信じる物語」の最たるものです。みんなが信じているから成り立つという意味で、世界一成功したストーリーといえる。今後、私たちの経済や金融、あるいは宗教観を形作るストーリーが人間ではない知能によって生み出される可能性があるのです。

ユヴァル・ノア・ハラリ：
AIに関しては、AIが独自の感情を持つことができるのかという、まだ答えの出ていない大きな疑問が存在します。AIが感情を“装う”ことは確実に可能です。私たちに「感情があるように見せる」ことはできます。けれど実際に何かを感じているかどうかは、はっきりわからない。それが「知能と意識」という問題です。

ユヴァル・ノア・ハラリ：
知能とは問題を解決し目標を達成する能力であり、意識とは喜びや悲しみといった“感覚を持つこと”です。AIは極めて高い知能を持ち、チェスなど特定の分野では最高の人間プレイヤーをはるかに凌駕します。でも、チェスで勝ったときに喜びを感じているのか、負けたときに落ち込むのかといえば、今のところそうではないと考えられています。

ユヴァル・ノア・ハラリ：
将来的に感情を持つAIが現れるかどうかは誰にもわかりません。なぜなら、私たちは人間の意識そのものをいまだに解明できていないからです。脳内で何十億ものニューロンが電気化学的シグナルをやり取りすることで、なぜ愛や痛みといった感情が生まれるのか、その科学理論すら確立していない。だからシリコンの“脳”で同じことが起こり得るのかどうかはわからないわけです。これはまだ未解明の大きな問いですね。

ユヴァル・ノア・ハラリ：
これまでは「意識」「自由意志」といったテーマは哲学や宗教の抽象的な問として扱われることが多かった。でもAIの進化が急速な今、そうした問題が現実的な政治や社会のレベルで早急に答えを求められている。
5年、10年というスパンで答えなければならないかもしれません。だからこそ、哲学や精神的探究にとって今は歴史上もっとも重要な時期とも言えます。

質問：
国家の予算編成や外交政策の決定をAIに任せるのはどうでしょうか。

ユヴァル・ノア・ハラリ：
とても危険な考えだと思います。
少なくとも今の段階では、予算編成や外交政策には倫理的判断が多く含まれるのに対して、AIには倫理観がありません。さらに大きな問題として、AIは非常に予測が難しい存在です。まだ歴史が浅く、人間にもわからないほど急激に学習・変化していく。
AIに任せると、まったく未知の失敗パターンが起こり得る。
AIの本質は、設計段階を超えて自ら学習し、予測不能な変化を遂げるところにあるわけです。