Thread by @rootport

GPT-3.5は「サリーとアン課題」を解ける。なので、心の理論（Theory of Mind, ToM）を持っているといえる。

とはいえ、SF作家の野尻抱介先生はこれを〝弱いToM〟と呼んでいる。GPT-3.5は面白い小説を書けない。なぜなら「ヒトは何を面白がるか？」を推測する〝強いToM〟が無いからだ。
#AI呪文研究部

〝弱いToM〟〝強いToM〟のソース。
kemur.jp/paragula_202302

GPT-3.5が面白い小説を書けない理由（というか、ヒトの精神を模倣しているわけではない証拠）の1つとして、「志向意識水準」の不足・欠落が挙げられるかもしれません。

私たち人類は、「私は今、○○だと考えている」と自覚することができます。これを「一次の志向意識水準」と呼びます。次に、他人を見て「この人は○○だと考えているはずだ」と推測できます。これを「二次の志向意識水準」と呼びます。さらに、

「この人は『私は○○と考えているだろう』と推測しているはずだ」と推測することもできます。これが「三次の志向意識水準」です。これは入れ子構造で無限に繰り返せるのですが、健康な大人は、おおむね五次の志向意識水準まで持てると言われています。

シェイクスピアの戯曲では、志向意識水準が重要な役割を果たします。「相手は何を考えていて、こちらの考えはどこまで読まれているのか」という内面の探り合いがドラマになるシーンがたくさんある。彼は、そのドラマを観客に信じ込ませるという点で、六次の志向意識水準まで持っていたのではないか…

…と、進化心理学者ロビン・ダンバーは『友達の数は何人？』の中で論じています。

現在のChatGPT-3.5は（運営によるナーフのせいかもしれませんが）志向意識水準を持つことができないようです。面白いお話を書く上では大きな障害ですし、彼らの思考がヒトの精神構造とは違うという証拠の一つになるかもしれません。

先ほどは説明が下手でした。

「私は○○と考えている」は一次の志向意識水準。
「相手は○○と考えていると、私は考えている」は二次の志向意識水準。
「『私が○○と考えているだろう』と相手は考えているだろう、と私は考えている」は三次の志向意識水準。

とはいえGPT-3.5でも、ここまではできる。細かい部分でおかしなところが残っているけれど、志向意識水準のエミュレートの萌芽のようなものは感じられる。 #ChatGPT #AI呪文研究部

サリーとアン課題の舞台設定をガラッと変えても、ちゃんと解ける。すごい… #ChatGPT #AI呪文研究部