【有名な思考実験】中国脳 ─ 10億人が神経細胞の役を演じたら、そこに心は生まれるか

当サイトを閲覧いただきありがとうございます。本記事は「中国脳」について解説します。

ある国の国民全員に無線機を配り、一人ひとりが神経細胞1個の役割を正確に演じるようにします。誰から連絡が来たらどこへ連絡するか、その手順書どおりに動くだけです。全体としては、人間の脳とまったく同じつながり方が再現されています。

さて、この巨大な仕組みは、痛みを感じるでしょうか。赤い色を見て、赤さを味わうでしょうか。

ほとんどの人は「そんなはずはない」と感じると思います。しかし、心とは働きの配置であるとする有力な立場を素直に受け入れると、この集合体には心があることになってしまいます。1978年にネッド・ブロックが仕掛けたこの罠を、順を追って紹介します。

AIを使って考えるための全技術Amazonで見る →

よくわかる思考実験Amazonで見る →

国民全員で脳の配線を再現する

設定を具体的に確認します。ブロックが論文「機能主義の悩みどころ」で描いたのは、次のような仕掛けです。

当時の中国の人口はおよそ10億人でした（論文が書かれた1978年ごろの数字です）。その全員に双方向の無線機を配ります。各人には「どの相手から、どんな信号を受け取ったら、次に誰へ何を送るか」という手順書が渡されます。これは、脳の中で神経細胞1個が果たしている入出力の関係を、そのまま人間に割り当てたものです。

さらに、この集合体には体も用意します。人工の体にはカメラやセンサーが付いていて、その信号は人工衛星経由で国民に届きます。国民が出した信号は、そのまま体の手足を動かします。

こうして、ある人間の脳とまったく同じ機能的な組織が、10億人の無線通信の上に実現されることになります。反応も、会話も、行動も、元の人間と区別がつきません。

実際の脳には数百億個の神経細胞があるので、人数が足りないという突っ込みは当然入ります。ただ、それは思考実験の本質ではありません。人数はいくらでも増やしてよいことにして、組織の形さえ同じなら心は生まれるのかという問いに集中する、というのがこの実験の作りです。

狙われたのは「機能主義」

ブロックが標的にしたのは「機能主義」（functionalism）です。心的状態とは、脳が何でできているかではなく、入力と出力と他の心的状態のあいだで果たしている役割によって決まるという立場でした。

この考え方には、大きな長所があります。心を特定の物質に縛りつけないので、脳が炭素でできていようとシリコンでできていようと、同じ役割さえ果たしていれば心を認められます。異星人にもAIにも心の余地を残せる、開かれた理論です。

ブロックは、その開かれ方が行きすぎているのではないかと疑いました。彼はこの問題を、二つの失敗として整理しています。

立場	どんな失敗をしがちか	具体例
排他的すぎる（沙文主義）	心を持ちうるものを不当に狭く限る	「人間の脳の物質でなければ心はない」
開放的すぎる（自由主義）	心があるはずのないものにまで心を認める	「配線が同じなら国民の集合にも心がある」

脳の物質にこだわりすぎれば心の範囲を狭めすぎますし、役割だけで決めれば広げすぎます。中国脳は、後者の行きすぎを目に見える形にするための装置です。

そして肝心なのは、ブロックが問題にしたのが「賢さ」ではなく「感じ」だという点です。この集合体が知的に振る舞うことは認めてよい。しかし、痛みの痛さ、赤の赤さといったクオリアまでそこにあると言えるのか。ここが疑わしい、という議論の立て方をしています。

300年前の風車小屋

似た発想は、実はずっと昔からあります。ドイツの哲学者ライプニッツが18世紀初頭に書いた「風車小屋」の一節です。

彼はこう言います。考えたり感じたりする機械があるとして、それを風車小屋くらいの大きさまで拡大し、中に入って歩き回れるようにしたとしましょう。そこで見つかるのは、互いに押し合う部品ばかりで、知覚を説明してくれるものは何ひとつ見つからないというのです。

中国脳は、この風車小屋を人間で作り直したものだと言えます。300年隔てた二つの思考実験が同じ形をしているのは、「部品の集まりから、どうやって内側の感じが出てくるのか」という困惑が、それだけ根深いものだからだと思います。

直感は証拠になるのか

この思考実験に対する最大の反撃は、シンプルです。「心がないように感じる」というのは、単なる直感にすぎないというものです。

私たちは、心が頭蓋骨の中の柔らかい組織に宿るという光景に慣れきっています。無線機を持った人々の集まりに心を認めたくないのは、その慣れが邪魔をしているだけかもしれません。見慣れないものへの偏見を、哲学的な発見と取り違えているのではないか、という指摘です。

実際、この直感が当てにならないことを示す議論もあります。よく知られているのが、神経細胞を1個ずつ人工の素子に置き換えていくという考え方です。

神経細胞を1個だけ、同じ入出力をする素子に置き換える。心は変わらないはず
2個目、3個目と置き換えても、そのたびに何も変わらないはず
これを続けると、いずれ脳全体が人工物になる
では、クオリアはどの1個の時点で消えたのか

どこかで急に消えるとすれば、たった1個の素子が意識のすべてを担っていたことになり、不自然です。かといって少しずつ薄れていくとすると、「本人は何も気づかないまま感じが薄れていく」という奇妙な状態を認めることになります。この筋道から、機能が同じなら意識も同じだと考えるほうが自然だ、と主張する哲学者もいます。

一方で、この反撃を受けてもなお、中国脳の違和感は消えません。この思考実験が決着を付けなかったこと自体が、意識の問題の手強さを示していると私は考えています。

中国語の部屋とはどう違うのか

名前が似ているので混同されがちですが、「中国語の部屋」とは別物です。作った人も狙いも違います。整理しておきます。

	中国語の部屋	中国脳
提唱者	ジョン・サール（1980年）	ネッド・ブロック（1978年）
実行する人	部屋の中の1人	10億人の集団
何を再現するか	記号を操作するプログラム	神経細胞のつながり方
否定したいもの	理解・意味の把握	クオリア・感じられる質
標的	強いAI（記号処理で心が生まれる）	機能主義（役割で心が決まる）

中国語の部屋は「規則に従っているだけの人は、中国語を理解していない」と論じます。中国脳は理解の話をしていません。配線を完璧に真似た集合体に、痛みという感じが伴うのかだけを問題にします。

両方に共通するのは、「内側から何かをやっている人には、全体が何をしているか分からない」という構図です。部屋の中の人が中国語を知らないように、無線機を持った一人ひとりは、自分たちが今どんな夢を見ているのかを知りません。

中国脳をどう受け止めるか

会社や国家にも心があることになりませんか

面白い派生です。企業や国家も、情報をやり取りする多数の人間から成り立ち、外から見れば意思決定をしているように振る舞います。中国脳を認めるなら、こうした組織にも心があることになるのではないか、という疑問です。

ブロックの設定が特別なのは、人間の脳の機能的な組織を、細部まで正確に写し取っている点にあります。会社の組織図は脳の配線と同じ形をしていないので、そのままでは同じ話になりません。とはいえ、「どこまで似ていれば心を認めるのか」という線引きは、誰にも書けていないのが実情です。

通信が遅すぎることは問題になりませんか

なります。人間が無線で連絡を取り合う速さは、神経細胞の伝達に比べて桁違いに遅いので、この集合体の「1秒」は現実の何年にもなるでしょう。

ただ、これが本質的な反論になるかは意見が分かれます。速度が意識の有無を決めるのだとしたら、それはそれで説明が要るからです。ゆっくり動く意識は意識ではないと言うためには、何秒までなら心があるのかを決めなければなりません。

この議論は現在のAIに関係がありますか

直接関係します。今のAIは、多数の単純な計算素子が信号をやり取りして全体の振る舞いを作り出しており、構造としては中国脳とよく似ています。

「知的に振る舞うこと」と「何かを感じていること」は別問題ではないかという中国脳の指摘は、AIが人間らしく応答するようになった今こそ効いてくると思います。振る舞いだけを見て内側を決めることはできない、という警告として読むと、この40年以上前の思考実験は驚くほど現代的です。

まとめ

本記事は「中国脳」について解説しました。如何だったでしょうか。

無線機を持った10億人の集まりに心があると言われても、素直には頷けません。しかし、その拒否感に理屈を付けようとすると、「人間の脳という素材でなければ駄目だ」という、根拠の薄い主張に落ちてしまう。かといって役割だけで決めると、今度は範囲が広がりすぎる。ブロックが用意したのは、どちらへ逃げても居心地が悪くなる仕掛けでした。

40年以上経った今も、この問いに合意された答えはありません。ただ、AIが人間と区別のつかない受け答えをするようになった現在、「振る舞いが同じなら、中身も同じだと言ってよいのか」という問いは、哲学の演習問題ではなく実務的な論点になりつつあると思います。