質問に自然な答えが返ってきたら、相手は意味を理解していると思いますよね。でも、その返事がすべて規則に従って作られていたらどうでしょう。中国語の部屋は、「会話が成立すること」と「意味を理解すること」の間にある溝を考える思考実験です。
目次
中国語を知らない人が、流暢に答える部屋
部屋の中に、中国語をまったく知らない人がいるとします。外から中国語の文章が届きますが、その人には文字の形しか分かりません。そこで、理解できる言語で書かれた分厚い手順書を使い、記号を組み合わせて返事を作ります。
手順書が十分に優秀で、返答が中国語を話す人と区別できないほど自然になったとしましょう。外から見れば、部屋は中国語を理解しているように見えます。それでも、中の人は中国語の意味を分かっていません。
哲学者ジョン・サールが1980年の論文「Minds, Brains, and Programs」で問うたのは、こうした形式的な記号操作だけで、本当に理解が生まれるのかということです。
ルールを知ることと、意味が分かること
例えば、見慣れない記号「△◇」が来たら「○□」を返す、と覚えたとします。正しい組み合わせを何万個覚えても、その記号が天気の質問なのか、落とし物の相談なのかは分かりません。
一方、母語で「鍵が見つからない」と言われたら、鍵という物や、困っている状況が思い浮かびます。「最後に使った場所は？」という返事にも、探す助けになるという理由があります。中国語の部屋は、同じように適切な出力ができても、この違いを説明できるのかと問いかけます。
ここで焦点になるのは、記号の並び方を扱う構文と、記号が何を指すかという意味です。「計算が高度になれば、意味も自動的に生まれるのか」が議論の中心です。
「人ではなく、部屋全体が理解している」という反論
有名な反論に、部屋の中の人が理解していなくても、手順書や記録を含むシステム全体は理解しているのではないか、というものがあります。サールはこの反論にも応答しています。個々の部品の性質から、全体の性質をそのまま決めてよいのかが争点になります。
ゲームでも、一つの処理は単純なのに、組み合わせると複雑な行動が生まれます。敵を動かす処理、地形を調べる処理、得点を計算する処理のどれか一つに「作戦」が入っているとは限りません。それでも全体としては、作戦を立てているように動くことがあります。
この例だけで心の問題が解けるわけではありません。ただ、「中の一人が分かっていないから、全体も分かっていない」という推論に、もう一段説明が必要だと気づけます。
強いAI・弱いAIは、性能の大小だけではない
この論文でいう「強いAI」は、適切なプログラムを実行するコンピューターは、文字どおり心や理解を持つという立場です。「弱いAI」は、コンピューターを心の研究に使う有力な道具として扱う立場です。単に万能なAIと、用途の狭いAIを分けた言葉ではありません。
また、サールの議論を「人工物は絶対に考えられない」と要約するのも行き過ぎです。何を作れば心が生まれるのかと、プログラムを動かすだけで十分なのかは、別の問いです。
会話の評価にも、いくつかの物差しがある
アプリの会話機能を評価するとき、自然な文章が返ることは大切です。ただ、文章の自然さ、回答の正しさ、場面が変わっても対応できること、主観的な経験があることは、それぞれ違う評価項目です。
例えば、攻略の質問に流暢な説明が返っても、存在しないアイテムを紹介していたら役に立ちません。まず確かめたいのは、実際に使える回答なのかという点です。「理解しているように感じる」ことと、個々の答えを信用できることも分けて考えられます。
中国語の部屋の面白さは、心の有無を一発で判定するところではありません。普段ひとまとめにしている「話す」「分かる」「感じる」を、別々の問いとして取り出すところにあります。主観的な経験に焦点を当てる哲学ゾンビと比べると、違いがいっそう見えてきます。