私たちはいかなる進化の途上にいるのか――心・意識・自由意志をめぐる問い
第1回　“中国語の部屋”とカテゴリーの誤謬

“中国語の部屋”は全体がコンピュータ・システムである

これは思考実験なので、箱の外にいる誰かが返答を読むという外形的な意味では、サールが“中国語の部屋”の中で中国語で返答するのと、母語である英語で書かれた入出力を行う場合のとでは、同じぐらい正確だということができる。

異なるのは、中国語の場合には、解釈されていない形式的な記号を操作しているということである。

これをコンピュータのCPUに例えると、サールが“中国語の部屋”の中で渡される紙の束はコンパイル（もしくはアセンブル）後の機械語のレベルとして考えることができる。

オブジェクトコード（機械語）からプログラムコードを類推することが不可能であるのと同じように、中国語を操作する演算装置たるサールは、レジスタ間で論理演算をしているレベルで、上位レベルのプログラムにおいてなにをしているのかはわからない。

サールは講演集『心・脳・科学』（土屋俊訳／岩波書店）において正直な告白を述べている。「そこでの考え方は、個人が中国語を理解していないが、その個人といくばくかの紙切れの結合体が何らかの仕方で中国語を理解しているかもしれない、というものだ。何らかのイデオロギーに囚われていない人が、この考えかたをまったく納得しうるものだとどうして思えるのか、私には容易に想像できない」。

デネットは、箱の中のサールと紙切れが中国語を理解していないことを是認したうえで、AIプログラムは個人とそのマニュアルを含む箱のなかのシステム全体であると主張する。

部屋の中のサールはプログラムを手動でシミュレーションする実行者にすぎず、中国語の理解が帰属するのは、サールではなくサールと紙の束を含むシステム全体であるというわけだ。

その上でデネットは、上述のサールが納得しがたいとした困惑はプログラム内蔵型コンピュータを着想したときにチューリングが得た洞察そのものであると指摘した。

ここでは、サールは“中国語の部屋”において箱の内外を取り違えるというカテゴリーの誤謬を犯しているということになる。

そしてデネットは“中国語の部屋”の思考実験は、サールが“強いAI”を否定するために用いた帰謬法に過ぎないと喝破する。