AGI（汎用人工知能）やASI（人工超知能）のような自律性を持った人工知能を、ジョン・サールは“強いAI”と呼び、その実現がありえないことを示唆した。ダニエル・デネットはこれを論難し、願望に基づく先入観がときに“ブーム・クラッチ（爆発する松葉杖）”となることを警告した。

目次

“強いAI”のリバース・エンジニアリング

ブーム・クラッチ――爆発する松葉杖

“強いAI”のリバース・エンジニアリング

さきに“強いAI”と記したが、この“強いAIと弱いAI”というのも、サールの造語である。生成AIが普及しているいまは、機械学習のように目的関数に向けた推論や問題解決を行うAIを“強いAI”と、またAGI（Artificial General Intelligence：汎用人工知能）やASI（Artificial Superintelligence：人工超知能）のように、未知の問題を解くような、まだ見ぬAIを“強いAI”と呼ぶこともあるが、そもそもの定義からは外れている。

サールが“強いAIと弱いAI”について最初に発表したのは、1980年に“Behavioral and Brain Sciences（行動科学および脳科学）”誌掲載の論文「心・脳・プログラム」においてである。余談だが、BSSと称される同誌は、AIには意味が理解できないとする記号接地問題を提起したスティーブン・ハルナッドが1978年に創刊した学術誌で、被引用数をはかるインパクトファクターは2023年に16.6（2022年には29.3）を誇る認知科学の最重要誌であり、当初は季刊で発行されていたものの、この分野の活況を受けて1997年からは隔月刊で発行されている。1980年に発表されたサールの“強いAI”の定義は「適切にプログラムされたコンピュータは、文字通りの意味での認知的状態をもち、そのことによってそのプログラムは人間の認知を説明する」というものだった。同論文は『心・脳・科学』（土屋俊訳／岩波書店）に所収されている。1988年にサールはこの定義を明確化し「正しい入力と出力を備えた適切にプログラムされたコンピュータは、まさにそのことによって、人間が心を持つのとまったく同じ意味で、心をもつだろう」と言い換えている。サールのこの定義づけは“強いAI”にあたるシステムが存在し得ないことを“中国語の部屋”のアナロジーなどによって否定するためになされたものである。

デネットはBBS誌上でサールの論を批判しただけでなく、GEBとして日本でもブームとなった『ゲーデル、エッシャー、バッハーあるいは不思議の環』（野崎昭弘他訳／白揚社）の著者であるダグラス・ホフスタッターとともにサールの論文に注釈をつけていくことで、いわば“リバース・エンジニアリング”を行い、サールの論考が往々にして機能不全を起こすことを指摘した。デネットとホフスタッターの対談は『マインズ・アイ：コンピュータ時代の心と私』（坂本百大訳／阪急コミュニケーションズ）に所収されている。

ゲーデル、エッシャー、バッハ　あるいは不思議の環
ダグラス・R・ホフスタッター著,野崎昭弘, はやしはじめ, 柳瀬尚紀訳
白揚社
ISBN978-4826900256

マインズ・アイ　コンピュ-タ時代の「心」と「私」
ダグラス・R. ホフスタッター 著, D.C. デネット 著, 坂本 百大訳
阪急コミュニケーションズ
ISBN978-4484921266