AIの意識に迫る本連載の第4回では、AIを「外」から見て意識の有無を判断できるのかについて大泉氏に聞いた。

取材協力　大泉匡史・東京大学大学院総合文化研究科広域科学専攻広域システム科学系自然体系学講座 准教授

取材：2024年11月16日　東京大学駒場キャンパス大泉研究室

大泉匡史（おおいずみ　まさふみ） 2005年、東京大学理学部物理学科卒業。2010年、東京大学大学院新領域創成科学研究科にて博士取得。2019年4月より東京大学大学院総合文化研究科広域科学専攻 准教授。共著に『日常と非日常からみる こころと脳の科学』（コロナ社）がある。

執筆者プロフィール

松下 安武（まつした やすたけ）

科学ライター・編集者。大学では応用物理学を専攻。20年以上にわたり、科学全般について取材してきた。特に興味のある分野は物理学、宇宙、生命の起源、意識など。

目次

AIの意識の有無は「機能」からは判断できない

AIは「哲学的ゾンビ」なのか？

AIの意識の有無は「機能」からは判断できない

大泉氏によると、「AIは意識をもつのか」という問いに対してどう考えるかには、大きく分けて二つの立場があるという。

大泉　一つ目の立場は、「外から見たときにAIに意識があるように見えるかどうかだけを問う」というものです。「主観的な意識をもっているかどうかは確かめようがないのだから、外から見て人間と区別がつかないのなら、『意識がある』とみなそう」という立場だと言えます。

つまり、「機能」から意識の有無を判断するわけで、このような立場を「ファンクショナリズム」、日本語では「機能主義」と呼びます。「意識があったらこういうことができるはずだ」というリストをつくり、それらが実現したら意識があるとみなすのです。意識を研究している人の中にも機能主義の立場の人がかなりいます。

例えば、「メタ認知」の能力があれば、意識があるとみなそう、という立場の研究者もいますが、これも機能主義だと言えます。メタ認知とは、自らの認知過程を客観的に認知することを言います。例えば、自分の思考や行動を客観的に分析し、判断を修正したりするのがメタ認知です。「自分をもう一人の自分から見る」と言ってもいいでしょう。しかしメタ認知を機械やAIに実装することだってできます。メタ認知も「機能」にすぎないのです。

二つ目の立場では、意識はあくまで「主観的な体験」だと考えます。この立場からすると、どんなに外から見て意識があるように見えたからといって、それだけでは「意識がある」とは言えないということになります。

意識の有無は機能だけからは判断できないということを示す有名な事例として、「盲視」がある。脳の視覚野（視覚に関与する部位）に障害をもった人の目の前に物を置くと、その人は「見えません」と答える。しかし「当てずっぽうでいいので、どこにあるかを指し示してください」と指示すると、物の位置を正しく指すことができる場合があることが知られている。これが盲視だ。

この現象は、「物がそこにある」ということが意識に上らなくても、物の位置を正しく指し示すという「機能」は実現できることを意味している。

以上のように研究者の間ですら、「意識がある」とはどういうことかについて、複数の立場があるので、「AIに意識はあるのか」、「AIは将来、意識をもちうるのか」について議論するときにも、混乱が生じがちなのである。

大泉　特にAIの専門家には機能主義の人が多いかもしれません。応用上、何ができるかを重視するので、AIに主観としての意識があるかどうかは気にしても仕方がない、と考えているのだと思います。

私は機能主義自体を否定しているわけでは全くありません。人間っぽく見えるAIを作ることも当然、意義はあると思います。そういったAIは話し相手として心が安らぎますし、役に立つという意味では素晴らしいと思います。ただ、そのようなAIが本当に人間のような主観としての意識をもっているかどうかは別問題なのです。そのことを忘れてはいけません。