言語コミュニケーションと「常識（コモン・センス）」を考える
――東京女子大学現代教養学部准教授・大谷弘氏に聞く（２）
「フレーム問題」とともにAI研究の課題となってきた「記号接地問題」。語と語の統計的距離のみに基づいて生成されたLLM（大規模言語モデル）の言葉が記号接地をしているかについても、大きく議論が分かれている。コミュニケーションの主体にかかわるこの問題は、現実生活における責任の所在にも影響する。大谷氏は言語実践の判断基準として「常識（コモン・センス）」を挙げる。
取材：2023年7月26日 東京女子大学大谷研究室にて
 |
大谷 弘（おおたに ひろし） 1979年京都府生まれ。東京大学大学院人文社会系研究科基礎文化研究専攻博士課程満期退学。博士（文学）。東京女子大学現代教養学部准教授。専門は西洋哲学。著書に （筑摩書房）、 『ウィトゲンシュタイン 明確化の哲学』（青土社）、『「常識」によって新たな世界は切り拓けるか――コモン・センスの哲学と思想史』（共編著、晃洋書房）、『因果・動物・所有――一ノ瀬哲学をめぐる対話』（共編著、武蔵野大学出版会）、訳書として『ウィトゲンシュタインの講義 数学の基礎篇 ケンブリッジ1939年』（共訳、講談社学術文庫）がある。 |
目次
LLM（大規模言語モデル）がデフォルトになるコミュニケーションが到来すると
LLM（大規模言語モデル）から考える言語コミュニケーション
都築 LLMの語のつなげ方は、ヒュームの観念連合と似ている気がします。意識内容が類似・因果・近接で寄せ集められているとヒュームが主張するように、LLMでは語と語の間を統計的な距離で結びつけているだけで、メタレベルの質的なものがあるわけではありません。ChatGPTとそれなりに会話が成り立つのは、 私たちの会話が統計学的な言語ゲームにすぎないことの裏返しではないかと。
大谷 それは面白いですね。ヒュームとウィトゲンシュタインとは結構微妙な関係で、近いという人もいるし、遠いという人もいると思います。ヒュームの説は、よい悪いではなく、実際のところ観念は類似と接近と因果の観念連合の原理に基づいて結びついているということです。ウィトゲンシュタインは実際にどうなっているかにはさほど関心がなく、私たちがどういう枠組みのもとで動いているかに興味を持っていたのだと思います。ただ家族的類似については、私たちが言葉の概念を定義づけて使っているのではなく、ステレオタイプのようなものを使って概念を把握していることを言っているので、ある意味では実際にどうなっているのかという問題意識に近づいてきます。
都築 認知学者であるモーテン・クリスチャンセンとニック・チェイターは『言語はこうして生まれる：「即興する脳」とジェスチャーゲーム』（新潮社）で、クック船長が言葉の通じない島民と出会い、身振り手振りでジェスチャーをするなかから相手に敵意がないことと、贈り物を交換しあうことを確認する例などをひいて、私たちは言語を即興的に生み出しているのだと主張しつつ、チョムスキーやスティーブン・ピンカーの言語生得説を否定しています。
大谷 言語がそうしたやり取りから生まれるということですね。そこに直接関係するかどうかはわかりませんが、私たちのコミュニケーションは、かなり大雑把なイメージのやりとりで成り立ってしまうこともあります。そこで想像力をどのように用いるのかが重要なところです。言語理解においては、単にイメージを思い浮かべることや空想することでなく、意味の秩序のもとにシミュレーションをする想像力が大切ですし、そこに言語の重要な側面があります。
都築 私は、記号接地についてジャック・ラカンのいう「シニフィアン（記号表現）の連鎖」を思い出します。言葉を説明するために言葉を使って、それを説明するために言葉を使って……というように複数のシニフィアンがあるなかで、シニフィエ（記号内容）とシニフィアンの結びつきは流動的でシニフィアンどうしの関係性がむしろ重要だという考え方が、LLMの考え方と似ていると考えています。1回目でふれた『言語の本質』でも認知科学者スティーブン・ハルナッドの（記号で記号を説明するような事態はメリーゴーラウンドのように終着がないという）「記号のメリーゴーラウンド」という、よく似た考えを軸にして記号接地を論じています。
大谷 記号接地というのは、LLMはある種のパターン認識を行っているのであるから、どこかで現実と結びつかなければならないけれど、それがどこで結びつくかということですね。先ほどの例でいうとChatGPTそのものは身体を持たないけれど、学習しているデータには、それを書き込んだ人の身体が反映されている。顔がみえないけれど、記号接地はそこでなされているかもしれない。
都築 記号接地は「シンボル・グラウンディグ」という言い方でAI研究でも大きな課題とされてきましたが、LLMが文字列だけでなく画像データや音声データなど他の感覚を学習させてマルチモーダル化すると物理的なグラウンディングの余地は広がるかもしれませんね。
LLM（大規模言語モデル）がデフォルトになるコミュニケーションが到来すると
桐原 先日、大阪大学のELSIセンター（Ethical, Legal and Social Issues：倫理的・法的・社会的課題）の岸本充生先生に取材したときに、アメリカの弁護士がChatGPTが生成した存在しない判例を裁判所に提出したエピソードをうかがいました。その弁護士は、ハイパー・サーチエンジンを利用したにすぎないと言ったそうです。ツールとしての側面をみると倫理問題とはまた違ったところの影響がありそうだなと思いました。
大谷 そうですね。新しい技術が出てくると、私たちの生活のかたちが変わってきます。インターネットが出てきたことによって、私たち大学教員はレポートの剽窃の心配をしなければならなくなりましたし、スマートフォンが普及して多くの人がLINEで連絡を取り合うようになると、LINEを使っていない人は個別にメールを送らなければならない面倒な人として扱われてしまう。よい面もたくさんありますが、派生する綻びをどう繕うかという課題は生じます。ChatGPTも、教員としては学生への教育に使えるかもしれませんが、それを使って不正行為をはたらく人がいて、教育的によくないことを黙認してしまうことになると、そこはなんとかしなければなりません。
桐原 さきほどの、意味の意味を調べて……という記号のメリーゴーランドのように、ツールを使ったことの責任を根元にまで追及していくと、ChatGPTの生成したことをChatGPTに問いかけてという連鎖が生じそうです。連鎖のどこかの時点を、一次ソース的に根拠として受け取る人たちが多くなれば、ChatGPTの生成物を正解として成り立つ世界も考えられそうです。
大谷 ChatGPTに聞くことをデフォルトとするようなコミュニケーションが前提となってくると、やはり責任を求めづらくなりますね。たとえば現在ではGoogleで検索をすることが当たり前のことになっているように。
桐原 ChatGPTが話題になってから、多くのコメンテーターがChatGPTが正しいかどうかを判断する力がないと人間はツールに使われてしまうという、何世代も続いてきた道具論を語っています。読んでみると、その人たちがWikipediaやGoogle検索の結果を引用していたりして皮肉にも本人たちがそれに気づいてなかったりします。
大谷 そこは難しいですね。学生には典拠を参照するよう指導しますが、哲学事典を参照すれば間違いないかというと、そういうわけでもない。古い事典だと結構間違っていたりもしますから。生活のなかで何を当然視するかが変わってくると、新しい標準となるものを見つけなければなりません。
コモン・センスはどのように身につけられるか
都築 先生は、実践的判断の参照軸としての常識についても研究されています。
大谷 コモン・センスの概念は、アリストテレスまで遡ることもできますが、私はヒュームと同世代のスコットランド常識学派の哲学者トマス・リードについて研究しています。リードはコモン・センスという言葉を感覚ではなくジャッジメント、つまり健全な判断能力という意味あいで使っています。リードはおそらく、私たちの認識はコモン・センスなしには成り立たないと考えていて、一般原則のように「コモン・センスの第一原理」を定式化しています。私自身はそのような原理を明確に定式化できるとは思っていませんが、私たちの認識の枠組みとなるような判断能力は考慮しなければならないと考えています。私たちは、やはりある種の枠組みのもとで考えることしかできないだろうと。私の考えでは、コモン・センスには感受性や想像力の働かせ方、理性なども含まれています。このような人間が備えることが望ましい能力というものがあり、それを磨くことで物事を適切に判断できるという側面はみるべきだと思います。
都築 先生はウィトゲンシュタインも常識的であり啓蒙的だと論じていらっしゃいます。
大谷 ウィトゲンシュタイン自身はコモン・センスという言葉を使っていませんが、私たちの判断の枠組みや判断能力が大事だということは言っています。
都築 そうした能力は、経験から身につけられることでしょうか。
大谷 多様な学び方があると思います。他者とのやりとりから学ぶだけでなく、文学作品にふれることで他者に想像をめぐらしたり、さまざまな感情を抱いたり、日常とは異なる物語世界に浸ったりすることからも学びは得られます。私は『ウィトゲンシュタイン 明確化の哲学』（青土社）で、よく見ることが重要だと論じています。たんに「よく見る」というと観察者のような態度をイメージするかもしれません。しかし当事者研究などが示すように、想像力を巡らせて判断するためには、よく聞くことも大切だと思います。自分とは違う人の話に耳を傾けて理解しようと努めることによって磨くことができる感受性や判断力もあります。そうすることで、マジョリティ側にいるために素通りしてきたことに気づくことができるようになります──「コモン」という語感からは遠くなるのですが。
都築 利害が偏らないよう視野を広げる意味でのコモンを身につけることですね。
大谷 そこで人文学的なものが大切になってくるのだと思います。
都築 そういう意味での公共性を考えると、ロールズの正義論にも近い気もします。先生はウィトゲンシュタイン的な方法論に基づいてジョン・ロールズの政治哲学を考えられるとも書かれていますけれど。
大谷 私の場合はロールズの正義論というより、彼の方法論に関心があります。一般的にロールズの方法論は「反省的均衡」といわれます。これは、私たち個々の直観的判断と道徳原理とを突き合わせて調和がとれたときにはその原理が正当化されると考える一種の整合説です。私の場合は、個々の直観的判断が、1つの意味の秩序のもとに収まってくる側面を考えています。ロールズが用いたのは、バラバラだったことが1つの像に結ばれることを目指した説得方法で、そこにウィトゲンシュタインに近いものがあるのではないかと思うのです。
桐原 人間の持つべき健全さについて理解したり学んだりすることが、人間とAIとの差かもしれないですね。むしろAIは反省なんかはできないほうがよいのかもしれない。
大谷 倫理の部分については、人間がしなければならないでしょうね。コモン・センス的なものをChatGPTにデータとして与えるにしても、一律に読ませるのではなく、人間が意識の重みづけをフィードバックするべきだと思います。
