わかりにくさの罪、わかりやすさの罰
XAIが目指す帰納的飛躍の解消

AIとの共存と、科学との共存

しかし、私たちが理解できないのはなにも天才ばかりではない。私たちはほとんど他者のことを理解しないし自分のこととて同様だ。なんとか理解しようと駆使するのが、置き換えだったりする。自分だったらどうか。今の私のような状況のとき、尊敬するあの人はどうしていたか。そんなふうに譬え話（メタファ）によって、他者や自分を明らかにしようとする。

ペレルマンに対しマスコミが懸賞金の金額に注目する記事を書いたのも、俗人の心理をペレルマンのそれに置き換えたことによる。読者は自分がペレルマンだったら、100万ドルで大喜びだと考え、ペレルマンに自分と同じであることを期待する。多数派の期待が裏切られると、過剰な反応が起きる。

SNSの炎上騒動もほとんどこうした間違った譬え話（メタファ）に端を発している。著名人の失言や言い間違いをあげつらうのも、安直な譬え話に醸成された怒りがほとんどだ。安直な譬え話にならなければならないで「わかりにくい」だの「庶民を馬鹿にしている」だのと言われるだけで、多くの人が溜飲を下げるレベルで“わかりやすく”罰を受け許される方法はない。

とはいえ、人が譬え話（メタファ）によって難解な事象を理解しようとするのは間違ったことではない。むしろそうすることによって人類は進歩してきたのだ。自然現象を比喩として語ることで、扱いやすいサンプルを得ることができるし、神の支配する神秘の世界を脱することもできたのだ。

この比喩こそが、ここ数回で話題にしてきたアウトプットとしての文体を生み出す能力の多くを占める部分である。いや、インプットに対しても比喩化することで複雑な事象を簡略にし思索に取り組めるようにする機能がある。

私たちは、自然現象を神秘とせずに比喩することで自然科学を発達させてきた。

『科学哲学への招待』（野家啓一/ちくま学芸文庫）によれば、現象学を創始したフッサールは科学の進展の大きな一歩となった自然現象の測定可能な物理量としての数量化を指して「ガリレオによる自然の数学化」と呼んだそうだ。ガリレオは自然を匂いや色、音といった質的な自然観から量的な自然観に移行させたのだ。この翻訳、言い換えこそ、この記事でいう比喩のことだ。

『科学哲学への招待』では、セレンディピティといわれる科学者の閃きについても、メタファの有効性についても論じられる。

そのうえで合理性、ロジックとは生成変化する世界に対する言語の適応であり、この方法の主たる武器が比喩なのだという研究者の言が紹介される。

比喩だからこそ、先の「黒い鳥Aはカラスだ→黒い鳥Bはカラスだ→たぶん黒い鳥はすべてカラスだ。」のロジックには「帰納的飛躍」と呼ばれる断絶が内包されてしまう。この断絶こそが、ディープラーニング以降のAIのニューラルネットワークに存在するブラックボックスの正体なのだ。前提と結論、つまりインプットとアウトプットの間に必然性ではない確率が潜んでしまうと言い換えることもできる。

ディープラーニング以降のAIが抱え込んだ問題がブラックボックス化とすれば、その根本には私たちがすっかり慣れ親しんだ近代科学の真実性、説明可能性が抱え込んだままでいる問題と通底している。

XAIがAIと人間の共存を目指すテクノロジーであるならば、私たちはまた科学との共存も考え直さなければならない時代に生きているのかもしれない。

そんなことを考えている。