AIが人間の知能に近づくためには、「なぜ？」を問う因果推論が不可欠だとジューディア・パールは主張する。「もしも○○だったら？」と考える反実仮想の能力は、過去の判断を振り返り、より良い選択を導く鍵となる。

目次

反実仮想は何をもたらすか？

AIの進化には因果推論の能力が必要となる

相関関係で眺められた世界

反実仮想は何をもたらすか？

AIが人間の知能に匹敵するには因果推論の能力が必要だと説いたのはコンピュータ科学者で哲学者のジューディア・パールだ。パールは『因果推論の科学 「なぜ？」の問いにどう答えるか』（ダナ・マッケンジー共著/松尾豊監修/夏目大訳/文藝春秋)のなかで、因果推論の能力が人間の高度な思考、特に「反実仮想」に不可欠であると論じた。
反実仮想とは、「もしも○○だったらどうなっていただろう？（Xが原因でYが起きたのか？　Xが起きなかったらどうなったのか？　違う行動をとったらどうなったのか？）」といった、実際には起こらなかった事象について考える能力である。過去の行動や判断を振り返り改善点を見つけ出すプロセスである“反省”は反実仮想と深く関連している。
因果推論とは、言い換えれば本書の副題にもあるように「なぜ？」──原題はThe Book of Why──を考えることである。なぜを問うことは物理的な原因、心理的な原因など事象の発端要因を問うことである。自然科学や統計学、機械学習は、データのパターン認識は得意だが「なぜ？」を問うことはできない点を重大な問題として、パールは長い年月をかけて因果推論モデルを研究、開発した。
本書でパールは、「なぜ？」を問うことの重要性を説き、従来の統計学やAIが因果関係を追求してこなかったことを批判する。近代統計学は相関関係を分析できるが、「喫煙が肺がんを引き起こすのか？」というような問いに誰でもが納得するような──肺がんには遺伝的素因もある──客観的な因果関係を明確にはできない。
パールはこうした問題を克服するために、関連づけ（観察）・介入・反事実の三段階である「因果のはしご」論を提唱し、因果ダイアグラムやdo演算子といった手法を開発することで、因果推論を可能にする数学的な手法を提示した。
因果推論は人間の知能の核心であり、過去を振り返り「もし別の選択をしていたら？」と考える反実仮想にも不可欠だと述べる。現在のAIは相関しか扱えないが、真の知的システムを構築するためには因果推論の能力が必要となる。因果推論を取り入れることで、未来予測や説明可能なAI（XAI）の実現が可能になるとパールは主張する。