選択と相対 ヒュームと因果推論
第３回「なぜ？」を問う因果推論の重要性
AIが人間の知能に近づくためには、「なぜ？」を問う因果推論が不可欠だとジューディア・パールは主張する。「もしも○○だったら？」と考える反実仮想の能力は、過去の判断を振り返り、より良い選択を導く鍵となる。
目次
反実仮想は何をもたらすか？
AIが人間の知能に匹敵するには因果推論の能力が必要だと説いたのはコンピュータ科学者で哲学者のジューディア・パールだ。パールは『因果推論の科学 「なぜ？」の問いにどう答えるか』（ダナ・マッケンジー共著/松尾豊監修/夏目大訳/文藝春秋)のなかで、因果推論の能力が人間の高度な思考、特に「反実仮想」に不可欠であると論じた。
反実仮想とは、「もしも○○だったらどうなっていただろう？（Xが原因でYが起きたのか？ Xが起きなかったらどうなったのか？ 違う行動をとったらどうなったのか？）」といった、実際には起こらなかった事象について考える能力である。過去の行動や判断を振り返り改善点を見つけ出すプロセスである“反省”は反実仮想と深く関連している。
因果推論とは、言い換えれば本書の副題にもあるように「なぜ？」──原題はThe Book of Why──を考えることである。なぜを問うことは物理的な原因、心理的な原因など事象の発端要因を問うことである。自然科学や統計学、機械学習は、データのパターン認識は得意だが「なぜ？」を問うことはできない点を重大な問題として、パールは長い年月をかけて因果推論モデルを研究、開発した。
本書でパールは、「なぜ？」を問うことの重要性を説き、従来の統計学やAIが因果関係を追求してこなかったことを批判する。近代統計学は相関関係を分析できるが、「喫煙が肺がんを引き起こすのか？」というような問いに誰でもが納得するような──肺がんには遺伝的素因もある──客観的な因果関係を明確にはできない。
パールはこうした問題を克服するために、関連づけ（観察）・介入・反事実の三段階である「因果のはしご」論を提唱し、因果ダイアグラムやdo演算子といった手法を開発することで、因果推論を可能にする数学的な手法を提示した。
因果推論は人間の知能の核心であり、過去を振り返り「もし別の選択をしていたら？」と考える反実仮想にも不可欠だと述べる。現在のAIは相関しか扱えないが、真の知的システムを構築するためには因果推論の能力が必要となる。因果推論を取り入れることで、未来予測や説明可能なAI（XAI）の実現が可能になるとパールは主張する。
AIの進化には因果推論の能力が必要となる
因果ダイアグラムは、プロセスに多様な変化を与えうる変数を整理しながら因果関係を視覚的に表現するツールであり、交絡因子とコーライダーという要素によって因果関係を整理する。
「アイスクリームの売上が増えると、溺死者数も増える」といった事象の観察において、２つの変数（「アイスクリームの売上」と「溺死者数」）が生じさせる“偽の因果関係”（「アイスクリームによって溺死する」）を整理するために必要となる共通の要因（この場合は「気温」）のことを、交絡因子という。
一方、コーライダーとは「健康診断を頻繁に受ける人ほど、病気である確率が高い」というような、2つの変数（「健康診断の受診頻度」と「病気の確率」）を関連づけするとかえって誤った相関を生じさせ、バイアス（「健康診断を受けると病気になりやすい」）となって適切な因果推論を阻害させてしまう要因だ。
さらに、do演算子とはある事象の観察にとどまらず、「もしXを人為的に操作したら、Yはどうなるか？」 という介入を表現するために用いられる手法である。「アイスクリームの売上（X）を減らすと、溺死者数（Y）も減るか？」といった操作（介入）をすれば、この２つに因果関係が成り立たないのが明瞭になる。
ひじょうに乱暴に『因果推論の科学』の要点をまとめたが、その内容はわたしには難解なものであり、これ以上わかりやすく説明する術が思いつかない。しかし、本書のメッセージするところの重要性にはとても感銘を受けた。AIの進化のプロセスに必ずや因果推論の能力が必要となることが、嫌が応にもわかったからだ。
因果推論の科学 「なぜ？」の問いにどう答えるか
松尾 豊 解説, 夏目 大 訳
文藝春秋
