シンギュラリティはより近くなっているのか
第3回 コンピュータ・サイエンスと行動経済学

2024年に物故した心理学者ダニエル・カーネマンは、シンギュラリティ後にAIに人の知能が適応できないこと、また人類間で暴力的な対立が起こることを懸念していた。一方、カーネマンの提唱した思考のモードに基づく新たな機械学習モデルの開発も構想されている。

目次

• 生育歴がテクノロジー観に影響を与えることへの疑問
• ゴッドファーザーは3人いる

生育歴がテクノロジー観に影響を与えることへの疑問

カーツワイルとカーネマンとは、個人的な会話のなかで、情報テクノロジーが価格性能比や能力の面で指数関数的に向上していくと、衣類や食品などの物理的ニーズを満たし、人々がより高次の欲求を満たすことになるだろうということで意見が一致したという。カーネマンは、AIテクノロジーが指数関数的に急激な発展を遂げ、知的能力の点で大差をつけて人間の知的能力を追い抜くことを予見したうえで、直線的な思考を持つ人間がそこに適応するのは困難だとしている。この点については、人間の知能がAIと融合して拡張されるメリットを強調するカーツワイルと見解が大きく異なるところだ。

カーネマンは、テクノロジーの発展によってメリットを享受する層とそうでない層とが長期にわたって対立し、暴力的な事態を招来することを懸念する。特にデメリットが集中して小集団に及ぶようになると、そのリスクは高まるだろうと。これに対しカーツワイルは、テクノロジーの発展によりコミュニケーションが亢進して、物事を話し合いで決めようとするインセンティブが高まることを指摘したうえで、こうした課題もAIと融合して拡張された知性で解決できるようになると主張している。

両者の相違の背景には、生まれ育った幼少期の環境によるものだとカーツワイルは推察する。カーネマンは、1934年にナチスドイツの占領下にあったパリに生まれ、ユダヤ人だった父親はナチスに逮捕され、釈放されてからは一家で隠遁するようにパレスチナで幼年期を過ごした人である。

一方カーツワイルは、1948年にニューヨークで生まれ育っている。カーツワイルは、第1次世界大戦後のヨーロッパの紛争と憎悪の記憶が刻み込まれているゆえにカーネマンがペシミスティックな展望を抱くのだろうというが、カーネマン自身は2021年の英紙ガーディアンからのインタビューで、心理学者になったことと幼少期の経験に関係がないことを明言している。

たしかに両者のバックグラウンドは対照的だが、生育歴が未来展望を決定づけると考えるのは、早計にすぎるように思う。前節で被団協に触れたが、日本に限定しても、戦争経験者だけでなく、たとえば地下鉄サリン事件や東日本大震災、コロナ自粛期間のそれぞれに幼少期を過ごした世代はそれぞれ異なる価値観を持っているはずだが、それゆえに共通の将来像を描けないとなると、一部のテクノロジストを事後追認するような受容の仕方しかできなくなる。

ゴッドファーザーは3人いる

カーネマンの業績として最も有名なのは、“システム1”と“システム2”からなる二重過程理論だろう。この理論は、カナダの心理学者キース・スタノヴィッチとリチャード・ウェストが2000年に発表した論文によって提唱された。不確実性下における意思決定モデル「プロスペクト理論」を共に研究したカーネマンとエイモス・トヴァルスキーが精緻化し、トヴァルスキーの死後、カーネマンが著したベストセラー『ファスト&スロー あなたの意思はどのように決まるか？』（村井章子訳／ハヤカワ文庫）によって広く知られるようになった。

この理論は、思考のパターンを「直感的に即断するモード（システム1）」と、「知識や論理的思考を用いて熟考するモード（システム2）」の二つに大別するものである。

なお、今回ノーベル物理学賞の報道でも話題になったように、“AIのゴッドファーザー”と称されるのはジェフリー・ヒントンだけではない。2018年にチューリング賞を共同受賞し、“深層学習のゴッドファーザー”と呼ばれるのは、トロント大学名誉教授のジェフリー・ヒントン、モントリオール大学教授のヨシュア・ベンジオ、そしてニューヨーク大学教授でMeta副社長のヤン・ルカンの3名である。

このうち、ヒントンとベンジオは、それぞれカーネマンの提唱する「システム1」と「システム2」に近いニューラルネットワークの研究を進めている。

ジェフリー・ヒントンは、GLOM（“agglomerate”と“glom together”からの造語）と名付けた視覚モデルの研究を進めている。GLOMは画像を階層構造に分解し、部分と全体の関係性の中で視覚情報を処理することで、人間の知覚に近い理解を目指している。ヒントンは直感が知覚において重要であると考え、AIが人間のように直感的に物事を理解するためのモデル化を進めている。GLOMは、まさにカーネマンの「システム1」の役割をAIに組み込もうとする試みである。

一方、ヨシュア・ベンジオは、カーネマンの「システム2」に相当する推論モードに着目したAIエージェント「GFlowNet（Generative Flow Network）」を開発している。GFlowNetは、ベイズ推論に基づくポステリア分布を活用し、モデルの適合度を評価。最悪のシナリオを推定し、リスクを回避する。これにより、AIが高い能力を持っていたとしても、設定された目標から逸脱しないようにすることができる。なお、ベンジオはAIのデュアルユース（民間と軍事の両用）に対する懸念から、ビッグテックからのオファーを拒み続け、カナダに留まり研究を続けている。

ヤン・ルカンは、2022年に発表した論文「A Path Towards Autonomous Machine Intelligence（自律的な機械知性への道）」で、異なる抽象度や時間軸に基づく世界の仕組みを学習する動的なアルゴリズムを提案している。これは、人や動物が前頭前野に持つ単一かつ互換可能な世界モデルを参考にしたもので、少ない観察と試行で予測や推論が可能になるという仮説に基づいている。

ルカンは、このアーキテクチャが実現すれば、AIは世界モデルの集合体としての「常識」を備えることができるようになると述べている。彼の研究の軌跡は『ディープラーニング 学習する機械 ヤン・ルカン、人工知能を語る』（松尾豊監訳／講談社）で詳しく読むことができる。