長期主義は見えない未来を変えられるか
第4回 長期主義の矛盾と生の有限性

核戦争や疫病とともに人工超知能による人間文明の消滅を憂慮する長期主義は、人工知能開発をリードするシリコンバレーの論理と矛盾する。そもそも、わたしたちは未来のために生きているのだろうか。
目次
不可視な未来を語る不可視な思想
長期主義のもつ、功利主義にもとづいて未来の人類の幸福を最大化するビジョンがシリコンバレーの思想トレンドとなった経緯は、ある意味で首肯できる。しかし、おそらくAGI開発に最も積極的であろうビッグ・テック起業家たちが、ASIはもちろんその前段階に位置するAGIをも人類存亡の危機としている長期主義に与していると考えるのは不合理だ。長期主義が、現下の社会的な影響を後回しにしてでも先端技術を推進しようとする加速主義者たちの主張を正当化する方便として用いられているのではないかという疑いも、そこに浮上する。
パーフィットは総量功利主義の「いとわしい結論」として、ある程度の人口が高い効用を得ている状況よりも、より多くの人口がぎりぎりの水準の効用で生存している状況のほうが望ましいと判定してしまう問題を挙げる。ユヴァル・ノア・ハラリが『ホモ・デウス テクノロジーとサピエンスの未来』上下(柴田裕之訳/河出文庫)で憂慮するような、少数のホモ・デウスと多数のホモ・ユースレスとに分断されるディストピアにおいても成立する状況である。先述のボストロムは2024年3月に刊行された新著『Deep Utopia: Life and Meaning in a Solved World』においてASIの開発を成し遂げた人類が、あらゆる災難を回避して無限の豊かさを享受する世界を描き、テクノ・ユートピアにおける人生に残されるのは空虚さではないかと問いかける。その翌月「官僚主義的な大学側との摩擦」を理由に人類未来研究所は閉鎖され、ボストロム自身もオックスフォードを去った。
人類と文明の存続を謳う長期主義が、人体のエンハンスメントと認知能力の拡張によって個人レベルで不死を獲得しようとするトランス・ヒューマニストの理想を補強するイデオロギーになりえるかについても疑問が生じる。人間の意識をコンピュータなどのデジタルデバイスにアップロードする究極の不老不死であるマインド・アップローディングを視野に入れると、生体を持たないヒトにおいて存亡リスクが回避されると考えられるのかについても問われなければならない。東京大学大学院准教授の渡辺正峰は著書『意識の脳科学 「デジタル不老不死」の扉を開く』(講談社現代新書)において、脳と機械を接続するBMI(Brain Machine Interface)を挿入することで生体の左右の脳半球を分離し、左右の生体脳半球をそれぞれ機械半球に転送したうえで機械半球を接合すれば、意識をアップロードすることができると記し、これを20年内以内に実現することが可能であると主張している。ここに至ると、なにを人間とみなすのか、なにを人類とみなすのかについてという存在論的な問題を考える必要が不可避となる。