今ではなく未来の行動を主張するマッカスキル

「我々は歴史の蝶番（Hinge of History）に生きている」として今すぐの行動を訴えたパーフィットにたいし、マッカスキルの長期主義は徹底して未来志向であることが特徴だ。マッカスキルは「歴史の蝶番」論の背景には、カール・セーガンに影響を受けた「苦境の時代説」と、ニック・ボストロムやエリザー・ユドコフスキーがAI脅威論として警鐘を鳴らす「価値観の固定化説」との2つの価値観があるとする。「苦境の時代説」とは、核兵器や合成生物学の登場によっていま現在が最大の人類絶滅リスクにさらされている立場、また「価値観の固定化説」とはSGIなどの技術によって未来の文明全体が1つの価値観において永続的に維持されることを懸念する立場のことである。ニック・ボストロムは『スーパーインテリジェンス』（倉骨彰訳/日本経済新聞出版）においてAGI（Artificial General Intelligence：人工汎用知能）が登場して再帰的に自己改良をつづけて全人類の能力を凌駕するASI（Artificial Superintelligence：人工超知能）が登場することで人類が危機に陥ることを論じた哲学者、エリザー・ユドコフスキーはカリフォルニア州バークレーにあるMIRI（Machine Intelligence Research Institute）所長としてAIアライメントを主導する研究者である。なおボストロムは2005年に自身が設立した人類未来研究所（Future of Humanity Institute）所長を務めていた。オックスフォード大学構内の人類未来研究所は効果的利他主義センターとオフィスをともにしていた。

スーパーインテリジェンス: 超絶AIと人類の命運
ニック ボストロム 著, 倉骨 彰 訳
日経BPマーケティング
ISBN978-4532357078