シンギュラリティはより近くなっているのか
第2回 人類進化の転機と帰趨
AGIやASIを考えるとき、最大の懸念はAIテクノロジーが軍事利用されることである。カーツワイルは核兵器を例に、そのリスクが低いことを強調するが、LAWS（自律型致死兵器システム）については国家レベルでのコンセンサスが得られていないのが実状だ。
目次
レイ・カーツワイルは著書『シンギュラリティはより近く』の中で、なぜ人々が今この時代の大きな転換点を認識できていないのかを考察している。その中で引き合いに出されるのが、2024年3月に逝去した心理学者ダニエル・カーネマンだ。
カーネマンは、ヘブライ大学の同僚エイモス・トヴァルスキーとともに行動経済学を創始し、2002年には心理学者として初めてノーベル経済学賞を受賞している。行動経済学とその発展については、本サイトの2023年3月掲載の京都大学・依田高典教授へのインタビューに詳しい。
カーツワイルが特に注目するのは、カーネマンとトヴァルスキーが提唱した「ヒューリスティックス」という思考のショートカットが生む認知バイアスの問題だ。ヒューリスティックスには大きく3つのタイプがある。
まず1つ目は「代表性ヒューリスティック」。これは、典型的な特徴を持つ事例に引きずられて全体を判断する傾向だ。たとえば「物静かで読書好きな眼鏡の男性」を見たとき、統計的には農業従事者が多いにもかかわらず、「図書館司書だろう」と判断してしまう。このバイアスは、目立つ特徴が確率よりも優先されてしまうことを示している。
テクノロジーの進歩に対しても同じで、人々は新たに得られる利益よりも、失われるものやリスクを過大に評価しがちになる。
2つ目は「アンカリングと調整ヒューリスティック」。これは、人が最初に得た情報や印象（アンカー）に強く影響され、その後の判断をその基準からずらしてしまう傾向だ。たとえばコイントスで表が出ると「次も表が出るかも」と感じるが、実際には確率は常に1/2で変わらない。この心理は、技術が進歩し続けることに対し、「そろそろ限界が来るのでは」と無意識に考えてしまう要因になる。
そして3つ目が「利用可能性ヒューリスティック」。これは、人が直近で思い出せる情報や印象を過大評価してしまう現象だ。メディアがAIやテクノロジーの危険性やネガティブなニュースばかりを報じれば、人々の頭の中には「技術は危険だ」というイメージが強化される。しかし実際には、報道されない多くのポジティブな事例が日々積み重なっている。
カーツワイルは、こうしたヒューリスティックスが私たちの視野を狭めていることを強調する。目の前のテクノロジーの変化が生むリスクばかりを過剰に意識するのではなく、こうした認知の歪みを自覚し、人類の未来に対してもっと合理的かつ楽観的な視点を持つべきだと提言している。
レイ・カーツワイル (著)
高橋 則明 (翻訳)
NHK出版
デュアルユースを等閑視できるか
いまだ席巻する「AIに仕事を奪われる」式の脅威論について考えると、バイアスを糺してテクノロジーを楽観視する態度は首肯できるものではある。
しかし、テクノロジーが民間にも軍事にも利用できるデュアルユースを考えると、LAWS（Lethal Autonomous Weapons System：自律型致死兵器システム）の危険性について考えざるを得ない。
カーツワイルはAIの進歩が人類にもたらすであろう混乱やデュアルユースの懸念について、核兵器を例に、米ソ冷戦構造のもとで懲罰的抑止を前提とした相互抑止MAD（Mutually Assured Destruction：相互確証破壊）の均衡が70年以上も保たれていることを挙げて、AIの軍事リスクもまた低いものだろうとする。
またNPT（Non-Proliferation Treaty：核不拡散条約）やCTBT（Comprehensive Nuclear Test Ban Treaty：包括的核実験禁止条約）のもとでそれが使われていないことを理由に楽観的な見通しを示している。
現在核兵器を所有しておりNPTとCTBTの両方に批准または署名しているのは国連安全保障理事会の常任理事国5か国（アメリカと中国はCTBTに批准しておらず署名のみ）で、インド・パキスタン・北朝鮮はNPTとCTBTに批准や署名をしていない（北朝鮮は2003年にNPTを脱退）。
またCTBTのみに署名しているイスラエルは核保有が確実視されているが、肯定も否定もしない政策をとっている。
これら9か国のうち3か国が紛争に参加している国際政治情勢において、核兵器の危険について等閑視することは難しいようにも思える。
――もちろんこれが杞憂に終わることを望むほかないのだが。附言すれば、2024年のノーベル平和賞には「核兵器のない世界を実現するための努力と、核兵器が2度と使用されてはならないことを証言によって示してきた」として日本原水爆被害者団体協議会に与えられた。
日本人のノーベル平和賞受賞は、1974年に「核は保有しない、核は製造もしない、核を持ち込まない」という非核三原則を宣言した佐藤栄作前総理大臣に続く2回目のことである。
AIに話を戻すと、2018年のLAW（Lethal Autonomous Weapons Pledge：自律型致死兵器に関する誓約）では、人間に対する殺傷能力を持つAIロボットを開発しないこと、また人命を奪う判断を機械にさせないことが示され、スティーヴン・ホーキンスやマーティン・リース、ノーム・チョムスキーといった研究者や、イーロン・マスクやデミス・ハサビスといった実業家をはじめ2400人以上の個人と170を超える団体が署名したものの、アメリカ・ロシア・イギリス・フランス・イスラエルといった軍事大国は署名を拒否している。
