AGIやASIを考えるとき、最大の懸念はAIテクノロジーが軍事利用されることである。カーツワイルは核兵器を例に、そのリスクが低いことを強調するが、LAWS（自律型致死兵器システム）については国家レベルでのコンセンサスが得られていないのが実状だ。

目次

キラーロボットの懸念はバイアスに過ぎない？

デュアルユースを等閑視できるか

キラーロボットの懸念はバイアスに過ぎない？

レイ・カーツワイルは著書『シンギュラリティはより近く』のなかで、人々がなぜ時代の転換点にいることを認識していないのかについて、知己のある幾人かの研究者をひいて考察している。その1人が、2024年3月に惜しくも物故した心理学者のダニエル・カーネマンである。ヘブライ大学の同僚だったエイモス・トヴァルスキーとともに、経済学と認知科学を融合した行動経済学の創始と発展に大きく寄与し、2002年に心理学者として初のノーベル経済学賞を受賞した人物だ。行動経済学とその発展経緯については、本サイトで2023年3月に公開した京都大学の依田高典教授へのインタビュー“行動経済学と機械学習で、人の「ココロ」がわかる？”に詳しいので、ぜひ参照してほしい。

カーツワイルが強調するのは、カーネマンとトヴァルスキーが提唱した、人が経験や先入観から物事を即断する思考のショートカット“ヒューリスティックス”における錯誤である。ヒューリスティックには3種類あり、1つは典型的な事例を参照して、それが全体にも当てはまると考える“代表性ヒューリスティック”で、たとえば「眼鏡をかけた読書好きの物静かな男性」の職業を推測する際に、農業従事者よりも図書館員のほうが該当しそうだと考えるようなことを指す。実際には図書館員よりも農業従事者のほうが絶対数が多いのだが、人はしばしばその基準率を見落としてしまう。技術の進歩にあてはめると、新しく得られるものよりも、そこで失われるものを多く見積もってしまうというわけだ。2つめは“アンカリングと“調整ヒューリスティック”というもので、たとえばコイントスで表が出ると、次には表が出ると予測するようなことが挙げられる。もちろん、個々のコイントスで表と裏が出る確率は1/2である。このバイアスにより、進歩が続くとそれがいずれ衰退するだろうと考えがちだということになる。3つめに挙げられるのは“利用可能性ヒューリスティック”で、人は自分が思いつくできごとに沿って物事が起こると考えるというものだ。科学技術をめぐるニュースはネガティブな事例を取り上げがちだが、その背後には報道されない多くのポジティブなできごとがあるということになる。カーツワイルは、人々が現実を直視する目を曇らせるこれらのバイアスを排し、転換点において人類の未来について楽観的になる根拠を思考するべきだという。