核爆発と知能爆発の背後にある時代〜想像と思考を拒絶する人工知能 その2

ARCHIVE
テキスト 桐原 永叔
IT批評編集長

 

核分裂反応を発見したとき、人類は太陽を手にしたと考えた。シンギュラリティの先に、人類は神の創造力を手にするのか。核の悲劇は、人工知能の悲劇に似ることはないのか。

 

擬人観では捉えられない知性

AIが進化したとき、シンギュラリティの先に人間からはまったく想像も理解もできない知能が生まれることはありえる。AIがソラリスの海のように、現在ではほとんど語義矛盾でしかない「人間を疎外する知能」となる将来が来る可能性がある(語義矛盾というのは、今日、人間以上に知能をもつ存在は想定できないからだ)。

将来、AIがどのような存在になるかはわたしたちには想像不可能である。ホーキング博士がいうように「AIの発展が(人間の未来に)必ず友好的であるとは考え」られないかもしれない。

AIが友好的であるか悪意的であるか。それは人間が人間に対する恐怖と同等に恐ろしい。人間の知能にAIが近づけば近づくほど、人間と同様に憎悪や悪意を宿す可能性もある。

ただし、こうした予測は人間の想像や思考を拒絶するものではない。考えなければならないのは、ソラリスの海──人間の知能を疎外してしまうAIの可能性なのだ。ロボットを見極めることが人間存在を定義しなおす作業とすれば、AIの進化は人間の知能の定義など置いてきぼりにしていくかもしれない。

ホーキング博士の警告はいずれ訪れるといわれる「知能爆発」を前提した危惧である。AIが自らAIそのものを研究開発し、進化していくことが考えられるのだ。それは核分裂のように同時に数億という単位で作用しうる。AIが人間の手を借りず進化しはじめれば、進化の速度は人間の知能の進化など容易に圧倒しうるものだろう。擬人観でAIをみることの無力さを感じざるをえない。人間のようにのんびりとは、AIは成長も進化もとどめてくれないだろう。

AIは人間に似せて生まれ育ち、やがて人間とはまったく別のものになるという想像をどれだけすることができるか。他者としてのAIをいかに考えておくか。SF作品になんとかそのヒントを見つけようとするのも、果たしてただ人間的な行為にすぎないのかもしれない。

ユートピア、ディストピアのいずれもまたAIにはないだろう。いや、空想を励ましてAIがいずれ世界から戦争を廃絶し、貧困問題を解決してくれる日を考えることもできないことはない。とはいえその未来がユートピア、ディストピアなのかは、それこそ人間の感情が判断するものだろう。AIがもたらした平和など受け入れられないということを言いかねないのが人間だからだ。

AIと核

1938年、オットー・ハーンとリーゼ・マイトナーが核分裂反応を発見したとき、その巨大なエネルギーの可能性に、多くの物理学者は「人類はついに太陽を手に入れた」と考えた。そして同時に、核分裂反応が想像を絶する破壊兵器に転用できるものだと考えたことも忘れてはいけない。まだ80年足らず以前の話なのだ。

核兵器開発を歯止めのないものしたのは、猜疑心であり恐怖だった。よくいわれるようにナチスでの原爆開発への恐れが、あの大規模なマンハッタン計画を実行させ成功させたのだ。冷戦時代、米ソそれぞれの陣営が、猜疑心と恐怖のために核開発のチキンレースからおりられなかったことも同様だろう。

近い将来、AI研究に携わる科学者たちは「人間は神の創造力を手にした」と喜ぶ日がくるかもしれない。人間と見分けのつかない、人間以外に定義しようのない人工生物が生まれるときは思っているほど遠くない。

しかし、核分裂反応の発見で手にした太陽が人を焼き尽くしたように、人間がつくりだした人工生物が“ヒト”ではなく、わたしたちの知能を疎外する“神”だったとき、もう後戻りは許されない時点に至っている。

再度、核分裂反応の発見から原子爆弾開発までの歴史をみれば、その発展はまさしく戦争の時代に支えられた。同様に現在、世界はまた諍いの時代、言い換えればテロの時代にある。敵への猜疑心であり恐怖が、AIを人類の手におえない問題に変えてしまう可能性の時代にあるのだ。

 

Writer:
桐原永叔 Eishuku Kirihara / 編集者・ライター
1970年生まれ。シナリオライター、出版社勤務等を経て、現在、眞人堂株式会社代表。これまで多数の書籍の編集を手掛けてきた。著作に『ももクロ論〜水着と棘のコントラディクション』(実業之日本社/清家竜介と共著)がある。
 
Photo credit: iurikothe / CC BY
3rd.mobiで読む(英文記事)