核分裂反応を発見したとき、人類は太陽を手にしたと考えた。シンギュラリティの先に、人類は神の創造力を手にするのか。核の悲劇は、人工知能の悲劇に似ることはないのか。

擬人観では捉えられない知性

AIが進化したとき、シンギュラリティの先に人間からはまったく想像も理解もできない知能が生まれることはありえる。AIがソラリスの海のように、現在ではほとんど語義矛盾でしかない「人間を疎外する知能」となる将来が来る可能性がある（語義矛盾というのは、今日、人間以上に知能をもつ存在は想定できないからだ）。

将来、AIがどのような存在になるかはわたしたちには想像不可能である。ホーキング博士がいうように「AIの発展が（人間の未来に）必ず友好的であるとは考え」られないかもしれない。

AIが友好的であるか悪意的であるか。それは人間が人間に対する恐怖と同等に恐ろしい。人間の知能にAIが近づけば近づくほど、人間と同様に憎悪や悪意を宿す可能性もある。

ただし、こうした予測は人間の想像や思考を拒絶するものではない。考えなければならないのは、ソラリスの海──人間の知能を疎外してしまうAIの可能性なのだ。ロボットを見極めることが人間存在を定義しなおす作業とすれば、AIの進化は人間の知能の定義など置いてきぼりにしていくかもしれない。

ホーキング博士の警告はいずれ訪れるといわれる「知能爆発」を前提した危惧である。AIが自らAIそのものを研究開発し、進化していくことが考えられるのだ。それは核分裂のように同時に数億という単位で作用しうる。AIが人間の手を借りず進化しはじめれば、進化の速度は人間の知能の進化など容易に圧倒しうるものだろう。擬人観でAIをみることの無力さを感じざるをえない。人間のようにのんびりとは、AIは成長も進化もとどめてくれないだろう。

AIは人間に似せて生まれ育ち、やがて人間とはまったく別のものになるという想像をどれだけすることができるか。他者としてのAIをいかに考えておくか。SF作品になんとかそのヒントを見つけようとするのも、果たしてただ人間的な行為にすぎないのかもしれない。

ユートピア、ディストピアのいずれもまたAIにはないだろう。いや、空想を励ましてAIがいずれ世界から戦争を廃絶し、貧困問題を解決してくれる日を考えることもできないことはない。とはいえその未来がユートピア、ディストピアなのかは、それこそ人間の感情が判断するものだろう。AIがもたらした平和など受け入れられないということを言いかねないのが人間だからだ。