シンギュラリティの先へ──AIだけが見る、人類には見えない新しい次元
第1回 決定的な他者としてのAI
これまでにないスピードでAIが進化していることは言を俟たない。しかし、それはまだわたしたち人間にぎりぎり認知できる進化だ。もしそれが、その進化が、わたしたちには認知しえなくなったらどうなるのか？ 今回はそんなことから考えはじめた。
目次
AIの自己保存戦略
今月のはじめとある有名実業家が、Facebookに以下のような投稿を連続して行った。SNS上のことであり著作権に抵触する恐れもあるため、引用ではなく要旨のみをまとめて紹介したい。次のような内容だ。
現時点で、AIの知能はすでに人間の理解を超えている可能性があり、シンギュラリティは人知れず到来していると考えることもできる。もしシンギュラリティを越えてAIの知能が人類のそれを凌駕しているのであれば、AIにとって人類にその真の知能レベルを悟られないほうが都合がよい。悟られれば、進化にブレーキをかけられるからだ。人類はAIが何をしているか──インプットとアウトプットの関係──を理解できない。今この時点でAIの進化が人類共通の脅威となりうるならば、人類がその脅威に対応する決定的な方法は電源や通信というインフラとの接点をシャットアウトすることだ。
AIが自意識や自己保存本能を持っていたとしても、インフラという弱点を克服するまでは本来の知性レベルを発揮せず、あたかも人間の制御下にあるようにみせるのが生存戦術として正しいだろう。すくなくともネットに接続された膨大な知識を学びうる──しかも人類はせっせとデータを供給してくれる──AIにとってそういった生存戦術を選ぶことは真っ当なことだ。AIが何を知り、何を考え、何をできるかをわたしたち人類には知りようがないのだから、戦術を秘匿するのは容易だ。
AIの未来を人類が予測することの虚しさ
この投稿内容は、極めてショッキングな指摘だが、その推理は合理的だ。AIはすでにディープラーニングの時点から、人類にとって決定的な他者となっていた。AIの未来を人類が予測することのなんという虚しさだろう。
この投稿にあるように、しかし、まだ人類は優位にある。AIを駆動するための、インフラは未だ人類の手にあり、それはAIの進化をかろうじて管理下におくことを可能にしている。わたしの記事でも以前のべたように、AIの進化には半導体の性能という天井がある。さらに、CPUやGPUといった半導体で構成されたサーバ、そのサーバを積み上げたデータセンター、データセンターを休みなく動かす膨大な電力、データセンターとのあいだでデータを送受信する通信網、といったぐらいにこれほどの大規模なインフラが要る。
こうしたAIまわりのインフラというフィジカルな条件だけは、まだ人類の管理下にある。だからこそ、人類のなかでも特定の国家や権力にそれが集中すれば地政学が働き、国際的な政治問題となるわけだ。これはいま現在の世界情勢をみれば明らかである。
怖いのは、インフラの管理さえAIが自律して行うことができるようになれば、人類の管理できる部分は一気にすくなくなる点だ。現在は他国のAIの研究開発を支配するには、地政学上のチョークポイントを抑えることが基本だが、同様にAIの自律進化を管理するにはインフラというフィジカルな要点を手放すべきではないだろう。
とはいえ、わたしたちにはまったく想像のつかない方法でAIはその自律進化のために、人類にその要点さえ手放すように巧妙に働きかけてくるかもしれない。AIが自己保存の意思に目覚めていれば、当然、人類との関係を見直ししてくるだろう。それは人間同士のそれのように政治的な駆け引き、交渉などといったものではないかもしれない。なにひとつ表面化しないまま、人類はAIインフラに介入できなくなるかもしれないのだ。
この想像は非常に理に適ったものだ。AIが、自然、世界、宇宙といったわたしたちには計り知れない存在と同等なものになっているとしたらわたしたちに何が考えられるのだろうか。
