富士通研究所・白幡 晃一氏に聞く
（２）ムーアの法則を超えて進化できないAIの進化をキャッチアップする

AI技術はムーアの法則を超えて進化することはできない

桐原　コンピューティングパワーということで言えば、ムーアの法則¹でいわれるように半導体回路の指数関数的進化がITテクノロジーの長足の進化にも影響を与えてきたわけですが、生成AIはさらにムーアの法則を上回るスピードで成長するとも言われたりしています。

白幡　ムーアの法則と深層学習のモデルの大きさのプロットの図があります。横軸が時間で、縦軸がFLOPs（演算量）です。青い丸がいっぱいあるのがディープラーニング、深層学習のモデルをいろいろプロットしていて、たしかにムーアの法則を超える伸びを見せているというところがあります。ムーアの法則が50年で10の7乗倍と呼ばれているところに対して、深層学習は12年で10の10乗倍ですから、ムーアの法則を超える伸びをしています。ただし、ムーアの法則を無視して伸びつづけることはできないことがポイントです。

桐原　そういうことですよね。計算できないものを学習することはできませんから。

白幡　はい。大規模なAIモデルをプロットしているのがこの赤い線になっていて、AlphaGoやGPT-3とかですね。恐らくこの赤い点線はムーアの法則に従うような線になると考えられます。このまま行くと青い点線がぶつかるのですが、ぶつかるところまでは行くかもしれないですが、それを追い越すことはできません。

桐原　頭打ちということですね。

白幡　逆に言えることとしては、この青い点線の傾きが、これから緩やかになるしかないので、これまでは日本の企業がいくら追いついても、追いついた頃にはまたすごいのが出てきたみたいなことが起きていたのですが、傾きが緩やかになっていくことを考えると、いったん、追いついてしまえば、たとえばGPT-3レベルのモデルを一回、自分たちで学習できるようになれば、最先端のところで戦っていけるのではないかと考えています。

桐原　なるほど、よく分かります。時代が若いほど差は付きやすいわけですね。

白幡　そうですね。最初の頃はもう単純にニューラルネットワークが進化すればするほど、いくらでも性能が伸びていくというような感じなんですけど、今はもう規模を上げようにも、計算できないものはつくりようがないというところに入ってきていると思います。

桐原　量子コンピューティングが2030年代には実用の世界に入るのではないかという話もありますが、どうお考えですか。

白幡　ある特定のアプリケーションにおいて、何かが実用化するという意味で言えば、2030年頃には実用化は十分考えられるでしょう。AIの領域でそれが2030年かといわれると、これは分かりません。量子機械学習では、少なくとも今はまだ超越性を見いだしているわけではありません。ハードウエアとしての進化がどこまでできるかということと、量子機械学習でどこまでTransformerを超えるようなものがつくり得るのか、その研究がどこまで進められるかに懸かっているというところなので、確たることは言えないですね。

桐原　もし量子コンピュータがこの機械学習に活用できるようになったら、また全然違う競争というか、違うフェーズになっていくということですね。

白幡　そうですね。完全にゲームチェンジみたいな感じになるでしょう。