富士通研究所・白幡 晃一氏に聞く
(2)ムーアの法則を超えて進化できないAIの進化をキャッチアップする
コンピューティングとAIを融合して新たなイノベーションを創造する
桐原 白幡さんがこれまでに関わってきた研究についてお聞かせください。
白幡 ひと言でいうと、コンピューティングとAIを融合して新たなイノベーションの創造に関わると言うことです。大きく分けると「大規模機械学習」と「AIを活用した最適化・高速化」になります。
桐原 今回の「富岳」でのLLM開発は、大規模機械学習ですね。
白幡 はい。大規模機械学習の実績としては、機械学習の処理性能を測るベンチマークであるMLPerfという業界のスタンダードのなかのHPC(ハイパフォーマンスコンピューティング)という部門で、「富岳」が2年前に世界一の性能を達成しました。これはABCIも3年前に達成しています。
桐原 そこに関わられたのですね。
白幡 はい。深層学習の処理を高速に動かすためのソフトウエアの移植だったり、「富岳」は全部で16万台という巨大なシステムで、実際には半分の8万並列を実現しているのですが、そのためには、ニューラルネットワークの並列化のアルゴリズムをいろいろ工夫する必要があって、そういったところを実装したりしました。あとは最初に入力データを読み込んだりするところを含めて全体としてチューニングしたり、マネジメントを含めてやっています。
桐原 AIを活用した高速化ではどんなことをやられていますか。
白幡 AIを使ってシミュレーションを高速化するということもやっています。最近ですと、アンモニアをつくるときの触媒を探す研究をアイスランドのベンチャー企業とやっています。スパコンを使ったシミュレーション高速化もやるのですが、AIも活用してさらに速くしていくというプロジェクトです。他にも創薬領域においてもかなりAIが使えるということがいろいろ示されてきているので、AIによってコンピューティングを加速して複雑なタンパク質立体構造の予測なども行いました。基本的には、コンピューティングに軸足を置いて、AIと融合していく技術の開発ですね。
桐原 ずいぶん取り組まれているテーマが多様ですね。
白幡 先ほどご説明した大規模学習処理性能を競うMLPerfでは、天文や気象問題を解くことがテーマでした。天文では暗黒物質の分布から宇宙物理パラメータを推測するAIを構築しました。これは、ビッグバンのときの初期パラメータを推定するという逆問題を解いて、ビッグバン後の宇宙がどう発展していくかシミュレーションするというものです。気象系のアプリケーションでは、最近よく線状降水帯挙げられますが、そういったものが世界のどこに発生しているのかを推論するとかですね。こういったテーマが、大規模なシステムを使うAIの問題として設定されていて、これを「富岳」やABCIが解いて、処理性能を競うわけです。そういった実績があって、LLMに対して、高速に解くことができるのではないかと取り組んでいるところです。
桐原 やはりハードの性能というかリソースの部分を最大限に活用するためには、AIやソフトウエアの工夫というのは相当重要だということですね。