「名もなき者」たちのマシーン
第１回 いじめられっ子のためのテクノロジー
自然言語処理が高度化して生成AIがいよいよ人と普通に会話するようになって、AIとの関係はより親和的になってきている。そうなると、わたしたち日本人が思い出すのが人に優しい、あのロボットのことである。
目次
ドラえもんはのび太の単なる道具ではない
数回前のこの記事（#53 AIの民主化と、AIによる民主化─イノベーションの望ましい帰結）で、AIエージェントに絡めて「ドラえもんはのび太からの指示や依頼によって行動するわけではない。のび太の窮状を見かねて『もう、しょうがないなぁ……』などと言って、四次元ポケットを漁るわけだ。」と書いた。
AIエージェントの自律性について、ドラえもんのあり方を比喩にしたのだが、後になって「IT批評」でも取材させていただいている慶應大理工学部教授で人工知能学会の会長でもある栗原聡先生が新著『AIにはできない 人工知能研究者が正しく伝える限界と可能性』（角川新書）で、AIエージェントについてドラえもんを比喩にされていることを知った。栗原先生は以前から人の意のままに操る「道具型AI」に対して、「ドラえもん型AI」としてAIの自律性に言及されてきた。
すでに数年前に配信された東洋経済オンラインの記事「AIは今後『ドラえもん型』を開発すべき納得の根拠 きちんと認識すべき｢生成AIの本質｣とその怖さ」のなかにも次のような発言されている。
今の人工知能は「道具」、つまり人が命じるままに動くものです。そういう意味で、もしも個人適応が実装されたとしたら、フィルターバブルがどんどん進みます。それはさすがにまずいので、やはり必要なのは［中略］のび太の言うことをたまに聞かないこともある「ドラえもん型」なのだと思います。
誰もが知っているように、ドラえもんはのび太の道具ではない。道具はドラえもんのポケットから出てくるものだが、こうした道具ものび太の性格ゆえにか、ユーザーであるのび太のベネフィットに適わない結果をもたらしたりもする。
ドラえもんはのび太のパートナーであり、メンターであり、自律した思考ができる。未来の世界からグータラなのび太を教育するためにやってきたロボットなのだ。のび太はドラえもんによって──道具の力のみによってではなく──エンパワメントされて、個人的な課題や問題に対峙する。
栗原 聡 (著)
KADOKAWA
脆弱で小粒な個性の多様性
同書のなかで、栗原先生は自律型のAIには目的や動機が必要となると述べている。ドラえもんは、のび太を「ちゃんとした人間に変える」という目的をもっている。そのAIの自律への途は、これまでのように巨大なデータの集積と学習によって創発されて生まれる可能性が高い。
ディープラーニングやLLM（大規模言語モデル）で注目されてきたスケール則では、パラメータ数、学習データ量、計算量といった量的な拡大が性能を向上させてきた。こうした量の競争において、日本のAI開発はすでに米中には遠く及ばない。そこで、栗原先生は大型のAIモデルではなく「小粒」なAIモデルを多様な機関で開発し、そのネットワークによってスケール則を超える創発を実現できるのではないかという群知能の重要性を論じている。
この小粒で多様な個性のネットワークというコンセプトそのものが、IT企業のみならず日本社会から見捨てられようとしているものではないかという気がする。
本稿は、この脆弱で小粒な個性の多様性についてふれていく。
数回前の記事では、のび太のようなマイノリティをエンパワメントするドラえもん的なテクノロジーの登場こそ、AIの望ましい進化の方向のひとつであるべきではないかと書いた。
現在の効率性や生産性の向上ばかり目指すAIの提供のあり方、効率性・生産性の追求はむしろ現在の富者や強者、マジョリティをさらに強化するだけなのではないかと。
AIといった先端テクノロジーが、わたしたちを幸福にするにはいま現在のビジネスのロジックから漏れてしまうような視点や論点が必要だからだ。
このメリトクラシーの世の中で、わたしたちに心理的安全性を確保してくれるようなテクノロジーこそ、求められるべきだと強く信じている。
