ヒューマニズムはテクノロジーを語れるか？
現在のAIを語るときに避けて通れない研究者がいる。ジェフリー・ヒントンだ。今月、私にとっては衝撃的なあるニュースが流れた。
目次
第一人者の想定を超える進化スピード
ジェフリー・ヒントンはイギリス生まれのAI学者であり、第3次AIブームの火付け役となったディープラーニングを生み出し、そのディープラーニングの重要な手法である誤差逆伝播法（バックプロパゲーション）を開発したことでつとに有名である。
ヒントン率いるトロント大学の研究チームは、2012年の画像認識コンテスト「ILSVRC」(the ImageNet Large Scale Visual Recognition Challenge)において２位以下に圧倒的な差をつけて優勝し注目を浴びた。トロント大学の画像認識AIはヒントンが開発した「畳み込みニューラルネットワーク」という機械学習の手法を用いていた。
ニューラルネットワークとは生物の脳細胞に模したアルゴリズムをもっている。ヒントンによれば、ニューラルネットワーク自体は長いあいだ、日本風にいえばマンガじみたものとしてまったく相手にされなかったという。生物学者の息子でもあったヒントンは、生物の脳の機能が必ずしも意味や論理によって機能しているものではなく、ある種の経験によって重みづけされることで知性的な働きをしていることに注目した。それをAIに応用したのが、ディープラーニングであり、ヒントン自身もどこかでニューラルネットワークといえば相手にされないからディープラーニングと呼ぶようになったと話していた。
ヒントンとトロント大学が成し遂げた成果に注目したのは、いわずもがなのテックジャイアントである。2013年、自身のスタートアップ企業がGoogleに買収されたことに伴い、Googleに入社し、同社のAI研究を牽引してきた。余談だが、デミス・ハサビスのディープマインド社がGoogleに買収されたのは翌2014年であり、ハサビスが開発したアルファ碁がこの先、数十年は不可能といわれたプロ棋士戦に勝利し世界に衝撃を与えたのは2016年である。これだけをとってみても、わずか10年の間に起きた出来事のスピードはかつて誰にも想像しえないものだ。
さて、ロイター配信で次のニュースが流れたのは本年5月3日のことである。
人工知能（AI）研究の第一人者として知られるジェフリー・ヒントン氏は、想定より遥かに速くAIが人間よりも賢くなる可能性があると気づき、AIの危険性について自由に話すために米アルファベット傘下のグーグルを退社したと語った。
「ＡＩ想定より速く人知超える公算、危険性語るためグーグル退社＝ヒントン氏」
私は少なからず驚き、それほどまでの進化なのかと思い改めた。ヒントンが記事のなかでふれているのはもちろんOpenAIのChatGPTについてであり、高度に進化した生成AIについてであった。具体的に生成AIが作成したフェイクニュースが民主主義にとってとてつもない脅威になることを危惧し、問題を提唱していくためにGoogleを退職したという。
ヒントンはまた、別のニュースではトランプ前大統領が警察官に引きずられる生成AIによる画像がツイッターを介して拡散したことを挙げ、フェイク画像は人々の感情を操作しうる重大な危険があると述べている。
私が驚いたことのひとつは数年前にはむしろ楽観的ですらあったヒントンのここまでの変化に対してである。数年前に出た『人工知能のアーキテクトたち —AIを築き上げた人々が語るその真実』（マーティン・フォード著/松尾豊監修/水原文訳/オライリージャパン)のなかのインタビューでは、チューリングテストで２時間以上、さまざまな会話を人間と同じように続けられるAIの誕生について10年以内での実現の可能性は極めて低いと答え、さらにはAIが人類の知能を超える未来より、他の理由による人類滅亡の未来のほうが近いのではないかとまでいっていたのだ。その時点で、ヒントンはAIの脅威と言えるのは、米中を代表とするAI武器の軍拡競争のほうだとしている。ヒントンが10年以内には難しいとしていたことが、それから数年で実現してしまったのだ。ChatGPTとなら際限なく会話できることは誰もが知っている。
同書で、ヒントンは先出のハサビスとは違う未来を見ていると述べている。ハサビスはこのとき、ヒントンが難しいと考えるシステムの実現をもっと間近にみていた。
ＡＩ想定より速く人知超える公算、危険性語るためグーグル退社＝ヒントン氏
人工知能のアーキテクトたち―AIを築き上げた人々が語るその真実
Martin Ford著、松尾 豊監訳、水原 文訳
O’Reilly Japan
ISBN：978-4-87311-912-0
