読売新聞とNTTの共同提言についてクロサカタツヤ氏に聞く
（１）生成AIが加速する戦時下的状況としての現代

自信たっぷりに嘘をつく生成AIをいかに御していくか

桐原　これはGPT-3.5が公表されて以降のお話として始まったのでしょうか。それ以前からあった話ですか。

クロサカ　それぞれの問題意識はそれ以前からあったと思いますが、コラボレーションが具体化したのはGPT-4が出てきた2023年夏ぐらいですね。

桐原　最初に提言を読んだときに、私もずっと考えつづけていたテーマだったので驚きました。生成AIでつくられたものを客観的に読みとるだけの教養がある人が限られているうえに、生成AIがいま以上に普及するともしかすると教養そのものの質が変わってきて、生成AIにコントロールされていることにも気づかないようなことが増える危険性もありますよね。

クロサカ　おっしゃる通りです。私も含めて、あらゆることを知っている、森羅万象を知っている人間なんかいませんよね。重要なのは、もっともらしく言われるということが、実はトラストの源のひとつだということ。つまり読売新聞というレイアウトデザインを持った紙を見ると、これは読売だから信頼できるとみんな思うわけです。誰も裏をとってないわけですよね。これと同じ状態があらゆるところで発生している。生成AIは極めて滑らかな嘘を生成できるので、うっかりすると引っかかっちゃうわけです。提言には、「自信たっぷりに嘘をつく¹」と書いてあります。この検討会はさまざまな有識者をお呼びしているのですが、この発言をしたのは昔からAIの研究をなさっていた工学系の先生です。私の解釈ですが、AIの研究者こそ生成AIにかなり強い危機感を持っていて、こんな不完全なものを世の中に出されてしまった日にはAIそのものが潰されてしまうと感じているように思います。一方で、いろいろな人に話を聞けば聞くほど、これは人間の側の問題であると。人間がつくった社会の側が不完全な技術である生成AIを受け止める状態にはないのではないか。人間の側、社会の側でできることをしなければいけない。つまり、生成AIは技術としてまだ未熟でコントロール不可能なものなので、それはそれとして置いといて受け止める側の人間と社会でどうやってこれを御していくかが重要で、それで提言には法律をつくれというようなことまで盛り込んでいます。

桐原　提言に書かれている戦争の可能性までありうるという話²を大げさだと考える人たちがいると思うんですけど、ナチスの反省からデマゴーグみたいな人が出てくることを政治の状況ではものすごい恐れるわけです。それが生成AIはデマゴーグをすぐにつくれてしまう。科学的、歴史的真実めかしたデマを生成できる。だいたい「自信たっぷりに嘘をつく」ことこそデマゴーグの最たる能力ですし。現在はさらに生成されたデマをプロパガンダするテクノロジーもすぐ手に入る。一気に社会が偏った方向に流れてしまう可能性はナチスの例をだすまでもなく想像するのは難しいことではありません。

クロサカ　もっと言うと、われわれの時代における戦争がもはやかたちを変えていることにわれわれ自身が気付いてない。どうしてもミサイルが、軍縮がみたいなことを言うわけですけど、そうではなくて、いまの戦争はソーシャルメディアとお金の世界で起きている。われわれはすでに戦時下にいる状態で、生成AIがこれを加速させないわけはない。たとえば、能登半島で1月1日に地震が起きましたけれども、あの時X（旧Twitter）でインプレッション稼ぎをした人たちがいっぱいいて、少なくない割合で海外から来ています。Xでインプを稼ぐのってすごい手間がかかることで、労多くして利益すくなしなんです。何十万とか何百万の単位で読まれたり、リツイートされたりして初めて数万円稼げるかどうか、という世界です。つまりさすがにこの円安であったとしても、日本人はそこまではやらないでしょう。ところが、1万円稼げたら1週間や1カ月生活できるという人たちが世界にはいて、この人たちが滑らかな日本語を生成AIによって語れるようになっているわけです。「隣の家が潰れています。悲鳴が聞こえます。助けてください」って100万リツイートによってレスキュー隊であるとか現場の警察官を誘導してしまう。しかし指示されたところには誰もいない、家さえ建っていない。その人たちはお金が欲しいというだけで──悪意のレベルは低いのかもしれませんが──、そんなツイートを生成する。偽ツイートにまどわされているあいだに助けられた命があることを考えると、これは偽計業務妨害そのものです。そうやって警察やレスキュー隊や自衛隊のリソースが散り散りになる状態って、血が流れない戦闘行為ですよね。そういう状態にすでにわれわれはいるということが、もう少し解像度高く理解される必要があるだろうなと思います。

桐原　難しいですね。あまり状況を生々しく書くとそれはそれで逆効果になりそうな懸念がありますね。

クロサカ　その通りで、心配しすぎですよという話になってしまうので、どういうもの言いをするのがいいのかバランスが非常に難しく、頭を悩ませました。