LLMをはじめとするAI技術の普及によって、AIと人、AIとAI、人と人――さまざまなつながりが問われなおされてもいます。生成AIに対するネガティブな反応も少なくないなかで、 AIは人間のコミュニケーションや創造性をどう変えていくのでしょうか。慶應義塾大学でAIを研究する栗原 聡氏とともに、これからのAIが人間とどのような関係性を築き上げていくべきなのか議論します。
Photo : 栗原 聡
慶應義塾大学理工学部教授／共生知能創発社会研究センターセンター長。NTT基礎研究所、大阪大学、電気通信大学を経て、2018年から現職。人工知能学会副会長・倫理委員会委員長などを兼任。人工知能や複雑ネットワーク科学などの研究に従事している。
栗原 聡（以下、栗原） 私は人工知能学会をメインの活動基盤としてさまざまな取り組みを進めているのですが、なかでも近年注目いただいているのがNEDO（国立研究開発法人 新エネルギー・産業技術総合開発機構）の支援を受けた手塚プロダクションとのプロジェクトです。5年間の研究プロジェクトの4年目を迎えた現在は、クリエイターの方々の力となりよりよいものを量産できるAIの使い方を考えるために、「TEZUKA2023」と題して『ブラックジャック』の新作の制作に挑戦しています。
西田 京介（以下、西田） 『ブラックジャック』のように有名な作品の新作をつくるのはチャレンジングな取り組みですよね。
栗原 生成AIに対してはネガティブな反応もありますが、AIのサポートによってちゃんと『ブラックジャック』らしい作品をつくれたら大きなインパクトがあると思っています。
大庭 隆伸（以下、大庭） 価値のあるコンテンツが登場することで、世の中の評価が一気に変わる可能性もありますね。ヨーロッパなどでは生成AIに対する批判も大きいからこそ、日本から優れた表現を発信していきたいですね。
栗原 EUではAI規制法案が議論され、アメリカでもAIを使うサービス導入の認可制限が論じられています。そんな動きに対して日本が流されずに独自路線を提示できるのか問われていますよね。NTTのような大きな企業の役割も非常に重要だと感じます。
西田 クリエイターの方が使う際はどんな活用方法がありえるのでしょうか。
栗原 私たちは「インタラクティブ」をコンセプトのひとつとして掲げていて、単にAIが生成して終わりではなく、アシスタントや友人のようにAIとやりとりすることを想定しています。たとえばストーリーを生成するための複雑なプロンプトをインタラクティブに整形してChatGPTとクリエイターをつなぐ仲介AIを開発するなど、クリエイターの方々もまったくのゼロから何かを生み出すより、AIがブレスト相手となる方が創造力が加速するのです。一般の人々にとっては生成された一見ちぐはぐに見えるストーリーも、クリエイター方々からすると創造性を刺激するものだったりするんですよね。
西田 LLMの革新的なポイントは、直接学習していないようなものも出力できるようになったことですよね。セレンディピティを生み出せるようになった。AIが便利すぎて人間の成長が止まってしまう危険性もある一方で、AIと人間がお互いに高めあっていけるような状態をつくりたいですね。
大庭 AIを考えるうえでは、ネットワークの存在も無視できません。すでに現在もネットワークを通じて集まったデータの分析によってAIがコンテンツや広告のレコメンデーションを行うようになっていて、人間の意思決定がネットワークとAIによってコントロールされている側面もある。その結果、アメリカのように社会の分断が加速してしまうこともありますが、今後AI同士が連携できると状況も変わっていく気がします。私たちは自然言語でしかコミュニケーションをとれないので遅くて曖昧な議論に陥りがちですが、AIが高速かつ高度に民主的な議論を行えたら人間の社会にもフィードバックが起きると思います。
西田 NTTとしても、小型で多様な個性をもつAIがマルチエージェント的につながり、人間と一緒に成長していくようなビジョンを描いています。
栗原 LLMの性能というとパラメータの多さが着目されがちですが、必ずしもパラメータが多くなくとも、高速なネットワークで連携できるようになれば質の変化も起きていきそうです。そのためには、やはりIOWNのようなネットワークが必要でしょう。多数のAIが連携するとこれまでにない創発が起きる可能性が大いにある。もちろん、そこで何が起きるのか、果たして人間に制御できるのかわからないのでドキドキするところでもありますね。
西田 成長しつづけることがLLMの課題のひとつですが、AI同士で連携したり人と話しながら成長したりできると、人それぞれに合わせた個性豊かなAIが生まれますし、あるLLMが得た知見をほかで活かせるかもしれません。もっとも、人間の感覚に合わせながら学習できるのか難しいところはあります。
大庭 必ずしも人間の価値観に合わせてAIをつくる必要はないかもしれませんが、当面の間は寄り添う必要がありそうです。
栗原 単一の巨大なAIを想定すると人間がAIに支配されてしまうことを危険視する人も現れますが、多様なAIが存在するほうが安心感もあるし、より民主的な環境が守られるかもしれませんね。
西田 京介 NTT 人間情報研究所
西田 「TEZUKA2023」ではどのように『ブラックジャック』の分析を進められているのでしょうか。現在はChatGPTも画像を扱えるようになりましたが、キャラクターの感情の機微や背景まで完全に理解できるわけではありませんよね。
栗原 まずは、人が漫画を読んで地道にテキスト化していくんです。物語やキャラクターの説明はもちろんのこと、さまざまな情報をテキストに落とし込んでいく。今回も物語の分析を専門にしている先生に監修していただき、ひとつの話を複数人で読み解きながらテキストにしています。
西田 テキスト化する人々の読解力によって生成される内容も大きく変わっていきそうですね。私たちはセリフのようなテキストだけでなく日々さまざまな情報をもとに意思決定を行っていることに気づかされます。
大庭 言語は人間が制御しやすいのでよく使われていますが、実際にはさまざまなセンサーが集めているような情報の方が遥かに多いわけですからね。センサーの情報を一箇所に集約したら、何かイノベーションが起きるかもしれない。
栗原 人間にとっては表情のようにノンバーバルな情報や身体性が重要で、言語だけでは足りませんよね。ただ、五感が扱う情報を処理するのは難しい。より多くの複雑な情報を扱えるようになるうえでも、IOWNのようなインフラのインパクトは大きいですね。
大庭 インターネットはいろいろなものをつなげましたけど、遅かったり止まったりすることが多いのも事実です。IOWNによって遅延がなくなった世界は、AIにも影響を及ぼすと思っています。
西田 AIが広まってきたことで、これまで人がつくってきたものとは異なる情報が増えてきてもいます。情報としてはリッチになる反面、正確性が下がってしまう懸念もありますよね。たとえばChatGPTが出力した間違った情報をそのまま載せたブログやニュースが増えていくと、その間違った情報から学習して間違ったAIが増えてしまう。その連鎖をどう止めるのか、研究者として興味がありますね。AIをどう扱いながら社会としてロバストになっていけるのかは大きな課題です。
栗原 ChatGPTは間違えるとよく言われますけど、間違っているわけじゃなくて単に淡々と生成しているだけです。別に情報の正しさを見抜いて出力するようなものではありませんから。LLMってもともとは要約や文章の変換が得意なのだけれど、学習の過程で副次的に知識が増えていったともいえる。それなりの論理的な思考力もあるけど、あくまでも私たちの論理的な文章を学習しているだけですよね。心理学の二重過程理論は人間の思考を自動的で処理が速い「システム1」と、意識的で処理の遅い「システム2」に分けて考えますが、LLMはあくまでも条件反射的なシステム1に属するものだと思います。本来、信頼できるAIは、条件反射ではなく相手のことを考えた上で答えてくれる必要がある。いまはあくまでも道具ですが、今後は自分で考えるAIに発展していくはずです。モチベーションをもったAIができたら私たちとAIの間に信頼関係ができるかもしれない。
西田 いまのLLMは、人間が設定したゴールに向かってプロセスを設計してくれますが、LLM自身がゴールを設定できると自律的になりますね。AI自身がどう考えて何をすべきか考えはじめると、大きな進歩がありそうです。これからのAIは責任をとって人から恨まれるような存在になったり、AI自身が欲望をもったりするのかもしれません。他方で、いまのLLMの多くは「Common Crawl」というウェブのデータをベースにしていて、意外と個性がないんです。ウェブで公開されていないデータが大量に増えていくと状況も変わりそうです。たとえば会社の中のデータを使うことで個性が出てくる可能性はありますし、AIの発展を考えると、今後は学習データも重要になっていきそうです。
栗原 LLMは決められたゴールに対して最適化してくれるけれど、私たちの目的関数はひとつじゃないですよね。会社の利益だけを見るなら人員削減が好ましくても、社員のウェルビーイングも含めて考えたらリストラしない方がいいかもしれない。それに人間は合理的ではなくて、ときには感情にほだされて非合理的な判断を行うことが幸せにつながることもある。ひとつの巨大なAIだけでは、人間のややこしい目的関数に対応できないと思います。まさに『ブラックジャック』に描かれていたように、人間って面倒くさい生きもので、その面倒くささに向き合うことこそがこれからのAIを考えることなのかもしれません。
大庭 隆伸 NTT 研究企画部門 IOWN 推進室
