はじめに

AI（人工知能）は、ディープラーニングに代表される技術革新により、急速に社会に浸透し、人間が意識しないうちに無数のAIが大小様々な課題を日々解決しています。

一方、AIの利用が思わぬ差別や不当な行動制約や誘導をまねくことが危惧されています。また、AIの挙動と影響の大部分は未知数であり、期待と同時に不安も高まっています。この不安を払拭し、AIを社会により一層深く浸透させるためには、その活用や研究開発に関わる企業であるNTTグループおよびその社員、技術者が常に意識し、心がけておくべき基本的な方針が必要になります。

今回は、NTT研究所のメンバーが考えたあり方を６つに分けて紹介し、それぞれの意図について解説します。

謝辞

今回紹介するあり方の検討に際して、2020年度に全3回の有識者会議を開催し、以下の皆様から貴重なご意見と多大なるご支援をいただきました。心より感謝申し上げます。（五十音順、敬称略）

• 近藤則子（NPOブロードバンドスクール協会・老テク研究会事務局長）
• 宍戸常寿（東京大学大学院法学政治学研究科教授）
• 新保史生（本有識者会議座長・慶應義塾大学総合政策学部教授）
• 中川裕志（理化学研究所革新知能統合研究センター（AIP）社会におけるAI利活用と法制度チームリーダー）
• 成原　慧（九州大学大学院法学研究院准教授）
• 西垣　通（東京大学名誉教授）
• 福岡真之介（西村あさひ法律事務所パートナー弁護士）

AIの活用と研究開発のあり方

1. 持続的発展の追求 (Enabling Sustainable Development)	解説
AIはその適正な利用により、将来にわたり生命・社会全体の発展を支えることができる有益な技術です。我々は、様々な国や地域、コミュニティの規範を尊重しながら、AIの積極的研究開発と公正な社会実装により、その恩恵をすべての人が享受できるように努めることで公共性と企業性の双方の使命を果たすとともに、人と地球の持続的発展を追求します。
2. 人間主体の活用 (Human Autonomy)	解説
AIは様々な社会課題を解決する新たな手段にとどまらず、人が意識する範囲を超えて社会に浸透し、人々の行動や生活環境、さらには個人や社会の意識にまで変化をもたらしつつある存在です。このAIをどのように設計し、どのように活用するかは、人間が主体的に判断することが求められています。我々は、AIに関する知識とAIの特性についての理解を不断の努力によって日々深め、人権の尊重や多様性への配慮などの社会規範に則って、これを適切に活用します。
3. 公平で開かれた姿勢 (Ensuring Fairness and Openness)	解説
AIの動作結果には偏りが生じる可能性があります。我々はAIを活用した時でも公平さが保たれることを志向して、利用する人間の判断に不当な影響が起きないよう、データやアルゴリズムの特性の把握に努めます。さらにたとえAIの動作の仕組みがさらに複雑になろうとも、その動作範囲や限界を適切に説明し、AIの透明性を高め、広く社会の声に耳を傾ける姿勢を堅持します。
4. セキュリティ (Security)	解説
AIはいかなる時にも安定した動作が求められます。我々はこうしたAIの構築に努め、同時にAIの異常動作や不正利用が起きた時も迅速に対応し、AIのセキュリティを確保します。さらにAIの動作結果を自動化されたシステムに用いる場合は、その効用とともにリスクも大きくなります。我々はAIの動作とリスクを理解し、AIを用いたシステムの安全の確保に努めます。
5. プライバシー (Privacy)	解説
AIで用いられるデータの利用および流通において、通信の秘密を遵守し、個人情報の適正な取扱いを確保し、プライバシーを保護することでAIの安心を追求します。
6. 社会との対話と共創 (Communication & Co-creation with Society)	解説
AIとそれを取り巻く環境は、今なおダイナミックに変化しており、社会との情報共有に始まる不断の対話が重要です。またAIの研究開発や事業展開をする中で、ステークホルダーの皆様との共創が不可欠です。我々は社会との対話と共創により、信頼されるAIの普及と発展に貢献します。

解説

1. 持続的発展の追求 (Enabling Sustainable Development)

AIはその適正な利用を前提として、将来にわたって生命・社会全体の発展を支えることができる有益な技術であると言えます。このような技術は、その恩恵を一部の人々だけでなく、全世界のすべての人々が等しく享受できるようにすることが重要です。

これまでも我々は、公共性と企業性の双方の使命のもと、ユニバーサルサービスとして、通信サービスや通信インフラをグローバルに展開し、特に日本国内においては、全国津々浦々にこれらを届けてきましたが、AIにおいてもこの姿勢を引き継ぎたいと考えています。

AIの恩恵を世界すべての人々に享受して頂くためには、二つのことが必要です。一つは、様々な国や地域、コミュニティの規範を尊重し、積極的な研究開発と公平・公正な社会実装を進めること。もう一つは、AIをあまねく世界に、現在だけでなく将来の世代に対して提供し続けられるよう努めること。我々は、これまで以上に公共性に誇りを持ちながら、その責務を継続的に果たすべく企業性の確保に真摯に取り組むことで、AIによる人と地球の持続的発展を追及したいと考えています。

2. 人間主体の活用 (Human Autonomy)

AIは様々な社会課題を解決する新たな手段にとどまらず、人が意識する範囲を超えて社会に浸透し、人々の行動や生活環境、さらには個人や社会の意識にまで変化をもたらしつつある存在で、これからの社会では、ネットワーク化された無数のAIが、大小さまざまな課題を利用者に意識されることなく解決していきます。AIは人と社会に有益な技術ですが、これまでの技術にない側面があると考えられます。例えば、人間が扱えないような複雑な課題に対して、AIが人間の想定を超える高度な解決策を提案する可能性があります。これは、AIが出した結論に対する正当性を、もはや人間が判断できない場合があることを意味します。また、AIがいつどのように使われているかを、利用者である人間が意識できるとは限らない可能性もあります。

これらの側面から、AIは人間にとっての単なる手段・道具の範囲を超えて、社会に浸透し個人や社会の意識に変化をもたらす、あるいは人間と対峙する存在になると我々は考えています。そのような状況下においてもAIをどのように設計し、どのように活用するかは人間が主体的に判断すべきです。

そのためには、AIを研究開発し世界に届ける我々が、専門家としての自覚と責任を持ち、AIの可能性や限界を含め、AIに関する知識とAIの特性についての理解を日々深める不断の努力が不可欠です。同時に、人権の尊重や多様性への配慮をはじめとする時代時代の社会規範に則って、AIの活用を進めることが必要です。

3. 公平で開かれた姿勢 (Ensuring Fairness and Openness)

AIの動作結果には、入力するデータや用いるアルゴリズムの性質等による偏りが生じる可能性があります。AIへの入力となるデータが現実社会の人間活動にもとづく場合、そこには現実社会に内在する慣習や偏見が反映されている可能性があり、それらは直接的あるいは間接的にAIの出力結果へ影響を与える場合があります。さらにAIが用いるアルゴリズムの性質によっても、その影響の有無や度合いが変わることがあります。我々はAIを活用した時でも常に公平さが保たれることを志向して、AIの出力がそれを利用する者の判断に不当な影響が起きないよう、データやアルゴリズムの特性の把握に努めます。

しかし、AIの出力結果の根拠を全て説明することは困難です。これは、AIが処理するデータの量が人間では到底処理できない膨大なものであるという量的側面、およびアルゴリズムの高度化、処理のブラックボックス化、システム実装時の複雑化といった質的側面に起因します。またAIはそもそも万能ではなく、正しく動作する範囲の制限や、精度の限界があります。我々はたとえAIの動作の仕組みがさらに複雑になろうとも、常に開かれた姿勢で、AIの動作範囲や限界を適切に説明し、その説明や対応が広く社会に受け入れられるようAIの透明性を高め、広く社会の声に耳を傾ける姿勢を堅持していきたいと考えています。

4. セキュリティ (Security)

AIは社会に浸透していく存在で、持続的発展の追求に不可欠のものです。我々は、AIをいかなる時にも安定して動作するべきものととらえ、この実現に研究開発とシステム構築を通じて努めます。他方、たとえその時点の技術レベルで完璧なAIシステムが構築できたとしても、AIの動作を常に健全に保つことは容易ではありません。我々はAIの動作に異常が生じたり、不正な利用がされたりしたとしても、それに迅速に対応します。このような営みを通じて、AIのセキュリティを確保します。

さらにAIの動作の影響は、その活用方法に依存して変化します。AIの動作結果を自動化されたシステムに用いる場合は、その効果も高くなると同時にリスクも高くなると考えられます。特にアクチュエータ等を通じてサイバーフィジカルシステムとして使われる場合は、人の安全に関わる場合もあります。我々は、AIがどのような動作をするのかを理解し、そのリスクの最悪の場合も想定しながら、AIを用いたシステムを安全の確保に努めます。

5. プライバシー (Privacy)

AIで社会課題を解決していくためには、個人情報を含んだデータの活用が必須です。健全なAIの運用のため、データのセキュリティと取り扱いの透明性の確保に努めるのは言うまでもありません。我々はAIで用いられるデータの利用および流通において、通信の秘密を遵守し、個人情報の適切な取り扱いをし、AIのネットワーク化に求められる適正かつ安全なデータ利用と流通に取り組むことで、個人のプライバシーを保護することでAIの安心を追求します。

6. 社会との対話と共創 (Communication & Co-creation with Society)

AIは、利用者に意識されることなくネットワーク化して遍在し、その適用分野はますます拡大しています。ごく近い将来、社会や地球環境にとって良し悪し問わず、想定されなかった利用事例が起こるかもしれません。AIとそれを取り巻く環境は、今なおダイナミックに変化しており、社会との情報共有に始まる不断の対話が重要と考えます。有益な活用法を発信するとともに、弊害がありうる利用については警告や警戒情報を提供します。

一方、日進月歩に発展し多様化するAIの研究開発と事業展開には、我々だけの力では足りず、多様なパートナーとの共創が不可欠です。我々は社会との対話や共創を通じて、将来にわたって信頼されるAIの普及と発展に貢献していきたいと考えています。

公開日 : 2021/05/25

「AIの活用と研究開発のあり方」検討メンバー（五十音順、2021年6月末現在）

• 高橋克巳（NTTセキュアプラットフォーム研究所 主席研究員）
• 戸嶋巌樹（NTTメディアインテリジェンス研究所 主任研究員）
• 藤村　滋（NTTサービスエボリューション研究所 主任研究員）
• 松田昌史（NTTコミュニケーション科学基礎研究所 研究主任）
• 望月崇由（NTT研究企画部門 担当課長）
• 山田武士（NTTコミュニケーション科学基礎研究所 所長）