フェロー／上席特別研究員／特別研究員

上席特別研究員 西田 京介
  • 上席特別研究員

    西田 京介

  • NTT人間情報研究所

▶ インタビュー記事へ

大規模言語モデル「tsuzumi」の研究

あらゆる環境で人と自然に共生可能な汎用AIの実現を目指しています。

目次

表彰

  • 2025年3月 2024年度言語処理学会論文賞
  • 2025年3月 言語処理学会第31回年次大会(NLP2025) 優秀賞（2件）
  • 2025年3月 言語処理学会第31回年次大会(NLP2025) 委員特別賞
  • 2024年10月 日本電信電話株式会社 研究開発表彰
  • 2024年3月 言語処理学会第30回年次大会(NLP2024) 優秀賞
  • 2023年8月 NLP若手の会 (YANS) 第18回シンポジウム (2023), 奨励賞
  • 2023年3月 言語処理学会第29回年次大会(NLP2023) 優秀賞
  • 2023年3月 言語処理学会第29回年次大会(NLP2023) 言語資源賞
  • 2023年3月 言語処理学会第29回年次大会(NLP2023) 委員特別賞（2件）
  • 2022年6月 日本電信電話株式会社 事業貢献表彰
  • 2022年3月 言語処理学会第28回年次大会(NLP2022) 優秀賞
  • 2022年3月 NTTサービスイノベーション総合研究所 優秀業績賞（2件）
  • 2021年9月 ICDAR 2021 Competition on Document Visual Question Answering, Task 3 Infographics VQA, runners-up
  • 2021年7月 2021年度人工知能学会全国大会(JSAI2021) 優秀賞
  • 2021年3月 言語処理学会第27回年次大会(NLP2021) 最優秀賞
  • 2020年7月 2020年度人工知能学会全国大会(JSAI2020) 優秀賞（2件）
  • 2020年3月 言語処理学会第26回年次大会(NLP2020) 優秀賞
  • 2019年6月 2018年度日本データベース学会論文賞
  • 2019年3月 言語処理学会第25回年次大会(NLP2019) 優秀賞
  • 2019年3月 第11回データ工学と情報マネジメントに関するフォーラム(DEIM2019) 優秀インタラクティブ賞
  • 2018年12月 NTTサービスイノベーション総合研究所 優秀業績賞
  • 2018年9月 マルチメディア、分散、協調とモバイル(DICOMO2018)シンポジウム 優秀論文賞
  • 2018年6月 第10回データ工学と情報マネジメントに関するフォーラム(DEIM2018) 優秀論文賞
  • 2018年3月 言語処理学会第24回年次大会(NLP2018) 最優秀賞
  • 2018年3月 第10回データ工学と情報マネジメントに関するフォーラム(DEIM2018) 優秀インタラクティブ賞
  • 2017年3月 日本データベース学会 上林奨励賞
  • 2017年3月 第9回データ工学と情報マネジメントに関するフォーラム(DEIM2017) 優秀インタラクティブ賞
  • 2016年8月 マルチメディア、分散、協調とモバイル(DICOMO2016)シンポジウム 優秀論文賞
  • 2016年6月 第8回データ工学と情報マネジメントに関するフォーラム(DEIM2016) 優秀論文賞
  • 2015年3月 情報処理学会 山下記念研究賞
  • 2013年8月 マルチメディア、分散、協調とモバイル(DICOMO2013)シンポジウム 最優秀論文賞
  • 2013年7月 マルチメディア、分散、協調とモバイル(DICOMO2013)シンポジウム 優秀プレゼンテーション賞
  • 2011年2月 第3回データ工学と情報マネジメントに関するフォーラム(DEIM2011) 最優秀インタラクティブ賞
  • 2010年9月 グループウェアとネットワークサービスワークショップ2010 ベストペーパー賞

    招待・チュートリアル講演

    • 西田京介, 浅見太一, 荒川大輝, "tsuzumi 2が描く、AIビジネスの新地図 ～日本発LLMの挑戦と展望～", NTT R&Dフォーラム, 2025年11月
    • 西田京介, "tsuzumi 2: 進化したNTT版大規模言語モデル", weights and biases Fully Connected Tokyo 2025, 2025年10月
    • Kyosuke Nishida, Kosuke Nishida, Ryota Tanaka "Recent Advances in Large Language Models and Vision-and-Language Models", The 21st International Conference on Advanced Data Mining and Applications (ADMA 2025), October 2025.
    • 西田京介, "NTT版大規模言語モデル tsuzumi 2について", 第24回LLM勉強会, 2025年10月
    • 西田京介, "tsuzumi 2: 進化したNTT版大規模言語モデル", weights and biases Fully Connected Tokyo 2025, 2025年10月
    • 西田京介, "NTT版大規模言語モデル tsuzumi の取組について", databricks DATA+AI World Tour Tokyo, 2024年10月
    • 西田京介, "LLMと共に知の泉を汲んで世に恵みを提供する", 言語処理学会第30回年次大会ワークショップ: 大規模言語モデルの実世界応用, 2024年3月
    • 西田京介, 安藤厚志, "LLMと音声理解・生成の最新動向", 第16回データ工学と情報マネジメントに関するフォーラム チュートリアル, 2024年3月.
    • 西田京介, "NTT版大規模言語モデル「tsuzumi」の取組について", 社会的課題解決型データサイエンス・AI研究推進体シンポジウム: 大規模言語モデルLLMの最前線, 2024年2月
    • 西田京介, "NTT独自の軽量LLM「tsuzumi」の挑戦とビジョン", NTTPC Innovation LAB MeetUp, 2024年2月.
    • 西田京介, "大規模言語モデルの基礎・最新動向", 電子情報通信学会関西支部イブニングセミナー, 2024年2月.
    • 西田京介, "NTT版LLM「tsuzumi」について", AWS LLM開発支援プログラム成果発表会, 2024年1月.
    • 西田京介, "LLMのチューニング技術の最新動向", 第150回音声言語情報処理研究発表会, 2024年1月.
    • 西田京介, "大規模言語モデルの基礎・最新動向", 総務省BBLセミナー, 2024年1月.
    • 西田京介, "大規模言語モデルの基礎・最新動向", 最強データベース講義, 2024年1月.
    • 西田京介, "Research and Development of LLM at NTT", TODAICL, 2023年11月.
    • 西田京介, "大規模言語モデル入門", 東京大学 総合分析情報学特論, 2023年11月.
    • 西田京介, "汎用言語モデルは人と暮らす夢を見るか?", NTT R&Dフォーラム, 2023年11月.
    • 西田京介, 西田光甫, "大規模言語モデル入門", ソフトウェアエンジニアリングシンポジウム, 2023年8月.
    • 西田京介, "GPT-4とVision-and-Languageの未来", 第29回画像センシングシンポジウム, 2023年6月.
    • Jun Suzuki, Naoaki Okazaki, Kyosuke Nishida, "A Gentle Introduction to Technologies Behind anguage Models and Recent Achievement in ChatGPT", The 27th Pacific-Asia Conference on Knowledge Discovery and Data Mining, May 2023.
    • 西田京介, 壹岐太一, "Collaborative AI: 視覚・言語・行動の融合", 第13回 Language and Robotics研究会, 2023年5月．
    • 西田京介, 西田光甫, 田中涼太, 斉藤いつみ, "NLとVision-and-Languageの基礎・最新動向 (part1) (part2)", 第15回データ工学と情報マネジメントに関するフォーラム チュートリアル, 2023年3月．
    • 西田京介, "自然言語処理とVision-and-Languageの最新動向", 東北大学主催 第9回 医学AIセミナー 特別レクチャー, 2023年2月．
    • 西田京介, "視覚と言語に基づく文書理解", 第42回医療情報学連合大会, 2022年11月．
    • 西田京介, "深層学習による自然言語処理技術の最新動向とビジネスへの利用例", 東京大学 総合分析情報学特論, 2022年10月.
    • 西田京介, "自然言語処理とVision-and-Language", 2022年度 人工知能学会全国大会（第36回）チュートリアル, 2022年6月．
    • 西田京介, "深層学習による自然言語処理技術の最新動向とビジネスへの利用例", 東京大学 総合分析情報学特論, 2021年10月.
    • 西田京介, "視覚と言語の統合的理解に基づく文書理解と質問応答", 第48回産業総合研究所人工知能セミナー, 2021年9月
    • 西田京介, "人とAIの共生に向けた視覚と言語の融合理解", NVIDIA AI DAYS, 2021年6月.
    • 西田京介, "言語と視覚に基づく質問応答の最新動向", 言語処理学会第27回年次大会ワークショップ AI王 〜クイズAI日本一決定戦〜, 2021年3月.
    • 西田京介, "自然言語処理とビジョン＆ランゲージへの派生", 日本ロボット学会 ロボット学会セミナー第132回, 2021年2月.
    • 西田京介, "深層学習による自然言語処理技術の最新動向とビジネスへの利用例", 東京大学 総合分析情報学特論, 2020年10月.
    • 西田京介, "事前学習済言語モデルの動向と展望", 産総研・東工大実社会ビッグデータ活用オープンイノベーションラボラトリ, 2020年2月.
    • 西田京介, "機械読解と自然言語理解", お茶の水女子大学 理学総論, 2019年11月.
    • 西田京介, "ACL'19参加報告と事前学習言語モデルの動向 ", xpaper.challenge, 2019年11月.
    • 西田京介, "深層学習による自然言語処理技術の最新動向とビジネスへの利用例", 東京大学 総合分析情報学特論, 2019年10月.
    • 西田京介, "自然言語生成による機械読解", WebDB Forum 2019 先端研究解説セッション, 2019年9月.
    • 西田京介, "機械読解の現状と展望", 言語処理学会第25回年次大会 チュートリアル, 2019年3月.
    • 西田京介, "機械読解技術の最新動向と実用化へ向けた展望", 東北大学乾・鈴木研究室 みちのく情報伝達学セミナー, 2019年1月.
    • 西田京介, "深層学習による自然言語処理技術の最新動向とビジネスへの利用例", 東京大学 総合分析情報学特論, 2018年10月.
    • 西田京介, "深層学習による自然言語処理技術の最新動向とビジネスへの利用例", 東京大学 総合分析情報学特論. 2017年10月.
    • 西田京介, "深層学習による自然言語処理", NTTドコモ サービスイノベーション部, 2017年4月.

    学会役員等

    • 2021年9月～2025年8月: 言語処理学会 会誌「自然言語処理」編集委員
    • 2022年4月〜2024年3月: 情報処理学会論文誌データベース(TOD)編集委員会
    • 2019年4月～2023年3月: 情報処理学会自然言語処理研究運営委員会 運営委員
    • 2017年4月～2019年3月: 情報処理学会データベースシステム研究運営委員会 運営委員
    • 2016年4月～2018年3月: 情報処理学会 会誌編集委員
    • 2012年4月～2016年3月: 情報処理学会データベースシステム研究運営委員会 運営委員

    客員教授等

    • 法政大学 兼任講師（2019年～2023年）

    主な論文

    • Ryota Tanaka, Taichi Iki, Taku Hasegawa, Kyosuke Nishida, Kuniko Saito, Jun Suzuki: "VDocRAG: Retrieval-Augmented Generation over Visually-Rich Documents", in Proceedings of IEEE/CVF Conference on Computer Vision and Pattern Recognition (CVPR 2025), pp. 24827-24837, July 2025.
    • Daiki Chijiwa, Taku Hasegawa, Kyosuke Nishida, Kuniko Saito, Susumu Takeuchi: "Portable Reward Tuning: Towards Reusable Fine-Tuning across Different Pretrained Models ", in Proceedings of Forty-second International Conference on Machine Learning (ICML 2025), July 2025.
    • Nobukatsu Hojo, Kazutoshi Shinoda, Yoshihiro Yamazaki, Keita Suzuki, Hiroaki Sugiyama, Kyosuke Nishida, Kuniko Saito: GenerativeGUI: Dynamic GUI Generation Leveraging LLMs for Enhanced User Interaction on Chat Interfaces, in Proceedings of the Extended Abstracts of the CHI Conference on Human Factors in Computing Systems (CHI 2025 Extended Abstracts), pp. 306:1-306:9, May 2025.
    • Yui Oka, Taku Hasegawa, Kyosuke Nishida, Kuniko Saito: "Wavelet-based Positional Representation for Long Context", in Proceedings of the Thirteenth International Conference on Learning Representations (ICLR 2025), April 2025.
    • Kazutoshi Shinoda, Nobukatsu Hojo, Kyosuke Nishida, Saki Mizuno, Keita Suzuki, Ryo Masumura, Hiroaki Sugiyama, Kuniko Saito: "ToMATO: Verbalizing the Mental States of Role-Playing LLMs for Benchmarking Theory of Mind", in Proceedings of Thirty-Ninth AAAI Conference on Artificial Intelligence (AAAI 2025), pp. 1520-1528, February 2025.
    • Kosuke Nishida, Kyosuke Nishida, Kuniko Saito: "Initialization of Large Language Models via Reparameterization to Mitigate Loss Spikes", in Proceedings of the 2024 Conference on Empirical Methods in Natural Language Processing (EMNLP 2024), pp. 22699-22714, November 2024.
    • Ryota Tanaka, Taichi Iki, Kyosuke Nishida, Kuniko Saito, Jun Suzuki, "InstructDoc: A Dataset for Zero-Shot Generalization of Visual Document Understanding with Instructions" in Proceedings of the 37th AAAI Conference on Artificial Intelligence (AAAI 2024), February 2024.
    • Taku Hasegawa, Kyosuke Nishida, Koki Maeda, Kuniko Saito, "DueT: Image-Text Contrastive Transfer Learning with Dual-adapter Tuning", in the 2023 Conference on Empirical Methods in Natural Language Processing (EMNLP 2023, 1047/4909 = 21.3%), pp. 13607-13624, December 2023.
    • Kosuke Nishida, Naoki Yoshinaga and Kyosuke Nishida, "Self-Adaptive Named Entity Recognition by Retrieving Unstructured Knowledge", in Proceedings of the 17th Conference of the European Chapter of the Association for Computational Linguistics (EACL 2023, 281/1166=24.1%), pp. 3193-3205, May 2023.
    • Ryota Tanaka, Kyosuke Nishida, Kosuke Nishida, Taku Hasegawa, Itsumi Saito, Kuniko Saito, "SlideVQA: A Dataset for Document Visual Question Answering on Multiple Images", in Proceedings of the 37th AAAI Conference on Artificial Intelligence (AAAI 2023, 1721/8777=19.6%), , pp. 13636-13645, February 2023.
    • Yasuhito Ohsugi, Itsumi Saito, Kyosuke Nishida and Sen Yoshida, "Japanese ASR-Robust Pre-trained Language Model with Pseudo-Error Sentences Generated by Grapheme-Phoneme Conversion", in Proceedings of the 2022 Conference of the International Speech Communication Association (INTERSPEECH 2022), pp. 2688-2692, September 2022.
    • Kosuke Nishida, Kyosuke Nishida, Shuichi Nishioka, "Improving Few-Shot Image Classification Using Machine- and User-Generated Natural Language Descriptions", in Proceedings of the 2022 Annual Conference of the North American Chapter of the Association for Computational Linguistics (NAACL 2022) (findings), pp. 1421-1430, July 2022.
    • Kosuke Nishida, Kyosuke Nishida, Sen Yoshida, "Task-adaptive Pre-training of Language Models with Word Embedding Regularization", in Proceedings of the Joint Conference of the 59th Annual Meeting of the Association for Computational Linguistics and the 11th International Joint Conference on Natural Language Processing (ACL-IJCNLP 2021) (findings), pp. 4546-4553, August 2021.
    • Ryota Tanaka(*), Kyosuke Nishida(*), Sen Yoshida, "VisualMRC: Machine Reading Comprehension on Document Images", in Proceedings of the 35th AAAI Conference on Artificial Intelligence (AAAI 2021), pp. 13878-13888, a Virtual Conference, February 2021. (*: equal contribution) (full paper, 1696/7911=21.4%)
    • Kyosuke Nishida, Itsumi Saito, Kosuke Nishida, Kazutoshi Shinoda, Atsushi Otsuka, Hisako Asano and Junji Tomita, "Multi-style Generative Reading Comprehension", in Proceedings of the 57th Annual Meeting of the Association for Computational Linguistics (ACL 2019), pp.2273-2284, July 2019.
    • Kosuke Nishida, Kyosuke Nishida, Masaaki Nagata, Itsumi Saito, Atushi Otuka, Hisako Asano and Junji Tomita, "Answering while Summarizing: Multi-task Learning for Multi-hop QA with Evidence Extraction", in Proceedings of the 57th Annual Meeting of the Association for Computational Linguistics (ACL 2019), pp.2273-2284, 2335-2345, July 2019.
    • Kyosuke Nishida, Itsumi Saito, Atsushi Otsuka, Hisako Asano, and Junji Tomita, "Retrieve-and-Read: Multi-task Learning of Information Retrieval and Reading Comprehension", in Proceedings of the 27th ACM International Conference on Information and Knowledge Management (CIKM 2018), pp. 647-656, October 2018.
    • Kyosuke Nishida, Kugatsu Sadamitsu, Ryuichiro Higashinaka, and Yoshinori Matsuo, "Understanding the Semantic Structures of Tables with a Hybrid Deep Neural Network Architecture, " in Proceedings of the 31st AAAI Conference on Artificial Intelligence (AAAI 2017), pp.168-174, February 2017.
    • Kyosuke Nishida, Hiroyuki Toda, Takeshi Kurashima, and Yoshihiko Suhara, "Probabilistic Identification of Visited Point-of-Interest for Personalized Automatic Check-in," in Proceedings of the 2014 ACM International Joint Conference on Pervasive and Ubiquitous Computing (UbiComp 2014), pp.631-642, September 2014.
    • Kyosuke Nishida, Takahide Hoshide, and Ko Fujimura, "Improving Tweet Stream Classification by Detecting Changes in Word Probability," in Proceedings of the 35th international ACM SIGIR conference on Research and development in Information Retrieval (SIGIR 2012), pp. 971-980, August 2012.
    • Kyosuke Nishida and Ko Fujimura, "Hierarchical Auto-Tagging: Organizing Q&A Knowledge for Everyone," in Proceedings of the 19th ACM International Conference on Information and Knowledge Management (CIKM 2010), pp. 1657-1660, October 2010.
    • Kyosuke Nishida, Koichiro Yamauchi: Detecting Concept Drift Using Statistical Testing. Discovery Science 2007: 264-269
    • Kyosuke Nishida, Koichiro Yamauchi, Takashi Omori: ACE: Adaptive Classifiers-Ensemble System for Concept-Drifting Environments. Multiple Classifier Systems 2005: 176-185

    専門的活動

    • ICDAR 2021 Competition On Document Visual Question Answering (DocVQA), NTT Media Intelligence Laboratories (Ryota Tanaka and Kyosuke Nishida), Infographics VQA Task, runners-up (Rank 2, Apr. 9, 2021)
    • QuAC (Question Answering in Context), NTT Media Intelligence Labs (Yasuhito Ohsugi, Itsumi Saito, and Kyosuke Nishida), Rank 1 (Mar. 7, 2019)
    • HotpotQA (A Dataset for Diverse, Explainable Multi-hop Question Answering), NTT Media Intelligence Laboratories (Kosuke Nishida and Kyosuke Nishida), Distractor setting: Rank 1 (Nov. 21, 2018), Fullwiki setting: Rank 1 (Nov. 21, 2018)
    • MS MARCO (Microsoft MAchine Reading COmprehension Dataset) 2.1, NTT Media Intelligence Laboratories (Kyosuke Nishida), Q&A Task: Rank 1 (Jan. 3, 2019), Q&A + Natural Langauge Generation Task: Rank 1 (Sep. 17, 2018, Dec. 14, 2018, Jan. 3, 2019)

    技術キーワード

    業績の詳細はこちら

    関連するコンテンツ