多様な話者の長い音声を理解するー音声言語処理

音声を理解するー音声言語処理技術

私たち人間が会話を行う際には、発話内容だけでなく、さまざまな情報を統合して相手の意図を理解しています。言語情報に加え、声の高さや速さ、抑揚などの韻律情報からも、意図や気持ちを読み取ります。また, 話題や過去のやり取りなどの文脈情報も、重要な手がかりとなります。更に人間は話者の属性も考慮して会話を理解しています。例えば、子ども、成人、高齢者といった年齢の違いによる話し方の違いや、話者の母語に依存した表現の特徴を踏まえることで、発話の意味を柔軟に補完し、円滑なコミュニケーションを行っています。
私たちは人間と同じような会話ができるAIの実現を目指して、長時間の会話音声に対する音声言語処理(例えば、音声要約や音声翻訳)や、子どもをはじめとするさまざまな属性を持った話者に対する適切な音声言語処理の研究を進めています。

将来どのように使われるのか

人間と同等の会話能力を備えたAIが実現できれば、その活用先は多岐にわたると考えられます。例えば教育分野では、学習者の年齢や理解度に応じて説明方法を柔軟に変えたり、会話内容を要約することで、個別学習を支援することが可能となります。医療・福祉分野では、高齢者や子どもとの自然な対話の実現に加え、長時間の会話を要約・記録することで、見守りや介護支援の質の向上に貢献できます。
また多言語環境においては、話者の母語を考慮した音声翻訳と要約により、会議などにおける情報共有を効率化できます。更にカスタマーサポートなどの場面でも、利用者との対話内容を整理・要約することで、より円滑で満足度の高い対応が実現すると期待されます。このようなAIは、人間のコミュニケーションを補完し、社会全体の情報伝達を支える存在として重要な役割を果たすと考えられます。

長時間音声認識技術

本研究では、人間のように長時間の会話を理解できる音声AIの実現を目指しています。私たちは日常的に、話題が前後したり言い直しが含まれたりする会話であっても、自然に文脈を把握しています。しかし、AIにとってこのような話し言葉特有の揺れを含む長時間音声の理解は、依然として大きな課題です。
特に、会議や講義、商談などの音声データでは、発話が断片的になりやすく、全体のつながりを保ったまま内容を理解することが難しくなります。こうした状況に対応するため、私たちは、自然な話し方や速い話速、崩れた表現であっても正確に理解できる音声認識・対話技術の開発に取り組んでいます。
さらに、長時間の音声データを効率よく処理し、途中で文脈を見失うことなく内容を把握できるモデルの構築を進めています。これにより、会話全体の流れを捉えた安定した理解が可能になります。
加えて、LLM(大規模言語モデル)を活用し、発話単位での精密な聞き取りと、会話全体の意味理解を両立する学習方法の研究を行っています。これら発話単位の細かな情報と大局的な文脈といった様々な粒度の情報を統合的に処理することで、人に近い理解力をもつ音声認識技術の実現を目指しています。

関連展示・関連文献

  1. Takatomo Kano, Atsunori Ogawa, Marc Delcroix, R. Sharma, Kohei Matsuura, and Shinji Watanabe, “Speech summarization of long spoken document: Improving memory efficiency of speech/text encoders,” Proc. ICASSP, 2023.
  2. William Chen, Takatomo Kano, Atsunori Ogawa, Marc Delcroix, and Shinji Watanabe, “Train long and test long: leveraging full document contexts in speech processing,” Proc. ICASSP, pp.13066-13070, 2024.
  3. Takatomo Kano, William Chen, Atsunori Ogawa, Marc Delcroix, and Shinji Watanabe, “Pick and summarize: Integrating extractive and abstractive speech summarization,” Proc. InterSpeech, pp.281-285, 2025.

音声要約・音声翻訳

講演や会議、インタビューなどの長い音声には多くの情報が含まれていますが、必要な部分だけを把握するために、最初から最後まで聞き直すことは、大きな負担になります。私たちは、こうした長い音声から重要なポイントを自動で取り出し、分かりやすく伝えるAI技術の研究開発に取り組んでいます。
私たちが講演などで話すとき、重要な部分を強くゆっくり話したり、あえて間をとったりします。これらの非言語情報は、話し手が強調したい内容を理解するうえで重要です。そこで私たちは、発話の言語情報だけでなく、話し方の特徴にも着目し、単に文章を短くするのではなく、「何が大切か」が自然に伝わる音声要約を目指しています。
さらに、要約と翻訳を組み合わせることで、異なる言語でも同じ内容が正しく伝わる技術にも取り組んでいます。多言語でも一貫した情報提供を可能にし、より幅広いコミュニケーションを支えます。
これらの研究を通じて、音声と言語を扱うAIの基礎技術を発展させ、情報共有をより身近で効率的なものにしていきます。

関連展示・関連文献

  1. 「え、なに?どういうこと?」長い話まとめます―音声認識誤りに頑健な音声要約
    https://www.kecl.ntt.co.jp/openhouse/2022/exhibition_14.html
  2. Takatomo Kano, Atsunori Ogawa, Marc Delcroix, Roshan Sharma, Kohei Matsuura, and Shinji Watanabe, "Speech summarization of long spoken document: Improving memory efficiency of speech/text encoders," Proc. ICASSP, 2023.
  3. Takatomo Kano, Atsunori Ogawa, Marc Delcroix, William Chen, Ryo Fukuda, Kohei Matsuura, Takanori Ashihara, and Shinji Watanabe, "Bridging Speech and Text Foundation Models with ReShape Attention," Proc. ICASSP, 2025.
  4. Takatomo Kano, Atsunori Ogawa, Marc Delcroix, Kohei Matsuura, Takanori Ashihara, William Chen, and Shinji Watanabe, "Summarize while translating: Universal model with parallel decoding for summarization and translation," Proc. ASRU, 2023.

子ども音声言語処理

子ども音声認識をはじめとする子ども音声言語処理は、タブレット学習や対話型教材など、ICTを活用した教育の質を高めるうえで重要な技術です。しかし、現在広く使われている音声認識技術の多くは成人の音声をもとに作られており、発音や話し方が成長とともに大きく変化する子どもの音声には十分に対応できていません。私たちはこの課題に対し、子どもの成長過程に伴う音声の変化を考慮しながら、一人ひとりの発達段階に柔軟に対応できる音声認識技術の実現を目指して研究を進めています。本研究の成果は、子ども音声のみならず、高齢者の音声や母語話者の少ない希少言語など、多様な話者に対応する音声技術の発展にも貢献することが期待されます。

関連展示・関連文献

  1. Koharu Horii, Naohiro Tawara, Atsunori Ogawa, Shoko Araki, “Why is children’s ASR so difficult? Analyzing children’s phonological error patterns using SSL-based phoneme recognizers,” Proc. Interspeech, pp. 2870-2874, 2025.
  2. Sigeki Amano, Tadahisa Kondo, Kazumi Kato, Tomohiro Nakatani, “Development of Japanese infant speech database from longitudinal recordings,” Speech Communication, vol.51 (6), pp.510-520, 2009.
  3. Naohiro Tawara, Atsunori Ogawa, Yuki Kitagishi, Hosana Kamiyama, Yusuke Ijima, "Robust speech-age estimation using local maximum mean discrepancy under mismatched recording conditions," Proc. ASRU, 2021.

関連する研究内容