雑音・残響の中で聞き取る―超高品質音声強調

雑音・残響の中で人の声を聞き取る超高品質音声強調

私たち人間は、複数の音が同時に聞こえている複雑な実環境においても、それぞれの音を瞬時に識別・理解することで、円滑なコミュニケーションを行ったり、環境変化に迅速に対応したりしています。本研究は、この人間の能力を凌駕する聴覚能力を備えたAIの実現を目標とし、特に以下の二つの本質的な課題に挑みます。

1) 多様な音が混在する実環境の信号から、各構成音を正確に分離・抽出し、AIが個別かつ詳細に認識・理解できる基盤技術を確立します。
2) 音が混ざって聞き取りにくい収録音を、人が快適に、かつ容易に内容を把握できる高品質な音へと変換する技術を開発します。

本研究を通じて、人間の聴覚能力を超えるAIが私たちの生活に自然に溶け込み、どんな騒がしい環境でもその活動を支援するとともに、周囲の音を聞き取りやすく快適な音に変換・提供することで、生活の質の劇的な向上に貢献します。

将来どのように使われるのか

AIが人間を超える聴覚能力を備えることで、音に関わる私たちの体験や、AIによる生活支援の質は飛躍的に向上すると期待されます。例えば、人と人とのコミュニケーションを支える技術として、騒がしい環境において、会話相手の声や周囲の音を明瞭に聞き取ることができるヒアリング支援、聴覚に障害のある人や異なる母語話者間の円滑なコミュニケーション支援、同じ空間にいるかのような臨場感のあるリモート音声会議などが挙げられます。また、音収録技術への応用として、日常環境においてもスタジオ録音に匹敵する超高品質な映像機器やポストプロダクション技術、AIによる音の学習 (音声合成など) のための高品質音声データ収集などが考えられます。

音響信号処理技術の統一基盤

混ざった音の音響的分解
図:混ざった音の音響的分解

私たちが普段聞いている音は、あちこちで生じた音が混ざりあった、きわめて複雑な音です。私たちの研究グループでは、そのような複雑な音を、個々の音源から生じている音と、音源から耳(マイク)までの音の伝わり方(直接経路、残響)とに自動的に分解する技術を検討しています。この技術は、音源分離、残響推定、音源位置推定といった処理を包括的に扱う音響信号処理の統一基盤となります。
私たちは、この理論基盤を構築するとともに、会議音声、スマートスピーカー、聴覚支援デバイス(補聴器など)といった現実的なシナリオで収録された音から、各話者の音声・残響・音源位置を同時に推定する方法を考案しています。

関連展示・関連文献

  1. 騒がしい生活環境で、音声だけ高品質に取り出す ~音源分離・雑音抑圧・残響抑圧の全体最適化~ https://www.kecl.ntt.co.jp/openhouse/2021/exhibition_15.html
  2. あなたの声を「すぐそば」品質で聴くAI ~遠くからでも近接マイク品質で混ざった音を聞き分ける革新的音響処理技術~ https://www.kecl.ntt.co.jp/openhouse/2022/lecture_03.html
  3. R. Ikeshita, T. Nakatani and S. Araki, "Block Coordinate Descent Algorithms for Auxiliary-Function-Based Independent Vector Extraction," IEEE Transactions on Signal Processing, vol. 69, pp. 3252-3267, 2021.
  4. R. Ikeshita and T. Nakatani, "Independent Vector Extraction for Fast Joint Blind Source Separation and Dereverberation," IEEE Signal Processing Letters, vol. 28, pp. 972-976, 2021.
  5. T. Nakatani, C. Boeddeker, K. Kinoshita, R. Ikeshita, M. Delcroix, "Jointly optimal denoising, dereverberation, and source separation," IEEE/ACM Transactions on Audio, Speech, and Language Processing, vol. 28, pp. 2267-2282, 2020.
  6. N. Ito, S. Araki, and T. Nakatani, "Complex angular central Gaussian mixture model for directional statistics in mask-based microphone array signal processing," Proc. EUSIPCO, pp. 1153-1157, 2016.
  7. M. Souden, S. Araki, K. Kinoshita, T. Nakatani, and H. Sawada, "A Multichannel MMSE-Based Framework for Speech Source Separation and Noise Reduction," vol. 21, no.9, pp. 1913-1928, 2013.
  8. T. Nakatani, T. Yoshioka, K. Kinoshita, M. Miyoshi, and B.-H. Juang, "Speech Dereverberation Based on Variance-Normalized Delayed Linear Prediction," IEEE Transactions on Audio, Speech, and Language Processing, vol. 18, no. 7, pp. 1717-1731, 2010.

ニューラルネットワーク音声強調

近年、ニューラルネットワークに代表される機械学習技術の進化により、大量の音データからの学習に基づく高品質な音声強調が実現されつつあります。しかしながら、この技術は、学習データと大きく異なる未知の環境や、ホームパーティのような音源が複雑に混ざり合う実環境で収録された音声に対しては、性能が著しく低下するという根本的な課題を依然として抱えています。
この課題を克服するため、私たちは以下の二つのアプローチで研究を進めています。

1) 革新的な学習・推論パラダイムの構築: 実環境収録を用いた教師無し学習を含む、より汎用性と頑健性の高い学習・推論方式を構築します。
2) 物理・統計的知識の活用: 空間伝達特性をはじめとする音の物理的・統計的性質を考慮した推論アルゴリズムを開発します。

これらの複合的なアプローチにより、多様で複雑な実環境において、既存技術の限界を超える超高品質な音声処理技術の実現を目指します。

関連展示・関連文献

  1. 話しながら移動しても声を聞き取り続けます ~音源の移動に追従可能なニューラルビームフォーミング~
    https://www.kecl.ntt.co.jp/openhouse/2024/exhibition_04.html
  2. 騒がしい環境で録音音声をクリーンな音声に変換 ~多ストリーム拡散モデルのアンサンブル推論による音声強調~
    https://www.kecl.ntt.co.jp/openhouse/2025/exhibition_08.html
  3. T. Ochiai, M. Delcroix, T. Nakatani, and S. Araki, "Mask-Based Neural Beamforming for Moving Speakers With Self-Attention-Based Tracking," IEEE/ACM Transactions on Audio, Speech, and Language Processing, Vol. 31, pp. 835-848, 2023.
  4. N. Kamo, M. Delcroix, and T. Nakatani, "Target speech extraction with conditional diffusion model," Proc. INTERSPEECH, pp. 176-180, 2023.
  5. T. Nakatani, N. Kamo, M. Delcroix, and S. Araki, "A Hybrid Probabilistic-Deterministic Model Recursively Enhancing Speech," Proc. ICASSP, 2025.

音声品質評価尺度の構築

音声強調技術の目標設定と性能評価において、品質評価尺度は極めて重要な役割を果たしますが、信頼性の高い指標は未だ確立されていません。従来は、雑音の低減量といった物理的な指標が用いられてきましたが、こうした指標は「音声の聞き取りやすさ」や「音声認識精度の向上」に必ずしも結びついてきませんでした。
私たちは、超高品質な音声強調技術の実現に向けて、信頼性の高い評価尺度の確立に挑戦しています。人間の聴覚特性を模擬した評価尺度の開発、音声認識に影響を及ぼす歪み量の特定、機械学習に基づく主観品質予測モデルの構築などの研究を進めています。

関連展示・関連文献

  1. T. Ochiai, K. Iwamoto, M. Delcroix, R. Ikeshita, H. Sato, S. Araki, and S. Katagiri, "Rethinking processing distortions: Disentangling the impact of speech enhancement errors on speech recognition performance," IEEE/ACM Transactions on Audio, Speech, and Language Processing, vol. 32, pp. 3589-3602, 2024.
  2. N. Kamo, K. Arai, A. Ogawa, S. Araki, T. Nakatani, K. Kinoshita, M. Delcroix, T. Ochiai, and T. Irino, "Speech Intelligibility Prediction through Direct Estimation of Word Accuracy Using Conformer," Proc. APSIPA ASC, pp. 1426-1430, 2022.
  3. K. Yamamoto, T. Irino, S. Araki, K. Kinoshita, and T Nakatani, "GEDI: Gammachirp envelope distortion index for predicting intelligibility of enhanced speech," Speech Communication, vol. 123, no. 43-58, October 2020.

関連する研究内容