更新日：2025/05/12

機械の心の物理学

目次

概要

深層学習モデルの性能をより深く理解することで安全で公平な深層学習モデルの活用を促進します。

技術課題

生成AIの性能が向上し、適用範囲が広がっています。しかし、その性能の詳しい理解はまだ不十分で、安心・安全な使用に課題が残っています。

研究目標

実問題の構造を反映させたシンプルな学習タスクを設計し、拡散モデルが「学習データ中の概念をどう学習し」、「学習した概念をどう組み合わせているか」を明らかにし、こうした知見を活かしモデルの性能を制御することで、生成モデルの安全な活用を可能にします。

要素技術

  • 画像生成における「想像力」を、学習データから概念を学び、その学んだ概念を組み合わせて新しい画像を生成する能力として定義
  • 拡散モデルの「想像力」を評価するタスクを設計するために、「コンセプトグラフ」という理論フレームワークを提案
  • コンセプトグラフに基づいて生成されたシンプルな学習タスクを拡散モデルに解かせることで、モデルの「想像力」を評価

市中技術差異点

  • 拡散モデルの性能を理解し、その振る舞いを予測可能にすることで、より安全・安心な深層学習モデルの社会実装を可能にします