セキュア連合学習NTT社会情報研究所

複数機関や個人が所有する端末で大量のデータが発生するICT社会において、各端末で分散保持されるデータを端末から出さずに利活用する連合学習技術の研究開発に取り組んでいます。本技術により、大規模なデータをセキュアかつ高速にAIモデル、特に深層学習への活用が可能になると考えられます。

現在、AI・深層学習モデルは、データセンタなど1か所に集約したデータを用いて学習することが⼀般的です。しかし、医療画像や企業内の機密文書などは通信量やデータの機微性の観点から、1つのデータセンタへの集約が困難な場合があります。連合学習では、各端末に分散保持されたデータを集約せずにAI・深層学習モデルの学習に活用可能です。ただし、この実用化にあたっては、更新情報からの学習データ漏洩のリスクや、分散保持されたデータの量/特徴量の偏りによる精度劣化などの課題が存在します。

• 差分プライバシー技術をもとに、安全性と精度を両立する数理最適化問題として定式化し、情報漏洩リスクを低減しかつ高精度な学習手法を実現
• データの偏りによる学習精度劣化を低減する手法を提案し、高精度な学習を実現
• AI性能検証用のベンチマークデータセットに加え、医療などドメイン特化の実データを用いた実証実験によりセキュア連合学習の効果を確認
• AI分野の難関国際会議NeurIPS2023の連合学習コンペティションで開始された、分散保持された文書データ（請求書など）の文章および視覚情報を元にした質問応答タスクの精度を競うベンチマークにおいて歴代最高性能を達成
• 一部のクライアントに異常や悪意がある場合にも高精度にAIモデルを学習可能な学習手法を実現

• 分散保持されるデータを集約せずに、AI・深層学習モデルが学習可能であるため、多様な領域での活用が期待されます。
• 医療分野では、異なる病院で撮影されたレントゲン画像を、セキュア連合学習に用いることで、高解像度レントゲン画像に基づく高精度な病理診断AIの構築が期待されます。
• 製造業では、複数の工場・プラント間で機器のセンサから取得される時系列ログデータをセキュア連合学習に用いることで、機器故障予測・検知モデルの構築が期待されます。

セキュア連合学習は、これまでデータの機密性や大容量性を理由に集約が困難であったデータを用いたAI・深層学習モデルの学習を可能にします。同一ドメイン間の協調で、より高精度なモデルを獲得可能になります。また、異なるドメイン間の協調で、新たなアプリケーションの萌芽も期待されます。さらに、LLMなど大規模モデルへの適用も研究開発中です。
更新情報を統合する演算において、秘密計算やTEE (Trusted Execution Environment)などの信頼可能なデータ利活用基盤技術と組み合わせることで、よりプライバシーを強化した分散保持されるデータの利活用も実現可能です。

社会情報研究所　社会情報流通研究プロジェクト