IOWN光コンピューティングを実現するDCI(Data Centric Infrastructure)NTTソフトウェアイノベーションセンタ

IOWN光コンピューティングを支えるDCI（Data Centric Infrastructure）は、次世代のコンピューティング基盤です。これは、GPU（Graphics Processing Unit）などのアクセラレータを搭載するサーバおよび光電融合スイッチから成るハードウェア部と、GPUなどのアクセラレータを柔軟に制御するDCIコントローラのソフトウェア部から構成されます。

市中においてマーケティングやセキュリティなどの目的で映像処理のAI化が加速しています。しかし、一般的なアクセラレータの利用ではGPUなどの物理リソースが単調増加してしまう、通信量の増加によりイーサネットスイッチの処理能力の限界を迎えてしまうなどの課題があります。特に電力消費量の増大に関しては地球環境への影響が問題視されています。

• データ処理の高性能化に向けた、最先端ハードウェアの性能を引き出す、ソフトウェア実装技術
• 推論を担うアプリケーションの負荷状況や推論状況に応じて、ハードウェア利用を効率化する技術
• 映像の内容に適した推論選定技術
• 光電融合デバイスを活用した光電融合スイッチ

• リアルタイムAI処理（複数カメラを用いた映像分析、LLMを用いた応答、等）
• 大阪・関西万博のNTTパビリオンにおける演出にも活用

IOWN光コンピューティングを支えるDCIは、GPUなどの物理リソースの効率的な利用、光電融合デバイスを活用した光電融合スイッチの適用により、標準的なサーバ構成と比較し消費電力を8分の1に抑えています。

DCIコントローラの特徴には大きく3点あります。

• 1点目は、データ処理の高性能化に向けた、最先端ハードウェアの性能を引き出す、ソフトウェア実装技術です。GPUやスマートNIC（Network Interface Card）などの専用ハードウェアへの処理のオフロードにより、高速なデータ処理、低消費電力化を実現しています。
• 2点目は、推論を担うアプリケーションの負荷状況や推論状況に応じて、ハードウェア利用を効率化する技術です。具体的な例を挙げると、人物の映像解析の場合、人が多い日中帯には推論に必要なGPUなどの物理リソースを増加させ、人が閑散となる夜間には物理リソースを減少させる技術です。推論処理に必要な物理リソース量を適正化することで、消費電力を削減しています。
• 3点目は、映像の内容に適した推論選定技術です。従来技術では、人が映っている画像と映っていない画像を区別することなく、同一の推論を実施していました。本技術では人が映っている画像は高度推論処理、映っていない画像は軽量推論処理というように、画像ごとに推論方法を決定し、推論処理の実行回数を最小限に抑えて低消費電力化を実現しています。

また、光電融合スイッチは、従来のイーサネットスイッチ機構とは異なる、スイッチ内部の伝送部分を電気接続から光接続に置き換える、光電融合デバイスを組み入れたイーサネットスイッチです。従来技術の128ポート イーサネットスイッチを小型筐体1つで構成可能とすることにより、イーサネットスイッチの性能向上、低消費電力化を実現しています。光電融合スイッチ内部に組み込まれている光電融合デバイスは、従来の400 G光モジュール8個分のデータ処理性能、従来の光モジュールと比較し、2分の1の消費電力性能を有している非常に小型のデバイスです。

ソフトウェアイノベーションセンタ　システムソフトウェアプロジェクト