ディープラーニング軽量化技術による高度AI処理の電力消費効率の改善

沖電気工業株式会社

概要

OKIでは全ての研究開発・技術開発において環境負荷低減への貢献を極めて重要なテーマと捉えています。一例として、ディープラーニング軽量化技術によるAIの省エネルギー性能の向上が、国立研究開発法人新エネルギー・産業技術総合開発機構（NEDO）の省エネルギーをテーマとしたプロジェクトに採択されるなど、ICT分野の省エネを中心とした活動を推進しています。

説明

OKIでは、AI技術の取り組みとして、省エネルギー性能向上のため、ディープラーニングのモデル軽量化技術を研究し、精度を維持したまま演算処理を軽減することにより、演算処理消費電力削減と通信容量低減を実現しようとしています。ディープラーニングのモデル軽量化技術の一例として、ニューラルネットワークの冗長なニューロンを削除するチャネルプルーニング（チャネル枝刈り）技術を研究開発しています。ニューラルネットワークの各階層において、ニューロンの重要度を推定するアテンション・ネットワークを構築して学習させることによって、重要度の低いニューロンを削除する技術を開発しました。本技術により、高精度認識モデルに対し精度劣化を１％程度に抑制したまま、約80％の演算回数の削減を実現しました。

これまでのディープラーニングでは、大量のデータをサーバーに転送し、サーバー側で高度な演算処理をするか、各エッジ側で、高度な演算処理能力を有する端末を用意して演算処理をした結果をサーバーに送る必要があったため、通信容量の削減と膨大な演算処理の軽減の両立実現が困難でした。OKIの演算処理軽減化技術を用いることにより、高度な演算処理能力を有する演算機器でなくても、汎用的なエッジ端末で高性能なAIを実装できるようになります。この結果、エッジ側で演算した処理結果のみをサーバーへ送ることができ、大幅な通信容量の削減と演算処理の軽減が実現できます。本技術は国立研究開発法人新エネルギー・産業技術総合開発機構(NEDO)の省エネルギーをテーマとしたプロジェクトにおいて研究を進めています。

【謝辞】この成果の一部は、国立研究開発法人新エネルギー・産業技術総合開発機構(NEDO)の委託業務の結果得られたものです。