表現可能なデータ数に基づいたニューラルネットワークの表現能力

井上 健太  

誌名
電子情報通信学会論文誌 D   Vol.J102-D   No.6   pp.434-441
発行日: 2019/06/01
Online ISSN: 1881-0225
DOI: 10.14923/transinfj.2019JDP7009
論文種別: 論文
専門分野: 人工知能,データマイニング
キーワード: 
ニューラルネットワーク,  表現能力,  有限データ,  ReLU関数,  

本文: PDF(332.2KB)>>
論文を購入




あらまし: 
本論文では,ニューラルネットワークにおける表現能力の新しい指標として,表現可能なデータ数を用いるものを提案し,この指標に関する性質について述べる.ニューラルネットワークの表現能力の指標としては,既に線形領域の個数を用いたものが知られている.しかしこの指標では,具体的なデータが与えられたとき,それをどの程度の大きさのニューラルネットワークなら表現可能かという問題を解決できない.そこで本論文では,データ数をどこまで限定すれば任意のデータが表現可能となるかによってニューラルネットワークの表現能力を定義する.この定義ならば,具体的なデータが与えられたとき,あるニューラルネットワークでそれらが表現可能であることを保証できる.今回,この表現能力の指標に関する性質を証明する.また,中間層1層のReLU関数を用いたニューラルネットワークにおいては,具体的なこの指標の上限,下限を差1の範囲で求め,そのうち幾つかの場合に関しては値を特定する.