階層型ニューラルネットワークの混合モデルによるベイズ最適な予測について

橋川 弘紀  後藤 正幸  俵 信彦  

誌名
電子情報通信学会論文誌 D   Vol.J80-D2   No.7   pp.1919-1928
発行日: 1997/07/25
Online ISSN: 
DOI: 
Print ISSN: 0915-1923
論文種別: 論文
専門分野: バイオサイバネティックス,ニューロコンピューティング
キーワード: 
ニューラルネットワーク,  ベイズ決定理論,  混合モデル,  汎化能力,  

本文: PDF(668.5KB)>>
論文を購入




あらまし: 
確率モデルの学習問題において,学習データと同じ母集団のデータ(未学習データ)の出力を精度高く予測することが重要であり,モデル選択は一つの解決方法となっている.しかし,目的を未学習データの出力の予測と考えた場合,必ずしもモデルを限定する必要はなく,このとき要求されるのは,精度の高い予測を行うことである.このような予測を考慮した確率モデルを構築する方法として,ベイズ決定理論に基づいた学習理論が広く研究されている.本論文ではまず,候補である複数のモデルすべての混合モデルを用いて予測することがベイズ最適であることを示す.しかし,このベイズ最適を一般の確率モデルに対して厳密に計算しようとすると,パラメータ空間上の複雑な積分操作が必要になり,計算が不可能になってしまう.そこで,ラプラスの方法を用いて,この積分操作を排除し,漸近近似的に事後予測分布を計算することによる漸近ベイズ最適な予測法を提案し,ニューラルネットワークモデルへ適用してその有効性を検証する.