自然逐次事前分布によるオンラインベイズ学習

中田 洋平  若原 牧生  松本 隆  

誌名
電子情報通信学会論文誌 A   Vol.J91-A   No.2   pp.243-259
発行日: 2008/02/01
Online ISSN: 1881-0195
DOI: 
Print ISSN: 0913-5707
論文種別: 論文
専門分野: 情報理論
キーワード: 
ベイズ学習,  オンラインベイズ,  オンライン学習,  逐次モンテカルロ法,  事前分布,  

本文: PDF(1.4MB)>>
論文を購入




あらまし: 
これまで,多層パーセプトロンや動径基底関数などのオンライン学習に対し,オンラインベイズ学習が成功裏に適用されてきている.このオンラインベイズ学習では,観測データの振舞いを表す観測値モデルの時間的な変化を記述するため,現在のパラメータと1時刻前のパラメータとの差の二乗ノルムに基づくパラメータ遷移モデルが用いられることがあった.しかし,この遷移モデルはパラメータの時間的変化を考慮しているが,観測データの振舞いを表す観測値モデルの時間的な変化を適切に考慮していなかった.本論文では,このような二乗ノルムに基づく遷移モデルとは異なる観点から設計した自然逐次事前分布を提案する.この自然逐次事前分布は,フィッシャー情報量行列を用いることで観測値モデルの時間的な変化をより自然に考慮している.その有効性の検証を目的として,3層パーセプトロンのオンライン学習に適用し数値実験を行う.