HMCの刻み幅を変えながら、目標分布を保つには?

Michiko Okudo and Hideyuki Suzuki, “Hamiltonian Monte Carlo with explicit, reversible, and volume-preserving adaptive step size control,” JSIAM Letters 9, 33–36 (2017).

日本応用数理学会 2018年度論文賞

ハミルトニアン・モンテカルロ法(HMC)は、確率密度から作った地形の上を運動する軌道から、サンプルの候補を作ります。軌道を数値計算するときの刻み幅は、移動できる距離や計算の精度を左右します。場所や運動の状態に応じて刻み幅を変えられれば、探索を効率化できそうです。しかし、単純に変えると、目的の分布を保つための条件が崩れることがあります。適応的な数値計算と、正しいサンプリングをどう両立させるかが、この研究の問いです。

本研究では、刻み幅を制御する変数 z を、位置 q、運動量 p とともに確率変数として扱います。z にも目標分布を与え、提案のたびに初期化せず引き継ぐことで、拡張した空間 (q, p, z) 上で可逆性と体積保存性を保つ、各段階を直接計算できる陽的な積分法を用います。この空間でのメトロポリス受理判定と修正詳細釣り合いを用い、目的の分布が定常分布になることを示しました。運動量に依存する刻み幅制御も扱える点が特徴です。

200次元の2成分ガウス混合分布を用いた実験では、受理率をほぼそろえた通常のHMCと比較し、調べた観測量の有効サンプルサイズの平均は9.2から15.0へ、約1.6倍になりました。1万サンプル当たりの計算時間は通常法の13.0秒に対して提案法が14.0秒でした。この結果は、計算時間の小幅な増加で相関の小さいサンプルを得られる可能性を示しています。主な貢献は適応刻み幅をHMCに組み込む枠組みであり、他の分布や時間変換での有効性には、さらに検証が必要です。

位置・運動量・刻み幅制御変数の拡張空間で可変刻みの提案とメトロポリス判定を行い、制御変数を引き継ぐ流れ。