研究
このページは自身が過去に研究したものをまとめております.
研究対象は主にベイズ統計の為の代数幾何です.
東京工業大学情報理工学院数理・計算科学系渡邊澄夫研究室卒業(学士2021修士2023)
Blow-up Algorithm for Sum-of-Products Polynomials and Real Log Canonical Thresholds(2022~2023)
When considering a real log canonical threshold (RLCT) that gives a Bayesian generalization error,
in general, papers replace a mean error function with a relatively simple polynomial
whose RLCT corresponds to that of the mean error function, and obtain its RLCT by
resolving its singularities through an algebraic operation called blow-up.
Though it is known that the singularities of any polynomial can be resolved by a finite number of blow-up iterations,
it is not clarified whether or not it is possible to resolve singularities of a specific polynomial
by applying a specific blow-up algorithm. Therefore this paper considers the blow-up algorithm
for the polynomials called sum-of-products (sop) polynomials and its RLCT.多項式の多重指数に関する線形計画問題に基づく実対数閾値の上界(2022~2023)
統計モデルの実対数閾値を考察する際,平均誤差関数と等価な多項式を用意して
その特異点構造を考察するのが一般的ですが,これは統計モデルごとに異なるため
従来までは一般的な実対数閾値の公式がありませんでした。そこで本研究は
多項式の多重指数に関する線形計画問題を解くことで実対数閾値の上界を得られる
事を示しました.これにより平均誤差関数と等価な多項式を用意できれば
統計モデルの汎化損失の上界を求めることが比較的簡単に出来るようになりました。
これは上の項目の研究成果の一部を研究報告として発表したものです。
情報学広場の方はこちら入力が低次元超平面上にあるときの縮小ランク回帰の実対数閾値(2021~2022)
縮小ランク回帰とは,三層神経回路網において活性化関数を恒等関数にしたものと等価で,
特に中間層を入力層と出力層よりも少なくした(ランクを縮小した)線型写像のことです.
既存研究では入力がフルランク(次元いっぱいにデータが散らばっている)事を仮定した
場合の実対数閾値(汎化誤差を与える不変量)が分かっていましたが,本研究において
入力の制限を撤廃した一般の場合において結果を拡張しました。これにより縮小ランク回帰に
ベイズ推測を適用する場合には,入力データが実質的な分布よりも冗長であっても,
汎化損失は増大しないことが分かりました。混合ポアソン分布の相転移現象の実験的解明(2020~2021)
混合ポアソン分布とは,複数のポアソン分布を確率的に混合したものです。ベイズ推測において
事前分布のハイパーパラメータを変化させたとき,事後分布が急激に変化する現象を相転移現象
といいますが,混合ポアソン分布においては限定的なケースしか理論的に解明されていませんでした.
本研究では,マルコフ連鎖モンテカルロ法を用いた混合ポアソン分布の学習実験を行うことで,
理論的に未解明なケースに対して相転移がどこで起きるかを調べました。これにより理論的に解明
されているケースでは存在しなかった2回以上の相転移の可能性があるケースを発見しました。