2018-01-01から1年間の記事一覧

Robust PCA (Principal Component Pursuit) の実装

はじめに 多変量データは実世界の様々なところで現れる(e.g., 画像、音声、動画).これらの多変量データの多くは、データ自体がもつ次元 (e.g., ピクセル数)よりも小さい次元(自然画像の多様体的なやつ)で表現することができる. データから低次元の構造(低…

1次元ガウス分布の測地線と双対測地線のプロット

はじめに 「情報幾何学の新展開」という本を読んでいる. まだ序盤しか読めてない上に,あまり理解できていないが,自分の理解のために,例として1次元ガウス分布を対象として,以下の導出とプロットをやる. 指数型分布族の標準形および双対座標系 ポテンシ…

機械学習とかの実験のパラメータをいい感じにやるコード

機械学習とかやっていると複数のパラメータを,コマンドラインから設定したいことがある. 割といい感じにできるようになった気がするので,備忘録として書いておく. コマンドラインパーサとしてclickを使う. clickについては,こちらが詳しくていい感じだ…

独立成分分析の実装

はじめに 統計的因果探索を読んでいる. この中で,独立成分分析が出てくるが,そういえばあんまり理解できていなかったので,実装して理解する. 日本語の本も見たけど,結局 Independent Component Analysis: Algorithms and Applicationsがわかりやすかっ…

リーマン多様体上の最適化 (シュティーフェル多様体上の最適化まで)

概要 リーマン多様体上での最適化のお勉強をしている. 多様体上での最適化では接空間上での勾配を求めたり,多様体上へレトラクションしたりする. 例として球面上で,自明な最適化とレイリー商(対称行列の固有ベクトルを求める)をやる. レイリー商から複…