機械学習 2019年のまとめ
2019年のまとめと、来年の抱負記事です。今年最も読まれた記事や、もっと読まれても良い記事を残してます。
EM
機械学習 
Python R ベイズ統計学でブログのアクセス数を解析する
ブログを始めて4か月くらい経ちました。 最初の1週間はTwitterでフォローしてくれた人が見るだけと言うサイトでしたが、現在は検索エンジンから殆どのユーザーがブログを見てくれています。なんとなく、あるタイミングからアクセス数が増えたな～...
Python R 変分推論をpythonで実装する
ポアソン混合モデルを変分推論で近似するクラスをpython で実装します。ELBOを監視して、計算を早めに止めるEMアルゴリズムちっくな手法も実装します。
ベイズ統計学 変分推論入門
ベイズ統計学に、変分推論という技があります。この技はEMアルゴリズムを知っていると分かりやすくなります。原理を解説し、ポアソン混合モデルに対して変分推論を適用します。
変分推論
未知の確率分布\(p\)があるとしましょう。この...
Python R ベイズ線形回帰とEMアルゴリズム
EMアルゴリズムを応用して、ベイズ線形回帰のパラメーターを予測します。パラメーターを更新するための式を導出して、pythonで実装します。
ベイズ統計学 平均場近似(機械学習)
物理学科の人間は良く平均場近似を使います。機械学習でも全く同じ手法があります。機械学習で使う平均場近似を解説します。簡単な例で計算もしてみます。計算すると、変数間の相互作用を無視して平均されているのが分かります。
Python R EMアルゴリズムのpythonによる実装と一般化
EMアルゴリズムのまとめをして、python 上で実装します。最後に、EMアルゴリズムの一般化について触れます。
ベイズ統計学 エントロピーからKLダイバージェンスを理解する
エントロピーの定義から始めて、KLダイバージェンスの意味を理解するのが目標です。エントロピーがデータの分布の違いを検知できる事を説明し、KLダイバージェンスが確率分布同士の距離を測る道具になっていることを解説します。最後に応用について少しだけ説明します。