機械学習 EMアルゴリズム 扱うデータが複数の分布を持っていそうな時、分布の混合割合と、パラメーターを推定する方法があります。それはEMアルゴリズムと呼ばれています。EMアルゴリズムの原理について解説します。 2019.08.18 機械学習統計学
ベイズ統計学 エントロピーからKLダイバージェンスを理解する エントロピーの定義から始めて、KLダイバージェンスの意味を理解するのが目標です。エントロピーがデータの分布の違いを検知できる事を説明し、KLダイバージェンスが確率分布同士の距離を測る道具になっていることを解説します。最後に応用について少しだけ説明します。 2019.08.16 ベイズ統計学機械学習統計学
Python R 自然言語処理入門の入門 自然言語処理の入門記事です。文字をどうやってコンピューターに認識させているか解説します。簡単なモデルで、不思議の国のアリスの文を再現させてみます。 2019.08.11 Python R機械学習
機械学習 RNNによる文章自動生成 RNNモデルを使って文章の自動生成が出来るのは有名な話ですが、独特な語り口の作家なら、その作家が書いたと分かるような文章を生成できるはずです。太宰治の人間失格を教師として走れメロスを描いてもらいます。 2019.08.09 機械学習
機械学習 リカレントニューラルネットワーク(RNN) ニューラルネットワークモデルの一つに、リカレントニューラルネットワーク(RNN)と呼ばれるものがあります。自己相関の高いデータに対して有用なモデルです。RNN, LSTM, GRUの解説をして、映画レビューの分類問題で3つのモデルの特徴を掴みます。 2019.08.07 機械学習
Python R 主成分分析からカーネル主成分分析へ テーブルデータがある時、データの雰囲気を掴む手法の一つに、主成分分析があります。線形代数の知識を使って主成分分析の原理(特異値分解)を解説します。カーネル法と主成分分析が分かると、カーネル主成分分析が理解できます。カーネル法は知っていると思ってカーネル主成分分析も解説します。 2019.08.01 Python R機械学習線形代数
Python R Pythonによるディープラーニングの実装➂ pythonで1から作るディープラーニング第3弾です。プーリングについて解説し、プーリング層の実装をします。写真をMax Pooling すると、輪郭が取り出されることを実験して確かめます。 2019.07.25 Python R機械学習計算
Python R Pythonによるディープラーニングの実装➁ pythonによるディープラーニング実装記事第二弾です。画像認識の問題では、ニューラルネットワークを考えても微妙な事が多いです。行列そのものに操作を加える畳み込みの解説と実装をします。畳み込み層とアファイン層それぞれに画像を通してみて、畳み込み層が画像を図形として捉えている事を確認します。 2019.07.22 Python R機械学習計算
機械学習 Pythonによるディープラーニングの実装① python で1からディープラーニングを実装します。この記事では、隠れ層を沢山持つニューラルネットワークモデルを実装します。実験してみると、単純に層を深くするだけではあまり意味が無い事が分かります。 2019.07.20 機械学習計算
Python R Pythonによるニューラルネットワークの実装➂ python でニューラルネットモデルを1から実装する記事の最終回です。前回までで、正解の予測と勾配の計算が出来るようになりました。今回はパラメーターを更新する為の関数を作成し、実fashon mnist の分類問題を解かせます。 2019.07.18 Python R機械学習