カーネル法関連の記事です。
最も簡単なクラスタリング手法 K-means
機械学習のタスクの一つに、クラスタリングがあります。この記事では最も簡単な手法であるK-means 法を解説します。管理人の趣味で、カーネルk-means法も紹介します。
ガウス過程入門
ガウス過程の入門記事です。ガウス過程の定義と、ガウス過程回帰の方法を紹介します。カーネルを使ってガウス過程を定義して、ガウス過程回帰を導出します。出てきた式の意味を解説しています。を解説しています。
サポートベクトルマシン➂(サポートベクトル回帰)
サポートベクトルマシンを回帰問題に使う時はサポートベクトル回帰と呼びます。サポートベクトル回帰の原理を解説をします。サポートベクトル回帰は過学習しにくい訳を原理から解き明かします。カーネル回帰と比べて、圧倒的に汎化性能が高い事を実験で確かめます。
サポートベクトルマシン➁(幾何学的意味)
サポートベクトルマシンの幾何学的意味を説明します。マージン最大化と言う原理と、誤差関数を最小化する事が同じである事を解説します。また、サポートベクトルマシンをカーネル化する事で、非線形なデータも分類できることを解説します。
サポートベクトルマシン入門
サポートベクトルマシンの原理を解説します。サポートベクトルマシンの導出から始めて、サポートベクトルの意味について解説します。また、サポートベクトルマシンの持つスパース性についても解説します。
カーネルの正体
カーネル法では、カーネルという魔法の道具と、カーネルトリックという技でモデルの表現力を劇的に上げる事が出来ます。しかし、カーネルとは一体何なのでしょうか。その疑問を正定値性、再生核ヒルベルト空間という概念で解決します
カーネル化
既存手法をカーネル法で扱う術について解説します。この記事の中ではカーネル化と呼びます。使うカーネルを決めるだけで、モデルの表現力を向上させることが出来ます。いくつかの例で実践してみます。
カーネル法の為の線形代数
カーネル法でキーとなる概念は内積です。内積について解説しています。
カーネル法入門
カーネル法の入門記事です。カーネル法を使うメリットデメリットを、回帰分析、カーネル回帰、カーネルリッジ回帰を例に出して簡単に、分かりやすく解説します。。