主成分分析を理解するための線形代数第三弾です。今回は線形写像とそれにまつわる量について解説します。
前回の記事はこちら。
線形写像の定義
線形写像とは名前の通り線形な写像です。もう少し言うと、線形空間の性質を保つ写像です。正確な定義を書きましょう。
\(V ,W\) を\(K \) 線形空間とし、\(f :V \rightarrow W\)を写像とします。\( f \)が線形写像であるとは、以下の性質を満たすことです。
- 任意の\( v_1 , v_2 \in V \)に対して\( f(v_1 + v_2 ) = f(v_1) +f(v_2) \)
- 任意の\( a\in K\) について、 \( f(av)= af(v) \)
線形写像\( f \) が全単射であるとき、\(f \)を同型写像と呼び、\( V,W \)の間に同型写像が存在するとき、\( V, W \)は同型であると言い、\( V \simeq W \)とかく。
一番単純な線形写像は、全ての元に対して\(0\)を対応させる\( 0 :V \rightarrow W\)です。また、\( a \in K \)に対して、\(a :V\rightarrow V \)を\( a(v) =av \)で対応させると線形写像です。さらに、線形写像\(f :V\rightarrow V \)に対して\(af \)や\(f+a\)を\( (af)(v)=a f(v) , (f+a) (v) =f(v) +a v\)とすることで、またしても線形写像になります。また、線形写像\(f,g :V\rightarrow W\)の和を\( (f+g)(v) =f(v) +g(v) \)で定めると、線形写像です。つまり、\(K \)線形空間の間の線形写像全体の空間は\(K\) 線形空間になります。線形写像の性質を使って確かめてみてください。単位元は \( 0 :V \rightarrow W\) です。
線形写像に慣れるために、簡単な性質を証明してみます。
線形写像は、定義から\( 0 \in K \) に対して、 \(f (0 ) =0 \)ですが、\( f(v) =0 \)であるからと言って、\(v =0 \)とは限りません。行き先が0になっている元を\(f\) のカーネルと呼びますが、\( \ker f = \{ v \in V | f(v) =0 \} \) でカーネル全体を表します。今述べた問題は、カーネル全体が\( 0 \)だけか?という問題です。それについては、以下のように答えられます。
\(V ,W\) を\(K \) 線形空間とし、\(f :V \rightarrow W\)を線形写像とします。以下は同値です。
- \( \ker f =0 \)
- \( f \) は単射
[証明]
1が成り立つとしましょう。このとき、\(f \)が単射であること、つまり\( f(v ) =f(w) \)ならば\(v=w \)を言えば良いです。線形写像の定義から、逆元は逆元に移ることに注意しましょう。\(( -1 * v = -v) \) であり、\( f(-v) = -f(v) \) です。
$$\begin{eqnarray}
f(v)&=&f(w) \\
f(v)-f(w) &=& 0 \\
f(v-w) &=&0
\end{eqnarray} $$
このことから、\( v-w \in \ker f =0 \)です。線形空間において逆元はただ一つなので、\(v=w \)です。逆も同じ感じに示せるので示してみてください。
単射の話が出たので全射の事も書いておきます。証明は全射の定義そのままなので書きません。
\(V ,W\) を\(K \) 線形空間とし、\(f :V \rightarrow W\)を線形写像とします。以下は同値です。
- \(f \)は全射
- \( f(V) =W \)
このことと、前の性質から次の事が分かります。
\(f \)が同型写像である事と、\( \Im f =W \)かつ\( \ker f=0 \)は同値
全射や単射の例を挙げておきます。
\(p_1 : \mathbb{R}^2 \rightarrow \mathbb{R} \) , \(i_1 : \mathbb{R} \rightarrow \mathbb{R} ^2 \)を以下で定義します。
$$\begin{eqnarray}
p_1(x,y) &=& x \\
i_1 (x) &=& (x, 0 )
\end{eqnarray} $$
\(p_1 \)は全射線形写像で、\(i_1 \)は単射線形写像です。一方で、\(p_1 \)は単射ではありませんし、\( i_1 \)は全射ではありません。
\(p_1 \)は x-y 平面からx軸への射影であり、\(i_1 \)はx軸のx-y平面への埋め込みです。
この例から、全射である事と、単射である事には関係が無い事が分かります。
全射であることはなんとなくイメージが着きますが、単射であることはイメージが湧きにくいかもしれません。カーネルとは何かを考えると良いです。
定義から、カーネルというのは線形空間の原点0に潰れてしまう元全体の事です。例えば、上の例での\( p_1 \)では、y軸上の点がカーネルです。射影をイメージすると、y軸が原点に潰れてしまうのが分かると思います。一方で、\(i_1 \)のカーネルは0だけです。カーネルの大きさは\(V\)の情報をどれだけ失わずに\(W \)に伝えられるかの指標になっています。
基底を使う事で、抽象的な線形写像を具体的に表示することが出来ます。
線形写像の行列表示
\(V ,W\) を\(K \) 線形空間とし、\(f :V \rightarrow W\)を線形写像とします。 \(f \)を目に見える形で書き表しましょう。
\(V,W \) の基底として、\( (v_1 , \cdots , v_n ) \) , \( ( w_1 , \cdots w_m )\)を取ります。各\(v_i \)に対して
$$\begin{eqnarray}
f(v_j ) = \sum a_{ij} w_i
\end{eqnarray} $$
とします。この時、\(a_j =( a_{1j} , \cdots , a_{mj} )\)を縦ベクトルとして、\(a_j \)たちを横に並べて出来る行列
$$\begin{eqnarray}
A =
\begin{pmatrix}
a_{11} & a_{12} & \cdots & a_{1n} \\
\vdots & \vdots & \cdots & \vdots \\
a_{m1} & a_{m2}& \cdots & a_{mn}
\end{pmatrix}
\end{eqnarray} $$
を\(f\) の行列表示と呼びます。この意味を確かめましょう。
$$\begin{eqnarray}
x&=& \sum a_i x_i \\
y&=&f(x) = \sum b_j y_j
\end{eqnarray} $$
と置きます。\(V \simeq K^n , W \simeq K^m\)という標準的な同一視を行っておけば、\(x, y \)は\( K^n , K^m \)でのベクトル\(a = (a_1, \cdots , a_n ) \) , \(b= ( b_1 , \cdots , b_m ) \)と見なせます。このベクトルと行列表示Aについて次の関係があります。
$$\begin{eqnarray}
b=Aa
\end{eqnarray} $$
定義になんとなく違和感を覚えませんか?その違和感の正体を確かめるために例を考えましょう。
\(f :V \rightarrow V \) を線形写像とし、\(V \)の基底を \(v_1 , v_2 \)とします。また、以下のようにfの値を定めます。
$$\begin{eqnarray}
f(v_1) &=& av_1 + bv_2 \\
f(v_2 ) &=& cv_1 + dv_2
\end{eqnarray} $$
このとき、\(f \)の行列表示は定義から以下のようになります。
$$\begin{eqnarray}
A=
\begin{pmatrix}
a & c \\
b & d
\end{pmatrix}
\end{eqnarray} $$
なんとなくイメージではこの行列の転置
$$\begin{eqnarray}
A^{T}=
\begin{pmatrix}
a & b \\
c & d
\end{pmatrix}
\end{eqnarray} $$
が行列表示のような気がしますが、定義ではそうではないのです。
\(A^{T} \)が行列表示になるように定義を変えて欲しいと思ったりもするわけですが、それはそれで困った事が起きます。
線形空間\(V\)上での等式\(f(v_1 ) = av_1 +b v_2 \)が、標準的な同一視を経て、 \( K^2 \)上でベクトルと行列の等式として成り立ってほしいと思うのは自然な考えだと思います。\(K^2 \)での等式は以下です。
$$\begin{eqnarray}
A
\begin{pmatrix}
1 \\
0
\end{pmatrix}=
\begin{pmatrix}
a \\
b
\end{pmatrix}
\end{eqnarray} $$
これを成り立たせるには、Aは定義のような形でなくてはならないのです。
線形写像があると、基底を定める事で行列が定まる事が分かりました。逆に、ベクトルと行列からなる一次式があれば、線形写像の理論を使ってその方程式を解く事が出来るのです。
\(y=Ax \) という式を解くことと、Aを行列表示に持つ線形写像, \(f: V \rightarrow V \)の逆写像を求める事は同じこです。
まとめ
- 線形写像を定義した。
- 線形写像の行列表示を定義した。
- 線形写像があることと、1つの連立一次方程式があることは同じこと。