Professional Documents
Culture Documents
= =
MN M
N
T
i
T
w w
w w
w W
...
... ... ...
...
1
1 11
Ta nh ngha ma trn hip tng quan ca cc vector x:
[C]x = E[xx
T
] (1.2)
Ma trn tng quan c c lng t n mu trong khng gian d liu quan st c
xc nh bi biu thc:
=
=
n
i
T
i i x
x x
n
C
1
1
Php bin i KL l bi ton tm mt ma trn bin i W tha mn (1.1)
Mi ct
(
(
(
=
iN
i
i
w
w
w ...
1
ca W l vector c s trc giao ca khng gian mi hay:
1 . =
T
k j
w w nu j = k (1.3)
BI TP LN MN X L NH 2011
8
Nguyn Vn Thnh HTTT&TT KSCLC-K52
V vy mi phn t y
i
ca y s c tnh:
N iN i i
T
i i
x w x w x w x w y + + + = = ...
2 2 1 1
(1.4)
Do w
i
l cc vector c s trc giao theo (1.3) nn W l ma trn trc chun tha mn:
W
T
W = I = WW
T
(I l ma trn n v) (1.5)
T : W
T
= W
-1
v ta c dng bin i ngc ca (1.1):
x = Wy (1.6)
t C
y
l ma trn ng cho mong mun ca vector bin ngu nhin y:
C
y
=
(
(
(
(
...... .......... 0
.....
1
Trong cc phn t ng cho l cc phng sai ca d liu c bin i.
Ma trn ng cho ny c th tnh ton t ma trn hip tng quan gc nh sau:
C
y
= | |
T
yy E = ( )( ) | |
T
T T
x W x W E = ( ) | | W xx W E
T T
= W C W
x
T
Hay
y
WC = W C
x
(1.7)
C
y
l ma trn ng cho nn biu thc (1.7) c a v sng
C
x
w
i
=
i
w
i
(1.8)
T (1.8) ta thy
i
v w
i
l cp gi tr ring v vector ring ca ma trn tng quan C
x
trong biu thc (1.2). Hay cc ct w
i
ca ma trn W l cc vector ring ca ma trn C
x
.
m bo W l trc chun cn p dng trc giao v chun ha Gram-Schmidt vi
cc vector ring tm c.
Nh vy, php bin i KL chnh l tm cc vector ring w
i
ng vi M gi tr ring ln
nht ca ma trn hip tng quan ca cc vector ngu nhin quan st c. Php bin
i KL l cch ti u nhm gim th nguyn t khng gian d liu c s chiu ln
BI TP LN MN X L NH 2011
9
Nguyn Vn Thnh HTTT&TT KSCLC-K52
thnh khng gian mi c s chiu b hn rt nhiu vi sai s l b nht nm cc
vector ring ng vi cc gi tr ring nh nht.
2. ng dng ca php bin i KL
Hnh 2.1 biu din mt nh a mc xm kch thc 512 x 512 vi gi tr mc xm
ca mi im nh c biu din bng 8 bit (gi tr trong [0 255]). Gi tr mc xm
ca cc im nh k nhau c xu hng tng t nhau. Hnh 2.2 minh ha gi tr mc
xm ca cc cp im nh lin k.
Hnh 2.1. nh a mc xm kch thc 512 x 512
Trong hnh 2.2, mi chm biu din mt im nh trong bc nh hnh 2.1 vi
honh x l gi tr ca im nh v tung y l gi tr ca im nh lin k bn
phi n.T th, ta thy quan h x = y th hin tng quan mnh gia cc im
nh lin k. Chia bc nh thnh cc khi 1x2 ri nhau nh hnh 2.3, chng ta biu din
BI TP LN MN X L NH 2011
10
Nguyn Vn Thnh HTTT&TT KSCLC-K52
mt bc nh thnh tp cc vector 2 chiu x
i
. Phn b gi tr mc xm ca mi thnh
phn c v nh hnh 2.4. Chng ta thy rng phn b mc xm ca mi thnh phn
tng i rng v ph hu ht di 0 255. Hn na, hai phn b ny kh ging vi
phn b chung ca mi im nh trong bc nh hnh 2.1.
Hnh 2.2. th biu din cc cp gi tr mc xm ca cc im nh
BI TP LN MN X L NH 2011
11
Nguyn Vn Thnh HTTT&TT KSCLC-K52
Hnh 2.3. Chia bc nh ban u thnh cc khi im nh 1 x 2
BI TP LN MN X L NH 2011
12
Nguyn Vn Thnh HTTT&TT KSCLC-K52
Hnh 2.4. Phn b gi tr mc xm ca mi thnh phn trong cc khi
By gi, chng ta quay phn b trong hnh 2.2 i mt gc 45
o
. Kt qu trong hnh
2.5 cho thy, hai thnh phn mi khng tng quan ngha l bit gi tr ca thnh phn
th nht s khng gip ta xc nh c gi tr ca thnh phn th hai. Phn b ca hai
thnh phn mi c v nh hnh 2.6. Thnh phn th nht vn kh ging vi phn b
trc, tc l phn b rng, tri hu ht khong gi tr. Tuy nhin thnh phn th hai th
khc, n hp hn rt nhiu v gi tr nh ti 0. Do n c khong bin i nh hn
nhiu nn chng ta cn t s bit m ha gi tr ca n. V vy, chng ta c th gim
s bit cn thit m ha mt mt nh khi gii tng quan.
Hnh 2.5. th cc cp mc xm khi quay 45
o
BI TP LN MN X L NH 2011
13
Nguyn Vn Thnh HTTT&TT KSCLC-K52
Hnh 2.6. Phn b mc xm ca hai thnh phn khi xoay tng ng vi hnh 2.5
Hu ht cc bc nh u cha s tng quan ngu nhin v d liu do dn n
s d tha d liu. Php bin i KL loi b c s d tha d liu nh vic gii
tng quan d liu v gim s chiu v vy nh c th c lu tr hiu qu hn.
l ng dng ca php bin i KL.
BI TP LN MN X L NH 2011
14
Nguyn Vn Thnh HTTT&TT KSCLC-K52
III. PHN TCH THNH CC THNH PHN CHNH PCA TRONG
TRCH CHN C TRNG KHUN MT
1. Php bin i PCA
Tng t nh php bin i KL, ta c khng gian d liu quan st S = {x} gm n
vector d liu mu N chiu. D liu th tn ti s tng quan ngu nhin gia cc
thnh phn do c s d tha d liu. tng ca php bin i PCA l phn tch
d liu thnh cc thnh phn khng tng quan (gi l cc thnh phn chnh) gim
d tha d liu.
Php bin i PCA c nh ngha nh sau: x u
T
+ = (2.1)
Trong x = [ x
1
x
2
x
N
]
T
, u = [ u
1
u
2
u
N
]
T
cc thnh phn th i v j khng
tng quan trong khng gian mi.
V ma trn l ma trn php bin i vi kch thc N
2
c dng:
| |
(
(
(
= = +
NN N
N
T
i
T
v
v v
v
v
...
... ... ...
...
1
1 11
(2.2)
v
i
l cc vector ring tng ng vi ma trn hip phng sai ca cc x quan st
c.
( )( ) | |
T
x x E C = (2.3)
Trong
(
(
(
=
N
...
1
v
=
=
n
k
ik i
x
n
1
1
2. Phn tch thnh chnh PCA trong trch chn c trng khun mt
2.1. Tnh ton cc vector ring
Gi s chng ta mt tp luyn gm M bc nh khun mt I
1
, I
2
I
M
. Cc bc nh
ny c cng kch thc v c chnh tm.
BI TP LN MN X L NH 2011
15
Nguyn Vn Thnh HTTT&TT KSCLC-K52
Chng ta biu din mi bc nh I
i
kch thc NxN bng mt vector I c kch
thc N
2
chiu.
Bc 1: Tnh vector trung bnh
BI TP LN MN X L NH 2011
16
Nguyn Vn Thnh HTTT&TT KSCLC-K52
Bc 2: Tnh + I = u
i i
vi i = 1, 2N
2
Bc 3: Tnh ma trn hip phng sai C ca cc vector quan st:
T
M
i
T
i i
AA
M
C = u u =
=1
1
(ma trn C c kch thc N
2
xN
2
) (2.4)
Trong | |
M
A u u u = ...
2 1
(kch thc N
2
xM)
Bc 4: Tm cc vector ring u
i
ca ma trn hip phng sai C hay ca AA
T
.
Tuy nhin kch thc ca ma trn ny l N
2
xN
2
qu ln nn vic tm vector ring
ca ma trn ny l khng kh thi.
Chng ta xem xt ma trn A
T
A c kch thc MxM
Tm cc vector ring v
i
ca ma trn A
T
A, ta c:
i i i
T
v Av A =
(2.5)
Quan h gia u
i
v v
i
:
i i i i i i
T
i i i
T
Av CAv Av Av AA v Av A = = =
(2.6)
T suy ra u
i
= Av
i
V vy, AA
T
v A
T
A c cng cc gi tr ring v cc vector ring ca chng quan h
vi nhau theo u
i
= Av
i
Ch : - A
T
A c th c M gi tr ring v vector ring.
- AA
T
c th c N
2
gi tr ring v vector ring.
- M gi tr ring ca A
T
A cng vi cc vector ring tng ng vi M gi tr ring
ln nht ca AA
T
.
BI TP LN MN X L NH 2011
17
Nguyn Vn Thnh HTTT&TT KSCLC-K52
Sau tnh M vector ring ng vi M gi tr ring ln nht ca AA
T
: u
i
= Av
i
ng
thi chun ha vector u
i
sao cho 1 =
i
u
Bc 5: Chn K vector ring ng vi K gi tr ring ln nht.
2.2. Biu din khun mt theo c s tm c
Mi vector biu din khun mt (tr i vector trung bnh)
i
u trong tp luyn c th
c biu din bng mt t hp tuyn tnh ca K gi tr ring tnh trn.
=
= u
K
j
j j i
u w mean
1
i=1,2M.
Trong
i
T
j j
u w u =
chnh l thnh phn chnh th j trong khng gian mi.
V u
j
gi l cc nh ring.
Mi nh c chun ha trong tp luyn s c biu din trong c s ny bi
vector:
(
(
(
(
(
= O
i
K
i
i
i
w
w
w
...
2
1
trong i = 1, 2 M
BI TP LN MN X L NH 2011
18
Nguyn Vn Thnh HTTT&TT KSCLC-K52
IV. KT LUN
Nh vy, em trnh by v cc c trng sinh trc nh khun mt, gm cc c
trng hnh hc v cc c trng v din mo khun mt, cng vi l l thuyt v
ng dng ca php bin i KL v phn tch thnh cc thnh phn chnh PCA trong
trch chn c trng khun mt.
Php bin i KL ng dng trong bi ton gim s chiu ca khng gian d liu s
ln thnh khng gian c s chiu nh hn nhm gim gi tnh ton v tng hiu qu
ca cc k thut trong x l nh. Trong khi PCA gii tng tng quan d liu v
phn tch thnh cc thnh phn chnh ng dng trong trch chn c trng khun mt.
BI TP LN MN X L NH 2011
19
Nguyn Vn Thnh HTTT&TT KSCLC-K52
TI LIU THAM KHO
[1]. Bi ging mn X l nh PGS.TS Nguyn Hong Lan i hc Bch Khoa
H Ni, 2010.
[2]. Digital Image Processing William K. Pratt- Wiley, 2007.
[3]. Fundamental of Image Processing Ian T. Young et al., 1998.
[4]. Principal Component Analysis I.T.Jolliffe Springer, 2002.
[5]. R.D. Dony Karhunen-Leve Transform - The Transform and Data
Compression Handbook, 2001.