You are on page 1of 19

I HC BCH KHOA H NI

VIN CNG NGH THNG TIN V TRUYN THNG


----------

BI TP LN MN X L NH
TI:
Tm hiu cc c trng sinh trc nh khun mt, nghin cu ng
dng ca php bin i KL v phn tch thnh cc thnh phn
chnh PCA trong trch chn c trng khun mt


Ging vin hng dn : PGS.TS Nguyn Th Hong Lan
Sinh vin thc hin : Nguyn Vn Thnh
SHSV : 20072604
Lp: H thng thng tin v truyn thng KSCLC-K52

H Ni, 12/2011
BI TP LN MN X L NH 2011

2
Nguyn Vn Thnh HTTT&TT KSCLC-K52

MC LC


LI NI U .......................................................................................................................................... 3
I. C TRNG SINH TRC NH KHUN MT ...................................................................... 4
II. NGHIN CU NG DNG CA PHP BIN I KL ...................................................... 7
1. Php bin i KL ........................................................................................................................ 7
2. ng dng ca php bin i KL ............................................................................................... 9
III. PHN TCH THNH CC THNH PHN CHNH PCA TRONG TRCH CHN C
TRNG KHUN MT ....................................................................................................................... 14
1. Php bin i PCA.................................................................................................................... 14
2. Phn tch thnh chnh PCA trong trch chn c trng khun mt ................................... 14
2.1. Tnh ton cc vector ring ............................................................................................... 14
2.2. Biu din khun mt theo c s tm c ...................................................................... 17
IV. KT LUN ............................................................................................................................... 18
TI LIU THAM KHO .......................................................................................................... 19








BI TP LN MN X L NH 2011

3
Nguyn Vn Thnh HTTT&TT KSCLC-K52

LI NI U

X l nh l mn hc quan trng i vi sinh vin ngnh cng ngh thng
tin. y l mn hc kh i vi hu ht nhiu sinh vin do yu cu kin thc v
ton v xc sut.
Vi mc tiu c thm kin thc c bn trong lnh vc v x l nh, em chn
ti Tm hiu cc c trng sinh trc nh khun mt, nghin cu ng
dng ca php bin i KL v phn tch thnh cc thnh phn chnh PCA
trong trch chn c trng khun mt. Qua bi tp ln, em c thm c
ci nhn chung v h thng nhn dng khun mt, cc c trng sinh trc khun
mt gip pht hin v trch rt c cc c trng cho vic nhn dng. ng
thi em c cng c thm v kin thc ton v xc sut thng k, c c hiu
bit tt hn v ng dng ca kin thc c bn trong cc bi ton thc t.
D rt c gng trong vic tm hiu ti liu, nhng do thiu st v kin thc c
bn, hn ch tm hiu bit m bi bo co cn rt nhiu thiu khuyt. Knh
mong nhn c nhng kin gp em hon thin hn.
Nhn dp ny, em xin gi li cm n chn thnh ti PGS.TS Nguyn Th
Hong Lan nhit tnh hng dn gp gip em hon thnh bo co mn hc
ny.
Em xin chn thnh cm n!

H Ni, ngy 12 thng 12 nm 2011



BI TP LN MN X L NH 2011

4
Nguyn Vn Thnh HTTT&TT KSCLC-K52
I. C TRNG SINH TRC NH KHUN MT
Cc c trng khun mt bao gm:
- c trng hnh hc: cu trc, hnh dng v cc thnh phn trn khun mt:
ming, mt, mi, lng my. Khong cch gia mt, mi, ming v hm; ng
bao cc hc mt; cc cnh ca ming; v tr ca mi, hai mt v cc vng xung
quanh.Cc thnh phn khun mt c trch rt hnh thnh vector c trng
biu din hnh hc khun mt.


BI TP LN MN X L NH 2011

5
Nguyn Vn Thnh HTTT&TT KSCLC-K52

Hnh 1.1. Minh ha c trng hnh hc ca khun mt
- c trng v din mo biu din s thay i v b ngoi: kt cu da nh cc
np nhn trn khun mt; biu nhit ca khun mt: cc mu nhit khun
mt l duy nht vi mi ngi v c trng v n ci. Cc c trng v
din mo c th c trch rt trn c khun mt hoc phn no trn
khun mt.


-
BI TP LN MN X L NH 2011

6
Nguyn Vn Thnh HTTT&TT KSCLC-K52

Hnh 1.2. Minh ha c trng v din mo khun mt















BI TP LN MN X L NH 2011

7
Nguyn Vn Thnh HTTT&TT KSCLC-K52
II. NGHIN CU NG DNG CA PHP BIN I KL
1. Php bin i KL
Xt khng gian mu S = {x} gm n vector d liu mu.
Trong x l vector cc bin ngu nhin N chiu:
x = [ x
1
x
2
x
N
]
T

Php bin i KL i vi cc vector x c nh ngha nh sau:
y = W
T
x (1.1)
Trong x = [ x
1
x
2
x
N
]
T
, y = [ y
1
y
2
y
M
]
T
v ma trn W l ma trn php bin i
vi kch thc NxM (M N) c dng:
| |
(
(
(

= =
MN M
N
T
i
T
w w
w w
w W
...
... ... ...
...
1
1 11

Ta nh ngha ma trn hip tng quan ca cc vector x:
[C]x = E[xx
T
] (1.2)
Ma trn tng quan c c lng t n mu trong khng gian d liu quan st c
xc nh bi biu thc:

=
=
n
i
T
i i x
x x
n
C
1
1

Php bin i KL l bi ton tm mt ma trn bin i W tha mn (1.1)
Mi ct
(
(
(

=
iN
i
i
w
w
w ...
1
ca W l vector c s trc giao ca khng gian mi hay:
1 . =
T
k j
w w nu j = k (1.3)
BI TP LN MN X L NH 2011

8
Nguyn Vn Thnh HTTT&TT KSCLC-K52
V vy mi phn t y
i
ca y s c tnh:
N iN i i
T
i i
x w x w x w x w y + + + = = ...
2 2 1 1
(1.4)
Do w
i
l cc vector c s trc giao theo (1.3) nn W l ma trn trc chun tha mn:
W
T
W = I = WW
T
(I l ma trn n v) (1.5)
T : W
T
= W
-1
v ta c dng bin i ngc ca (1.1):
x = Wy (1.6)
t C
y
l ma trn ng cho mong mun ca vector bin ngu nhin y:
C
y
=
(
(
(
(

...... .......... 0
.....
1


Trong cc phn t ng cho l cc phng sai ca d liu c bin i.
Ma trn ng cho ny c th tnh ton t ma trn hip tng quan gc nh sau:
C
y
= | |
T
yy E = ( )( ) | |
T
T T
x W x W E = ( ) | | W xx W E
T T
= W C W
x
T

Hay
y
WC = W C
x

(1.7)


C
y
l ma trn ng cho nn biu thc (1.7) c a v sng
C
x
w
i
=
i
w
i
(1.8)
T (1.8) ta thy
i
v w
i
l cp gi tr ring v vector ring ca ma trn tng quan C
x

trong biu thc (1.2). Hay cc ct w
i
ca ma trn W l cc vector ring ca ma trn C
x
.
m bo W l trc chun cn p dng trc giao v chun ha Gram-Schmidt vi
cc vector ring tm c.
Nh vy, php bin i KL chnh l tm cc vector ring w
i
ng vi M gi tr ring ln
nht ca ma trn hip tng quan ca cc vector ngu nhin quan st c. Php bin
i KL l cch ti u nhm gim th nguyn t khng gian d liu c s chiu ln
BI TP LN MN X L NH 2011

9
Nguyn Vn Thnh HTTT&TT KSCLC-K52
thnh khng gian mi c s chiu b hn rt nhiu vi sai s l b nht nm cc
vector ring ng vi cc gi tr ring nh nht.
2. ng dng ca php bin i KL
Hnh 2.1 biu din mt nh a mc xm kch thc 512 x 512 vi gi tr mc xm
ca mi im nh c biu din bng 8 bit (gi tr trong [0 255]). Gi tr mc xm
ca cc im nh k nhau c xu hng tng t nhau. Hnh 2.2 minh ha gi tr mc
xm ca cc cp im nh lin k.

Hnh 2.1. nh a mc xm kch thc 512 x 512
Trong hnh 2.2, mi chm biu din mt im nh trong bc nh hnh 2.1 vi
honh x l gi tr ca im nh v tung y l gi tr ca im nh lin k bn
phi n.T th, ta thy quan h x = y th hin tng quan mnh gia cc im
nh lin k. Chia bc nh thnh cc khi 1x2 ri nhau nh hnh 2.3, chng ta biu din
BI TP LN MN X L NH 2011

10
Nguyn Vn Thnh HTTT&TT KSCLC-K52
mt bc nh thnh tp cc vector 2 chiu x
i
. Phn b gi tr mc xm ca mi thnh
phn c v nh hnh 2.4. Chng ta thy rng phn b mc xm ca mi thnh phn
tng i rng v ph hu ht di 0 255. Hn na, hai phn b ny kh ging vi
phn b chung ca mi im nh trong bc nh hnh 2.1.

Hnh 2.2. th biu din cc cp gi tr mc xm ca cc im nh
BI TP LN MN X L NH 2011

11
Nguyn Vn Thnh HTTT&TT KSCLC-K52

Hnh 2.3. Chia bc nh ban u thnh cc khi im nh 1 x 2

BI TP LN MN X L NH 2011

12
Nguyn Vn Thnh HTTT&TT KSCLC-K52
Hnh 2.4. Phn b gi tr mc xm ca mi thnh phn trong cc khi
By gi, chng ta quay phn b trong hnh 2.2 i mt gc 45
o
. Kt qu trong hnh
2.5 cho thy, hai thnh phn mi khng tng quan ngha l bit gi tr ca thnh phn
th nht s khng gip ta xc nh c gi tr ca thnh phn th hai. Phn b ca hai
thnh phn mi c v nh hnh 2.6. Thnh phn th nht vn kh ging vi phn b
trc, tc l phn b rng, tri hu ht khong gi tr. Tuy nhin thnh phn th hai th
khc, n hp hn rt nhiu v gi tr nh ti 0. Do n c khong bin i nh hn
nhiu nn chng ta cn t s bit m ha gi tr ca n. V vy, chng ta c th gim
s bit cn thit m ha mt mt nh khi gii tng quan.

Hnh 2.5. th cc cp mc xm khi quay 45
o
BI TP LN MN X L NH 2011

13
Nguyn Vn Thnh HTTT&TT KSCLC-K52

Hnh 2.6. Phn b mc xm ca hai thnh phn khi xoay tng ng vi hnh 2.5
Hu ht cc bc nh u cha s tng quan ngu nhin v d liu do dn n
s d tha d liu. Php bin i KL loi b c s d tha d liu nh vic gii
tng quan d liu v gim s chiu v vy nh c th c lu tr hiu qu hn.
l ng dng ca php bin i KL.








BI TP LN MN X L NH 2011

14
Nguyn Vn Thnh HTTT&TT KSCLC-K52
III. PHN TCH THNH CC THNH PHN CHNH PCA TRONG
TRCH CHN C TRNG KHUN MT
1. Php bin i PCA
Tng t nh php bin i KL, ta c khng gian d liu quan st S = {x} gm n
vector d liu mu N chiu. D liu th tn ti s tng quan ngu nhin gia cc
thnh phn do c s d tha d liu. tng ca php bin i PCA l phn tch
d liu thnh cc thnh phn khng tng quan (gi l cc thnh phn chnh) gim
d tha d liu.
Php bin i PCA c nh ngha nh sau: x u
T
+ = (2.1)
Trong x = [ x
1
x
2
x
N
]
T
, u = [ u
1
u
2
u
N
]
T
cc thnh phn th i v j khng
tng quan trong khng gian mi.
V ma trn l ma trn php bin i vi kch thc N
2
c dng:
| |
(
(
(

= = +
NN N
N
T
i
T
v
v v
v
v
...
... ... ...
...
1
1 11
(2.2)
v
i
l cc vector ring tng ng vi ma trn hip phng sai ca cc x quan st
c.
( )( ) | |
T
x x E C = (2.3)
Trong
(
(
(

=
N

...
1
v

=
=
n
k
ik i
x
n
1
1


2. Phn tch thnh chnh PCA trong trch chn c trng khun mt
2.1. Tnh ton cc vector ring
Gi s chng ta mt tp luyn gm M bc nh khun mt I
1
, I
2
I
M
. Cc bc nh
ny c cng kch thc v c chnh tm.
BI TP LN MN X L NH 2011

15
Nguyn Vn Thnh HTTT&TT KSCLC-K52

Chng ta biu din mi bc nh I
i
kch thc NxN bng mt vector I c kch
thc N
2
chiu.

Bc 1: Tnh vector trung bnh
BI TP LN MN X L NH 2011

16
Nguyn Vn Thnh HTTT&TT KSCLC-K52

Bc 2: Tnh + I = u
i i
vi i = 1, 2N
2

Bc 3: Tnh ma trn hip phng sai C ca cc vector quan st:
T
M
i
T
i i
AA
M
C = u u =

=1
1
(ma trn C c kch thc N
2
xN
2
) (2.4)
Trong | |
M
A u u u = ...
2 1
(kch thc N
2
xM)
Bc 4: Tm cc vector ring u
i
ca ma trn hip phng sai C hay ca AA
T
.
Tuy nhin kch thc ca ma trn ny l N
2
xN
2
qu ln nn vic tm vector ring
ca ma trn ny l khng kh thi.
Chng ta xem xt ma trn A
T
A c kch thc MxM
Tm cc vector ring v
i
ca ma trn A
T
A, ta c:
i i i
T
v Av A =
(2.5)
Quan h gia u
i
v v
i
:
i i i i i i
T
i i i
T
Av CAv Av Av AA v Av A = = =
(2.6)
T suy ra u
i
= Av
i

V vy, AA
T
v A
T
A c cng cc gi tr ring v cc vector ring ca chng quan h
vi nhau theo u
i
= Av
i

Ch : - A
T
A c th c M gi tr ring v vector ring.
- AA
T
c th c N
2
gi tr ring v vector ring.
- M gi tr ring ca A
T
A cng vi cc vector ring tng ng vi M gi tr ring
ln nht ca AA
T
.
BI TP LN MN X L NH 2011

17
Nguyn Vn Thnh HTTT&TT KSCLC-K52
Sau tnh M vector ring ng vi M gi tr ring ln nht ca AA
T
: u
i
= Av
i
ng
thi chun ha vector u
i
sao cho 1 =
i
u
Bc 5: Chn K vector ring ng vi K gi tr ring ln nht.
2.2. Biu din khun mt theo c s tm c
Mi vector biu din khun mt (tr i vector trung bnh)
i
u trong tp luyn c th
c biu din bng mt t hp tuyn tnh ca K gi tr ring tnh trn.

=
= u
K
j
j j i
u w mean
1

i=1,2M.
Trong
i
T
j j
u w u =
chnh l thnh phn chnh th j trong khng gian mi.
V u
j
gi l cc nh ring.
Mi nh c chun ha trong tp luyn s c biu din trong c s ny bi
vector:
(
(
(
(
(

= O
i
K
i
i
i
w
w
w
...
2
1
trong i = 1, 2 M

BI TP LN MN X L NH 2011

18
Nguyn Vn Thnh HTTT&TT KSCLC-K52
IV. KT LUN
Nh vy, em trnh by v cc c trng sinh trc nh khun mt, gm cc c
trng hnh hc v cc c trng v din mo khun mt, cng vi l l thuyt v
ng dng ca php bin i KL v phn tch thnh cc thnh phn chnh PCA trong
trch chn c trng khun mt.
Php bin i KL ng dng trong bi ton gim s chiu ca khng gian d liu s
ln thnh khng gian c s chiu nh hn nhm gim gi tnh ton v tng hiu qu
ca cc k thut trong x l nh. Trong khi PCA gii tng tng quan d liu v
phn tch thnh cc thnh phn chnh ng dng trong trch chn c trng khun mt.















BI TP LN MN X L NH 2011

19
Nguyn Vn Thnh HTTT&TT KSCLC-K52
TI LIU THAM KHO

[1]. Bi ging mn X l nh PGS.TS Nguyn Hong Lan i hc Bch Khoa
H Ni, 2010.
[2]. Digital Image Processing William K. Pratt- Wiley, 2007.
[3]. Fundamental of Image Processing Ian T. Young et al., 1998.
[4]. Principal Component Analysis I.T.Jolliffe Springer, 2002.
[5]. R.D. Dony Karhunen-Leve Transform - The Transform and Data
Compression Handbook, 2001.

You might also like