LY THUYET TRUYEN TIN

CHNG 3:

MA HIEU


Noi dung chnh cua chng 3
1. nh ngha ma hieu
2. Cac thong so cua ma hieu
3. ieu kien thiet lap ma hieu
4. Bieu dien ma hieu
5. Ma he thong co tnh Prefix
6. Ma thong ke toi u:
Ma fano
Ma Hauffman
1. Ma hieu
Toc o lap tin cua nguon tin bat ky
thng la rat thap so vi thong lng
kenh.
e s dung co hieu qua kenh cung
nh lam tang kha nang chong nhieu
cua kenh ta s dung phng phap ma
hoa.
Ban chat cua phng phap nay la
bien oi nguon tin a cho thanh
nguon tin mi co nhng ac tnh
thong ke phu hp vi kenh truyen
(them thong tin chong nhieu, tang toc
o lap tin) ->
Ma hieu
Nguon tin mi o c goi la Ma
hieu.
Nh vay, ma hieu la mot nguon tin
vi nhng ac tnh thong ke phu hp
vi C va kha nang chong nhieu cua
kenh truyen.
Ma hieu
V du: S dung bit kiem tra chan le nh
sau:
o Tin can phat i: 1010111
o c ma hoa thanh: 10101111
o Bit 1 c them vao e am bao tong so
bit 1 trong 8 bit la mot so chan.
o Neu khi thu c 8 bit ma co tong so bit 1
la so le tc la co loi trong 8 bit o.
Ro rang v du tren ta a them
thong tin e co the phat hien loi.
Viec them thong tin nay lam tang toc
o lap tin (do tang n
0
)

Cac thong so cua ma
hieu
1. C so cua ma hieu (m): la so ky
hieu khac nhau c s dung trong
ma hieu .
o v du tren: ta dung 2 ky hieu khac
nhau la 0 va 1 -> m=2.
o bo ma Morse dung trong ien bao co
3 ky hieu khac nhau la ., _, -> m=3
Cac thong so cua ma
hieu
2. o dai cua t ma (n): la so ky
hieu trong moi t ma.
Co 2 loai ma:
o Ma eu: cac t ma co o dai bang
nhau.
v du dung them mot bit kiem tra chan le
cho tng nhom 7 bit e thanh nhom 8 bit. -> ma
eu, n=8
o Ma khong eu: cac t ma co o dai
khong bang nhau.
bo ma Morse dung trong ien bao co cac
t ma khong eu nhau (A=. _; B=_ . . .) -> ma
khong eu, co o dai n = 1, 2, 3, 4, 5
Cac thong so cua ma
hieu
2. o dai cua t ma (n): - tiep theo
Vi bo ma khong eu, ta co khai
niem o dai trung bnh cua cac t
ma:
o Cho nguon tin {A, p(a
i
), i=1..n)}
o o dai trung bnh cua cac t ma la:



o Vi N la so t ma, p(a
i
) va n
i
la xac
suat xuat hien va o dai tng ng cua
tng t ma.

N
i
i i
n a p n
1
_
). (
Cac thong so cua ma
hieu
3. So t ma khac nhau trong bo ma
(N):
Trong ma eu:
o Neu N = m
n
ta co ma ay
V du, ta s dung bo ma eu, c so 2 (0, 1)
co o dai cac t ma la 8. Tc la m=2, n=8
Neu ta s dung 2
8
= 256 t ma th ay la bo
ma ay
o Neu N < m
n
ta co ma vi
v du tren neu ta s dung t hn 256 t ma,
tc la ta co bo ma vi.
ieu kien thiet lap ma
hieu
1. ieu kien phan tach c: viec ma hoa
va giai ma phai la 1-1.
V du: mot nguon tin co 4 tin {a, b, c, d}. Ta ma
hoa vi ma hieu nh sau:
o a -> 00; b -> 01; c -> 10; d -> 11
o Gia s ban tin can ma hoa la: (acdba)
o Ma hoa thanh: (0010110100)
o Giai ma tr lai: (acdba)
o Ta ch co mot ket qua ma hoa va giai ma
o Thoa man ieu kien phan tach c

ieu kien thiet lap ma
hieu
V du tren: mot nguon tin co 4 tin {a, b,
c, d}. Ta ma hoa vi ma hieu nh sau:
o a -> 0; b -> 1; c -> 10; d -> 11
o Gia s ban tin can ma hoa la: (acdba)
o Ma hoa thanh: (0101110)
o Giai ma tr lai: (ababbba) hoac (acdba)
o Ta co hn mot ket qua ma hoa va giai
ma
o Khong thoa man ieu kien phan tach
c

ieu kien thiet lap ma
hieu
2. ieu kien hieu qua kinh te: viec ma
hoa phai s dung cac t ma cang
ngan cang tot.
3. ieu kien thi gian x ly: viec ma
hoa phai va giai ma phai n gian,
cang t tre cang tot.

Bieu dien ma hieu
Ma hieu bao gom cac t ma la s
bien oi cua cac tin t nguon tin
goc trong qua trnh ma hoa.
Nh vay, mot tin goc se tng ng
vi mot t ma trong bo ma hieu.
Co 3 phng phap bieu dien s tng
ng o:
1. Bang ma (pho bien nhat)
2. o hnh ma
3. Ham cau truc cua ma

Bieu dien ma hieu-Bang
ma
Co 2 dang bang ma:
o Bang oi chieu
o Mat phang toa o
V du: cho nguon tin co nam tin, c
ma hoa theo ma hieu nh sau:
o a1 -> 00
o a2 -> 01
o a3 -> 11
o a4 -> 101
o a5 -> 1001
Bieu dien ma hieu-Bang
ma
Bang oi chieu co dang nh sau:





u iem cua phng phap nay la trc
quan, de oi chieu.
Nhc iem la neu nguon co nhieu tin (v
du 256) th rat kho bieu dien.


Tin goc

a1

a2

a3

a4

a5

T ma

00

01

11

101

1001

Bieu dien ma hieu-Bang
ma
Mat phang toa o co dang nh sau: tren
mat phang toa o decac, truc tung la truc
trong so b, truc hoanh la so ky hieu
trong t ma.
Trong so b c tnh nh sau:
Trong o:
o n la o dai t ma
o M la c so cua bo ma.
o Thong thng m=2, nen b
k
= (0;1)

o Cu the

n
k
k
k
m b b
1
1
Bieu dien ma hieu-Bang
ma
Vi v du tren: Ta tnh cac gia tr b
nh sau:
o Vi a1(00) : b
a1
= 0.2
0
+ 0.2
1
= 0
o Vi a2(01) : b
a2
= 1.2
1
+ 0.2
0
= 2
o Vi a3(11) : b
a3
= 1.2
0
+ 1.2
1
= 3
o Vi a4(101) : b
a4
= 1.2
0
+ 0.2
1
+ 1.2
2
= 5
o Vi a5(1001): b
a5
= 1.2
0
+ 0.2
1
+ 0.2
2
+1.2
3
= 9


Bieu dien ma hieu-Bang
ma
9
0
1
3
2
5
a1
a2
a3
a4
a5
b
ai
n
Chu y: 2 tin khac
nhau khong the
ong thi bang
nhau ve o dai
va trong so.
1 2 3 4
Bieu dien ma hieu-Bang
ma
Cho bo ma co dang nh sau:






Bieu dien bo ma di dang mat phang
toa o?
Tin goc

a1

a2

a3

a4

a5

T ma

00

01

11

100

101

Bieu dien ma bang o hnh
ma
Co 2 dang bieu dien o hnh ma:
o o hnh cay



o o hnh ket cau (t nghien cu)


Bieu dien ma bang o hnh
cay
0
0 1
0
1
1
0
1
00
01
11
100
101
Chu y: T ma phai nam nut cuoi,
tc la t o khong co re nhanh tiep.
Mc
goc
Mc 1
Mc 2
Mc 3
Bieu dien ma bang o hnh
cay
V du: cho nguon tin co nam tin, c
ma hoa theo ma hieu nh sau:
o a1 -> 00
o a2 -> 01
o a3 -> 11
o a4 -> 101
o a5 -> 1001
Bieu dien bo ma tren theo o hnh
cay.
u iem cua phng phap o hnh
cay?
Bieu dien ma hieu
Bai tap: cho nguon tin co 8 tin, c
ma hoa theo ma hieu nh sau:
o a1 -> 0101
o a2 -> 0100
o a3 -> 11
o a4 -> 10110
o a5 -> 10100
o a6 -> 001
o a7 -> 000110
o a8 -> 101010
Bieu dien bo ma
theo:
-Bang oi chieu
- Mat phang toa
o
- o hnh cay
Tnh Prefix
Ma co tnh phan tach c: ieu
kien can va u e ma co tnh phan
tach c la bat ky to hp ma nao
cung khong c trung vi phan
au cua to hp ma khac.
o V du: mot nguon tin co 4 tin {a, b, c, d}. Ta
ma hoa vi ma hieu nh sau:
a -> 00; b -> 01; c -> 10; d -> 11
Nguon tin nay thoa man ieu kien phan tach
c.
o Neu Ta ma hoa vi ma hieu nh sau:
a -> 0; b -> 1; c -> 10; d -> 11
Nguon tin khong thoa man ieu kien phan
tach c
Tnh Prefix
Cho mot t ma, prefix cua t ma o
la tat ca cac tien to cua t ma
a cho.
o V du: cho t ma 11001010, prefix cua t
ma nay la cac to hp ma:
1100101
110010
11001
1100
110
11
1
Tnh Prefix
Ma co tnh prefix: Bo ma c goi la
co tnh prefix neu bat ky to hp ma
nao cung khong phai la prefix cua
to hp ma khac trong cung bo ma.
Vay ma co tnh prefix thoa man ieu
kien phan tach c.
Ma he thong co tnh Prefix
Ma he thong co tnh prefix la mot
trong hai loai ma co tnh prefix pho
bien.
Vi mot bo ma hieu, ta co ba giai
oan thc hien:
o Thanh lap ma
o Ma hoa
o Giai ma
Ma he thong co tnh Prefix
Thanh lap ma
Thanh lap ma he thong co tnh prefix
bao gom 3 bc:
o Bc 1: Chon mot bo ma n gian co
tnh prefix
o Bc 2: Lay mot so to hp ma bc
1 lam to hp c s, cac to hp con lai
cua bc 1 c goi la to hp cuoi.
o Bc 3: Ghep mot hoac mot so to hp
c s vi nhau roi cong them vao cuoi
mot to hp cuoi, ta c 1 t ma. Thc
hien nh vay cho en khi co u so t
ma can dung.
Ma he thong co tnh Prefix
Thanh lap ma
V du1: thanh lap bo ma he thong
co tnh prefix e ma hoa nguon tin:
A={a1, a2, a3, a4, a5}
o Bc 1: Chon bo ma n gian co tnh
prefix: 1, 01, 000, 001
o Bc 2:
Chon 1, 01, 000 lam to hp c s
To hp con lai: 001 la to hp cuoi.
o Bc 3: Ghep thanh cac to hp ma:
1001; 01001, 1000001, 101001, 000001
a1 a2 a3 a4 a5
Tin goc

a1

a2

a3

a4

a5

T ma

1001

01001

1000001

101001

000001

Ma he thong co tnh
Prefix Thanh lap ma
Ta c bang ma he thong co tnh Prefix nh sau:
Ma he thong co tnh Prefix Thanh lap
ma
V du: thanh lap bo ma he thong co tnh prefix e ma
hoa nguon tin: A={a1, a2, a3, a4, a5, a6, a7, a8}
Ma he thong co tnh Prefix Ma hoa
Ma hoa : thc hien tai au phat tin, la bien oi cac tin
cua ban tin thanh cac to hp ma tng ng.
V du, nguon tin tren phat ban tin:
X=(a
1
, a
3
, a
5
, a
4
, a
2
, a
1
, a
1
).
o Ma hoa ta c:
(100110000010000011010010100110011001)
100110000010000011010010100110011001

Ma he thong co tnh Prefix Giai ma
Giai ma bao gom 3 bc, thc hien tai au thu tin:
o Bc 1: Phan tach chuoi tin thu c thanh cac to hp c s
va to hp cuoi
o Bc 2: Nhom thanh cac to hp ma he thong.
o Bc 3: Bien oi t cac to hp ma he thong thanh cac tin
tng ng.
Ma he thong co tnh Prefix Giai ma
V du tren: chuoi tin thu c la:
100110000010000011010010100110011001
o Bc 1:
1-001-1-000-001-000-001-1-01-001-01-001-1-001-1-001
o Bc 2:
1001-1000001-000001-101001-01001-1001-1001
o Bc 3: X=(a
1
, a
3
, a
5
, a
4
, a
2
, a
1
, a
1
)
Ma he thong co tnh Prefix Nhan xet
Ma he thong co tnh Prefix co u iem:
o Co tnh chong nhieu
o Co tnh bao mat cao
Nhc iem:
o Trong v du tren, o dai t ma ln-> hieu suat truyen tin
giam. Tuy nhien o dai t ma cang tang th tnh bao mat
cang tang.
Ma he thong co tnh Prefix Thanh lap
ma
V du 2: thanh lap bo ma he thong co tnh prefix e ma
hoa nguon tin: U={u1, u2, u3, u4, u5, u6}.
o Gia s nguon tin tren phat ban tin:
X=(u6, u5, u3, u2, u2, u3, u4, u1)
Ma hoa va giai ma ban tin theo bo ma va thanh lap.

Ma he thong co tnh Prefix Thanh lap
ma
V du 3: thanh lap bo ma he thong co tnh prefix e ma
hoa nguon tin: U={a1, a2, a3, a4, a5, a6, a7}.
o Gia s nguon tin tren phat ban tin:
X=(a2, a2, a7, a7, a6, a5, a3, a2, a4, a1)
Ma hoa va giai ma ban tin theo bo ma va thanh lap.

Kim tra m c tnh Prefix?
o Link
Ma thong ke toi u
Cac tin t cac nguon tin thng co
xac suat xuat hien khong eu.
Neu ma hoa vi bo ma eu th ban
tin sau ma hoa se dai hn phng
phap ma hoa ma o:
o Tin xuat hien nhieu dung t ma ngan
o Tin xuat hien cang t dung t ma cang
dai
Loai ma khong eu nay c goi la
ma thong ke toi u.
Ma thong ke toi u
V du: ma Morse dung trong ien bao
la ma thong ke toi u. o:
o Ch E va ch T xuat hien nhieu nhat
nen ma hoa mot ky hieu:
E = (.)
T = (_).
o Cac ch X, Y, Z, Qxuat hien rat t nen
c ma hoa ti 4 ky hieu:
X=(_ . . _)
Y=(_ . _ _)
Z=(_ _ . .)
Ma thong ke toi u
Co nhieu phng phap xay dng ma
thong ke toi u:
o Phng phap Fano
o Phng phap Hauffman
o Phng phap Shannon

Bai toan: Cho nguon tin {U, P(u
i
), i=1..n}.
Can ma hoa nguon tin tren theo ma
thong ke toi u.

Ma thong ke toi u - Fano
Phng phap Fano Thc hien bang 4
bc:
o B1: Xap xep cac tin theo th t giam dan
cua xac suat xuat hien.
o B2: Chia cac tin thanh 2 nhom t tren
xuong co xac suat xuat hien gan bang
nhau nhat. Mot nhom c gan bit 0.
Nhom con lai la 1.
o B3: Thc hien lai bc 2 cho tng nhom.
Lap lai nh vay cho en khi moi nhom
ch la 1 tin.
o B4: Cac bit a c gan theo th t chnh
la t ma cua tng tin.
Ma thong ke toi u - Fano
V du 1: Gia s mot nguon tin gom 7
tin nh sau, lap bo ma thong ke toi
u e ma hoa nguon tin o:
o u
1
-> p(u
1
) = 0,34
o u
2
-> p(u
2
) = 0,23
o u
3
-> p(u
3
) = 0,19
o u
4
-> p(u
4
) = 0,10
o u
5
-> p(u
5
) = 0,07
o u
6
-> p(u
6
) = 0,06
o u
7
-> p(u
7
) = 0,01
Ma thong ke toi u - Fano
Giai: Bc 1, xap xep theo th t
giam dan cua xac suat xuat hien
u
1
-> p(u
1
) = 0,34
u
2
-> p(u
2
) = 0,23
u
3
-> p(u
3
) = 0,19
u
4
-> p(u
4
) = 0,10
u
5
-> p(u
5
) = 0,07
u
6
-> p(u
6
) = 0,06
u
7
-> p(u
7
) = 0,01
Ma thong ke toi u - Fano
Giai: Bc 2,
u
1
-> p(u
1
) = 0,34 0
u
2
-> p(u
2
) = 0,23 0
u
3
-> p(u
3
) = 0,19 1
u
4
-> p(u
4
) = 0,10 1
u
5
-> p(u
5
) = 0,07 1
u
6
-> p(u
6
) = 0,06 1
u
7
-> p(u
7
) = 0,01 1
Ma thong ke toi u - Fano
Giai:
u
1
-> p(u
1
) = 0,34 0 0
u
2
-> p(u
2
) = 0,23 0 1
u
3
-> p(u
3
) = 0,19 1 0
u
4
-> p(u
4
) = 0,10 1 1
u
5
-> p(u
5
) = 0,07 1 1
u
6
-> p(u
6
) = 0,06 1 1
u
7
-> p(u
7
) = 0,01 1 1
Ma thong ke toi u - Fano
Giai:
u
1
-> p(u
1
) = 0,34 0 0
u
2
-> p(u
2
) = 0,23 0 1
u
3
-> p(u
3
) = 0,19 1 0
u
4
-> p(u
4
) = 0,10 1 1 0
u
5
-> p(u
5
) = 0,07 1 1 1
u
6
-> p(u
6
) = 0,06 1 1 1
u
7
-> p(u
7
) = 0,01 1 1 1
Ma thong ke toi u - Fano
Giai:
u
1
-> p(u
1
) = 0,34 0 0
u
2
-> p(u
2
) = 0,23 0 1
u
3
-> p(u
3
) = 0,19 1 0
u
4
-> p(u
4
) = 0,10 1 1 0
u
5
-> p(u
5
) = 0,07 1 1 1 0
u
6
-> p(u
6
) = 0,06 1 1 1 1
u
7
-> p(u
7
) = 0,01 1 1 1 1
Ma thong ke toi u - Fano
Giai:
u
1
-> p(u
1
) = 0,34 0 0
u
2
-> p(u
2
) = 0,23 0 1
u
3
-> p(u
3
) = 0,19 1 0
u
4
-> p(u
4
) = 0,10 1 1 0
u
5
-> p(u
5
) = 0,07 1 1 1 0
u
6
-> p(u
6
) = 0,06 1 1 1 1 0
u
7
-> p(u
7
) = 0,01 1 1 1 1 1
Tin goc

u1

u2

u3

u4

u5 u6
u7

T ma

00 01 10 110 1110 11110 11111
Ma thong ke toi u - Fano
Kt qu
Ma thong ke toi u - Fano
V du 2 (bai tap): Gia s mot nguon tin gom 8 tin nh
sau, lap bo ma thong ke toi u e ma hoa nguon tin
o:
o u
1
-> p(u
1
) = 0,3
o u
2
-> p(u
2
) = 0,21
o u
3
-> p(u
3
) = 0,19
o u
4
-> p(u
4
) = 0,15
o u
5
-> p(u
5
) = 0,03
o u
6
-> p(u
6
) = 0,06
o u
7
-> p(u
7
) = 0,05
o u
8
-> p(u
8
) = 0,01
Sinh vien
lam tai lp
Ma thong ke toi u -Hauffman
PP Hauffman Thc hien bang 5 bc:
o B1: Xap xep cac tin theo th t giam dan cua xac suat xuat
hien.
o B2: Nhom hai tin cuoi thanh 1 tin phu vi xac suat xuat hien
cua tin phu bang tong xac suat xuat hien cua hai tin cuoi o.
o B3: Cac tin con lai (ngoai tr 2 tin cuoi) va tin phu tao thanh
nguon tin trung gian.
o B4: Quay lai t bc 1 vi nguon tin trung gian va lap lai ca 4
bc n-2 lan.
o B5: Tien hanh ien cac bit tao thanh t ma.
Ma thong ke toi u - Hauffman
V du 1: Gia s mot nguoi tin gom 7 tin nh sau, lap bo
ma thong ke toi u e ma hoa nguon tin o:
o u
1
-> p(u
1
) = 0,34
o u
2
-> p(u
2
) = 0,23
o u
3
-> p(u
3
) = 0,19
o u
4
-> p(u
4
) = 0,10
o u
5
-> p(u
5
) = 0,07
o u
6
-> p(u
6
) = 0,06
o u
7
-> p(u
7
) = 0,01
Ma thong ke toi u -
Hauffman
u
i
p(u
i
) I

u
1
0,34 0,34

u
2
0,23 0,23

u
3
0,19 0,19

u
4
0,10 0,10

u
5
0,07 0,07

u
6
0,06
0,07
u
7
0,01
Ma thong ke toi u -
Hauffman
u
i
p(u
i
) I II

u
1
0,34 0,34 0,34

u
2
0,23 0,23 0,23

u
3
0,19 0,19 0,19
0,14
u
4
0,10 0,10 0,10

u
5
0,07 0,07

u
6
0,06
0,07
u
7
0,01
Ma thong ke toi u -
Hauffman
u
i
p(u
i
) I II III

u
1
0,34 0,34 0,34 0,34
0,24
u
2
0,23 0,23 0,23 0,23

u
3
0,19 0,19 0,19 0,19
0,14
u
4
0,10 0,10 0,10

u
5
0,07 0,07

u
6
0,06
0,07
u
7
0,01
Ma thong ke toi u -
Hauffman
u
i
p(u
i
) I II III IV
0,42
u
1
0,34 0,34 0,34 0,34 0,34
0,24 0,24
u
2
0,23 0,23 0,23 0,23

u
3
0,19 0,19 0,19 0,19
0,14
u
4
0,10 0,10 0,10

u
5
0,07 0,07

u
6
0,06
0,07
u
7
0,01
Ma thong ke toi u -
Hauffman
u
i
p(u
i
) I II III IV V
0,42 0,42
u
1
0,34 0,34 0,34 0,34 0,34
0,24 0,24
u
2
0,23 0,23 0,23 0,23

u
3
0,19 0,19 0,19 0,19
0,14
u
4
0,10 0,10 0,10

u
5
0,07 0,07

u
6
0,06
0,07
u
7
0,01
0,58
Ma thong ke toi u -
Hauffman
u
i
p(u
i
) I II III IV V T ma
0,42 0,42 0
u
1
0,34 0,34 0,34 0,34 0,34
0,24 0,24
u
2
0,23 0,23 0,23 0,23

u
3
0,19 0,19 0,19 0,19
0,14
u
4
0,10 0,10 0,10

u
5
0,07 0,07

u
6
0,06
0,07
u
7
0,01
0,58 1
Ma thong ke toi u -
Hauffman
u
i
p(u
i
) I II III IV V T ma
0,42 0,42 0
u
1
0,34 0,34 0,34 0,34 0,34
0,24 0,24
u
2
0,23 0,23 0,23 0,23 00

u
3
0,19 0,19 0,19 0,19 01
0,14
u
4
0,10 0,10 0,10

u
5
0,07 0,07

u
6
0,06
0,07
u
7
0,01
0,58 1
Ma thong ke toi u -
Hauffman
u
i
p(u
i
) I II III IV V T ma
0,42 0,42 0
u
1
0,34 0,34 0,34 0,34 0,34 10
0,24 0,24 11
u
2
0,23 0,23 0,23 0,23 00

u
3
0,19 0,19 0,19 0,19 01
0,14
u
4
0,10 0,10 0,10

u
5
0,07 0,07

u
6
0,06
0,07
u
7
0,01
0,58 1
Ma thong ke toi u -
Hauffman
u
i
p(u
i
) I II III IV V T ma
0,42 0,42 0
u
1
0,34 0,34 0,34 0,34 0,34 10
0,24 0,24 11
u
2
0,23 0,23 0,23 0,23 00

u
3
0,19 0,19 0,19 0,19 01
0,14 110
u
4
0,10 0,10 0,10 111

u
5
0,07 0,07

u
6
0,06
0,07
u
7
0,01
0,58 1
Ma thong ke toi u -
Hauffman
u
i
p(u
i
) I II III IV V T ma
0,42 0,42 0
u
1
0,34 0,34 0,34 0,34 0,34 10
0,24 0,24 11
u
2
0,23 0,23 0,23 0,23 00

u
3
0,19 0,19 0,19 0,19 01
0,14 110
u
4
0,10 0,10 0,10 111

u
5
0,07 0,07 1100

u
6
0,06
0,07 1101
u
7
0,01
0,58 1
Ma thong ke toi u -
Hauffman
u
i
p(u
i
) I II III IV V T ma
0,42 0,42 0
u
1
0,34 0,34 0,34 0,34 0,34 10
0,24 0,24 11
u
2
0,23 0,23 0,23 0,23 00

u
3
0,19 0,19 0,19 0,19 01
0,14 110
u
4
0,10 0,10 0,10 111

u
5
0,07 0,07 1100

u
6
0,06 11010
0,07 1101
u
7
0,01 11011
0,58 1
Tin goc

u1

u2

u3

u4

u5 u6
u7

T ma

10 00 01 111 1100 11010 11011
Ma thong ke toi u -
Hauffman
Kt qu
Ma thong ke toi u - Hauffman
V du 2 (bai tap): Gia s mot nguon tin gom 8 tin nh
sau, lap bo ma thong ke toi u e ma hoa nguon tin
o:
o u
1
-> p(u
1
) = 0,3
o u
2
-> p(u
2
) = 0,21
o u
3
-> p(u
3
) = 0,19
o u
4
-> p(u
4
) = 0,15
o u
5
-> p(u
5
) = 0,03
o u
6
-> p(u
6
) = 0,06
o u
7
-> p(u
7
) = 0,05
o u
8
-> p(u
8
) = 0,01
Sinh vien
lam tai lp
Ma thong ke toi u
V du 3: Mot nguon tin gom 8 tin sau, lap bo ma thong
ke toi u theo Fano va Hauffman e ma hoa nguon tin
o:
o u
1
-> p(u
1
) = 0,02
o u
2
-> p(u
2
) = 0,20
o u
3
-> p(u
3
) = 0,30
o u
4
-> p(u
4
) = 0,18
o u
5
-> p(u
5
) = 0,03
o u
6
-> p(u
6
) = 0,17
o u
7
-> p(u
7
) = 0,04
o u
8
-> p(u
8
) = 0,06
Sinh vien
lam tai lp
Phng php Shannon
Link