Silveira 2010

UNIVERSIDADE FEDERAL DE PERNAMBUCO
CENTRO DE TECNOLOGIA E GEOCINCIAS

PROGRAMA DE PS-GRADUAO
PS GRADUAO EM CINCIAS GEODSICAS E
TECNOLOGIAS DA GEOINFORMAO
MODELOS DE INTERPOLADORES APLICADOS A

CONSTRUO DE SUPERFCIES BATIMTRICAS
THYAGO DE ALMEIDA SILVEIRA
Orientador: Prof. Dr. Jos Luiz Portugal
Dissertao de Mestrado
Recife, 2010
UNIVERSIDADE FEDERAL DE PERNAMBUCO

CENTRO DE TECNOLOGIA E GEOCINCIAS
PROGRAMA DE PS-GRADUAO EM CINCIAS GEODSICAS E
TECNOLOGIAS DA GEOINFORMAO
THYAGO DE ALMEIDA SILVEIRA
MODELOS DE INTERPOLADORES APLICADOS A CONSTRUO DE

SUPERFCIES BATIMTRICAS
Dissertao de Mestrado
Dissertao apresentada ao Programa de Ps-Graduao

em Cincias Geodsicas e Tecnologias da Geoinformao,
do Centro de Tecnologia e Geocincias da Universidade
Federal de Pernambuco, como parte dos requisitos para
obteno do grau de Mestre em Cincias Geodsicas e
Tecnologias da Geoinformao, rea de concentrao
Cartografia e Sistemas de Geoinformao defendida e
aprovada no dia 26 de fevereiro de 2010.
Orientador: Prof. Dr. Jos Luiz Portugal
Recife
Ano 2010
S587m Silveira, Thyago de Almeida.

Modelos de interpoladores aplicados construo de
superfcies batimtrica / Thyago de Almeida Silveira. Recife: O Autor, 2010.
xv, 81 folhas, il., fig., tabs.
Dissertao (Mestrado) Universidade Federal de
Pernambuco. CTG. Programa de Ps-Graduao em
Cincias Geodsicas e Tecnologias da Geoinformao,
2010.
Orientador: Prof. Dr. Jos Luiz Portugal.
Inclui bibliografia.
1. Sistema de Informao Geogrfica (SIG). 2.
Levantamento Batimtrico. 3.Modelos de Interpoladores.
4. Geoestatstica. I. Titulo.
UFPE
526.1 CDD (22. ed.)
BCTG/2010-097
DEDICATRIA
Dedico essa dissertao a meus pais Maria Carmem e Manoel, e ao meu

irmo Diego, que esto sempre ao meu lado, financiando e tornado nossos sonhos
em realidade.
iv
AGRADECIMENTOS
Gostaria de agradecer aos rgos responsveis que contriburam para a

realizao desse trabalho de pesquisa: ao Governo Brasileiro e ao Ministrio da
Educao
do
Brasil
(MEC),
representados
pela
Coordenao
de
Aperfeioamento de Pessoal de Nvel Superior CAPES, por todo apoio

concedido durante a fase do mestrado.
A Universidade Federal de Pernambuco UFPE; Ao Departamento de

Engenharia Cartogrfica, e ao Programa de Ps-Graduao em Cincias
Geodsicas e Tecnologia da Geoinformao (PPCGTG), na pessoa da Prof. Dr.
Tech. ndrea de Seixas e do Prof. Dr. Admilson da Penha Pacheco.
Aos Professores do PPCGTG, e em especial a Prof. Dr. Andrea

Flvia Tenrio Carneiro, Prof. Dr. Ana Lcia Bezerra Candeias, Prof. Dr. Carlos
Alberto Borba Schuler e ao Prof. Dr. Daniel Carneiro da Silva.
Agradecimento especial ao Prof. Dr. Jos Luiz Portugal, por prestar sua
orientao, pacincia e dedicao. E por sempre ter incentivado a busca do
conhecimento, e o crescimento pessoal e profissional.
Agradecimento mais que especial a Prof. Dr. Lucilene Marqus S, pelo

encorajamento durante todas as fazes do mestrado, e principalmente pela
disponibilidade, prontido. E tambm, por ter me proporcionado oportunidades
nicas.
Aos rgos do Governo do Canad responsveis pelo fomento do Graduate

Students' Exchange Program 2007-2008 (GSEP):
The Government of Canada Awards (GCA);
Canadian Bureau for International Education (CBIE);
Canadian Commonwealth Scholarship Program (CCSP);
Foreign Affairs and International Trade Canada (DFAIT);
v
Ao Department Geodesy e Geomatics Engineering da Universidade de

New Brunswick (UNB), pela receptividade, especialmente a Prof. Dr. Sue Nichols,
Supervisora de Intercmbio no Canad, pela imensa prestatividade, e pelo
acolhimento durante todo tempo do intercmbio; Ao Prof. Dr. Marcelo Santos, por
toda estrutura disponibilizada na UNB, para o desenvolvimento da minha pesquisa;
E ao Prof. Dr. John Clarke do Ocean Mapping Group, por ter auxiliado no
desenvolvimento de idias e no conhecimento de novas tecnologias para aplicao
desta pesquisa.
A Vernica McGinn, Conference Coordinator of Centre for Property Studies

da UNB, pela ajuda durante todo perodo do intercmbio.
Ao Instituto Federal de Educao, Cincia e Tecnologia da Paraba (IFPB), o

qual sou professor, na pessoa do magnfico Reitor Joo Batista de Oliveira Silva.
Aos diretores do IFPB Campus Picu, Prof. Msc. Vernica Arnaud (Diretora da
Sede), Prof. Esp.
Maria das Graas Negreiros de Medeiros
(Diretora
Educacional) e Aguinaldo Tejo Filho (Diretor Administrativo). E aos colegas

professores de sala da aula do IFPB Campus Picu.
A NAVTEQ do Brasil, na pessoal do Msc. Osni de Luna Filho, por sua

compreenso e pacincia. E aos colegas da do escritrio em Recife, que dividiram
comigo essa jornada.
A minha amiga p.h.D Silvane Paixo, por todo tempo dedicado durante
minha estadia no Canad.
Aos colegas da PPCGTG, pelo companheirismo e aprendizado mtuo.
A minha noiva, Nathlia Barbosa, obrigado pela cincia descoberta na

PAcincia e espera.
vi
Aos meus familiares, pela presena e incentivo desde sempre. Demais

colegas e amigos que partilharam comigo esse tempo precioso, em especial aos
amigos do Projeto Anjos de Jesus.
vii
RESUMO
SILVEIRA, Thyago de Almeida. MODELOS DE INTERPOLADORES APLICADOS A

CONSTRUO
DE
SUPERFCIES
BATIMTRICAS.
Recife,
2010,
73
p.
Dissertao (Mestrado) - Centro de Tecnologia e Geocincias, Universidade Federal

de Pernambuco.
Nas ultimas dcadas as Tecnologias da Geoinformao, e mais precisamente os

Sistemas
de
Informaes
Geogrficas
(SIG)
tem
sido
incorporados
no
gerenciamento de zonas costeiras e ocenicas. As amostras pontuais, resultantes

dos levantamentos batimtricos, representam a profundidade do relevo submerso. A
partir delas, por processos de interpolao, a morfologia daquele relevo pode ser
obtida. Face s inmeras possibilidades de modelos de interpoladores, torna-se
difcil escolher qual interpolador ir gerar a superfcie que mais se aproxime da
superfcie real. Uma soluo passvel para esse problema a baseada em
geoestatstica. Nesse sentido, esta pesquisa teve por objetivo estabelecer qual
interpolador reproduz mais fidedignamente a morfologia da plataforma continental
interna, adjacente da Regio Metropolitana de Recife, que passa por uma srie de
estudos para conteno da eroso marinha, sobre custodia do Projeto de
Monitoramento Ambiental Integrado - MAI. Para tanto, a metodologia empregada foi
dividida em quatro etapas: i) aquisio e anlise exploratria dos dados; ii)
implementao dos interpoladores Inverso da Distncia Ponderada, Polinomial
Local, Funes de Base Radial, Polinomial Global e Krigagem; iii) anlise estatstica
dos resultados; e vi) criao da superfcie tridimensional. Os resultados obtidos
indicaram que no existem diferenas significativas entre o Polinomial Local,
Funes de Base Radial e Krigagem. Portanto, qualquer um desses trs mtodos
pode ser recomendado. Entretanto, por ser o nico interpolador capaz de
espacialisar a distribuio dos erros sobre uma superfcie, opta-se por selecionar a
Krigagem como o interpolador mais indicado para a representao tridimensional da
rea em estudo. Dessa forma, os resultados comprovam que a metodologia
proposta conseguiu alcanar seu objetivo, explicitando que ao interpolar dados
advindos de levantamentos batimtricos, necessrio analisar o comportamento do
viii
conjunto de amostras de entrada, com base em anlises estatsticas espaciais, de

forma a assegurar a veracidade de sua representao em uma superfcie
tridimensional.
Palavras-Chave: Sistemas de Informao Geogrfica (SIG), Levantamentos

Batimtricos, Modelos de Interpoladores, Anlises Geoestatsticas.
ix
ABSTRACT
SILVEIRA, Thyago de Almeida. INTERPOLATIONS MODELS APPLIED TO

CONSTRUCTION OF BATIMETRIC SURFACES. Recife, 2010, 73 p. Dissertation
(Masters Degree) Technology and Geosciences Center, Federal University of
Pernambuco.
In the last decades the Geoinformation Technologies, and more precisely the
Geographic Information System (GIS) have been incorporate in the administration of
coastal and oceanic areas. The punctual data, resultants of the bathymetric surveys,
represent the depth of submerged relief. Starting from them, for interpolation
processes, the reliefs morphology can be obtained. Face of innumerable possibilities
of interpolations models, is judged pertinent to determine which of them reproduces
with more fidelity the morphology. A possible solution for this problem is an analysis
based in geoestatistic. Accordingly, this research had to objective established which
interpolator reproduces more faithfully the morphology of internal continental
platform, adjacent the Recifes Metropolitan Region, which has been passed by a
series of studies to contain the marine erosion, above custody on the Projeto of
Monitoramento Ambiental Integrado MAI. For this, the methodology used was
divided in four stages: i) acquisition and exploratory analysis of data; ii) the
implementation of interpolators Inverse Distance Weighted, Polynomial Local, Radial
Basis Functions, Polynomial Global and Kriging; iii) statistical analysis of results; and
vi) the creation of three dimensional surface. The results indicated that there are no
significant differences between the Polynomial Local, Radial Basis Functions and
Kriging. Therefore, any of those three methods may be recommended. However, be
the only interpolators capable of make the distribution of errors on a surface, decide
on to select the Kriging as more indicated interpolator for the representation of the
three dimensional area in study. Thus, the results show that the proposed
methodology has its objective achieved, explaining that to interpolate bathymetric
data, it is necessary to analyze the behaviour of the entry data set, based on spatial
statistical analyzes, on form to ensure the veracity of its representation in a three
dimensional surface.
x
Key
words:
Geographic
Information
System
(GIS),
Bathymetric
Surveys,
Interpolations Models, Geoestatistic Analysis.
xi
LISTA DE FIGURAS
Figura 1
Morfodinmica praial...........................................................................6
Figura 2
Nvel de Reduo................................................................................10
Figura 3
Elementos da batimetria......................................................................12
Figura 4
Processo de Criao de superfcies usando Interpoladores...............19
Figura 5
Processo de Interpolao................................................................... 24
Figura 6
Variao espacial da varivel regionalizada....................................... 31
Figura 7
Variograma......................................................................................... 33
Figura 8
Predio do ponto W usando a Krigagem Ordinria.......................... 40
Figura 9
Matriz de localizao espacial dos pontos conhecidos...................... 40
Figura 10
Matriz de distncia entre os pontos conhecidos................................. 42
Figura 11
Vetor de distncia entre os pontos conhecidos e o ponto predito...... 42
Figura 12
Matriz de semivarincia dos pontos conhecidos (A)...........................42
Figura 13
Vetor da semivarincia entre os pontos conhecidos e o ponto

predito (b).......................................................................................... 43
Figura 14
Matriz inversa da semivarincia dos pontos medidos.........................43
Figura 15
Vetor de pesos e suas respectivas distncias.................................... 44
Figura 16
rea de estudo do Projeto MAI...........................................................49
Figura 17
Procedimentos metodolgicos............................................................ 51
Figura 18
rea Piloto...........................................................................................54
Figura 19
Histograma com a curva normal das amostras medidas.................... 56
Figura 20
Histograma
com
curva
normal
das
amostras
medidas
transformadas por logaritmo............................................................... 57

Figura 21
Histograma
com
curva
normal
das
amostras
medidas
transformadas por radiciao............................................................. 58
xii
Figura 22
Histograma
com
curva
normais
das
amostras
medidas
transformadas por reciprocidade....................................................
58
Figura 23
Elipse de busca usada na interpolao por IDP................................. 59
Figura 24
Histograma com a curva normal dos erros do IDP..........................
Figura 25
Histograma com a curva normal dos erros do Polinmio Local........ 62
Figura 26
Histograma com a curva normal dos erros da FBR......................... 64
Figura 27
Histograma com a curva normal dos erros do Polinmio Global........ 65
Figura 28
Grfico de Tendncia das amostras batimtricas em estudo........... 66
Figura 29
Histograma com a curva normal dos erros da Krigagem....................68
Figura 30
Superfcie batimtrica obtida pela Krigagem (a), e sua Superfcie de
61
Erros (b).............................................................................................. 71
Figura 31
Representao Batimtrica Tridimensional gerada.......................... 72
Figura 32
Consulta espacial a superfcie interpolada pela Krigagem, e o seu

erro associado.................................................................................... 73
xiii
LISTA DE TABELAS
Tabela 1
Variogramas da Krigagem.............................................................
35
Tabela 2
Parmetros do Teste de Kolmogorov-Smirnov................................
55
Tabela 3
Teste de K-S para as profundidades normalizadas............................ 57
Tabela 4
Estatsticas dos erros obtidos da validao cruzada do IDP............ 60
Tabela 5
Teste da normalidade para os erros interpolados do mtodo IDP......60
Tabela 6
Estatsticas dos erros obtidos da validao cruzada do Polinomial

Local................................................................................................... 61
Tabela 7
Teste da normalidade para os erros interpolados pelo Polinmio

Local................................................................................................... 62
Tabela 8
Estatsticas dos erros obtidos da validao cruzada da FBR............. 63
Tabela 9
Teste da normalidade para os erros interpolados pelo FBR............. 63
Tabela 10
Estatsticas dos erros obtidos da validao cruzada Polinomial

Global.................................................................................................. 64
Tabela 11
Teste da normalidade para os erros interpolados pelo Polinmio

Global............................................................................................
65
Tabela 12
Parmetros da Parmetros Validao Cruzada da Krigagem............ 67
Tabela 13
Teste da normalidade para os erros interpolados pela Krigagem..... 67
Tabela 14
Estatstica descritiva para dos Erros das Interpolaes..................
Tabela 15
Estatstica descritiva para o teste t de amostras emparelhadas......... 70
Tabela 16
Coordenadas dos Pontos 01, 02 e 03................................................ 73
68
xiv
LISTAS DE SIGLAS
CODERM
Conselho de Desenvolvimento da Regio Metropolitana
CONDEP
Instituto de Planejamento de Pernambuco
CPRH
Agncia Estadual de Meio Ambiente e Recursos Hdricos
DGPS
Differential Global Positioning System
DHN
Diretoria de Hidrogrfica e Navegao
ECO
Ecobatmetro posicionado sob a embarcao
FBR
Funo de Base Radial
FIDEM
Fundao de Desenvolvimento da Regio Metropolitana do Recife
FINEP
Financiadora de Estudos e Projetos
GIS
Geographic Information System
IDP
Inverso da Distncia Ponderada
IHO
International Hydrographic Organization
K-S
Kolmogorov-Smirnov
LH
Levantamentos Hidrogrficos
MA
Mar
MAI
Monitoramento Ambiental Integrado
MCT
Ministrio da Cincia e Tecnologia
MMA
Ministrio do Meio Ambiente
MPF
Ministrio Pblico Federal
NR
Nvel de Referncia
OHI
Organizao Hidrogrfica Internacional
Profundidade
RMR
Regio Metropolitana de Recife
RTCM
Radio Technical Committee for Marine Service
SIG
Sistemas de Informaes Geogrficas
xv
MODELOS DE INTERPOLADORES APLICADOS A CONSTRUO DE SUPERFCIES BATIMTRICAS
1. INTRODUO
O Brasil um pas que possui uma grande extenso territorial, apresentando
uma linha de costa que se estende por mais de sete mil quilmetros ao longo do
Oceano Atlntico.
Uma extenso litornea to vasta utilizada para finalidades
diversas, como lazer, pesca, transportes, entre outros. Para tanto, necessrio ter
dados confiveis que possam revelar o comportamento da zona costeira, a fim de
proporcionar aos usurios destes recursos, segurana durante suas utilizaes.
A produo e a atualizao da cartografia nutica so atribuies da Marinha do

Brasil, realizadas pela Diretoria de Hidrogrfica e Navegao (DHN), seguindo os
padres
internacionais
de
qualidade
recomendados
pela
IHO
(International
Hydrographic Organization).
Devido dinmica natural dos ecossistemas marinhos, aliado aos processos

provocados por intervenes antrpicas, a morfologia do fundo ocenico pode sofrer
alteraes significativas ao longo dos anos. Tais mudanas podem ser detectadas por
meio dos Levantamentos Batimtricos, que associam a posio da embarcao na
superfcie da gua, com a profundidade atingida naquele exato momento.
Os
Levantamentos
Batimtricos
so
realizados
com
utilizao
de
equipamentos digitais capazes de imagear o fundo do mar, como ecobatmetros de

mono-feixe ou multi-feixe (sensores acsticos), radares e laser (plataformas
Thyago de Almeida Silveira
thyago.silveira@gmail.com
aerotransportadas), e com a utilizao de imagens de satlites (plataformas espaciais)

por varredura em cores ou em infravermelho (AYRES e NETO, 2004).
De acordo com AYRES e NETO (2004), a obteno da profundidade usando o

ecobatmetro de mono-feixe a mais utilizada quando levada em considerao a
relao custo-benefcio para levantamentos nas reas da plataforma continental interna
adjacente (profundidade mxima de 130 metros). O produto resultante uma malha de
pontos tridimensionais que, por si s, no capaz de gerar diretamente a superfcie do
fundo do mar imageado. Para construir a superfcie que representa tal morfologia,
necessrio empregar tcnicas de interpolao.
Os interpoladores so funes matemticas usadas na construo de superfcies

contnuas a partir de um conjunto de pontos coletados (BURROUGH; MCDONNELL,
1998). Eles so utilizados para densificao de uma amostra que no cobre todo o
domnio de interesse.
Atualmente so conhecidos diversos modelos de interpoladores, cada um com

suas particularidades e caractersticas, e diante de tantas opes para interpolar dados
pontuais, tais como dados batimtricos, torna-se difcil escolher qual interpolador ir
gerar a superfcie que mais se aproxime da superfcie real. Nesse contexto, pertinente
que sejam testados diversos modelos de interpoladores para que se estabelea qual o
mais adequado aos dados batimtricos.
1.1. Objetivos da Pesquisa

1.1.1. Objetivo Geral
Estabelecer com base em indicadores estatsticos, qual modelo de interpolador

reproduz mais fidedignamente a morfologia da plataforma continental interna, adjacente
a aos municpios de Paulista, Olinda e Recife, a partir de um levantamento batimtrico.
1.1.2. Objetivos Especficos
1. Aplicar os modelos determinsticos de efeito global, de efeito local e os modelos

estatsticos de efeitos locais e globais, em uma mesma amostra batimtrica;
2. Avaliar a preciso de cada um dos modelos; e
3. Criar a representao da morfologia da plataforma continental interna, adjacente
aos municpios de Paulista, Olinda e Recife.
2. GERENCIAMENTO COSTEIRO
O planejamento de aes que envolvam o ambiente o costeiro um desafio
encontrado em todo mundo. De acordo com DIAS et. al (2007) a intensificao do
crescimento populacional junto ao litoral, a ampliao e a diversificao das reas
industriais, o crescimento do turismo litorneo, e a modificao climtica em curso,
converteram a faixa do litoral em uma zona de grande complexidade cuja gesto
harmnica muito difcil.
Nesse sentido, o desenvolvimento de aes de Gerenciamento Costeiro integra

a tentativa de compatibilizao de todos os fatores aludidos, de modo a que sua
explorao e utilizao destas reas seja feita de forma harmoniosa e sustentvel,
visando preservar suas potencialidades para as geraes futuras (DIAS et. al, 2007).
Segundo ABSHER et al. (2002, p. 1) zona costeira corresponde faixa de

transio entre o domnio continental e o domnio marinho. No Brasil, a zona costeira
apresenta 7.367km de extenso, e considerada Patrimnio Nacional pela Constituio
Federal (BRASIL, 1988) em seu artigo 225, 4. A utilizao deve ser feita na forma da
lei, dentro de condies que assegurem a preservao do meio ambiente, inclusive
quando ao uso dos recursos naturais.
O extenso litoral brasileiro composto por diversos ecossistemas, tais como

manguezais, restingas, campos de dunas, esturios, recifes de coral, marismas, praias,
falsias, costes rochosos, entre outros (SERAFINI, 2010).
Assim, o estudo da Geomorfologia fundamental para o planejamento e manejo

integrado da Zona Costeira, pois sua abordagem permite uma configurao dos
aspectos de delimitao e comportamento das bacias de drenagem, capacidade de uso
do solo, manuteno dos recursos hdricos superficiais e subsuperficiais, e processos
geomorfolgicos atuantes (NICOLODI e TOLDO JR, 2003)
Neste contexto, o estudo da morfodinmica da praia (praial) e da plataforma

continental, conforme esquema visualizado na Figura 1, insere-se como importantes
ferramentas para a compreenso dos processos morfodinmicos e hidrodinmicos de
ambientes costeiros.
Figura 1 Morfodinmica praial.

Fonte: Adaptado de HOEFEL, 1998.
A praia, segundo HOEFEL (1998), pode ser considerada como uma acumulao
de sedimentos inconsolidados os quais se estendem entre a zona mais prxima da
quebra das ondas (antepraia) at o limite das feies como o cordo arenoso ou das
dunas (ps-praia).
J a plataforma continental representa a extenso submersa dos continente se

estendendo desde a antepraia at uma regio de aumento do gradiente topogrfico,
referenciado como quebra da plataforma continental (NETO e SILVA, 2004). Ainda de
acordo com os autores, a plataforma continental caracterizada por apresentar relevo
com declives gradientes e suaves com variaes pequenas da ordem de 20 m ao longo
de profundidades mdias de cerca de 130 m.
Conhecer o comportamento morfodinmico e hidrodinmico desses ambientes

necessrio quando leva-se em considerao a segurana dos banhistas, o manejo de
dunas, os critrios para explorao de areia, reconstituio de praias, delimitao
submersa de reas protegidas, entre outras aes que esto intimamente ligados as
caractersticas geomorfolgica deste meio (NICOLODI e TOLDO JR, 2003).
Deste modo, o estudo morfodinmico das praias e da plataforma continental

torna-se fundamental para o desenvolvimento e criao de projetos que possam
beneficiar de forma concisa esses ambientes.
2.1. Levantamentos Hidrogrficos
As informaes contendo dados que se relacionam aos ambientes marinhos e

costeiros, diferem dos dados relacionados aos ambientes terrestres em vrios aspectos
(KRUEGER et al. 2003). Distribuio das amostras, diferentes precises e resolues, e
tambm
densificao
em
diferentes
partes
do
oceano,
so
exemplos
de
comportamentos divergentes entre esses ambientes.
Tais divergncias ocorrem devido prpria dinmica do fundo ocenico, que por
se tratar de um ecossistema ativo, est sujeito a diversas mudanas, tanto naturais,
como a variao das mars, quanto antrpicas, como uma construo porturia (KRUG
e NOEMBERG, 2005). Essas mudanas podem ser detectadas por meio dos
Levantamentos Hidrogrficos (LH).
Levantamentos
executados
na
Hidrogrficos
obteno
de
correspondem
dados
ao
batimtricos,
conjunto
geolgicos,
de
trabalhos
maregrficos,
fluviomtricos, topo-geodsicos, de ondas, de correntes e outros, em reas martimas,

fluviais, lacustres e em canais naturais ou artificiais, navegveis ou no (DHN, 2009),
desde que estejam em conformidade com o Decreto n 96.000, de dois de maio de
1988, que dispe sobre a realizao de pesquisa e investigao cientfica na plataforma
continental e em guas sob jurisdio brasileira.
O rgo que estabelece as normas para a realizao dos levantamentos

hidrogrficos a Organizao Hidrogrfica Internacional (OHI). Tais normas devem ser
seguidas pelos estados-membros, no Brasil o rgo que representa a OHI.
Segundo a DHN, 2009, os Levantamentos Hidrogrficos so classificados em

duas categorias em funo do propsito de sua execuo:
Categoria A - LH executados com o propsito de produzir elementos que sirvam

para atualizao de cartas e publicaes nuticas.
A DHN sugere que todos os LH que envolvam levantamentos batimtricos, ou

levantamentos geodsicos e topogrficos realizados em apoio aos levantamentos
batimtricos, ou realizados com a finalidade de georreferenciar obras sobre guas,
instalaes porturias, peres, pontos notveis e sinais de auxlios navegao fixos
(balizas, faris e faroletes), cabos submarinos e toda e qualquer feio topogrfica
natural ou artificial relevante sob os aspectos hidrogrficos e da segurana da

navegao, sejam classificados como nessa categoria (DHN, 2009).
Categoria B - LH executados sem o propsito de produzir elementos que sirvam

para atualizao de cartas e publicaes nuticas.
Devem ser inseridos nesta categoria todos os demais LH cujos trabalhos

realizados no se enquadrem nas caractersticas dos LH da Categoria A. Convm que
os LH de batimetria, executados em apoio ao planejamento de dragagens
(levantamentos pr-dragagem) sejam assim classificados, posto que a validade dos
dados resultantes, normalmente, ser efmera (DHN, 2009).
2.2. Levantamentos Batimtricos
Os levantamentos batimtricos so a principal tarefa de um Levantamento

Hidrogrfico (LH). Segundo KRUEGER (2005) Os levantamentos batimtricos tm por
objetivo realizar as medies de profundidades associadas a uma posio da
embarcao na superfcie da gua. Elas so necessrias em reas martimas, fluviais,
em lagoas e em canais naturais ou artificiais, navegveis ou no, visando
representao destas reas em uma carta.
Os levantamentos batimtricos so realizados de forma indireta, com

equipamentos digitais capazes de imagear o fundo do mar. Os sensores acsticos,
como o ecobatmetro de mono-feixe ou multi-feixe, e as plataformas aerotransportadas
(radares e laser) ou espaciais (satlites), so exemplos dos instrumentos usados nos

levantamentos indiretos (AYRES e NETO, 2004).
Os levantamentos batimtricos so utilizados na representao das linhas

isobticas, que servem para definir o traado do relevo submerso ocenico. Para a
obteno das profundidades faz-se necessrio a definio do plano de referncia de
navegao. Tal plano denominado de Nvel de Reduo NR (Figura 2), e sua
principal funo eliminar as variaes das mars, a nvel mundial, e garantir que o
navegante no encontre nenhuma profundidade menor do que as representadas na
carta nutica (DHN, 2009).
Figura 2 Nvel de Reduo.
10
Para levantamentos batimtricos locais, necessrio levar em considerao o

valor da mar no instante da tomada das amostras. Dessa forma, o valor de uma
amostra batimtrica ser igual soma do Nvel de Reduo (NR), acrescido da
variao da mar (MA).
De acordo com AYRES e NETO (2004), a obteno da profundidade usando o

ecobatmetro de mono-feixe a mais utilizada quando levada em considerao a
relao custo-benefcio para levantamentos nas reas da plataforma continental interna
adjacente (profundidade mxima de 130 metros). Os equipamentos de alta resoluo
(210kHz) tm aplicaes limitadas em reas da plataforma, para reas com
profundidades acima de 130 metros recomendvel a utilizao de equipamentos com
freqncias menores, uma vez que alm da profundidade, incidem tambm a
estratificao do nvel de salinidade e a temperatura da gua, fatores que podem
provocar erros considerveis nas medidas batimtricas.
O ecobatmetro consiste em uma fonte emissora de sinais acsticos e um relgio

interno que mede o intervalo entre a emisso do sinal, e o instante em que seu eco
retorna ao sensor. A profundidade pode ser encontrada pela Equao (1).
Eq. (1)
11
Onde:
a profundidade calculada;
a velocidade do som na gua (~ 1500m/s);
o tempo medido entre a emisso e a recepo do sinal.

O ecobatmetro posicionado sob a embarcao, e a batimetria referenciada a
partir da posio do sensor na calha do barco. Na Figura 3 pode-se ver como esto
disposto os elementos de um levantamento batimtrico: Nvel de Referncia (NR),
Profundidade (P) ou batimetria, Tempo de emisso e recepo do sinal do ecobatmetro
(t), Ecobatmetro posicionado sob a embarcao (ECO), e Mar (MA).
Figura 3 Elementos da batimetria.
12
A posio da embarcao dada atravs da utilizao do Global Position

System (GPS), que contempla a aquisio de pontos com posteriores correes, ou do
Differential Global Position System (DGPS), cuja aquisio de pontos acontece com
correo simultnea. De acordo com RIBEIRO e KRUEGER (2008), o mtodo DGPS
consiste em utilizar simultaneamente dois receptores, um instalado em uma estao
fixa de coordenadas conhecidas, denominada de estao de referncia, e um outro em
uma estao em permanente movimento, intitulada de estao mvel.
A partir da estao de referncia so calculadas as correes diferenciais

utilizadas pela estao mvel no processo de clculo de sua posio (RIBEIRO e
KRUEGER, 2008). As correes so enviadas em tempo real por meio de um sistema
de comunicao dentro de um formato apropriado, definido pela RTCM (Radio
Technical Committee for Marine Service) (KRUEGER, 1996).
O resultado do uso conjunto do GPS ou do DGPS e do ecobatmetro, aps sua

transformao para o sistema de referncia adotado, um conjunto de dados
tridimensionais de coordenadas de pontos, que por si s, no capaz de gerar
diretamente a superfcie do fundo do mar imageado. Para construir a superfcie que
representa tal morfologia, necessrio empregar tcnicas de interpolao espacial.
13
3. SISTEMAS DE INFORMAES GEOGRFICAS SIG
Segundo ARONOFF (1989) um SIG uma estrutura computacional baseado na

manipulao de dados geogrficos que possuem uma localizao conhecida, ou seja,
que estejam georeferenciados.
A definio de SIG pode ser dividida em trs categorias, refletindo cada uma
sua maneira os usos e vises possveis desta tecnologia (BURROUGH e McDONELL,
1998):
Baseada em ferramentas: SIG um poderoso conjunto de tcnicas e

procedimentos capazes de coletar armazenar, recuperar, transformar e exibir
dados espaciais do mundo real (BURROUGH, 1986);
Baseada em bancos de dados: SIG um banco de dados indexados

espacialmente, sobre o qual opera um conjunto de procedimentos para
responder a consultas sobre entidades espaciais (SMITH et al., 1987);
Baseada em estruturas organizacionais: SIG um sistema de suporte

deciso que integra dados referenciados espacialmente em um ambiente de
respostas a problemas (COWEN, 1988).
14
Os SIG possuem diferentes tipos de classificao dependendo da suas

aplicaes (SILVEIRA et. al., 2007). Todavia, a escolha do tipo de aplicao depende
de variveis como o tipo de dado manuseado, utilizao e finalidade. Segundo
BURROUGH (1986) um SIG deve possibilitar respostas a perguntas do tipo:
a) Onde est o objeto A?

b) Onde est A em relao ao local B?
c) Quantas ocorrncias do tipo A existem em uma distncia D de B?
d) Qual o valor de uma funo Z na posio X?
e) Quais as dimenses de B (rea, permetro)?
f) Qual o resultado da interseo de vrios tipos de dados espaciais?
g) Qual o caminho de menor custo, resistncia, ou distncia entre os pontos X e Y
sobre uma rede contnua de pontos que definem um relevo?
h) O que so os pontos X1 e X2?
i) Quais objetos esto prximos aos objetos tendo certa combinao de atributos?
j) Como reclassificar objetos que possuam certa combinao de atributos?
k) Como projetar um banco de dados digital, modelando uma ao no mundo real,
para simular o efeito do processo P atravs do tempo T, para um dado cenrio S.
l) De que forma converter um conjunto de pontos topogrficos, de modo que
simulem sua superfcie real?
m) Qual o caminho que possui a menor distncia entre os pontos A e B sobre uma
rede contnua de pontos que definem um relevo?
15
Por serem portadores de mltiplas funes os SIG agregam uma perspectiva

interdisciplinar de sua utilizao. Alm disso, esses sistemas possibilitam a integrao
em uma nica base de dados de informaes geogrficas originadas de diversas
fontes, destinando-se a utilizaes diversas, tais como as de cadastro tcnico e
multifinalitrio, aplicaes do meio ambiente e recursos naturais, sade pblica,
petrleo e gs, agricultura de preciso, planejamento urbano e de transportes,
segurana pblica, gerenciamento costeiro, marinho e de pesca.
3.1. SIG com nfase no Gerenciamento Costeiro e Ocenico
A representao das caractersticas e dos relacionamentos dos atributos

costeiros e ocenicos (marinhos) uma tarefa desafiante para os SIG tradicionais,
devido dinmica natural dos oceanos e dos sistemas costeiros, e a natureza
tridimensional dos volumes aquticos, que necessitam de uma viso mais ampla para
sua representao, justificados pela complexidade que envolve suas caractersticas
geogrficas (WRIGHT et al., 2007).
Assim, o desenvolvimento de aplicaes de SIG com nfase no Gerenciamento

Costeiro e Ocenico resultante da adaptao de uma tecnologia originada e
desenvolvida inicialmente para aplicaes baseadas no mbito terrestre.
O SIG com nfase no Gerenciamento Costeiro e Ocenico permite criar mapas e

cenas de visualizao tridimensional, de forma a obter uma produo mais realista da
morfologia do fundo do mar, possibilitando a extrao de informaes necessrias ao
16
mapeamento temtico e cartogrfico, bem como desenvolvimento de atividades

aplicadas ao gerenciamento dos recursos naturais, estudos do habitat pesqueiro,
monitoramento do meio ambiente, engenharia submarina, explorao geolgica, e
segurana para a navegao (FONSECA et al., 2002).
17
3.2. Anlise Espacial
Segundo LONGLEY et. al (2005), as anlises espaciais so apontadas como

uma dentre as vrias ferramentas utilizadas em SIG, que abrangem transformaes,
manipulaes e mtodos, que podem ser aplicados para adicionar valores a dados, dar
suporte a tomada de decises, e revelar anomalias que no so perceptveis diante de
uma simples conferncia, ou checagem de valores.
As anlises espaciais normalmente compreendem consultas a atributos, medidas

de distncias e operaes envolvendo camadas de informaes. BAILEY e GATRELL
(1995) classificam as anlises espaciais em trs tipos:
Anlises de padres pontuais so fenmenos expressos atravs de

casos ocorridos identificados como pontos localizados no espao, como
focos de incndio, ocorrncia de doenas e crimes;
Anlises de superfcies so superfcies criadas a partir de um conjunto
de amostras de pontos espacialmente distribudas, que representam o
comportamento de, por exemplo, dados geolgicos, altimtricos e
batimtricos;
Anlises de reas so anlises envolvendo informaes agregadas em
reas delimitadas por polgonos fechados, onde se supe que mudanas
importantes s ocorram dentro de seus limites. Geralmente tratam de
18
dados associados a levantamentos populacionais e estatsticas sobre

sade, relacionando-os aos seus respectivos municpios.
As anlises espaciais envolvendo superfcies tm como objetivo representar o

fenmeno estudado de forma realista atravs de superfcies. A converso de dados que
se encontram na forma de pontos em uma representao na forma de grade regular,
feita com o uso de interpoladores, conforme pode ser visualizado na Figura 4.
Figura 4 Processo de Criao de superfcies usando Interpoladores.

Fonte: Adaptado de CAMARA, et al. (2004).
As anlises espaciais ocorrem aps a aquisio dos dados amostrais, e so

compostas das seguintes etapas: Anlise da Normalidade dos Dados; Implementao
dos Interpoladores; Anlises Estatstica dos Resultados; e Criao da Superfcie
Tridimensional.
19
3.2.1. Anlise da Normalidade dos Dados
Segundo FIELD (2009), a anlise acerca da normalidade dos dados realizada a

atravs da aplicao do teste de Kolmogorov-Smirnov (Teste de K-S), que compara
escores de uma amostra, a escores de uma distribuio normal modelo de mesma
mdia e varincia dos valores encontrados na amostra.
De acordo com ARAJO (2007) a estatstica apropriada do teste baseada na

maior diferena absoluta entre a funo de distribuio normal acumulada [
], que
corresponde a proporo dos valores esperados menores ou iguais a x; e a freqncia

relativa observada acumulada e ajustada
], correspondendo a proporo dos
valores observados menores ou iguais a x; em que
mdulo do desvio mximo
observado, conforme a Equao (2):
Eq. (2)
sendo:
onde:
refere-se a funo de distribuio normal acumulada;
20
refere-se a freqncia relativa observada acumulada e ajustada;
refere-se ao nmero da amostra;
refere-se ao tamanho da amostra;
Em seguida compara-se o
, com o
, que o desvio mximo tabelado,
para um determinado intervalo de confiana. Quando o valor

crtico tabelado
for maior que o valor
, conclui-se que a caracterstica em estudo da populao
no segue a distribuio normal; caso contrrio
conclu-se que a amostra
normalmente distribuda.
O teste de Kolmogorov-Smirnov tambm pode ser interpretado pelo uso do pvalue, que corresponde significncia do teste (FIELD, 2009). De forma que se o teste
no significativo (p-value > 0,05) a amostra normalmente distribuda, caso contrrio,
a amostra no normalmente distribuda.
Segundo FIELD (2009) quando o tamanho da amostra grande, comum o

teste de Kolmogorov-Smirnov apresentar resultado significativo (p-value < 0,05), o que
nem sempre valido. Para sanar essa dvida sugere-se, a realizao de anlises
grficas da distribuio dos dados, para ento, comprovar ou no a normalidade da
distribuio.
Caso se confirme a no normalidade da amostra, pode-se tentar normaliz-la

empregando-se transformaes do tipo (FIELD, 2009):
21
Logartmica
ao extrair o logaritmo de um conjunto de
nmeros reduz-se a assimetria positiva da distribuio;
Por radiciao
ao tomar a raiz quadrada de um conjunto de
valores, reduz-se os valores grandes aproximando-os do centro da

distribuio;
Recproca
: ao dividir por 1 est-se diminuindo o impacto dos
grandes valores, de forma que eles ficaram prximos de zero.
A transformao logartmica no pode ser aplicada a valores negativos ou zero,

j a transformao por radiciao no pode ser aplicada para valores negativos. Para
corrigir esses problemas, uma constante pode ser adicionada aos dados para torn-los
maiores que zero.
A anlise sobre a normalidade dos dados importante no momento da deciso

acerca da utilizao dos testes estatsticos. Caso os dados sigam uma distribuio
normal, possvel a aplicao de testes paramtricos, caso contrrio, se os dados no
forem normais, e no conseguirem ser normalizados, pode ser aplicado testes noparamtricos, ou ainda utilizar o erro, que segundo FIELD (2009), tende a apresentar
um comportamento normal.
22
3.2.2. Implementao dos Interpoladores
Esse procedimento ocorre atravs da aplicao dos interpoladores. Os

Interpoladores so os procedimentos usados na predio de valores de atributos em
locais no conhecidos (incertos), a partir de medidas realizadas em pontos com locais
conhecidos, para uma mesma rea ou regio (BURROUGH; MCDONNELL, 1998). Eles
estimam os valores de pontos da superfcie a partir de um conjunto de amostras
vizinhas.
De acordo com BURROUGH e MCDONNELL (1998), a utilizao de

interpoladores necessria quando:
uma superfcie discretizada exige um grau de resoluo diferente da original
(Ex.: transformao de grade com resoluo de 100 dpi para 50 dpi), ou
uma superfcie contnua representada por um modelo de dados diferente do
requerido (Ex.: transformao de malha triangular irregular para grade
regular), ou
os dados disponveis no cobrem o domnio de interesse completamente (Ex.:
os infinitos pontos de uma superfcie no esto disponveis).
A Figura 5 mostra os pontos utilizados em uma interpolao, e a superfcie

resultante sobrepostas. Pode-se identificar que a superfcie infere a construo dos
valores inexistentes entre os dois perfis, exemplificando, assim, como ocorre o processo
de interpolao.
23
Figura 5 Processo de Interpolao.
BURROUGH (1987) especifica que os interpoladores se dividem em trs tipos,

sendo:
Modelos de Interpoladores Locais: cada ponto da superfcie estimado

apenas a partir da interpolao das amostras mais prximas. A suposio
implcita que predominam os efeitos puramente locais.
Modelos de Interpoladores Globais: a suposio implcita nesta classe de

interpoladores que, para a caracterizao do fenmeno em estudo,
predomina a variao em larga escala e, que a variabilidade local no
relevante.
24
Modelos de Interpoladores Geoestatsticos (Krigagem)

(Krigagem): so usados quando
a variao de atributo to irregular, e a densidade de amostras tal, que
mtodos simples de interpolao podem dar predies incertas. Esses
mtodos podem estabelecer estimativas probabilsticas da qualidade da
interpolao.
3.2.2.1.
Modelos de Interpoladores Locais
a) Inverso da Distncia Ponderada (IDP)
O interpolador Inverso da Distncia Ponderada um interpolador local, e tem a

caracterstica de exato,, ou seja, um ponto amostral quando predito no sofre alterao.
O modelo permite a manipulao dos parmetros de dimenses do raio de busca, o
nmero de vizinhos a serem processados no clculo e a potncia a ser empregada na
ponderao da distncia (ESTRADA e SAFRIET, 2006).
200
Segundo BAJJALI (2002), sua formulao matemtica pode ser expressa pela
Equao (3):
Eq. (3)
25
onde:
o valor predito no ponto 0;
so os valores dos pontos amostrais vizinhos ao ponto desconhecido

a distncia que separa cada ponto amostral
ao ponto desconhecido 0;
o nmero de vizinhos;
a pontencia adotada.
b) Polinomial Local
O interpolador Polinomial Local possui formulao matemtica de acordo com a

Equao (4).
Eq. (4)
(
onde:
o valor de elevao (Z), nas coordenadas (X, Y);
so os coeficientes do polinmio de grau
ordem da superfcie de tendncia.
Neste modelo, so adaptadas n superfcies na regio de trabalho, sendo estas

definidas pelas dimenses do raio de busca (BURROUGH e MCDONNELL
MCDONNELL, 1998).
26
Dessa forma, esse raio de busca identifica os pontos amostrais que sero empregados
no clculo dos valores preditos (AGRA, 2007).
O modelo permite a manipulao do grau do polinmio, das dimenses do raio

de busca, do nmero de vizinhos a serem processados no clculo, e dos pesos a serem
atribudos a cada ponderao alcanada na definio do grau do polinmio (ESTRADA
e SAFRIET, 2006).
JAKOB e YOUNG (2006) explicitam ainda que o interpolador polinomial local

pode ajustar muitos polinmios, cada um especificando sua vizinhana, diferentemente
do interpolador polinomial global, que ajusta um polinmio superfcie toda.
c) Funes de Base Radial (FBR)
As Funes de Base Radial correspondem a um grupo de interpoladores

chamados Splines que produzem superfcies suaves (CHIN-SHUNG YANG et.al. 2004).
O princpio das Splines minimizar a curvatura total da superfcie, semelhante a ajustar
uma membrana de borracha aos valores observados, garantindo-se que a mesma
contenha os pontos amostrais, configurando-se como um interpolador exato (JAKOB e
YOUNG, 2006).
Por causa dessa caracterstica, as Funes de Base Radial no so

recomendadas para as superfcies com grandes variaes de gradientes, produzindo
27
bons resultados para superfcies de pouca variao, como de elevao de terreno.

(JAKOB e YOUNG, 2006).
De acordo com (JAKOB e YOUNG, 2006) esse grupo de interpoladores pode ser
dividido em cinco funes bsicas distintas:
Thin Plate Spline;

Spline with Tension;
Completely Regularized Spline;
Multiquadric Function;
Inverse Multiquadric Function.
As funes de base radial so usadas para se calcular superfcies suavizadas de

um grande nmero de pontos, e so inapropriadas quando existem muitas mudanas
nos valores em pouca distncia (JAKOB e YOUNG, 2006).
3.2.2.2.
Modelos de Interpoladores Globais
a) Polinomial Global
Segundo MICHAEL e TRIVELONI (2006), o interpolador polinomial global uma

tcnica que consiste no ajustamento de equaes que representam variao espacial
de valores atravs de superfcies matemticas (polinmios). Dessa forma, este
28
interpolador tem como resultado uma superfcie gradual, que muda de acordo com a
definio do grau polinomial usado na interpolao dos dados.
O interpolador polinomial global adapta uma superfcie de ordem n, previamente

definida, todos os pontos amostrais (BAJJALI, 2002).
O modelo matemtico desse interpolador semelhante ao do Interpolador Local,

e definido pela Equao (5) (BURROUGH e MCDONNELL, 1998):
Eq. (5)
onde:
o valor de elevao (Z), nas coordenadas (X, Y);
so os coeficientes do polinmio de grau p ;

ordem da superfcie de tendncia.
Exemplificando:
Uma superfcie de grau zero da forma
, e corresponde
a um plano horizontal;
Uma superfcie de grau um da forma
,e
corresponde a um plano inclinado;

29
Uma superfcie de grau trs da forma

, e corresponde a uma cbica.
3.2.1.1.
Modelo de Interpoladores Geoestatsticos
a) Krigagem
A Krigagem um estimador exato que considera tanto efeitos Locais como

Globais em sua predio, ou seja, funo dos dados e de covarincia espacial
(CHAPLOT; et. al.,, 2006). Segundo BAILEY e GATRELL (1995), este interpolador tem
por objetivo identificar a correlao espacial existente entre os valores de um conjunto
de amostras com seus valores interpolados, definindo
d
os pesos atribudos
a
s diversas
amostras pela vizinhana a ser considerada,
cons
e pelo erro
ro associado ao valor estimado.
estimado
De acordo com BURROUGH e MCDONNELL (1998), a Krigagem pode ser

expressa pela Equao (6):
Eq. (6)
onde:
o valor da funo aleatria numa posio s;
30
uma funo determinstica que descreve a componente estrutural Z numa

posio s;
um termo estocstico correlacionado com variao local;
um rudo aleatrio no correlacionado, normalmente distribudo.

Tal formulao tem interpretao geomtrica mostrada na Figura 6, que reproduz
o comportamento
rtamento das amostras correlatas, de acordo com a variao espacial existente
entre o conjunto de valores de entrada e o conjunto dos dados interpolados
(BURROUGH e MCDONNELL, 1998).
Figura 6 Variao espacial da varivel regionalizada.

FONTE: Adaptado de BURROUGH e MCDONNELL (1998).
(
Na Figura 6(a)
(a) visualiza-se
visualiza se o comportamento amostras que possuem valores da
constante, por sua vez, na Figura
F
6(b), as amostras representadas revelam o
com um comportamento tendencioso.
31
Quando a funo determinstica [
] constante na regio em estudo, os
efeitos globais
lobais da amostra se tornam quase que inexistentes.. Desse modo,
modo a Equao
6 fica reduzida a determinao do termo estocstico
, que obtido em funo de

d
um Variograma (BURROUGH; MCDONNELL, 1998).
MELLO et. al., (2005)

2005) definem o Variograma como sendo uma tcnica de suporte
a Krigagem,, que permite representar quantitativamente a variao de um fenmeno
regionalizado no espao, e definido pela Equao (7).
Eq. (7)
onde:
o nmero de amostras separadas por uma distncia h ;

distncia
so os valores amostrais nas posies
, separados pela
a semivarincia de todos os pares de amostras

A representao grfica do variograma, segundo SCHAFFRATH et. al., (2007),
mostrada na Figura 7,, onde so identificados os seguintes parmetros:
Alcance ou Range (A): materializa a distncia onde as amostras

apresentam se correlacionadas espacialmente;
apresentam-se
32
Patamar ou Sill (C1): valor da semivarincia correspondente ao

Alcance (A). O Patamar (C1) indica o ponto que deixa de existir a
dependncia espacial, dado que a variao da diferena entre
pares de amostras torna-se aproximadamente constante;
Efeito Pepita ou Nugget (C0): representa a interseo da curva

com o eixo y. Sua construo aponta uma descontinuidade, que
pode ocorrer por se considerar distncias menores que a menor
distncia entre as amostras, por erros de medio ou pelo acaso.
Figura 7 Variograma.
33
Existem diversos modelos de Variograma, cada um com formataes especficas.

Na Tabela 1, esto descritos o tipo de Variograma, o seu modelo matemtico e o
grfico resultante, dos modelos mais conhecidos.
34
Tabela 1 Variogramas da Krigagem.

VARIOGRAMA
MODELO
GRFICO
Exponencial
Gaussiano
Linear
Esfrico

35
onde:
i. Krigagem Ordinria
Quando a funo determinstica que descreve a componente estrutural Z numa

posio s [
], constante na regio em estudo, a Krigagem passa a ser do tipo
Ordinria.
De acordo com BARROS FILHO (2007), a Krigagem Ordinria considerada

como o melhor estimador linear no
no-tendencioso,
tendencioso, pois, como estimador linear, assume
que o valor desconhecido pode ser estimado por uma combinao linear dos pesos dos
valores observados nas amostras vizinhas; j como estim
estimador no-tendencioso,
assume que a mdia global dos erros, ou seja, a mdia das diferenas entre os valores
estimados e os valores observados seja nula.
36
Assim, o processo a ser estimado tem uma mdia desconhecida, mas constante,
cujo valor igual mdia dos valores observados nas amostras. Portanto, os pesos
so escolhidos de maneira que o valor mdio estimado restringido pelo valor da
mdia das amostras, sendo para isso necessrio que a soma dos pesos seja igual a 1
(BARROS FILHO, 2007).
Dessa forma, o peso reflete a distncia entre as amostras e o ponto a estimar, de

forma que quanto mais prximas estiverem as amostras do ponto a estimar, maior ser
o seu peso no estimador (SOARES, 2000).
A Krigagem Ordinria possui a capacidade de avaliar o grau de incerteza dos

parmetros ajustados aos modelos tericos de semivariogramas. Tal incerteza o erro
da estimativa, que pode ser obtido mediante o procedimento chamado validao do
modelo que envolve a re-estimao dos valores conhecidos por meio dos parmetros
ajustados ao modelo do semivariograma (CAMARGO, 1997).
BARROS FILHO (2007) afirma que a Krigagem Ordinria minimiza a varincia

dos erros, espacializa os erros, permitindo a gerao de uma superfcie de erros.
A superfcie gerada pela Krigagem Ordinria corresponde a uma grade, cujos

pontos so calculados em funo da variao local da amostra, conforme definido na
Equao (8) (BURROUGH; MCDONNELL, 1998).
37
Eq. (8)
Eq. (9)
38
O clculo de um ponto com sua coordenada z desconhecida, e o seu erro de

estimao segundo a Krigagem Ordinria exemplificada em determinada regio
amostral, que tem seu espao geogrfico delimitado por um plano cartesiano (x,y)
apresentando valores de zero (0,0) a dez (10,10). Essa regio apresenta um
variograma melhor adaptado como do tipo esfrico, com os parmetros C0 = 2.5 (Efeito
Pepita), C1 = 7.5 (Patamar), e A = 10.0 (Alcance). Conforme a Figura 8, o ponto W, com
localizao (5,5), possui sua coordenada z(xi=0) desconhecida, e est separado de
outros cinco pontos medidos, e espacializados ao seu redor por distncias (h).
39
Figura 8 Predio do ponto W usando a Krigagem Ordinria.
Os cinco pontos ao redor do ponto W, esto numerados de 1 a 5, possuem suas

coordenadas de localizao no espao (x,y), e o valor da coordenada z, conforme
pode-se visualizar na matriz de localizao espacial (x,y,z), expressa na Figura 9.
I
1
2
3
4
5
X
2
3
9
6
5
Y
2
7
9
5
3
Z
3
4
2
4
6
Figura 9 Matriz de localizao espacial dos pontos conhecidos.
40
Para calcular o erro associado ao ponto W, necessrio calcular o valor da sua

coordenada z, e posteriormente calcular o erro a ele associado. Fazendo uso da
Krigagem Ordinria, podemos encontrar esses valores atravs da determinao dos
pesos, conforme expresso na Equao (10).
Eq. (10
10)
onde:
A a matriz da semivarincia entre os pares dos pontos

ontos conhecidos;
conhecidos
b o vetor da semivarincia
semiv
entre cada ponto conhecido e o ponto a ser predito;
o vetor dos
os pesos;
pesos
linha e coluna extra que garantem que a soma dos pesos seja 1.
Para criar as duas matrizes de semivarincia (A e b), necessrio primeiro criar

duas matrizes com as informaes de distncias. Uma contendo as distncias entre
todos os pontos conhecidos (Figura
(
10);
); e a outra matriz, ou vetor de distncia,
contendo as distncias entre os pontos conhecidos
conh
e o ponto a ser predito (Figura 11).
41
I
1
2
3
4
5
1
0.0
5.099
9.899
5.0
3.162
2
5.099
0.0
6.325
3.606
4.472
3
9.899
6.325
0.0
5.0
7.211
4
5.000
3.606
5.0
0.0
2.236
5
3.162
4.472
7.211
2.236
0.0
Figura 10 Matriz de distncia entre os pontos conhecidos.
i
1
2
3
4
5
0
4.243
2.828
5.657
1.0
2.0
Figura 11 Vetor de distncia entre os pontos conhecidos e o ponto predito.
As duas matrizes de distncia so ajustadas ao variograma do tipo esfrico com

o objetivo de adquirir as semivarincias correspondentes as matrizes A e b (Figuras 12
e 13):
A=i
1
2
3
4
5
6
1
2.500
7.739
9.999
7.656
5.939
1.000
2
7.739
2.500
8.667
6.381
7.196
1.000
3
9.999
8.667
2.500
7.656
9.206
1.000
4
7.656
6.381
7.656
2.500
4.936
1.000
5
5.939
7.196
9.206
4.936
2.500
1.000
6
1.000
1.000
1.000
1.000
1.000
1.000
Figura 12 - Matriz de semivarincia dos pontos conhecidos (A).
42
b=i
1
2
3
4
5
6
1
7.151
5.597
8.815
3.621
4.720
1.000
Figura 13 Vetor da semivarincia entre os pontos conhecidos e o ponto predito ((b).
Nas duas matrizes de semivarincia encontradas foi

oi adicionada uma nova coluna
e uma nova clula (i = 6), para assegurar que o somatrio dos pesos seja igual a um
(1).
O prximo passo calcular a matriz inversa de semivarincia dos pontos

conhecidos (Figura 14):
A-1 = i
1
2
3
4
5
6
1
-0.172
0.172
0.500
0.022
-0.026
0.026
0.126
0.273
2
0.500
-0.167
0.032
0.077
0.007
0.207
3
0.022
0.032
-0.111
0.066
-0.010
0.357
4
-0.026
0.007
0.066
-0.307
0.190
0.003
5
0.126
0.007
-0.010
0.190
-0.313
0.134
6
0.273
0.207
0.357
0.030
0.134
-6.873
Figura 14 - Matriz
M
inversa da semivarincia dos pontos medidos.
Nesse momento efetua-se

efetua
a operao
, obtendo--se o vetor dos pesos
( ), conforme apresentado na Figura 15:
43
1
2
3
4
5
6
Pesos
0.0175
0.2281
-0.0891
0.6437
0.1998
0.1182
=1
Distncias
4.423
2.828
5.657
1.000
2.000
Figura 15 Vetor de pesos, e suas respectivas distncias.
De posse de todos do vetor dos pesos, o ponto desconhecido calculado de

acordo com a Equao (6), como mostrado:
Z(Xi=0) = 0.0175*3 + 0.2281*4 - 0.0891*2 + 0.6437*4 + 0.1998*6

Z(Xi=0) = 4.560
O erro associado estimativa do ponto desconhecido Z(Xi=0) = 4.560,
determinado pela Equao (9), como mostrado:
= [0.0175*7.151 + 0.2281*5.597 - 0.0891*8.815 + 0.6437*3.621 + 0.1998*4.720] +

= 3.890 + 0.1182
= 4.008
44
3.2.3. Anlise Estatstica dos Resultados
As anlises estatsticas dos resultados dos pontos interpolados correspondem ao

conjunto de procedimentos que servem para descrever a amostra, bem como so
indicadores para a tomada de deciso na avaliao comparativa entre variveis
estudadas.
Mdia e Desvio Padro
o clculo da mdia e do desvio padro da amostra, como expresso

nas Equaes (11) (a) e (b).
Onde:
refere-se ao dado amostral i;
refere-se a mdia amostral;
refere-se ao desvio padro;
refere-se ao tamanho da amostra.
45
Tendncia Mdia
Identifica
dentifica o desvio mdio de uma amostra, que equivale a mdia dos
erros, sendo
send expressa pela Equao (12):
Intervalo de confiana
Corresponde aos limites entre os quais acredita-se

acredita
que o valor da
media
verdadeira
estar,
dentre
um
determinado
nvel
de
probabilidade. Pode
Pode-se
se construir um intervalo de confiana de acordo
com a Equao (13).
(13)
46
Onde:
Teste t dependente (teste t de amostras emparelhadas)
Compara a diferena mdia entre duas amostras, com a diferena que

espera--se encontrar entre as mdias das amostras (zero), levando em
conta o erro padro das amostras. O teste t de amostras
emparelhadas pode
pode ser descrito de acordo com a Equao (14).
3.2.4. Criao da Superfcie Tridimensional
A superfcie tridimensional criada em funo do interpolador que obtiver

obt
os
melhores indicadores estatsticos.
estatsticos
47
4. REA DE PILOTO
A eroso costeira um problema que atinge 70% das praias arenosas do mundo
(BIRD, 1981). No Brasil, vrios trechos da costa tm sido atingidos pelo processo
erosivo, fenmeno naturalmente estabelecido pelas forantes que atuam junto costa,
tais como ondas e mars. No entanto, este processo natural tem se agravado devido s
intervenes antrpicas decorrentes do desenvolvimento urbano.
Em Pernambuco a zona costeira tem suportado um grande crescimento, sendo a

rea que apresenta maior densidade demogrfica, com 44% da populao do Estado
(MAI, 2004). tambm nessa rea que se d a concentrao de atividades
econmicas, industriais, de recreao e turismo, e conseqentemente dos problemas
delas decorrentes (MAI, 2004).
Com o avano da eroso costeira, vrios projetos de conteno foram

executados nas praias que abrangem os municpios de Paulista, Olinda, Recife e
Jaboato dos Guararapes (Figura 16). Entretanto, a maioria desses projetos no
respeitou os limites requeridos pela dinmica natural da linha de costa, fato que
intensificou ainda mais o processo erosivo na rea (MAI, 2004).
48
Figura 16 rea de estudo do Projeto MAI.
Vrios pontos da costa pernambucana encontram-se em desequilbrio,

apresentando eroso marinha progressiva que varia de moderada a severa, para a qual
ainda no se dispe de um diagnstico preciso, dado a inexistncia de meios
adequados compreenso das causas locais e regionais (MAI, 2004).
Em resposta ao problema, as Prefeituras dos Municpios de Jaboato dos

Guararapes, Recife, Olinda e Paulista, atravs do Conselho de Desenvolvimento da
Regio Metropolitana do Recife (CONDERM) e em parceria com a CPRH, entenderam
ser imprescindvel uma avaliao integrada dos problemas comuns aos quatro
municpios.
Dessa forma, foi articulado o Projeto de Monitoramento Ambiental
Integrado (MAI), contando com o apoio tcnico cientfico da Universidade Federal de

Pernambuco e de consultores externos. O MAI contou com financiamento do Ministrio
da Cincia e Tecnologia (MCT), atravs da Financiadora de Estudos e Projetos (FINEP)
49
e com contrapartida das prefeituras envolvidas, alm do acompanhamento sistemtico

do MPF - Ministrio Pblico Federal (MAI, 2009).
O MAI um projeto que visa avaliar e monitorar a vulnerabilidade da linha de

costa dos quatro municpios e tem como principal objetivo o entendimento do processo
erosivo (MAI, 2009). E tem como objetivo principal o levantamento de informaes
sobre a geologia, a geofsica, a morfologia costeira, os processos fsico-oceanogrficos
e a ocupao do solo, ao longo da zona costeira dos municpios de Paulista, Olinda,
Recife e Jaboato dos Guararapes, alm de formao de recursos humanos que
possibilitem a continuidade do processo.
Dentro dessa tica, a obteno das informaes sobre a batimetria torna-se

pertinente, uma vez que a caracterizao morfolgica deste meio pode ser feita em uma
superfcie atravs dos processos de interpolao, entretanto, tal representao deve
ser construda da forma a modelar a superfcie de forma mais real possvel. E esse
procedimento pode ser realizado atravs da avaliao das caractersticas dos
interpoladores com a aplicao de testes estatsticos.
50
5. METODOLOGIA DA PESQUISA
A metodologia empregada nessa pesquisa dividida em quatro passos,

conforme a Figura 17.
Figura 17 Procedimentos metodolgicos.
5.1. Aquisio das Amostras Batimtricas
O conjunto de amostras batimtricas, que delimitam a rea piloto, foi adquirido

junto coordenao do Projeto MAI. A amostra composta de 65.041 pontos,
51
dispostos em 137 perfis verticais separados a uma distncia de 200 metros, e dois
perfis horizontais espaados a 2.000 metros um do outro. Todos os pontos foram
coletados e referenciados ao Datum vertical SAD 69, e projetados no Sistema de
Coordenadas UTM.
5.1.1. Anlises Exploratrias dos Dados Batimtricos
Para identificar a natureza do conjunto de amostras, foi realizada a anlise

exploratria dos dados a partir do teste de normalidade de Kolmogorov-Smirnov (teste
K-S) e da anlise grfica.
5.2. Implementao dos Interpoladores
Os interpoladores empregados foram: Inverso da Distncia Ponderada,

Polinmio Local, Funes de Base Radial (Completely Regularized Spline), Polinmio
Global e Krigagem.
Durante a fase de interpolao, foi efetuada a validao cruzada, que consiste

em omitir a posio de cada ponto amostral Pi e recalcular o ponto para a mesma
posio, considerando os demais pontos. Este procedimento repetido para os n
pontos, possibilitando identificar o erro entre os valores preditos e medidos (BAILEY e
GATRELL, 1995).
52
Os parmetros de cada interpolador foram ajustados individualmente de forma

que, cada um deles apresentasse o menor erro.
5.3. Anlises dos Resultados
As anlises dos resultados foram baseadas na estatstica descritiva dos dados,

levando em considerao os indicadores Mdia e Desvio Padro, Tendncia Mdia,
Intervalo de Confiana, e o Teste t de amostras emparelhadas.
5.4. Criao da Superfcie Tridimensional
A criao da Superfcie foi efetuada pelo interpolador que apresentou os

melhores resultados estatsticos.
53
6. RESULTADOS E DISCUSSES
6.1. Aquisio das Amostras Batimtricas
As
amostras batimtricas
coletadas
na rea
piloto
seguem
o trecho
compreendido entre os municpios de Paulista, Olinda, e parte de Recife, conforme

mostrado na Figura 18.
Figura 18 rea Piloto.
A princpio, o espaamento das amostras no sentido oeste-leste revelou-se

preocupante, haja visto que entre espaamentos de 200 metros de um perfil para outro,
poderia se encontrar irregularidades morfolgicas cujos processos de inferncia da
54
superfcie usando os mtodos de interpolao seriam ineficientes. Aps breve consulta

a Coordenao do MAI, identificou-se que esse espaamento no prejudicaria o
desenvolvimento da pesquisa.
6.1.1. Anlise Exploratria dos Dados Batimtricos
Efetuando-se o teste de K-S, cujos resultados constam na Tabela 2, verifica-se

que a amostra batimtrica tem distribuio diferente da normal (p-value < 0,05), em um
nvel de significncia de 95%.
Tabela 2 - Parmetros do Teste de Kolmogorov-Smirnov

Teste da Normalidade - Kolmogorov-Smirnov
Varivel
Batimetria Medida
Dcal
GL
p-value
.056
65299
.000
A Figura 19 mostra o histograma da amostra, comprovando-se no normalidade

da distribuio.
55
Figura 19 Histograma com a curva normal das amostras medidas.
Para tentar normalizar a amostra, foi adicionada uma constante de valor 50

metros aos valores das batimetrias medidas. Essa constante resultou na converso de
todos os valores negativos em valores positivos, permitindo a aplicao das
transformaes logartmica, por radiciao, e por transformao recproca.
Aps as transformaes o Teste de K-S foi repetido, e nenhuma delas teve

sucesso para normalizao, conforme identifica-se na Tabela 3.
56
Tabela 3 - Teste de K-S para as profundidades normalizadas.

Teste da Normalidade de K-S para as Profundidades
Variveis
Dcal
GL
p-value
Nova Prof (Prof+50)
.056
65041
.000
LN (Nova Prof)
.052
65041
.000
Raiz (Nova Prof)
.053
65041
.000
1 / (Nova Prof)
.056
65041
.000
Os histogramas das amostras transformadas so mostrados nas Figuras 20, 21 e

22, novamente comprovando os resultados obtidos pelo teste de K-S.
Figura 20 Histograma com a curva normal da amostra medida

transformada por logaritmo neperiano.
57
Figura 21 Histograma com a curva normal da amostra medida

transformada por radiciao.
Figura 22 Histograma com a curva normais das amostras medidas

transformadas por reciprocidade.
A no normalidade na distribuio das amostras batimtricas impossibilita o

emprego de testes paramtricos diretamente sobre ela. Como condies de contorno
58
sero testados os erros obtidos entre cada ponto batimtrico (ponto medido) e seu dual
(ponto calculado por validao cruzada).
6.2. Implementao das Interpolaes
6.2.1. Inverso da Distncia Ponderada (IDP)
Para a interpolao pelo mtodo Inverso da Distncia Ponderada (IDP), os

pontos devem estar contidos dentro de uma elipse com semi-eixo maior de 26.190
metros, e semi-eixo menor de 8.990 metros. O seu semi-eixo menor deve ter uma
direo de 20, que paralela a direo dos perfis, conforme mostrado na Figura 23.
Figura 23 Elipse de busca usada na interpolao por IDP.

59
A quantidade de pontos selecionados deve ser de no mximo 15, e no mnimo

10 por quadrante da elipse. Esses parmetros tem por propriedade a captura de pontos
em no mnimo 3 perfis consecutivos.
A estatstica dos erros obtidos pela validao cruzada do IDP mostrada na

Tabela 4.
Tabela 4 Estatsticas dos erros obtidos da validao cruzada do IDP.
Interpolador
Mdia
IDP
.0056804
Desvio Padro
.6979112
Erro Padro
.0027365
Intervalo para mdia com 95%

de Confiana
Limite -
Limite +
.0003167
.0110441
O teste de K-S para os erros mostrado na Tabela 5, identificando-se a no

normalidade da distribuio (p-value < 0,05).
Tabela 5 Teste da normalidade para os erros interpolados do mtodo IDP.

Teste da Normalidade de K-S para o IDP
Variveis
IDP
Dcal
GL
p-value
.130
65041
.000
Como a amostra em estudo muito grande (n= 65.041), analisa-se graficamente

sua distribuio conforme a Figura 24, concluindo-se sobre a normalidade da mesma.
60
Figura 24 Histograma com a curva normal dos erros do IDP.
6.2.2. Polinomial Local
Para o mtodo Polinmio Local, seguiu os mesmos parmetros definidos para o

IDP. A estatstica dos erros obtidos pela validao cruzada do Polinomial Local
mostrada na Tabela 6.
Tabela 6 Estatsticas dos erros obtidos da validao cruzada do Polinomial Local.
Interpolador
Polinomial Local
Mdia dos
erros
Desvio Padro
.0028979
.7002147
Erro Padro
dos Erros
.0027456

de Confiana
Limite -
Limite +
-.0024834
.0082793

61
Tabela 7 Teste da normalidade para os erros interpolados pelo Polinmio Local.

Teste da Normalidade de K-S para o Polinomial Local
Variveis
Polinmio Local
Dcal
GL
p-value
.136
65041
.000
A Figura 25 mostra a anlise grfica da distribuio da amostra mediante o

histograma, conclu-se sobre a normalidade da mesma.
Figura 25 Histograma com a curva normal dos erros do Polinmio Local.
6.2.3. Funes de Base Radial
A interpolao usando a Funo de Base Radial foi realizada usando o mtodo

Completely Regularized Spline, e os parmetros adotados para essa interpolao foram
62
semelhantes aos do IDP. A estatstica dos erros obtidos pela validao cruzada para a
FRB mostrada na Tabela 8.
Tabela 8 Estatsticas dos erros obtidos da validao cruzada da FBR.
Interpolador
FBR
Mdia dos
erros
Desvio Padro
.0024291
.6922131
Erro Padro
dos Erros
.0027142

de Confiana
Limite -
Limite +
-.0028907
.0077490

Tabela 9 Teste da normalidade para os erros interpolados pelo FBR.

Teste da Normalidade de K-S para FBR
Variveis
FBR
Dcal
GL
p-value
.130
65041
.000
A analise grfica da sua distribuio do FBR, conforme a Figura 26, mostra que a
mesma possui comportamento normal.
63
Figura 26 Histograma com a curva normal dos erros da FBR.
6.2.4. Polinomial Global
Nesse mtodo foi escolhido um polinmio de grau 1. Os resultados das

estatsticas para os erros mostrado na Tabela 10.
Tabela 10 Estatsticas dos erros obtidos da validao cruzada Polinomial Global.
Interpolador
Polinomial Global
Mdia dos
erros
Desvio Padro
.0000399
3.576930
Erro Padro
dos Erros
.0140254

de Confiana
Limite -
Limite +
-.0274499
.0275298

64
Tabela 11 Teste da normalidade para os erros interpolados pelo Polinomial Global.

Teste da Normalidade de K-S para o Polinomial Global
Variveis
Polinmio Global
Dcal
GL
p-value
.040
65041
.000
Na Figura 27 observa-se a anlise grfica da distribuio dos erros interpolados

pelo Polinomial Global, concluindo-se que a mesma tem um comportamento normal.
Figura 27 Histograma com a curva normal dos erros do Polinomial Global.
65
6.2.5. Krigagem
Antes de iniciar o processo da Krigagem necessrio verificar se a amostra

apresenta tendncia. Isso feito atravs do Grfico de Tendncia, conforme mostrado
na Figura 28.
Figura 28 - Grfico de Tendncia das amostras batimtricas em estudo.
No grfico da Figura 28 identificam-se tendncias decrescentes nos sentidos

Leste-Oeste (Eixo Y) e Norte-Sul (Eixo X), conforme observado nas linhas azul e
amarelo respectivamente. Para solucionar esse problema, as tendncias foram
removidas usando um polinmio de primeira ordem.
O mtodo Geoestatstico da Krigagem foi realizado usando a Krigagem

Ordinria. Os pontos foram ajustados no variograma do tipo esfrico, tendo o Alcance
66
(A) de 237,0653 metros, o Patamar (C1) de 1,9502 metros, e o Efeito Pepita (C0) de
0,2468 metros.
Os parmetros adotados para a seleo dos pontos vizinhos na construo da

interpolao tiveram os mesmos valores usados pelos IDP, e os resultados das
estatsticas para os erros podem ser visualizados na Tabela 12.
Tabela 12 Parmetros da Parmetros Validao Cruzada da Krigagem.
Interpolador
Krigagem
Mdia dos
erros
Desvio Padro
.0032213
.6830434
Erro Padro
dos Erros
.0026782

de Confiana
Limite -
Limite +
-.0020280
.0084707

Tabela 13 Teste da normalidade para os erros interpolados pela Krigagem.

Teste da Normalidade de Kolmogorov-Smirnov
Variveis
Krigagem
Dcal
GL
p-value
.135
65041
.000
Como a amostra muito grande (n= 65.725), analisa-se graficamente a sua

distribuio (Figura 28), concluindo-se sobre sua normalidade.
67
Figura 29 Histograma com a curva normal dos erros da Krigagem.
6.3. Anlises dos Resultados
A estatstica descritiva para a os Erros, mostrada Tabela 14.
Tabela 14 Estatstica descritiva para dos Erros das Interpolaes.

Mdia dos
erros
Desvio Padro
IDP
.0056804
.6979112
Polinomial Local
.0028979
FBR
Interpoladores
Erro Padro

de Confiana
Limite -
Limite +
.0027365
.0003167
.0110441
.7002147
.0027456
-.0024834
.0082793
.0024291
.6922131
.0027142
-.0028907
.0077490
Polinomial Global
.0000399
3.576930
.0140254
-.0274499
.0275298
Krigagem
.0032213
.6830434
.0026782
-.0020280
.0084707
68
O interpolador IDP apresenta intervalo de confiana para a mdia dos erros, com
95% de confiana, variando entre 0.0003167 e 0.0110441. Como esse intervalo no
contm o zero, que a mdia esperada para os erros, esse interpolador rejeitado.
O Interpolador Polinomial Global apresenta intervalo de confiana para a mdia

dos erros, com 95% de confiana, variando entre -0.0274499 e 0.0275298. Apesar de
esse intervalo conter o zero, o interpolador rejeitado porque o seu erro padro
(0.0140254) sete vezes maior que o erro padro dos demais interpoladores, e
tambm porque impossvel que a superfcie real seja um plano inclinado. Por esses
motivos, este interpolador rejeitado.
O Interpoladores RBF, Polinomial Local e Krigagem, apresentam intervalos de

confiana para a mdia dos erros, com 95% de confiana, contendo o zero, e seus
erros padro possuem valores muito prximos. Assim, qualquer um desses
interpoladores pode ser aplicado. Resta ainda, verificar se, do ponto de vista estatstico,
no existe diferena significativa entre eles. Isso pode ser feito pelo teste t de Amostras
Emparelhadas.
A Tabela 15 apresenta os resultados deste teste, mostrando que dentro de um

nvel de confiana de 95%, os trs interpoladores no diferem (Sig > 0,05 para todos os
pares).
69
Tabela 15 Estatstica descritiva para o teste t de amostras emparelhadas.

Pares de
Interpoladores
Mdia
Desvio
Padro
Erro Padro
Intervalo para mdia

com 95% de Confiana
Limite -
Limite +
GL
Sig
Local - FBR
.0004688
.1714870
.0006724
-.0012632
.0022009
.697
65040
.486
Local - Krigagem
-.0003233
.1942125
.0007615
-.0022850
.0016382
-.425
65040
.671
FBR - Krigagem
-.0007922
.1925926
.0007551
-.0027374
.0011530
-1.049 65040
.294
Dessa forma, pode-se afirmar que qualquer um desses trs mtodos indicado
para ser usado como interpolador para a rea de estudo. Entretanto, em virtude de a
Krigagem ser o nico interpolador capaz de espacialisar a distribuio dos erros sobre a
superfcie, seleciona-se este como o mais indicado.
6.4. Criao da Superfcie Tridimensional
A superfcie batimtrica da rea piloto e a superfcie de erros geradas pela

Krigagem so apresentadas na Figura 30 (a) e (b), respectivamente.
Na Figura 30 (b), observa-se que os menores erros esto espacializados mais

prximos dos pontos amostrais, e na vizinhana desses pontos, localizados justamente
sobre os perfis de dados coletados.
70
Figura 30 - Superfcie batimtrica obtida pela Krigagem (a), e sua Superfcie de Erros
(b).
A visualizao do modelo tridimensional consiste na transferncia do modelo

gerado para um plano de visualizao 3D, permitindo que o observador perceba a
sensao tridimensional original da Plataforma Interna Continental adjacente aos
Municpios de Olinda, Recife e Jaboato dos Guararapes.
A representao tridimensional da superfcie gerada pela Krigagem pode ser

visualizada em diversos ngulos e perspectivas na Figuras 31.
71
Figura 31 Representao Batimtrica Tridimensional gerada.
Essas duas superfcies sobrepostas permitem identificar a coordenada

batimtrica predita de qualquer ponto e, o erro associado a ele.
Pode-se acessar essa informao atravs de uma consulta espacial sobre a

superfcie gerada. De acordo com a Figura 40, ao sobrepor os pontos batimtricos, e as
duas superfcies geradas pela Krigagem, encontram-se para os Pontos 01, 02 e 03, as
seguintes coordenadas (em metros) mostradas na Tabela 16.
72
Figura 32 Consulta espacial a superfcie interpolada pela Krigagem,

Krigagem e o seu erro
associado.
Tabela 16 Coordenadas dos Pontos 01, 02 e 03.

Ponto
Coordenada E
Coordenada N
Batimetria (m)
Erro (m)
01
299033
9033,630
9127074,799
0,17
1,11
02
300072,162
0072,162
9117021,802
11,40
1,57
03
300122,565
9109288,905
16,84
1,52
73
7. CONCLUSES E RECOMENDAES
A pesquisa teve como princpio a avaliao de diferentes modelos de
interpoladores com o objetivo de encontrar o modelo que representasse de forma mais
real um conjunto de amostras batimtricas pertencente a uma rea piloto em estudo.
De modo geral, as etapas definidas pela metodologia desenvolvida foram

ordenadamente
seguintes:
aquisio
anlise
dos
dados
batimtricos;
implementao das interpolaes; anlise dos resultados; e criao da superfcie

tridimensional.
A aquisio dos dados da rea piloto ocorreu junto coordenao do Projeto

MAI. A amostra constou de 65.041 pontos batimtricos, espacializados em 2 perfis na
direo norte-sul, e 137 perfis na direo oeste-leste, ao longo de uma superfcie de
aproximadamente 121Km2, compreendida entre os Municpios Paulista, Olinda, e
Recife. A distncia de 200 metros entre os perfis na direo oeste-leste foi inicialmente
questionada, entretanto a Coordenao do MAI esclareceu que esse espaamento se
encontra dentro dos padres estipulados, e no comprometeria a pesquisa.
A anlise descritiva dos dados batimtricos identificou a impossibilidade da

aplicao de testes paramtricos diretamente sobre os pontos batimtricos. Isso
aconteceu porque a distribuio desses pontos no era normal, e tambm por no se
encontrar um modelo de normalizao. Como condio de contorno, optou-se por fazer
74
uma anlise dos erros, entendidos como a diferena entre o valor medido e o valor
predito, obtido por validao cruzada, para cada interpolador estudado.
A implementao das interpolaes foi caracterizada pela aplicao dos

seguintes modelos: Inverso da Distncia Ponderada (IDP), Polinomial Local, Funo de
Base Radial (FBR), Polinomial Global e Krigagem.
A anlise dos erros baseou-se nos seguintes indicadores paramtricos:

normalidade da distribuio, mdia, desvio padro, intervalo de confiana para a mdia
e, diferena mdia entre duas amostras. Como resultado, identificou-se que o IDP foi
rejeitado ao nvel de significncia de 95%. O interpolador Polinomial Global tambm foi
rejeitado porque sabe-se que a superfcie gerada por ele um plano inclinado, o que
no condiz com a realidade. Os demais interpoladores no apresentaram diferena
significativa, ao nvel de confiana de 95%.
Apesar desse resultado, a Krigagem foi escolhida, pelas seguintes razes:

possibilidade de remoo da tendncia da amostra e gerao de uma superfcie de
erros.
Com base nessas concluses, afirma-se que a essa pesquisa cumpriu os

objetivos propostos, sugerindo-se o seguinte para estudos posteriores:
Comparar a distribuio das amostras estudadas com outras formas de

distribuies no-normais;
75
Empregar testes estatsticos no paramtricos diretamente sobre os pontos

batimtricos estudados; e
Implementar essa metodologia em outras reas da plataforma continental;
76
8. REFERNCIAS BIBLIOGRFICAS
ABSHER, T. M.; BORZONE, C. A.; BRANDINI, F. P.; LANA, P. da C.; SPACH, H. L.;
MARONE, E. Subsdios para Estudos Ambientais em reas Costeiras. Trabalho
tcnico Centro de Estudos do Mar da Universidade Federal do Paran, 2002.
AGRA, M. C. da M. Avaliao de Interpoladores para Gerao de Modelo Numrico
de Elevao. Recife, 2007. 76 p. Dissertao (Mestrado em Cincias Geodsicas e
Tecnologias da Geoinformao, Centro de Tecnologia e Geocincias, Universidade
Federal de Pernambuco.
ARONOFF, S. Geographic Information System: a Management Perspective. WBL
Publications. Ottawa, 1989.
AYRES, A.; NETO, J. A. B. Mtodos Diretos e Indiretos de Investigao do Fundo
Ocenico. In NETO, J. A. B.; PONZI, V. R. A.; SICHEL. S. E. Introduo geologia
marinha. Rio de Janeiro: Intercincia, 2004. cap. 6.
BAILEY, T. C.; GATRELL, A. C. Interactive Spatial Data Analysis. Prentice Hall;
Pap/Dsk edition. 1995. 432p.
BAJJALI, W. Model the Effect of Four Artificial Recharge Dams on the Quality of
Groundwater using Geostatistical Methods in GIS Environment, Oman. 2002.
Journal of Spatial Hydrology Fall, Vol. 5, N. 2. Department of Biology and Earth
Sciences, University of Wisconsin Superior, Superior, WI 54880.
BARROS FILHO, M. N. M. Krigagem Ordinria aplicada anlise espacial da
habitabilidade intra-urbana. O caso da Cidade do Recife (Brasil). In: VII Congresso
Internacional da Sociedade Latino-Americana de Estudos Imobilirios, 2007, So Paulo,
SP. VII Congresso Internacional da Sociedade Latino-Americana de Estudos
Imobilirios, 2007.
BIRD, E.C.F. (1981) Recent changes on the worlds sandy shorelines. In: BIRD,
E.C.F e KOIKE, K. (eds). Coastal dynamics and scientific sites: 5-30. Departament of
Geography, Kowazawa University, Japan.
BRASIL. Constituio (1988). Constituio da Repblica Federativa do Brasil. Artigo
225, 4. Braslia, DF, Senado, 1988.
77
BURROUGH, P. A.; McDONNELL, R. A. Principles of Geographical Information

Systems: Spatial Information Systems. Oxford University Press. Oxford, 1998.
BURROUGH, P. A. Principles of Geographical Information Systems for Land
Resources Assessment. Clarendon Press. Oxford, 1986.
CAMARGO, E. C. G. Desenvolvimento, implementao e teste de procedimentos
geoestatsticos (Krigeagem) no Sistema de Processamento de Informaes
Georreferenciadas (SPRING). 1997. Dissertao (Mestrado em Sensoriamento
Remoto) - Diviso de Processamento de Imagens, Instituto Nacional de Pesquisas
Espaciais (INPE), So Jos dos Campos, 1997.
CHAPLOT, V.; DARBOUX, F.; BOURENNANE, H.; Accuracy of interpolation
techniques for the derivation of digital elevation models in relation to landform
types and data density. Geomorphology Vol 77, Issues 1 2, Pages 126 141, 15
July 2006.
CHIN-SHUNG, Y.; SZU-PYNG, K.; FEN-BIN, L.; PEN-SHAN H.P Twelve Different
Interpolation Methods: A Case Study of Surfer 8.0. XXth International Society for
Photogrammetry and Remote Sensing (ISPRS) Congress. Istanbul, 2004.
COWEN D.J., GIS Versus CAD Versus DBMS: What are the Differences?
Photogrammetric Engineering and Remote Sensing, 54: 1551-1554. 1988.
DHN - DIRETORIA DE HIDROGRAFIA E NAVEGAO. Levantamentos
Hidrogrficos.
Disponvel
em:
<
https://www.mar.mil.br/dhn/chm/levhidrograficos/levanta.html>. Acesso em 2 de julho de
2009.
DIAS, J. A.; POLETTE, M.; CARMO, J. A. O Desafio da Gesto Costeira Integrada
(Prefcio). Revista de Gesto Costeira Integrada Vol. 7(1): pg 3-4, 2007.
ESTRADA, L.; SAFRIET, C. Advanced Techniques for Geographic Information
Systems.
2006.
SPA
Computer
Lab.
Disponvel
em
<www.spa.ucla.edu/up206b/interpolation_methods.htm>, acesso em 25/11/2006.
FIELD, A. P. (2009). Descobrindo a estatstica usando o SPSS. Porto Alegre, Brasil,
Artmed, 2a edio.
78
FONSECA, L.; MAYER, L.; PATON, M. ArcView Objects in the Fledermaus

Interactive 3-D Visualization System: An Exemple from the STRATAFORM GIS.
Undersea with GIS. Chapter 1, page 1-21. ESRI, 2002.
HOEFEL, F. Morfodinmica de Praias. Ed. UNIVALI. Itaja, Santa Catarina, Brasil.
1998.
JAKOB, A. A. E.; YOUNG, A. F. Uso de Mtodos de Interpolao Espacial de Dados
nas Anlises Sociodemogrficas. XV Encontro Nacional de Estudos Populacionais,
Caxamb: ABEP, 2006.
KRUEGER, C. P. Levantamentos Batimtricos. Revista InfoGPS, Edio 10,
29/08/2005.
Artigo
disponvel
em:
<http://www.mundogeo.com.br/revistasinterna.php?id_noticia=4673> . Acessado em 04 de mar 2008.
________________. Investigaes sobre aplicaes de alta preciso no mbito
marinho. 1996. Tese apresentada ao Curso de Ps Graduao em Cincias
Geodsicas do Setor de Tecnologia da Universidade Federal do Paran, como requisito
parcial obteno do grau de doutora. Curitiba, 1996.
________________. SOUZA, E. C. B.; TEDESCO, A. Modelagem Tridimensional de
Superfcies: Abordagem sobre Interpoladores na Gerao de Modelos
Batimtricos. Anais do III Colquio Brasileiro de Cincias Geodsicas, maio de 2003,
Curitiba
PR.
Disponvel
em:
<http://www.isprs.org/congresses/istanbul2004/comm2/papers/231.pdf>. Acesso em 07
de Fevereiro de 2010.
KRUG, L. A.; NOEMBERG, M. A. Extrao de batimetria por sensoriamento remoto
de reas rasas dos sistemas estuarinos do Estado do Paran - Brasil. Anais XII
Simpsio Brasileiro de Sensoriamento Remoto, Goinia, Brasil, 16-21 abril 2005, INPE,
p. 3077-3084.
MAI. Monitoramento Ambiental Integrado Avaliao dos Processos de Eroso
Costeira nos Municpios de Paulista, Olinda, Recife e Jaboato dos Guararapes.
Projeto executivo. UFPE - Universidade Federal de Pernambuco, 2004.
MAI. Projeto Monitoramento Ambiental Integrado Avaliao dos processos de eroso
costeira nos Municpios de Paulista, Olinda, Recife e Jaboato dos Guararapes.
Relatrio Final - Volume 1. UFPE - Universidade Federal de Pernambuco, Recife,
2009.
79
MELLO, J. M.; BATISTA, J. L. F.; RIBEIRO JR., P. J.; OLIVEIRA, M. S. Ajuste e

seleo de modelos espaciais de semivariograma visando estimativa
volumtrica de Eucalyptus grandis. Revista SCIENTIA FORESTALIS n. 69, p.25-37,
dez. 2005, Instituto de Pesquisas e Estudos Florestais - IPEF.
MICHAEL, R.; TRIVELONI, C. A. P. Uso de Inferncia Estatstica e Anlise de
Superfcie de Tendncia para Avaliao em Massa de Imveis. UFSC
Departamento de Engenharia Civil. Florianpolis/SC. COBRAC 2006 - Congresso
Brasileiro de Cadastro Tcnico Multifinalitrio - UFSC - Florianpolis - 15 a 19 de
Outubro 2006.
NETO, J. A. B.; SILVA, C. G.; In NETO, J. A. B.; PONZI, V. R. A.; SICHEL, S. E.
Introduo geologia marinha. Rio de Janeiro: Intercincia, 2004. cap. 6.
NICOLODI, J. L.; TOLDO JR, E. E. Morfodinmica de praias: uma ferramenta para
gestores de ambientes costeiros - o caso da Praia de Fora, Parque Estadual de
Itapu, RS. Natureza e Conservao . pp. 22-32 Artigos Cientficos. Vol 1 . n2 . Out
2003.
RIBEIRO, S.; CENTENO, A.; KRUEGER, C. Estimativa de profundidade a partir de
levantamento batimtrico e dados ikonos ii mediante redes neurais artificiais.
Boletim de Cincias Geodsicas, Amrica do Sul, 14 18 07 2008.
SCHAFFRATH, V. R.; TORMENA, C. A.; GONALVES, A. C. A.; OLIVEIRA JUNIOR,
R. S. Variabilidade Espacial de Plantas Daninhas em Dois Sistemas de Manejo de
Solo. Revista Brasileira de Engenharia Agrcola Ambiental, Campina Grande, v. 11, n.
1, 2007. Disponvel em: <http://www.scielo.br/scielo.php?script=sci_arttext&pid=S141543662007000100007&lng=pt&nrm=iso>. Acesso em: 10 Agosto 2007.
SERAFINI, L. Z. O Zoneamento Costeiro e as Competncias Municipais: Uma
Anlise a luz da Legislao Ambiental Brasileira. 2010. Disponvel em:
<www.ibap.org/teses2004/teses2004d26.doc>. Acesso em 04 de Fevereiro de 2010.
SILVEIRA, T. A.; PORTUGAL, J. L.; BARROS FILHO, M. B. B. O Diagrama de Voronoi
e suas aplicaes nos Sistemas da Geoinformao. II Jornada Nacional de
Produo Cientfica em Educao Profissional e Tecnolgica. So Lus MA, 2007.
SMITH, T. R.; MENON, S.; STAR, J. L.; ESTER J. E.; Requirements and Principles
for the Implementation and Construction of Large Scale Geographical Information
System. International Journal of Geographical Information System, vol 1 n1, pages 1331, 1987.
80
SOARES, A. Geoestatstica para as cincias da terra e do ambiente. Lisboa:

Instituto Superior Tcnico (IST) Press, 2000.
WRIGHT, D. J.; BLOGENWICZ, M. J.; HALPIN, Patrick N.; BREMAN, J. Foreword by
Jane Lubchenco. Arc Marine: GIS for a Blue Planet. 1 Edition, ESRI, California, 2007.
81

Silveira 2010

Uploaded by

Document Information

Copyright

Available Formats

Share this document

Share or Embed Document

Sharing Options

Did you find this document useful?

Is this content inappropriate?

Copyright:

Available Formats

Silveira 2010

Uploaded by

Copyright:

Available Formats

UNIVERSIDADE FEDERAL DE PERNAMBUCO

CENTRO DE TECNOLOGIA E GEOCINCIAS

MODELOS DE INTERPOLADORES APLICADOS A

THYAGO DE ALMEIDA SILVEIRA

Orientador: Prof. Dr. Jos Luiz Portugal

UNIVERSIDADE FEDERAL DE PERNAMBUCO

THYAGO DE ALMEIDA SILVEIRA

MODELOS DE INTERPOLADORES APLICADOS A CONSTRUO DE

Dissertao apresentada ao Programa de Ps-Graduao

Orientador: Prof. Dr. Jos Luiz Portugal

S587m Silveira, Thyago de Almeida.

Dedico essa dissertao a meus pais Maria Carmem e Manoel, e ao meu

Gostaria de agradecer aos rgos responsveis que contriburam para a

Aperfeioamento de Pessoal de Nvel Superior CAPES, por todo apoio

A Universidade Federal de Pernambuco UFPE; Ao Departamento de

Aos Professores do PPCGTG, e em especial a Prof. Dr. Andrea

Agradecimento mais que especial a Prof. Dr. Lucilene Marqus S, pelo

Aos rgos do Governo do Canad responsveis pelo fomento do Graduate

Ao Department Geodesy e Geomatics Engineering da Universidade de

A Vernica McGinn, Conference Coordinator of Centre for Property Studies

Ao Instituto Federal de Educao, Cincia e Tecnologia da Paraba (IFPB), o

Maria das Graas Negreiros de Medeiros

Educacional) e Aguinaldo Tejo Filho (Diretor Administrativo). E aos colegas

A NAVTEQ do Brasil, na pessoal do Msc. Osni de Luna Filho, por sua

Aos colegas da PPCGTG, pelo companheirismo e aprendizado mtuo.

A minha noiva, Nathlia Barbosa, obrigado pela cincia descoberta na

Aos meus familiares, pela presena e incentivo desde sempre. Demais

SILVEIRA, Thyago de Almeida. MODELOS DE INTERPOLADORES APLICADOS A

Dissertao (Mestrado) - Centro de Tecnologia e Geocincias, Universidade Federal

Nas ultimas dcadas as Tecnologias da Geoinformao, e mais precisamente os

gerenciamento de zonas costeiras e ocenicas. As amostras pontuais, resultantes

conjunto de amostras de entrada, com base em anlises estatsticas espaciais, de

Palavras-Chave: Sistemas de Informao Geogrfica (SIG), Levantamentos

SILVEIRA, Thyago de Almeida. INTERPOLATIONS MODELS APPLIED TO

Interpolations Models, Geoestatistic Analysis.

Processo de Criao de superfcies usando Interpoladores...............19

Variao espacial da varivel regionalizada....................................... 31

Predio do ponto W usando a Krigagem Ordinria.......................... 40

Matriz de localizao espacial dos pontos conhecidos...................... 40

Matriz de distncia entre os pontos conhecidos................................. 42

Vetor de distncia entre os pontos conhecidos e o ponto predito...... 42

Matriz de semivarincia dos pontos conhecidos (A)...........................42

Vetor da semivarincia entre os pontos conhecidos e o ponto

Matriz inversa da semivarincia dos pontos medidos.........................43

Vetor de pesos e suas respectivas distncias.................................... 44

rea de estudo do Projeto MAI...........................................................49

Histograma com a curva normal das amostras medidas.................... 56

transformadas por logaritmo............................................................... 57

transformadas por radiciao............................................................. 58

transformadas por reciprocidade....................................................

Elipse de busca usada na interpolao por IDP................................. 59

Histograma com a curva normal dos erros do IDP..........................

Histograma com a curva normal dos erros do Polinmio Local........ 62

Histograma com a curva normal dos erros da FBR......................... 64

Histograma com a curva normal dos erros do Polinmio Global........ 65

Grfico de Tendncia das amostras batimtricas em estudo........... 66

Histograma com a curva normal dos erros da Krigagem....................68

Superfcie batimtrica obtida pela Krigagem (a), e sua Superfcie de

Representao Batimtrica Tridimensional gerada.......................... 72

Consulta espacial a superfcie interpolada pela Krigagem, e o seu

Parmetros do Teste de Kolmogorov-Smirnov................................

Teste de K-S para as profundidades normalizadas............................ 57

Estatsticas dos erros obtidos da validao cruzada do IDP............ 60

Teste da normalidade para os erros interpolados do mtodo IDP......60