Professional Documents
Culture Documents
Usabilidade, Acessibilidade e
Qualidade da Web da Administrao
Pblica Portuguesa
Ricardo Nuno Moreira de Carvalho
Orientador:
Professor Doutor Pedro Faria Lopes, Professor Associado,
Instituto Universitrio de Lisboa
outubro, 2015
Agradecimentos
Ao meu orientador, Professor Pedro Faria Lopes, que me contagiou com a sua paixo pela
Usabilidade e que me ensinou a ser exigente e a compreender a importncia dos detalhes.
Ao Dr. Jorge Fernandes, da Unidade Acesso da Fundao para a Cincia e Tecnologia,
pelas informaes prestadas e colaborao preciosa. Ao Tiago Morin pelo apoio e disponibilidade constante. Ao Nuno Dominguinhos, do Ministrio da Sade, pela oportunidade de
discutir a qualidade de servios pblicos na Internet. Ao Ivo Gomes, do Departamento de
Qualidade e Usabilidade do Sapo pelos esclarecimentos dados.
Elsa Marques e Sara Mendes pela ajuda na reviso deste documento.
Ao Joo Fernandes, da Novabase, com quem tanto aprendi e cujo feedback e couching
foi incansvel. Ao Antnio Nogueira e a todos os meus colegas pelo ambiente incrvel de
trabalho. Ao Natalino pela oportunidade inigualvel de aprendizagem.
A todos que os que estudaram comigo no ISCTE, em especial ao Jairo Avelar, David
Jardim, Fbio Vitrio, Hugo Marcos, Joana Fonseca, Saul Fino de Sousa, Carlos Pires, Ana
Rita Sousa, Renato Vieira dos Santos, Tiago Mata, Ana Antunes e Tiago Moreiras. Foi um
prazer crescer convosco.
A todos os meus amigos, em especial ao Daniel F. & Fatinha, David, Joel, Fbio, Natacha,
Bruno, Daniel L, Marco, Rui e Sara(s) M.
Ao meu irmo Bruno e cunhada Carla pela verdadeira amizade que nos une. Aos meus
sobrinhos Gonalo e Joana, pela generosidade da alegria que contagia tudo ao vosso redor.
Aos meus pais por terem assumido como objetivo de vida a educao e formao dos
filhos e por me terem poupado a vrias tarefas para eu estivesse mais disponvel para crescer,
aprender e voar. Obrigado pela gratuidade do vosso amor.
Cludia, pela inspirao que me d e por me mostrar todos os dias que a vida faz mais
sentido quando a partilhamos. Obrigado por te amar mais a cada dia.
SDG.
ii
Resumo
Para muitas pessoas, a Web tornou-se uma ferramenta de trabalho e de lazer incontornvel. Contudo, as tecnologias que a suportam so cada vez mais complexas. Quando no
so usadas de forma correta podem originar consequncias negativas para os utilizadores,
tais como erros ou dificuldades de acesso informao. No caso de stios Web de organismos pblicos, o impacto da falta de qualidade dos seus stios Web pode ser oneroso. Num
mercado onde no h concorrncia e que muitas vezes obriga os cidados a usar este canal
para interagir com servios pblicos, cabe ao Estado assegurar que os seus stios Web tenham
qualidade e sejam acessveis a todos os cidados, inclusivamente a cidados com necessidades
especiais.
Em estudos anteriores, foi usado um mtodo de avaliao que atualmente apresenta
indicadores obsoletos e que esto focados na anlise de contedos em detrimento de outros
indicadores importantes que so privilegiados neste estudo.
Neste estudo realizou-se uma avaliao dos stios Web de 130 organismos da Administrao Pblica portuguesa, aplicando um modelo desenvolvido com base na literatura de referncia sobre a temtica em estudo e o suporte normativo vigente. Um total de 33 indicadores
foram analisados, distribudos por quatro critrios: contedos, acessibilidade, usabilidade e
eficcia. Os critrios de usabilidade e eficincia foram usados pela primeira vez num estudo
deste gnero.
Face anlise feita, foram detetadas lacunas, erros crticos e faltas de conformidade, pelo
que so apresentadas sugestes de melhoria e mecanismos para assegurar o cumprimento dos
requisitos de qualidade.
Palavras Chave
Qualidade, Usabilidade, Acessibilidade, User Experience, Webstandarts, Auditoria, Engenharia da Usabilidade, Modelo de Avaliao de Usabilidade e Acessibilidade Web, Administrao Pblica Eletrnica, AccessMonitor
iii
iv
Abstract
For many people, Web has become an indispensable tool for working or leisure. However,
the technologies that support it are increasingly complex. When such technologies are not
used properly, a range of negative consequences for users can occur, such as errors or difficulties accessing information. In the case of websites from government agencies, the impact
of their lack of quality may be huge. In a market without competition and where citizens
are often required to use Web channel to interact with public services, the government must
ensure the quality of its sites and that they can be accessed by all citizens including those
with disabilities.
In this work, we carried out an evaluation of 130 websites of Portuguese government
agencies, based on a methodology developed for this purpose. This methodology is based on
the literature and law. Weve evaluated 33 indicators, distributed by four criteria: content,
accessibility, usability and efficiency. This is the first study of its kind using usability and
efficiency as criteria of quality.
Previous works were done using a methodology that currently has obsolete indicators and
are focused on content analysis, rather than other important indicators that are privileged
in this work.
We found many gaps, critical errors and noncompliances. Proposals are made to implement improvements and mechanisms to ensure compliance with these quality requirements.
Keywords
Quality, Usability, Accessibility, User Experience, Webstandarts, Audit, Usability Engineering, Web Checking Accessibility and Usability Model, Electronic Public Administration,
AccessMonitor
vi
Contedo
Agradecimentos
Resumo
iii
Abstract
Lista de Figuras
ix
Lista de Tabelas
Lista de Abreviaturas
1 Introduo
1.1 Contextualizao e definio
1.2 Motivao . . . . . . . . . .
1.3 Objetivos . . . . . . . . . .
1.4 Investigao . . . . . . . . .
xii
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
1
3
4
5
5
2 Contextualizao Terica
2.1 Interao Pessoa-Mquina . . . . . . . . . . . . . . . . . . . . . . .
2.1.1 Origens . . . . . . . . . . . . . . . . . . . . . . . . . . . . .
2.1.2 Definies e contexto . . . . . . . . . . . . . . . . . . . . . .
2.2 Usabilidade . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .
2.2.1 Definies de Usabilidade . . . . . . . . . . . . . . . . . . .
2.2.2 Conceo Centrada no Utilizador . . . . . . . . . . . . . . .
2.2.3 Experincia do Utilizador e Usabilidade . . . . . . . . . . .
2.2.4 Articulao das normas relacionadas com a Usabilidade . .
2.2.5 Mtodos e Testes de Usabilidade . . . . . . . . . . . . . . .
2.2.6 Comparao de Mtodos de Avaliao de Usabilidade . . .
2.3 Acessibilidade Web . . . . . . . . . . . . . . . . . . . . . . . . . . .
2.3.1 World Wide Web Consortium e Web Accessibility Initiative
2.3.2 Guias para desenvolvimento Web . . . . . . . . . . . . . . .
2.3.3 Diretrizes de Acessibilidade para o Contedo Web . . . . .
2.3.4 Ferramentas de verificao de Acessibilidade . . . . . . . . .
2.3.5 Legislao Portuguesa sobre Acessibilidade . . . . . . . . .
2.3.6 Estudos sobre Acessibilidade em Portugal . . . . . . . . . .
2.4 Qualidade . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .
2.4.1 Definio de Qualidade de Software . . . . . . . . . . . . .
2.4.2 Critrios e Indicadores de Qualidade de stios Web . . . . .
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
7
8
8
9
10
10
13
14
15
16
24
26
26
27
28
30
30
31
31
32
32
do
. .
. .
. .
problema
. . . . . .
. . . . . .
. . . . . .
vii
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
3 Abordagem e Metodologia
3.1 Faseamento do Estudo . . . . . . . . . . . . . . .
3.2 Conceo do Modelo de Avaliao . . . . . . . . .
3.2.1 Critrios e Indicadores Adotados . . . . .
3.2.2 Pesos de Critrios e de Indicadores . . . .
3.2.3 Medidas . . . . . . . . . . . . . . . . . . .
3.2.4 Detalhes de atribuies de pontuaes por
3.3 Definio do Universo do Estudo . . . . . . . . .
3.3.1 Critrios de incluso de organismos . . . .
3.3.2 Critrios de excluso de organismos . . .
3.3.3 Identificao de organismos a analisar . .
3.4 Ferramentas usadas na recolha de dados . . . . .
. . . . . .
. . . . . .
. . . . . .
. . . . . .
. . . . . .
indicador
. . . . . .
. . . . . .
. . . . . .
. . . . . .
. . . . . .
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
35
35
36
36
43
43
44
50
51
52
52
52
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
57
57
59
59
59
60
62
67
72
75
. . .
. . .
. . .
. . .
. . .
. . .
. . .
. . .
final
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
5 Propostas apresentadas
79
83
83
86
Bibliografia
87
Apndices
97
99
105
111
117
121
viii
Lista de Figuras
2.1
2.2
2.3
16
2.5
3.1
3.2
3.3
3.4
3.5
35
53
54
55
56
4.1
2.4
4.2
4.3
4.4
4.5
4.6
4.7
ix
. . .
. . .
. .
. . .
. . .
9
14
18
20
65
69
70
71
72
72
77
Lista de Tabelas
2.1
2.2
2.3
21
22
25
3.1
3.2
37
4.1
4.2
4.3
4.4
55
63
64
66
67
68
72
73
76
76
77
A.1 Classificao final dos organismos analisados, organizados por rea funcional .
99
4.5
4.6
4.7
4.8
4.9
4.10
4.11
4.12
4.13
B.1
B.2
B.3
B.4
Tempo
Tempo
Tempo
Tempo
mdio
mdio
mdio
mdio
de
de
de
de
carregamento
carregamento
carregamento
carregamento
58
58
61
xi
xii
Lista de Abreviaturas
AMA
AO90
ATAG
AP
CAGR
CCW
CS
CSS
CWW
DNS
DR
EPE
EUA
EM
GPB
HCD
HCI
HTML
HTTP
IEC
IPM
ISO
KB
MB
PDF
QUAR
RCM
RNID
SIADAP
SERP
SEO
TIC
PGETIC
xiv
Captulo 1
Introduo
User experience is everything. It always has been, but its still undervalued and
under-invested in. If you dont know user-centered design, study it. Hire people who
know it. Obsess over it. Live and breathe it. Get your whole company on board.
Better to iterate a hundred times to get the right feature right than to add a hundred
more.
O surgimento dos computadores causou um grande impacto na vida das pessoas. Eles
revolucionaram a forma como trabalhamos, comunicamos, aprendemos e nos divertimos.
Progressiva e sistematicamente, os computadores tornaram-se ferramentas de trabalho indispensveis em mais reas de atividade e profisses.
Curiosamente, os computadores so referidos pelos seus utilizadores como uma das coisas
mais difceis de usar e nem sempre os grandes investimentos realizados na adoo das novas
tecnologias se repercutiram numa melhoria efetiva da produtividade e do bem-estar dos
seus utilizadores (Wickens, Lee, Liu, & Becker, 2003). Alis, Landauer (1996) refere que os
computadores falharam na promessa de gerar grandes retornos e que na realidade no existe
uma relao sistemtica entre os investimentos realizados nas tecnologias de informao e a
produtividade dos trabalhadores. Em contraponto, Norman (1998) defende que essa relao
existe e que se tem vindo a alterar medida que d mais ateno s necessidades dos
utilizadores.
A pouca qualidade da conceo de interfaces de Software tem sido identificada como
causa de muitas falhas e acidentes (Landauer, 1996). Para alm de redues de produtividade, Galitz (1993) alerta para consequncias como confuso, desconforto, aborrecimento,
frustrao e uso inapropriado dos sistemas.
Nas ltimas dcadas assistiu-se a um grande desenvolvimento tecnolgico que melhorou
a forma como interagimos com os computadores. Por exemplo, no final dos anos 70, o
1
1.1
Desde o surgimento da Web, as empresas comearam a usar este meio para promover
os seus produtos e servios. Contudo, com a evoluo da Web, muitas organizaes no
foram flexveis o suficiente para se adaptarem to rapidamente quanto seria necessrio na
obteno de bons resultados (Loveday & Niehaus, 2007). Hoje em dia, algumas organizaes
continuam a ignorar o potencial da Web. Por exemplo, alguns stios no so atualizados
periodicamente com informao de relevo sobre as atividades das organizaes. De qualquer forma, num mercado concorrencial, a melhoria das competncias Web de empresas
concorrentes poder servir de alavanca para que todas as empresas sintam a necessidade de
progredir nesta rea.
O cenrio diferente na Administrao Pblica (AP). Segundo Oliveira et al. (2003), a
Internet e a Web at j so consideradas ferramentas de governao. Os cidados que tm
acesso Internet so capazes de aceder informao de uma forma mais clere e executar
vrias tarefas de forma eficaz e eficiente. No entanto o acesso a estas tecnologias no
uniforme, isto , nem todos os stios Web esto acessveis, por exemplo, a cidados com
necessidades especiais (Krishnamurthy, 2002). Neste caso, existem duas preocupaes principais a ter em conta. A primeira diz respeito ausncia de concorrncia como fora motriz
para garantir o desenvolvimento e a melhoria da Usabilidade e Acessibilidade dos stios Web.
A segunda relaciona-se com a natureza de alguns organismos, isto , com a especificidade dos
servios pblicos que prestam: todos os cidados so obrigados, em alguma altura das suas
vidas, a usar os seus servios (por exemplo, os servios das Finanas ou de Segurana-Social).
Para Vidigal (2002) tanto a administrao central como a local devem assegurar que as
suas tecnologias de informao e comunicao so adequadas, para que possam disponibilizar informao relevante aos cidados e para que estes, de forma clara e clere, acedam
informao que procuram de forma a facilitar o seu exerccio da cidadania. A Administrao Pblica tem, assim, uma responsabilidade acrescida nas questes de Usabilidade e de
Acessibilidade.
necessrio garantir, atravs de mecanismos e procedimentos, que os stios Web pblicos
cumprem um conjunto de requisitos mnimos de Usabilidade e de Acessibilidade. Deste modo,
nos ltimos anos tem sido criada legislao que obriga todos os stios da Administrao
Pblica a seguir boas prticas e recomendaes internacionais.
Contudo, em muitos casos, os organismos no esto cientes de tais obrigaes. Importa,
ento, fazer uma reviso das normas e recomendaes existentes, procurando verificar se se
encontram atualizadas e alinhadas com a literatura existente. tambm necessrio proceder
a uma anlise qualitativa dos stios Web dos organismos pblicos para garantir que a lei
aplicada.
1.2
Motivao
Entre 2000 e 2014 o nmero de utilizadores da Internet cresceu a uma taxa anual mdia
de 16,5%, fazendo dela o meio com maior crescimento da atualidade (Group, 2015) e no final
de 2014, 65% da populao portuguesa usava a Internet de forma regular (Pordata, 2015).
As motivaes para a realizao deste estudo, prendem-se com um conjunto de fatores,
como a busca de conhecimento, a experincia e a frustrao sentidas pelo autor, ao estar
durante os ltimos anos envolvido no desenvolvimento de projetos para a Web cujos objetivos
viu parcialmente falharem por razes que lhe eram externas. O desejo de compreender
as razes destas falhas sensibilizou-o para a rea da interao pessoa-mquina, uma vez
que compreendeu que a origem dos problemas radicava essencialmente em deficincias na
conceo das interfaces.
De acordo com Nielsen (1999), existem fundamentalmente duas abordagens no design
para a Web: (i) uma abordagem artstica, numa tentativa de expresso de uma ideia nova e
criativa e outra (ii) relacionada com a engenharia, que tem como ideal o interesse de resolver
um problema concreto.
Estas duas abordagens, embora complementares, entram muitas vezes em conflito. Por
vezes os stios Web so desenvolvidos para serem inovadores, privilegiando uma abordagem
artstica. Contudo, a abordagem que a engenharia prope metdica e sistemtica, procurando encontrar e corrigir as dificuldades no uso de stios Web. Existe ainda uma abordagem
comercial, pois prtica do mercado reutilizar elementos criados em projetos anteriores ou
utilizar ferramentas de gerao automtica de cdigo. Tais prticas aumentam a velocidade
de conceo e baixam o custo de desenvolvimento, mas tm como desvantagem a adaptao
do desenvolvimento a elementos pr-existentes. Assim, em vez de se conceber interfaces em
funo dos utilizadores, ocorre o contrrio, isto , os utilizadores so forados a adaptarem-se
aos interfaces j existentes.
Por outro lado, os stios devem ser acessveis a todos os cidados. A igualdade um
dos princpios do Estado e uma preocupao social na medida em que permite aumentar as
oportunidades dos cidados no acesso informao, educao e ao emprego. Os dados dos
Censos de 2001 identificaram a existncia de cerca de 636 mil pessoas com pelo menos um
tipo de deficincia em Portugal (C. Gonalves, 2003). Os Censos de 2011 apuraram cerca de
892 mil cidados com dificuldade na viso e mais de dois milhes de cidados com idade igual
ou superior a 65 anos (INE, 2011). Estes utilizadores podem aproveitar as possibilidades que
a Web lhes oferece, atravs da utilizao de tecnologias de apoio, para minimizar as suas
limitaes de uma forma que nenhum outro meio alguma vez possibilitou.
A investigao que se apresenta procura seguir e propor a utilizao de metodologias e
regras prticas tendo como objetivo tornar os stios Web da AP fceis, teis e agradveis de
usar.
1.3
Objetivos
1. Aferir a qualidade, usabilidade e acessibilidade dos stios Web da AP, com base num
conjunto de boas prticas baseada na literatura e na lei;
2. Identificar as principais limitaes dos stios Web da AP e apresentar recomendaes
que possam levar ao aperfeioamento e melhoria da qualidade geral das pginas Web
em funcionamento;
3. Propor uma metodologia de avaliao das pginas Web da AP, baseado em indicadores
objetivos que promovam uma comparao simples e transparente dos stios Web.
1.4
Investigao
Captulo 2
Contextualizao Terica
The problem is how to take into account the human and contextual part of a system
with anything like the rigor with which other parts of the system are understood and
designed - how to go beyond fuzzy platitudes like know the user that are true, but
do not give a method for doing or a test for having done. This is difficult to do,
but inescapable, and, in fact, capable of progress. Over the years, the need to take
into account human aspects of technical systems has led to the creation of new fields
os study: applied psychology, industrial engineering, ergonomics, human factors,
machine systems. Human-computer interaction is the latest of these.
2.1
2.1.1
Interao Pessoa-Mquina
Origens
A expresso Human-Computer Interaction (HCI) (Interao Pessoa-Mquina)1 tornouse popular com a publicao de um artigo em 1980 que propunha um modelo de avaliao da
performance de utilizadores de sistemas interativos (Card et al., 1980). No obstante, para
Dix et al. (2003) as razes da disciplina so mais antigas e remontam ao incio do sculo XX,
com a realizao de estudos de performance dos trabalhos manuais de operrios fabris.
Em 1943, um tenente norte-americano chamado Alphonse Chapanis estudou o comportamento de pilotos de aeronaves e mostrou ser possvel reduzir o nmero de acidentes com
avies militares, alterando o design dos comandos de pilotagem (Meister, 1999). Oito anos
depois publicou o primeiro livro sobre ergonomia Applied Experimental Psychology: Human Factors in Engineering Design (Chapanis, 1949). Nesse mesmo ano, Murrell cunhou
a expresso ergonomia, criando um instituto de investigao multidisciplinar que reunia
especialistas de vrias reas (Factors, 2012).
A palavra ergonomia tornou-se popular no continente europeu, enquanto nos Estados
Unidos da Amrica (EUA) ficou conhecida como Fatores Humanos (Human Factors). Desde
ento a ergonomia cresceu enquanto disciplina focada no estudo das interaes entre equipamentos usados pelas pessoas, no sentido de maximizar a performance das mquinas e o
bem-estar dos seus utilizadores (R. M. Carvalho, 2013).
Acredita-se que a primeira vez que a ergonomia foi usada num estudo relacionado com
a conceo de computadores foi em 1959, numa reformulao de um computador analgico
EMIAC II, destinado a uma central nuclear. O artigo Ergonomics for a Computer refere
que o objetivo deste estudo foi reduzir potenciais riscos para os seus utilizadores e o projeto
alcanou um enorme sucesso (Electronics, 1959). Em 1968, Douglas Engelbart apresentou
um trabalho de investigao (Engelbart & English, 1968) levado a cabo pelo Augmentation
Research Center da Stanford Research Institute e usou pela primeira vez a expresso ManComputer Interaction 2 .
Anos depois, Carlisle (1976) publicou um artigo sobre o impacto das novas tecnologias
de comunicao como o correio eletrnico e os processadores de texto. Foi neste artigo que
a expresso Interao Pessoa-Mquina foi cunhada, embora o termo s se tenha tornado
verdadeiramente popular em 1983 aps a publicao do livro The Psychology of HumanComputer Interaction de Stuart K. Card et al. (Card, Moran, & Newell, 1983).
A partir de ento, a disciplina de Interao Pessoa-Mquina tornou-se uma disciplina
1
U2 Application Areas
Human
H1 Human
Information
Processing
H2 Language,
Communication
and Interaction
H3
Ergonomics
D3 Evaluation
Techniques
C1 Input and
Output Devices
Computer
C2 Dialogue
Techniques
C4 Computer
Graphics
C3 Dialogue
Genre
C5 Dialogue
Architecture
D4 Example Systems
and Case Studies
D1 Design
Approaches
D2 Implementation
Techniques and Tools
Development Process
2.1.2
Definies e contexto
2.2
Usabilidade
2.2.1
Definies de Usabilidade
Mais tarde alteradas para dez. O modelo de avaliao com base em heursticas ser apresentado na seco
2.2.5.
10
Anos mais tarde, Nielsen (1993) props uma definio global de Usabilidade com cinco
atributos:
Facilidade de aprendizagem (learnability ): que mede a facilidade e rapidez com
que os utilizadores aprendem a usar um sistema e a realizar tarefas com ele;
Eficincia (efficiency ): que mede a velocidade com que os utilizadores conseguem
realizar tarefas, aps terem aprendido a usar um determinado interface;
Facilidade de memorizao (memorability ): que mede a facilidade com que os
utilizadores voltam a usar um determinado interface com xito aps um perodo de
ausncia;
Erros (errors): que mede quantos erros os utilizadores fazem, a gravidade desses
erros e a facilidade com que os utilizadores os conseguem ultrapassar;
Satisfao (satisfaction): que mede o quo agradvel de usar o interface.
Uma vez que na norma ISO/IEC 9126:1991 o mbito da Usabilidade estava restrito
conceo da interface sem nunca envolver o utilizador, o que na prtica tornava impossvel
saber se os utilizadores iriam conseguir usar o produto. Por isso, em 1998 foi publicada a
parte 11 da norma ISO 9241 (ISO-9241-11:1998 Ergonomic requirements for office work
with visual display terminals (VDTs) Part 11: Guidance on usability)4 que alargou o
mbito da Usabilidade que passou a estar definida como capacidade de um produto poder ser
usado por utilizadores especficos para alcanar objetivos especficos com eficincia, eficcia
e satisfao num contexto especfico de uso (ISO, 1998). Nesta norma, a Usabilidade foi
apresentada com trs subcaracterticas:
11
Nielsen (2003b, 2006) sintetizou ainda a Usabilidade como um atributo de qualidade que
permite verificar a facilidade de uso de uma interface ou produto, com a celeridade com que
uma pessoa o aprende a usar e com o seu grau de satisfao com ele.
Em 2001 a norma ISO/IEC 9126:1991 foi revista e passou a estar dividida em quatro
partes (ISO/IEC 9126-1,9126-2, 9126-3, 9126-4). A principal novidade desta reviso residiu
no facto do modelo de qualidade passar a ter em conta tambm o uso real e concreto do software num determinado contexto (conceito da qualidade em uso). Nesta reviso da norma,
a Usabilidade passou a ser definida como: a capacidade de um software ser compreendido,
apreendido, usado pelo utilizador e cujo utilizador gosta de usar (ISO/IEC, 2001). Nesta
nova verso, foram acrescentadas duas subcaractersticas Usabilidade, a Atratividade
(attractiveness), caracterizada pela capacidade de um produto de software ser agradvel ao
utilizador e a Conformidade de Usabilidade (Usability Compliance), caracterizada pela
capacidade de um produto de software aderir a normas, convenes, guias de estilo ou regulamentaes relacionadas com a Usabilidade. Para alm destas subcaratersitcas especficas da
Usabilidade, foram introduzidas quatro caractersticas gerais, aplicveis ao contexto de uso
e que so genricas e aplicveis a todas as caractersticas (includo a Usabilidade): Eficcia,
Produtividade, Segurana e Satisfao (ISO/IEC, 2001).
J para Krug (2005, p.5), a Usabilidade garante que uma determinado produto funciona
5
12
corretamente e que um utilizador o pode usar seja um stio Web, uma avio de caa ou
uma porta giratria para a sua finalidade inicial, sem ficar irremediavelmente frustrado.
Entretanto, em 2011 a norma ISO/IEC 9126 (9126-1,9126-2, 9126-3, 9126-4) foi substituda pela ISO/IEC 25010 que passou a definir a Usabilidade da mesma forma que feita
pela ISO 9241-11 (ISO/IEC, 2011).
2.2.2
13
1. Planear o processo
centrado no utilizador
2. Especificar o contexto de uso
3. Especificar os requisitos da
organizao e dos utilizadores
4. Produzir solues de desenho
5. Avaliar as solues de conceo em
relao aos requisitos dos utilizadores
6. Encontram-se os requisitos
Em vez de Conceo centrada no utilizador, Dix et al. (2003) usa a expresso conceo
participativa para designar uma abordagem de desenvolvimento que mantenha uma relao
prxima e permanente entre a equipa de desenvolvimento e os utilizadores. Contudo, Nielsen
(1999) alerta para o facto do envolvimento muito prximo entre a equipa de desenvolvimento
e os utilizadores poder ser contraproducente, uma vez que estes podem ser influenciados pelo
pensamento dos membros da equipa. Assim, o ideal envolver os utilizadores ao longo de
todas as fases de desenvolvimento de um projeto, procurando no influenciar as suas opinies.
O propsito da Engenharia de Usabilidade segundo Donahue et al. (1999) de acentuar
a qualidade (Bevan, 1995) da experincia do utilizador (UX) enquanto assegurar qualidade
concentra-se em elementos com que os utilizadores no interagem diretamente, tal como
integridade do cdigo produzido. Por outras palavras, pode-se dizer que a conceo centrada
no utilizador um processo para alcanar uma boa experincia do utilizador.
2.2.3
As expresses Experincia do Utilizador e Usabilidade so muitas vezes usadas indistintamente (Vu & Proctor, 2011), embora para muitos autores no sejam necessariamente a
mesma coisa. A expresso Experincia do Utilizador (user experience) foi cunhada neste
contexto por Norman em 1993 (Merholz, 2014) como forma de avaliar todos os aspetos da
interao entre uma pessoa e um sistema, incluindo design industrial, interface e interao
fsica. No desenvolvimento para a Web, a expresso Experincia do Utilizador mais
usada do que Usabilidade porque enfatiza a natureza holstica da experincia humana (Vu
& Proctor, 2011).
A norma ISO 9241-210:2010 (sucessora da 13407:1999) define a experincia do utilizador
14
como as percees e reaes de uma pessoa que resultam do uso (ou utilizao prevista) de
um produto, sistema ou servio (ISO, 2010). De acordo com esta definio, da experincia
do utilizador faz parte o conjunto de todas as opinies, emoes, preferncias e percees que
ocorrem durante as fase de contacto com o produto ou servio. Esta norma destaca ainda o
facto de que a Usabilidade enderea aspetos da experincia de utilizador, referindo que os
critrios de Usabilidade podem ser usados para avaliar aspetos da experincia do utilizador
mas no clarifica a relao entre Experincia do Utilizador e Usabilidade (ISO, 2010).
2.2.4
Como vimos, ao longo das duas ltimas dcadas foram desenvolvidas vrias normas relacionadas com a Usabilidade que tm evoludo para se adaptarem s mudanas tecnolgicas
e s exigncias da indstria.
Na figura 2.3 possvel observar as relaes e as influncias que as normas ISO relacionadas com a Usabilidade exercem entre si (Borsci et al., 2013) e a tendncia futura de
convergncia numa s norma de Usabilidade.
A norma ISO/IEC 9126:1991, relacionada com a qualidade de software, foi a primeira
norma a definir Usabilidade como uma caracterstica do seu modelo de qualidade. Esta
norma foi revista em 2001 (ISO/IEC 9126-1:2001), tendo sido substituda em 2011 pela
norma ISO/IEC 25010. Em cada reviso, o conceito de Usabilidade foi evoluindo para se
tornar sucessivamente mais abrangente e convergente com a parte 11 da norma 9241(ISO9241-11:1998), que se tornou a mais referida e aceite na literatura no que definio de
Usabilidade diz respeito.
Esta norma encontra-se atualmente em processo de reviso. Acredita-se que assim que
a verso atualizada da norma seja publicada, tornar-se- a nova referncia de definio de
Usabilidade, incorporando as vrias contribuies das restantes normas, conforme possvel
observar na figura 2.3.
Paralelamente, a norma ISO 13407:1999, que definiu o conceito de conceo centrada no
utilizador, foi incorporada na famlia de norma ISO9241, sendo agora conhecida por ISO9241210:2010. Esta ltima especificou que a Usabilidade de um sistema condio necessria
para a Experincia do Utilizador (UX) (Borsci et al., 2013).
Contudo, esta norma influenciou tambm a norma ISO16982:2002 (Ergonomics of humansystem interaction Usability methods supporting human-centred design) que apresenta
uma reviso dos mtodos que podem ser usados (e combinados entre si) para apoiar a conceo e o teste de sistemas a ISO18529:2000 (Ergonomics Ergonomics of human-system
interaction Human-centred lifecycle process descriptions) que apresenta boas prticas
de conceo centrada no utilizador e a ISO20282-1:2006 (Ease of operation of everyday
products Part 1: Design requirements for context of use and user characteristics) que
apresenta requisitos de conceo para produtos de uso dirio.
15
ISO9126
(1991)
ISO9126-1
(2001)
ISO25010
(2011)
Reviso
ISO9241-11
(201X)
ISO9241-11
(1998)
ISO9241210
(2010)
ISO13407
(1999)
ISO16982
(2002)
ISO20282-1
(2006)
ISO18529
(2000)
1990
2000
2010
Futuro
Reviso
Influncia
2.2.5
Nielsen & Mack (1994) definiram quatro formas de aferir a Usabilidade em geral: automaticamente, usando software de teste especfico, empiricamente, realizado testes com
utilizadores, heuristicamente, atravs do uso de um modelo de avaliao e informalmente,
atravs da anlise de crticos. Mais tarde, M. Ivory & Hearst (2001) classificaram os mtodos
em cinco categorias: teste, inspeo, inqurito, modelao analtica e simulao, abordagem
mantida por Fernandez et al. (2011). Por entender que estas classificaes se encontram ultrapassadas, Zahran et al. (2014) propuseram uma nova taxonomia e adequao dos mtodos
especificamente para a anlise de stios Web em trs categorias: (i) mtodos com testes com
utilizadores, (ii) mtodos com avaliadores e (iii) mtodos com ferramentas automticas.
esta que se segue e descreve seguidamente.
Mtodos com utilizadores
Os testes com utilizadores so considerados a mais complexa, completa e dispendiosa
das tcnicas de anlise de Usabilidade (Pearrow, 2000). Na sua interpretao clssica, so
testes empricos que envolvem o recurso a laboratrios que dispem de equipamentos de
registo udio e vdeo, salas de observao providas de espelhos de dupla face, bem como um
planeamento detalhado. Contudo, Nielsen (1993) afirma que para a realizao de testes de
Usabilidade em muitos casos o material necessrio resume-se a um bloco de notas e a um local
calmo onde as pessoas possam interagir com o interface de modo a observar a sua utilizao
16
Nielsen & Landauer (1993) demostraram em que so necessrios apenas cinco participantes para ser possvel encontrar cerca de 75% dos problemas de Usabilidade de um sistema
(Nielsen, 2000), como pode ser observado na figura 2.4. O grfico baseado na equao
(2.1), onde i representa o nmero de utilizadores testados, n diz respeito ao nmero de erros de Usabilidade totais que existem no sistema e L a percentagem de erros tipicamente
descobertos por um utilizador (31%). A necessidade da introduo desta equao deve-se ao
facto de haver sobreposio nos erros descobertos por cada novo utilizador.
17
n(1 (1 L)i )
(2.1)
Nos testes com utilizadores h vrias subtcnicas que podem ser usadas:
como objetivo obter informao que permita aprofundar a compreenso dos pontos
fortes e fracos do sistema a testar (Rubin, 1994). So muito usados porque so simples
e baratos de aplicar, mas acarretam algumas desvantagens. A eficcia de um questionrio depende do seu formato, contedo, clareza e objetividade. Existem dois tipos
de questes as de resposta fechada e as de resposta aberta e um questionrio poder ser composto por combinaes das duas. Nas respostas fechadas os participantes
optam por uma resposta pr-determinada e estabelecida numa escala. Existem vrias
escalas, como a de Likert ou de Diferencial Semntico. A escala de Likert exprime o
grau de concordncia com uma declarao, como por exemplo, Discordo totalmente,
Discordo , No concordo nem discordo , Concordo ou Concordo absolutamente.
Tipicamente emprega-se uma escala de 5, 7 ou 9 pontos. Nielsen & Pernice (2010)
afirma que a escala de 7 pontos ideal, pois torna mais fcil a escolha dos participantes, mas a opinio no consensual. Quando se pretende evitar posies intermdias
emprega-se um nmero par de pontos de forma a impor a escolha entre discordncia e
concordncia. Existem outras escalas como a escala de Usabilidade de Brooke (Brooke,
1996) baseada em Diferencial Semntico, uma escala onde duas palavras antagnicas
so colocadas em pontos opostos e o participante tem que escolher um valor entre esses dois pontos. Nas questes de resposta aberta, os participantes podero responder
livremente com as suas prprias palavras. Assim, possvel recolher opinies e impresses pessoais. Um questionrio deve incidir sobre aspetos de um problema especfico,
padres de comportamento ou itens sobre os quais seja necessrio estabelecer uma opinio. Por outro lado, existe o risco das pessoas que disponibilizam o seu tempo para
responder a um questionrio serem pouco representativas da amostra que o investigador est interessado em usar ou s responderem aos questionrios aquelas pessoas cujas
respostas so as mais extremas relativamente ao assunto abordado (Jordan, 1998).
Os grupos de discusso so grupos de pessoas que se formam para discutir determinados assuntos e so moderados por um facilitador. Tipicamente um grupo de
discusso dura 2 horas composto por 8 a 12 pessoas e (Dumas & Redish, 1999), pese
embora haja investigadores que tenham usado um nmero inferior de participantes
(Jordan, 1998) por considerarem que mais fcil de controlar. A escolha dos participantes deve ser feita com os mesmos critrios usados nos testes de Usabilidade, pois
devem refletir uma boa amostra do pblico-alvo do sistema que se pretende estudar,
embora devam ser heterogneos, para enriquecer a discusso. De acordo com as dimenses do projeto, podero ser formados vrios grupos de discusso. O facilitador
responsvel por introduzir os tpicos na discusso, mediar o grupo e assegurar que
todos os participantes intervm e do a sua opinio. O objetivo principal de recolher
a opinio dos participantes sobre o sistema, identificar as suas prioridades, desejos e
crenas.
A tcnica Pensar em voz alta destina-se a captar as reaes dos participantes ao
longo da sua progresso no teste. Ao encoraj-los a exprimir os seus pensamentos
em voz alta, possvel compreender as suas motivaes, o que nem sempre possvel
apenas atravs da observao. Esta tcnica til em testes iniciais porque permite
19
21
Descrio
No de todo um problema
Problema cosmtico: no necessita de reparao a menos que haja tempo
extra disponvel no projeto.
Problema de Usabilidade menor: baixa prioridade de reparao.
Problema de Usabilidade maior: alta prioridade de reparao.
Usabilidade catastrfica: exige reparao antes de ser distribudo.
nomia (Dix et al., 2003). Depois, define-se uma tarefa concreta e representativa de uma
necessidade dos utilizadores do sistema. A tarefa ento subdividida numa descrio de
aes detalhadas que so necessrias levar a cabo para completar a tarefa. Como exemplo,
Lewis et. al. apresentam um teste ao interface de uma fotocopiadora, onde a tarefa principal
a de tirar uma cpia e as aes os passos necessrios para o fazer (Lewis & Rieman, 1993).
Os Cognitive Walktrough com maior sucesso so feitos por peritos que trabalham em
estreita colaborao com utilizadores reais, para que possam criar uma imagem mental dos
utilizadores nos seus ambientes naturais (Lewis & Rieman, 1993).
Ferramentas automticas
As ferramentas de avaliao automtica recolhem informao e identificam potenciais
problemas de stios Web. Existem dois tipos de ferramentas automticas que podem efetuar
avaliaes de Usabilidade Web: (i) as que tentam prever a utilizao de stio Web e (ii) as
que avaliam o cumprimento de normas e diretrizes (Dingli & Cassar, 2014).
(i) Ferramentas que tentam prever a utilizao de stios Web
O Cognitive Walkthrough for the Web (CWW) baseia-se na tcnica Explorao Cognitiva
abordada na seco anterior e ajuda a equipa de desenvolvimento de um stio Web a escolher
o melhor texto a usar em ttulos e hiperligaes (Blackmon et al., 2002). O CCW usa
indexao semntica que permite calcular o aroma da informao de cada hiperligao9 .
Outra ferramenta abordada na literatura que usa o aroma de informao The InfoScent Bloodhound Simulator (Ed H. Chi, 2003) um projeto de investigao que usa a Lei da
Navegao, uma equao que prev o limite mximo de hiperligaes (profundidade) que as
pessoas esto dispostas a consultar (Huberman, Pirolli, Pitkow, & Lukose, 1997) e teoria de
pesquisa de informao (Information Foraging Theory)10 .
A ferramenta WebCriteria SiteProfile usa mtricas de Usabilidade recolhidas por navegadores Web (M. Y. Ivory & Hearst, 2001) (Matera, Rizzo, & Carughi, 2006), embora o mtodo
seja alvo de crticas na literatura porque se foca na estrutura formal de hiperligaes, no
considerado o contedo nem outros aspetos crticos que afetam a forma como utilizadores
navegam (Ed H. Chi, 2003).
J o Web TANGO um prottipo que analisa 157 mtricas especficas (como as cores e
localizao do texto) que tm por base os algoritmos de simulao e de busca de informao
de Monte Carlo11 para prever o comportamento de utilizadores na pesquisa de informao
e na navegao atravs de stios Web (M. Y. Ivory, Mankoff, & Le, 2003a). Contudo, a
ferramenta tem sofrido crticas devido ao facto de no ser robusta o suficiente para uma
9
O Aroma de informao (Information Scent) a perceo que um utilizador tem do valor e do custo
de aceder a uma determinada pea de informao (Chi, Pirolli, & Pitkow, 2000).
10
Teoria que prev o comportamento de apreenso de informao de utilizadores num determinado contexto
para prever padres de navegao de stios Web (Dingli & Cassar, 2014).
11
Mtodos estatsticos que se baseiam em amostragens aleatrias.
23
2.2.6
Cada um dos mtodos apresentados tem as suas prprias caractersticas e varia muito
quer na metodologia, quer no tempo e no custo. Na tabela 2.3 encontra-se um resumo de
cada mtodo.
A aplicao das mesmas tcnicas no produz resultados idnticos, o que dificulta a comparao de resultados entre estudos diferentes ou a anlise da evoluo temporal. Molich et
al. demostra que estudos de Usabilidade sobre um mesmo tema desenvolvidos por diferentes equipas e empregando diferentes mtodos produzem resultados diferentes (Molich, Ede,
Kaasgaard, & Karyukin, 2004). Hertzum et al. conclui que a mdia de concordncia entre
dois estudos realizados por equipas diferentes com base no mesmo alvo e no mesmo mtodo
varia entre 5% e 65% (Hertzum & Jacobsen, 2003). Pearrow reconhece que no h clculos
que possam substituir a compreenso do design e da interao humana, mas admite que
uma abordagem quantitativa simples, como a obteno de valores mdios, permite elaborar
uma ideia de evoluo entre testes consecutivos e adquirir a noo dos progressos realizados
(Pearrow, 2000).
Embora o potencial de melhoria esteja diretamente relacionado com o esforo investido
em testes de Usabilidade, todas essas abordagens conduzem a melhores sistemas (Levi &
Conrad, 2008).
Jeffries et al comparou quatro mtodos (avaliao heurstica, cognitive walkthroughs, tes24
Mtodo
Avaliao heurstica
Explorao cognitiva
Ordenao de cartes
Prototipagem
Teste com utilizadores reais
Cenrios de utilizao
Pensar em voz alta
Questionrios
Entrevistas
Grupo de discusso
Eyetracking
Vantagens
Fcil de realizar; barato; capaz de encontrar muitos problemas; sem necessidade de recrutar utilizadores.
Possibilidade de ser efetuada com esboos; sem necessidade de recrutar utilizadores; rpido de realizar.
Fcil; barata; ideal para estruturar a arquitetura de informao de um sistema.
Barato; rpido; poder ser realizado em
qualquer fase do projeto.
Muito eficaz na deteo de problemas.
Prtico; Coloca foco do projeto em cenrios de uso concretos.
Capaz de encontrar a razo dos problemas; uso de poucos utilizadores;
Fcil de realizar; barato; flexvel na
aplicao.
Desvantagens
No permite a descoberta de todos os
problemas, sobretudo, problemas especficos.
Necessria muita experincia dos peritos.
Domnio de aplicao restrito. No permite avaliar cenrios de navegao e
transacionais.
Necessidade de capacidade de abstrao.
Custos elevados.
A criao de cenrios exige um grande
domnio do contexto do sistema.
Incapaz de providenciar dados quantitativos.
Dependendo das condies em que
so feitos, podero no representar o
pblico-alvo ideal; as questes tm que
ser muito claras sob pena de serem mal
interpretadas.
Custos elevados de dinheiro e tempo.
Incapaz de providenciar dados quantitativos; perigo de contaminao do
grupo por parte dos membros mais influentes.
Caro; Anlise dos dados complexa e
com necessidade de contextualizao.
tes empricos e aplicao de diretrizes) e concluiu que a avaliao heurstica o mtodo que
mais problemas consegue encontrar. O mesmo estudo mostra a importncia de usar mais do
que um avaliador, dado que diferentes avaliadores conseguem encontrar problemas distintos.
Contudo, no certo que todos os problemas identificados pela avaliao heurstica tenham
o mesmo impacto na experincia de utilizao (Jeffries, Miller, Wharton, & Uyeda, 1991).
Os testes empricos so muito teis a encontrar problemas genricos e globais, mas tm dificuldade em encontrar problemas especficos e locais: se existe um problema num ecr que os
utilizadores nunca usam, os testes empricos no iro permitir encontrar o problema (Jeffries
et al., 1991). Comparando os testes empricos com o uso de cognitive walkthroughs, Karat
demostrou que os primeiros so duas a trs vezes mais teis a descobrir problemas do que
os segundos, quer com cognitive walkthroughs individuais, quer com cognitive walkthroughs
com grupos. No mesmo estudo, salienta-se o facto dos testes empricos consumirem muito
tempo, tempo esse que acaba por ser rentabilizado pelo nmero de problemas descobertos
(Karat, Campbell, & Fiegel, 1992).
Sauro (2012) comparou a avaliao heurstica com testes empricos e concluiu que, apesar
da avaliao heurstica no conseguir detetar falhas que os utilizadores conseguem, este tipo
de avaliao permite encontrar at 50% dos problemas de um stio Web, pelo que este mtodo
continua a ser relevante, devendo ser complementado com outras tcnicas. Apesar de tudo,
25
importante referir que existem diferenas no tipo de informao que os mtodos fornecem. Por exemplo, Fu, Salvendy, & Turley (2002) descobriu que os testes empricos so mais
eficazes na descoberta de problemas relacionados com o nveis de performance, enquanto a
avaliao heurstica mais til na identificao de problemas associados a aptides e conhecimento baseado em regras. Este entendimento corroborado por de de Kock, van Biljon,
& Pretorius (2009) que estudaram as diferenas no tipo de informao obtida pela avaliao
heurstica em comparao com testes empricos auxiliados por sistema de eyetracking.
No que diz respeito ao mtodo Pensar em voz alta, Cooke estudou as suas limitaes com
um sistema de eyetracking (Cooke & Cuddihy, 2005) e conclui que a anlise do movimento dos
olhos sobretudo na construo de grficos em tempo real poder ajudar os facilitadores a
compreender padres de utilizao e a procurar esclarecer a razo pela qual os participantes
realizaram determinadas aes.
2.3
Acessibilidade Web
A palavra Acessibilidade deriva da palavra acessvel que significa a que se pode chegar
(Priberam, 2015a). Em sentido lato, quando nos referimos Acessibilidade, evidenciamos
o uso de um conjunto de regras que tm como objetivo melhorar a vida das pessoas que
tm algum tipo de deficincia ou necessidade especial. Exemplos de preocupao com a
acessibilidade podem ser encontradas nas cidades, cujos edifcios tm de estar preparados
para acolher pessoas com mobilidade reduzida.
De forma anloga, a Acessibilidade Web engloba um conjunto de normas e tcnicas com o
objetivo de garantir que todas as pessoas possam usar a Web. Como veremos na seco 2.3.5,
os stios da Administrao Pblica so obrigados a cumprir com as regras de Acessibilidade
Web.
2.3.1
O World Wide Web Consortium (W3C) uma entidade sem fins lucrativos criada em
1994 por Tim Berners-Lee e tem como misso desenvolver padres e diretrizes que garantam
o crescimento a longo prazo da Web (W3C, 2015b). A 5 de setembro de 2015 a W3C
contava com 396 associados (W3C, 2015a), entre as quais se encontram empresas, rgos
governamentais e centros de investigao.
Um padro W3C uma especificao ou um conjunto de linhas de orientao conseguidas
aps um trabalho de concertao entre membros da organizao e o pblico em geral. Os
padres mais populares da W3C so o HTML, o XHTML (eXtensible Hypertext Markup)
Language e CSS (Cascading Style Sheets). Os stios Web que so desenvolvidos segundo estes
padres podem ser acedidos e visualizados por qualquer pessoa ou tecnologia, independente
do hardware ou software utilizado.
A Web Accessibility Initiative (WAI) uma iniciativa promovida pelo W3C para Aces26
sibilidade Web. A WAI desenvolve estratgicas, diretrizes e recursos para ajudar a tornar a
Web acessvel s pessoas com deficincia (WAI, 2011a). Para Paciello, a criao de diretrizes
e padres para a Acessibilidade da Internet e da Web uma das principais razes pela qual
a Web est a caminho de se tornar mais acessvel (Paciello, 2000).
2.3.2
27
2.3.3
Todos estes princpios tm necessariamente de se verificar num stio para que este possa
ser considerado acessvel.
Esta mudana criou algumas dificuldades de aplicabilidade, pois a sua linguagem genrica ironicamente menos acessvel porque algumas das diretrizes esto escritas de uma
forma muito vaga o que dificulta a sua aplicao (Gomes, 2007). Por este motivo, surgiram
verses simplificadas que ajudam os criadores de contedos Web na aplicao de normas 2.0
(WebAIM, 2009). Para Joe Clark, outro dos problemas da verso 2.0 a sua extenso, uma
vez que quando impressa juntamente com os documentos de suporte associados, pode chegar
a ocupar 450 pginas A4 (Clark, 2006).
Errata WCAG Samurai
A Errata do WCAG Samurai foi criada por um grupo de personalidades independentes
do W3C liderada por Joe Clark (ex-colaborador da WAI/W3C) que criou uma errata para
a verso WCAG 1.0 (Samurai, 2008b) por no estar de acordo com as ideias propostas no
WCAG 2.0.
Esta diviso gerou alguma confuso e at uma certa insegurana nos criadores de stios
Web, uma vez que a WCAG 2.0 relativamente complexa e a WCAG Samurai, apesar de
possuir boas solues, no reconhecida como uma norma internacional.
A WCAG Samurai corrige 12 diretrizes das WCAG 1.0, procurando torn-las claras e
orientadas para a prtica. Por exemplo, termos como evite utilizar ou sempre que possvel
deram lugar a termos como utilize ou obrigatrio utilizar. Segundo Joe Clark, A WCAG
Samurai uma alternativa WCAG 2.0. Pode-se seguir a WCAG 2.0 ou a WCAG Samurai,
ou mesmo no seguir nenhuma das duas, mas impossvel seguir ambas (Samurai, 2008a).
Nveis de Conformidade e Critrios de Sucesso
Todas as diretrizes contm uma ideia-chave associada, uma identificao numrica e uma
lista de Critrios de Sucesso (checkpoints)15 , que explicam como aplicar uma diretiva numa
determinada rea. Consoante o impacto que cada um dos critrios de sucesso tem na Acessibilidade, foram definidos 3 nveis de conformidade (WAI, 2014):
Nvel A Para que um stio Web obtenha o nvel de conformidade A tem que cumprir
todos os critrios de sucesso de nvel A definidos nas diretivas (ou apresentar uma verso
alternativa que o faa). Existem 25 critrios de sucesso de prioridade A.
Nvel AA Para que um sitio Web obtenha um nvel de conformidade AA tem que
cumprir cumulativamente todos os critrios de sucesso de nveis A e AA definidos nas
diretivas (ou apresentar uma verso alternativa que o faa). Existem 13 critrios de
sucesso de nvel AA (a que se somam os 25 do nvel A).
15
29
Nvel AAA Para que um stio Web obtenha um nvel de conformidade AAA tem
que cumprir cumulativamente todos os critrios de sucesso de nveis A, AA e AAA
definidos nas diretivas (ou apresentar uma verso alternativa que o faa). Existem 23
critrios critrios de sucesso de nvel AAA (a que se somam os 25 de nvel A e os 13
do nvel AA).
Alguns critrios de sucesso especificam um nvel de prioridade que poder mudar sob
determinadas condies que se encontram descritas nos documentos de especificao das
diretrizes.
2.3.4
As ferramentas de avaliao automticas de Acessibilidade Web foram criadas para auxiliar os criadores de stios Web a interpretarem e aplicarem com mais facilidade as regras
de Acessibilidade. Trata-se de software que faz o varrimento do cdigo fonte das pginas
que constituem os stios Web, detetando falhas no cumprimento das diretrizes de Acessibilidade. Contudo, estas ferramentas no so capazes de averiguar se um stio Web cumpre
ou no as diretrizes de Acessibilidade na totalidade. Uma das principais crticas encontradas em estudos de Acessibilidade est relacionada com a falta de uma componente humana
da avaliao: a avaliao de um especialista capaz de validar, manualmente, problemas de
Acessibilidade fundamental e as WCAG 2.0 estabelecem requisitos de verificao humana.
Muitos programas geram avisos que permitem guiar a anlise manual.
Em julho de 2015, existiam 38 ferramentas de verificao automtica que suportavam as
diretrizes WCAG 2.0 e 16 que seguiam a verso WCAG 1.0 (W3C, 2015d). Neste estudo
foi usada o AccessMonitor, criado pela unidade Acesso da Fundao para a Cincia e a
Tecnologia do Ministrio da Educao e Cincia (FCT, 2015) por ser a ferramenta mais
usada em Portugal nos estudos relacionados com a Administrao Pblica Portuguesa. Mais
detalhes podero ser encontrados na seco 3.4 Ferramentas usadas na recolha de dados .
2.3.5
Portugal foi o quarto Pas (logo aps o Canad, os EUA e a Austrlia) a adotar regras de Acessibilidade da informao disponibilizada na Internet pela Administrao Pblica
(Resoluo do Conselho de Ministros n.o 97/1999 ). Em 2001, introduziu-se a obrigao de
avaliao peridica dos stios Web dos organismos da administrao direta e indireta do
Estado (Resoluo do Conselho de Ministros n.o 22/2001 ). O processo de avaliao foi encomendado Universidade do Minho que produziu o documento Mtodo de Avaliao dos
Web Sites dos Organismos da Administrao Direta e Indireta do Estado (Amaral, Santos,
& Oliveira, 2003) que, inclua uma seco dedicada acessibilidade. Em 2007, nova legislao veio determinar que sejam adotados requisitos mnimos nas solues tcnicas adotadas
de forma a tornar os stios acessveis. No fundo, esta RCM exige que os stios Web puramente informativos devam ser estruturados de acordo com o nvel A, das WCAG e que os
30
stios Web que prestem servios de transao de informao precisam estar de acordo com
o nvel AA (Resoluo do Conselho de Ministros n.o 155/2007 ). A verso da WCAG no
explicitamente referida nesta resoluo, mas infere-se que se tratava da verso 1.0. Em 2011,
entrou em vigor legislao que obriga adoo de normas abertas nos sistemas informticos
do Estado (Lei n.o 36/2011 ). Esta legislao prev a criao do Regulamento Nacional de
Interoperabilidade Digital (RNID) que foi aprovado no ano seguinte (Resoluo do Conselho de Ministros n.o 91/2012 ). O RNID define as especificaes tcnicas de documentos a
adotar pela Administrao Pblica, entre os quais a obrigao de que os stios Web apresentem nveis de acessibilidade de acordo com as WCAG 2.0. Assim, desde 8 de fevereiro de
2013 todos os stios Web do Estado
16
WCAG 2.0 e todos os stios que disponibilizam servios online esto obrigados a cumprir o
nvel AA das WCAG 2.0.
2.3.6
2.4
Qualidade
O conceito de qualidade algo de inerente ao ser humano (Antnio & Teixeira, 2007)
e tem evoludo ao longo dos tempos, acompanhado o desenvolvimento de vrias civilizaes
(Juran, 1995). um conceito complexo e multifacetado que pode ser encarado sob diversas
16
Esta obrigao aplica-se aos stios Web de rgos de soberania, servios da administrao pblica central,
incluindo institutos pblicos e servios desconcentrados do Estado; servios da administrao pblica regional;
e setor empresarial do Estado (de acordo com o artigo 2o da lei n.o 36/2011).
31
perspetivas. Existe uma grande diversidade de definies, pese embora as variaes entre elas
no sejam muito amplas. A ISO define qualidade como a totalidade das caractersticas de
uma entidade que lhe conferem a capacidade de satisfazer necessidades explcitas e implcitas
(ISO/IEC, 1994). Neste sentido, o presente estudo procura abordar os princpios e atributos
da qualidade que se encontram associados a produtos especficos como os stios Web.
2.4.1
2.4.2
Os vrios estudos publicados sobre qualidade Web usam diferentes tipos de indicadores
que so distribudos por vrios critrios.
A. A. A. Carvalho (2006), no seu trabalho Indicadores de qualidade de sites educativos,
cita Beck (1997) que prope os seguintes critrios de qualidade, todos eles focados no teste
de contedos:
Assumindo que um stio Web um sistema de hipermdia que tem como objetivo a comunicao, Mich, Franch, & Gaio (2003) propem o modelo 2QCV3Q para testar a qualidade
de stios Web baseados nos seguintes critrios:
Identidade: Avalia como o design (que combina aspetos artsticos e funcionalidades
concretas) pode influenciar a perceo dos stios Web por parte dos utilizadores;
Contedo: Avalia at que ponto um stio Web cobre o seu domnio, assim como o
valor e originalidade dos contedos;
Servios: Avalia os servios oferecidos, a sua correo, grau de inovao e segurana;
Localizao: Avalia o grau de acessibilidade ao stio Web, como os endereos URL, e
a disponibilizao de ferramentas de interatividade com os visitantes;
Gesto: A gesto de um stio Web envolve, por exemplo, a atualizao de contedos
e uma correta monitorizao para evitar situaes de quebra de servio;
Usabilidade: Avalia os aspetos que permitem que o uso do stio Web seja pouco
exigente em termos de custo, tempo ou esforo cognitivo;
Exequibilidade: Avalia os recursos concretos necessrios ao desenvolvimento e manuteno dos stios Web.
Grassian (2000) afirma que para garantir que os recursos disponveis na Web tm valor
e so credveis, devem ser considerados os seguintes quatros critrios:
Contedo e Avaliao: Afere-se o propsito da pgina Web para compreender se
os contedos publicados so pertinentes e se esto adequados audincia. Procura
tambm avaliar o grau de compreenso do stio Web, se as hiperligaes usadas so
relevantes e compreensveis. Analisa tambm se os recursos multimdia esto incorporados corretamente.
Fonte e Data: Procura avaliar se os autores esto identificados e os seu contactos
esto publicados. Avalia tambm se as datas de produo, publicao, ltima reviso
dos contedos est disponvel.
Estrutura: Avalia se os documentos alvo de anlise seguem princpios de bom design
grfico, se os grficos tm uma funo que enriquem os contedos ou se so meramente
decorativos. Avalia tambm a existncia de elementos criativos (e a sua mais ou menos
valia), se existem preocupaes com os utilizadores com necessidades especiais (disponibilizando contedos alternativos em texto, por exemplo), e finalmente o grau de
usabilidade do stio.
33
Mardis & Ury (2003) tambm do destaque aos contedos, propondo os quatro critrios
que resumidamente se apresentam:
34
Captulo 3
Abordagem e Metodologia
Less is more."
Neste captulo apresenta-se a metodologia adotada. A seco 3.1 diz respeito ao faseamento do estudo. Seguidamente, na seco 3.2, descreve-se o modelo de avaliao que inclui
os critrios, indicadores e sistema de pontuao escolhido. Na seco 3.3 apresenta-se o universo do estudo, assim como os critrios de incluso e excluso das entidades avaliadas. Por
fim, na sco 3.4, explicitam-se as ferramentas de recolha de dados usadas.
3.1
Faseamento do Estudo
Este estudo foi dividido em cinco fases, como pode ser observado na figura 3.1. As fases
no so estanques entre si, obrigando, por vezes a reajustamentos transversais.
Nas primeiras duas fases, construiu-se um modelo de avaliao baseado em heursticas
que procura testar e avaliar stios Web, com base na pesquisa bibliogrfica, que teve como
objetivo reunir literatura sobre o contexto e metodologias usadas anteriormente. Na terceira
fase, definiu-se o universo de estudo, clarificando critrios de incluso e de excluso dos
organismos a avaliar. Por fim, procedeu-se aos testes, recolha de dados e consequente anlise
dos resultados.
1. Pesquisa
Bibliogrfica
2. Conceo
do Modelo de
Avaliao
3. Definio
do Universo
de Avaliao
4. Recolha
dos Dados de
Avaliao
5. Anlise de
Resultados
3.2
O modelo de avaliao usado neste estudo foi elaborado com base na literatura e na
legislao em vigor. Em estudos anteriores sobre stios da Administrao Pblica foi usado o
Mtodo de Avaliao dos Web Sites dos Organismos da Administrao Direta e Indireta do
Estado (Amaral et al., 2003), que atualmente apresenta indicadores obsoletos e que esto
focados na anlise de contedos em detrimento de outros indicadores atualmente importantes
que so privilegiados neste estudo. A metodologia agora proposta, apesar de no negligenciar
os contedos, d maior nfase forma como os contedos so publicados. Pretende-se que o
modelo de avaliao proposto possa contribuir para uma nova fase de estudos comparativos.
3.2.1
Os critrios e indicadores usados neste estudo tm por base as contribuies de vrios autores: Olsina (1999), Amaral et al. (2003), Oliveira et al. (2003), Garcia et al. (2005), Nielsen
(2006), Souders (2007), King (2008), Kadlec (2012) e as recomendaes da Google sobre a
conceo de stios Web (Google, 2015a). Privilegiou-se indicadores universais, mensurveis
e objetivos.
Os contedos contribuem em 25% para a classificao final de cada stio, sendo que 75%
sero distribudos por critrios de Usabilidade, Acessibilidade e Eficincia. Os critrios de
Usabilidade e Eficincia so usados pela primeira vez num estudo deste gnero.
Os indicadores podem ser observados na tabela 3.1. Seguidamente explicitam-se cada um
destes indicadores, identificando o nmero do indicador entre parntesis (1.1, por exemplo).
1. Contedos
Este critrio contm indicadores relacionados com o mbito dos contedos disponveis
nos stios Web analisados. Avaliou-se se os stios Web dispunham de conjunto mnimo de
informao, como a da descrio da sua misso, estrutura orgnica e organizao (1.1) assim
como dos servios que prestam aos cidados (1.2).
Em nome da transparncia, os stios Web dos organismos tm-se tornado o local escolhido
para a publicao de informao. A Lei Quadro dos institutos pblicos (Lei n.o 3/2004 de
15 de janeiro) indica que os organismos devem disponibilizar uma pgina eletrnica, com
todos os dados relevantes, nomeadamente: a) Os diplomas legislativos que os regulam, os
estatutos e regulamentos internos; b) A composio dos corpos gerentes (...) e respetiva
remunerao; c) Os planos de atividades e os relatrios de atividades dos ltimos trs anos;
d) Os oramentos e as contas dos ltimos trs anos, incluindo os respetivos balanos; e)
O mapa de pessoal.. Da mesma forma, a lei que define o Subsistema de Avaliao do
Desempenho dos Servios da Administrao Pblica (SIADAP 1) indica que o Quadro de
Avaliao e Responsabilizao (QUAR) deve ser publicado na pgina eletrnica do servio
(no nmero 5 do artigo 10o da Lei n.o 66-B/2007 ). A este conjunto de documentao
36
Critrio
ID
Contedos (25%)
Usabilidade (25%)
Acessibilidade (25%)
Eficincia (25%)
1.1
1.2
1.3
1.4
1.5
1.6
1.7
1.8
1.9
1.10
2.1
2.2
2.3
2.4
2.5
2.6
2.7
2.8
2.9
2.10
3.1
3.2
3.3
4.1
4.2
4.3
4.4
4.5
4.6
4.7
4.8
4.9
4.10
Indicador
Descrio do organismo:
(a) Misso, estrutura e organizao
(b) Descrio dos servios prestados (se aplicvel)
(c) Instrumentos de gesto
Contactos fsicos e eletrnicos
Verses noutros idiomas
Textos segundo o acordo ortogrfico
Contedos atuais e indicao da ltima atualizao
Existncia de arquivo de documentos
Existncia e relevncia de motor de busca interno
Aviso de cookies
Design e navegao consistente
Design adaptvel (Responsive Design)
Carregamento at 2 segundos
URLs nicos e imutveis
Funcionalidade do boto Retroceder
Ausncia de ligaes invlidas/quebradas
Ligaes mudam de cor quando visitados
Ausncia plugins
Tamanho de letra legvel
Acesso com ou sem www (ou https)
Nvel Acessibilidade A (WCAG 2.0)
Nvel Acessibilidade AA (WCAG 2.0)
Nvel Acessibilidade AAA (WCAG 2.0)
Uso de tcnicas de SEO
HTML Otimizado
Imagens Otimizadas
CSS Otimizado
Javascript Otimizado
Pedidos HTTP e DNS reduzidos
Cabealhos HTTP com data de validade
Carregamento de Javascript e CSS adequado
Uso de compresso
Baixo tempo de resposta do servidor
Peso
Medidas
10%
10%
10%
10%
10%
10%
10%
10%
10%
10%
10%
10%
10%
10%
10%
10%
10%
10%
10%
10%
50%
30%
20%
10%
10%
10%
10%
10%
10%
10%
10%
10%
10%
Semforo
S/N
Semforo
S/N
Semforo
S/N
Semforo
Semforo
Semforo
Semforo
Semforo
Semforo
Semforo
Semforo
S/N
S/N
S/N
S/N
S/N
S/N
Semforo
Semforo
Semforo
Semforo
Semforo
Semforo
Semforo
Semforo
Semforo
Semforo
Semforo
S/N
Semforo
Tabela 3.1: Pesos e Medidas usados para avaliao dos stios Web
37
stios Web se adaptem dimenso dos ecrs dos dispositivos que acedem ao stio Web. Dada
a multiplicidade de dispositivos que os cidados usam hoje em dia para aceder Web (entre
os quais se incluem os smartphones e os tablets) este requisito indispensvel (Kadlec, 2012).
Desta forma, verifica-se se os stios esto preparados para o oferecer a melhor experincia
possvel neste domnio (2.2).
Por outro lado, o tempo de carregamento das pginas um fator indispensvel na perceo
de qualidade de um stio Web e muitos visitantes abandonam os stios Web mesmo antes de
estes terem carregado completamente (Nielsen, 2006). Os visitantes esto dispostos a esperar
apenas alguns segundos pelo carregamento das pginas (Nielsen, 2010) e este valor tem vindo
a diminuir ao longo do tempo. Desde 2010, a Google considera o tempo de carregamento
da pgina como um dos critrios de relevncia dos stios Web (Google, 2010). Em 2013, o
tempo mdio de carregamento de Stios Web era entre 7 a 8 segundos (Google, 2013), valor
influenciado pelos acessos feitos atravs de equipamentos mveis que no 2o semestre de 2014
representavam cerca de 48% do trfego total (ClickZ, 2015).
Em sintonia com as recomendaes da Akamai (2009)2 , mediu-se o tempo de carregamento da primeira pgina (2.3), verificando se no excedia os 2 segundos.
Outro problema frequente diz respeito ao uso inapropriado de endereos de recursos Web
Uniform Resource Locator (URL). Muitas vezes, os recursos no so identificados por um
endereo inequvoco, o que causa confuso a muitos utilizadores. um problema frequente,
sobretudo em pginas geradas automaticamente. Pretendeu-se avaliar se a cada recurso
corresponde um s endereo que possa ser livremente partilhado e disponibilizado atravs
de apontadores (2.4) Por outro lado, avalia-se se os URLs so imutveis. Por exemplo, o
endereo http://tecnico.ulisboa.pt/pt/organizacao/ acrescenta valor ao endereo, ao
mesmo tempo que no est dependente de nenhuma tecnologia. Isto importante porque
os endereos no devem mudar ao longo do tempo sob pena de perderem relevncia (W3C,
1999). Infelizmente prtica comum alterar bruscamente a tecnologia que suporta um stio
Web o que poder modificar de forma brusca todos os endereos das pginas (R. M. Carvalho, 2008). Com esta abordagem, para alm de no se ter em considerao os eventuais
marcadores de contedos (favoritos) por parte dos utilizadores, tambm reduz a pontuao
atribuda pelos algoritmos usados por motores de busca que usam o nmero de apontadores
externos como indicador de relevncia de uma determinada pgina.
Segundo Nielsen (2006), a segunda funcionalidade mais usada de um navegador Web
o boto Retroceder. Infelizmente, a quebra desta funcionalidade ainda uma realidade
em algumas pginas, o que provoca um grande impacto na qualidade de navegao dos
utilizadores. Neste indicador, avaliou-se se o boto Retroceder est sempre disponvel, no
havendo quebras na navegao (2.5).
Avaliou-se a existncia de hiperligaes invlidas/quebradas (2.6), ligaes que por erro
no conduzem a nenhum recurso e que por isso pode deixar os utilizadores confusos. Avaliou2
39
41
A melhoria e a otimizao da performance realizada tipicamente a nvel dos servidores (backend ) usando tcnicas como otimizao de bases de dados ou uso de arquiteturas
distribudas. Contudo, h tambm que prestar ateno otimizao que pode ser realizada
a nvel dos recursos que funcionam do lado do utilizador (frontend ). Como refere Souders
(2008) do tempo total necessrio para carregamento da pgina inicial do Google, apenas
9% gasto no processamento no lado do servidor. Os outros 91% esto relacionados com
o tempo usado pelo navegador para processar a pgina e apresent-la ao utilizador. Assim
sendo, a otimizao de frontend crucial para reduzir o tempo de carregamento das pginas,
aumentar a interatividade e melhorar a experincia de utilizao.
Mediu-se o grau de otimizao dos contedos HTML (4.2), Cascading Style Sheets (CSS)
(4.4) e javascript (4.5) das pginas, sobretudo ao nvel do cdigo desnecessrio e redundante.
Outro problema frequentemente encontrado em stios Web diz respeito ao uso de imagens
que no esto otimizadas (4.3), isto , so disponibilidades em tamanhos superiores ao necessrio, cabendo ao navegador redimension-las, consumindo muito tempo quando estas se
apresentam desproporcionalmente grandes.
medida que o nmero de recursos nas pginas Web aumenta, aumenta tambm os
nmeros de pedidos HTTP (4.6) ao servidor e com isto, o tempo total de carregamento
tambm aumenta. Existem tcnicas que permitem reduzir o nmero de pedidos HTTP e
tambm o nmero de pedidos de resoluo de endereos DNS. Estas tcnicas passam, por
exemplo, pela agregao de vrios ficheiros (Coyier, 2009).
Outro indicador analisado diz respeito ao uso de cabealhos HTTP com especificao de
data de validade (4.7). Quando um utilizador visita uma determinada pgina de um stio
Web, o navegador descarrega e armazena em cache os recursos dessa pgina. Na prxima vez
que o mesmo utilizador visitar a pgina, o navegador verifica se algum dos recursos pode ser
servido diretamente a partir da sua memria cache, evitando pedidos HTTP desnecessrios
e demorados. O navegador baseia a sua deciso na data de validade do cabealho: se esta
est no futuro, ento o recurso carregado a partir da memria em cache. Caso contrrio,
isto , se no h data de validade (ou a mesma do passado), o navegador processa um novo
pedido HTTP.
De cada vez que um utilizador acede a uma pgina Web, o navegador inicia o processo
necessrio para apresentar essa pgina. Este processo comea com os pedidos de recursos
(HTML, imagens, CSS, Javascript e outros), a que se segue a descarga desses recursos, o seu
processamento e apresentao. Todos estes recursos tm que ser devidamente entrelaados
e combinados para que possam ocupar o seu respetivo lugar na pgina Web quando esta
for apresentada ao utilizador. O navegador comea por processar o documento HTML, que
funciona como um esqueleto volta do qual todos os outros recursos sero acomodados.
Contudo, se durante o processamento do documento HTML, o navegador encontrar determinado tipo de recursos javascript ou CSS, ter que interromper o processamento do HTML,
descarregar os elementos javascript ou CSS primeiro e voltar ao processamento anterior.
Este processo tem impacto na velocidade como a pgina apresentada, por isso vrias re-
42
comendaes so feitas no sentido de evitar o uso de recursos javascript ou CSS com estas
caractersticas como sugerido em Google (2015f). Sendo assim, avaliou-se se os recursos de
javascript e CSS esto adequadamente posicionados para que no atrasem o carregamento
da pgina (4.8).
Uma outra forma de otimizao consiste na utilizao de compresso gzip (4.9), uma
funcionalidade que todos os navegadores do mercado suportam atualmente. O modo de
compresso gzip comprime todos os pedidos HTTP realizados, permitindo uma poupana de
at 90% do trfego transmitido, possibilitando aumentar a velocidade de carregamento das
pginas (Google, 2015c). Neste indicador avaliou-se se este modo est a ser usado.
Finalmente, o ltimo teste diz respeito ao tempo de resposta do servidor (4.10). Ao
contrrio do indicador 2.3 que mede o tempo total de carregamento de uma pgina (que
inclui a transferncia e processamento de todos os elementos que a compem), neste teste
pretendeu-se aferir se o tempo de resposta do servidor inferior a 200 milissegundos (ms).
O tempo de resposta do servidor compreende o tempo que necessrio para que o servidor
responda aos pedidos que lhe so feitos. So inmeros os fatores que contribuem para uma
resposta lenta, como a falta de otimizao de base de dados, rotas inadequadas ou a escassez
de recursos computacionais (Google, 2015d).
Os critrios de eficincia escolhidos podem ser aprofundados em Souders (2007) e em
King (2008).
3.2.2
Para simplificar o modelo de avaliao optou-se por atribuir o mesmo peso aos quatro
critrios (25%) e aos indicadores (10% cada), com exceo dos indicadores de acessibilidade
(indicadores 3.1, 3.2 e 3.3) os quais se atribuiu um peso de 50% ao nvel A, 30% ao nvel AA
e 20% ao nvel AAA, seguindo a prtica de estudos anteriores.
A atribuio do mesmo peso a todos os indicadores evita uma avaliao subjetiva da
importncia relativa de cada um deles. Na realidade, seria possvel destacar indicadores,
mas tal no deixaria de ser subjetivo e de difcil justificao. Por exemplo, poder-se-ia
argumentar que o indicador 2.1 - Navegao consistente deveria ter peso superior, mas
para tal um outro indicador teria que ceder o seu peso e ser renegado para segundo plano,
o que se pretende evitar. A sntese dos pesos de critrios poder ser encontrada na tabela
3.1.
3.2.3
Medidas
No que diz respeito s medidas adotadas, usaram-se dois tipos de medidas: Binria
(Sim/No) e Semforo. Para as medidas do tipo Sim/No, a verificao do indicador contribui com a totalidade do seu peso (100%), sendo que a no verificao do indicador ter
como classificao o valor nulo. No caso dos indicadores do tipo Semforo, a verificao
de semforo verde contribui com a totalidade do peso do indicador (100%), o amarelo com
43
3.2.4
44
45
46
47
48
49
3.3
O universo considerado neste estudo o conjunto de organismos que constituem a administrao central portuguesa, quer direta, quer indireta, assim como alguns rgos superiores
de soberania. A administrao direta constituda pelos organismos sujeitos ao poder hierrquico de um respetivo membro do governo, como os ministrios, direes gerais ou direes
regionais. J a administrao indireta do Estado constituda por organismos que, devido
sua especificidade so geralmente dotados de personalidade jurdica, patrimnio prprio e
50
Depois de realizado o levantamento dos organismos existentes, definiram-se alguns critrios de incluso e excluso das entidades a avaliar.
3.3.1
O principal critrio usado na definio dos organismos includos no estudo foi a gnese das
suas funes. Foram includos todos os organismos administrativos centrais da administrao
direta e indireta do Estado.
Excecionalmente foram includos quatro rgos do Estado, que embora no sejam organismos da administrao direta ou indireta, so stios que tm importncia para os cidados,
51
como o caso da Presidncia da Repblica, da Assembleia da Repblica, do Conselho Econmico e Social e do Provedor de Justia.
3.3.2
3.3.3
Aps o apuramento das entidades a analisar, foi necessrio identificar os seus endereos
Web. Este processo de levantamento foi realizado em 3 etapas, como descrito na figura 3.2.
Depois de identificar os organismos a analisar, foi realizado um levantamento dos endereos dos stios Web atravs da consulta da pgina oficial do governo, secretarias gerais dos
ministrios e atravs de pesquisas no motor de busca Google.
3.4
Contedos
Nos indicadores cuja verificao foi efetuada por observao manual e direta, foram usados
os navegadores Google Chrome (verses 42 e 43) e Mozilla Firefox (verses 39 e 40) num
sistema operativo Mac OS X 10.5.
Para verificar a conformidade dos textos com o acordo ortogrfico (indicador 1.6) foi
52
Validao final
Disponvel
Disponvel
6
Disponvel
7
Disponvel
5
em
em
em
em
http://www.flip.pt/FLiP-On-line/Corrector-ortografico-e-sintactico.aspx
https://www.eff.org/privacybadger
https://www.google.com/webmasters/tools/mobile-friendly/
http://tools.pingdom.com/fpt/
53
dores 2.2, 2.8, e 2.9. Estes indicadores foram recolhidos atravs de uma bateria de testes
realizados automaticamente pela ferramenta desenvolvida pela Google com o objetivo de
ajudar os programadores na criao de stios mais rpidos e adaptados a dispositivos mveis
(ver figura 3.4).
Acessibilidade
Para verificar os indicadores de acessibilidade (3.1, 3.2 e 3.3) foi usado a ferramenta
AccessMonitor 10 (ver figura 3.5). O AccessMonitor uma ferramenta desenvolvida pela
unidade Acesso da Fundao de Cincia e Tecnologia e consiste num validador automtico
que realiza 86 testes que tm por base as diretrizes de acessibilidade WCAG 2.0. Nem todas
as diretrizes esto vertidas nestes testes, uma vez que, como foi discutido anteriormente,
alguns critrios de sucesso so muito abstratos e no so passveis de serem implementados
numa ferramenta automtica. Na tabela 3.2 possvel verificar que a ferramenta abrange 30
dos 61 critrios de sucesso previstos nas WCAG 2.0. O Accessmonitor realiza uma bateria
de 86 testes, oito dos quais produzem um relatrio qualitativo e 78 entram no clculo do
8
Disponvel em https://validator.w3.org/checklink/docs/checklink
Disponvel em https://developers.google.com/speed/pagespeed/insights/
10
Disponvel em http://www.acessibilidade.gov.pt/accessmonitor/
9
54
Prioridade dos
Critrios de Sucesso (CS)
CS existentes nas
WCAG 2.0
A
AA
AAA
Totais
25
13
23
61
CS abrangidos
pelo AccessMonitor
16
5
9
30
Tabela 3.2: Critrios de sucesso WCAG 2.0 abrangidos pelos testes do AccessMonitor
(Acesso, 2015)
ndice AcessMonitor que usado neste estudo. O ndice AccessMonitor trata-se de uma
indicador quantitativo de um a dez que pretende sintetizar o resultados de todos os testes
realizados. O clculo deste ndice poder ser consultado em Acesso (2015b) e um exemplo
desta classificao pode ser observado na figura 3.5.
Os resultados do AccessMonitor podem ser consultado no apndice C e a bateria de testes
realizados encontra-se no apndice D.
de crucial interesse salientar que as anlises automticas necessitam sempre de uma
reviso humana uma vez que alguns dos problemas de acessibilidade no so descobertos
automaticamente e outros so erradamente considerados problemas. Por isso, foi realizada
uma validao manual dos erros e alertas gerados pela ferramenta. A ttulo de exemplo,
alguns stios conseguem iludir o AccessMonitor ao usar frames, obtendo assim uma classificao superior real. Alis, foi seguida a recomendao da Unidade Acesso de ter especial
ateno quando o nmero de elementos analisados pela ferramenta era inferior a 100: podemos inferir que quanto maior for o nmero de elementos observados na pgina, maior o
grau de confiana com que podemos aceitar as indicaes fornecidas no relatrio. Para um
nmero de elementos inferior a 100 necessrio inspecionar com maior cuidado as afirmaes
proferidas, aconselhando-se a efetuar sempre uma verificao manual (Acesso, 2015b).
55
11
Disponvel em http://getfirebug.com/
56
Captulo 4
Neste captulo expe-se a sntese dos resultados obtidos pela aplicao da metodologia
proposta. So apresentados os dados mais relevantes para a avaliao e a anlise crtica
dos resultados obtidos por cada indicador analisado. As classificaes finais dos organismos
podero ser encontrada no apndice A. As classificaes detalhadas por indicador analisado
podero ser encontrados no apndice E. Para alm dos dados recolhidos no mbito do modelo
de avaliao (33 indicadores), apresentam-se tambm dados adicionais que, embora no
faam parte do modelo de avaliao, foram complementarmente recolhidos. Estes dados so
apresentados porque reforam e ajudam a compreender os resultados obtidos.
4.1
Organismos analisados
Atravs da anlise da estrutura de organizao do Estado foram identificados 218 organismos, dos quais 130 foram alvo de anlise, depois de aplicados os critrios de incluso
e excluso evidenciados nas seces 3.3.1 e 3.3.2. Um nmero substancial de organismos
(59) foram considerados fora de mbito por no serem entidades de administrao direta ou
indireta. Por sua vez, 26 organismos embora dentro de mbito, no foram analisados porque
partilham os seus stios Web num portal com outras entidades (nomeadamente o Portal do
Governo e o Portal da Segurana Social, estes j assumidos como alvos de anlise).
57
Finalmente, 3 organismos no foram analisados, uma vez que os seus stios no se encontravam disponveis at data limite (ver seco 4.3). Na tabela 4.1 possvel observar esta
relao.
Tutela
Avaliado
No avaliado
No avaliado
No avaliado
No avaliado
Total
Fora de mbito
Integrado num stio partilhado
Organismo em remodelao
Stio Web do organismo em remodelao
N.o de Organismos
130
59
26
1
2
218
Estado
4
Direto
Indireto
16
10
5
1
3
1
6
7
5
5
10
4
4
4
7
78
4
7
6
3
10
3
5
48
Total
4
21
11
3
7
7
9
12
16
7
14
7
12
130
4.2
Os dados foram recolhidos quer por observao direta dos stios Web, quer recorrendo a
ferramentas automticas. Cada anlise demorou em mdia 27,98 minutos e foi orientada seguindo uma lista de verificao com 64 pontos, posteriormente consolidada nos 33 indicadores
anteriormente apresentados.
Para alm dos 33 indicadores que constituem o modelo de avaliao, recolheu-se informaes variadas como a localizao do alojamento dos stios Web, os autores do trabalho
(sempre que tal trabalho estivesse assinado), assim como resultados quantitativos globais
das ferramentas usadas.
4.3
Data de referncia
O levantamento dos organismos a analisar foi realizado entre o dia 5 de maro e o dia 26
de abril de 2015, atravs da metodologia indicada na seco anterior. Aps serem aplicados
os critrios de excluso, a recolha dos dados foi iniciada no ms de abril e prolongou-se at
agosto de 2015. Acontece que as estruturas da Administrao Pblica esto em constante
mudana, por isso, no decorrer da fase de testes, houve algumas reorganizaes e fuses de
organismos. Ao mesmo tempo, algumas entidades publicam novos novos stios Web.
Para lidar com esta realidade, entendeu-se que era necessrio proceder-se a novos testes.
Assim, durante o ms de agosto de 2015 recolheu-se dados relativamente s entidades que
sofreram alteraes, devendo ser este o ms considerado como referncia para os dados.
4.4
O critrio que obteve a melhor classificao mdia global foi os contedos (72%), pois
verificou-se que a maioria dos organismos publicam as informaes a que esto obrigados,
sobretudo os seus contactos e instrumentos de gesto. Em sentido inverso, o critrio de
acessibilidade revelou-se o mais deficitrio com uma classificao global mdia ponderada1
de 19%, revelando que a maioria dos organismos no dispe de um stio preparado para
utilizadores com necessidades especiais. Os indicadores de Usabilidade obtiveram uma classificao mdia global de 52% enquanto que o critrio de Eficincia obteve uma classificao
mdia global de 36%. De seguida, detalharemos os resultados de cada um dos indicadores
analisados.
1
A classificao mdia do critrio de acessibilidade ponderada uma vez que o peso de cada um dos seus
trs indicadores no igual: O indicador 3.1 tem um peso de 50%, o indicador 3.2 tem um peso de 30%
e o indicador 3.3 um peso de 20% para a classificao final do indicador. Desta forma, a mdia global na
classificao de acessibilidade considera estes pesos.
59
4.4.1
Contedos
Mdia
rea/Indicador
1 Estado - Geral
2 Presidncia do Conselho de Ministros
3 Finanas
4 Negcios Estrangeiros,
5 Defesa Nacional
6 Administrao Interna
7 Justia
8 Economia
9 Agricultura e do Mar
10 Solidariedade, Emprego e Segurana Social
11 Sade
12 Ambiente, Ordenamento do Territrio e Energia
13 Educao e Cincia
Mdia
100%
88%
100%
95%
88%
90%
100%
100%
75%
29%
100%
62%
75%
69%
100%
95%
88%
48%
4%
11%
83%
69%
100%
100%
93%
100%
100%
100%
100%
100%
100%
100%
100%
100%
100%
100%
100%
100%
100%
100%
86%
100%
94%
100%
100%
100%
100%
100%
100%
100%
100%
100%
100%
100%
14%
17%
21%
36%
28%
21%
19%
14%
64%
67%
57%
71%
56%
50%
56%
71%
95%
83%
57%
93%
83%
88%
72%
93%
100%
100%
100%
100%
100%
100%
97%
93%
55%
0%
50%
64%
83%
50%
47%
43%
23%
0%
7%
7%
21%
21%
17%
11%
75%
67%
67%
77%
77%
73%
71%
72%
100%
100%
100%
100%
93%
100%
100%
100%
0%
14%
43%
43%
79%
79%
96%
100%
50%
71%
34%
5%
70%
71%
100%
98%
100%
99%
92%
95%
100%
100%
36%
22%
100%
62%
82%
79%
92%
97%
36%
52%
18%
14%
75%
72%
4.4.2
Usabilidade
A sntese de resultados por departamento estatal apresentada na tabela 4.6, onde possvel observar a classificao parcial que o critrio Usabilidade contribuiu para a classificao
final. Como referido na seco anterior, uma vez que o peso do critrio Usabilidade de
25% do total da classificao final, a obteno de 100% de classificao neste critrio implica
obter 25% na classificao final. H que salientar que uma vez que alguns dos indicadores
so do tipo semforo, a classificao apresentada nesta tabela no se refere ao nmero de
2
Disponvel em http://www.google.com/analytics/
62
Tabela 4.4: Classificao do tipo de Cookies usados pelos stios Web dos organismos do
Estado
Departamento
1 Estado - Geral
2 Presidncia do Conselho de Ministros
3 Finanas
4 Negcios Estrangeiros
5 Defesa Nacional
6 Administrao Interna
7 Justia
8 Economia
9 Agricultura e do Mar
10 Solidariedade, Emprego e Segurana
Social
11 Sade
12 Ambiente, Ordenamento do Territrio
e Energia
13 Educao e da Cincia
Total
2.50
2.90
3.13
2.30
5.16
3.29
3.55
3.70
6.00
2.65
489
2170
848
1226
2446
4745
1022
934
3113
1295
3.45
3.71
2304
1851
1.60
3.51
785
1902
Figura 4.1: Relao entre o tempo de carregamento (s) e o tamanho mdio das pginas
inicias (KB)
Mdia
rea/Indicador
1 Estado - Geral
2 Presidncia do Conselho de Ministros
3 Finanas
4 Negcios Estrangeiros,
5 Defesa Nacional
6 Administrao Interna
7 Justia
8 Economia
9 Agricultura e do Mar
10 Solidariedade, Emprego e Segurana Social
11 Sade
12 Ambiente, Ordenamento do Territrio e Energia
13 Educao e da Cincia
Mdia
88%
74%
0%
19%
50%
48%
13%
40%
100%
100%
100%
43%
0%
19%
75%
86%
25%
29%
100%
62%
55%
52%
91%
33%
79%
86%
83%
83%
72%
100%
36%
67%
21%
7%
11%
8%
13%
14%
73%
67%
57%
43%
50%
38%
63%
86%
41%
50%
43%
36%
17%
29%
34%
57%
100%
100%
100%
100%
100%
58%
100%
100%
45%
100%
43%
86%
44%
42%
56%
57%
18%
33%
14%
14%
11%
0%
0%
0%
82%
67%
57%
86%
67%
83%
69%
71%
9%
67%
57%
29%
11%
8%
19%
29%
64%
100%
57%
86%
67%
67%
38%
43%
55%
68%
53%
57%
46%
42%
46%
56%
82%
71%
25%
14%
50%
57%
54%
64%
100%
100%
36%
100%
0%
14%
86%
71%
43%
14%
36%
43%
50%
55%
100%
81%
9%
17%
96%
59%
68%
42%
100%
96%
83%
57%
0%
9%
100%
79%
25%
25%
42%
56%
63%
52%
longo de vrios anos. O que facto que apenas 8,5% dos stios Web analisados usam esta
caracterstica.
O uso de plugins (indicador 2.8) foi encontrado em 27 stios Web analisados (20,77%). Os
plugins mais usados foram o Flash, o Silverlight e o Sharepoint. No foi encontrado nenhum
plugin que afetasse irremediavelmente a navegao nos stios.
Os resultados obtidos no indicador 2.9 Tamanho de letra legvel so baixos. Esta
verificao adota especial importncia nos dispositivos com ecr reduzido (como telemveis
e tablets), mas tambm importante para ecrs de computadores convencionais. Na anlise
realizada, a maioria dos stios Web (74,61%) no apresentou um tamanho de letra adequado
de forma a permitir uma boa legibilidade de contedos.
Finalmente, na verificao do uso de www ou https (indicador 2.10) foi detetado que
57 stios Web (43,85%) no permitiam o acesso quando o endereo era acedido por uma
das formas (com ou sem www). Para se considerar um comportamento correto, os stios
deveriam permitir o acesso quer o utilizador usasse ou no use o www (ou usasse ou no o
https). Por exemplo o stio exemplo.pt dever apresentar o mesmo contedo que o stio
www.exemplo.pt. Na maior parte dos casos, o que acontece que no possvel aceder ao
stio sem usar o prefixo www. Contudo, no stio do Instituto do Turismo de Portugal, I.P. o
endereo http://www.turismodeportugal.pt/ apresenta contedos diferentes do endereo
http://turismodeportugal.pt.
66
Mdia ponderada
rea/Indicador
1 Estado - Geral
2 Presidncia do Conselho de Ministros
3 Finanas
4 Negcios Estrangeiros,
5 Defesa Nacional
6 Administrao Interna
7 Justia
8 Economia
9 Agricultura e do Mar
10 Solidariedade, Emprego e Segurana Social
11 Sade
12 Ambiente, Ordenamento do Territrio e Energia
13 Educao e Cincia
Mdia
75%
36%
27%
50%
21%
14%
28%
13%
19%
29%
21%
29%
36%
28%
50%
14%
0%
33%
0%
0%
0%
0%
0%
0%
0%
0%
18%
6%
25%
14%
0%
17%
0%
0%
0%
0%
0%
0%
0%
0%
16%
5%
58%
25%
14%
38%
11%
7%
14%
6%
9%
14%
11%
14%
27%
19%
4.4.3
Acessibilidade
67
Departamento/ndice
Pgina Inicial
Pgina Interior
1 Estado - Geral
2 Presidncia do Conselho de Ministros
3 Finanas
4 Negcios Estrangeiros
5 Defesa Nacional
6 Administrao Interna
7 Justia
8 Economia
9 Agricultura e do Mar
10 Solidariedade, Emprego e Segurana Social
11 Sade
12 Ambiente, Ordenamento do Territrio e Energia
13 Educao e da Cincia
6,40
5,75
5,16
6,77
4,37
3,87
5,57
4,06
4,69
5,21
4,69
4,84
5,74
6,45
5,89
5,19
6,17
4,61
4,31
5,47
4,25
5,24
5,64
4,84
5,21
5,83
Mdia
5,08
5,27
Tabela 4.8: Mdia dos ndices AccessMonitor nas Pginas Iniciais e nas Pginas Interiores
Figura 4.2: Acessibilidade de nvel A - Classificao de stios Web por rea (indicador 3.1)
Figura 4.3: Acessibilidade de nvel AA - Classificao de stios Web por rea (indicador 3.2)
do Patrimnio Cultural, o da Secretaria Geral do Conselho de Ministros e o do Centro de
Gesto da Rede Informtica do Governo.
Nvel de Acessibilidade AAA
Na figura 4.4 possvel observar a distribuio das classificaes do indicador 3.3 pelos
departamentos do Estado. Do universo deste estudo, apenas seis stios Web (4,62%) passaram os testes AccessMonitor necessrios para a atribuio do nvel AAA (um stio consegue
parcialmente). Foram eles, o stio da Fundao para a Cincia e a Tecnologia, I.P., o da Presidncia da Repblica, o da Direo-Geral de Estatsticas da Educao, o da Direo-Geral
do Patrimnio Cultural, o da Secretaria Geral do Conselho de Ministros e o do Centro de
Gesto da Rede Informtica do Governo. O stio da Direo-Geral dos Assuntos Consulares
e das Comunidades Portuguesas obteve metade da classificao (semforo Amarelo), uma
vez que apresenta um erro parcial em apenas um dos testes realizados.
Smbolos de Acessibilidade
Apesar destes resultados, constatou-se que 90 stios Web (69,23%) dispunham de um
smbolo de Acessibilidade aposto cujo objetivo era mostrar a adequao (ainda que parcial)
com as diretrizes de acessibilidade.
A cultura que leva a esta afixao deriva da Resoluo do Conselho de Ministros n.o
97/1999 . No seu nmero trs referido que os stios da Internet dos organismos abrangidos
pelo presente diploma que satisfaam os requisitos de acessibilidade nele referidos devero
70
Figura 4.4: Acessibilidade de nvel AAA - Classificao de stios Web por rea (indicador
3.3)
indic-lo de forma clara, atravs de smbolo a que reconhecidamente seja associada essa
caracterstica. Na poca o smbolo mais popular era o proposto pelo o NCAM (figura 4.5).
A questo que este smbolo demostra somente um projeto de intenes, no sendo
vinculativo em qualquer aspeto. Alis, em muitos stios, o smbolo acompanhado de uma
mensagem que esclarece que A afixao do Smbolo de Acessibilidade no garante que este
stio seja 100% acessvel. A utilizao deste smbolo demonstra, unicamente, um esforo em
aumentar a acessibilidade da pgina no cumprimento da Resoluo de Conselho de Ministros
No 97/99 sobre acessibilidade dos stios da administrao pblica na Internet pelos cidados
com necessidades especiais. Com o evoluir das tecnologias e a prpria legislao, a tendncia
tem sido a escolha de um dos smbolos propostos pela W3C (figura 4.6), uma vez que o
grau de responsabilizao maior. Ao afixar um dos smbolos W3C, existe um grau de
comprometimento com as diretrizes que sustentam esse smbolo.
Verificou-se que 81 stios (62,30%) continuavam a usar o smbolo da fechadura e 46 stios
(35,39%) usavam um dos smbolos propostos pela W3C, tal como pode ser observador na
tabela 4.9. Como foi referido na seo 2.3.5, a lei exige que os stios cumpram, pelo menos, o
nvel A das WCAG 2.0. Apesar de 13 stios terem passado a bateria de testes AcessMonitor
para este nvel, nenhum stio exibe este smbolo.
Ironicamente, os stios que no afixaram qualquer tipo de smbolo de conformidade de
Acessibilidade (40) alcanaram, em mdia, um ndice AccessMonitor superior aos que o
tinham feito: 5,25 (sem afixao) contra 5,13 (com afixao).
71
Figura 4.5: Smbolo de Acessibilidade Web proposto pelo Web Access Project
4.4.4
Eficincia
Fechadura
3
11
5
WCAG 1.0
AA AAA
3
2
WCAG 2.0
AA AAA
2
2
1
4
4
8
10
12
6
10
2
6
81
1
1
2
4
3
1
13
1
1
5
3
4
3
22
1
3
Mdia
rea/Indicador
1 Estado - Geral
2 Presidncia do Conselho de Ministros
3 Finanas
4 Negcios Estrangeiros,
5 Defesa Nacional
6 Administrao Interna
7 Justia
8 Economia
9 Agricultura e do Mar
10 Solidariedade, Emprego e Segurana Social
11 Sade
12 Ambiente, Ordenamento do Territrio e Energia
13 Educao e Cincia
Mdia
38%
33%
50%
55%
38%
36%
50%
60%
50%
57%
25%
36%
0%
7%
0%
12%
50%
19%
50%
79%
35%
39%
9%
83%
14%
29%
28%
4%
19%
50%
55%
67%
50%
50%
56%
50%
53%
57%
36%
33%
29%
21%
44%
33%
19%
29%
50%
50%
36%
50%
50%
71%
56%
64%
55%
50%
50%
36%
50%
50%
59%
57%
9%
33%
36%
21%
50%
63%
38%
50%
18%
50%
0%
29%
17%
17%
6%
21%
5%
0%
14%
14%
0%
42%
3%
7%
36%
33%
43%
0%
11%
42%
25%
43%
68%
67%
57%
57%
39%
54%
47%
71%
34%
47%
33%
31%
34%
43%
33%
45%
21%
21%
54%
50%
29%
14%
54%
57%
39%
43%
14%
29%
14%
7%
0%
14%
14%
14%
46%
79%
29%
33%
14%
24%
55%
53%
36%
31%
64%
56%
64%
52%
55%
36%
18%
14%
18%
11%
18%
25%
82%
62%
42%
36%
As imagens so um recurso abundante dos stios Web e que contribuem em larga escala
para o tempo de carregamento das pginas. importante que as imagens estejam otimizadas,
usando tcnicas de compresso para evitar desperdcio de recursos (largura de banda, por
exemplo) e promover uma diminuio do tempo de carregamento, aumentando a experincia
do utilizador. Na verificao da otimizao das imagens (indicador 4.3), apenas dois stios
obtiveram classificao mxima: o stio da Casa Pia de Lisboa, I.P. e o stio da Autoridade
Tributria e Aduaneira. 76 stios (58,46%) obtiveram classificao parcial (semforo amarelo)
por terem algumas imagens com possibilidade de compresso adicional. Um total de 52 stios
(40%) obtiveram classificao nula neste critrio por usarem com uma dimenso maior que
o necessrio ou sem compresso. O pior caso encontrado foi o stio da Direo Regional de
Agricultura e Pescas do Algarve (Ministrio da Agricultura e do Mar) cuja pgina apresentava
12700 KB ( 12.4MB) uma vez que disponha de um lbum de fotografias em alta resoluo.
Esta uma tendncia que se verifica nos nove stios de maior tamanho, ou seja, apresentam
todos eles uma falta de redimensionamento ou de compresso de imagens.
A otimizao de CSS (indicador 4.4) o segundo indicador deste critrio que melhores
resultados obtm. Apenas 20 stios (15,39%) no apresentam problemas e por isso obtiveram classificao mxima, 106 stios (81,54%) obtiveram classificao parcial e apenas quatro
stios no obtiveram classificao neste domnio: a Direo-Geral da Qualificao dos Trabalhadores em Funes Pblicas (INA), a Direo-Geral de Recursos de Defesa Nacional, a
Marinha e a Inspeo-Geral da Administrao Interna. As classificaes parciais foram atribudas sobretudo devido quantidade de recursos externos de CSS usados, havendo espao
para serem combinados entre si, aumentando a eficincia das pginas.
O javascript um recurso cada vez mais usado, pois possibilita criar interatividade e
at tornar os stios mais eficientes ao permitindo, por exemplo, a atualizao de apenas
partes dos stios (no sendo necessrio carregar pginas completas). No que diz respeito
otimizao de javascript (indicador 4.5), a maioria dos stios (105, a que corresponde cerca
de 80,77%) obteve classificao parcial, 15 (11,54%) obtiveram classificao mxima e 10
(7,69%) no obtiveram qualquer classificao.
Quanto verificao dos pedidos HTTP e DNS (indicador 4.6), constatou-se que 76 stios
(58,46%) no obtiveram classificao, 15 stios (11,54%) obtiveram classificao parcial e
39 stios (30%) alcanaram classificao mxima. O pior desempenho do Estado-Geral
(nenhuma entidade obteve classificao) e o melhor exemplo o Ministrio da Economia,
cuja maioria dos stios obteve classificao.
No que diz respeito tcnica que permite aumentar a eficincia das cpias locais (cache)
dos stios Web (indicador 4.7), verificou-se que maioria dos stios no a usa (98 stios, o que
corresponde a 75, 38%), 28 stios usa parcialmente (28,54%) e apenas 4 usam na totalidade
(3%). So eles o Instituto de Gesto Financeira e Equipamentos da Justia, I.P., a Direo
Geral dos Assuntos Consulares e das Comunidades Portuguesas, o Instituto dos Mercados
Pblicos, do Imobilirio e da Construo, I.P e os Servios Sociais da Administrao Pblica.
Este trata-se do pior indicador de eficincia analisado. Uma especial ateno neste campo
74
4.5
As classificaes finais foram calculadas articulando as classificaes e os pesos dos indicadores previstos na tabela 3.1. Na tabela 4.13 observam-se os resultados das classificaes
por departamento estatal, distribudas por escales.
Os resultados seguem uma distribuio normal, conforme pode ser observado na figura
4.7. A classificao mdia alcanada pelos stios Web foi de 45%, a mediana foi de 44% e a
moda de 39%. Dada a grande amplitudes de valores, o desvio padro de 0,10. Apenas 31
stios obtiveram classificao global positiva (igual ao superior a 50%).
Os resultados por organismo podem ser encontrados resumidos no apndice A e detalhados no apndice E. O departamento Estado-Geral obteve uma classificao mdia de 58%,
o Ministrio dos Negcios Estrangeiros 55%, o Ministrio da Educao e Cincia 52%, o
Ministrio da Solidariedade, Emprego e Segurana Social 47%, a Presidncia do Conselho de
Ministros 46%, o Ministrio das Finanas 45%, o Ministrio da Administrao Interna 43%,
75
Departamento
1
2
3
4
5
6
7
8
9
10
13
13
2
4
2
1
2
10
13
2
Organismo
Classificao Final
85%
80%
73%
73%
71%
69%
68%
66%
66%
63%
Departamento
2
9
9
2
8
11
9
11
2
3
Organismo
Classificao Final
25%
26%
29%
31%
31%
31%
33%
33%
33%
34%
76
1 Estado - Geral
2 Presidncia do Conselho de Ministros
3 Finanas
4 Negcios Estrangeiros,
5 Defesa Nacional
6 Administrao Interna
7 Justia
8 Economia
9 Agricultura e do Mar
10 Solidariedade, Emprego e Segurana Social
11 Sade
12 Ambiente, Ordenamento do Territrio e Energia
13 Educao e Cincia
Organismos
1
6
4
7
3
1
2
3
2
4
7
1
7
2
2
5
3
7
7
4
4
7
4
3
41
55
1
3
4
1
2
2
90-100%
80-89%
70-79%
60-69%
50-59%
40-49%
30-39%
20-29%
10-19%
0-9%
Departamento/Classificao Finais
4
21
11
3
7
7
9
12
16
7
14
7
12
2
1
1
1
3
1
1
4
19
2
3
Totais
130
60
Nmero de organismos (Quantidade)
55
50
41
40
30
19
20
10
7
0
0-9
3
3
2
0
0
10-19 20-29 30-39 40-49 50-59 60-69 70-79 80-89 90-100
Classificaes Finais (%)
Figura 4.7: Sntese das classificaes finais por escalo
77
78
Captulo 5
Propostas apresentadas
Be a yardstick of quality. Some people arent used to an environment where excellence is expected."
Steve Jobs
No sentido de melhorar a Web dos organismos pblicos e com base nas evidncias e dados
recolhidos neste estudo, apresentam-se seguidamente propostas com o objetivo de aumentar
a transparncia, melhorar a experincia de utilizao dos cidados e reduzir custos para o
Estado.
1. Processo de Verificao de Qualidade. Sugere-se a criao de um processo uniformizado, transversal e vinculativo de verificao de qualidade dos stios da Administrao Pblica junto da Agncia para a Modernizao Administrativa1 ou de outra
entidade que se julgar apropriada para o efeito. Este estudo prope um modelo de avaliao que pode servir de base a este processo. Todavia, o modelo de avaliao agora
proposto dever acompanhar o desenvolvimento da tecnologia e ser revisto periodicamente. Este processo tambm dever ser articulado com outros documentos criados
no mbito do PGETIC - Plano Global Estratgico de Racionalizao e Reduo de
Custos das TIC na Administrao Pblica (AMA, 2015) e ser feito anualmente a todos os stios Web da Administrao Pblica. Cada anlise deve originar um relatrio
detalhado com a identificao dos problemas e com propostas de resoluo.
2. Referncia a normas em contratos de prestao de servios. Bevan (2009)
refere que as normas relacionadas com a Usabilidade so mais eficazes (e tm maior
aplicabilidade prtica) quando so vertidas em contratos comerciais. Com base no
trabalho de Bevan, sugere-se a referncia s normas de qualidade, usabilidade e acessibilidade nos modelos dos contratos de prestao de servios entre organismos pblicos
1
A sugesto da AMA feita uma vez que esta entidade tem sido responsvel pelo desenvolvimento de
muitos programas de governo eletrnico e promoo das TIC no estado.
79
Os sistemas de gesto de contedos devem ser concebidos de acordo com as diretrizes Authoring Tool
Accessibility Guidelines (ATAG) apresentadas na seo 2.3.2.
80
legados3 e outros optam ainda pelo domnio gov.pt. Dentro de cada departamento
estatal tambm no existe uniformidade. Por exemplo, os endereos dos stios Web
das Direes Regionais de Cultura no seguem uma regra comum:
http://www.culturanorte.pt/
http://www.culturacentro.pt/
http://www.cultura-alentejo.pt/
http://www.cultalg.pt/
O mesmo acontece com a escolha de domnios e de subdomnios. Por exemplo, nos
organismos sob tutela do Ministrio da Agricultura e do Mar so atualmente usados
trs domnios diferentes (min-agricultura.pt, mamaot.pt e mam.gov.pt):
Direo-Geral de Alimentao e Veterinria
http://www.dgv.min-agricultura.pt/
http://www.dgadr.mamaot.pt/
http://www.dgpm.mam.gov.pt/
7. Generalizao do domnio gov.pt. Dos 130 stios analisados neste estudo, apenas
20 (15,39%) usavam endereos com o domnio .gov.pt. A utilizao de domnios gov.pt
pode ser feita por todos os organismos governamentais e uma oportunidade para
reduzir custos. Por outro lado, evitaria o uso de domnios de topo .pt que ficaro
desatualizados em caso de reformulao futura do departamento a que pertence o
organismo, alis, como tem acontecido nos ltimos anos.
8. Disponibilizao obrigatria dos autores na Ficha tcnica. Os stios pblicos
devem ser assinados pelas empresas que os conceberam e implementaram. Esta informao deve constar numa pgina do stio intitulada de Ficha Tcnica com o objetivo
de aumentar a transparncia e a presso sobre as empresas que prestam servios de consultoria ao Estado. Se todos os stios Web do estado estiverem assinados pelos autores,
ser possvel comparar resultados de qualidade por autor, o que motivar as empresas de consultoria a melhorar os seus procedimentos de desenvolvimento, reforando a
qualidade dos seus servios.
9. Otimizao de alojamento e melhoria de resposta dos servidores. Como visto
no captulo 4, 28,46% dos stios esto alojados em servidores com tempos de resposta
elevados. Os stios analisados tambm esto dispersos por cerca de 30 empresas diferentes de hosting. No mbito do PGETIC, recomenda-se um trabalho conjunto com
os prestadores de servios de hosting, no sentido de se tornarem todas as medidas
necessrias para o aumento do tempo de resposta dos servidores4 .
3
Com a reorganizao de entidades surgem novos nomes e siglas. Os novos domnios continuam por vezes
a usar os domnios anteriores reformulao, podendo gerar confuso nos utilizadores.
4
Grande parte destas medidas so configuraes relativamente fceis de implementar e que no acarretam
custos.
81
82
Captulo 6
Albert Einstein
Neste ltimo captulo, enumeram-se as principais concluses deste estudo (seco 6.1)
dando tambm sugestes para trabalhos futuros (seco 6.2).
6.1
Concluses
A literatura consultada em Portugus sobre boas prticas de Usabilidade e da Acessibilidade Web de stio da Administrao Pblica est datada e, por isso, tornou-se
necessrio propor e testar um novo modelo de avaliao baseado nas boas prticas propostas recentemente pela literatura. O ltimo grande estudo de anlise aos stios web
da Administrao Pblica fora realizado em 2003 pela Accenture (Accenture, 2003) e
apresentava indicadores obsoletos e que estavam focados na anlise de contedos em
detrimento de outros indicadores importantes que foram privilegiados neste estudo.
Atravs da consulta das leis orgnicas dos vrios Ministrios, foram identificados 218
organismos, dos quais 130 foram alvo de anlise, depois de aplicados os critrios de
incluso e excluso evidenciados na seo 4.1 e 3.3.2. Por no serem entidades de
administrao direta ou indireta, 59 organismos foram considerados fora de mbito e
por isso no analisados. No foram analisados os stios Web de 26 organismos uma vez
que estes partilhavam os seus stios Web num portal unificado com outras entidades
(nomeadamente o Portal do Governo e o Portal da Segurana Social, estes sim alvos
de anlise) e de outras trs entidades que no dispunham de stio Web (devido a
restruturaes e fuses de organismos).
83
85
6.2
Trabalho Futuro
Este estudo deve ser encarado com uma primeira iterao de um processo de melhoria
contnua. No seguimento das propostas apresentadas, a anlise aos stios Web dever ser
realizada periodicamente. Isto permitir analisar a evoluo da qualidade dos stios Web da
Administrao Pblica.
Ser conveniente alargar os critrios de incluso (ver seco 4.1) no sentido de analisar
stios Web de outros organismos do Estado que ainda no foram alvo de nenhuma anlise
deste gnero (como tribunais, hospitais e escolas, por exemplo) e ainda microstios e stios
temticos (orientados a programas) produzidos por cada organismo. Da mesma forma far
sentido alargar a anlise a organismos das administraes regionais das regies autnomas
da Madeira e dos Aores.
Um outro trabalho interessante ser testar a Usabilidade e Acessibilidade de aplicaes
especficas e que tm grande impacto na vida dos cidados, como por exemplo as aplicaes
da Autoridade Tributria e Aduaneira ou da Segurana Social.
86
Bibliografia
21, V. (2008). Relatrio vector21 sobre acessibilidade web em portugal. Acedido a 13 de
dezembro de 2014 de http://www.vector21.com/?idc=27&idi=4953
Accenture. (2003). Relatrio final: Avaliao externa de web sites dos organismos da administrao directa e indirecta do estado (segunda ed.). Lisboa: Unidade de Misso
Inovao e Conhecimento da Presidncia do Conselho de Ministros.
Acesso, U. (2015a). Bateria de testes accessmonitor (verso beta). Acedido a 20 de agosto
de 2015 de http://www.acessibilidade.gov.pt/accessmonitor/bateria.php
Acesso, U. (2015b). Nota tcnica do accessmonitor. Acedido a 20 de agosto de 2015 de
http://www.acessibilidade.gov.pt/accessmonitor/nota_tecnica.html#n12
Akamai. (2009). Akamai reveals 2 seconds as the new threshold of acceptability for ecommerce web page response times. URL: http://uk.akamai.com/html/about/press/
releases/2009/press_091409.html
AMA. (2015). Plano global estratgico para a racionalizao e reduo de custos com as
tecnologias de informao e de comunicao, na administrao pblica. Acedido a 20
de setembro de 2015 de https://www.tic.gov.pt/
Amaral, L., Santos, L., & Oliveira, J. (2003). Mtodo de avaliao dos web sites dos
organismos da administrao directa e indirecta do estado.
Antnio, N., & Teixeira, A. (2007). Gesto da qualidade: De deming ao modelo de excelncia
da efqm. Lisboa: Edies Slabo.
Atkinson, B. F. W., Bennett, T. O., Bahr, G. S., & Nelson, M. W. (2007). Multiple heuristic
evaluation table (mhet). Acedido a 2 de abril de 2013 de http://research.fit.edu/
carl/documents/MHET.pdf
Aviso 255/2010. (2010). Dirio da Repblica n.o 182, de 17 de setembro de 2010.
Beck, S. (1997). Evaluation criteria. the good, the bad & the ugly: or, why its a good ideia
to evaluate web sources. URL: http://lib.nmsu.edu/instruction/evalcrit.html
Bevan, N. (1995). Usability is quality of use. Proceedings of the 6th International Conference
on Human Computer Interaction.
Bevan, N. (1999). Quality in use: Meeting user needs for quality. Acedido a 14 de agosto
de 2014 de http://www.usabilitynet.org/papers/qiuse.pdf
Bevan, N. (2009). International standards for usability should be more widely used. Journal
of Usability Studies, 4 (3), 106-113.
Blackmon, M. H., Polson, P. G., Kitajima, M., & Lewis, C. (2002). Cognitive walkthrough
for the web. In Proceedings of the SIGCHI conference on human factors in computing
systems: Changing our world, changing ourselves (pp. 463470). Minneapolis, Minnesota, USA: ACM. URL: http://portal.acm.org/citation.cfm?id=503459 doi:
10.1145/503376.503459
Booth, P. A. (1989). An introduction to human-computer interaction.
Borsci, S., Kurosu, M., Federici, S., & Mele, M. L. (2013). Computer systems experiences of
users with and without disabilities: An evaluation guide for professionals. CRC Press.
87
Brajnik, G. (2004). Using automatic tools in accessibility and usability assurance. Acedido
a 2 de agosto de 2014 de http://link.springer.com/chapter/10.1007/978-3-540
-30111-0_18
Brooke, J. (1996). Sus: a "quick and dirty"usability scale : Usability evaluation in industry.
(P. W. Jordan, B. Thomas, & B. A. Weerdmeeste, Eds.). Taylor and Francis.
Card, S. K., Moran, T. P., & Newell, A. (1980). The keystroke-level model for user performance time with interactive systems. Commun. ACM , 23 (7), 396410. URL:
http://doi.acm.org/10.1145/358886.358895 doi: 10.1145/358886.358895
Card, S. K., Moran, T. P., & Newell, A. (1983). The psychology of human-computer interaction. Taylor & Francis. URL: http://books.google.pt/books?id=30UsZ8hy2ZsC
Carlisle, J. H. (1976). Evaluating the impact of office automation on top management
communication. In Proceedings of the june 7-10, 1976, national computer conference
and exposition (pp. 611616). New York, NY, USA: ACM. URL: http://doi.acm
.org/10.1145/1499799.1499885 doi: 10.1145/1499799.1499885
Carvalho, A. A. A. (2006). Indicadores de qualidade de sites educativos. URL: http://
nautilus.fis.uc.pt/personal/jcpaiva/disc/me/rec/03/04/01/texto1.pdf
Carvalho, R. M. (2008). Nova plataforma informtica do jornal de negcios. Acedido a 6 de
Agosto de 2014 de http://www.ricardomcarvalho.pt/blog/jornal-de-negocios/
Carvalho, R. M. (2013). Histria e origens da interaco pessoa-mquina. Acedido a
6 de maro de 2014 de http://www.ricardomcarvalho.pt/blog/historia-origens
-interaccao-pessoa-maquina/
Castro, J. A. (2010). Testes com utilizadores. Acedido a 26 de julho de 2014 de http://
developers.blogs.sapo.pt/36416.html
Chapanis, A. (1949). Applied experimental psychology: human factors in engineering design.
Wiley.
Chi, E. H., Pirolli, P., & Pitkow, J. (2000). The scent of a site: A system for analyzing
and predicting information scent, usage, and usability of a web site. In Proceedings
of the sigchi conference on human factors in computing systems (pp. 161168). New
York, NY, USA: ACM. URL: http://doi.acm.org/10.1145/332040.332423 doi:
10.1145/332040.332423
Chmiel, N. (Ed.). (2008). An introduction to work and organizational psychology: An
european perspective. Wiley-Blackwell.
Clark, J. (2006). To hell with wcag 2. Acedido a 19 de Fevereiro de 2012 de http://
www.alistapart.com/articles/tohellwithwcag2
ClickZ. (2015). Why mobile web still matters in 2015. Acedido a 20 de julho de
2015 de http://www.clickz.com/clickz/column/2388915/why-mobile-web-still
-matters-in-2015
Cooke, L., & Cuddihy, E. (2005). Using eye tracking to address limitations in think-aloud
protocol. In Professional communication conference, 2005. IPCC 2005. proceedings.
international (pp. 653658). doi: 10.1109/IPCC.2005.1494236
Coyier, C. (2009). Css sprites: What they are, why theyre cool, and how to use them.
Acedido a 2 de junho de 2014 de http://css-tricks.com/css-sprites/
Decreto do presidente da repblica n.o 52/2008. (2008). Dirio da Repblica n.o 145, de 29
de julho de 2008.
Decreto-lei no 102/2013. (2013). Dirio da Repblica n.o 142 de 25 de julho de 2013.
Decreto-lei no 11/2014. (2014). Dirio da Repblica n.o 15 de 22 de janeiro de 2014.
Decreto-lei no 112/2014. (2014). Dirio da Repblica n.o 132 de 11 de julho de 2014.
Decreto-lei no 117/2011. (2011). Dirio da Repblica n.o 239 de 15 de dezembro de 2011.
Decreto-lei no 121/2011. (2011). Dirio da Repblica n.o 249 de 29 de dezembro de 2011.
Decreto-lei no 123/2011. (2011). Dirio da Repblica n.o 249 de 29 de dezembro de 2011.
88
Fernandes, J., & Cardoso, C. (2013). Estudo sobre o estado da acessibilidade dos stios web
dos estabelecimentos de ensino superior.
Fernandes, J., & Cardoso, C. (2014). Acessibilidade dos contedos web dos municpios
portugueses.
Fernandez, A., Insfran, E., & Abraho, S. (2011). Usability evaluation methods for the web:
A systematic mapping study. Information and Software Technology, 53 (8), 789 - 817.
URL: http://www.sciencedirect.com/science/article/pii/S0950584911000607
(Advances in functional size measurement and effort estimation - Extended best papers)
doi: http://dx.doi.org/10.1016/j.infsof.2011.02.007
Fu, L., Salvendy, G., & Turley, L. (2002). Effectiveness of user testing and heuristic evaluation as a function of performance classification. Behaviour & Information Technology,
21 (2), 137-143.
Galitz, W. O. (1993). User-interface screen design (quarta ed.). John Wiley & Sons.
Garcia, A. C. B., Maciel, C., & Pinto, F. B. (2005). A quality inspection method to evaluate
E-Government sites. In M. Wimmer, R. Traunmller, . Grnlund, & K. Andersen
(Eds.), Electronic government (Vol. 3591, pp. 198209). Springer Berlin / Heidelberg.
URL: http://dx.doi.org/10.1007/11545156_19 (10.1007/11545156_19)
Gomes, I. (2005). Prototipagem em papel. Acedido a 22 de abril de 2014 de http://
www.ivogomes.com/blog/prototipagem-em-papel/
Gomes, I. (2007). Wcag samurai. Acedido a 28 de agosto de 2013 de http://www.ivogomes
.com/blog/wcag-samurai/
Gonalves, C. (2003). Enquadramento familiar das pessoas com deficincia: Uma anlise
exploratria dos resultados dos censos 2001. INE .
Gonalves, R., Pereira, J., Martins, J., Martins, J., & Branco, F. (2014). Acessibilidade web:
Ponto de situao das maiores empresas portuguesas 2014.
Google. (2010). Using site speed in web search ranking. Acedido a 20 de julho de 2015
de http://googlewebmastercentral.blogspot.pt/2010/04/using-site-speed-in
-web-search-ranking.html
Google. (2013). Is the web getting faster? Acedido a 14 de agosto de 2014 de http://
analytics.blogspot.pt/2013/04/is-web-getting-faster.html
Google. (2015a). About pagespeed insights. Acedido a 20 de Julho de 2015 de https://
developers.google.com/speed/docs/insights/about
Google. (2015b). Avoid plugins. Acedido a 20 de julho de 2015 de https://developers
.google.com/speed/docs/insights/AvoidPlugins?hl=en
Google. (2015c). Enable compression. Acedido a 20 de julho de 2015 de https://developers
.google.com/speed/docs/insights/EnableCompression
Google. (2015d). Improve server response time. Acedido a 20 de julho de 2015 de https://
developers.google.com/speed/docs/insights/Server
Google. (2015e). Mobile analysis in pagespeed insights. Acedido a 8 de abril de 2015 de
https://developers.google.com/speed/docs/insights/mobile
Google. (2015f). Remove render-blocking javascript. Acedido a 20 de julho de 2015 de
https://developers.google.com/speed/docs/insights/BlockingJS
Google. (2015g). Use legible font sizes. Acedido a 20 de Julho de 2015 de https://
developers.google.com/speed/docs/insights/UseLegibleFontSizes
Grassian, E. (2000). Thinking critically about world wide web resources. Acedido a 4 de
abril de 2014 de http://www.mscare.org/?page=Article0002
Griffiths, R. T. (2002). Chapter two: From arpanet to world wide web em history of the
internet, internet for historians (and just about everyone else). Acedido a 9 de maro
de 2013 de http://www.let.leidenuniv.nl/history/ivh/chap2.htm
Groote, S. L. D., & Dorsch, J. L. (2001, October). Online journals: impact on print journal
90
usage. Bulletin of the Medical Library Association, 89 (4), 372378. URL: http://www
.ncbi.nlm.nih.gov/pmc/articles/PMC57966/ (PMID: 11837259 PMCID: 57966)
Group, M. M. (2015). Internet growth statistics. Acedido a 20 de fevereiro de 2015 de
http://www.internetworldstats.com/stats.htm
Hertzum, M., & Jacobsen, N. E. (2003). The evaluator effect: A chilling fact about usability
evaluation methods. International Journal of Human-Computer Interaction, 15 (1),
183. URL: http://www.informaworld.com/10.1207/S15327590IJHC1501_14 doi:
10.1207/S15327590IJHC1501_14
Hewett, T., Baecker, R., Card, S., Carey, T., Gasen, J., Mantei, M., . . . Verplank, W.
(1992). Curricula for human-computer interaction. Acedido a 3 de dezembro de 2014
de http://old.sigchi.org/cdg/cdg2.html
Huberman, B. A., Pirolli, P. L. T., Pitkow, J. E., & Lukose, R. M. (1997). Strong regularities
in world wide web surfing.
INE. (2011). Dificuldades (n.o ) da populao to com dificuldades por local de residncia ( data dos censos 2011), sexo, grupo etrio, tipo de dificuldade e grau de dificuldade; decenal - ine, recenseamento da populao e habitao. Acedido a 4 de
Julho de 2013 de http://censos.ine.pt/xportal/xmain?xpid=CENSOS&xpgid=ine
_censos_indicador&contexto=ind&indOcorrCod=0006371&selTab=tab10
Instone, K. (2010). Navigation stress test. Acedido a 2 de junho de 2014 de http://
instone.org/navstress
ISO. (1998). Iso9241-11: Ergonomic requirments for office work with visual disply terminals
(vdts) - part 11: Guidance on usability [Computer software manual]. Geneva, CH.
URL: www.it.uu.se/edu/course/homepage/acsd/vt10/ISO9241part11.pdf
ISO. (1999). Iso13407: Human centred design processes for interactive systems [Computer
software manual]. Geneva, CH. URL: http://www.iso.org/cate/d21197.html
ISO. (2010). Iso9241-210 human centred design processes for interactive systems [Computer software manual]. Geneva, CH. URL: http://www.iso.org/iso/home/store/
catalogue_tc/catalogue_detail.htm?csnumber=52075
ISO.
(2015).
Iso/dis 9241-11: Ergonomics of human-system interaction part
11: Usability: Definitions and concepts [Computer software manual].
Geneva, CH. URL: http://www.iso.org/iso/home/store/catalogue_ics/catalogue
_detail_ics.htm?csnumber=63500
ISO/IEC. (1991). Iso/iec9126: Software enginnering product quality [Computer software
manual]. Geneva, CH.
ISO/IEC. (1994). Quality management and quality assurance vocabulary [Computer
software manual]. Geneva, CH. URL: http://www.iso.org/iso/iso_catalogue/
catalogue_ics/catalogue_detail_ics.htm?csnumber=20115
ISO/IEC. (2001). Iso/iec9126: Software engineering product quality part1: Quality
model. [Computer software manual]. Geneva, CH.
ISO/IEC. (2011). Iso/iec 25010:2011: Systems and software engineering systems and
software quality requirements and evaluation (square) system and software quality
models [Computer software manual]. Geneva, CH: ISO.
Ivory, M., & Hearst, M. A. (2001). The state of the art in automating usability evaluation
of user interfaces. ACM Computing Surveys (CSUR), 33(4), 470-516.
Ivory, M. Y., & Chevalier, A. (2002). A study of automated web site evaluation tools (Tech.
Rep.). University of Washington. URL: ftp://ftp.cs.washington.edu/tr/2002/
10/UW-CSE-02-10-01.pdf
Ivory, M. Y., & Hearst, M. A. (2001, December). The state of the art in automating
usability evaluation of user interfaces. ACM Comput. Surv., 33 (4), 470516. URL:
http://doi.acm.org/10.1145/503112.503114 doi: 10.1145/503112.503114
91
Ivory, M. Y., Mankoff, J., & Le, A. (2003a). Using automated tools to improve web site
usage by users with diverse abilities. Human-Computer Interaction Institute, 117.
Ivory, M. Y., Mankoff, J., & Le, A. (2003b). Using automated tools to improve web site
usage by users with diverse abilities. IT&SOCIETY , 1 (3), 195-236.
Jeffries, R., Miller, J. R., Wharton, C., & Uyeda, K. (1991). User interface evaluation
in the real world: a comparison of four techniques. In Proceedings of the SIGCHI
conference on human factors in computing systems: Reaching through technology (pp.
119124). New Orleans, Louisiana, United States: ACM. URL: http://portal.acm
.org/citation.cfm?id=108862 doi: 10.1145/108844.108862
Jordan, P. W. (1998). An Introduction To Usability. CRC (1998), Edition: 1, Paperback,
136 pages.
Juran, J. (1995). A history of managing for quality: The evolution, trends, and future
directions of managing for quality. Milwaukee: ASQC Press.
Kadlec, T. (2012). Implementing responsive design: Building sites for an anywhere,
everywhere web (voices that matter) (New Riders ed.). Berkeley.
Karat, C., Campbell, R., & Fiegel, T. (1992). Comparison of empirical testing and walkthrough methods in user interface evaluation. In Proceedings of the SIGCHI conference
on human factors in computing systems (pp. 397404). Monterey, California, United States: ACM. URL: http://portal.acm.org/citation.cfm?id=142750.142873
doi: 10.1145/142750.142873
King, A. B. (2008). Website optimization: Speed, search engine & conversion rate secrets
(primeira ed.). OReilly Media.
Krishnamurthy, S. (2002). E-Commerce management: Text and cases. South-Western
College Pub.
Krug, S. (2005). Dont Make Me Think: A Common Sense Approach to Web Usability
(segunda ed.). New Riders Press.
Kurosu, M. (2007). Concept of usability revisited. In J. Jacko (Ed.), Human-computer
interaction. interaction design and usability (Vol. 4550, p. 579-586). Springer Berlin
Heidelberg.
Landauer, T. K. (1996). The trouble with computers: Usefulness, usability, and productivity.
The MIT Press.
Lei n.o 3/2004. (2004). Dirio da Repblica de 15 de Janeiro de 2004. Lisboa.
Lei n.o 36/2011. (2011). Dirio da Repblica n.o 118 de 21 de Junho de 2011. Lisboa.
Lei n.o 46/2012. (2012). Dirio da Repblica n.o 167 de 29 de agosto de 2012. Lisboa.
Lei n.o 66-b/2007. (2004). Dirio da Repblica no 250 de 28 de dezembro de 2007. Lisboa.
Lei no 67/2013. (n.d.). Dirio da Repblica n.o 165 de 28 de agosto de 2013.
Levi, M. D., & Conrad, F. G. (2008). Usability testing of world wide web sites. Acedido a 9
de Dezembro de 2014 de http://stats.bls.gov/ore/htm_papers/st960150.htm
Lewis, C., & Rieman, J. (1993). Task-centered user interface design: A practical introduction.
Acedido a 26 de janeiro de 2014 de http://hcibib.org/tcuid/chap-4.html#4-1
Livari, J., & Livari, N. (2010, maro). Varieties of user-centredness: an analysis of four
systems development methods. Information Systems Journal , 21 (2), 125-153.
Loveday, L., & Niehaus, S. (2007). Web design for ROI: turning browsers into buyers &
prospects into leads. New Riders Press (2007), Paperback, 216 pages.
Mardis, L., & Ury, C. (2003). Make evaluating websites a part of the research process.
Acedido a 6 de agosto de 2014 de http://www.nwmissouri.edu/library/courses/
evaluation/edeval.htm (Northwest Missouri State University, Owens Library)
Martins, J. L. B. (2008). Avaliao de acessibilidade dos stios web das empresas portuguesas
(Unpublished masters thesis). UTAD.
Matera, M., Rizzo, F., & Carughi, G. T. (2006). Web usability: principles and evaluation
92
93
94
Samurai, W. (2008b). Wcag samurai errata for web content accessibility guidelines (wcag)
1.0. Acedido a 15 de Fevereiro de 2014 de http://wcagsamurai.org/errata/errata
.html
Santos, L., & Amaral, L. (2012). Presena na internet das juntas de freguesia portuguesas em
2009 : estudo sobre local egovernment em portugal. URL: http://www3.dsi.uminho
.pt/gavea/downloads/EstudoCM2009.pdf
Sauro, J. (2012). How effective are heuristic evaluations? Acedido a 12 de junho de 2015
de http://www.measuringu.com/blog/effective-he.php
SEAP. (2012). Relatrio final do plano de reduo e melhoria da administrao cental
(premac). Acedido a 13 de agosto de 2015 de http://www.portugal.gov.pt/media/
782284/20121128-PREMAC-Balanco-Final.pdf
Shackel, B. (1981). The concept of usability. Poughkeepsie, NY: Proceedings of IBM Software
ans Information Usability Symposium.
Shackel, B. (1986). Ergonomics in design for usability. In Proceedings of the second conference
of the british computer society, human computer interaction specialist group on people
and computers: Designing for usability (p. 44-64). New York, NY, USA: Cambridge
University Press.
Shackel, B. (1991). Usability - context, framework, design and evaluation. In B. S. . S. Richardson (Ed.), Human factors for informatics usability (p. 21-38). Cambridge: Cambridge University Press.
Shneiderman, B. (1986). Designing the user interface: strategies for effective humancomputer interaction. Addison-Wesley Longman Publishing Co., Inc. URL: http://
portal.acm.org/citation.cfm?id=6682
Souders, S. (2007). High performance web sites: Essential knowledge for Front-End engineers
(primeira ed.). OReilly Media.
Souders, S.
(2008).
High-performance web sites.
Communications of ACM ,
51 (12), 36.
URL: http://portal.acm.org/citation.cfm?id=1409360&coll=
ACM&dl=ACM&CFID=101867080&CFTOKEN=87038769
Suarez, A. (2005). Comunicao institucional no ensino superior: usabilidade e visitas
virtuais num estudo de caso (MSc Thesis, Universidade do Porto). URL: http://
bibliotecadigital.ipb.pt/handle/10198/444
Tognazzini, B. (2014). Primeiros princpios do interaction design (revised and expanded). Acedido a 5 de junho de 2014 de http://asktog.com/atc/principles-of
-interaction-design/
Toms, C. (2014). A acessibilidade das plataformas de elearning em instituies de ensino
pblico em portugal: contributos iniciais. URL: http://www.panoramaelearning.pt/
wp-content/uploads/2014/04/AcessibilidadeElearningESPP.pdf
UMIC. (2008). Conformidade dos stios da administrao pblica na internet com o nvel
"a"das wcag 1.0 do w3c. Acedido a 2 de maio de 2014 de http://www.umic.pt/
images/stories/publicacoes2/Rel_Acess_AP_Fev_2008.pdf
Vidigal, L. (2002). A face oculta da governana: Cidadania, administrao pblica e sociedade. Lisboa: INA. (Captulo: A cidadania activa e as novas comunidades virtuais O papel das TIC no relacionamento entre o Estado e o Cidado)
Vise, D. A. (2008). The google story (quarta ed.). Pan.
Vu, K.-P. L., & Proctor, R. W. (2011). Handbook of human factors in web design. California
State University; Prentice Hall (2003).
W3C. (1999). Cool uris dont change. Acedido a 4 de agosto de 2010 de http://www.w3.org/
Provider/Style/URI
W3C. (2012a). Social factors in developing a web accessibility business case for your organization. Acedido a 5 de agosto de 2014 de http://www.w3.org/WAI/bcase/soc
95
W3C. (2012b). W3c web content accessibility guidelines 2.0 approved as iso/iec international
standard. Acedido a 21 de outubro de 2014 de http://www.w3.org/2012/07/wcag2pas
-pr.html
W3C. (2014). Introduo s noes sobre as wcag 2.0. Acedido a 20 de outubro de 2014 de
http://www.acessibilidade.gov.pt/w3/TR/UNDERSTANDING-WCAG20/intro.html
W3C. (2015a). Current members of the world wide web consortium (w3c). Acedido a 5 de
setembro de 2015 de http://www.w3.org/Consortium/Member/List
W3C. (2015b). Mission of the world wide web consortium (w3c). Acedido a 3 de agosto de
2015 de http://www.w3.org/Consortium/mission
W3C. (2015c). Syntax and basic data types: lengths. Acedido a 25 de julho de 2015 de
http://www.w3.org/TR/CSS2/syndata.html#length-units
W3C. (2015d). Web accessibility evaluation tools list. Acedido a 21 de julho de 2015 de
http://www.w3.org/WAI/ER/tools/
WAI. (1999). Web content accessibility guidelines 1.0. Acedido a 19 de outubro de 2014 de
http://www.w3.org/TR/WCAG10/
WAI. (2005). User agent accessibility guidelines (uaag) overview. Acedido a 23 de maro de
2014 de http://www.w3.org/WAI/intro/uaag.php
WAI. (2008). Tcnicas e falhas para as directrizes de acessibilidade para o contedo da web
2.0. Acedido a 21 de outubro de 2014 de http://www.acessibilidade.gov.pt/w3/
TR/WCAG20-TECHS/
WAI. (2011a). Web accessibility initiative (wai). Acedido a 17 de outubro de 2013 de
http://www.w3.org/WAI/gettingstarted/Overview.html
WAI. (2011b). Web accessibility initiative (wai). Acedido a 28 de setembro de 2015 de
http://www.w3.org/WAI/intro/components.php
WAI. (2013). Authoring tool accessibility guidelines 2.0. Acedido a 17 de Maro de 2014 de
http://www.w3.org/WAI/intro/atag.php
WAI. (2014). Diretrizes de acessibilidade para contedo web (wcag) 2.0. Acedido a 20
de outubro de 2014 de http://www.w3.org/Translations/WCAG20-pt-PT/WCAG20-pt
-PT-20141024/
WebAIM. (2009). Webaims wcag 2.0 checklist. URL: http://webaim.org/standards/
wcag/ (6 de Junho de 2014)
Wickens, C. D., Lee, J., Liu, Y., & Becker, S. (2003). An introduction to human factors
engineering (segunda ed.). Prentice Hall.
Williams, E. (2005). Ten rules for web startups. Acedido a 19 de hulho de 2014 de http://
evhead.com/2005/11/ten-rules-for-web-startups.asp
YesWWW. (2015). Why use www? Acedido a 20 de julho de 2015 de https://developers
.google.com/speed/docs/insights/UseLegibleFontSizes
Zahran, D. I., Al-Nuaim, H. A., Rutter, M. J., & Benyon, D. (2014). A comparative
approach to web evaluation and website evaluation methods. International Journal of
Public Information Systems, 2014:1 .
96
Apndices
97
Apndice A
99
Pontuao
AcessMonitor
Tamanho pgina
inicial (KB)
rea funcional/Organismo
1 Geral - Estado (valores mdios)
Assembleia da Repblica
Conselho Econmico e Social
Presidncia da Repblica
Provedor de Justia
2 Presidncia do Conselho de Ministros (valores
mdios)
Agncia para a Modernizao Administrativa, I. P.
Alto Comissariado para as Migraes, I.P
Biblioteca Nacional de Portugal
Centro de Gesto da Rede Informtica do Governo
Comisso para a Cidadania e a Igualdade de Gnero
Direo Regional da Cultura do Alentejo
Direo Regional da Cultura do Algarve
Direo Regional da Cultura do Centro
Direo Regional da Cultura do Norte
Direo-Geral das Autarquias Locais
Direo-Geral do Livro, dos Arquivos e das Bibliotecas
Direo-Geral do Patrimnio Cultural
Direco Geral das Artes
Gabinete de Estratgia, Planeamento e Avaliao Culturais
Gabinete Nacional de Segurana
Inspeco-Geral das Actividades Culturais
Instituto do Cinema e do Audiovisual, I. P.
Classificao
Final
Tabela A.1: Classificao final dos organismos analisados, organizados por rea funcional
58%
48%
54%
69%
61%
46%
2.50
1.49
1.65
2.36
4.48
2.90
6.40
5.00
5.80
7.70
7.10
5.86
489
739
325
345
548
2170
48%
51%
34%
63%
68%
33%
41%
25%
41%
46%
39%
73%
49%
31%
0.55
4.35
4.36
1.51
0.90
3.41
0.80
3.13
4.70
4.14
2.91
5.56
4.22
3.80
6.00
4.20
4.10
10.00
7.50
4.00
4.80
3.60
3.80
4.70
6.30
9.80
6.10
3.70
128
2700
247
267
938
2400
4100
4700
10000
12000
1200
2400
410
573
51%
2.85
7.80
679
39%
4.10
4.70
282
35%
1.18
4.00
175
Continua na prxima pgina
100
Pontuao
AcessMonitor
Tamanho pgina
inicial (KB)
rea funcional/Organismo
Instituto Nacional de Estatstica, I. P.
Instituto Portugus do Desporto e Juventude, I. P.
Portal do Governo
Secretaria Geral do Conselho de Ministros
3 Finanas (valores mdios)
Autoridade Tributria e Aduaneira
Direo-Geral da Administrao e do Emprego Pblico
Direo-Geral da Qualificao dos Trabalhadores em
Funes Pblicas (INA)
Direo-Geral de Proteo Social aos Trabalhadores em
Funes Pblicas (ADSE)
Direo-Geral do Oramento
Direo-Geral do Tesouro e Finanas
Entidade de Servios Partilhados na Administrao Pblica, I.P.
Gabinete de Planeamento, Estratgia, Avaliao e Relaes Internacionais
Inspeo-Geral de Finanas
Secretaria-Geral (Ministrio das Finanas)
Servios Sociais da Administrao Pblica
4 Negcios Estrangeiros (valores mdios)
Cames - Instituto da Cooperao e da Lngua, I.P.
Direo-Geral dos Assuntos Consulares e das Comunidades Portuguesas
Instituto de Investigao Cientfica Tropical, I.P
5 Defesa Nacional (valores mdios)
Direo-Geral de Recursos de Defesa Nacional
Estado-Maior General das Foras Armadas
Exrcito
Fora Area
Instituto Ao Social das Foras Armadas, I.P.
Instituto da Defesa Nacional
Marinha
6 Administrao Interna (valores mdios)
Autoridade Nacional de Proteo Civil
Autoridade Nacional de Segurana Rodoviria
Guarda Nacional Republicana
Inspeo-Geral da Administrao Interna
Polcia de Segurana Pblica
Secretaria-Geral do MAI
Servio de Estrangeiros e Fronteiras
7 Justia (valores mdios)
Direo-Geral da Administrao da Justia
Classificao
Final
44%
39%
54%
71%
45%
53%
45%
51%
1.44
1.43
3.00
2.69
3.13
1.51
1.44
3.06
4.50
5.50
5.70
10.00
5.16
7.00
5.70
5.30
449
480
3300
674
848
400
232
950
50%
1.50
5.70
232
38%
43%
50%
1.62
3.19
2.35
4.20
6.10
6.40
2400
1500
1100
39%
14.41
5.10
1000
34%
44%
48%
55%
54%
73%
1.87
1.21
2.32
2.30
2.49
2.49
3.10
4.10
4.10
6.77
5.50
9.90
549
564
405
1226
1700
1700
39%
1.92
4.90
41%
5.16
4.37
35%
1.66
5.70
45%
2.77
5.70
38%
1.50
3.20
45%
3.30
3.00
45%
1.14
4.70
41% 20.95
3.50
40%
4.79
4.80
43%
3.29
3.87
41%
2.46
2.70
48%
3.87
4.20
35%
2.75
4.20
59%
3.47
5.00
35%
4.30
3.30
38%
4.88
4.40
46%
1.29
3.30
43%
3.55
5.57
44%
2.09
4.30
Continua na prxima
278
2446
1900
6300
1800
931
490
3600
2100
4745
1000
8300
7100
2400
2000
12200
214
1022
399
pgina
101
Pontuao
AcessMonitor
Tamanho pgina
inicial (KB)
rea funcional/Organismo
Direo-Geral da Poltica de Justia
Inpeo-Geral dos Servios de Justia
Instituto de Gesto Financeira e Equipamentos da Justia, I.P.
Instituto dos Registos e do Notariado, I.P
Instituto Nacional da Propriedade Industrial, I.P
Instituto Nacional de Medicina Legal e Cincias Forenses, I.P.
Polcia Judiciria
Secretaria-Geral do MJ
8 Economia (valores mdios)
Agncia para a Competitividade e Inovao (IAPMEI),
I.P.
Autoridade de Segurana Alimentar e Econmica
Autoridade Nacional da Aviao Civil
Direo-Geral das Atividades Econmicas
Direo-Geral do Consumidor
Gabinete de Estratgia e Estudos
Instituto do Turismo de Portugal, I.P.
Instituto dos Mercados Pblicos, do Imobilirio e da
Construo, I.P.
Instituto Portugus da Qualidade, I.P.
Instituto Portugus de Acreditao, I.P
Laboratrio Nacional de Engenharia Civil, I.P.
Secretaria-Geral do ME
9 Agricultura e do Mar (valores mdios)
Direo Regional de Agricultura e Pescas de Lisboa e
Vale do Tejo
Direo Regional de Agricultura e Pescas do Alentejo
Direo Regional de Agricultura e Pescas do Algarve
Direo Regional de Agricultura e Pescas do Centro
Direo Regional de Agricultura e Pescas do Norte
Direo-Geral de Agricultura e Desenvolvimento Rural
Direo-Geral de Alimentao e Veterinria
Direo-Geral de Poltica do Mar
Direo-Geral de Recursos Naturais, Segurana e Servios Martimos
Gabinete de Planeamento, Polticas e Administrao
Geral
Instituto da Conservao da Natureza e das Florestas,
I.P.
Instituto da Vinha e do Vinho, I.P
Classificao
Final
46%
39%
48%
2.06
5.88
2.22
6.80
5.00
5.50
240
173
1200
41%
44%
46%
3.49
2.43
4.64
7.10
6.50
6.30
325
289
5600
34%
46%
41%
44%
7.11
1.99
3.70
1.38
3.80
4.80
4.06
4.20
399
574
934
390
40%
38%
40%
31%
44%
35%
45%
2.90
6.20
4.45
5.35
4.63
2.00
3.15
3.40
5.40
4.10
3.90
4.10
4.00
5.10
412
1200
187
964
101
2200
401
36%
40%
60%
41%
40%
41%
4.01
3.72
3.68
2.88
6.00
2.60
3.20
3.60
4.00
3.70
4.69
4.90
1800
690
2700
161
3113
4400
44%
26%
40%
36%
33%
29%
38%
39%
2.62
33.20
16.50
2.19
3.60
2.95
1.80
1.50
6.40
3.10
4.30
3.80
4.80
3.60
4.40
4.10
5900
12700
7000
3000
3700
696
334
322
53%
1.00
5.20
1800
53%
2.24
5.40
4400
36%
1.83
4.30
830
Continua na prxima pgina
102
Pontuao
AcessMonitor
Tamanho pgina
inicial (KB)
rea funcional/Organismo
Instituto de Financiamento da Agricultura e Pescas,
I.P.
Instituto dos Vinhos do Douro e do Porto, I.P
Instituto Nacional de Investigao Agrria e Veterinria, I.P
Instituto Portugus do Mar e da Atmosfera, I.P.
10 Solidariedade, Emprego e Segurana Social
(valores mdios)
Autoridade para as Condies do Trabalho
Caixa-Geral de Aposentaes, I.P.
Casa Pia de Lisboa, I.P.
Direo-Geral da Segurana Social
Gabinete de Estratgia e Planeamento
Instituto Nacional do Emprego e da Formao Profissional, I.P.
Secretaria-Geral do MSESS
11 Sade (valores mdios)
Administrao Central do Sistema de Sade, I.P.
Administrao Regional de Sade de Lisboa e Vale do
Tejo, I.P.
Administrao Regional de Sade do Alentejo, I.P.
Administrao Regional de Sade do Algarve, I.P.
Administrao Regional de Sade do Centro, I.P
Administrao Regional de Sade do Norte, I.P.
Direo-Geral da Sade
INEM - Instituto Nacional de Emergncia Mdica, I.P.
INFARMED - Autoridade Nacional do Medicamento e
Produtos de Sade, I.P
Inspeo-Geral das Atividades em Sade
Instituto Nacional de Sade Doutor Ricardo Jorge, I.P.
Instituto Portugus do Sangue e da Transplantao, I.P.
Secretaria-Geral do MS
Servio de Interveno nos Comportamentos Aditivos e
nas Dependncias
12 Ambiente, Ordenamento do Territrio e
Energia (valores mdios)
Agncia Portuguesa do Ambiente, I.P
Direo-Geral de Energia e Geologia
Direo-Geral do Territrio
Inspeo-Geral dos Ministrios do Ambiente, Ordenamento do Territrio e da Agricultura e do Mar
Instituto da Habitao e da Reabilitao Urbana, I.P
Laboratrio Nacional de Energia e Geologia, I.P.
Classificao
Final
39%
1.18
6.20
470
39%
41%
19.85
0.90
4.30
4.50
2500
809
51%
47%
2.06
2.65
5.70
5.21
954
1295
35%
45%
51%
66%
43%
48%
3.31
1.83
1.40
1.54
1.88
7.66
3.90
6.90
4.60
6.10
5.10
4.60
841
481
2700
636
463
3700
44%
40%
35%
48%
0.90
3.45
2.46
2.66
5.30
4.69
3.70
6.80
244
2304
659
3800
45%
46%
35%
35%
33%
45%
49%
5.22
3.65
3.38
1.92
2.90
2.66
3.63
5.30
6.50
3.60
3.40
3.40
5.00
4.90
9800
1900
1400
525
693
1500
4600
39%
31%
48%
40%
34%
1.86
7.35
2.65
2.00
5.98
3.90
2.90
5.70
4.80
5.70
313
749
3500
913
1900
43%
3.71
4.84
1851
46%
40%
45%
43%
1.91
3.90
12.00
1.52
5.20
4.20
2.90
6.70
1900
507
7500
268
39%
2.20
4.80
384
53%
2.46
5.60
998
Continua na prxima pgina
103
Pontuao
AcessMonitor
Tamanho pgina
inicial (KB)
rea funcional/Organismo
Secretaria-Geral do MAOTE
13 Educao e Cincia (valores mdios)
Agncia Nacional para a Qualificao e o Ensino Profissional, I.P.
Centro Cientfico e Cultural de Macau, I.P
Direo-Geral da Administrao Escolar
Direo-Geral da Educao
Direo-Geral de Estatsticas da Educao
Direo-Geral do Ensino Superior
Direo-Geral dos Estabelecimentos Escolares
Fundao para a Cincia e a Tecnologia, I.P.
Inspeo-Geral da Educao e Cincia
Instituto de Avaliao Educativa I.P.
Instituto de Gesto Financeira da Educao, I.P.
Secretaria-Geral do MEC
Mdia total
Classificao
Final
39%
54%
51%
2.00
1.60
3.34
4.50
5.74
5.90
1400
785
345
38%
45%
80%
66%
40%
38%
85%
55%
54%
50%
48%
45%
1.72
1.39
1.79
1.04
1.56
1.99
1.53
0.80
0.60
1.54
1.94
3.51
4.50
4.60
7.40
8.80
3.70
4.50
8.90
5.30
6.00
4.50
4.80
5.08
163
346
2500
353
290
1300
381
151
253
832
2500
1902
104
Apndice B
105
1
1
11
10
1
3
1
1
1
1
1
1
4
5
1
1
1
12
16
14
9
1
1
6
1
1
1
1
1
4
7
1
5
1
21
11
12
Total
13 Educao e Cincia
7 Justia
11 Sade
6 Administrao Interna
5 Defesa Nacional
9 Agricultura e do Mar
4 Negcios Estrangeiros
7
1
8 Economia
3 Finanas
1 Estado - Geral
Tempo de carregamento/Local
Alojamento
At 2 segundos
Amesterdo, Pases Baixos
Braga
Lisboa
Londres
Munique, Alemanha
Paris, Frana
Porto
Redmond, EUA
Setbal
Entre 2 e 4 segundos
Braga
Faro
Lisboa
Maia
Munique, Alemanha
New Jersey, EUA
Porto
Mais de 4 segundos
Braga
Lisboa
Tomar
Total
48
1
1
38
1
1
1
3
1
1
53
1
1
46
2
1
1
1
29
1
27
1
130
Tabela B.1: Tempo mdio de carregamento por localizao do centro de dados (datacenter)
106
1
1
2
2
1
1
1
2
2
4
1
1
2
1
1
1
1
4
4
3
3
5
1
2
1
1
1
9
1
2
1
1
4
4
1
1
7
5
1
1
4
2
2
1
3
2
1
1
1
10
107
1
ipdj
2
2
1
1
1
1
20
1
1
1
1
3
2
1
2
1
1
5
4
1
6
1
1
1
1
1
7
5
1
6
2
1
2
2
8
5
1
2
14
13
1
1
1
1
4
3
1
1
4
1
1
1
1
1
1
1
1
1
1
2
1
1
1
1
4
Totais
Vodafone
Simply Transit
refer telecom
OVH Hosting
1
nos comunicacoes s.a.
5
3
1
1
ministerio da justica
9
5
2
2
Microsoft
1
1
incapsula inc
eurotux informatica sa
1
1
DigitalOcean
1
entidade de servicos partilhados da administracao publica i.p.
contabo gmbh
claranet portugal
1
1
Ceger
Ar Telecom
caixa geral de depositos sa
1
1
ama agencia para a modernizacao administrativa ip
almouroltec
48
38
5
4
1
53
26
10
5
4
4
1
1
1
1
29
11
4
4
2
1
1
1
2
1
2
130
Tabela B.2: Tempo mdio de carregamento da pgina inicial por alojamento (quantidade)
4.88
4.88
4.88
4.88
2.13
2.13
2.13
4.48
4.48
2.13
4.59
4.48
4.70
0.55
4.70
4.70
0.55
0.55
2.91
1.62
2.66
2.23
2.91
1.62
3.60
2.60
1.83
1.83
2.71
2.71
20.95
20.95
1.14
1.14
3.27
3.41
3.13
0.80
1.38
1.38
2.80
2.38
3.65
2.00
0.60
0.60
2.00
2.49
2.49
0.80
0.90
0.90
3.48
3.69
2.77
4.35
4.35
1.92
1.92
Total
13 Educao e Cincia
11 Sade
9 Agricultura e do Mar
8 Economia
7 Justia
6 Administrao Interna
5 Defesa Nacional
4 Negcios Estrangeiros
3 Finanas
1 Estado - Geral
Tempo de carregamento/Local
Alojamento
unidade de tecnologias de informacao de seguranca
12100-13100
ACSS - Administracao Central
do Sistema de Saude, I.P.
100-1100
almouroltec
100-1100
9100-10100
ama agencia para a modernizacao administrativa ip
100-1100
Ar Telecom
100-1100
1100-2100
2100-3100
3100-4100
4100-5100
caixa geral de depositos sa
100-1100
Ceger
100-1100
3100-4100
claranet portugal
100-1100
1100-2100
2100-3100
4100-5100
contabo gmbh
1100-2100
4100-5100
DigitalOcean
100-1100
entidade de servicos partilhados da administracao publica
i.p.
100-1100
1100-2100
eurotux informatica sa
100-1100
2100-3100
3100-4100
fundacao para a ciencia e a tecnologia i.p.
100-1100
1100-2100
2100-3100
ifap - instituto financiamento
agricultura e pescas
100-1100
incapsula inc
3100-4100
instituto de gestao do patrimonio arquitectonico
2100-3100
4.79
2.65
4.79
2.65
3.68
2.06
2.19
1.61
2.06
2.46
1.91
1.55
3.68
1.94
1.18
1.18
0.55
2.53
2.23
2.91
1.62
3.60
2.60
1.83
1.83
6.36
2.71
20.95
2.23
1.58
2.83
3.41
3.13
1.65
2.49
0.80
0.90
0.90
3.48
3.69
2.77
3.43
1.92
4.57
2.65
1.98
1.75
1.91
2.81
1.18
3.00
3.00
5.56
1.18
3.00
3.00
5.56
5.56
5.56
Tabela B.3: Tempo mdio de carregamento da pgina inicial por alojamento (s) (1/2)
108
1.22
1.22
1.22
1.22
1.44
1.44
1.44
1.43
1.43
4.64
4.64
4.10
1.51
4.10
1.51
1.50
1.29
4.68
1.29
3.15
6.20
1.50
9.35
2.19
4.12
5.08
1.52
1.79
3.31
7.35
2.66
1.52
1.73
1.99
1.79
1.40
7.66
16.50
5.22
1.80
1.80
3.41
3.58
2.22
1.49
1.49
3.18
2.70
2.58
3.30
1.66
3.01
3.91
4.01
2.00
4.68
12.00
2.66
3.63
2.77
12.00
4.14
2.49
3.99
7.82
3.99
2.49
1.88
3.05
1.88
3.05
2.36
2.36
1.65
1.65
3.37
2.46
4.30
3.47
2.75
3.87
2.50
2.91
3.13
2.30
5.16
109
3.29
3.55
3.70
12.42
1.83
2.24
33.20
6.00
2.65
3.45
3.71
1.44
1.43
1.43
4.64
4.64
3.73
2.74
3.09
1.79
7.66
16.50
5.22
1.80
1.80
3.41
3.58
2.22
3.74
2.55
3.76
2.00
2.66
3.63
2.77
12.00
4.14
4.45
3.55
1.75
19.85
2.62
0.90
0.90
2.36
2.36
1.65
1.65
3.37
1.00
19.85
2.62
0.90
0.90
4.36
4.36
Total
13 Educao e Cincia
11 Sade
9 Agricultura e do Mar
8 Economia
7 Justia
6 Administrao Interna
5 Defesa Nacional
4 Negcios Estrangeiros
3 Finanas
Tempo de carregamento/Local
Alojamento
Instituto de Informatica, IP Ministerio da Solidariedade e
Seguranca Social
100-1100
instituto nacional de estatistica
i.p
100-1100
ipdj
100-1100
lunacloud unipessoal lda
5100-6100
meo - servicos de comunicacoes
e multimedia s.a.
100-1100
1100-2100
2100-3100
3100-4100
6100-7100
9100-10100
Microsoft
100-1100
ministerio da justica
100-1100
1100-2100
nos comunicacoes s.a.
100-1100
1100-2100
2100-3100
3100-4100
4100-5100
6100-7100
7100-8100
11100-12100
onitelecom - infocomunicacoes
s.a.
100-1100
1100-2100
2100-3100
5100-6100
OVH Hosting
100-1100
refer telecom
100-1100
Simply Transit
100-1100
unidade de tecnologias de informacao de seguranca
100-1100
1100-2100
2100-3100
7100-8100
8100-9100
Vodafone
100-1100
4100-5100
12100-13100
Grand Total
1 Estado - Geral
Tabela B.4: Tempo mdio de carregamento da pgina inicial por alojamento (s) (2/2)
1.60
2.46
4.30
3.47
2.75
3.87
10.41
3.10
2.24
33.20
3.51
110
Apndice C
Resultados da ferramenta
AccessMonitor
Tabela C.1: Resultados da ferramenta AccessMonitor
111
A (WCAG 2.0)
AA (WCAG 2.0)
A (WCAG 2.0)
AA (WCAG 2.0)
rea/Organismo
1 Estado - Geral (Valores mdios)
6.40
Assembleia da Repblica
5.00
Conselho Econmico e Social
5.80
Presidncia da Repblica
7.70
Provedor de Justia
7.10
2 Presidncia do Conselho de Minis5.75
tros (Valores mdios)
Agncia para a Modernizao Administra6.00
tiva, I. P.
Alto Comissariado para as Migraes, I.P
4.20
Biblioteca Nacional de Portugal
4.10
Centro de Gesto da Rede Informtica do 10.00
Governo
Comisso para a Cidadania e a Igualdade de
7.50
Gnero
Direo Regional da Cultura do Alentejo
4.00
Direo Regional da Cultura do Algarve
4.80
Direo Regional da Cultura do Norte
3.80
Direo-Geral das Autarquias Locais
4.70
Direo-Geral do Livro, dos Arquivos e das
6.30
Bibliotecas
Direo-Geral do Patrimnio Cultural
9.80
Continua na
Avisos
Indce AccessMonitor
Pgina Interior
Indce AccessMonitor
Pgina Inicial
Erros
6.45
5.20
5.30
7.10
8.20
5.89
4
6
5
2
3
6
0
1
0
0
0
1
1
1
1
0
1
1
10
10
7
11
10
7
2
4
2
1
1
1
1
2
0
1
1
1
7.60
4.10
6.40
10.00
9
11
0
2
3
0
1
1
0
8
6
7
3
3
0
1
0
1
7.40
3.80
4.60
5.20
4.20
6.20
11
6
9
7
5
2
1
1
1
0
2
2
1
1
1
8
7
4
8
6
3
1
2
1
2
1
1
0
0
2
7.80
2
0
prxima pgina
112
A (WCAG 2.0)
AA (WCAG 2.0)
A (WCAG 2.0)
AA (WCAG 2.0)
rea/Organismo
Direco Geral das Artes
6.10
Gabinete Nacional de Segurana
7.80
Inspeco-Geral das Actividades Culturais
4.70
Instituto do Cinema e do Audiovisual, I. P.
4.00
Instituto Nacional de Estatstica, I. P.
4.50
Instituto Portugus do Desporto e Juven5.50
tude, I. P.
Portal do Governo
5.70
Secretaria Geral do Conselho de Ministros
10.00
Gabinete de Estratgia, Planeamento e Ava3.70
liao Culturais
Direo Regional da Cultura do Centro
3.60
3 Finanas (Valores mdios)
5.16
Autoridade Tributria e Aduaneira
7.00
Direo-Geral da Administrao e do Em5.70
prego Pblico
Direo-Geral da Qualificao dos Traba5.30
lhadores em Funes Pblicas (INA)
Direo-Geral de Proteo Social aos Tra5.70
balhadores em Funes Pblicas (ADSE)
Direo-Geral do Oramento
4.20
Direo-Geral do Tesouro e Finanas
6.10
Entidade de Servios Partilhados na Admi6.40
nistrao Pblica, I.P.
Gabinete de Planeamento, Estratgia, Ava5.10
liao e Relaes Internacionais
Inspeo-Geral de Finanas
3.10
Secretaria-Geral (Ministrio das Finanas)
4.10
Servios Sociais da Administrao Pblica
4.10
4 Negcios Estrangeiros (Valores m6.77
dios)
Cames - Instituto da Cooperao e da Ln5.50
gua, I.P.
Direo-Geral dos Assuntos Consulares e
9.90
das Comunidades Portuguesas
Instituto de Investigao Cientfica Tropi4.90
cal, I.P
5 Defesa Nacional (Valores mdios)
4.37
Direo-Geral de Recursos de Defesa Naci5.70
onal
Continua na
Avisos
Indce AccessMonitor
Pgina Interior
Indce AccessMonitor
Pgina Inicial
Erros
5.30
7.40
4.20
4.30
4.40
5.50
5
2
7
12
8
6
1
0
1
2
3
0
1
0
0
0
0
1
7
6
6
8
7
5
1
0
1
2
2
0
1
1
1
2
3
1
7.20
10.00
3.70
4
0
12
0
0
0
1
0
1
10
7
4
1
0
0
1
2
0
4.30
5.19
4.90
5.70
10
7
3
5
2
1
1
0
1
1
0
1
6
8
4
12
1
2
0
2
0
1
1
2
6.40
4.30
4.20
5.80
6.40
9
6
3
2
0
0
1
2
2
10
8
8
2
1
1
1
2
1
6.40
11
3.20
6.00
3.80
6.17
13
8
14
3
2
1
2
1
1
1
1
1
5
5
6
10
2
1
2
2
0
0
1
2
5.10
8.50
4.90
11
4.61
5.60
9
5
1
0
1
2
5
5
3
3
2
1
prxima pgina
113
A (WCAG 2.0)
AA (WCAG 2.0)
A (WCAG 2.0)
AA (WCAG 2.0)
rea/Organismo
Estado-Maior General das Foras Armadas
5.70
Exrcito
3.20
Fora Area
3.00
Instituto Ao Social das Foras Armadas,
4.70
I.P.
Instituto da Defesa Nacional
3.50
Marinha
4.80
6 Administrao Interna (Valores m3.87
dios)
Autoridade Nacional de Proteo Civil
2.70
Autoridade Nacional de Segurana Rodo4.20
viria
Guarda Nacional Republicana
4.20
Inspeo-Geral da Administrao Interna
5.00
Polcia de Segurana Pblica
3.30
Secretaria-Geral do MAI
4.40
Servio de Estrangeiros e Fronteiras
3.30
7 Justia (Valores mdios)
5.57
Direo-Geral da Administrao da Justia
4.30
Direo-Geral da Poltica de Justia
6.80
Inpeo-Geral dos Servios de Justia
5.00
Instituto de Gesto Financeira e Equipa5.50
mentos da Justia, I.P.
Instituto dos Registos e do Notariado, I.P
7.10
Instituto Nacional da Propriedade Indus6.50
trial, I.P
Instituto Nacional de Medicina Legal e Ci6.30
ncias Forenses, I.P.
Polcia Judiciria
3.80
Secretaria-Geral do MJ
4.80
8 Economia (Valores mdios)
4.06
Agncia para a Competitividade e Inovao
4.20
(IAPMEI), I.P.
Autoridade de Segurana Alimentar e Eco3.40
nmica
Autoridade Nacional da Aviao Civil
5.40
Direo-Geral das Atividades Econmicas
4.10
Direo-Geral do Consumidor
3.90
Gabinete de Estratgia e Estudos
4.10
Instituto do Turismo de Portugal, I.P.
4.00
Continua na
Avisos
Indce AccessMonitor
Pgina Interior
Indce AccessMonitor
Pgina Inicial
Erros
5.70
3.60
3.40
4.60
5
15
14
8
1
2
3
1
1
2
1
0
10
6
3
5
2
3
2
2
1
3
1
0
3.90
5.50
4.31
10
7
11
0
0
2
1
1
2
1
6
7
6
2
2
3
3
1
3.30
4.90
16
8
3
0
2
2
7
8
2
1
1
1
5.00
5.70
3.30
4.60
3.40
5.47
5.10
5.90
5.00
5.40
11
8
14
7
10
5
4
4
5
6
0
2
3
1
2
1
2
0
2
0
2
3
1
1
1
1
2
3
0
1
6
4
6
9
7
7
7
7
4
7
3
4
3
2
2
3
1
2
1
3
2
2
1
2
0
2
2
3
2
3
7.50
6.10
3
5
0
0
2
0
7
9
1
9
0
2
5.70
3.80
4.70
4.25
4.50
8
5
9
8
2
2
2
1
1
1
1
0
10
7
7
8
2
3
2
1
1
2
1
0
3.40
12
6.00
6
0
5.10
9
1
3.90 10
1
4.10
7
3
3.90 11
1
prxima pgina
0
1
0
0
1
12
4
4
6
9
0
2
2
2
3
0
1
1
1
1
114
A (WCAG 2.0)
AA (WCAG 2.0)
A (WCAG 2.0)
AA (WCAG 2.0)
rea/Organismo
Instituto dos Mercados Pblicos, do Imobi5.10
lirio e da Construo, I.P.
Instituto Portugus da Qualidade, I.P.
3.20
Instituto Portugus de Acreditao, I.P
3.60
Laboratrio Nacional de Engenharia Civil,
4.00
I.P.
Secretaria-Geral do ME
3.70
9 Agricultura e do Mar (Valores m4.69
dios)
Direo Regional de Agricultura e Pescas de
4.90
Lisboa e Vale do Tejo
Direo Regional de Agricultura e Pescas do
6.40
Alentejo
Direo Regional de Agricultura e Pescas do
3.10
Algarve
Direo Regional de Agricultura e Pescas do
4.30
Centro
Direo Regional de Agricultura e Pescas do
3.80
Norte
Direo-Geral de Agricultura e Desenvolvi4.80
mento Rural
Direo-Geral de Alimentao e Veterinria
3.60
Direo-Geral de Poltica do Mar
4.40
Direo-Geral de Recursos Naturais, Segu4.10
rana e Servios Martimos
Gabinete de Planeamento, Polticas e Ad5.20
ministrao Geral
Instituto da Conservao da Natureza e das
5.40
Florestas, I.P.
Instituto da Vinha e do Vinho, I.P
4.30
Instituto de Financiamento da Agricultura
6.20
e Pescas, I.P.
Instituto dos Vinhos do Douro e do Porto,
4.30
I.P
Instituto Nacional de Investigao Agrria
4.50
e Veterinria, I.P
Instituto Portugus do Mar e da Atmosfera,
5.70
I.P.
10 Solidariedade, Emprego e Segu5.21
rana Social (Valores mdios)
Continua na
Avisos
Indce AccessMonitor
Pgina Interior
Indce AccessMonitor
Pgina Inicial
Erros
6.50
3.20
2.80
3.80
12
10
8
3
3
2
1
1
1
7
4
7
1
2
2
1
1
0
3.80
5.24
12
7
0
1
1
2
7
7
1
2
1
1
5.30
7.90
3.50
11
4.20
10
4.90
10
5.50
3.60
5.20
10
7
7
2
2
2
2
1
2
5
6
6
2
3
1
1
1
0
6.70
5.30
4.20
6.10
10
4
1
0
2
1
8
10
2
1
1
1
4.80
4.50
6.90
5.64
prxima pgina
115
A (WCAG 2.0)
AA (WCAG 2.0)
A (WCAG 2.0)
AA (WCAG 2.0)
rea/Organismo
Autoridade para as Condies do Trabalho
3.90
Caixa-Geral de Aposentaes, I.P.
6.90
Casa Pia de Lisboa, I.P.
4.60
Direo-Geral da Segurana Social
6.10
Gabinete de Estratgia e Planeamento
5.10
Instituto Nacional do Emprego e da Forma4.60
o Profissional, I.P.
Secretaria-Geral do MSESS
5.30
11 Sade (Valores mdios)
4.69
Administrao Central do Sistema de
3.70
Sade, I.P.
Administrao Regional de Sade de Lisboa
6.80
e Vale do Tejo, I.P.
Administrao Regional de Sade do Alen5.30
tejo, I.P.
Administrao Regional de Sade do Al6.50
garve, I.P.
Administrao Regional de Sade do Cen3.60
tro, I.P
Administrao Regional de Sade do Norte,
3.40
I.P.
Direo-Geral da Sade
3.40
INEM - Instituto Nacional de Emergncia
5.00
Mdica, I.P.
INFARMED - Autoridade Nacional do Me4.90
dicamento e Produtos de Sade, I.P
Inspeo-Geral das Atividades em Sade
3.90
Instituto Nacional de Sade Doutor Ricardo
2.90
Jorge, I.P.
Instituto Portugus do Sangue e da Trans5.70
plantao, I.P.
Secretaria-Geral do MS
4.80
Servio de Interveno nos Comportamen5.70
tos Aditivos e nas Dependncias
12 Ambiente, Ordenamento do Terri4.84
trio e Energia (Valores mdios)
Agncia Portuguesa do Ambiente, I.P
5.20
Direo-Geral de Energia e Geologia
4.20
Direo-Geral do Territrio
2.90
Continua na
Avisos
Indce AccessMonitor
Pgina Interior
Indce AccessMonitor
Pgina Inicial
Erros
4.40
6.90
5.50
7.00
4.90
5.50
10
3
7
3
5
7
1
0
1
1
2
1
1
0
0
1
2
2
7
8
4
8
12
7
2
1
2
2
0
2
2
2
1
1
0
2
5.30
4.84
5.20
6
8
9
0
1
3
2
1
2
9
8
6
0
2
3
1
2
2
7.00
11
5.10
11
7.80
3.90
12
3.40
10
3.30
5.10
11
8
2
0
0
2
2
8
6
2
5
0
6.40
11
2.90
3.90
11
11
0
2
1
1
5
7
0
2
0
2
4.70
10
4.70
4.40
9
7
0
0
1
1
5
7
3
2
0
1
5.21
6.70
6
0
4.20
9
1
3.30 12
2
prxima pgina
3
1
1
8
4
5
1
2
3
3
1
1
116
Indce AccessMonitor
Pgina Interior
A (WCAG 2.0)
AA (WCAG 2.0)
A (WCAG 2.0)
AA (WCAG 2.0)
rea/Organismo
Inspeo-Geral dos Ministrios do Ambiente, Ordenamento do Territrio e da Agricultura e do Mar
Instituto da Habitao e da Reabilitao
Urbana, I.P
Laboratrio Nacional de Energia e Geologia,
I.P.
Secretaria-Geral do MAOTE
13 Educao e Cincia (Valores mdios)
Agncia Nacional para a Qualificao e o
Ensino Profissional, I.P.
Centro Cientfico e Cultural de Macau, I.P
Direo-Geral da Administrao Escolar
Direo-Geral da Educao
Direo-Geral de Estatsticas da Educao
Direo-Geral do Ensino Superior
Direo-Geral dos Estabelecimentos Escolares
Fundao para a Cincia e a Tecnologia, I.P.
Inspeo-Geral da Eduo e Cincia
Instituto de Avaliao Educativa I.P.
Instituto de Gesto Financeira da Educao, I.P.
Secretaria-Geral do MEC
Mdia Gobal
Avisos
Indce AccessMonitor
Pgina Inicial
Erros
6.70
6.00
4.80
5.40
5.60
5.50
4.50
5.74
5.40
5.83
7
5
1
1
3
1
7
8
3
2
2
1
5.90
5.00
4.50
4.60
7.40
8.80
3.70
4.50
4.60
4.90
8.90
8.80
4.70
4.60
8
8
2
1
11
6
0
0
0
0
1
1
1
2
1
1
1
2
6
6
10
13
9
10
1
2
2
2
1
2
2
1
2
1
1
1
8.90
5.30
6.00
4.50
6.80
5.20
6.80
4.10
1
6
4
6
0
1
1
0
0
1
1
2
9
7
4
7
1
1
2
0
1
2
0
1
4.80
5.08
5.60
5.27
6
7
1
1
1
1
6
7
2
2
2
1
Apndice D
120
Prioridade
A (Aviso)
A
A
A
AA
AA
AAA
AAA
A
A
A
Apndice E
121
100%
100%
100%
100%
100%
100%
0%
100%
100%
100%
0%
100%
100%
100%
100%
100%
100%
100%
100%
0%
0%
0%
0%
0%
100%
100%
100%
100%
0%
100%
100%
100%
100%
100%
100%
100%
100%
100%
100%
100%
100%
100%
100%
100%
0%
0%
0%
17%
0%
100%
100%
100%
100%
100%
100%
100%
100%
93%
50%
100%
100%
100%
100%
100%
100%
100%
100%
100%
100%
100%
100%
100%
100%
100%
100%
100%
100%
100%
100%
100%
100%
100%
100%
100%
100%
100%
100%
100%
100%
100%
100%
100%
100%
100%
100%
100%
100%
86%
0%
100%
100%
100%
100%
100%
100%
100%
100%
100%
100%
100%
100%
100%
100%
94%
100%
100%
100%
100%
100%
100%
100%
100%
100%
100%
100%
100%
100%
100%
100%
100%
100%
100%
100%
100%
100%
100%
100%
21%
0%
0%
50%
0%
0%
100%
0%
36%
50%
50%
50%
0%
0%
0%
100%
28%
50%
50%
0%
100%
0%
100%
100%
0%
100%
100%
0%
100%
100%
100%
100%
100%
100%
0%
0%
0%
0%
0%
0%
100%
0%
0%
0%
100%
100%
0%
100%
100%
100%
100%
100%
100%
100%
100%
100%
100%
100%
100%
100%
50%
0%
0%
100%
100%
100%
100%
100%
100%
100%
100%
100%
100%
100%
100%
100%
100%
100%
100%
100%
100%
100%
100%
100%
100%
0%
0%
0%
100%
0%
100%
100%
100%
100%
100%
100%
100%
100%
100%
100%
100%
100%
100%
100%
100%
100%
100%
100%
100%
100%
100%
100%
100%
100%
100%
100%
100%
100%
100%
100%
100%
100%
100%
100%
100%
100%
100%
100%
0%
0%
100%
48%
50%
0%
0%
0%
0%
0%
0%
0%
0%
100%
0%
100%
51%
34%
63%
50%
0%
50%
0%
100%
100%
68%
50%
100%
100%
0%
50%
50%
0%
0%
100%
0%
0%
0%
0%
0%
0%
0%
0%
0%
0%
0%
0%
0%
50%
0%
0%
0%
0%
0%
0%
0%
50%
100%
100%
100%
100%
50%
33%
41%
25%
41%
46%
39%
50%
50%
50%
50%
100%
50%
0%
100%
50%
0%
50%
0%
0%
50%
0%
100%
0%
0%
50%
0%
0%
73%
49%
31%
50%
50%
50%
50%
50%
50%
100%
100%
50%
50%
50%
50%
50%
50%
0%
100%
100%
0%
0%
0%
0%
0%
0%
0%
0%
0%
100%
0%
0%
0%
0%
0%
100%
0%
0%
100%
100%
100%
100%
100%
51%
39%
35%
44%
39%
0%
50%
36%
100%
50%
100%
50%
50%
50%
50%
100%
50%
55%
50%
50%
0%
50%
9%
0%
0%
0%
0%
18%
0%
0%
50%
0%
5%
0%
0%
100%
0%
36%
0%
0%
100%
100%
68%
100%
100%
54%
71%
46%
53%
45%
50%
0%
0%
0%
100%
0%
51%
100%
100%
0%
50%
0%
100%
50%
50%
50%
50%
0%
0%
0%
50%
0%
50%
0%
0%
0%
100%
0%
100%
0%
100%
50%
38%
43%
50%
50%
50%
0%
0%
0%
0%
50%
39%
50%
50%
50%
50%
50%
50%
50%
50%
50%
50%
0%
0%
0%
33%
0%
0%
0%
100%
50%
50%
0%
0%
0%
0%
0%
0%
0%
100%
33%
100%
50%
100%
100%
67%
100%
34%
44%
48%
55%
54%
50%
50%
50%
0%
100%
0%
0%
0%
73%
50%
50%
50%
100%
0%
0%
0%
100%
39%
29%
0%
50%
50%
50%
0%
0%
50%
21%
50%
0%
0%
50%
0%
0%
50%
44%
50%
50%
50%
36%
0%
50%
50%
50%
50%
50%
0%
50%
50%
50%
50%
0%
50%
50%
100%
50%
50%
50%
50%
50%
0%
50%
50%
100%
50%
50%
50%
36%
50%
0%
50%
50%
50%
0%
50%
50%
50%
50%
50%
36%
0%
0%
50%
0%
100%
100%
0%
21%
50%
0%
0%
0%
0%
0%
100%
50%
100%
100%
100%
0%
0%
0%
0%
0%
0%
0%
0%
29%
50%
50%
0%
0%
50%
50%
0%
17%
0%
0%
0%
14%
0%
0%
50%
0%
0%
50%
0%
14%
0%
50%
0%
0%
0%
50%
0%
0%
0%
0%
0%
43%
0%
0%
100%
100%
0%
0%
100%
0%
0%
0%
0%
0%
0%
0%
0%
11%
0%
0%
0%
57%
0%
100%
100%
0%
100%
100%
0%
57%
50%
50%
100%
50%
0%
50%
100%
39%
50%
0%
100%
41%
35%
45%
38%
45%
45%
41%
40%
43%
41%
48%
35%
59%
35%
38%
46%
43%
44%
46%
39%
50%
0%
0%
100%
100%
14%
25%
0%
0%
100%
0%
14%
38%
0%
0%
50%
100%
33%
50%
50%
50%
50%
50%
55%
38%
0%
50%
50%
50%
36%
50%
50%
50%
50%
50%
60%
50%
50%
50%
50%
50%
57%
100%
0%
100%
50%
0%
0%
50%
50%
50%
50%
100%
100%
100%
100%
100%
0%
0%
0%
0%
0%
0%
0%
100%
0%
0%
100%
0%
0%
100%
50%
100%
50%
50%
50%
50%
0%
50%
50%
50%
50%
50%
50%
50%
50%
0%
100%
100%
100%
100%
0%
0%
100%
100%
50%
50%
0%
0%
0%
0%
100%
0%
100%
100%
100%
100%
100%
100%
0%
0%
0%
0%
100%
0%
0%
100%
100%
100%
0%
100%
0%
0%
0%
0%
0%
50%
0%
0%
0%
0%
0%
0%
0%
0%
0%
0%
0%
0%
0%
50%
0%
50%
0%
50%
50%
50%
50%
50%
50%
50%
0%
0%
50%
0%
0%
50%
50%
50%
100%
50%
50%
50%
100%
100%
0%
0%
0%
0%
0%
0%
100%
100%
100%
100%
100%
0%
0%
100%
50%
0%
100%
0%
0%
100%
0%
0%
50%
50%
0%
50%
50%
50%
50%
50%
50%
100%
100%
100%
100%
100%
0%
0%
0%
100%
0%
0%
0%
0%
0%
0%
100%
0%
100%
100%
100%
0%
0%
0%
0%
0%
100%
100%
0%
100%
100%
100%
0%
0%
0%
50%
0%
0%
0%
0%
0%
0%
0%
0%
0%
0%
0%
0%
0%
0%
0%
50%
50%
50%
50%
100%
50%
50%
41%
50%
0%
100%
100%
100%
100%
100%
100%
100%
45%
100%
0%
0%
100%
18%
100%
0%
100%
100%
82%
0%
100%
0%
0%
9%
0%
0%
100%
100%
64%
100%
100%
50%
100%
27%
50%
50%
0%
100%
0%
0%
0%
0%
100%
0%
0%
0%
50%
50%
9%
50%
0%
50%
50%
55%
50%
50%
50%
50%
100%
0%
0%
100%
100%
100%
50%
0%
0%
0%
100%
0%
0%
100%
0%
100%
100%
0%
100%
0%
100%
0%
0%
0%
0%
50%
50%
100%
100%
50%
50%
100%
100%
50%
100%
100%
100%
0%
0%
100%
0%
0%
0%
100%
100%
0%
0%
0%
0%
100%
100%
100%
0%
50%
50%
0%
0%
0%
0%
0%
0%
0%
0%
0%
50%
50%
50%
0%
50%
50%
50%
50%
50%
100%
0%
100%
100%
0%
0%
100%
0%
0%
50%
0%
0%
0%
50%
0%
100%
100%
100%
33%
0%
100%
100%
50%
67%
50%
0%
0%
0%
50%
50%
100%
100%
100%
100%
100%
0%
100%
100%
100%
100%
0%
100%
0%
33%
100%
100%
100%
100%
67%
0%
0%
0%
0%
67%
100%
0%
0%
0%
100%
100%
0%
0%
0%
50%
50%
0%
0%
0%
33%
0%
0%
0%
0%
17%
0%
0%
50%
0%
83%
100%
50%
50%
50%
67%
50%
50%
0%
50%
33%
0%
100%
50%
100%
100%
100%
0%
100%
100%
100%
100%
100%
50%
100%
100%
0%
100%
0%
100%
100%
0%
100%
0%
100%
0%
0%
0%
50%
50%
79%
50%
100%
0%
100%
100%
100%
100%
86%
50%
100%
100%
100%
100%
100%
50%
83%
100%
50%
100%
57%
100%
50%
100%
50%
100%
0%
0%
43%
50%
50%
50%
50%
0%
0%
100%
50%
100%
100%
0%
43%
50%
100%
50%
0%
50%
0%
50%
36%
50%
50%
0%
50%
50%
50%
0%
17%
0%
0%
0%
100%
100%
100%
100%
100%
100%
100%
100%
100%
100%
100%
100%
100%
100%
100%
100%
100%
100%
100%
100%
43%
0%
0%
0%
100%
100%
100%
0%
86%
100%
100%
0%
100%
100%
100%
100%
44%
100%
100%
0%
14%
0%
0%
0%
0%
100%
0%
0%
14%
0%
100%
0%
0%
0%
0%
0%
11%
0%
100%
0%
57%
100%
100%
0%
100%
0%
100%
0%
86%
0%
100%
100%
100%
100%
100%
100%
67%
0%
100%
100%
57%
100%
100%
0%
100%
100%
0%
0%
29%
0%
100%
0%
100%
0%
0%
0%
11%
0%
0%
0%
57%
100%
0%
100%
100%
100%
0%
0%
86%
100%
100%
100%
100%
100%
0%
100%
67%
100%
0%
100%
21%
50%
50%
0%
0%
0%
0%
50%
14%
0%
0%
0%
100%
0%
0%
0%
28%
0%
50%
0%
0%
0%
0%
0%
0%
0%
0%
0%
0%
0%
0%
0%
0%
0%
0%
0%
0%
0%
0%
0%
0%
0%
0%
0%
0%
0%
0%
0%
0%
0%
0%
0%
0%
0%
0%
0%
0%
0%
0%
0%
14%
0%
0%
0%
50%
0%
0%
50%
29%
0%
0%
50%
100%
50%
0%
0%
28%
100%
0%
0%
50%
0%
50%
0%
100%
100%
50%
50%
50%
50%
50%
50%
50%
50%
50%
50%
56%
50%
50%
50%
ID2.7
100%
0%
0%
100%
50%
75%
50%
50%
100%
100%
36%
ID2.6
100%
100%
0%
100%
100%
100%
100%
100%
100%
100%
100%
100%
62%
ID2.5
100%
100%
100%
0%
100%
100%
50%
58%
48%
54%
69%
61%
46%
25%
0%
0%
0%
100%
29%
ID2.4
100%
50%
100%
100%
0%
0%
79%
75%
0%
100%
100%
100%
86%
ID2.3
100%
50%
50%
100%
50%
95%
50%
100%
50%
100%
0%
100%
ID4.10
100%
100%
64%
0%
100%
100%
ID4.9
50%
100%
23%
50%
100%
100%
100%
0%
ID4.8
100%
100%
100%
100%
100%
0%
100%
100%
100%
ID4.7
50%
100%
50%
100%
0%
100%
ID4.6
100%
0%
0%
100%
100%
100%
100%
100%
50%
100%
0%
100%
0%
19%
ID4.5
100%
0%
0%
100%
100%
100%
100%
0%
0%
0%
0%
0%
12%
ID4.4
100%
100%
50%
100%
100%
0%
100%
0%
0%
0%
0%
0%
7%
ID4.3
100%
100%
50%
100%
25%
0%
100%
0%
0%
36%
ID4.2
50%
0%
0%
0%
0%
0%
75%
100%
50%
100%
50%
69%
ID4.1
0%
100%
100%
0%
100%
100%
100%
100%
100%
100%
100%
100%
62%
ID3.3
100%
100%
100%
50%
100%
100%
100%
75%
100%
100%
100%
0%
29%
ID3.2
100%
100%
100%
100%
100%
100%
100%
ID3.1
50%
100%
100%
0%
100%
50%
100%
88%
100%
100%
50%
100%
90%
ID2.10
ID2.1
100%
100%
100%
100%
100%
100%
100%
100%
95%
ID2.9
ID1.10
100%
0%
0%
0%
100%
100%
100%
100%
100%
88%
ID2.8
ID1.9
0%
100%
0%
0%
ID1.7
0%
100%
100%
100%
ID1.6
100%
ID1.5
88%
50%
100%
100%
100%
74%
ID1.3
17%
0%
50%
0%
0%
14%
ID1.2
88%
50%
100%
100%
100%
48%
ID1.1
100%
100%
100%
100%
100%
95%
ID1.4
122
Departamento/Organismo
1 Estado - Geral (Valores mdios)
Assembleia da Repblica
Conselho Econmico e Social
Presidncia da Repblica
Provedor de Justia
2 Presidncia do Conselho de Ministros
(Valores mdios)
Agncia para a Modernizao Administrativa, I.
P.
Alto Comissariado para as Migraes, I.P
Biblioteca Nacional de Portugal
Centro de Gesto da Rede Informtica do Governo
Comisso para a Cidadania e a Igualdade de Gnero
Direo Regional da Cultura do Alentejo
Direo Regional da Cultura do Algarve
Direo Regional da Cultura do Centro
Direo Regional da Cultura do Norte
Direo-Geral das Autarquias Locais
Direo-Geral do Livro, dos Arquivos e das Bibliotecas
Direo-Geral do Patrimnio Cultural
Direco Geral das Artes
Gabinete de Estratgia, Planeamento e Avaliao Culturais
Gabinete Nacional de Segurana
Inspeco-Geral das Actividades Culturais
Instituto do Cinema e do Audiovisual, I. P.
Instituto Nacional de Estatstica, I. P.
Instituto Portugus do Desporto e Juventude, I.
P.
Portal do Governo
Secretaria Geral do Conselho de Ministros
3 Finanas (Valores mdios)
Autoridade Tributria e Aduaneira
Direo-Geral da Administrao e do Emprego
Pblico
Direo-Geral da Qualificao dos Trabalhadores em Funes Pblicas (INA)
Direo-Geral de Proteo Social aos Trabalhadores em Funes Pblicas (ADSE)
Direo-Geral do Oramento
Direo-Geral do Tesouro e Finanas
Entidade de Servios Partilhados na Administrao Pblica, I.P.
Gabinete de Planeamento, Estratgia, Avaliao
e Relaes Internacionais
Inspeo-Geral de Finanas
Secretaria-Geral (Ministrio das Finanas)
Servios Sociais da Administrao Pblica
4 Negcios Estrangeiros (Valores mdios)
Cames - Instituto da Cooperao e da Lngua,
I.P.
Direo-Geral dos Assuntos Consulares e das
Comunidades Portuguesas
Instituto de Investigao Cientfica Tropical,
I.P
5 Defesa Nacional (Valores mdios)
Direo-Geral de Recursos de Defesa Nacional
Estado-Maior General das Foras Armadas
Exrcito
Fora Area
Instituto Ao Social das Foras Armandas, I.P.
Instituto da Defesa Nacional
Marinha
6 Administrao Interna (Valores mdios)
Autoridade Nacional de Proteo Civil
Autoridade Nacional de Segurana Rodoviria
Guarda Nacional Republicana
Inspeo-Geral da Administrao Interna
Polcia de Segurana Pblica
Secretaria-Geral do MAI
Servio de Estrangeiros e Fronteiras
7 Justia (Valores mdios)
Direo-Geral da Administrao da Justia
Direo-Geral da Poltica de Justia
Inpeo-Geral dos Servios de Justia
ID1.8
50%
50%
100%
50%
0%
48%
13%
50%
0%
0%
0%
40%
100%
100%
100%
100%
100%
100%
100%
100%
100%
100%
100%
43%
0%
0%
0%
0%
0%
19%
100%
0%
100%
0%
0%
100%
100%
0%
50%
100%
100%
100%
0%
0%
100%
0%
0%
100%
100%
0%
100%
50%
100%
100%
100%
100%
0%
100%
100%
0%
50%
100%
50%
0%
0%
50%
0%
100%
0%
100%
100%
100%
100%
100%
100%
100%
100%
100%
100%
0%
0%
0%
100%
100%
0%
0%
50%
50%
100%
100%
0%
0%
0%
50%
100%
0%
0%
100%
100%
100%
0%
100%
0%
100%
0%
50%
100%
0%
0%
0%
100%
0%
100%
50%
0%
50%
0%
100%
100%
100%
0%
0%
0%
0%
0%
0%
0%
55%
100%
0%
0%
0%
27%
50%
0%
100%
100%
91%
50%
50%
50%
50%
73%
100%
100%
100%
50%
100%
100%
100%
50%
100%
100%
100%
100%
100%
100%
100%
100%
0%
0%
50%
0%
0%
0%
100%
100%
100%
100%
100%
100%
0%
100%
100%
67%
100%
100%
100%
100%
83%
100%
100%
100%
100%
100%
100%
0%
0%
100%
100%
100%
0%
0%
0%
50%
50%
0%
0%
0%
100%
100%
100%
50%
0%
50%
100%
0%
0%
0%
0%
57%
0%
0%
0%
100%
100%
100%
100%
71%
100%
100%
0%
100%
0%
100%
100%
56%
0%
0%
100%
57%
0%
100%
50%
50%
50%
50%
100%
93%
100%
100%
100%
100%
50%
100%
100%
83%
100%
100%
0%
100%
100%
100%
100%
100%
100%
100%
100%
100%
100%
100%
100%
100%
100%
100%
100%
100%
100%
100%
100%
50%
100%
100%
50%
0%
0%
100%
0%
64%
100%
100%
0%
100%
50%
100%
0%
83%
100%
100%
100%
21%
0%
0%
50%
0%
0%
0%
100%
7%
0%
0%
0%
0%
0%
0%
50%
33%
50%
0%
50%
ID1.2
ID1.3
ID1.4
ID1.5
ID1.6
ID1.7
ID1.8
ID1.9
ID1.10
ID2.1
ID2.3
ID2.4
ID2.5
ID2.6
ID2.7
ID2.8
ID2.9
ID2.10
ID3.1
ID3.2
ID3.3
ID4.1
ID4.2
ID4.3
ID4.4
ID4.5
ID4.6
ID4.7
ID4.8
ID4.9
ID4.10
123
Departamento/Organismo
Instituto de Gesto Financeira e Equipamentos
da Justia, I.P.
Instituto dos Registos e do Notariado, I.P
Instituto Nacional da Propriedade Industrial,
I.P
Instituto Nacional de Medicina Legal e Cincias
Forenses, I.P.
Polcia Judiciria
Secretaria-Geral do MJ
8 Economia (Valores mdios)
Agncia para a Competitividade e Inovao
(IAPMEI), I.P.
Autoridade de Segurana Alimentar e Econmica
Autoridade Nacional da Aviao Civil
Direo-Geral das Atividades Econmicas
Direo-Geral do Consumidor
Gabinete de Estratgia e Estudos
Instituto do Turismo de Portugal, I.P.
Instituto dos Mercados Pblicos, do Imobilirio
e da Construo, I.P.
Instituto Portugus da Qualidade, I.P.
Instituto Portugus de Acreditao, I.P
Laboratrio Nacional de Engenharia Civil, I.P.
Secretaria-Geral do ME
9 Agricultura e do Mar (Valores mdios)
Direo Regional de Agricultura e Pescas de Lisboa e Vale do Tejo
Direo Regional de Agricultura e Pescas do
Alentejo
Direo Regional de Agricultura e Pescas do Algarve
Direo Regional de Agricultura e Pescas do
Centro
Direo Regional de Agricultura e Pescas do
Norte
Direo-Geral de Agricultura e Desenvolvimento Rural
Direo-Geral de Alimentao e Veterinria
Direo-Geral de Poltica do Mar
Direo-Geral de Recursos Naturais, Segurana
e Servios Martimos
Gabinete de Planeamento, Polticas e Administrao Geral
Instituto da Conservao da Natureza e das Florestas, I.P.
Instituto da Vinha e do Vinho, I.P
Instituto de Financiamento da Agricultura e
Pescas, I.P.
Instituto dos Vinhos do Douro e do Porto, I.P
Instituto Nacional de Investigao Agrria e Veterinria, I.P
Instituto Portugus do Mar e da Atmosfera, I.P.
10 Solidariedade, Emprego e Segurana Social (Valores mdios)
Autoridade para as Condies do Trabalho
Caixa-Geral de Aposentaes, I.P.
Casa Pia de Lisboa, I.P.
Direo-Geral da Segurana Social
Gabinete de Estratgia e Planeamento
Instituto Nacional do Emprego e da Formao
Profissional, I.P.
Secretaria-Geral do MSESS
11 Sade (Valores mdios)
Administrao Central do Sistema de Sade,
I.P.
Administrao Regional de Sade de Lisboa e
Vale do Tejo, I.P.
Administrao Regional de Sade do Alentejo,
I.P.
Administrao Regional de Sade do Algarve,
I.P.
Administrao Regional de Sade do Centro, I.P
Administrao Regional de Sade do Norte, I.P.
Direo-Geral da Sade
INEM - Instituto Nacional de Emergncia Mdica, I.P.
INFARMED - Autoridade Nacional do Medicamento e Produtos de Sade, I.P
Inspeo-Geral das Atividades em Sade
ID1.1
100%
100%
100%
0%
0%
100%
100%
100%
50%
0%
50%
50%
100%
100%
0%
0%
0%
100%
50%
0%
0%
0%
50%
50%
50%
50%
0%
100%
0%
100%
100%
48%
100%
100%
100%
100%
50%
100%
100%
100%
0%
100%
100%
100%
100%
100%
100%
100%
100%
50%
50%
0%
100%
100%
50%
50%
0%
0%
100%
100%
0%
0%
0%
0%
100%
0%
0%
0%
0%
100%
50%
50%
0%
0%
0%
0%
0%
50%
50%
100%
50%
50%
50%
50%
50%
50%
50%
0%
0%
0%
0%
0%
0%
0%
0%
0%
41%
44%
100%
100%
100%
100%
0%
100%
50%
100%
100%
50%
100%
0%
100%
100%
0%
0%
100%
100%
0%
50%
0%
0%
50%
50%
0%
50%
50%
0%
0%
0%
0%
0%
46%
100%
100%
100%
100%
100%
100%
100%
100%
100%
100%
100%
100%
100%
100%
100%
100%
50%
0%
21%
0%
0%
100%
50%
100%
100%
100%
88%
50%
100%
100%
100%
100%
0%
100%
50%
100%
50%
0%
33%
0%
100%
100%
83%
50%
0%
100%
38%
100%
0%
0%
29%
0%
100%
100%
58%
100%
0%
100%
42%
100%
0%
0%
0%
0%
100%
100%
83%
100%
0%
0%
8%
0%
100%
100%
67%
100%
0%
0%
13%
0%
0%
0%
0%
0%
0%
0%
0%
0%
0%
50%
4%
0%
50%
50%
50%
50%
50%
50%
33%
50%
50%
50%
71%
50%
50%
50%
52%
100%
0%
100%
63%
100%
50%
0%
17%
0%
0%
0%
42%
0%
0%
0%
42%
0%
0%
100%
54%
100%
34%
46%
41%
44%
100%
100%
100%
100%
0%
100%
100%
100%
100%
50%
100%
0%
0%
0%
100%
0%
100%
0%
100%
0%
0%
0%
0%
50%
50%
100%
50%
0%
0%
100%
0%
0%
40%
100%
100%
100%
100%
100%
100%
100%
100%
100%
100%
100%
100%
100%
100%
100%
100%
100%
100%
100%
100%
100%
100%
100%
100%
0%
0%
0%
50%
50%
50%
0%
0%
0%
0%
0%
0%
100%
100%
100%
100%
100%
100%
100%
100%
100%
100%
100%
100%
0%
100%
0%
100%
0%
0%
0%
50%
50%
50%
0%
50%
100%
100%
0%
100%
100%
100%
0%
0%
0%
0%
100%
0%
50%
0%
0%
0%
50%
50%
100%
0%
0%
0%
100%
100%
0%
0%
0%
100%
100%
0%
0%
0%
0%
0%
0%
0%
100%
100%
100%
100%
0%
0%
0%
0%
0%
0%
0%
0%
100%
0%
100%
0%
0%
100%
50%
0%
0%
0%
0%
50%
0%
0%
0%
0%
0%
0%
0%
0%
0%
0%
0%
0%
0%
0%
0%
0%
0%
0%
50%
50%
50%
50%
50%
50%
50%
50%
0%
50%
0%
50%
50%
100%
50%
100%
50%
50%
0%
50%
50%
60%
50%
50%
0%
100%
50%
100%
0%
100%
50%
0%
0%
0%
50%
100%
0%
100%
100%
100%
0%
0%
0%
100%
0%
100%
100%
100%
0%
100%
100%
100%
0%
0%
38%
40%
31%
44%
35%
45%
100%
100%
100%
100%
100%
100%
100%
100%
100%
100%
100%
100%
100%
100%
100%
100%
100%
100%
100%
100%
100%
100%
100%
100%
0%
0%
100%
0%
19%
0%
100%
100%
100%
100%
56%
0%
100%
50%
100%
50%
72%
100%
100%
100%
100%
100%
97%
100%
0%
0%
100%
100%
47%
100%
50%
0%
50%
50%
19%
0%
50%
100%
100%
100%
72%
100%
100%
50%
50%
50%
63%
50%
50%
50%
100%
0%
34%
50%
100%
100%
100%
0%
100%
100%
0%
0%
100%
0%
56%
100%
0%
0%
0%
0%
0%
0%
100%
100%
100%
100%
69%
0%
0%
0%
100%
0%
19%
0%
100%
100%
100%
0%
38%
0%
0%
0%
50%
0%
19%
50%
0%
0%
0%
0%
0%
0%
0%
0%
0%
0%
0%
0%
0%
0%
50%
0%
19%
0%
50%
50%
50%
50%
53%
50%
50%
50%
0%
0%
19%
0%
50%
100%
50%
100%
56%
50%
50%
50%
50%
60%
59%
50%
0%
100%
100%
100%
38%
0%
0%
0%
0%
0%
6%
50%
0%
0%
0%
100%
3%
0%
0%
0%
0%
100%
25%
100%
0%
100%
50%
100%
47%
0%
36%
40%
60%
42%
40%
41%
100%
100%
100%
100%
0%
0%
50%
100%
0%
0%
100%
50%
50%
100%
100%
0%
100%
100%
0%
50%
0%
0%
0%
50%
50%
50%
50%
0%
0%
0%
0%
50%
44%
100%
100%
100%
100%
0%
0%
50%
100%
0%
50%
0%
0%
0%
100%
0%
0%
100%
0%
0%
0%
0%
0%
0%
50%
0%
50%
50%
100%
0%
0%
0%
0%
26%
100%
100%
100%
100%
0%
100%
100%
100%
50%
50%
0%
0%
0%
100%
100%
0%
100%
100%
0%
0%
0%
0%
0%
50%
0%
50%
100%
100%
0%
0%
0%
100%
40%
100%
100%
100%
100%
0%
100%
50%
100%
100%
50%
100%
50%
50%
100%
0%
0%
100%
0%
0%
0%
0%
0%
0%
50%
0%
50%
50%
100%
0%
0%
0%
0%
36%
100%
100%
100%
100%
0%
0%
0%
100%
0%
0%
100%
50%
100%
100%
100%
0%
0%
100%
0%
0%
0%
0%
0%
50%
0%
50%
50%
0%
0%
0%
0%
0%
33%
100%
100%
100%
100%
100%
100%
100%
100%
100%
100%
100%
100%
100%
0%
0%
0%
0%
100%
100%
50%
50%
50%
100%
100%
0%
0%
100%
50%
50%
0%
0%
100%
100%
50%
100%
100%
0%
0%
0%
100%
100%
100%
0%
100%
0%
0%
0%
0%
100%
0%
100%
0%
0%
0%
0%
100%
0%
0%
0%
0%
0%
0%
0%
0%
0%
0%
0%
0%
0%
50%
50%
100%
0%
50%
0%
50%
100%
50%
50%
100%
100%
0%
100%
0%
50%
0%
0%
0%
0%
50%
0%
0%
0%
0%
0%
100%
29%
38%
39%
100%
100%
100%
100%
0%
100%
100%
100%
50%
0%
0%
100%
0%
100%
100%
0%
100%
0%
100%
50%
0%
0%
50%
50%
50%
100%
50%
100%
0%
0%
100%
100%
53%
100%
100%
100%
100%
0%
100%
50%
100%
100%
0%
100%
50%
100%
100%
100%
0%
100%
0%
100%
50%
0%
0%
100%
50%
0%
50%
50%
0%
0%
0%
100%
100%
53%
100%
100%
100%
100%
100%
100%
100%
100%
0%
0%
0%
100%
100%
100%
100%
100%
50%
0%
0%
0%
100%
100%
100%
100%
0%
0%
100%
100%
0%
0%
0%
0%
100%
100%
0%
0%
0%
0%
0%
50%
0%
0%
0%
0%
50%
0%
50%
50%
50%
50%
50%
50%
50%
50%
50%
0%
0%
0%
0%
0%
0%
0%
100%
0%
36%
39%
100%
100%
100%
100%
100%
100%
100%
100%
100%
0%
100%
100%
100%
50%
100%
100%
100%
50%
50%
0%
50%
100%
0%
100%
0%
100%
100%
100%
0%
100%
0%
0%
0%
100%
0%
0%
100%
100%
0%
0%
0%
0%
0%
0%
0%
0%
50%
50%
50%
0%
50%
50%
50%
50%
50%
0%
0%
0%
0%
0%
100%
0%
0%
100%
39%
41%
100%
100%
100%
100%
100%
100%
100%
100%
100%
14%
100%
71%
100%
93%
100%
93%
50%
43%
0%
29%
100%
100%
100%
86%
100%
57%
100%
100%
100%
57%
0%
0%
0%
71%
0%
29%
100%
43%
50%
29%
0%
0%
0%
0%
100%
50%
50%
57%
0%
29%
50%
64%
50%
57%
0%
50%
0%
21%
0%
7%
0%
43%
100%
71%
51%
47%
100%
100%
100%
100%
100%
100%
100%
100%
100%
100%
100%
100%
100%
100%
100%
100%
100%
100%
100%
100%
100%
100%
100%
100%
0%
100%
0%
0%
0%
0%
0%
100%
100%
100%
0%
100%
100%
100%
100%
100%
100%
100%
100%
100%
100%
100%
50%
100%
50%
0%
100%
100%
0%
50%
0%
0%
0%
0%
50%
100%
100%
100%
100%
100%
100%
100%
50%
100%
100%
100%
100%
50%
50%
50%
50%
100%
50%
100%
100%
100%
100%
100%
100%
100%
0%
0%
100%
0%
100%
100%
0%
0%
0%
0%
0%
0%
100%
0%
100%
100%
100%
100%
100%
0%
0%
0%
0%
100%
0%
0%
100%
100%
100%
0%
0%
50%
0%
100%
0%
0%
0%
0%
0%
0%
0%
0%
0%
0%
0%
0%
0%
0%
50%
0%
50%
100%
50%
50%
50%
50%
50%
100%
50%
50%
0%
50%
100%
0%
0%
0%
50%
50%
100%
100%
50%
50%
50%
50%
50%
50%
100%
50%
0%
0%
100%
100%
100%
0%
50%
0%
50%
50%
0%
0%
0%
0%
0%
50%
0%
0%
0%
100%
0%
100%
0%
100%
0%
100%
100%
100%
100%
0%
35%
45%
51%
66%
43%
48%
100%
100%
100%
100%
100%
100%
100%
93%
100%
100%
100%
100%
0%
0%
0%
100%
43%
0%
50%
79%
100%
100%
96%
100%
0%
50%
50%
50%
39%
0%
100%
82%
100%
100%
50%
50%
0%
54%
50%
100%
100%
100%
100%
36%
100%
0%
0%
0%
0%
86%
100%
0%
43%
0%
0%
36%
100%
50%
21%
0%
0%
0%
0%
0%
0%
0%
50%
21%
0%
50%
54%
50%
50%
29%
0%
50%
54%
50%
50%
39%
50%
50%
14%
0%
0%
14%
0%
0%
0%
0%
0%
14%
0%
100%
46%
0%
44%
40%
35%
100%
100%
100%
100%
0%
0%
100%
100%
100%
100%
100%
50%
0%
100%
0%
0%
100%
100%
0%
50%
0%
0%
50%
50%
0%
50%
50%
0%
0%
0%
0%
100%
48%
100%
100%
100%
100%
0%
0%
100%
100%
100%
100%
100%
0%
50%
100%
100%
0%
100%
100%
0%
50%
0%
0%
0%
50%
0%
50%
0%
0%
0%
0%
0%
0%
45%
100%
100%
100%
100%
0%
0%
50%
100%
100%
100%
100%
50%
0%
100%
100%
0%
100%
100%
100%
50%
0%
0%
0%
50%
0%
50%
50%
0%
50%
0%
0%
0%
46%
100%
100%
100%
100%
100%
100%
100%
100%
100%
100%
100%
100%
100%
100%
100%
100%
0%
0%
0%
0%
100%
0%
100%
100%
50%
0%
100%
100%
100%
100%
100%
100%
0%
0%
50%
100%
50%
100%
0%
0%
100%
100%
0%
100%
50%
100%
50%
50%
100%
100%
50%
0%
100%
100%
100%
100%
0%
0%
0%
100%
0%
0%
0%
0%
0%
100%
100%
100%
0%
0%
0%
0%
0%
0%
0%
0%
0%
0%
0%
50%
0%
0%
0%
0%
0%
0%
0%
0%
0%
0%
0%
100%
50%
50%
50%
50%
50%
50%
0%
50%
50%
50%
100%
50%
50%
50%
50%
0%
50%
0%
50%
0%
50%
0%
0%
0%
0%
0%
0%
0%
0%
0%
0%
0%
50%
100%
0%
50%
35%
35%
33%
45%
100%
100%
0%
100%
0%
0%
100%
50%
50%
100%
100%
50%
100%
100%
100%
0%
100%
100%
100%
50%
0%
0%
50%
50%
50%
50%
50%
0%
0%
0%
0%
50%
49%
100%
100%
100%
100%
0%
100%
100%
100%
0%
0%
0%
100%
50%
100%
0%
0%
100%
0%
0%
0%
0%
0%
0%
100%
50%
50%
50%
50%
0%
0%
100%
100%
39%
ID1.4
ID1.5
ID1.6
ID1.7
ID1.8
ID1.9
ID1.10
ID2.4
ID2.5
ID2.6
ID2.7
ID2.8
ID2.9
ID2.10
ID3.1
ID3.2
ID3.3
ID4.1
ID4.2
ID4.3
ID4.4
ID4.5
ID4.6
ID4.7
ID4.8
ID4.9
ID4.10
100%
100%
100%
0%
0%
50%
100%
0%
0%
50%
0%
50%
100%
0%
0%
100%
0%
100%
0%
0%
0%
0%
50%
50%
50%
50%
0%
50%
0%
0%
50%
31%
100%
100%
100%
100%
0%
0%
50%
100%
100%
0%
100%
50%
100%
100%
0%
0%
100%
100%
100%
50%
0%
0%
100%
50%
0%
50%
0%
0%
0%
0%
0%
50%
48%
100%
100%
100%
100%
100%
100%
100%
100%
0%
0%
100%
100%
100%
100%
100%
100%
0%
50%
0%
0%
100%
100%
100%
0%
50%
50%
100%
100%
0%
0%
0%
0%
100%
0%
100%
0%
0%
0%
0%
0%
0%
0%
0%
0%
0%
0%
50%
50%
50%
50%
50%
50%
50%
50%
50%
0%
0%
50%
0%
0%
0%
100%
100%
0%
40%
34%
100%
100%
100%
100%
14%
43%
79%
100%
71%
7%
71%
57%
64%
100%
100%
14%
71%
14%
43%
29%
0%
0%
21%
50%
14%
57%
43%
29%
7%
14%
14%
79%
43%
100%
100%
100%
100%
100%
100%
100%
100%
100%
100%
100%
100%
100%
100%
100%
100%
0%
0%
0%
0%
0%
0%
100%
0%
100%
100%
100%
0%
100%
100%
100%
100%
100%
0%
100%
100%
0%
50%
0%
0%
100%
50%
100%
100%
100%
0%
0%
100%
50%
0%
100%
100%
100%
100%
100%
100%
100%
100%
100%
100%
0%
0%
100%
0%
100%
100%
100%
100%
0%
0%
0%
0%
100%
100%
0%
0%
50%
0%
50%
50%
0%
0%
0%
0%
0%
0%
0%
0%
0%
0%
0%
0%
50%
50%
50%
50%
0%
0%
0%
50%
50%
100%
50%
50%
50%
50%
0%
50%
0%
100%
0%
0%
0%
0%
0%
0%
0%
100%
0%
0%
0%
0%
0%
0%
100%
100%
50%
50%
46%
40%
45%
43%
100%
100%
100%
100%
0%
100%
100%
100%
100%
0%
0%
50%
50%
100%
100%
0%
0%
0%
100%
0%
0%
0%
50%
50%
50%
50%
50%
0%
0%
0%
0%
100%
39%
100%
100%
100%
100%
100%
100%
100%
100%
50%
0%
100%
50%
100%
100%
100%
0%
100%
0%
0%
50%
0%
0%
100%
50%
0%
50%
50%
100%
0%
0%
0%
100%
53%
100%
100%
100%
100%
100%
100%
100%
92%
100%
100%
100%
100%
0%
33%
100%
0%
100%
100%
50%
83%
100%
100%
92%
100%
50%
42%
50%
0%
25%
50%
50%
100%
100%
100%
96%
50%
50%
71%
0%
100%
100%
100%
100%
83%
0%
0%
0%
0%
0%
100%
100%
100%
25%
0%
0%
42%
100%
0%
42%
50%
0%
25%
0%
0%
17%
0%
0%
17%
0%
50%
58%
50%
0%
37%
50%
50%
62%
100%
50%
63%
50%
0%
54%
0%
50%
21%
0%
0%
25%
100%
100%
25%
0%
50%
83%
100%
39%
54%
51%
100%
100%
100%
100%
100%
100%
100%
100%
100%
100%
100%
100%
100%
100%
100%
100%
100%
100%
100%
100%
0%
100%
100%
100%
100%
100%
100%
100%
100%
100%
100%
100%
100%
100%
100%
100%
100%
100%
100%
0%
100%
0%
0%
0%
0%
0%
100%
100%
0%
100%
100%
100%
100%
100%
100%
100%
100%
100%
100%
100%
50%
100%
100%
50%
50%
100%
100%
100%
50%
100%
0%
100%
100%
100%
100%
100%
100%
100%
100%
100%
0%
0%
100%
50%
0%
50%
100%
50%
0%
0%
0%
50%
0%
0%
0%
100%
0%
50%
0%
50%
100%
100%
100%
100%
100%
100%
100%
100%
100%
100%
100%
100%
100%
100%
100%
100%
100%
100%
100%
100%
0%
100%
100%
50%
100%
50%
100%
100%
50%
100%
100%
100%
100%
100%
100%
100%
100%
100%
100%
100%
100%
100%
100%
100%
100%
0%
100%
100%
100%
100%
0%
0%
0%
0%
0%
0%
0%
0%
0%
0%
100%
100%
100%
100%
100%
100%
100%
100%
100%
100%
0%
0%
100%
0%
0%
0%
0%
0%
100%
100%
0%
100%
100%
0%
0%
0%
100%
0%
100%
0%
0%
0%
100%
100%
0%
0%
100%
50%
50%
0%
0%
0%
100%
100%
0%
0%
100%
0%
0%
0%
0%
0%
0%
100%
0%
0%
100%
0%
0%
0%
0%
0%
50%
50%
0%
0%
100%
0%
0%
0%
50%
50%
100%
50%
50%
50%
50%
40%
100%
50%
50%
50%
50%
0%
50%
0%
50%
40%
50%
50%
100%
50%
50%
50%
100%
50%
50%
40%
50%
50%
50%
100%
50%
50%
50%
50%
100%
100%
50%
50%
100%
0%
50%
100%
0%
0%
100%
100%
100%
100%
0%
0%
50%
0%
0%
0%
50%
50%
50%
0%
0%
0%
100%
0%
0%
0%
100%
0%
0%
0%
0%
0%
100%
0%
0%
0%
100%
0%
0%
100%
100%
100%
100%
100%
100%
50%
100%
50%
100%
50%
38%
45%
80%
66%
40%
38%
85%
55%
54%
50%
100%
98%
100%
99%
100%
95%
100%
100%
0%
22%
100%
62%
100%
80%
100%
97%
100%
53%
0%
23%
100%
82%
100%
59%
100%
43%
100%
96%
100%
57%
0%
8%
100%
79%
0%
25%
0%
56%
50%
28%
0%
7%
0%
5%
0%
24%
50%
54%
0%
31%
50%
56%
50%
52%
0%
36%
50%
14%
0%
12%
0%
25%
50%
62%
48%
45%
ID2.3
ID1.3
100%
ID2.1
ID1.2
Departamento/Organismo
Instituto Nacional de Sade Doutor Ricardo
Jorge, I.P.
Instituto Portugus do Sangue e da Transplantao, I.P.
Secretaria-Geral do MS
Servio de Interveno nos Comportamentos
Aditivos e nas Dependncias
12 Ambiente, Ordenamento do Territrio e
Energia (Valores mdios)
Agncia Portuguesa do Ambiente, I.P
Direo-Geral de Energia e Geologia
Direo-Geral do Territrio
Inspeo-Geral dos Ministrios do Ambiente,
Ordenamento do Territrio e da Agricultura e
do Mar
Instituto da Habitao e da Reabilitao Urbana, I.P
Laboratrio Nacional de Energia e Geologia,
I.P.
Secretaria-Geral do MAOTE
13 Educao e Cincia (Valores mdios)
Agncia Nacional para a Qualificao e o Ensino
Profissional, I.P.
Centro Cientfico e Cultural de Macau, I.P
Direo-Geral da Administrao Escolar
Direo-Geral da Educao
Direo-Geral de Estatsticas da Educao
Direo-Geral do Ensino Superior
Direo-Geral dos Estabelecimentos Escolares
Fundao para a Cincia e a Tecnologia, I.P.
Inspeo-Geral da Eduo e Cincia
Instituto de Avaliao Educativa I.P.
Instituto de Gesto Financeira da Educao,
I.P.
Secretaria-Geral do MEC
Total (valores mdios)
ID1.1
124