Modelo de avaliação do concurso público para realização de uma auditoria aos indicadores de qualidade de serviço, de reclamações e pedidos de informação dos CTT-Correios de Portugal, S.A, referentes aos anos de 2010 e 2011, e a estudo de correio real


1. Disposições gerais

A apreciação das propostas, à luz do artigo 139º do código dos contratos públicos (CCP), será efectuada através da utilização da metodologia multicritério de apoio à decisão Measuring Attractiveness by a Categorical Based Evaluation Technique (MACBETH) 1.

A abordagem MACBETH assenta num modelo de agregação aditiva que apenas requer julgamentos qualitativos relativos a diferenças de atractividade entre cada par de elementos (factores de avaliação), gerando pontuações para as opções em cada factor de avaliação, bem como para as ponderações dos próprios factores, dando origem a uma escala constituída por sete níveis, a saber: nula; muito fraca; fraca; moderada; forte; muito forte e extrema.

Esta abordagem é apoiada pelo software M-Macbeth, que verifica automaticamente a consistência dos julgamentos expressos e introduzidos na aplicação, propondo sugestões para a resolução de eventuais inconsistências.

O processo MACBETH de apoio à decisão evolui depois para a construção de um modelo quantitativo de avaliação, onde as funcionalidades do software, tendo por base os julgamentos qualitativos, geram escalas quantitativas de pontuações e pesos para cada factor, apresentando-os em diversos formatos gráficos, que permitiram a sua análise e discussão com vista à definição dos factores de apreciação das propostas e respectivos coeficientes de ponderação.

Foram identificados como factores de avaliação: (a) metodologia; (b) bolsa de crédito; (c) preço.

Para estes factores foram definidos, sempre que aplicável, os subfactores relevantes, tendo em vista a avaliação das propostas em cada um dos factores mencionados.

Adicionalmente foram identificados indicadores relevantes que permitissem operacionalizar a avaliação das propostas, de uma forma sistemática e transparente, relativamente aos factores e subfactores que dependem de um conjunto diversificado de aspectos.
Para cada factor e subfactor (factores de 1.ª e 2.ª ordem) foram identificados dois níveis de referência, bom e neutro, os quais possuem um valor intrínseco para cada descritor, que permitem operacionalizar a ideia do que é considerado uma proposta “boa” e uma proposta “neutra”, isto é, uma proposta nem atractiva, nem repulsiva.

A pontuação final de cada proposta será obtida pela soma ponderada das suas pontuações nos factores de avaliação a) e b) acima mencionados e constantes dos pontos 5.1. e 5.2. da Parte II do caderno de encargos, e de acordo com a avaliação do factor preço constante da Parte I do presente caderno de encargos:

a) Metodologia: 50 por cento;
b) Bolsa de crédito: 15 por cento;
c) Preço: 35 por cento.

Relativamente à pontuação de cada proposta nos factores e subfactores avaliados, esta será arredondada à segunda casa decimal mais próxima, sendo que no caso de existirem duas possibilidades de arredondamento, será considerado o arredondamento à segunda casa decimal superior.

A pontuação de cada uma das propostas nos factores de avaliação mencionados nos pontos 5.1. e 5.2. da Parte II do caderno de encargos e de acordo com a avaliação do factor preço constante da Parte I do caderno de encargos, será obtida pela soma ponderada das suas pontuações nos respectivos factores e subfactores (de 1.ª e 2.ª ordem), os quais se encontram descritos nos pontos 2.2.1. a 2.2.3. do modelo de avaliação das propostas, tendo em consideração a sua análise em função dos níveis de referência, bom e neutro, previamente definidos no presente modelo de avaliação.

A pontuação de cada proposta nos diversos descritores (factores e subfactores de 1.ª e 2.ª ordem), será atribuída através da sua avaliação qualitativa e/ou quantitativa por referência aos níveis previamente definidos, bom e neutro, aos quais correspondem as pontuações de 50 e 70 pontos, respectivamente.

Assim, sempre que a avaliação de um proposta seja:

a) equivalente ao nível de referência bom, obterá uma pontuação de 70 pontos;
b) equivalente ao nível de referência neutro, obterá uma pontuação de 50 pontos;
c) superior ao nível de referência bom, obterá uma pontuação superior a 70 pontos;
d) inferior ao nível de referência neutro, obterá uma pontuação inferior a 50 pontos;
e) inferior ao nível bom, mas superior ao nível neutro, obterá uma pontuação inferior a 70 pontos e superior a 50 pontos.

Nos subfactores onde a avaliação das propostas depende de diversos aspectos (indicadores), a sua avaliação será efectuada comparativamente aos níveis de referência bom e neutro previamente definidos. Assim, uma proposta “boa” ou “neutra” corresponderá a uma proposta globalmente avaliada como “boa” ou “neutra” comparativamente aos níveis de referência bom e neutro previamente definidos para os diversos indicadores. Da avaliação efectuada poderão resultar propostas consideradas superiores ou inferiores relativamente aos níveis bom e neutro definidos.

A avaliação das propostas apresentadas em cada um dos subfactores, que incluam elementos adicionais aos mencionados nas especificações técnicas, serão ainda avaliadas comparativamente ao nível bom dos respectivos subfactores tendo em consideração a relevância e respectiva fundamentação dos elementos apresentados.

2. Pontuações das propostas


2.1. Pontuação final das propostas

A pontuação final de cada proposta, (V), será obtida pela soma ponderada das suas pontuações nos factores a), b) e c) mencionados, respectivamente, nos pontos 5.1. e 5.2. da Parte II do caderno de encargos e de acordo com a avaliação do factor preço constante da Parte I do caderno de encargos:

V = 50% x Va + 15% x Vb + 35% x Vc

2.2. Pontuações nos factores e subfactores

2.2.1. Pontuação no factor a) – metodologia

A pontuação de cada proposta no factor a) – metodologia (Va), será obtida pela soma ponderada das suas pontuações nos subfactores a1), a2) e a3) de acordo com o estabelecido nos pontos 2.2.1.1. a 2.2.1.3. do presente modelo de avaliação:

Va = 30,0% x Va1 + 15,0% x Va2 + 55,0% x Va3

2.2.1.1. Pontuação no subfactor a1) – fases da auditoria

A pontuação de cada proposta no subfactor a1) – fases da auditoria será obtida através da sua avaliação qualitativa relativamente à conformidade com os requisitos discriminados no ponto 5.1.1. da Parte II do caderno de encargos, tendo em consideração os indicadores e os respectivos níveis de referência descritos de seguida:

Indicador

Nível neutro

Nível bom

Fases de auditoria a realizar

A proposta apresenta uma descrição genérica das fases integrantes do presente trabalho e das actividades a desenvolver em cada fase.

Adicionalmente, a proposta identifica e justifica as fases e actividades consideradas críticas, abordando, nomeadamente, e para cada uma:

a) os principais objectivos;

b) os principais riscos associados.

Política de comunicação

A proposta apresenta de forma genérica a política de comunicação considerada adequada à realização do presente trabalho.

A proposta apresenta uma política de comunicação detalhada identificando e descrevendo nomeadamente:

a) os principais momentos de comunicação do projecto;

b)   os canais de comunicação a estabelecer;

c) o registo e controlo das comunicações a efectuar;

d) outros aspectos considerados relevantes.

Outros aspectos considerados relevantes

A proposta apresenta outros elementos adicionais considerados relevantes pelo concorrente no âmbito da realização do trabalho.

A proposta apresenta outros elementos adicionais, comprovadamente relevantes, efectuando uma explicação detalhada da sua relevância, a qual deverá ser adequadamente sustentada através de exemplos apresentados.


Será considerada um proposta “boa” / “neutra”, uma proposta que seja avaliada como “boa” / “neutra” em todos os indicadores, ou que, em alternativa, tenha globalmente a mesma atractividade, podendo da avaliação efectuada resultarem propostas consideradas superiores ou inferiores relativamente aos níveis bom e neutro definidos.

2.2.1.2. Pontuação no subfactor a2) – cronograma da auditoria

A pontuação de cada proposta no subfactor a2) – cronograma da auditoria, será obtida através da sua avaliação qualitativa relativamente à conformidade com os requisitos descriminados no ponto 5.1.2. da Parte II do caderno de encargos, tendo em consideração os indicadores e os respectivos níveis de referência descritos de seguida:

Indicador

Nível neutro

Nível bom

Duração do projecto

O cronograma identifica a duração global do trabalho e para cada fase e principais actividades as datas relativa de início, duração e conclusão.

Adicionalmente, identifica:

a) a duração e conclusão de cada uma das fases e principais actividades identificadas, em termos relativos, com referência à data de início de cada uma das auditorias;

b) identificação das fases e principais actividades consideradas críticas;

c) eventuais condicionantes que possam implicar a dilação do prazo das fases e principais actividades críticas e da globalidade do projecto;

d) planos de contingência relativos às eventuais condicionantes identificadas no ponto anterior.

Articulação entre o concorrente e o ICP-ANACOM nas diferentes fases do projecto

O cronograma identifica as diversas fases e/ou actividades onde existirá articulação entre o concorrente e o ICP-ANACOM.

Para além de identificar as diferentes fases e/ou actividades onde existirá articulação entre o concorrente e o ICP-ANACOM, são elencadas:

a) formas de articulação previstas;

b) responsabilidades e expectativas das partes intervenientes;

c) as formas de comunicação mais adequadas a uma colaboração eficaz e eficiente;

d) outros aspectos considerados relevantes pelo concorrente quanto à articulação a existir.

Será considerada um proposta “boa” / “neutra”, uma proposta que seja avaliada como “boa” / “neutra” em todos os indicadores, ou que, em alternativa, tenha globalmente a mesma atractividade, podendo da avaliação efectuada resultarem propostas consideradas superiores ou inferiores relativamente aos níveis bom e neutro definidos.

2.2.1.3. Pontuação no subfactor a3) – metodologias propostas para efectuar o trabalho

A pontuação de cada proposta no subfactor a3) – metodologias propostas para efectuar o trabalho, será obtida através da sua avaliação qualitativa relativamente à conformidade com os requisitos descriminados no ponto 5.1.3. da Parte II do caderno de encargos, tendo em consideração os indicadores e os respectivos níveis de referência descritos de seguida:

Indicador

Nível neutro

Nível bom

Metodologias normalmente utilizadas em auditorias similares

A proposta apresenta uma descrição genérica das metodologias normalmente utilizadas pelo concorrente em trabalhos similares aos actualmente presentes a concurso.

A proposta apresenta uma descrição detalhada das metodologias normalmente utilizadas pelo concorrente em trabalhos similares aos actualmente presentes a concurso, identificando e descrevendo as suas principais vantagens na mitigação de riscos associados ao tipo de trabalhos a desenvolver.

Metodologias consideradas para cada um dos objectivos do presente concurso

A proposta apresenta uma descrição genérica das metodologias consideradas apropriadas para realizar cada um dos objectivos descritos nos capítulos 3.1.1. a 3.3. da Parte II do caderno encargos.

A proposta apresenta uma descrição genérica das metodologias consideradas apropriadas para realizar cada um dos objectivos descritos nos capítulos 3.1.1. a 3.3. da Parte II do caderno encargos, identificando e descrevendo as vantagens da sua utilização na mitigação de eventuais riscos associados às auditorias a desenvolver.


Será considerada um proposta “boa” / “neutra”, uma proposta que seja avaliada como “boa” / “neutra” em todos os indicadores, ou que, em alternativa, tenha globalmente a mesma atractividade, podendo da avaliação efectuada resultarem propostas consideradas superiores ou inferiores relativamente aos níveis bom e neutro definidos.

2.2.2. Pontuação no factor b) – bolsa de créditos

A pontuação de cada proposta no factor b) – bolsa de créditos (Vb), que não compreende subfactores, será obtida em função do número de créditos (N – unidades inteiras equivalentes a horas/concorrente) apresentado na proposta do concorrente, em conformidade com os requisitos discriminados no ponto 5.2. da Parte II do caderno de encargos, tendo em consideração as seguintes expressões:

Vc = 0,875 * N – 70    se 80 ≤ N ≤ 160;
Vc = 0,375 * N + 10    se 160 < N ≤ 240,
Vc = 100                      se N > 240.

O número de créditos (N) apresentado na proposta do concorrente deve ser igual ou superior a 80, sendo excluídas as propostas que apresentam um valor N inferior a 80.

Gráfico que revela a curva decrescente da Bolsa de crédito (horas por concorrente médio). 

2.2.3. Pontuação no factor c) – preço

A pontuação de cada proposta no factor c) – preço (Vc), que não compreende subfactores, será obtida tendo em consideração que o preço base definido para efeitos do presente procedimento pré-contratual é de 160 000 euros, sendo excluídas as propostas que apresentem um preço superior ao preço base.

Para todos os efeitos, o ICP-ANACOM considera que propostas com preço de execução inferiores a 70 000 euros correspondem a propostas com preço anormalmente baixo, pelo que a sua aceitação será sempre condicionada aos esclarecimentos que esta Autoridade entender necessitar.

Ao preço apresentado, em euros, nas propostas entregues pelos concorrentes acrescerá o IVA à taxa legal em vigor, se este for devido, o qual não será tido em consideração para efeitos de avaliação das propostas apresentadas. O preço global a pagar pelo ICP-ANACOM inclui o número de créditos de auditoria mencionado pelo concorrente na proposta apresentada, nos termos da Parte I, para a análise de questões não antecipadas de acordo com o capítulo 5.2. da Parte II do caderno de encargos.

A pontuação de cada proposta no factor c) – preço (Vc), que não compreende subfactores, será obtida através das seguintes funções de valor que permitem transformar unidades de preço em pontuações ƒ(preço), de acordo com as seguintes equações:

Vc = 100 – [(Preço -   70) x  0,60]   se   70 000 € ≤ Preço ≤ 120 000 €;
Vc =   70 – [(Preço - 120) x  1,75]   se 120 000 € ≤ Preço ≤ 160 000 €.

Nota: Preço em 103 €.

Gráfico que revela a curva decrescente da pontuação de cada proposta no factor preço. 

 
3. Árvore de factores e subfactores de decisão do projecto


 

3.1. Ponderação dos factores de avaliação

a) Metodologia:       50 por cento;
b) Bolsa de crédito: 15 por cento;
c) Preço:                  35 por cento.

3.1.1. Ponderação dos subfactores de avaliação

Árvore de factores e subfactores de decisão do projecto como a auditoria

 

 

 

 

3.1.1.1. Factor a) – metodologia

 Árvore de factores e subfactores de decisão do projecto como a metodologia.

Julgamentos:

 Árvore de factores e subfactores de decisão do projecto como os julgamentos.

Histograma:

 Árvore de factores e subfactores de decisão do projecto como o histograma.
 
3.1.1.2. Factor b) – bolsa de crédito

A pontuação de cada proposta no factor b) – bolsa de créditos, é obtida através das seguintes funções de valor que permitem transformar unidades de créditos em pontuações ƒ(créditos), de acordo com as seguintes equações:

Vc = 0,875 * N – 70    se 80 ≤ N ≤ 160;
Vc = 0,375 * N + 10    se 160 < N ≤ 240,
Vc = 100                     se N > 240.

O número de créditos (N) apresentado na proposta do concorrente deve ser igual ou superior a 80, sendo excluídas as propostas que apresentam um valor N inferior a 80.

Gráfico que revela a pontuação de cada proposta no factor: bolsa de créditos.

 

3.1.1.3. Factor c) – preço

A pontuação de cada proposta no factor c) – preço, é obtida através das seguintes funções de valor que permitem transformar unidades preço em pontuações ƒ(preço), de acordo com as seguintes equações:

Vc = 100 – [(Preço -   70) x  0,60]   se   70 000 € ≤ Preço ≤ 120 000 €;
Vc =   70 – [(Preço - 120) x  1,75]   se 120 000 € ≤ Preço ≤ 160 000 €.

Nota: Preço em 103 €.

Gráfico que revela a pontuação de cada proposta no factor: preço.

 

  
1 Ver, por exemplo, Bana e Costa, C.A., Ferreira, J.A.A., Corrêa, E.C. (2000), “Metodologia Multicritério de Apoio à Avaliação de Propostas em Concursos Públicos”, em C.H. Antunes, L. Valadares Tavares (eds.), Casos de Aplicação da Investigação Operacional, McGraw-Hill, Lisboa, 2000 (336-363): ou, Bana e Costa, C.A., Corrêa, E.C., De Corte, J.M., Vansnick, J.C.; “Facilitating bid evaluationa in public call for tenders: a socio-tehnical approach”, OMEGA, The International Journal of Management Science, 30.03.2002, (227-242).