Professional Documents
Culture Documents
Optimizacin
Multi-objetivo
Dra. Mara Guadalupe Villarreal Marroqun
Investigador Ctedras CONACYT
CIMAT-Monterrey
CIMAT, Guanajuato, Gto. , 23 al 26 de Junio de 2015
Contenido
Parte 1:
o
o
o
o
o
Parte 2:
o Mtodos de optimizacin multiobjetivo 2
Algoritmos Evolutivos multiobjetivo
o Como comparar 2 Fronteras de Pareto
o Como seleccionar una solucin entre las soluciones Pareto
Ejemplo 1
Un estudiante desea seleccionar la mejor escuela de
matemticas, en el extranjero, para estudiar el
docorado y se basa en varios criterios:
Criterios
Idex
Ranking Acadmico
Nivel de Reclutamiento
Selectividad de Estudiantes
Actividades de Investigacin
Escuelas
MIT
Stanford
Carnegie Mellon
Georgia Tech
University of Michigan
California Tech
Cornell University
3
Ejemplo 1 (Cont.)
7
Alternativas
Reporte de Indicadores
5 criterios (objetivos)
Escuelas \ Criterio
1 2 3 4
MIT
1 1 11 1 3.21
Stanford
1 8 31 7 4.71
Carnegie Mellon
8 12 4 6 3.36
Georgia Tech
8 2 20 2 2.72
3 7 1 26 3.88
Cornell University
7 10 6 13 2.87
Ejemplo 2
Se desea comprar un carro de entre 4 modelos: Ford
Focus, Toyota Corolla, Honda Civic, Mazda 3. La
decisin se va a tomar de acuerdo a precio,
consumo de gasolina y potencia. Se desea el carro
mas barato, que consuma menos gasolina y sea mas
potente.
3 objetivos
4
Alternativas
Modelo
Costo
Consumo gasolina
Potencia
(x 1,000 pesos)
(l/100km)
(hp)
Ford Focus
293
252
Toyota Corolla
250
8.2
132
Honda Civic
265
8.5
150
Mazda 3
240
11
167
Ejemplo 3
Se desean minimizar 2 objetivos (ejm. costo y calidad
de producto) simultneamente, los cuales estn
representados por las siguientes funciones con 1
variable de decisin (ejm. tiempo de procesamiento).
Funciones objetivo
6.00
f1 (x) = x +1
4.00
f
f2 (x) = (x 2)2 +1
x0
5.00
3.00
f1
f2
2.00
1.00
-2
0.00
-1
0
3
x
Caracterstica de un Problema de
Optimizacin Multiobjetivo
Problemas que involucra mas de una funcin
objetivo a ser minimizada o maximizada.
Los objetivos presentan un grado de conflicto. Esto
es, no existe una solucin (x) tal que todos los
objetivos sean minimizados (maximizados)
simulataneamente.
j = 1,..., J
k = 1,..., K
xiL xi xiU
M objetivos
N variables de decisin
J restricciones de desigualdad
K restricciones de igualdad
i = 1,..., N
Conceptos Bsicos
Optimizacin Multiobjetivo
10
Denicin de Dominancia
Dadas 2 soluciones x1 y x2, decimos que x1 domina a x2,
si
o La solucin x1 no es peor que x2 en todos los objetivos y
o La solucin x1 es estrictamente mejor que x2 en al menos un
objetivos.
o Equivalente a decir (caso minimizar):
Ejercicio
f1
f2
x1 MIT
x 2 Stanford
x3
Carnegie Mellon
12
x4
Georgia Tech
x5
U. of Michigan
x6
California Tech
x7
Cornell
10
Nota
El objetivo de los mtodos de optimizacin
multiobjetivo es encontrar el conjunto de soluciones
no dominadas y no una solucin nica.
13
$
&
# min Reclutamiento &
"
%
min Ranking
Alternativas:
MIT
! 1 $ ! 2 $ ! 6 $ ! 4 $ ! 5 $ ! 3 $ ! 7 $
& #
#
& #
& #
& #
& #
&
& #
" 3 % " 8 % " 12 % " 2 % " 3 % " 7 % " 10 %
#2 Score #1 Score #2
1 < 2
3 < 8
sum
Conceptros Bsicos:
MIT
Standford
Cal Tech
Georga Tech
U. of Mich.
Carnegie
Cornell
Reclutamiento
12
10
Stanford
Cal Tech
6
4
MIT
2
0
U of Mich.
Georga Tech
4
5
Ranking
15
Conceptros Bsicos:
Conceptros Bsicos:
Espacio de Objetivos
Escuela
14
Carnegie
Mellon
Cornell
MIT
Standford
Cal Tech
Georga Tech
U. of Mich.
Carnegie
Cornell
Soluciones Ecientes
Reclutamiento
12
10
Stanford
Cal Tech
6
4
MIT
2
0
U of Mich.
Georga Tech
4
5
Ranking
Soluciones No dominadas
17
Conceptros Bsicos:
Espacio de Variables
x2
X
Y
Puntos dominados
Frontera Pareto
x1
min f1
18
4.00
3.00
f1
2.00
f2
Soluciones
Pareto
1.00
0.00
-2
-1
0
3
x
19
Mtodos de Optimizacin
Multiobjetivo
Clsicos
20
y2
12
10
8
6
4
2
Soluciones
0
No-dominadas
0.00
0.50
1.00
1.50
2.00
2.50
3.00
y1
21
Mtodos de Optimizacin
Multiobjetivo
Clsicos
22
min w f (x)
i i
xX
i=1
s.a. wi 0 i
M
w = 1
i
i=1
Resultados sobre
Mtodo de Suma Ponderada
Las soluciones del problema mediante el mtodo
de la suma ponderada son al menos Pareto dbil.
Una solucin es Pareto dbil si al mejorar en un objetivo no
necesariamente empeoramos los otros objetivos.
f2
b
w1 f1 (x) + w2 f2 (x) = a
w1 f1 (x) + w2 f2 (x) = b
w1 f1 (x) + w2 f2 (x) = c
f1
25
A,B
f1
26
Ventajas
o Fcil de usar
o En problemas convexos se pueden encuentra todas las
soluciones de la Frontera Pareto
Desventajas
o No encuentra soluciones en la regin No-convexa de la Frontera
o Pesos distribuidos uniformemente no garantizan soluciones
distribuidas uniformemente en la Frontera Pareto.
o Dos vectores de pesos diferentes no necesariamente llevan a 2
soluciones eficientes diferentes.
27
Mtodo de la restriccin -
La idea de este mtodo es mantener un objetivo y
restringir el resto de los objetivos a un valor . En
este caso el problema tambin se transforma a un
problema mono-objetivo. El problema para M
objetivos es como sigue:
min
f j (x)
xX
28
Mtodo restriccin-
Ilustracin
min
f2 (x)
xX
s.a. f1 (x) 1
f2
f2
1a 1b
f1
1a 1b
f1
29
Mtodo restriccin-
Ventajas y Desventajas
Ventajas
o Fcil de Usar
o Se puede aplicar a problemas convexos y no-convexos.
Desventajas
o El vectordebe escogerse cuidadosamente para asegurar que
est dentro del valor mnimo o mximo de las funciones objetivo
individuales.
30
Mtodo Lexicogrco
En este mtodo se asume que los objetivos pueden
ser ordenados por importancia.
La idea es ir resolviendo una serie de problemas
mono-objetivo secuencialmente, empezando por
el objetivo de mayor importancia hasta el de
menor importancia. En cada iteracin el valor
optimo encontrado para cada objetivo es aadido
como restriccin en los problemas subsecuentes.
De esta manera se puede preservar el valor optimo
de los objetivos con mayor importancia.
31
Mtodo Lexicogrco
El procedimiento es como sigue: (asumamos que los
objetivos i=1,2,M esta en orden de importancia)
Problema Inicial:
min
f1 (x)
xX
min
fi (x)
xX
Mtodo Lexicogrco
Ilustracin 1
Problema Inicial
min
Problema 2
min
f1 (x)
f2 (x)
xX
xX
f2
f2*
f1*
f1
f1*
f1
33
Mtodo Lexicogrco
Ilustracin 2
Problema Inicial
min
Problema 2
min
f1 (x)
f2 (x)
xX
xX
f2
f2
f2*
*
1
f1
f1*
f1
34
Mtodo Lexicogrco
Ventajas y Desventajas
Ventajas
o No requiere que las funciones objetivo sean normalizadas.
o La solucin obtenida es Pareto optima.
Desventajas
o Requiere resolver mucho (M) problemas de optimizacin para
obtener una sola solucin.
o Los problemas puede ser difcil de resolver por las restricciones
que se imponen.
35
36
Resumen
En los problemas de optimizacin multiobjetivo
tenemos un conjunto de objetivos que deseamos
optimizar.
Los objetivos presentan un grado de conflicto por lo
que no existe una solucion que optimice todos los
objetivos de manera simulatanea.
El objetivo en estos problemas es encontrar el
conjunto de soluciones eficientes. Dichas soluciones
son matemticamente igual de buenas.
37
Escuela de Modelacin y
Mtodos Numricos 2015
Taller de
Optimizacin
Multi-objetivo(Parte 2)
Dra. Mara Guadalupe Villarreal Marroqun
Investigador Ctedras CONACYT
CIMAT-Monterrey
CIMAT, Guanajuato, Gto. , 23 al 26 de Junio de 2015
Contenido
Parte 1:
o
o
o
o
o
Parte 2:
o Mtodos de optimizacin multiobjetivo 2
Algoritmos Evolutivos mono-objetivo
Algoritmos Evolutivos multi-objetivo
o Vector Evaluated Genetic Algorithm (VEGA) Schaffer (1985)
o Nondominated Sorting Genetic Algorithm (NSGA y NSGA-II)
Srinivas and Deb (1994) & Deb et al. (2002)
o Strength Pareto Evolutionary Algorithm (SPEA y SPEA-II) Zitzel and
Thiele (1999) & Zitzel, Laumanns & Thiele (2002)
o Como comparar 2 Fronteras Pareto?
o Como seleccionar una solucin final?
39
Limitaciones de Mtodos de
Optimizacin Multicriteria Csicos
Para encontrar un conjunto de elementos en la frontera
Pareto, utilizando los mtodos de optimizacin
multiobjetivo clsicos, se necesita correr muchas veces
un algoritmo de optimizacin de un objetivo.
Algunos algoritmos necesitan de parametros o
conocimiento del rango de las objetivos para ser
evaluados (ejm. Mtodo de restriccin-), los cuales
pueden ser dificiles de determinar.
Algunos algoritmos son vulnerables a la forma de la
frontera Pareto(convexidad, discontinuidad, etc.).
40
Mtodos de optimizacin
multiobjetivo Parte 2
Mtodos Heursticos
Algoritmos Evolutivos
Bsqueda Tab
Recocido Simulado
41
Algoritmos Evolutivos
Mono objetivo
42
Algoritmos Evolutivos
Descripcin General
L o s A l g o r i t m o s E v o l u t i v o s s o n p r o c e s o s
computacionales adaptativos que modelan el
proceso de evolucin natural.
SELECCIN
Poblacin Inicial
REPRODUCCIN
Cruza
Evaluacin de
Aptitud
2 1 3
Mutar
43
Algoritmos Evolutivos
44
Algoritmos Evolutivos
Elementos clave
45
Algoritmos Evolutivos
Multiobjetivo
Introduccin
46
47
48
49
Grado: 2
Conteo: 2
0.2
0.4
0.6
0.8
min f1
Conteo de dominancia
Profundidad de dominancia
.
F
3
F 1 F 2
min f2
min f2
Grado de dominancia
1
0.9
0.8
0.7
0.6
0.5
0.4
0.3
0.2
0.1
0
0.2
0.4
0.6
0.8
min f1
50
51
2.
52
Desventajas
o El ajuste de los parmetros (operaciones de evolucin) son a base de
prueba y error.
o Al igual que otras heursticas, los Algoritmos Evolutivos Multiobjetivo no
garantizan encontrar las soluciones eficientes ptimas, pero s una buena
aproximacin de la frontera en un tiempo computacionalmente
razonable.
53
Algoritmos Evolutivos
Multiobjetivo
Metodologas
54
55
2.
3.
4.
5.
Poblacin anterior
F1
F2
F3
F4
f5
Nueva Poblacin
Cruza y
mutacion
De la ultima
poblacin se
pueden seleccionan
las soluciones no-
dominadas por
denicin.
56
VEGA
Comentarios
Este mtodo no genera soluciones distribuidas a lo
largo de la frontera eficiente.
El mtodo genera soluciones agrupadas en cada
mnimo individual.
57
F
3
F
F 1 2
min f2
0.8
0.6
0.4
0.2
0
0.2
0.4
0.6
min f1
0.8
58
Soluciones en categora 2
Continuar as hasta completar N.
F
3
F 1 F 2
1
min f2
0.8
N=4
0.6
0.4
0.2
0
0.2
0.4
0.6
min f1
0.8
59
NSGA
Desventajas
o El mtodo NSGA es computacionalmente caro, especialmente
para calcular la aptitud, dado que requiere identificar las capas
de la frontera eficiente.
o No garantiza que las soluciones estn distribuidas en la frontera
eficiente
o Falta de Elitismo: descarta soluciones no-dominadas en la
iteracin actual (histrico).
60
o Proceso de Seleccin
Selecciona los individuos como en NSGA, pero para distinguir
soluciones en una misma categora calcula la distancia de
amontonamiento.
61
NSGA-II
Distancia de Amontonamiento
La distancia de amontonamiento de una solucion es la
distancia promedio (en el espacio de los objetivos) a los
2 puntos de cada lado de los objetivos.
0.18
0.16
(max) f2
0.14
0.12
0.1
0.08
0.06
0.04
0.02
0
NSGA-II
Proceso de Seleccin
Crowding distance sorting
Non-dominated sorting
Pt+1
Rank 1
Pt
Rank 2
Qt
Rank 5
Rt
Rejected
NSGA-II
Ventajas y Desventajas
Ventajas
o No tiene problemas con convexidad
o Encuentra soluciones eficientes distribuidas en la frontera eficiente (dado
que utiliza la funcin de amontonamiento)
o Utiliza elitismo al pasar cada generacin a la siguiente.
Desventajas
o Esfuerzo Computacional
x [-5,5]
65
NSGA-II
66
67
68
Pc=0.9
Pc=0.5
-2
-3
-4
-5
1
-6
0
-7
-19
-18.5
-18
-17.5
-17
-16.5
-16
-15.5
-15
Pc=0.8
-14.5 -2
min f2
-8
-19.5
-1
-3
-4
-5
-6
-7
-8
-19
-18
-17
-16
min f1
-15
-14
-13
69
2.
3.
4.
5.
6.
7.
8.
70
f j = 1+ si
iD j
71
min
P
P
1
N=6
2
3
min
min
P
P
1
3/7
2
5/7
N=6
3
0/7
min
S1 = 3/7
S2 = 5/7
S3 = 0/7
73
min
P
P
1
3/7
N=6
f4 = 1+ s1 + s2
2
5/7
3
0/7
= 1+ 3 / 7 + 5 / 7 = 15 / 7
min
Paso 2: Calcular x para las soluciones en P (dominadas)
f j = 1+
si
iD j
Donde Dj es el conjunto se soluciones en P que dominan a j
S1 = 3/7
S2 = 5/7
S3 = 0/7
74
min
10/7
3/7
18/10
15/7
P
P
2/7
1
12/7
12/7
5/7
0/7
min
N= 7
Ejm. 1
Ejm. 2
Fuente graco: Zivel and Thiele (1999). Multiobjective Evolutionary Algorithms:A Comparative Case Study and
the Strength Pareto Approach.IEEE TRANSACTIONS ON EVOLUTIONARY COMPUTATION, VOL. 3, NO. 4
76
2.
3.
4.
5.
77
Agrupamiento 1
0.2
0.18
Agrupamiento 2
0.16
(min) f2
0.14
0.12
0.1
0.08
Agrupamiento 3
0.06
0.04
Agrupamiento 4
0.02
0
0.005
0.01
0.015
0.02
0.025
0.03
0.035
0.04
(min) f1
78
Desventajas
o Debe haber un balance entre el tamao de la poblacin y el nmero
mximo de soluciones no-dominadas permitido N
Si N es muy grande, el proceso de seleccin puede tomar mucho
tiempo
Si N es pequeo, el efecto de elitismo no es muy eficiente
o De la asignacin de aptitud:
Los individuos que son dominados por el mismo conjunto de
soluciones en P tienen el mismo valor de aptitud
Si P contiene solo una solucin todas las soluciones en P tienen el
mismo valor de aptitud.
79
80
2.
3.
4.
5.
6.
7.
8.
81
R(i) =
jDi
SPEA vs SPEA2
Asignacin de Aptitud
max f1 y max f2
SPEA SPEA2
Fuente graco: Zivel, Laumanns & Thiele (2002). SPEA2: Improving the Strength Pareto
Evolutionary Algorithm. Tecnical Report Engineering and Networks Laboratory (TIK). TIK-
Report 103
83
85
max f1 y max f2
N=5
Fuente graco: Zivel, Laumanns & Thiele (2002). SPEA2: Improving the Strength Pareto
Evolutionary Algorithm. Tecnical Report Engineering and Networks Laboratory (TIK). TIK-
Report 103
86
87
88
89
(min) f2
0.16
0.14
0.12
0.1
0.08
0.06
0.04
0.02
0
90
91
92
Problemas de Optimizacin
Multiobjetivo
El objetivo en un problemas de optimizacin
multiobjetivo es encontrar la Frontera Pareto o un
subconjunto de ella. Sin embargo, en la practica
finalmente se necesita seleccionar una o varias
(pocas) para tomar una decisin.
93
94
95
0.14
0.12
Agrupamiento 2
0.1
Agrupamiento 1
0.08
0.06
Agrupamiento 3
0.04
0.02
0
0.01
0.02
0.03
0.04
0.05
0.06
0.07
(min) costo
96
(max) valor
0.16
0.14
0.12
0.1
0.08
0.06
0.04
0.02
0
0.01
0.02
0.03
0.04
(min) costo
0.05
0.06
0.07
97
Resumen
En los problemas de optimizacin multiobjetivo tenemos un
conjunto de objetivos que deseamos optimizar.Los objetivos
presentan un grado de conflicto por lo que no existe una
solucion que optimice todos los objetivos de manera
simulatanea.
Existe una serie de mtodos de optimizacin clsica que se
han desarollado en esta rea.
Lo algoritmos evolutivos se han implementado con xito en
optimizacin multiobjetivo.
Tcnicas para comparar 2 Fronteras Pareto
Como seleccionar una solucin de la frontera final
98
Gracias
Contacto
maria.villarreal@cimat.mx
www.cimat.mx/Monterrey
99