Loading presentation...

Present Remotely

Send the link below via email or IM

Copy

Present to your audience

Start remote presentation

  • Invited audience members will follow you as you navigate and present
  • People invited to a presentation do not need a Prezi account
  • This link expires 10 minutes after you close the presentation
  • A maximum of 30 users can follow your presentation
  • Learn more about this feature in our knowledge base article

Do you really want to delete this prezi?

Neither you, nor the coeditors you shared it with will be able to recover it again.

DeleteCancel

Make your likes visible on Facebook?

Connect your Facebook account to Prezi and let your likes appear on your timeline.
You can change this under Settings & Account at any time.

No, thanks

Tesis

Presentacion
by

Alejandro Mousist

on 17 March 2015

Comments (0)

Please log in to add your comment.

Report abuse

Transcript of Tesis

Búsqueda Concurrente de Parámetros Arquitectónicos
de Redes Neuronales Artificiales Mediante
Subpoblaciones Evolutivas
Utiliza representación fenotípica
No se realizan cruzas
Selección μ + μ
Eficiente en búsquedas globales
Modelo de Islas
Especiación Alopátrica
Parámetros Arquitectónicos de Redes Neuronales Artificiales

Tipo de neuronas
Cantidad de capas (Si aplica)
Cantidad de neuronas por capa (Si aplica)
Cantidad y tipo de conexiones entre neuronas
Funciones de activación
Funciones de transferencia
Otros Parámetros
Se basan en el descenso del gradiente --> Pueden estancarse en extremos locales.
Criterios para añadir/eliminar nodos --> depende del tipo de red y del problema a resolver.
Efectivos para realizar búsquedas globales
Diferentes conjuntos de pesos para una arquitectura pueden producir diferentes resultados.
Diferentes algoritmos de entrenamiento pueden producir resultados diferentes a partir de un mismo conjunto de pesos iniciales.
Con algunos algoritmos de entrenamiento externo:
Estancamiento en extremos relativos.
Se exigen funciones de activación continuas y derivables.
¿¿Que significa??
Arquitectura
Pesos
Pesos
Arquitectura
Búsqueda
global
Búsqueda
local
Evolución de Pesos y Arquitecturas en simultáneo
Optimización de
múltiples objetivos
en simultáneo.
Optimización de un
único objetivo
.
Función objetivo 1 = f(arquitectura)
Función objetivo 2 = f(pesos)
Función objetivo = f(arquitectura,pesos)
Búsquedas Globales y Locales
Los algoritmos evolutivos son efectivos para búsquedas globales
Y en búsquedas locales??
Al realizar búsquedas locales se debe cambiar el comportamiento.
Búsqueda Global
Búsqueda Local
(Evolución de arquitecturas)
(Evolución de pesos)
Simulación
En zonas cercanas a un máximo relativo el algoritmo debe realizar una búsqueda local (ajuste fino).
Al realizar una búsqueda local se reduce la capacidad de búsqueda global del algoritmo.
Nuevos individuos surgidos a partir de un comportamiento deprimido de búsqueda global no logran competir con individuos en fase de convergencia.
Perdida de la capacidad de búsqueda global
EL Problema...
Solución Propuesta
Agregado de
operador de macromutaciones

Evolución concurrente
de poblaciones como protección de nuevas especies.
Programación Evolutiva
como Algoritmo Evolutivo
Programación Evolutiva

Inicialmente para Algoritmos Genéticos
Basado en:
*
Especiación Alopátrica
*
Estasis
Umbral probabilístico
para cambio de comportamiento (búsqueda global - búsqueda local)
Operador de
macromutaciones
Simulación
Pruebas sin Mejoras
Pruebas con Mejoras
Algoritmo estancado
Búsqueda continua
Búsqueda Global
Búsqueda Local
(Evolución de arquitecturas)
(Evolución de pesos)
GRACIAS!
Distribución en nodos de procesamiento.
Agregado de capacidad de generalización como aptitud de las redes.
En el caso del prototipo:
* Optimización de nuevos parámetros arquitectónicos.
(Ej: funciones de transferencias y funciones de evaluación)

* Evolución de nuevos tipos de redes neuronales.
Trabajo Futuro
Bajo porcentaje de error.
Búsqueda continua de nuevas soluciones aun en etapa de convergencia.
Mejoras de rendimiento en la búsqueda por utilización de concurrencia.
Conclusiones
Mutación estándar
Macromutación
Macromutaciónes
Full transcript