Loading presentation...

Present Remotely

Send the link below via email or IM

Copy

Present to your audience

Start remote presentation

  • Invited audience members will follow you as you navigate and present
  • People invited to a presentation do not need a Prezi account
  • This link expires 10 minutes after you close the presentation
  • A maximum of 30 users can follow your presentation
  • Learn more about this feature in our knowledge base article

Do you really want to delete this prezi?

Neither you, nor the coeditors you shared it with will be able to recover it again.

DeleteCancel

Make your likes visible on Facebook?

Connect your Facebook account to Prezi and let your likes appear on your timeline.
You can change this under Settings & Account at any time.

No, thanks

Redes Neuronales

RNA
by

David Figueroa

on 23 September 2012

Comments (0)

Please log in to add your comment.

Report abuse

Transcript of Redes Neuronales

Por: David Figueroa Martínez
Edgar Saucedo San Juan
Ortiz Santiago Leiver Redes Neuronales Artificiales Redes Neuronales Las Redes Neuronales Artificiales (Artificial Neural Networks - ANNs)
se constituyeron inicialmente como una simulación abstracta de los
sistemas nerviosos biológicos formados por un conjunto de unidades
llamadas neuronas o nodos conectados unos con otros. Las conexiones
de estos nodos se asemejan a las dendritas y axones de los sistemas nerviosos biológicos. ¿Qué son las redes neuronales? Warren McCulloch y Walter Pitts desarrollaron en 1943 el primer modelo
de red neuronal en términos de modelo sistemático de actividad nerviosa.
El modelo se caracteriza básicamente por ser binario, donde cada neurona
tiene un escalón o umbral prefijado. Este primer modelo sirvió de ejemplo
para los modelos posteriores de Jhon Von Neumann,
Marvin Minsky, FranK Rosenblatt, etc. HISTORIA Modelos de Tipo Biológico:
Se constituyen en redes que tratan de simular los sistemas neuronales biológicos así como las funciones auditivas o funciones básicas de la visión.

Modelos Dirigidos a Aplicaciones:
No necesariamente guardan similitud con los sistemas biológicos. Sus arquitecturas están fuertemente ligadas a las necesidades de las aplicaciones para las que son diseñados. Se pueden clasificar de acuerdo
a su similitud con la realidad biologica en: El cerebro humano promedio cuenta con aproximadamente mil millones de neuronas.
Asimismo,durante las sinápsis cada una de estas neuronas recibe en promedio
alrededor de 1000 estímulos de entrada y genera alrededor de 1000 estímulos de salida.
En este sentido, la principal ventaja del cerebro humano promedio recae en su conectividad,
interpretada como la capacidad del mismo para realizar diferentes procedimientos lógicos
a la vez.
Sin embargo, su principal debilidad recae en la velocidad de procesamiento de la información,
siendo las computadoras en este sentido, muchísimo más rápidas.
El objetivo de las redes neuronales de tipo biológico se constituye en desarrollar un elemento
sintáctico que permita verificar las hipótesis correspondientes a los demás sistemas biológicos.
Es decir, las redes neuronales de tipo biológico deben recibir y procesar información de otros
sistemas biológicos y devolver una respuesta de acción efectiva REDES NEURONALES DE TIPO BIOLÓGICO Ramas de Extensión o Dendritas – Reciben estímulos de Entrada.
Cuerpo de la Neurona – Procesa estímulos de Entrada.
Axón – Emite estímulos de Salida a las Dendritas de otras neuronas. Estructura de las Neuronas Caracteristicas principales de Neurona En general, una neurona recibe estímulos de entrada mediante las dendritas, estos estímulos son procesados en el cuerpo de la misma para posteriormente emitir un estímulo de salida mediante el axón.

Este último estímulo utiliza diferencias de potencial eléctrico u ondas de corriente las cuales dependen fundamentalmente del potencial de la neurona. Asimismo, la neurona utiliza la función de escalón y la función de activación para determinar la salida que debe emitir de acuerdo a los estímulos recibidos. Interacción entre neuronas: El conocimiento que se posee sobre el sistema nervioso es aún incompleto.
En este sentido, las ANNs no se encuentran muy ligadas a lo que son en sí las redes neuronales
biológicas.
Por lo tanto, se han definido otras funcionalidades y estructuras de conexión distintas a las
establecidas por la biología. Las principales características de las ANNs son las siguientes: Redes Neuronales para Aplicaciones Concretas Auto Organización y Adaptabilidad :

Utilizan algoritmos de aprendizaje adaptativo y auto organización ofreciendo
posibilidades de un procesamiento robusto y adaptable.

Procesado No Lineal y Paralelo:
Aumenta la capacidad de la neurona para poder aproximar y clasificar información haciéndose
más inmune al ruido (datos desordenados).
Estas características juegan un papel importante en las ANNs aplicadas
al procesado de señales.
En este sentido, la red constituida para una aplicación determinada
poseerá una arquitectura concreta de elementos de procesado
adaptativo, masivo y paralelo que se combinan
en estructuras de interconexión de red jerárquica. Clasificación de Redes Neuronales para Aplicaciones Concretas Toda aplicación de redes neuronales consta de dos fases:

la fase de aprendizaje o entrenamiento y la fase de prueba o funcionamiento directo.

En la fase de entrenamiento se usa un conjunto de datos o patrones de entrenamiento para determinar los pesos que definen el modelo neuronal.

Este modelo una vez entrenado, se usará en la fase de funcionamiento directo en la que se procesarán patrones de prueba que constituyen la entrada habitual de la red con el objetivo de analizar las prestaciones definitivas de la misma. Taxonomia de las Redes Neuronales Los pesos de la red neuronal se han obtenido a partir de patrones
representativos de entradas que se denominan patrones de entrenamiento.
Los pesos pueden ser calculados de una vez como adaptados iterativamente
según el tipo de red neuronal y en función de las ecuaciones dinámicas de prueba. Una vez calculados los pesos de la red, se compararán las salidas deseadas con los valores de las neuronas de la última capa para determinar la validez del diseño Fase de Prueba Una de las características más resaltantes de las redes neuronales es su capacidad de aprender. Éstas aprenden por la actualización o variación de los pesos sinápticos que caracterizan a las conexiones. Los pesos son adaptados de acuerdo a la información extraída de los patrones de entrenamiento nuevos que se van presentando. Normalmente, los pesos óptimos se obtienen de la optimización (minimización o maximización) de alguna función de energía Fase de Aprendizaje El entrenamiento de las redes neuronales puede realizarse fuera de línea o en tiempo real. La elección de cualquiera de ellos o ambos implica velocidades de proceso diferentes que afectas a los algoritmos y hardware utilizados. De acuerdo al tipo de entrenamiento, las redes neuronales pueden clasificarse en: Entrenamiento de Neuronas: Las redes neuronales se clasifican comúnmente en términos de sus correspondientes algoritmos o métodos de entrenamiento: redes de pesos fijos, redes no supervisadas, y redes de entrenamiento supervisado. Para las redes de pesos fijos no existe ningún tipo de entrenamiento. REDES NEURONALES SUPERVISADAS Y NO SUPERVISADAS Las redes de entrenamiento supervisado han sido los modelos de redes más desarrolladas desde los inicios de este tipo de diseños. Los datos para el entrenamiento están constituidos por varios pares de patrones de entrenamiento de entrada y de salida. El hecho de conocer la salida implica que el entrenamiento se beneficia de la supervisión de un maestro. Dado un nuevo patrón de entrenamiento (m+1), los pesos serán adaptados de la siguiente forma REDES DE ENTRENAMIENTO SUPERVISADO Diagrama esquematico de sistema de entrenamiento Las Redes de Entrenamiento no Supervisado utilizan datos de entrenamiento consistentes en sólo patrones de entrada. Por lo tanto, la red es entrenada sin el beneficio de un maestro. La red aprende a adaptarse basada en las experiencias recogidas de los patrones de entrenamiento anteriores. REDES DE ENTRENAMIENTO NO SUPERVISADO DIAGRAMA ESQUEMÁTICO DE SISTEMA DE ENTRENAMIENTO La Regla de Aprendizaje de Hebb:
Refuerza el peso que conecta dos nodos que se excitan simultáneamente.

Regla de Aprendizaje Competitiva:

Determina la factibilidad de pertenencia de un patrón a una clase reconocida previamente. En caso de darse esta pertenencia, la inclusión de este nuevo patrón a la clase reconocida cambiará al representante de la misma Reglas de aprendizaje Una neurona suministra un valor a su salida que se propaga a través de la red de conexiones unidireccionales hacia otras células de la red. Asociada a cada conexión hay un peso sináptico denotado por wij, que determina el efecto de la neurona j-ésima sobre la neurona i-ésima. Las entradas a la neurona i-ésima que provienen de las otras neuronas son acumuladas junto con el umbral externo, para dar el valor de red. La forma de hacerlo está determinada matemáticamente por la función de base f para dar un valor de activación.

En este sentido, la salida final se puede expresar como una función de la entrada y pesos Las redes de conexión son matemáticamente representadas por la función de base u (w, x) donde w es la matriz de pesos y x el vector de entrada. FUNCIONES DE BASE Y ACTIVACIÓN Función Lineal de Base

Función de primer orden o de tipo hiperplano. El valor de red es una combinación lineal de las entradas Formas típicas de función de base Función Lineal de Base

Función de primer orden o de tipo hiperplano. El valor de red es una combinación lineal de las entradas La función de activación se encarga de transforma el valor de red expresado por la función de base u (w, x).

Las funciones de activación más comunes son: FUNCIÓN DE ACTIVACIÓN O FUNCIÓN DE NEURONA ESTRUCTURAS DE LAS REDES NEURONALES ARTIFICIALES Inteligencia Artificial Los aspectos más característicos de las estructuras son:
La estructura de conexión.
El tamaño de la red .
La elección entre ACON (All Class in One Network -Todas las Clases en Una Red) y OCON (One Class in One Network - Una Clase en Una Red). ESTRUCTURAS DE CONEXIÓN Una red neuronal está determinada por la neurona y la matriz de pesos. El comportamiento de la red depende en gran medida del comportamiento de la matriz de pesos. Hay tres tipos de capas de neuronas: la de entrada, las ocultas y la de salida. Tipos de red de pesos de conexión:
Hacia delante, hacia atrás, lateral y de retardo Conexiones hacia delante:
Los datos de las neuronas de una capa inferior son propagados hacia las neuronas de la capa superior por medio de las redes de conexiones hacia adelante Conexiones hacia atrás:
Los datos de las neuronas de una capa superior son propagados hacia las neuronas de la capa inferior por medio de las redes de conexiones hacia adelante Conexiones con retardo:
los elementos de retardo se incorporan en las conexiones para implementar modelos dinámicos y temporales, es decir, modelos que precisan de memoria TAMAÑO DE LAS REDES NEURONALES El Tamaño de las Redes depende del Número de Capas y del Número de Neuronas Ocultas por Capa.

Número de capas: En una Red Multicapa, hay una o más capas de neuronas ocultas entre la entrada y la salida. El número de capas se cuenta a menudo a partir del número de capas de pesos en vez de las capas de neuronas). -
Número de unidades ocultas: El Número de Unidades Ocultas está directamente relacionado con las capacidades de la red. Para que el comportamiento de la red sea correcto se tiene que determinar apropiadamente el número de neuronas de la capa oculta Muchas Gracias por su atención.
Full transcript