Loading presentation...

Present Remotely

Send the link below via email or IM

Copy

Present to your audience

Start remote presentation

  • Invited audience members will follow you as you navigate and present
  • People invited to a presentation do not need a Prezi account
  • This link expires 10 minutes after you close the presentation
  • A maximum of 30 users can follow your presentation
  • Learn more about this feature in our knowledge base article

Do you really want to delete this prezi?

Neither you, nor the coeditors you shared it with will be able to recover it again.

DeleteCancel

Make your likes visible on Facebook?

Connect your Facebook account to Prezi and let your likes appear on your timeline.
You can change this under Settings & Account at any time.

No, thanks

Arboles de Decisión

No description
by

ERIKA TORRES

on 6 July 2013

Comments (0)

Please log in to add your comment.

Report abuse

Transcript of Arboles de Decisión

ÁRBOLES DE DECISIÓN

INTRODUCCIÓN
Decisiones programadas
Abordan temas recurrentes

Decisiones no programadas
Abordan situaciones poco frecuentes
FACULTAD DE INGENIERÍA Y NEGOCIOS
ESCUELA DE INGENIERÍA
ACI-710 FUNDAMENTOS DE SISTEMA INTELIGENTE
Integrantes:
Rodrigo Cofré
Pablo Guzmán
Erika Torres

Docente: Erwin S. Fischer Angulo
INTRODUCCIÓN
Según situaciones ambientes:


•Ambiente de Certeza

•Ambiente de Incertidumbre

Se distinguen 3 periodos importantes en la historia:

Técnicas de modelado neuronal y de decisión

Aprendizaje orientado a conceptos simbólicos

Sistemas de aprendizaje de conocimiento con exploración de varias areas de aprendizaje
HISTORIA
HISTORIA

Se distinguen 3 periodos importantes
Técnicas de modelado neuronal y de decisión
iones.
Representa el periodo de investigación más reciente, comenzando a partir de mediado de los setenta.

Se trabaja en aprendizaje a partir de instrucciones por analogía, conceptos y clasificaciones.
El fundamento de estos trabajos fue hecho en la década de los 40 por Rashevsky y sus seguidores del área de biofísica.
Este paradigma comenzó a emerger en los años 60, utilizaba estructuras lógicas o de grafos en vez de métodos numéricos o estadísticos.
Aprendizaje orientado a conceptos simbólicos
Sistemas de aprendizaje de conocimiento con exploración de varias tareas de aprendizaje
Técnicas de modelado neuronal y de decisión
Aprendizaje orientado a conceptos simbólicos
Sistemas de aprendizaje de conocimiento con exploración de varias tareas de aprendizaje
ÁRBOLES DE DECISIÓN
APRENDIZAJE POR INDUCCIÓN
Los árboles de decisión son uno de los más usados.
Los árboles de decisión son una técnica de minería de datos (Data Mining, DM) prepara, sondea y explora los datos para sacar la información y tomar la decisión más “acertada”

Las técnicas de la minería de datos provienen de la Inteligencia Artificial y de la Estadística.
Técnicas
Predictivas
Descriptivas
Auxiliares
Dichas técnicas no son más que algoritmos de aprendizaje de árboles de decisión
ID3 - C4.5 - ASSISTANT
Dada una base de datos construye diagramas lógicos para representar y categorizar una serie de condiciones
Entradas
(Objeto o situación)
Respuesta
(Decisión)
•Alternativas de decisión en cada punto de decisión.

•Eventos que pueden ocurrir como resultado de cada alternativa de decisión.

•Probabilidad de que ocurran eventos posibles como resultado de las decisiones.

•Resultados de las posibles interacciones entre las alternativas de decisión y los eventos.
Todos los arboles de decisión requieren las siguientes cuatro componentes:
Nodo
Decisión:

test sobre valor
Probabilidad:

evento aleatorio
Terminal:

valor variable
Rama:

caminos posibles
Toma de decisiones
TIPOS DE ARBOLES
Árbol de regresión
Agrupamiento de las K medias

Árbol clasificación
y regresión

Bosque de árboles
de decisión
Árbol de mejora
Árbol de clasificación
(situación y resultado )
(Probabilidad y estadística)
(cálculos de bienes raíces)
(genética)
(ciencia)
(contabilidad y matemáticas)
Árboles de juego
Sistemas expertos
Búsqueda binaria
AMBITOS DE APLICACIÓN
Estructura básica
SE
Base de conocimientos (BC)


Base de hechos
(Memoria de trabajo)


Motor de inferencia


Módulos de justificación


Interfaz de usuario
Basados en reglas previamente establecidas.



Basados en casos o CBR (Case Based Reasoning).



Basados en redes bayesianas.
Tipos de SE
Aplicando reglas heurísticas apoyadas en la lógica difusa para su evaluación





Aplicando el razonamiento basado en casos la solución a un problema se adapta al nuevo.




Aplicando redes bayesianas, basadas en estadística y el teorema de Bayes.

CONCLUSIONES
Ventajas
Desventajas
ALGORITMOS
ID3 C4.5 C5.0
Características: Recursividad
No permite retroceso

Desarrollado por J. Ross Quinlan en 1983. Pertenece a la familia TDIDT (Top - Down Induction of Decision Trees).

ID3 busca de manera incompleta en un espacio de búsqueda completo. El sesgo es consecuencia únicamente del método de búsqueda. El espacio de hipótesis no introduce ningún sesgo. Llamamos a este tipo de sesgo preferencial, ya que se debe a la preferencia de unas hipótesis sobre otras.

El conjunto de ejemplos deberá estar conformado por una serie de tuplas de valores, cada uno de ellos denominados atributos, en el que uno de ellos, (el atributo a clasificar) es el objetivo, el cual es de tipo binario (positivo o negativo, sí o no, válido o inválido, etc.).

ID3 (Induction Decision Trees)
Algoritmo ID3
Id3 (Ejemplos, Atributo-objetivo, Atributos)

Si todos los ejemplos son positivos devolver un nodo positivo
Si todos los ejemplos son negativos devolver un nodo negativo
Si Atributos está vacío devolver el voto mayoritario del valor del atributo objetivo en Ejemplos
En otro caso
Sea A Atributo
el MEJOR de atributos
Para cada v valor del atributo hacer
Sea Ejemplos (v) el subconjunto de ejemplos cuyo valor de atributo A es v
Si Ejemplos (v) está vacío devolver un nodo con el voto mayoritario del
Atributo objetivo de Ejemplos
Sino Devolver Id3 (Ejemplos (v), Atributo-objetivo, Atributos/ {A})
Conceptos ID3
Entropía:


Es la medida de la incertidumbre que hay en un sistema.
Es decir, ante una determinada situación, la probabilidad de que ocurra cada uno de los posibles resultados.
Ganancia:

Es la diferencia entre la entropía de un nodo y la de uno de sus descendientes.
En el fondo no es más que una heurística, que como veremos nos servirá para la elección del mejor atributo en cada nodo.

Ganancia(A) = I(p,n) - E(A)
ID3 - Jugar Tenis
Ejemplo Jugar Tenis
FIN
Preguntas??
•¿Que es un árbol de decisión?
•Nombre los tipos de AD
•Nombre los elementos de los AD
•Nombre los principales Algoritmos usados en AD
•Mencione Ventajas de los AD
•Mencione Desventajas de los AD

•¿Que es un árbol de decisión?
•Nombre los tipos de AD
•Nombre los elementos de los AD
•Nombre los principales Algoritmos usados en AD
•Mencione Ventajas de los AD
•Mencione Desventajas de los AD
Full transcript