RAZONAMIENTO APROXIMADO

(1)

RAZONAMIENTO APROXIMADO

EN LA INTELIGENCIA ARTIFICIAL

Ingeniería Electrónica

Ana Casali – Hernán Gonzales TIA - IE

(2)

REALIDAD

El conocimiento que necesitamos para desarrollar un Sistema basado en

Conocimiento tiene muchas veces las siguientes características:

NO ES DEL TODO CONFIABLE

INCOMPLETO CONTRADICTORIO IMPRECISO

(3)

Causas de inexactitud

Generalmente no es del todo confiable (falta de evidencias, excepciones)

Suele ser incompleta a la hora de tomar decisiones (faltan datos provenientes de mediciones, análisis)

Diferentes fuentes pueden ser conflictivas, redundantes, subsumidas

El lenguaje usado para transmitirla es inherentemente impreciso, vago

La información

(4)

REALIDAD

Las personas con esas fuentes de conocimiento, dotadas de esas

características, razonamos y muchas veces concluímos …

CAPACIDAD DE RAZONAR CAPACIDAD DE RAZONAR

APROXIMADAMENTE APROXIMADAMENTE

(5)

Como modelizamos estas Como modelizamos estas características del

características del conocimiento conocimiento , , de de modo de poder:

modo de poder:

PROBLEMA

•UTILIZARLOUTILIZARLO

•REPRESENTARLOREPRESENTARLO

(6)

REALIDAD

La lógica clásica es un buen modelo para formalizar cualquier

razonamiento basado en información certera (V o F)

NECESITAMOS OTROS FORMALISMOS NECESITAMOS OTROS FORMALISMOS

(7)

Ejemplos

Como representar en una BC ...

Si el paciente tiene el Signo1 y el Signo2 entonces el diagnóstico en el 75% de los casos es D1 y en el 40% de los casos es D2 Y si se tiene…

Y si se tiene…

Un paciente que evidencia Signo1 en un 80% y Signo2 en un 55%

QUE SE PUEDE INFERIR ???

(8)

Ejemplos

Si el paciente tiene el Signo1 y el Signo2 entonces el diagnóstico en la mayoría de los casos es D1 y en algunos casos es D2 Y si se tiene…

Y si se tiene…

Un paciente que evidencia totalmente el Signo1 y parcialmente el Signo2.

(9)

Si la humedad es alta, la presión es baja y está muy nublado, entonces lloverá.

Que la humedad es del 75%, la presión es 1002hp y esta nublado.

Y si se tiene…

Ejemplos

(10)

Si la humedad es alta, la presión es baja y está muy nublado, entonces lloverá.

Que la humedad es un poco alta, la presión es baja y esta nublado.

Y si se tiene…

Ejemplos

(11)

INGENIERIA DEL CONOCIMIENTO INGENIERIA DEL CONOCIMIENTO

Tomar decisiones y realizar procesos de razonamiento cuando el conocimiento

del dominio involucrado tiene distintas características, puede ser:

INCIERTO IMPRECISO INCOMPLETO NO-MONOTONO PROBLEMA

PROBLEMA

(12)

CONOCIMIENTO INCIERTO

El conocimiento se expresa mediante predicados precisos pero no podemos establecer el valor de verdad de la expresión

Ejemplos^:

•Es posible que mañana llueva Mañana llueve CF

•Creo que el auto era rojo El auto es rojo CF

(13)

CONOCIMIENTO INCIERTO

Cuando no podemos establecer la verdad o falsedad de la información

Debemos evaluar la : PROBABILIDAD POSIBILIDAD

NECESIDAD/PLAUSIBILIDAD GRADO DE CERTEZA...

De que la información sea verdadera

MEDIDA DE (EVENTO) = VALOR / VALORES MEDIDA DE (EVENTO) = VALOR / VALORES INCERTIDUMBRE

INCERTIDUMBRE

bivaluado

(14)

CONOCIMIENTO IMPRECISO

El conocimiento cuenta con predicados o cuantificadores vagos (no precisos)

Ejemplos:

•Pedro tiene entre 20 y 25 años.

•Juan es joven

•Mucha gente juega al fútbol

•El espectáculo es para gente grande.

(15)

CONOCIMIENTO IMPRECISO

Si la variable X toma valores en S

•Proposiciones precisas {p: ¨X es s¨ / s ∈ S }

•Proposiciones imprecisas {p: ¨X es r¨ / r ⊂ S }

* Imprecisa - no borrosa Si r es un conjunto clásico

* Imprecisa - borrosa (fuzzy)

Si r es un conjunto borroso (fuzzy)

(16)

CONOCIMIENTO INCOMPLETO

Se debe tomar decisiones a partir de información incompleta o parcial.

Esto se suele manejar a través de supuestos o valores por defecto.

Ejemplo:

Si el paciente tiene S1, S2 y S3 entonces tiene una infección a Bacteria

S3 ???

(17)

RAZONAMIENTO APROXIMADO (RA)

Trata como

 REPRESENTAR

 COMBINAR y

 REALIZAR INFERENCIAS

con conocimiento impreciso y/o incierto

(18)

RA: Esquema general en sistemas basados en reglas de producción

Hipótesis :

• Si X es A entonces Y es B (λ)

• X es A*

Conclusión

• Y es B* ???

REGLAS IMPRECISAS: A y/ o B son imprecisos REGLAS IMPRECISAS: A y/ o B son imprecisos REGLA INCIERTA:

REGLA INCIERTA: λ Grado de certeza Grado de certeza REGLAS HIBRIDAS: Problema complejo REGLAS HIBRIDAS: Problema complejo

(19)

RA: Distintos modelos

 MODELOS PROBABILISTICOS

 MODELO EVIDENCIAL

 MODELO POSIBILISTICO

• Todos tratan la incertidumbre en un sistema de producción

• Sólo el modelo posibilístico puede tratar la imprecisión.

(20)

MODELOS MODELOS

PROBABILISTICOS

(21)

Probabilidad - Axiomas

• P: PROP → [0,1]

• P(V) = 1 y P(F) = 0

• P(A ∨ B) = P(A)+P(B)- P(A∧B)

• Propiedad P( ¬A) = 1- P(A)

(22)

Probabilidad - Conceptos

• P: PROP → [0,1]

• Probabilidad a priori o incondicional

– P(A) o P(X=S)

• Variables aleatorias: X, Y

• Dominio: {x₁, x₂ , ..., x_n} exhaustivo y excluyente

• Probabilidad condicional:

– P(A/B) P(X/Y) tabla valores P(X= x_i /Y= y_k) – P(A/B) = P(A∧B) / P(B)

(23)

Distribución de Probabilidad Conjunta

• P(Caries ∨ DolorD) = 0.04 + 0.06 + 0.01= 0.11

• P (Caries / DolorD) =

= P(Caries ∧ DolorD) / P(DolorD)=

= 0.04 / 0.04+0.01 = 0.8

Problema exponencial con la cantidad de variables

DolorD ¬DolorD

Caries 0.04 0.06

¬Caries

0.01 0.89

(24)

La regla de Bayes

• P(B/A) = P(A/B)*P(B) / P(A)

Es la base de todos los sistemas de

inferencia probabilística

(25)

RA: Modelos probabilísticos

 Modelo utilizado en Prospector (Duda-Hart´ 81)

 Modelo Factores de Certeza utilizado en Mycin (Shortliffe- Buchanan´ 75-84 )

 Redes Bayesianas (Redes de

Creencias - Pearl´86)

(26)

REDES BAYESIANAS

(27)

RA: Redes Bayesianas

Para representar la dependencia que existe entre determinadas variables, en

aplicaciones complejas, se utiliza una estructura de datos conocida como

Red Bayesiana, Red de creencias, Red Probabilística o Red causal^.

Esta estructura sirve para especificar de manera concisa la distribución de

probabilidad conjunta.

(28)

RA: Redes Bayesianas

 REDES DE RELACIONES PROBABILISTICAS ENTRE PROPOSICIONES (variables aleatorias)

RELACIONADAS SEMANTICAMENTE (relaciones causales)

REDES BAYESIANAS

NODOS PROPOSICIONES (variable o conjunto de variables)

ARCOS RELACIONES CAUSALES

(X ejerce influencia directa sobre Y)

PESO DE ARCOS PROBABILIDAD CONDICIONAL (Tabla de Probabilidad Condicional)

(29)

RA: Redes Bayesianas

 Hay que establecer:

Topología de la red

A los expertos les resulta fácil determinar las dependencias entre conceptos

Probabilidades condicionales

Tarea más compleja

(datos estadísticos, subjetivos, utilizar otras técnicas)

(30)

RA: Redes Bayesianas

 Topología de la red:

Podría considerarse como una base de

conocimientos abstractos, válida en una gran cantidad de escenarios diversos

Representa la estructura general de los procesos causales del dominio

(31)

RA: Redes Bayesianas

 La incertidumbre inherente a los distintos enlaces (relaciones causales) representan las situaciones no representadas explícitamente.

Las probabilidades resumen un conjunto de posibles circunstancias en que pueden ser verdaderas (falsas) las variables de un nodo.

(32)

RA: Redes Bayesianas

EJEMPLO

A

BB

DD

CC

EE

Del grafo, que representa las relaciones causales, se puede sacar la distribución conjunta:

p ( A, B, C, D, E ) = P (E / C) P (D / A,C) P (C / A) P(B / A) P(A)

(33)

RA: Redes Bayesianas

 En general, es posible calcular cada una de las entradas de la distribución conjunta

desde la información de la red

P(x1, …, xn) =

P(x1, …, xn) = ΠΠ P(xi / Padres (xi)) P(xi / Padres (xi)) i= 1,n

i= 1,n

(34)

RA: Redes Bayesianas

EJEMPLO (Norvig &Russell / Judea Pearl)

Una casa tiene una alarma que se activa ante intento de robo, pero puede activarse ante temblores (el escenario es en Los Angeles).

Dos vecinos, Juan y María se han ofrecido a

llamar al dueño de la casa al trabajo, si escuchan la alarma. Juan a veces confunde el sonido de la alarma con otros sonidos, pero llama de todos modos y María a veces no la escucha por otras fuentes de sonido que tiene encendida (TV,

Música).

(35)

RA: Redes Bayesianas

 EJEMPLO

Objetivo: Realizar distintas de inferencias

Con la evidencia de quien ha llamado y quien no

Cual es la Probabilidad de robo????

P(R/¬J,M) P(R/¬J,M)

(36)

RA: Redes Bayesianas

EJEMPLO

Alarma Alarma

RoboRobo TemblorTemblor

María-llama María-llama Juan-llama

Juan-llama

TOPOLOGIA DE LA RED TOPOLOGIA DE LA RED

(37)

EJEMPLO

Alarma Alarma

RoboRobo TemblorTemblor

María-llama María-llama Juan-llama

Juan-llama

R T P(A/ R,T)

V V 0.950

V F 0.950

F V 0.290

F F 0.001

A P(J/A)

V 0.90

F 0.05

A P(M/A)

V 0.70

F 0.01

P(R) 0.001

P(T) 0.002

(38)

RA: Redes Bayesianas

 EJEMPLO (Judea Pearl)

Como ejemplo podemos calcular la probabilidad del evento Como ejemplo podemos calcular la probabilidad del evento de que suene la alarma, sin que se haya producido robo ni de que suene la alarma, sin que se haya producido robo ni temblor, habiendo llamado Juan solamente:

temblor, habiendo llamado Juan solamente:

P(J P(J ∧∧ ¬¬M M ∧∧ A A ∧∧ ¬¬R R ∧¬∧¬T ) = P(J/A) P(T ) = P(J/A) P(¬¬M/A) M/A) P(A/

P(A/ ¬¬R R ∧¬∧¬T) P(T) P(¬¬R) P(R) P(¬¬T)T)

 Si la Red Bayesiana es una representación de la Si la Red Bayesiana es una representación de la

probabilidad conjunta, sirve para responder consultas del probabilidad conjunta, sirve para responder consultas del dominio: cuál es la probabilidad de que haya robo si

dominio: cuál es la probabilidad de que haya robo si Juan y María llaman???

Juan y María llaman??? P(R / J P(R / J ∧∧ M ) ??? M ) ???

(39)

RA: Redes Bayesianas

 Si la Red Bayesiana es una representación de la Si la Red Bayesiana es una representación de la

probabilidad conjunta, sirve para responder consultas del probabilidad conjunta, sirve para responder consultas del dominio:

dominio:

cuál es la probabilidad de que haya robo si Juan llama? cuál es la probabilidad de que haya robo si Juan llama?

P(R / J) ???P(R / J) ???

cuál es la probabilidad de que haya robo si Juan y cuál es la probabilidad de que haya robo si Juan y María llaman?

María llaman? P(R / J P(R / J ∧∧ M ) ??? M ) ???

(40)

Belief Networks as Rule Systems

Burglary

Burglary (0.01)(0.01) ←← Earthquake

Earthquake (0.02)(0.02) ←← Alarm

Alarm (0.95)(0.95) ← Burglary ← Burglary ∧∧ Earthquake Earthquake Alarm

Alarm (0.94)(0.94) ← Burglary ← Burglary ∧∧ ¬¬EarthquakeEarthquake Alarm

Alarm (0.29)(0.29) ← ← ¬¬Burglary Burglary ∧∧ Earthquake Earthquake Alarm

Alarm (0.001)(0.001) ← ← ¬¬Burglary Burglary ∧∧ ¬Earthquake¬Earthquake

JohnCalls

JohnCalls (0.90)(0.90) ← Alarm← Alarm JohnCalls

JohnCalls (0.05)(0.05) ← ← ¬¬AlarmAlarm MaryCalls

MaryCalls (0.70)(0.70) ← Alarm← Alarm MaryCalls

MaryCalls (0.01)(0.01) ← ← ¬¬AlarmAlarm

Doesn’t add anything …but shows that you need Doesn’t add anything …but shows that you need many rules

many rules to represent the full Bayesian Net to represent the full Bayesian Net

In many cases you may not have all this information!

burglary

burglary earthquakeearthquake alarm

alarm

MaryCalls MaryCalls JohnCalls

JohnCalls

P(E)P(E) .002.002 P(B)P(B)

.001.001

A P(M) A P(M) T .70 T .70 F .01 F .01 A P(J)

A P(J) T .90 T .90 F .05 F .05

B E P(A) B E P(A) T T .95 T T .95 T F .94 T F .94 F T .29 F T .29 F F .001 F F .001

(41)

An application: GENINFER

• A couple is expecting a child.

• The (expecting) mother has a hemophiliac risk

• determine the probability of hemophiliac for the child

• Hemophiliac disease is genetically determined:

• Due to a defected X chromosome

mother

mother fatherfather Chromosomes:

Chromosomes: X XX X X yX y child

child

X X XX X yX y X X XX X yX y

carrier

carrier hemophiliachemophiliac

(42)

The Bayesian Network:

mother_carrier

mother_carrier father_hemophfather_hemoph

child_recessive child_recessive

P(M)P(M) .00008

.00008 P(F)P(F)

.00008 .00008 M F P(C)

M F P(C) T T .75 T T .75 T F .50 T F .50 F T .50 F T .50 F F 0 F F 0

A family tree:

okok

okok HH

??

father father mother

mother

grandfather grandfather great grandfather great grandfather great grandmother

great grandmother

grandmother grandmother great uncle

great uncle

CC

??

(43)

Expanding to full network:

GGMGGM GGFGGF

GMGM GFGF GUGU

MM FF

CC

P(GGM) P(GGM)

11 P(GGF)P(GGF)

00

P(GF)P(GF) 00

P(F) P(F) 00 P(GU)

P(GU) 11

Tempting solution:

but these are not prior but these are not prior probabilities

probabilities

But in fact remains correct But in fact remains correct

if you interpret events differently if you interpret events differently

(44)

Expanding to full network (2)

GGMGGM GGFGGF

GMGM GFGF GUGU

MM FF

CC

P(GGM) P(GGM) .00008

.00008 P(GGF)P(GGF)

.00008 .00008

P(GF)P(GF) .00008 .00008

P(F) P(F) .00008 .00008 M F P(C)

M F P(C) T T .75 T T .75 T F .50 T F .50 F T .50 F T .50 F F 0 F F 0

All dependencies All dependencies are based on:

are based on:

Compute: P(GGM| GU

Compute: P(GGM| GU ∧∧ ¬GGF) = 1 ¬GGF) = 1 Compute: P(GM| GGM

Compute: P(GM| GGM ∧ ∧ ¬GGF) = 0.5 , etc. ¬GGF) = 0.5 , etc.

0.50.5

0.250.25

0.125 0.125

(45)

And if there are uncles?

GGMGGM GGFGGF

GMGM GFGF GUGU

MM FF

CC U1U1 U2U2

Recompute: P(GM| GGM

Recompute: P(GM| GGM ∧ ∧ ¬GGF ¬GGF ∧ ∧ ¬U1 ¬U1 ∧ ∧ ¬U2) ¬U2) Propagate the information to Mother and Child Propagate the information to Mother and Child

0.50.5

0.028 0.028

(46)

And brothers?

GGMGGM GGFGGF

GMGM GFGF GUGU

MM FF

CC U1U1 U2U2

B1B1 B2B2 B3B3

Probability under additional condition of 3 healthy bothers:

further decrease further decrease

0.007 0.007

(47)

RA: Redes Bayesianas

Herramientas : JavaBayes

http://www.cs.cmu.edu/~javabayes/

The JavaBayes applet

Download JavaBayes

(48)

MODELOS PROBABILISTICOS MODELOS PROBABILISTICOS

Problema de las asignaciones de probabilidad (estadísticas o evaluaciones subjetivas?)

Las Redes Bayesianas son modelos

probabilísticos que permite la representación explícita de las dependencias del dominio en la red.

Cómo construirlas??? Hay sistemas que generan RB a partir de datos