SlideShare uma empresa Scribd logo

Introdução à Aprendizagem de Máquina

Fernando Palma, profile picture
Fernando Palma

O documento apresenta uma introdução aos conceitos básicos de aprendizagem de máquina, incluindo classificação de dados, árvores de decisão e algoritmos. Aborda tópicos como processos de classificação, características de bons classificadores, métodos de classificação e algoritmos, conceitos de árvores de decisão e algoritmos para geração de árvores.

Tecnologia
1 de 70
Baixado 1.389 vezes
1
2
3
4
5
6
7
8
9
10
11
Mais lidos
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
Mais lidos
28
29
30
31
32
Mais lidos
33
34
35
36
37
38
39
40
41
42
43
44
45
46
47
48
49
50
51
52
53
54
55
56
57
58
59
60
61
62
63
64
65
66
67
68
69
70
Introdução à Aprendizagem de Máquina Stanley R. M. Oliveira Aprendizado de Máquina (Machine Learning)
2 Resumo da Aula Sistemas Híbridos Inteligentes. Aprendizado de Máquina: Conceitos. Hierarquiza do aprendizado. Paradigmas. Classificação de Dados: Processo de classificação. Características de um bom classificador. Principais métodos de classificação. Principais algoritmos existentes. Árvores de Decisão: Conceitos básicos. Algoritmos mais conhecidos. Mecanismos de poda. Escolha do atributo “split”.
3 Introdução Aquisição do conhecimento Aprendizado de máquina Redes Neurais Lógica FuzzyAlgoritmos Genéticos Mineração de Dados Mineração de Textos Sistemas Especialistas Sistemas Inteligentes Híbridos Técnicas-chave em Inteligência Artificial (IA) Mineração de Dados Conhecimento
4 Introdução Árvore de Decisão Redes Neurais Lógica Fuzzy Algoritmos genéticos Clusterização Associação Classificação MD + IA Integração Redes bayesianas Classificação
5 Aprendizado de Máquina Conceitos de aprendizado de máquina Sistemas de IA Armazenar conhecimento ⇒ Representação Aplicar conhecimento para resolver problemas Raciocínio (mecanismo de inferência) Adquirir novos conhecimentos ⇒ Aprendizagem
6 Aprendizado de Máquina ... O que é Aprendizado de Máquina? É uma área de IA cujo objetivo é o desenvolvimento de técnicas computacionais sobre o aprendizado bem como a construção de sistemas capazes de adquirir conhecimento de forma automática. Um sistema de aprendizado é um programa de computador que toma decisões baseado em experiências acumuladas por meio de solução bem sucedida de problemas anteriores. É uma ferramenta poderosa para aquisição automática de conhecimento, entretanto, não existe um único algoritmo que apresente melhor desempenho para todos problemas.
7 Indução: é a forma de inferência lógica que permite obter conclusões a partir de um conjunto de exemplos. Na indução, um conceito é aprendido efetuando-se inferência indutiva sobre os exemplos apresentados (cautela na escolha de exemplos). Dedução: Humanos usam raciocínio dedutivo para deduzir nova informação a partir de informação relacionada logicamente. Aprendizado de Máquina ...
8 Hierarquia do aprendizado Aprendizado Indutivo Aprendizado Não-Supervisionado Aprendizado Supervisionado Classificação Regressão Aprendizado de Máquina ...
9 Classificação Versus Clusterização Aprendizado supervisionado (classificação) Supervisão: As observações no conjunto de treinamento são acompanhadas por “labels” indicando a classe a que elas pertencem. Novas ocorrências são classificadas com base no conjunto de treinamento. Aprendizado não-supervisionado (clusterização) Não existe classe pré-definida para nenhum dos atributos. Um conjunto de observações é dado com o propósito de se estabelecer a existência das classes ou clusters.
10 Hierarquia do aprendizado Aprendizado Indutivo: É efetuado a partir de exemplos externos ao sistema de aprendizado. Aprendizado Supervisionado: Construir um classificador (indutor) que possa determinar a classe de novos exemplos a partir de exemplos treinamento com classe rotulada. Classificação: Rótulos para valores discretos. Regressão: Rótulos para valores contínuos. Aprendizado Não-Supervisionado: O indutor analisa os exemplos e tenta determinar se alguns deles podem ser agrupados de alguma maneira, formando agrupamentos ou clusters. Aprendizado de Máquina ...
11 Hierarquia do aprendizado Processo de Classificação Especificação do problema X1 x2 ... Xm Y T1 T2 . . . Tn x11 x12 ... x1m x21 x22 ... x2m . . . . . . xn1 xn2 xnm y1 y2 . . . yn Dados brutos Aprendizado de máquina ClassificadorAtributos Meta Especialista Avaliação Conhecimento do domínio Conhecimento do domínio Aprendizado de Máquina ...
12 Paradigmas do aprendizado: Simbólico: Buscam aprender construindo representações simbólicas (expressão lógica, árvores de decisão regras). Estatístico: Buscam métodos estatísticos (Aprendizado bayesiano) Baseado em Exemplos: Sistemas lazy (RBC, Nearest Neighboors). Conexionista: Modelos inspirados no modelo biológico do sistema nervoso (Redes Neurais). Evolutivo: Teoria de Darwin (Algoritmos Genéticos). Aprendizado de Máquina ...
13 Algumas Definições em AM Conjunto de exemplos: é um conjunto de exemplos contendo valores de atributos bem como a classe associada. X1 x2 ... Xm Y T1 T2 . . . Tn x11 x12 ... x1m x21 x22 ... x2m . . . . . . xn1 xn2 xnm y1 y2 . . . yn Atributos Classe Indutor Hipótese Descrição de conceito Classificador Aprendizado de Máquina: Definições
14 Algumas Definições em AM Indutor: programa de aprendizado ou algoritmo de indução que visa extrair um bom classificador a partir de um conjunto de exemplos rotulados. Exemplo: caso, dado ou registro. Atributo: descreve uma característica ou aspecto de um exemplo. Classe (Atributo-Meta): atributo especial no qual se pretende aprender a fazer previsões a respeito. Aprendizado de Máquina: Definições
15 Algumas Definições em AM Bias: qualquer preferência de uma hipótese sobre a outra. Modo de aprendizado: todo conjunto de treinamento presente no aprendizado (não incremental). quando novos exemplos de treinamento são adicionados (incremental). Aprendizado de Máquina: Definições
16 Erro ( err(h) ) Medida de desempenho de um Classificador. Considerando E = 1 se a expressão for verdadeira 0, caso contrário ∑= ≠= n i ii xhy n herr 1 )( 1 )( Acurácia ( acc(h) ) Complemento da Taxa de Erro, representa a Precisão do Classificador. )(1)( herrhacc −= Aprendizado de Máquina: Definições
17 Distribuição de Classes ( distr(Cj) ) Para cada Classe Cj, sua distribuição distr(Cj) é calculada como sendo o número de exemplos em T que possuem classe Cj dividido pelo número total de exemplos ( n ), ou seja, a proporção de exemplos em cada classe ∑= == n i jij Cy n Cdistr 1 1 )( Exemplo: Conjunto com 100 Exemplos: 60 Classe C1 15 Classe C2 25 Classe C3 distr (C1, C2, C3) = (60%, 15%, 25%) Neste exemplo, Classe Majoritária (ou Prevalente) é C1. Classe Minoritária é C2. Aprendizado de Máquina: Definições
18 Erro Majoritário ( maj-err(T) ) Limite Máximo abaixo do qual o erro de um Classificador deve ficar )(max1)( ,...1 i ki CdistrTerrmaj = −=− No Exemplo anterior: maj-err(T) = 1 - 0,60 = 0,40 Erro Majoritário INDEPENDEINDEPENDE do algoritmo de aprendizado. Aprendizado de Máquina: Definições
19 Prevalência de Classe Problema com desbalanceamento de classes em conjunto de exemplos. Exemplo: distr (C1, C2) = (99,75%, 0,25%) Neste exemplo, Classe Majoritária (ou Prevalente) é C1 Classe Minoritária é C2 Classificador que classifique novos exemplos como C1 teria uma precisão de 99,75%. Se a Classe C2 fosse, por exemplo, ocorrência de Geada ... Aprendizado de Máquina: Definições
20 “Overfitting” • É possível que o Classificador faça uma indução muito específica para o conjunto de treinamento utilizado (“Overfitting”). • Como este é apenas uma amostra de dados, é possível que a indução tenha bom desempenho no conjunto de treinamento, mas um desempenho ruim em exemplos diferentes daqueles pertencentes ao conjunto de treinamento. • Cálculo do Erro em um conjunto de teste independente evidencia a situação de “Overfitting”. • Under e overfitting: ajusta-se em muito pouco ou em excesso ao conjunto de treinamento. Aprendizado de Máquina: Definições
21 O que é classificação? Dado um conjunto de registros (dataset): Cada registro contém um conjunto de atributos, em que um dos atributos é o atributo-meta (variável resposta). O conjunto de dados é dividido em dois subconjuntos: conjunto de treinamento para construir o modelo e conjunto de teste para validar o modelo. Passo 1: encontrar um modelo para o atributo- meta (ou atributo-classe) como uma função dos valores dos outros atributos. Passo 2: registros não conhecidos devem ser associados à classe com a maior precisão possível.
22 O que é classificação? ... Aplicação do Modelo Indução Dedução Criação do Modelo Modelo Tid Atrib1 Atrib2 Atrib3 Class 1 Yes Large 125K No 2 No Medium 100K No 3 No Small 70K No 4 Yes Medium 120K No 5 No Large 95K Yes 6 No Medium 60K No 7 Yes Large 220K No 8 No Small 85K Yes 9 No Medium 75K No 10 No Small 90K Yes 10 Tid Attrib1 Attrib2 Attrib3 Class 11 No Small 55K ? 12 Yes Medium 80K ? 13 Yes Large 110K ? 14 No Small 95K ? 15 No Large 67K ? 10 Conjunto de Teste usado algoritmo Conjunto de treinamento
23 • Qualidade do Exemplo de Treinamento →→→→→→→→ Qualidade das Regras. • Não é possível descobrir algo que não esteja nos exemplos. • Seleção dos exemplos e das características é fundamental neste processo. • Daí a importância do conhecimento e da experiência do Especialista. Observação Importante
24 Classificação: Aplicações Classificar tumores como benigno ou maligno. Classificar transações de cartão de crédito como legítima ou fraudulenta. Classificar estruturas secundárias de proteínas como alpha-helix, beta-sheet ou random coil. Avaliar riscos de empréstimos, previsão de tempo, etc. Sistema de alerta de geada. Previsão de mortalidade de frangos, etc.
25 Características de um bom classificador Precisão Velocidade Tempo para construir o modelo. Tempo para usar o modelo. Robustez Capacidade de lidar com ruídos e valores faltantes (missing). Escalabilidade Eficiência em banco de dados residentes em disco. Interpretabilidade Clareza fornecida pelo modelo. Relevância na seleção de regras Tamanho da árvore de decisão. Regras de classificação compactas.
Árvores de Decisão
27 Árvore de Decisão Árvore de decisão Um fluxograma com a estrutura de uma árvore. Nó interno representa um testes sobre um atributo. Cada ramo representa um resultado do teste. Folhas representam as classes. A geração de uma árvore consiste de duas fases: Construção da árvore Particionamento de atributos (best fit). Fase da poda (Tree pruning). Identifica e remove ramos que refletem ruídos ou outliers. Uso da árvore: Classificação de amostras desconhecidas Testa os valores dos atributos da amostra “contra” a árvore.
28 Paciente se sente bem? Paciente tem dor? Temperatura do Paciente S N N S Saudável Doente Doente Saudável <= 37 > 37 Árvore de Decisão – Exemplo
29 Geração de regras Se paciente se sente bem = sim então classe = saudável fim se. Se paciente se sente bem = não e paciente tem dor = sim então classe = doente fim se. ... Árvore de Decisão – Exemplo ...
30 Exemplo: Condições do tempo para Jogar Tênis. Árvore de Decisão – Exemplo ...
31 Árvore de Decisão – Exemplo ...
32 Árvore de Decisão – Exemplo ...
33 Árvore de Decisão – Exemplo ...
34 Árvore de Decisão – Exemplo ...
35 Árvore de Decisão – Exemplo ...
36 Algoritmos para árvores de decisão Algoritmo Básico (algoritmo guloso) A árvore é construída recursivamente no sentido top-down (divisão para conquista). No início, todas as amostras estão na raiz. Os atributos são nominais (se numéricos, eles são discretizados). Amostras são particionadas recursivamente com base nos atributos selecionados. Atributos “testes” são selecionados com base em heurísticas ou medidas estatísticas (ex., ganho de informação) [ID3 / C4.5] Condições de parada do particionamento Todas as amostras de um nó pertencem a mesma classe. Não existem mais atributos para particionamento. Não existem mais amostras no conjunto de treinamento.
37 Determinando o tamanho da árvore As seguintes abordagens podem ser usadas: Divisão do dataset: conjunto de treinamento (2/3) e conjunto de teste (1/3) – Percentage split. Uso de validação cruzada (10-fold cross validation). Uso de conjunto de teste extra (Supplied test set). Uso de todo o dataset para treinamento Aplicação de um teste estatístico (ex:, qui-quadrado) para estimar se expandindo ou podado um nó pode melhorar a distribuição total.
38 PODA • Técnica para lidar com ruído e “Overfitting” • Pré-Poda: Durante a geração da Hipótese. • Alguns exemplos de treinamento são deliberadamente ignorados. • Pós-Poda: Inicialmente, é gerada um Classificador que explique os exemplos. • Após isso, elimina-se algumas partes (cortes em ramos da árvore) generalizando a Hipótese. Árvore de Decisão: Poda
39 400 5 40 20 300 Árvore de Decisão: Poda ...
40 Árvore de Decisão: Poda ...
41 COMPLETUDE E CONSISTÊNCIA •• COMPLETUDECOMPLETUDE: Se a Hipótese gerada pelo Classificador classifica TODOSTODOS os exemplos. •• CONSISTÊNCIACONSISTÊNCIA: Se a Hipótese gerada pelo Classificador classifica CORRETAMENTECORRETAMENTE os exemplos. • Uma Hipótese gerada pelo Classificador pode ser: • Completa e Consistente. • Incompleta e Consistente. • Completa e Inconsistente. • Incompleta e Inconsistente. Completude e Consistência
42 COMPLETO e CONSISTENTECOMPLETO e CONSISTENTE Completude e Consistência ...
43 INCOMPLETO e CONSISTENTEINCOMPLETO e CONSISTENTE Completude e Consistência ...
44 COMPLETO eCOMPLETO e ININCONSISTENTECONSISTENTE Completude e Consistência ...
45 INCOMPLETO e INCONSISTENTEINCOMPLETO e INCONSISTENTE Completude e Consistência ...
46 Exemplo Aparência Temperatura Umidade Ventando Viajar T1 sol 25 72 sim VAI T2 sol 28 91 sim NÃO_VAINÃO_VAI T3 sol 22 70 não VAI T4 sol 23 95 não NÃO_VAINÃO_VAI T5 sol 30 85 não NÃO_VAINÃO_VAI T6 nublado 23 90 sim VAI T7 nublado 29 78 não VAI T8 nublado 19 65 sim NÃO_VAINÃO_VAI T9 nublado 26 75 não VAI T10 nublado 20 87 sim VAI T11 chuva 22 95 não VAI T12 chuva 19 70 sim NÃO_VAINÃO_VAI T13 chuva 23 80 sim NÃO_VAINÃO_VAI T14 chuva 25 81 não VAI T15 chuva 21 80 não VAI Completude e Consistência: Exemplo
47 Exemplo Aparência Temperatura Umidade Ventando Viajar T1 sol 25 72 sim VAI T2 sol 28 91 sim NÃO_VAINÃO_VAI T3 sol 22 70 não VAI T4 sol 23 95 não NÃO_VAINÃO_VAI T5 sol 30 85 não NÃO_VAINÃO_VAI T6 nublado 23 90 sim VAI T7 nublado 29 78 não VAI T8 nublado 19 65 sim NÃO_VAINÃO_VAI T9 nublado 26 75 não VAI T10 nublado 20 87 sim VAI T11 chuva 22 95 não VAI T12 chuva 19 70 sim NÃO_VAINÃO_VAI T13 chuva 23 80 sim NÃO_VAINÃO_VAI T14 chuva 25 81 não VAI T15 chuva 21 80 não VAI Completude e Consistência: Exemplo
48 Aparência Sol Nublado Chuva 2 VAI 3 NÃO_VAI 4 VAI 1 NÃO_VAI 3 VAI 2 NÃO_VAI Completude e Consistência: Exemplo
49 Exemplo Aparência Temperatura Umidade Ventando Viajar T1 sol 25 72 sim VAI T2 sol 28 91 sim NÃO_VAINÃO_VAI T3 sol 22 70 não VAI T4 sol 23 95 não NÃO_VAINÃO_VAI T5 sol 30 85 não NÃO_VAINÃO_VAI T6 nublado 23 90 sim VAI T7 nublado 29 78 não VAI T8 nublado 19 65 sim NÃO_VAINÃO_VAI T9 nublado 26 75 não VAI T10 nublado 20 87 sim VAI T11 chuva 22 95 não VAI T12 chuva 19 70 sim NÃO_VAINÃO_VAI T13 chuva 23 80 sim NÃO_VAINÃO_VAI T14 chuva 25 81 não VAI T15 chuva 21 80 não VAI Completude e Consistência: Exemplo
50 Exemplo Aparência Temperatura Umidade Ventando Viajar T1 sol 25 72 sim VAI T2 sol 28 91 sim NÃO_VAINÃO_VAI T3 sol 22 70 não VAI T4 sol 23 95 não NÃO_VAINÃO_VAI T5 sol 30 85 não NÃO_VAINÃO_VAI T6 nublado 23 90 sim VAI T7 nublado 29 78 não VAI T8 nublado 19 65 sim NÃO_VAINÃO_VAI T9 nublado 26 75 não VAI T10 nublado 20 87 sim VAI T11 chuva 22 95 não VAI T12 chuva 19 70 sim NÃO_VAINÃO_VAI T13 chuva 23 80 sim NÃO_VAINÃO_VAI T14 chuva 25 81 não VAI T15 chuva 21 80 não VAI Completude e Consistência: Exemplo
51 Aparência Sol Nublado Chuva 3 NÃO_VAI 4 VAI 3 VAI Vento não sim Umidade < 70 > 70 Umidade < 78 > 78 2 VAI 1 NÃO_VAI 2 NÃO_VAI Completude e Consistência: Exemplo
52 Aparência Sol Nublado Chuva 3 NÃO_VAI 5 VAI 3 VAI Vento não sim Umidade < 78 > 78 2 VAI 2 NÃO_VAI Completude e Consistência: Exemplo Poda Atrib. Umidade
53 Natureza eliminatória do processo • Exemplos do conjunto de treinamento vão sendo descartados à medida que são utilizados. Isso causa um efeito importante na definição dos nós mais profundos da árvore, uma vez que o suporte estatístico para a tomada de decisão vai sendo progressivamente diminuído, colocando em dúvida a representatividade do conjunto de elementos remanescentes. • Possibilidade de utilizar recursos para descarte (“poda”) dos ramos tecnicamente menos representativos da árvore da decisão. Aspectos Importantes
54 Algoritmos mais conhecidos ID3 (Iterative Dichotomiser 3) (Quilan,1986): Um algoritmo usado para gerar árvores de decisão. Os atributos do conjunto de dados devem ser obrigatoriamente categóricos. C4.5 (J48 no Weka) (Quilan, 1993): Um algoritmo para geração de árvores de decisão, sucessor do algoritmo ID3. O algoritmo C4.5 considera atributos numéricos e categóricos. CART (Classification And Regression Trees) (Breiman et al., 1984): Técnica não-paramétrica que produz árvores de classificação ou regressão, dependendo se as variáveis são categóricas ou numéricas, respectivamente.
55 Escolha do melhor atributo “split” • Não existe solução computacionalmente viável para que se obtenha sempre a melhor árvore de decisão possível (problema NP-completo: custo de proceder buscas exaustivas da melhor solução cresce a taxas exponenciais à medida que o tamanho do conjunto de treinamento aumenta). • Utilização de heurísticas: soluções baseadas em algum tipo de conhecimento prévio sobre as propriedades dos dados, na procura de uma boa solução (mas não necessariamente a melhor). Como escolher o melhor atributo?
56 Exemplo: Conjunto de todas soluções possíveis (floresta de decisão). BUSCA EXAUSTIVABUSCA EXAUSTIVA:: Correr todo esse conjunto, comparando cada elemento, até que todos tenham sido avaliados, e selecionar a melhor solução. SOLUSOLUÇÇÃOÃO ÓÓTIMA GARANTIDA.TIMA GARANTIDA. BUSCA HEURBUSCA HEURÍÍSTICASTICA:: Procura tendenciosa na floresta, visitando apenas as soluções com mais potencial de serem boas, com base em algumas premissas previamente conhecidas. A rapidez do processo aumenta, mas é possível que a melhor solução entre todas não tenha sido encontrada, pois eventualmente pode ter ficado fora do trajeto percorrido. Como escolher o melhor atributo?
57 Como definir alguma característica sobre os dados que permita definir um critério para identificação do melhor atributo em cada nível da árvore ? Problema: Abordagem baseada na Teoria da Informação Produz grupos mais homogêneos com relação ao atributo categórico. Boa subdivisão: Classificação evidencia as linhas gerais que fazem um elemento pertencer a uma determinada classe, o que é facilitado quando se produz agrupamentos mais organizados. Idéia Atributo mais informativo sobre a lógica dos dados num determinado contexto. Melhor atributo “split” Como escolher o melhor atributo?
58 CASCA COR TAMANHO POLPA RISCO aspera marrom grande dura baixo aspera verde grande dura baixo lisa vermelho grande macia alto aspera verde grande macia baixo aspera vermelho pequena dura baixo lisa vermelho pequena dura baixo lisa marrom pequena dura baixo aspera verde pequena macia alto lisa verde pequena dura alto aspera vermelho grande dura baixo lisa marrom grande macia baixo lisa verde pequena macia alto aspera vermelho pequena macia baixo lisa vermelho grande dura alto lisa vermelho pequena dura baixo aspera verde pequena dura alto Como escolher o melhor atributo?
59 Cálculo da Entropia - log2 p ( ci | aj ) “Quantidade de informação” que aj tem a oferecer sobre a conclusão ci Entropia = Quanto menor a Entropia Menor a “dúvida” Maior a informação que aj traz sobre C Como escolher o melhor atributo? Subconjuntos mais homogêneos (grupos menos “confusos” com relação à classe). Melhor atributo “split” Inversamente proporcional ao grau de informação (valor entre 0 e 1) Conceito de Entropia (Termodinâmica):
60 ∑= −= n i ii pLogpSEntropia 1 2 )()( Onde: SS é a distribuição de probabilidade das n mensagens possíveis; pi é a probabilidade de ocorrência da i-ésima mensagem • Para o caso de um classificador construído para um problema com 2 classes possíveis (A e B), um atributo xx vai permitir dividir os dados em tantos subconjuntos SS quantos forem os seus possíveis valores. • A entropia de cada um desses subconjuntos SSkk seria calculada por: )()()( 22 BBAAk pLogppLogpSEntropia −−= Quanto mais uniforme a distribuição, maior o grau de entropia. Como escolher o melhor atributo?
61 Para o caso de um atributo xx que possa assumir três valores (por exemplo, valores inteiros entre 1 e 3), três subconjuntos de SS são formados, cada um com seu próprio grau de entropia. Pode-se avaliar a entropia em SS quando considerado o atributo xx, através da média ponderada dos graus de entropia dos subconjuntos gerados (SS11, SS22 e SS33, neste exemplo). )(),( 1 i n i i SEntropia S S SxEntropia ⋅= ∑= Ganho de Informação (“Information Gain”) devido a xx na predição da classe é determinada pela redução da entropia original de SS.. Como escolher o melhor atributo?
62 Entropia de um Atributo A com relação à Classe C Atributo com MENOR entropia é o MELHOR para determinar a Classe Como escolher o melhor atributo?
63 Consideremos o Atributo “Casca” p(baixo | aspera) = 6 / 8 p(alto | aspera) = 2 / 8 p(aspera) = 8 / 16 p(baixo | lisa) = 4 / 8 p(alto | lisa) = 4 / 8 p(lisa) = 8 / 16 Entropia para o Atributo “Casca” 0.90564 CASCA COR TAMANHO POLPA RISCO aspera marrom grande dura baixo aspera verde grande dura baixo lisa vermelho grande macia alto aspera verde grande macia baixo aspera vermelho pequena dura baixo lisa vermelho pequena dura baixo lisa marrom pequena dura baixo aspera verde pequena macia alto lisa verde pequena dura alto aspera vermelho grande dura baixo lisa marrom grande macia baixo lisa verde pequena macia alto aspera vermelho pequena macia baixo lisa vermelho grande dura alto lisa vermelho pequena dura baixo aspera verde pequena dura alto
64 Consideremos o Atributo “Cor” p(baixo | marrom) = 3 / 3 p(alto | marrom) = 0 / 3 p(marrom) = 3 / 16 p(baixo | verde) = 2 / 6 p(alto | verde) = 4 / 6 p(verde) = 6 / 16 Entropia para o Atributo “Cor” 0.721976 p(baixo | vermelho) = 5 / 7 p(alto | vermelho) = 2 / 7 p(vermelho) = 7 / 16 CASCA COR TAMANHO POLPA RISCO aspera marrom grande dura baixo aspera verde grande dura baixo lisa vermelho grande macia alto aspera verde grande macia baixo aspera vermelho pequena dura baixo lisa vermelho pequena dura baixo lisa marrom pequena dura baixo aspera verde pequena macia alto lisa verde pequena dura alto aspera vermelho grande dura baixo lisa marrom grande macia baixo lisa verde pequena macia alto aspera vermelho pequena macia baixo lisa vermelho grande dura alto lisa vermelho pequena dura baixo aspera verde pequena dura alto
65 Consideremos o Atributo “Tamanho” p(baixo | grande) = 5 / 7 p(alto | grande) = 2 / 7 p(grande) = 7 / 16 p(baixo | pequeno) = 5 / 9 p(alto | pequeno) = 4 / 9 p(pequeno) = 9 / 16 Entropia para o Atributo “Tamanho” 0.9350955 CASCA COR TAMANHO POLPA RISCO aspera marrom grande dura baixo aspera verde grande dura baixo lisa vermelho grande macia alto aspera verde grande macia baixo aspera vermelho pequena dura baixo lisa vermelho pequena dura baixo lisa marrom pequena dura baixo aspera verde pequena macia alto lisa verde pequena dura alto aspera vermelho grande dura baixo lisa marrom grande macia baixo lisa verde pequena macia alto aspera vermelho pequena macia baixo lisa vermelho grande dura alto lisa vermelho pequena dura baixo aspera verde pequena dura alto
66 Consideremos o Atributo “Polpa” p(baixo | dura) = 7 / 10 p(alto | dura) = 3 / 10 p(dura) = 10 / 16 p(baixo | macia) = 3 / 6 p(alto | macia) = 3 / 6 p(macia) = 6 / 16 Entropia para o Atributo “Polpa” 0.92581 CASCA COR TAMANHO POLPA RISCO aspera marrom grande dura baixo aspera verde grande dura baixo lisa vermelho grande macia alto aspera verde grande macia baixo aspera vermelho pequena dura baixo lisa vermelho pequena dura baixo lisa marrom pequena dura baixo aspera verde pequena macia alto lisa verde pequena dura alto aspera vermelho grande dura baixo lisa marrom grande macia baixo lisa verde pequena macia alto aspera vermelho pequena macia baixo lisa vermelho grande dura alto lisa vermelho pequena dura baixo aspera verde pequena dura alto
67 Atributo Entropia Casca 0.90564 Cor 0.721976 Tamanho 0.9350955 Polpa 0.92581 Resultados do cálculo da entropia Como “Cor” tem a menor entropia, pode-se afirmar que também tem o maior ganho de informação. Logo deve ser usado como “atributo split”.
68 Cor = marrom: baixo (3.0) Cor = verde | Tamanho = grande: baixo (2.0) | Tamanho = pequena: alto (4.0) Cor = vermelho | Tamanho = grande: alto (3.0/1.0) | Tamanho = pequena: baixo (4.0) Resultado WEKA === Confusion Matrix === a b <-- classified as 9 1 | a = baixo 0 6 | b = alto Cor verde baixo marrom Tamanho vermelho Tamanho grande pequena grande pequena baixo alto alto baixo Acurácia: 93.75 % TP Rate Class 0.9 baixo 1 alto Análise dos Resultados
69 Árvores de decisão: prós e contras Vantagens Custo computacional é baixo. Muito rápido para classificar amostras desconhecidas. Fácil de interpretar árvores de tamanho pequeno. Precisão é semelhante a de outros métodos de classificação, para muitos datasets simples. Desvantagens “Overfitting” resulta em árvores de decisão que são mais complexas do que necessárias. O treinamento do erro nem sempre produz uma boa estimativa com relação à execução da árvore para amostras desconhecidas. Necessita de novas maneiras para estimar erros.
70 EstEstáágiogio DeficiênciaDeficiência AstigmatismoAstigmatismo ProduProduçção_Lão_Láágrimagrima Recomenda_LenteRecomenda_Lente Inicial Miopia Não Baixa Nenhuma Inicial Miopia Não Normal Macia Inicial Miopia Sim Baixa Nenhuma Inicial Miopia Sim Normal Dura Inicial Hipermetropia Não Baixa Nenhuma Inicial Hipermetropia Não Normal Macia Inicial Hipermetropia Sim Baixa Nenhuma Inicial Hipermetropia Sim Normal Dura Pré-Presbiopia Miopia Não Baixa Nenhuma Pré-Presbiopia Miopia Não Normal Macia Pré-Presbiopia Miopia Sim Baixa Nenhuma Pré-Presbiopia Miopia Sim Normal Dura Pré-Presbiopia Hipermetropia Não Baixa Nenhuma Pré-Presbiopia Hipermetropia Não Normal Macia Pré-Presbiopia Hipermetropia Sim Baixa Nenhuma Pré-Presbiopia Hipermetropia Sim Normal Nenhuma Presbiopia Miopia Não Baixa Nenhuma Presbiopia Miopia Não Normal Nenhuma Presbiopia Miopia Sim Baixa Nenhuma Presbiopia Miopia Sim Normal Dura Presbiopia Hipermetropia Não Baixa Nenhuma Presbiopia Hipermetropia Não Normal Macia Presbiopia Hipermetropia Sim Baixa Nenhuma Presbiopia Hipermetropia Sim Normal Nenhuma ExercExercíício:cio: ConstruirConstruir áárvores de decisão usando J48, PART, JRIP, etc.rvores de decisão usando J48, PART, JRIP, etc.

Mais conteúdo relacionado

PDF
Introdução a Machine Learning
Morvana Bonin
 
PDF
Deep Learning e o Futuro da Inteligência Artificial
Sandro Moreira
 
PDF
Curso Inteligência Artificial - Parte 1 -
ronaldo ramos
 
PDF
Agentes Inteligentes - IA
Thiago Marinho
 
PDF
Inteligência Artificial
Lincolm Aguiar
 
PDF
Big Data, o que é isso?
Ambiente Livre
 
PDF
Introdução a Machine Learning
Sandro Moreira
 
PDF
Inteligência Artificial
Daniela França
 
Introdução a Machine Learning
Morvana Bonin
 
Deep Learning e o Futuro da Inteligência Artificial
Sandro Moreira
 
Curso Inteligência Artificial - Parte 1 -
ronaldo ramos
 
Agentes Inteligentes - IA
Thiago Marinho
 
Inteligência Artificial
Lincolm Aguiar
 
Big Data, o que é isso?
Ambiente Livre
 
Introdução a Machine Learning
Sandro Moreira
 
Inteligência Artificial
Daniela França
 

Mais procurados (20)

PPTX
Aprendizado de Máquina
butest
 
PDF
Aprendizado de máquina
parasite
 
PDF
1.Introdução Banco de Dados
vini_campos
 
PPT
Aula 5 - Modelo de Entidade e Relacionamento - MER
Vitor Hugo Melo Araújo
 
PPT
Algoritmo 04 - Estruturas de decisão
Professor Samuel Ribeiro
 
PPT
Conceitos básicos de programação orientada a objetos
Leonardo Melo Santos
 
PPTX
Conceitos Básicos Sobre Analise de Sistemas
Clayton de Almeida Souza
 
PDF
Aula 1 - Introdução a POO
Daniel Brandão
 
PPTX
Pensamento computacional
Filipe T. Moreira
 
PPTX
Aula 4 banco de dados
Jorge Ávila Miranda
 
PDF
Aula1 - Apresentação de Banco de Dados
Rafael Albani
 
PDF
Banco de Dados I - Aula 03 - Conceitos de Sistemas de Banco de Dados
Leinylson Fontinele
 
PPTX
Aula 7 banco de dados
Jorge Ávila Miranda
 
PDF
Mer - Modelo Entidade Relacionamento
Rademaker Siena
 
PDF
Java orientação a objetos (associacao, composicao, agregacao)
Armando Daniel
 
PPTX
Normas e Padrões para a Qualidade de Software
Danilo Sousa
 
PDF
Introdução à linguagem UML
Nécio de Lima Veras
 
PPTX
Inteligência Artificial
NEO Empresarial
 
PDF
Banco de Dados I - Aula 05 - Banco de Dados Relacional (Modelo Conceitual)
Leinylson Fontinele
 
PPTX
Algoritmos - Pseudocódigo
Elaine Cecília Gatto
 
Aprendizado de Máquina
butest
 
Aprendizado de máquina
parasite
 
1.Introdução Banco de Dados
vini_campos
 
Aula 5 - Modelo de Entidade e Relacionamento - MER
Vitor Hugo Melo Araújo
 
Algoritmo 04 - Estruturas de decisão
Professor Samuel Ribeiro
 
Conceitos básicos de programação orientada a objetos
Leonardo Melo Santos
 
Conceitos Básicos Sobre Analise de Sistemas
Clayton de Almeida Souza
 
Aula 1 - Introdução a POO
Daniel Brandão
 
Pensamento computacional
Filipe T. Moreira
 
Aula 4 banco de dados
Jorge Ávila Miranda
 
Aula1 - Apresentação de Banco de Dados
Rafael Albani
 
Banco de Dados I - Aula 03 - Conceitos de Sistemas de Banco de Dados
Leinylson Fontinele
 
Aula 7 banco de dados
Jorge Ávila Miranda
 
Mer - Modelo Entidade Relacionamento
Rademaker Siena
 
Java orientação a objetos (associacao, composicao, agregacao)
Armando Daniel
 
Normas e Padrões para a Qualidade de Software
Danilo Sousa
 
Introdução à linguagem UML
Nécio de Lima Veras
 
Inteligência Artificial
NEO Empresarial
 
Banco de Dados I - Aula 05 - Banco de Dados Relacional (Modelo Conceitual)
Leinylson Fontinele
 
Algoritmos - Pseudocódigo
Elaine Cecília Gatto
 
Anúncio

Semelhante a Introdução à Aprendizagem de Máquina (20)

PPT
Introdução a Aprendizado de maquina (ML)
ApebNetherlands
 
PDF
Guia completo para definição de estatística de modelos e algoritmos de machin...
Geanderson Lenz
 
PPTX
Machine Learning e Artificial Intelligence para desenvolvedores .NET
Renato Haddad
 
PDF
Ci171 intro
ProfDheiverSantos
 
PPTX
AlfaCon LABs - Meetup Machine Learning (03/07/2014)
Labs Alfacon
 
PPTX
Introducao a Aprendizado de Máquina - UFPE
luizfelipemz
 
PDF
Inteligencia Artificial e Aprendizado de Máquina
Gefferson Figueiredo Marcos
 
PPTX
Aprendizagem Supervisionada I
Luís Nunes
 
PDF
Aprendizagem de máquina aplicada na neurociência
Walter Hugo Lopez Pinaya
 
PDF
Apresentção sobre machine learning, IA, inteligencia artificial
ElberOliveira6
 
PDF
[José Ahirton Lopes] Treinamento - Árvores de Decisão, SVM e Naive Bayes
Ahirton Lopes
 
ODP
Big data
Pedro Bonifácio Costa
 
PDF
[DTC21] Raphael Castilho - Começando com Inteligência Artificial e Machine Le...
Deep Tech Brasil
 
PDF
Machine Learning com Python e Scikit-learn
Christian Perone
 
PDF
Aula rotulação automática - Automatic tagging
Felipe
 
PDF
Machine learning - O que é isso?
Vinicius Mesel
 
PDF
CLASSIFICAÇÃO E PREDIÇÃOapostia de IA inteligencia artifivial com expicaçao e...
anpproferick
 
PDF
Hierarquia de modelos e Aprendizagem de Máquina - Pós Graduação em Big Data
Fabrício Barth
 
PDF
Aprendizagem de maquina, apresentação para estudar
ElberOliveira6
 
PPTX
Aprendizagem Automática
butest
 
Introdução a Aprendizado de maquina (ML)
ApebNetherlands
 
Guia completo para definição de estatística de modelos e algoritmos de machin...
Geanderson Lenz
 
Machine Learning e Artificial Intelligence para desenvolvedores .NET
Renato Haddad
 
Ci171 intro
ProfDheiverSantos
 
AlfaCon LABs - Meetup Machine Learning (03/07/2014)
Labs Alfacon
 
Introducao a Aprendizado de Máquina - UFPE
luizfelipemz
 
Inteligencia Artificial e Aprendizado de Máquina
Gefferson Figueiredo Marcos
 
Aprendizagem Supervisionada I
Luís Nunes
 
Aprendizagem de máquina aplicada na neurociência
Walter Hugo Lopez Pinaya
 
Apresentção sobre machine learning, IA, inteligencia artificial
ElberOliveira6
 
[José Ahirton Lopes] Treinamento - Árvores de Decisão, SVM e Naive Bayes
Ahirton Lopes
 
Big data
Pedro Bonifácio Costa
 
[DTC21] Raphael Castilho - Começando com Inteligência Artificial e Machine Le...
Deep Tech Brasil
 
Machine Learning com Python e Scikit-learn
Christian Perone
 
Aula rotulação automática - Automatic tagging
Felipe
 
Machine learning - O que é isso?
Vinicius Mesel
 
CLASSIFICAÇÃO E PREDIÇÃOapostia de IA inteligencia artifivial com expicaçao e...
anpproferick
 
Hierarquia de modelos e Aprendizagem de Máquina - Pós Graduação em Big Data
Fabrício Barth
 
Aprendizagem de maquina, apresentação para estudar
ElberOliveira6
 
Aprendizagem Automática
butest
 
Anúncio

Mais de Fernando Palma (20)

PDF
CRM Gerenciamento Do Relacionamento Com Clientes | Prof. Francisco Alves | C...
Fernando Palma
 
PDF
Formação em ciência de dados
Fernando Palma
 
PDF
Apostila de Introdução ao Arduino
Fernando Palma
 
PDF
Apostila Arduino Basico
Fernando Palma
 
PDF
Cartilha Segurança na Internet - CERT.br
Fernando Palma
 
PDF
Ebook Apache Server: Guia Introdutório
Fernando Palma
 
PDF
Apostila Zend Framework
Fernando Palma
 
PDF
Hacker Ético
Fernando Palma
 
PDF
Ebook Governança de TI na Prática
Fernando Palma
 
PDF
Simulado ITIL Foundation - Questões Comentadas
Fernando Palma
 
DOC
PDTI - Plano Diretor de Tecnologia da Informação (modelo)
Fernando Palma
 
PDF
Guia Salarial 2017 Robert Half Brasil
Fernando Palma
 
PDF
Tutorial memcached
Fernando Palma
 
PDF
Gerenciamento na nuvem e System Center
Fernando Palma
 
PDF
SAN: Storage Area Network
Fernando Palma
 
PDF
Linguagem ABAP
Fernando Palma
 
PDF
Ebook ITIL Na Prática
Fernando Palma
 
PDF
Exemplo de Plano Estratégico de TI - MEC
Fernando Palma
 
PDF
Apostila Tutorial CakePHP
Fernando Palma
 
PDF
Internet Das Coisas Trabalho Acadêmico
Fernando Palma
 
CRM Gerenciamento Do Relacionamento Com Clientes | Prof. Francisco Alves | C...
Fernando Palma
 
Formação em ciência de dados
Fernando Palma
 
Apostila de Introdução ao Arduino
Fernando Palma
 
Apostila Arduino Basico
Fernando Palma
 
Cartilha Segurança na Internet - CERT.br
Fernando Palma
 
Ebook Apache Server: Guia Introdutório
Fernando Palma
 
Apostila Zend Framework
Fernando Palma
 
Hacker Ético
Fernando Palma
 
Ebook Governança de TI na Prática
Fernando Palma
 
Simulado ITIL Foundation - Questões Comentadas
Fernando Palma
 
PDTI - Plano Diretor de Tecnologia da Informação (modelo)
Fernando Palma
 
Guia Salarial 2017 Robert Half Brasil
Fernando Palma
 
Tutorial memcached
Fernando Palma
 
Gerenciamento na nuvem e System Center
Fernando Palma
 
SAN: Storage Area Network
Fernando Palma
 
Linguagem ABAP
Fernando Palma
 
Ebook ITIL Na Prática
Fernando Palma
 
Exemplo de Plano Estratégico de TI - MEC
Fernando Palma
 
Apostila Tutorial CakePHP
Fernando Palma
 
Internet Das Coisas Trabalho Acadêmico
Fernando Palma
 

Último (20)

PPTX
Curso de Java 16 - (JEE (Utilizando o Padrão MVC)).pptx
Anderson Maciel
 
PPTX
21 - Lógica de Programação com Portugol.pptx
Anderson Maciel
 
PPTX
Aula16ManipulaçãoDadosssssssssssssssssssssssssssss
srvfrf
 
PPTX
Curso de Java 14 - (Explicações Adicionais (Classes Abstrata e Interface)).pptx
Anderson Maciel
 
PPTX
Curso de Java 15 - (Uso de Servlets (Entendendo a Estrutura)).pptx
Anderson Maciel
 
PPTX
Sistemas de Teconologias da Informação em Saúde.pptx
fabriciolabgeo91411
 
PDF
tutor eletronico para seguranca de bebes e criancas
matheusjosesilva934
 
PPTX
Aula sobre desenvolvimento de aplicativos
FelipeRosa69
 
PPTX
Programação - Linguagem C - Variáveis, Palavras Reservadas, tipos de dados, c...
verdepiedade
 
PPTX
Curso de Java 8 - (Tratamento de Exceções, (try-catch-finally)).pptx
Anderson Maciel
 
PPTX
Curso de Java 7 - (ArrayList, Collections,(Set, List, Queue, Map)).pptx
Anderson Maciel
 
PPTX
Curso de Java 10 - (IO Manipulação de Arquivos).pptx
Anderson Maciel
 
PPTX
Curso de Java 13 - (JavaEE (JSP e Servlets)).pptx
Anderson Maciel
 
PPTX
Curso de Java 9 - (Threads) Multitarefas.pptx
Anderson Maciel
 
PPTX
Aula 18 - Manipulacao De Arquivos python
srvfrf
 
PPTX
Curso de Java 12 - (JDBC, Transation, Commit e Rollback).pptx
Anderson Maciel
 
PPTX
Émile Durkheim slide elaborado muito bom
matheusfodamatheusfo
 
PPTX
Curso de Java 5 - (Strings) Tipo de Dados.pptx
Anderson Maciel
 
PPTX
22 - Lógica de Programação com Portugol.pptx
Anderson Maciel
 
PPTX
Curso de Java 6 - (Números, Data e Hora).pptx
Anderson Maciel
 
Curso de Java 16 - (JEE (Utilizando o Padrão MVC)).pptx
Anderson Maciel
 
21 - Lógica de Programação com Portugol.pptx
Anderson Maciel
 
Aula16ManipulaçãoDadosssssssssssssssssssssssssssss
srvfrf
 
Curso de Java 14 - (Explicações Adicionais (Classes Abstrata e Interface)).pptx
Anderson Maciel
 
Curso de Java 15 - (Uso de Servlets (Entendendo a Estrutura)).pptx
Anderson Maciel
 
Sistemas de Teconologias da Informação em Saúde.pptx
fabriciolabgeo91411
 
tutor eletronico para seguranca de bebes e criancas
matheusjosesilva934
 
Aula sobre desenvolvimento de aplicativos
FelipeRosa69
 
Programação - Linguagem C - Variáveis, Palavras Reservadas, tipos de dados, c...
verdepiedade
 
Curso de Java 8 - (Tratamento de Exceções, (try-catch-finally)).pptx
Anderson Maciel
 
Curso de Java 7 - (ArrayList, Collections,(Set, List, Queue, Map)).pptx
Anderson Maciel
 
Curso de Java 10 - (IO Manipulação de Arquivos).pptx
Anderson Maciel
 
Curso de Java 13 - (JavaEE (JSP e Servlets)).pptx
Anderson Maciel
 
Curso de Java 9 - (Threads) Multitarefas.pptx
Anderson Maciel
 
Aula 18 - Manipulacao De Arquivos python
srvfrf
 
Curso de Java 12 - (JDBC, Transation, Commit e Rollback).pptx
Anderson Maciel
 
Émile Durkheim slide elaborado muito bom
matheusfodamatheusfo
 
Curso de Java 5 - (Strings) Tipo de Dados.pptx
Anderson Maciel
 
22 - Lógica de Programação com Portugol.pptx
Anderson Maciel
 
Curso de Java 6 - (Números, Data e Hora).pptx
Anderson Maciel
 

Introdução à Aprendizagem de Máquina

  • 1. Introdução à Aprendizagem de Máquina Stanley R. M. Oliveira Aprendizado de Máquina (Machine Learning)
  • 2. 2 Resumo da Aula Sistemas Híbridos Inteligentes. Aprendizado de Máquina: Conceitos. Hierarquiza do aprendizado. Paradigmas. Classificação de Dados: Processo de classificação. Características de um bom classificador. Principais métodos de classificação. Principais algoritmos existentes. Árvores de Decisão: Conceitos básicos. Algoritmos mais conhecidos. Mecanismos de poda. Escolha do atributo “split”.
  • 3. 3 Introdução Aquisição do conhecimento Aprendizado de máquina Redes Neurais Lógica FuzzyAlgoritmos Genéticos Mineração de Dados Mineração de Textos Sistemas Especialistas Sistemas Inteligentes Híbridos Técnicas-chave em Inteligência Artificial (IA) Mineração de Dados Conhecimento
  • 4. 4 Introdução Árvore de Decisão Redes Neurais Lógica Fuzzy Algoritmos genéticos Clusterização Associação Classificação MD + IA Integração Redes bayesianas Classificação
  • 5. 5 Aprendizado de Máquina Conceitos de aprendizado de máquina Sistemas de IA Armazenar conhecimento ⇒ Representação Aplicar conhecimento para resolver problemas Raciocínio (mecanismo de inferência) Adquirir novos conhecimentos ⇒ Aprendizagem
  • 6. 6 Aprendizado de Máquina ... O que é Aprendizado de Máquina? É uma área de IA cujo objetivo é o desenvolvimento de técnicas computacionais sobre o aprendizado bem como a construção de sistemas capazes de adquirir conhecimento de forma automática. Um sistema de aprendizado é um programa de computador que toma decisões baseado em experiências acumuladas por meio de solução bem sucedida de problemas anteriores. É uma ferramenta poderosa para aquisição automática de conhecimento, entretanto, não existe um único algoritmo que apresente melhor desempenho para todos problemas.
  • 7. 7 Indução: é a forma de inferência lógica que permite obter conclusões a partir de um conjunto de exemplos. Na indução, um conceito é aprendido efetuando-se inferência indutiva sobre os exemplos apresentados (cautela na escolha de exemplos). Dedução: Humanos usam raciocínio dedutivo para deduzir nova informação a partir de informação relacionada logicamente. Aprendizado de Máquina ...
  • 9. 9 Classificação Versus Clusterização Aprendizado supervisionado (classificação) Supervisão: As observações no conjunto de treinamento são acompanhadas por “labels” indicando a classe a que elas pertencem. Novas ocorrências são classificadas com base no conjunto de treinamento. Aprendizado não-supervisionado (clusterização) Não existe classe pré-definida para nenhum dos atributos. Um conjunto de observações é dado com o propósito de se estabelecer a existência das classes ou clusters.
  • 10. 10 Hierarquia do aprendizado Aprendizado Indutivo: É efetuado a partir de exemplos externos ao sistema de aprendizado. Aprendizado Supervisionado: Construir um classificador (indutor) que possa determinar a classe de novos exemplos a partir de exemplos treinamento com classe rotulada. Classificação: Rótulos para valores discretos. Regressão: Rótulos para valores contínuos. Aprendizado Não-Supervisionado: O indutor analisa os exemplos e tenta determinar se alguns deles podem ser agrupados de alguma maneira, formando agrupamentos ou clusters. Aprendizado de Máquina ...
  • 11. 11 Hierarquia do aprendizado Processo de Classificação Especificação do problema X1 x2 ... Xm Y T1 T2 . . . Tn x11 x12 ... x1m x21 x22 ... x2m . . . . . . xn1 xn2 xnm y1 y2 . . . yn Dados brutos Aprendizado de máquina ClassificadorAtributos Meta Especialista Avaliação Conhecimento do domínio Conhecimento do domínio Aprendizado de Máquina ...
  • 12. 12 Paradigmas do aprendizado: Simbólico: Buscam aprender construindo representações simbólicas (expressão lógica, árvores de decisão regras). Estatístico: Buscam métodos estatísticos (Aprendizado bayesiano) Baseado em Exemplos: Sistemas lazy (RBC, Nearest Neighboors). Conexionista: Modelos inspirados no modelo biológico do sistema nervoso (Redes Neurais). Evolutivo: Teoria de Darwin (Algoritmos Genéticos). Aprendizado de Máquina ...
  • 13. 13 Algumas Definições em AM Conjunto de exemplos: é um conjunto de exemplos contendo valores de atributos bem como a classe associada. X1 x2 ... Xm Y T1 T2 . . . Tn x11 x12 ... x1m x21 x22 ... x2m . . . . . . xn1 xn2 xnm y1 y2 . . . yn Atributos Classe Indutor Hipótese Descrição de conceito Classificador Aprendizado de Máquina: Definições
  • 14. 14 Algumas Definições em AM Indutor: programa de aprendizado ou algoritmo de indução que visa extrair um bom classificador a partir de um conjunto de exemplos rotulados. Exemplo: caso, dado ou registro. Atributo: descreve uma característica ou aspecto de um exemplo. Classe (Atributo-Meta): atributo especial no qual se pretende aprender a fazer previsões a respeito. Aprendizado de Máquina: Definições
  • 15. 15 Algumas Definições em AM Bias: qualquer preferência de uma hipótese sobre a outra. Modo de aprendizado: todo conjunto de treinamento presente no aprendizado (não incremental). quando novos exemplos de treinamento são adicionados (incremental). Aprendizado de Máquina: Definições
  • 16. 16 Erro ( err(h) ) Medida de desempenho de um Classificador. Considerando E = 1 se a expressão for verdadeira 0, caso contrário ∑= ≠= n i ii xhy n herr 1 )( 1 )( Acurácia ( acc(h) ) Complemento da Taxa de Erro, representa a Precisão do Classificador. )(1)( herrhacc −= Aprendizado de Máquina: Definições
  • 17. 17 Distribuição de Classes ( distr(Cj) ) Para cada Classe Cj, sua distribuição distr(Cj) é calculada como sendo o número de exemplos em T que possuem classe Cj dividido pelo número total de exemplos ( n ), ou seja, a proporção de exemplos em cada classe ∑= == n i jij Cy n Cdistr 1 1 )( Exemplo: Conjunto com 100 Exemplos: 60 Classe C1 15 Classe C2 25 Classe C3 distr (C1, C2, C3) = (60%, 15%, 25%) Neste exemplo, Classe Majoritária (ou Prevalente) é C1. Classe Minoritária é C2. Aprendizado de Máquina: Definições
  • 18. 18 Erro Majoritário ( maj-err(T) ) Limite Máximo abaixo do qual o erro de um Classificador deve ficar )(max1)( ,...1 i ki CdistrTerrmaj = −=− No Exemplo anterior: maj-err(T) = 1 - 0,60 = 0,40 Erro Majoritário INDEPENDEINDEPENDE do algoritmo de aprendizado. Aprendizado de Máquina: Definições
  • 19. 19 Prevalência de Classe Problema com desbalanceamento de classes em conjunto de exemplos. Exemplo: distr (C1, C2) = (99,75%, 0,25%) Neste exemplo, Classe Majoritária (ou Prevalente) é C1 Classe Minoritária é C2 Classificador que classifique novos exemplos como C1 teria uma precisão de 99,75%. Se a Classe C2 fosse, por exemplo, ocorrência de Geada ... Aprendizado de Máquina: Definições
  • 20. 20 “Overfitting” • É possível que o Classificador faça uma indução muito específica para o conjunto de treinamento utilizado (“Overfitting”). • Como este é apenas uma amostra de dados, é possível que a indução tenha bom desempenho no conjunto de treinamento, mas um desempenho ruim em exemplos diferentes daqueles pertencentes ao conjunto de treinamento. • Cálculo do Erro em um conjunto de teste independente evidencia a situação de “Overfitting”. • Under e overfitting: ajusta-se em muito pouco ou em excesso ao conjunto de treinamento. Aprendizado de Máquina: Definições
  • 21. 21 O que é classificação? Dado um conjunto de registros (dataset): Cada registro contém um conjunto de atributos, em que um dos atributos é o atributo-meta (variável resposta). O conjunto de dados é dividido em dois subconjuntos: conjunto de treinamento para construir o modelo e conjunto de teste para validar o modelo. Passo 1: encontrar um modelo para o atributo- meta (ou atributo-classe) como uma função dos valores dos outros atributos. Passo 2: registros não conhecidos devem ser associados à classe com a maior precisão possível.
  • 22. 22 O que é classificação? ... Aplicação do Modelo Indução Dedução Criação do Modelo Modelo Tid Atrib1 Atrib2 Atrib3 Class 1 Yes Large 125K No 2 No Medium 100K No 3 No Small 70K No 4 Yes Medium 120K No 5 No Large 95K Yes 6 No Medium 60K No 7 Yes Large 220K No 8 No Small 85K Yes 9 No Medium 75K No 10 No Small 90K Yes 10 Tid Attrib1 Attrib2 Attrib3 Class 11 No Small 55K ? 12 Yes Medium 80K ? 13 Yes Large 110K ? 14 No Small 95K ? 15 No Large 67K ? 10 Conjunto de Teste usado algoritmo Conjunto de treinamento
  • 23. 23 • Qualidade do Exemplo de Treinamento →→→→→→→→ Qualidade das Regras. • Não é possível descobrir algo que não esteja nos exemplos. • Seleção dos exemplos e das características é fundamental neste processo. • Daí a importância do conhecimento e da experiência do Especialista. Observação Importante
  • 24. 24 Classificação: Aplicações Classificar tumores como benigno ou maligno. Classificar transações de cartão de crédito como legítima ou fraudulenta. Classificar estruturas secundárias de proteínas como alpha-helix, beta-sheet ou random coil. Avaliar riscos de empréstimos, previsão de tempo, etc. Sistema de alerta de geada. Previsão de mortalidade de frangos, etc.
  • 25. 25 Características de um bom classificador Precisão Velocidade Tempo para construir o modelo. Tempo para usar o modelo. Robustez Capacidade de lidar com ruídos e valores faltantes (missing). Escalabilidade Eficiência em banco de dados residentes em disco. Interpretabilidade Clareza fornecida pelo modelo. Relevância na seleção de regras Tamanho da árvore de decisão. Regras de classificação compactas.
  • 27. 27 Árvore de Decisão Árvore de decisão Um fluxograma com a estrutura de uma árvore. Nó interno representa um testes sobre um atributo. Cada ramo representa um resultado do teste. Folhas representam as classes. A geração de uma árvore consiste de duas fases: Construção da árvore Particionamento de atributos (best fit). Fase da poda (Tree pruning). Identifica e remove ramos que refletem ruídos ou outliers. Uso da árvore: Classificação de amostras desconhecidas Testa os valores dos atributos da amostra “contra” a árvore.
  • 28. 28 Paciente se sente bem? Paciente tem dor? Temperatura do Paciente S N N S Saudável Doente Doente Saudável <= 37 > 37 Árvore de Decisão – Exemplo
  • 29. 29 Geração de regras Se paciente se sente bem = sim então classe = saudável fim se. Se paciente se sente bem = não e paciente tem dor = sim então classe = doente fim se. ... Árvore de Decisão – Exemplo ...
  • 30. 30 Exemplo: Condições do tempo para Jogar Tênis. Árvore de Decisão – Exemplo ...
  • 31. 31 Árvore de Decisão – Exemplo ...
  • 32. 32 Árvore de Decisão – Exemplo ...
  • 33. 33 Árvore de Decisão – Exemplo ...
  • 34. 34 Árvore de Decisão – Exemplo ...
  • 35. 35 Árvore de Decisão – Exemplo ...
  • 36. 36 Algoritmos para árvores de decisão Algoritmo Básico (algoritmo guloso) A árvore é construída recursivamente no sentido top-down (divisão para conquista). No início, todas as amostras estão na raiz. Os atributos são nominais (se numéricos, eles são discretizados). Amostras são particionadas recursivamente com base nos atributos selecionados. Atributos “testes” são selecionados com base em heurísticas ou medidas estatísticas (ex., ganho de informação) [ID3 / C4.5] Condições de parada do particionamento Todas as amostras de um nó pertencem a mesma classe. Não existem mais atributos para particionamento. Não existem mais amostras no conjunto de treinamento.
  • 37. 37 Determinando o tamanho da árvore As seguintes abordagens podem ser usadas: Divisão do dataset: conjunto de treinamento (2/3) e conjunto de teste (1/3) – Percentage split. Uso de validação cruzada (10-fold cross validation). Uso de conjunto de teste extra (Supplied test set). Uso de todo o dataset para treinamento Aplicação de um teste estatístico (ex:, qui-quadrado) para estimar se expandindo ou podado um nó pode melhorar a distribuição total.
  • 38. 38 PODA • Técnica para lidar com ruído e “Overfitting” • Pré-Poda: Durante a geração da Hipótese. • Alguns exemplos de treinamento são deliberadamente ignorados. • Pós-Poda: Inicialmente, é gerada um Classificador que explique os exemplos. • Após isso, elimina-se algumas partes (cortes em ramos da árvore) generalizando a Hipótese. Árvore de Decisão: Poda
  • 39. 39 400 5 40 20 300 Árvore de Decisão: Poda ...
  • 41. 41 COMPLETUDE E CONSISTÊNCIA •• COMPLETUDECOMPLETUDE: Se a Hipótese gerada pelo Classificador classifica TODOSTODOS os exemplos. •• CONSISTÊNCIACONSISTÊNCIA: Se a Hipótese gerada pelo Classificador classifica CORRETAMENTECORRETAMENTE os exemplos. • Uma Hipótese gerada pelo Classificador pode ser: • Completa e Consistente. • Incompleta e Consistente. • Completa e Inconsistente. • Incompleta e Inconsistente. Completude e Consistência
  • 42. 42 COMPLETO e CONSISTENTECOMPLETO e CONSISTENTE Completude e Consistência ...
  • 43. 43 INCOMPLETO e CONSISTENTEINCOMPLETO e CONSISTENTE Completude e Consistência ...
  • 44. 44 COMPLETO eCOMPLETO e ININCONSISTENTECONSISTENTE Completude e Consistência ...
  • 45. 45 INCOMPLETO e INCONSISTENTEINCOMPLETO e INCONSISTENTE Completude e Consistência ...
  • 46. 46 Exemplo Aparência Temperatura Umidade Ventando Viajar T1 sol 25 72 sim VAI T2 sol 28 91 sim NÃO_VAINÃO_VAI T3 sol 22 70 não VAI T4 sol 23 95 não NÃO_VAINÃO_VAI T5 sol 30 85 não NÃO_VAINÃO_VAI T6 nublado 23 90 sim VAI T7 nublado 29 78 não VAI T8 nublado 19 65 sim NÃO_VAINÃO_VAI T9 nublado 26 75 não VAI T10 nublado 20 87 sim VAI T11 chuva 22 95 não VAI T12 chuva 19 70 sim NÃO_VAINÃO_VAI T13 chuva 23 80 sim NÃO_VAINÃO_VAI T14 chuva 25 81 não VAI T15 chuva 21 80 não VAI Completude e Consistência: Exemplo
  • 47. 47 Exemplo Aparência Temperatura Umidade Ventando Viajar T1 sol 25 72 sim VAI T2 sol 28 91 sim NÃO_VAINÃO_VAI T3 sol 22 70 não VAI T4 sol 23 95 não NÃO_VAINÃO_VAI T5 sol 30 85 não NÃO_VAINÃO_VAI T6 nublado 23 90 sim VAI T7 nublado 29 78 não VAI T8 nublado 19 65 sim NÃO_VAINÃO_VAI T9 nublado 26 75 não VAI T10 nublado 20 87 sim VAI T11 chuva 22 95 não VAI T12 chuva 19 70 sim NÃO_VAINÃO_VAI T13 chuva 23 80 sim NÃO_VAINÃO_VAI T14 chuva 25 81 não VAI T15 chuva 21 80 não VAI Completude e Consistência: Exemplo
  • 48. 48 Aparência Sol Nublado Chuva 2 VAI 3 NÃO_VAI 4 VAI 1 NÃO_VAI 3 VAI 2 NÃO_VAI Completude e Consistência: Exemplo
  • 49. 49 Exemplo Aparência Temperatura Umidade Ventando Viajar T1 sol 25 72 sim VAI T2 sol 28 91 sim NÃO_VAINÃO_VAI T3 sol 22 70 não VAI T4 sol 23 95 não NÃO_VAINÃO_VAI T5 sol 30 85 não NÃO_VAINÃO_VAI T6 nublado 23 90 sim VAI T7 nublado 29 78 não VAI T8 nublado 19 65 sim NÃO_VAINÃO_VAI T9 nublado 26 75 não VAI T10 nublado 20 87 sim VAI T11 chuva 22 95 não VAI T12 chuva 19 70 sim NÃO_VAINÃO_VAI T13 chuva 23 80 sim NÃO_VAINÃO_VAI T14 chuva 25 81 não VAI T15 chuva 21 80 não VAI Completude e Consistência: Exemplo
  • 50. 50 Exemplo Aparência Temperatura Umidade Ventando Viajar T1 sol 25 72 sim VAI T2 sol 28 91 sim NÃO_VAINÃO_VAI T3 sol 22 70 não VAI T4 sol 23 95 não NÃO_VAINÃO_VAI T5 sol 30 85 não NÃO_VAINÃO_VAI T6 nublado 23 90 sim VAI T7 nublado 29 78 não VAI T8 nublado 19 65 sim NÃO_VAINÃO_VAI T9 nublado 26 75 não VAI T10 nublado 20 87 sim VAI T11 chuva 22 95 não VAI T12 chuva 19 70 sim NÃO_VAINÃO_VAI T13 chuva 23 80 sim NÃO_VAINÃO_VAI T14 chuva 25 81 não VAI T15 chuva 21 80 não VAI Completude e Consistência: Exemplo
  • 51. 51 Aparência Sol Nublado Chuva 3 NÃO_VAI 4 VAI 3 VAI Vento não sim Umidade < 70 > 70 Umidade < 78 > 78 2 VAI 1 NÃO_VAI 2 NÃO_VAI Completude e Consistência: Exemplo
  • 52. 52 Aparência Sol Nublado Chuva 3 NÃO_VAI 5 VAI 3 VAI Vento não sim Umidade < 78 > 78 2 VAI 2 NÃO_VAI Completude e Consistência: Exemplo Poda Atrib. Umidade
  • 53. 53 Natureza eliminatória do processo • Exemplos do conjunto de treinamento vão sendo descartados à medida que são utilizados. Isso causa um efeito importante na definição dos nós mais profundos da árvore, uma vez que o suporte estatístico para a tomada de decisão vai sendo progressivamente diminuído, colocando em dúvida a representatividade do conjunto de elementos remanescentes. • Possibilidade de utilizar recursos para descarte (“poda”) dos ramos tecnicamente menos representativos da árvore da decisão. Aspectos Importantes
  • 54. 54 Algoritmos mais conhecidos ID3 (Iterative Dichotomiser 3) (Quilan,1986): Um algoritmo usado para gerar árvores de decisão. Os atributos do conjunto de dados devem ser obrigatoriamente categóricos. C4.5 (J48 no Weka) (Quilan, 1993): Um algoritmo para geração de árvores de decisão, sucessor do algoritmo ID3. O algoritmo C4.5 considera atributos numéricos e categóricos. CART (Classification And Regression Trees) (Breiman et al., 1984): Técnica não-paramétrica que produz árvores de classificação ou regressão, dependendo se as variáveis são categóricas ou numéricas, respectivamente.
  • 55. 55 Escolha do melhor atributo “split” • Não existe solução computacionalmente viável para que se obtenha sempre a melhor árvore de decisão possível (problema NP-completo: custo de proceder buscas exaustivas da melhor solução cresce a taxas exponenciais à medida que o tamanho do conjunto de treinamento aumenta). • Utilização de heurísticas: soluções baseadas em algum tipo de conhecimento prévio sobre as propriedades dos dados, na procura de uma boa solução (mas não necessariamente a melhor). Como escolher o melhor atributo?
  • 56. 56 Exemplo: Conjunto de todas soluções possíveis (floresta de decisão). BUSCA EXAUSTIVABUSCA EXAUSTIVA:: Correr todo esse conjunto, comparando cada elemento, até que todos tenham sido avaliados, e selecionar a melhor solução. SOLUSOLUÇÇÃOÃO ÓÓTIMA GARANTIDA.TIMA GARANTIDA. BUSCA HEURBUSCA HEURÍÍSTICASTICA:: Procura tendenciosa na floresta, visitando apenas as soluções com mais potencial de serem boas, com base em algumas premissas previamente conhecidas. A rapidez do processo aumenta, mas é possível que a melhor solução entre todas não tenha sido encontrada, pois eventualmente pode ter ficado fora do trajeto percorrido. Como escolher o melhor atributo?
  • 57. 57 Como definir alguma característica sobre os dados que permita definir um critério para identificação do melhor atributo em cada nível da árvore ? Problema: Abordagem baseada na Teoria da Informação Produz grupos mais homogêneos com relação ao atributo categórico. Boa subdivisão: Classificação evidencia as linhas gerais que fazem um elemento pertencer a uma determinada classe, o que é facilitado quando se produz agrupamentos mais organizados. Idéia Atributo mais informativo sobre a lógica dos dados num determinado contexto. Melhor atributo “split” Como escolher o melhor atributo?
  • 58. 58 CASCA COR TAMANHO POLPA RISCO aspera marrom grande dura baixo aspera verde grande dura baixo lisa vermelho grande macia alto aspera verde grande macia baixo aspera vermelho pequena dura baixo lisa vermelho pequena dura baixo lisa marrom pequena dura baixo aspera verde pequena macia alto lisa verde pequena dura alto aspera vermelho grande dura baixo lisa marrom grande macia baixo lisa verde pequena macia alto aspera vermelho pequena macia baixo lisa vermelho grande dura alto lisa vermelho pequena dura baixo aspera verde pequena dura alto Como escolher o melhor atributo?
  • 59. 59 Cálculo da Entropia - log2 p ( ci | aj ) “Quantidade de informação” que aj tem a oferecer sobre a conclusão ci Entropia = Quanto menor a Entropia Menor a “dúvida” Maior a informação que aj traz sobre C Como escolher o melhor atributo? Subconjuntos mais homogêneos (grupos menos “confusos” com relação à classe). Melhor atributo “split” Inversamente proporcional ao grau de informação (valor entre 0 e 1) Conceito de Entropia (Termodinâmica):
  • 60. 60 ∑= −= n i ii pLogpSEntropia 1 2 )()( Onde: SS é a distribuição de probabilidade das n mensagens possíveis; pi é a probabilidade de ocorrência da i-ésima mensagem • Para o caso de um classificador construído para um problema com 2 classes possíveis (A e B), um atributo xx vai permitir dividir os dados em tantos subconjuntos SS quantos forem os seus possíveis valores. • A entropia de cada um desses subconjuntos SSkk seria calculada por: )()()( 22 BBAAk pLogppLogpSEntropia −−= Quanto mais uniforme a distribuição, maior o grau de entropia. Como escolher o melhor atributo?
  • 61. 61 Para o caso de um atributo xx que possa assumir três valores (por exemplo, valores inteiros entre 1 e 3), três subconjuntos de SS são formados, cada um com seu próprio grau de entropia. Pode-se avaliar a entropia em SS quando considerado o atributo xx, através da média ponderada dos graus de entropia dos subconjuntos gerados (SS11, SS22 e SS33, neste exemplo). )(),( 1 i n i i SEntropia S S SxEntropia ⋅= ∑= Ganho de Informação (“Information Gain”) devido a xx na predição da classe é determinada pela redução da entropia original de SS.. Como escolher o melhor atributo?
  • 62. 62 Entropia de um Atributo A com relação à Classe C Atributo com MENOR entropia é o MELHOR para determinar a Classe Como escolher o melhor atributo?
  • 63. 63 Consideremos o Atributo “Casca” p(baixo | aspera) = 6 / 8 p(alto | aspera) = 2 / 8 p(aspera) = 8 / 16 p(baixo | lisa) = 4 / 8 p(alto | lisa) = 4 / 8 p(lisa) = 8 / 16 Entropia para o Atributo “Casca” 0.90564 CASCA COR TAMANHO POLPA RISCO aspera marrom grande dura baixo aspera verde grande dura baixo lisa vermelho grande macia alto aspera verde grande macia baixo aspera vermelho pequena dura baixo lisa vermelho pequena dura baixo lisa marrom pequena dura baixo aspera verde pequena macia alto lisa verde pequena dura alto aspera vermelho grande dura baixo lisa marrom grande macia baixo lisa verde pequena macia alto aspera vermelho pequena macia baixo lisa vermelho grande dura alto lisa vermelho pequena dura baixo aspera verde pequena dura alto
  • 64. 64 Consideremos o Atributo “Cor” p(baixo | marrom) = 3 / 3 p(alto | marrom) = 0 / 3 p(marrom) = 3 / 16 p(baixo | verde) = 2 / 6 p(alto | verde) = 4 / 6 p(verde) = 6 / 16 Entropia para o Atributo “Cor” 0.721976 p(baixo | vermelho) = 5 / 7 p(alto | vermelho) = 2 / 7 p(vermelho) = 7 / 16 CASCA COR TAMANHO POLPA RISCO aspera marrom grande dura baixo aspera verde grande dura baixo lisa vermelho grande macia alto aspera verde grande macia baixo aspera vermelho pequena dura baixo lisa vermelho pequena dura baixo lisa marrom pequena dura baixo aspera verde pequena macia alto lisa verde pequena dura alto aspera vermelho grande dura baixo lisa marrom grande macia baixo lisa verde pequena macia alto aspera vermelho pequena macia baixo lisa vermelho grande dura alto lisa vermelho pequena dura baixo aspera verde pequena dura alto
  • 65. 65 Consideremos o Atributo “Tamanho” p(baixo | grande) = 5 / 7 p(alto | grande) = 2 / 7 p(grande) = 7 / 16 p(baixo | pequeno) = 5 / 9 p(alto | pequeno) = 4 / 9 p(pequeno) = 9 / 16 Entropia para o Atributo “Tamanho” 0.9350955 CASCA COR TAMANHO POLPA RISCO aspera marrom grande dura baixo aspera verde grande dura baixo lisa vermelho grande macia alto aspera verde grande macia baixo aspera vermelho pequena dura baixo lisa vermelho pequena dura baixo lisa marrom pequena dura baixo aspera verde pequena macia alto lisa verde pequena dura alto aspera vermelho grande dura baixo lisa marrom grande macia baixo lisa verde pequena macia alto aspera vermelho pequena macia baixo lisa vermelho grande dura alto lisa vermelho pequena dura baixo aspera verde pequena dura alto
  • 66. 66 Consideremos o Atributo “Polpa” p(baixo | dura) = 7 / 10 p(alto | dura) = 3 / 10 p(dura) = 10 / 16 p(baixo | macia) = 3 / 6 p(alto | macia) = 3 / 6 p(macia) = 6 / 16 Entropia para o Atributo “Polpa” 0.92581 CASCA COR TAMANHO POLPA RISCO aspera marrom grande dura baixo aspera verde grande dura baixo lisa vermelho grande macia alto aspera verde grande macia baixo aspera vermelho pequena dura baixo lisa vermelho pequena dura baixo lisa marrom pequena dura baixo aspera verde pequena macia alto lisa verde pequena dura alto aspera vermelho grande dura baixo lisa marrom grande macia baixo lisa verde pequena macia alto aspera vermelho pequena macia baixo lisa vermelho grande dura alto lisa vermelho pequena dura baixo aspera verde pequena dura alto
  • 67. 67 Atributo Entropia Casca 0.90564 Cor 0.721976 Tamanho 0.9350955 Polpa 0.92581 Resultados do cálculo da entropia Como “Cor” tem a menor entropia, pode-se afirmar que também tem o maior ganho de informação. Logo deve ser usado como “atributo split”.
  • 68. 68 Cor = marrom: baixo (3.0) Cor = verde | Tamanho = grande: baixo (2.0) | Tamanho = pequena: alto (4.0) Cor = vermelho | Tamanho = grande: alto (3.0/1.0) | Tamanho = pequena: baixo (4.0) Resultado WEKA === Confusion Matrix === a b <-- classified as 9 1 | a = baixo 0 6 | b = alto Cor verde baixo marrom Tamanho vermelho Tamanho grande pequena grande pequena baixo alto alto baixo Acurácia: 93.75 % TP Rate Class 0.9 baixo 1 alto Análise dos Resultados
  • 69. 69 Árvores de decisão: prós e contras Vantagens Custo computacional é baixo. Muito rápido para classificar amostras desconhecidas. Fácil de interpretar árvores de tamanho pequeno. Precisão é semelhante a de outros métodos de classificação, para muitos datasets simples. Desvantagens “Overfitting” resulta em árvores de decisão que são mais complexas do que necessárias. O treinamento do erro nem sempre produz uma boa estimativa com relação à execução da árvore para amostras desconhecidas. Necessita de novas maneiras para estimar erros.
  • 70. 70 EstEstáágiogio DeficiênciaDeficiência AstigmatismoAstigmatismo ProduProduçção_Lão_Láágrimagrima Recomenda_LenteRecomenda_Lente Inicial Miopia Não Baixa Nenhuma Inicial Miopia Não Normal Macia Inicial Miopia Sim Baixa Nenhuma Inicial Miopia Sim Normal Dura Inicial Hipermetropia Não Baixa Nenhuma Inicial Hipermetropia Não Normal Macia Inicial Hipermetropia Sim Baixa Nenhuma Inicial Hipermetropia Sim Normal Dura Pré-Presbiopia Miopia Não Baixa Nenhuma Pré-Presbiopia Miopia Não Normal Macia Pré-Presbiopia Miopia Sim Baixa Nenhuma Pré-Presbiopia Miopia Sim Normal Dura Pré-Presbiopia Hipermetropia Não Baixa Nenhuma Pré-Presbiopia Hipermetropia Não Normal Macia Pré-Presbiopia Hipermetropia Sim Baixa Nenhuma Pré-Presbiopia Hipermetropia Sim Normal Nenhuma Presbiopia Miopia Não Baixa Nenhuma Presbiopia Miopia Não Normal Nenhuma Presbiopia Miopia Sim Baixa Nenhuma Presbiopia Miopia Sim Normal Dura Presbiopia Hipermetropia Não Baixa Nenhuma Presbiopia Hipermetropia Não Normal Macia Presbiopia Hipermetropia Sim Baixa Nenhuma Presbiopia Hipermetropia Sim Normal Nenhuma ExercExercíício:cio: ConstruirConstruir áárvores de decisão usando J48, PART, JRIP, etc.rvores de decisão usando J48, PART, JRIP, etc.