Uso e estabilidade de seletores de variáveis baseados nos pesos de conexão de redes neurais artificiais

Página do item simplificado
dc.contributor.advisor1Barbosa, Rommel Melgaço
dc.contributor.advisor1Latteshttp://lattes.cnpq.br/6228227125338610pt_BR
dc.contributor.referee1Barbosa, Rommel Melgaço
dc.contributor.referee2Lima, Márcio Dias de
dc.contributor.referee3Lins, Isis Didier
dc.contributor.referee4Costa, Ronaldo Martins da
dc.contributor.referee5Leitão Júnior, Plínio de Sá
dc.creatorCosta, Nattane Luíza da
dc.creator.Latteshttp://lattes.cnpq.br/9968129748669015pt_BR
dc.date.accessioned2021-05-27T13:28:22Z
dc.date.available2021-05-27T13:28:22Z
dc.date.issued2021-03-19
dc.description.abstractArtificial Neural Networks (ANN) are machine learning models used to solve problems in several research fields. Although, ANNs are often considered “black boxes”, which means that these models cannot be interpreted, as they do not provide explanatory information. Connection Weight Based Feature Selectors (WBFS) have been proposed to extract knowledge from ANNs. Most of studies that have been using these algorithms are based on just one ANN model. However, there are variations in the ANN connection weight values due to the initialization and training, and consequently, leading to variations in the importance ranking generated by a WBFS. In this context, this thesis presents a study about the WBFS. First, a new voting approach is proposed to assess the stability of the WBFS, i.e, the variation in the result of the WBFS. Then, we evaluated the stability of the algorithms based on multilayer perceptron (MLP) and extreme learning machines (ELM). Furthermore, an improvement is proposed in the algorithms of Garson, Olden, and Yoon, combining them with the feature selector ReliefF. The new algorithms are called FSGR, FSOR, and FSYR. The experiments were performed based on 28 MLP architectures, 16 ELM architectures, and 16 data sets from the UCI Machine Learning Repository. The results show that there is a significant difference in WBFS stability depending on the training parameters of the ANNs and depending on the WBFS used. In addition, the proposed algorithms proved to be more effective than the classic algorithms. As far as we know, this study was the first attempt to measure the stability of WBFS, to investigate the effects of different ANN training parameters on the stability of WBFS, and the first to propose a combination of WBFS with another feature selector. Besides, the results provide information about the benefits and limitations of WBFS and represent a starting point for improving the stability of these algorithms.eng
dc.description.provenanceSubmitted by Franciele Moreira (francielemoreyra@gmail.com) on 2021-05-26T18:11:30Z No. of bitstreams: 2 license_rdf: 805 bytes, checksum: 4460e5956bc1d1639be9ae6146a50347 (MD5) Tese - Nattane Luíza da Costa - 2021.pdf: 2785561 bytes, checksum: d29e283892397e024e286b14d240560d (MD5)en
dc.description.provenanceApproved for entry into archive by Luciana Ferreira (lucgeral@gmail.com) on 2021-05-27T13:28:22Z (GMT) No. of bitstreams: 2 license_rdf: 805 bytes, checksum: 4460e5956bc1d1639be9ae6146a50347 (MD5) Tese - Nattane Luíza da Costa - 2021.pdf: 2785561 bytes, checksum: d29e283892397e024e286b14d240560d (MD5)en
dc.description.provenanceMade available in DSpace on 2021-05-27T13:28:22Z (GMT). No. of bitstreams: 2 license_rdf: 805 bytes, checksum: 4460e5956bc1d1639be9ae6146a50347 (MD5) Tese - Nattane Luíza da Costa - 2021.pdf: 2785561 bytes, checksum: d29e283892397e024e286b14d240560d (MD5) Previous issue date: 2021-03-19en
dc.description.resumoRedes Neurais Artificiais (RNA) são modelos de aprendizado de máquina usados para a modelagem de problemas em vários campos de pesquisa. Contudo, as RNAs são frequentemente consideradas como “caixas pretas”, o que significa que esses modelos não podem ser interpretados, pois não fornecem informações explicativas. Os seletores de variáveis com base nos pesos de conexão (Weight Based feature selectors - WBFS) foram propostos para de extrair conhecimento das RNAs por meio de um ranking de importância das variáveis de entrada em relação à saída da rede. Grande parte das aplicações que utilizam esses algoritmos se baseiam em apenas um modelo de RNA. No entanto, existe uma variação nos valores dos pesos de conexão de RNAs treinadas em diferentes momentos de inicialização dos pesos e em razão do treinamento da rede, ocorrendo assim, uma variação no ranking de importância de um mesmo conjunto de dados. Neste contexto, esta tese apresenta um estudo sobre os WBFS. Primeiro, propomos uma nova abordagem de votação para avaliar a estabilidade dos WBFS, ou seja, a variação obtida ao gerar rankings de importância por meio de muitos modelos de RNA. Em seguida, avaliamos a estabilidade dos WBFS com base em multilayer perceptron (MLP) e extreme learning machines (ELM). Ademais, propomos uma melhoria nos WBFS de Garson, Olden e de Yoon, combinando-os com o seletor de variáveis ReliefF, denominados FSGR, FSOR e FSYR. Os experimentos foram realizados com base em 28 arquiteturas MLP, 16 arquiteturas ELM e 16 conjuntos de dados do repositório UCI. Os resultados mostram que há uma diferença significativa na estabilidade WBFS dependendo dos parâmetros de treinamento das RNAs e a depender do WBFS utilizado. Os algoritmos propostos se demonstraram mais eficazes do que os algoritmos clássicos. Até onde sabemos, este estudo foi a primeira tentativa de medir a estabilidade dos WBFS, de investigar os efeitos dos parâmetros da RNA na estabilidade do WBFS e o primeiro a propor uma combinação de WBFS com outro seletor de variáveis. Além disso, os resultados fornecem informações sobre os benefícios e as limitações dos WBFS e representam um ponto de partida para melhorar a estabilidade desses algoritmos.pt_BR
dc.identifier.citationCOSTA, N. L. Uso e estabilidade de seletores de variáveis baseados nos pesos de conexão de redes neurais artificiais. 2021. 175 f. Tese (Doutorado em Ciência da Computação) - Universidade Federal de Goiás, Goiânia, 2021.pt_BR
dc.identifier.urihttp://repositorio.bc.ufg.br/tede/handle/tede/11396
dc.languageporpt_BR
dc.publisherUniversidade Federal de Goiáspt_BR
dc.publisher.countryBrasilpt_BR
dc.publisher.departmentInstituto de Informática - INF (RG)pt_BR
dc.publisher.initialsUFGpt_BR
dc.publisher.programPrograma de Pós-graduação em Ciência da Computação (INF)pt_BR
dc.rightsAttribution-NonCommercial-NoDerivatives 4.0 International*
dc.rights.urihttp://creativecommons.org/licenses/by-nc-nd/4.0/*
dc.subjectRedes neurais artificiaispor
dc.subjectSeleção de variáveispor
dc.subjectPesos de conexãopor
dc.subjectEstabilidadepor
dc.subjectRanking de importânciapor
dc.subjectArtificial neural networkeng
dc.subjectFeature selectioneng
dc.subjectConnection weightseng
dc.subjectStabilityeng
dc.subject.cnpqCIENCIAS EXATAS E DA TERRA::CIENCIA DA COMPUTACAO::SISTEMAS DE COMPUTACAOpt_BR
dc.titleUso e estabilidade de seletores de variáveis baseados nos pesos de conexão de redes neurais artificiaispt_BR
dc.title.alternativeThe use and stability of feature selectors based on artificial neural network connection weightseng
dc.typeTesept_BR

Arquivos

Pacote Original
Agora exibindo 1 - 1 de 1
Nenhuma Miniatura disponível
Nome:
Tese - Nattane Luíza da Costa - 2021.pdf
Tamanho:
2.66 MB
Formato:
Adobe Portable Document Format
Descrição:
Baixar
Licença do Pacote
Agora exibindo 1 - 1 de 1
Nenhuma Miniatura disponível
Nome:
license.txt
Tamanho:
1.71 KB
Formato:
Item-specific license agreed upon to submission
Descrição:
Baixar

Coleções

Doutorado em Ciência da Computação