Show simple item record

Rules extraction from deep neural networks

dc.contributor.advisorHoleňa Martin
dc.contributor.authorMatěj Fanta
dc.date.accessioned2019-06-18T07:51:39Z
dc.date.available2019-06-18T07:51:39Z
dc.date.issued2019-06-13
dc.identifierKOS-784266065405
dc.identifier.urihttp://hdl.handle.net/10467/83326
dc.description.abstractOd konce osmdesátýchlet, kdy byla objevena univerzální aproximační vlastnost umělých neuronových sítí, tj. schopnost aproximovat vztah nebo závislost s libovolnou přesností, bylo její úplné vysvětlení skryto v čistě numerické reprezentaci, kterou neuronové sítě využívají pro vyjádření příslušných vztahů a závislostí, avšak tato reprezentace je lidem málo srozumitelná. Většina pokusů, jak snížit nesrozumitelnost, spočívá v použití metod, které na základš neuronové sítě vytvoří pravidla daného tvaru v dané formální logice, přičemž taková pravidla jsou pro člověka obecně vnímána jako srozumitelná. Od té doby bylo představeno několik desítek takových metod, které se lišily v různých aspektech. Díky rozličnosti a také blízkého vztahu sémantiky získaných pravidel ke zkoumané úloze, se nikdy žádná z metod extrakce pravidel nestala standardem a je vždy nutné vybrat vhodnou metodu pro konkrétní úlohu. V této práci jsou použity metody extrakce pravidel z neuronových sítí na multimediální data, která jsou velmi důležitá a navíc velmi složitá. Tato práce zahrnuje tři vybrané metody extrakce pravidel z neuronových sítí, které jsou použity na řešení problému klasifikace rozpoznaného textu a řeči, které mají velký počet příznaků, a také jsou aplikovány na populární dataset MNIST. Výsledky uvažovaných metod na zmíněných datasetech jsou porovnány s použitím statistické analýzy.cze
dc.description.abstractSince the universal approximation property of artificial neural networks was discovered in the late 1980s, i.e., their capability to arbitrarily well approximate nearly arbitrary relationships and dependences, a full exploitation of this property has been always hindered by the very low human-comprehensibility of the purely numerical representation that neural networks use for such relationships and dependences. The mainstream of attempts to mitigate that incomprehensibility are methods extracting, from the neural-network representation of relationships and dependences, several kinds of rules of some formal logic, which are in general viewed as human-comprehensible. Many dozens of such methods have already been proposed since the 1980s, differing in a number of diverse aspects. Due to that diversity, and also due to a close connection of the semantics of extracted rules to the respective application domain, no rules extraction methods have ever become a standard, and it is always necessary to select a suitable method for the considered domain. Here, rules extraction from trained neural networks are employed for multimedia data, which is an increasingly important but also increasingly complex kind of data. Three particular rules extraction methods are considered and applied to the recognized text modality and the speech acoustic modality of the data, the latter with three increasingly large subsets of features, as well as to the popular MNIST dataset. A detailed comparison of the performance of the considered methods on those datasets is presented, and a statistical analysis of the obtained results is performed.eng
dc.publisherČeské vysoké učení technické v Praze. Vypočetní a informační centrum.cze
dc.publisherCzech Technical University in Prague. Computing and Information Centre.eng
dc.rightsA university thesis is a work protected by the Copyright Act. Extracts, copies and transcripts of the thesis are allowed for personal use only and at one?s own expense. The use of thesis should be in compliance with the Copyright Act http://www.mkcr.cz/assets/autorske-pravo/01-3982006.pdf and the citation ethics http://knihovny.cvut.cz/vychova/vskp.html.eng
dc.rightsVysokoškolská závěrečná práce je dílo chráněné autorským zákonem. Je možné pořizovat z něj na své náklady a pro svoji osobní potřebu výpisy, opisy a rozmnoženiny. Jeho využití musí být v souladu s autorským zákonem http://www.mkcr.cz/assets/autorske-pravo/01-3982006.pdf a citační etikou http://knihovny.cvut.cz/vychova/vskp.html.cze
dc.subjectstrojové učenícze
dc.subjectklasifikacecze
dc.subjecthluboké neuronové sítěcze
dc.subjectextrakce pravidelcze
dc.subjectrozhodovací stromycze
dc.subjectmachine learningeng
dc.subjectclassificationeng
dc.subjectdeep neural networkseng
dc.subjectrule extractioneng
dc.subjectdecision treeseng
dc.titleExktrakce pravidel z hlubokých neuronových sítícze
dc.titleRules extraction from deep neural networkseng
dc.typeMAGISTERSKÁ PRÁCEcze
dc.typeMASTER'S THESISeng
dc.contributor.refereeGemrot Jakub
theses.degree.disciplineMatematická informatikacze
theses.degree.grantorkatedra matematikycze
theses.degree.programmeAplikace přírodních vědcze


Files in this item

FilesSizeFormatView

There are no files associated with this item.

This item appears in the following Collection(s)

Show simple item record