Stochastické metody propojující neuronové sítě s náhodnými lesy a jejich využití v analýze medicínských dat

Abstract

Tato práce se zabývá možnou kombinací náhodných rozhodovacích lesů a neuronových sítí, která by dala vzniknout hybridním klasiťikátorům s velkým klasiťikačním potenciálem, využívajících předností obou těchto základních modelů. V práci jsou navrženy čtyři hybridní klasiťikátory, obecně nazývány jako náhodné neuronové lesy, které jsou vytvořeny na základě transformace rozhodovacího stromu na ekvivalentní dopřednou neuronovou sít. Všechny teoretické náležitosti jsou v práci důkladně popsány a schopnost klasiťikace náhodných neuronových lesů je testována na velkém množství klasiťikačních úloh. Důležitou součástí je také analýza parametrů náhodných neuronových lesů a zkoumání jejich vlivu na kvalitu klasiťikace. Závěry jsou podpořeny experimentálně jak na veřejných datových sadách, tak na uměle vytvořených testovacích sadách. Náhodné neuronové lesy jsou mimo jiné testovány na reálné datové sadě zahrnující medicínské záznamy získávané projektem LUCAS. Výstupy experimentů naznačily lepší klasiťikační schopnost náhodných neuronových lesů než u jiných testovaných modelů.

This thesis is focused on the potential combination of random forest classiťiers and feedforward neural networks into hybrid classiťiers, which could beneťit from the valuable properties of these two popular machine learning algorithms and could thus possess a strong classiťication ability. We propose four diťferent hybrid classiťiers, generally called neural random forests, which are created on the basis of transformation of a single decision tree into an equivalent feedforward neural network. We provide substantial theoretical background of related domains and verify the classiťication power of neural random forests on numerous classiťication tasks. Moreover, we analyze the eťfect of neural random forest parameters on the overall performance and support the conclusions by evaluating and comparing the performance on public and toy datasets. Additionally, the performance is tested on a real-world dataset, consisting of medical data collected by the LUCAS project. The vast majority of experiments suggested the superiority of the proposed neural random forest models among all tested models.