Zvyšování rozmanitosti slabých klasifikátorů ve složených klasifikátorech pomocí příznakových grafů

Abstract

Jedním z běžných problémů strojového učení na datech genové exprese je nedostatek vzorků --- tyto datasety mají obvykle několik desítek tisíc atributů ale v nejlepším případě jen několik desítek vzorků, navíc, vzorky získané pomocí technologie microarray obsahují velké množství šumu. Z těchto důvodu modely postavené výhradně z naměřených dat obvykle trpí přeučením. Jednou možnou metodou řešící problém přeučení je použití apriorní znalosti k regularizaci. Tato práce analyzuje metodu network-constrained forest (NCF) navrženou Andělem a Klémou a dále předkládá zobecnění této metody používající jiné typy slabých klasifikátorů. Navržená metode je analyzována z pohledu diverzity a přesnosti na několika datasetech. Navíc, tato práce empiricky testuje teoretickou konvergenci NCF pro zvyšující se délky náhodné procházky použíté pro vzorkování atributů.

One of the common problems in machine learning from gene expression data is the scarcity of samples --- these datasets usually have around tens of thousands of features but only several dozens of samples at best. Moreover, samples obtained using microarray technology are often very noisy. Therefore models built solely from measured data often suffer from overfitting. One of possible methods dealing with overfitting is to use prior knowledge for regularization. This work analyzes network-constrained forest (NCF) method proposed by Anděl and Kléma and proposes generalization of this method using other types of weak classifiers. The proposed method is analysed in terms of diversity and accuracy over several datasets. Moreover, this work empirically tests proposed convergence of NCF for increasing length of random walk used for feature sampling.