Výběr vhodných typů relací pro algoritmy strojového učení na grafech

Abstract

V této závěrečné práci zkoumám souvislost mezi strukturou grafu a výkonem grafových algorithmů pro úlohu vyhledávání uzlů se specifickou vlastností. Hlavním cílem je identifikovat strukturální vlastnosti, které přispívají k lepším výsledkům a mohou být použity pro výběr vhodných typů relací při stavbě grafu. Výzkum probíhá na soukromém datasetu síťové komunikace poskytnutém společností Cisco a na volně dostupných grafových datasetech. Představuji nový přístup k vyhodnocování důležitých strukturálních vlastnostní na grafech. Metoda využívá "meta-model" pro regresi využívající strukturální vlastnosti grafu jako příznaky a výsledek výkonnostní metriky algorithmu jako predikovanou hodnotu. Strukturální vlastnosti jsou navrženy podle odborné literatury a zároveň zavádím novou definici matice záměn orienovanou na hrany při úkolu vyhledávání uzlů cílové třídy. Experimentální vyhodnocení naznačuje, že důležité grafové vlastnosti se liší napříč datsety, algoritmy a metrikami výkonu. Zajímavým uplatněním navrhovaného přístupu je vyhledávání hyperparametrů, kde dosahujeme povzbudivých výsledků které by mohly mít za následek snížení náročnosti optimalizace hyperparametrů pro algoritmy strojového učení na grafech. Tato aplikace ale vyžaduje další výzkum, aby mohly být stanoveny hranice aplikace a její teoretický základ. Navzdory svým limitacím tato práce přispívá oblasti strojového učení na grafech zavedením nové metody vysvětlování a určování důležitosti strukturálních grafových vlastností. V budoucnu bych se rád zaměřil na normalizaci grafových vlastností, zlepšení analýzy výsledků důležitosti vlastnostní a důkladnější prozkoumání aplikace této metody pro hledání hyperparametrů.

This thesis explores the connection between graph structure and the performance of graph algorithms in retrieval task. The main goal is to identify structural features that contribute to better performance and can be used to select relevant relation types. The research is conducted on private datset of network flows provided by Cisco and public graph datasets. A novel approach is introduced for evaluating the importance of structural features on graphs. This method uses a regression meta-model on datapoints consisting of graph features and task performance obtained using the studied graph machine learning algorithm. The thesis studies multiple graph features, and proposes a novel definition of an edge-based confusion matrix for retrieval tasks on a graph. Experimental results indicate that important graph features vary across datasets, algorithms and performance metrics. An additional application of the proposed approach is shown in accelerating hyperparameter search, which shows promising results but requires further research to provide theoretical boundaries. Despite its limitations, this work contributes to the field of graph machine learning by providing a more comprehensive and explainable approach for evaluating the importance of graph features. Future work should focus on normalizing graph features, refining feature importance analysis, and conducting a thorough investigation of the hyperparameter search application.